Large language models for artificial general intelligence (AGI): A survey of foundational principles and approaches

[2501.03151] Large language models for artificial general intelligence (AGI): A survey of foundational principles and approaches

https://arxiv.org/abs/2501.03151

人工一般知能（AGI）に関する大規模言語モデルの調査

最近の研究では、大規模言語モデル（LLM）が人工一般知能（AGI）の実現に向けた重要な要素として注目されています。特に、LLMは自然言語処理の分野での進展を通じて、AGIの基礎的な原則とアプローチを探求するための強力なツールとされています。

知識の統合: LLMは、大量のテキストデータから学習し、さまざまな知識を統合する能力を持っています。これにより、異なる分野の情報を結びつけ、より広範な理解を得ることが可能です。
自己学習能力: LLMは、与えられたデータから自己学習し、時間とともにそのパフォーマンスを向上させることができます。この特性は、AGIの実現に向けた重要な要素です。
適応性: LLMは、異なるタスクや状況に応じて適応する能力を持ち、これにより多様な問題解決が可能になります。

トランスフォーマーモデル: LLMの多くはトランスフォーマーアーキテクチャに基づいており、これにより大規模なデータセットからの効率的な学習が実現されています。トランスフォーマーは、文脈を考慮した情報処理を行うため、自然言語の理解に優れています。
強化学習: 一部の研究では、強化学習を用いてLLMの能力を向上させるアプローチが取られています。これにより、モデルはフィードバックを受け取りながら自己改善を行うことができます。
マルチモーダル学習: LLMは、テキストだけでなく、画像や音声などの他のデータ形式とも統合することで、より豊かな理解を得ることができます。これにより、AGIの実現に向けた新たな可能性が開かれています。

このように、LLMはAGIの実現に向けた基礎的な原則とアプローチを提供しており、今後の研究が期待されています1 2 3。

AGIの実現には、LLMが直面するいくつかの基礎的な問題を解決する必要があります。これには、以下のような概念が含まれます。

具現化（Embodiment）: LLMは、物理的な存在を持たないため、環境との相互作用が制限されています。具現化は、知能が環境と相互作用し、経験を通じて学ぶ能力を指します。これにより、LLMはより人間に近い認知能力を持つことが期待されます。
シンボルの基盤（Symbol Grounding）: LLMは、抽象的な概念を現実世界の具体的な対象に結びつける能力が不足しています。シンボルの基盤は、言語的な表現が実際の経験や物理的な現象とどのように関連しているかを理解するための重要な要素です。
因果関係（Causality）: LLMは、因果関係を理解する能力が限られています。因果関係の理解は、複雑な現象を予測し、適切な行動を選択するために不可欠です。
記憶（Memory）: LLMは、過去の経験を保持し、将来のタスクに活用する能力が必要です。記憶は、学習した知識を蓄積し、再利用するための基盤となります。

これらの問題に対処するための研究が進められており、LLMがAGIに向けて進化するための鍵となるでしょう1 2 3。