LLMに欠けている「エピソード記憶」
現在の生成AIは、文章の作成、情報の整理、プログラミング、調査、業務の自動化など、さまざまな作業を高い水準でこなせるようになりました。その能力だけを見れば、AIに仕事を任せ、人間は結果だけを確認すればよい時代が近づいているようにも見えます。
しかし、現在のAIには、人間なら当然持っている重要な能力が欠けています。
それは、過去の経験を記憶し、目の前の状況に関係する出来事を思い出し、その経験を現在の判断に反映する能力です。
この問題を理解すると、現在のAIに長期的な仕事や重要な判断をそのまま任せることが、なぜ危険なのかが見えてきます。
AIは「最初に決めたこと」さえ保持できない
YouTube動画「【世界初】AIが人間のように考えていないことを実証。あなた…」では、AIを相手に「20の質問」に似た実験が行われています。
AIに最初に何か一つの答えを決めさせ、人間が質問を重ねながらその答えを当てようとします。ところが会話が進むにつれて、AIが最初に決めたはずの対象が、いつの間にか別のものへと変化してしまいます。AIはその変化を明確に自覚せず、あたかも最初から同じ答えを考えていたかのように、その時点の会話に合う説明を生成します。
これは、AIが嘘をつこうとしているからではありません。
LLMは、人間のように心の中で答えを保持しながら会話しているわけではなく、その都度、与えられた文脈から次に続くもっともらしい文章を生成しています。
厳密には、LLMにも処理中の内部状態やコンテキストウィンドウがあります。そのため、現在表示されている会話や指示を一時的に参照することはできます。しかし、モデル単体が会話をまたいで出来事を保存し、必要なときに自律的に思い出しているわけではありません。
一般にAIアプリケーションで「AIが会話を覚えている」ように見えるのは、アプリケーション側が過去の会話、要約、ユーザー情報などを保存し、それらを次の問い合わせと一緒にLLMへ渡しているからです。
長い仕事には「作業メモ」が必要になる
現在のAIを比較的安定して使う方法の一つは、一連の作業の間に覚えておくべき情報を、明示的なメモとして書き出させることです。
例えば、AIに次のような情報を記録させます。
- 今回の作業の目的
- すでに決定した事項
- 守るべき条件
- 完了した作業
- 未解決の問題
- 次に行うべき作業
- 避けるべき失敗
そして作業を続けるたびに、そのメモを読み込ませます。
これは、人間が長い仕事をするときに、議事録、設計書、チェックリスト、作業日誌などを参照するのと似ています。LLMエージェントの研究でも、限られたコンテキストの外部に情報を保存し、必要な情報をコンテキストへ戻す仕組みが研究されてきました。MemGPTは、コンピュータの仮想記憶になぞらえて複数の記憶階層を管理し、LLMの限られたコンテキストを補う方式を提案しています。
実際、現在のコーディングエージェントや業務自動化アプリケーションの多くも、形は異なりますが、これに近い仕組みを採用しています。
タスクリスト、計画、途中経過、ファイル、会話の要約などを外部に保存し、その一部を次の処理に読み込ませることで、AIが一貫した仕事を続けているように見せています。
作業メモは「人間の記憶」とは違う
ただし、作業メモを持たせただけでは、人間の判断能力に近づいたとはいえません。
作業メモが扱うのは、主として現在進行中の仕事に必要な情報です。これは人間のワーキングメモリや短期記憶に近い役割です。
一方、人間は重要な判断をするとき、現在の作業内容だけを参照しているわけではありません。
過去に似た問題が起きたとき、誰がどのように行動したか。
どのような兆候の後に失敗が発生したか。
以前に同じ顧客へどのような提案をしたか。
成功した方法が、今回はなぜ通用しない可能性があるか。
表面的には異なる出来事の間に、どのような共通パターンがあるか。
人間は、過去に経験した膨大な出来事の中から、現在の状況に関係しそうな記憶を瞬時に呼び起こします。その記憶は、単なる事実の一覧ではありません。
「いつ、どこで、誰と、どのような状況で、何が起こり、自分が何を行い、その結果どうなったか」という、文脈を伴った出来事の記憶です。
これがエピソード記憶です。
知識を検索することと、経験を思い出すことは違う
現在広く使われているRAGは、文書やデータベースから質問に関連する情報を検索し、LLMに渡す仕組みです。
これは、規程、製品仕様、マニュアル、研究資料などを参照する用途には有効です。しかし、文書に書かれた一般的な知識を検索することと、過去の経験を思い出すことは同じではありません。
例えば、顧客から値引きを求められたとします。
一般的な営業マニュアルを検索すれば、「価値を説明する」「条件付きで譲歩する」「代替案を提示する」といった回答が得られるでしょう。
しかし、その顧客が過去にも値引きを要求し、値下げ後に追加要求を繰り返したことがあるなら、判断は変わるはずです。反対に、長期間取引を続け、困難な時期にも契約を維持してくれた顧客なら、別の判断が必要になるかもしれません。
正しい判断には、一般知識だけでなく、その組織と相手との間で実際に何が起きてきたかという履歴が必要です。
エピソード記憶がAIの判断を変える
LLMエージェント研究でも、短期的なコンテキストだけでなく、長期記憶を持つ認知アーキテクチャの必要性が指摘されています。
CoALAと呼ばれる研究フレームワークでは、言語エージェントの記憶を、作業記憶だけでなく、エピソード記憶、意味記憶、手続き記憶などに分けて考えています。そしてエージェントには、長期記憶を読み出す「検索」と、新しい経験を書き込む「学習」の両方が必要だと整理しています。
スタンフォード大学などによるGenerative Agentsの研究では、エージェントの経験を自然言語で蓄積し、過去の記憶を動的に取り出し、そこからより上位の「内省」を作る仕組みが提案されました。実験では、記憶、内省、計画を組み合わせることが、一貫性のある行動を生み出すうえで重要であることが示されています。
また、エピソード記憶こそ長期的に活動するLLMエージェントに欠けている要素だとする研究もあります。そこでは、個別の出来事を一度の経験から記録し、時間的・状況的な文脈を保ち、現在の状態に応じて取り出せることが、適応的な行動に不可欠だと論じられています。
別の実験では、LLMに過去の分類結果を参照させることで、記憶を与えない場合よりも、いくつかの評価で性能が改善しました。対象や条件は限定されていますが、過去の処理履歴を参照することが、AIの一貫性と判断精度に影響することを示す一例です。
すべての記憶を読ませればよいわけではない
長期記憶を実現するために、過去の記録をすべてLLMへ入力することは現実的ではありません。
記録が多すぎれば、処理時間と費用が増えるだけでなく、本当に重要な情報が大量の文章に埋もれてしまいます。記憶同士が矛盾していたり、古い情報が残っていたりすれば、かえって判断を誤る可能性もあります。
したがって、必要なのは単なる保存機能ではありません。
目の前の出来事から重要な特徴を読み取り、過去の記憶の中から、
- 状況が似ている経験
- 同じ人物や組織に関する経験
- 同じ問題構造を持つ経験
- 過去の成功や失敗に関係する経験
- 現在の判断基準に影響する経験
を選び出す仕組みが必要です。
さらに、取り出した記憶が今回の状況にも本当に適用できるのか、過去と現在の違いは何かを検討しなければなりません。
つまり、AIに必要なのは「大量の記録」ではなく、記憶を構造化し、関連する経験を想起し、その意味を現在の文脈の中で評価する能力です。
記憶を持たないAIに仕事を任せる危険
現在のAIエージェントは、与えられた目的に向かって計画を作り、ツールを操作し、複数の処理を連続して実行できます。
しかし、そのエージェントが参照しているのが、現在の指示、作業メモ、一般的な知識だけであるなら、判断はどうしても局所的になります。
過去に同じ方法で失敗していても、その失敗を思い出せない。
以前の例外対応を知らない。
経営者が過去に何を重視して判断したかを理解していない。
取引先との長期的な関係を考慮できない。
組織が積み重ねてきた暗黙の判断基準を持っていない。
このようなAIは、個々の作業では優秀に見えても、長期的には同じ失敗を繰り返す可能性があります。
しかも、LLMは流暢な文章で理由を説明するため、利用者はその判断に十分な根拠があると錯覚しやすくなります。AIが自信を持っているように見えることと、必要な経験を参照していることは別問題です。
現在のAIに重要なタスクを任せる際には、少なくとも、AIがどの情報を参照し、どの過去事例を想起し、どの基準に基づいて判断したのかを、人間が確認できるようにする必要があります。
AIに必要なのは、さらに大きなLLMだけではない
AIの進歩は、しばしばモデルの規模、推論能力、コンテキスト長、ベンチマーク性能によって語られます。
もちろん、それらは重要です。
しかし、AIを人間の信頼できるパートナーにするために必要なのは、単により大きく、より賢いLLMを作ることだけではありません。
重要なのは、LLMの外側に、
- 現在の作業状態を保持する作業記憶
- 過去の出来事を保存するエピソード記憶
- 経験から抽出された知識や判断基準を保持する意味記憶
- 状況に応じて関連する記憶を取り出す想起機構
- 判断結果を新しい経験として記録する学習機構
を構築することです。
LLMは、この記憶システムから必要な情報を受け取り、言語による推論と応答を行う役割を担います。
言い換えれば、LLMは知能のすべてではなく、記憶を読み、考え、言葉にするための重要な構成要素の一つです。
マインドウエア総研が開発するもの
マインドウエア総研は、AIに単発の回答を生成させるだけでなく、過去の経験を蓄積し、構造化し、現在の状況に関係する記憶を想起させる技術の開発を進めています。
目指しているのは、会話履歴をそのまま大量に保存するだけのシステムではありません。
出来事をエピソードとして記録し、それぞれの出来事に含まれる人物、目的、状況、判断、行動、結果などの関係を捉えます。そして、新しい問題に直面したとき、表面的なキーワードが一致する記録だけでなく、概念的・構造的に関連する過去の経験を取り出します。
さらに、過去のエピソードの蓄積から、その人や組織が何を重視し、どのような状況でどのような判断をしてきたのかをモデル化します。
これによってAIは、一般論を答えるだけの存在から、
「以前に似た状況があり、そのときはこの判断をした」
「今回は過去のケースとこの点が異なる」
「この選択は、これまで重視してきた方針と矛盾する可能性がある」
「過去の失敗を考えると、実行前にこの条件を確認した方がよい」
と助言できる存在へと変わります。
それは、人間に代わって勝手に判断するAIではありません。
人間が蓄積してきた経験、知識、思想、価値基準を必要なときに呼び戻し、よりよい判断を支援するAIです。
AIの信頼性は「記憶」から始まる
現在のLLMは、非常に優れた言語能力を持っています。
しかし、流暢に話せることと、過去を覚えていることは同じではありません。複雑な作業を実行できることと、長期的に信頼できる判断ができることも同じではありません。
AIが信頼できるパートナーになるためには、目の前の指示だけを見るのではなく、過去に何が起き、何を学び、どのような判断をしてきたかを参照できなければなりません。
そして、そのために必要なのが、単なる会話履歴や作業メモを超えた、構造化されたエピソード記憶と想起の技術です。
AIの次の進化は、さらに雄弁になることではなく、経験を忘れず、必要なときに正しく思い出せるようになることなのかもしれません。
マインドウエア総研は、そのための技術を開発する企業です。
