AIは「世界の構造」を記述するのではなく、「概念」を生成しなければならない
人工知能研究の歴史は、大きく分ければ二つの考え方の対立として捉えることができる。
一つは、知識を記号として表現し、論理規則によって操作しようとする記号主義である。もう一つは、多数の単純な処理単位の結合と学習によって知的機能を実現しようとするコネクショニズムである。
現在の生成AIは、ニューラルネットワークを基盤とするという意味ではコネクショニズムの勝利に見える。しかし、実際のAIシステムを構築する段階では、データベース、オブジェクト、クラス、知識グラフ、オントロジーなど、記号主義的な枠組みが依然として広く使われている。
問題は、どちらが正しいかではない。
より根本的な問題は、記号処理の前提となる「概念」が、どのように生じるのかである。
AI研究を支配した二つの潮流
初期のAI研究では、人間の知能は記号を操作する能力として理解された。
ニューウェルとサイモンが提示した「物理記号システム仮説」は、適切な記号と操作規則を持つ物理システムには、知的行動を実現するための必要十分な能力があると主張した。問題解決、定理証明、ゲーム、自然言語理解などを、記号の探索と変換として実現しようとしたのである。
この立場では、世界には「人間」「企業」「商品」「契約」「原因」「目的」といった対象や関係があり、それらを適切な記号に置き換えれば、コンピュータも人間と同様に推論できると考える。
しかし、現実の世界に関するあらゆる知識を、あらかじめ記号と規則に変換することは難しかった。例外や文脈依存性が増えるほど規則は複雑化し、知識ベースの構築と保守に膨大な労力が必要になる。
これに対してコネクショニズムは、知能を明示的な規則の集合としてではなく、多数の処理単位間の結合状態として捉える。人工ニューラルネットワークは、学習データから結合の重みを変化させ、入力と出力の関係を獲得する。コネクショニズムは1980年代に再興し、現在の深層学習と大規模言語モデルへとつながった。
記号主義が「知識を人間が記述する」アプローチであるのに対し、コネクショニズムは「データから内部表現を学習する」アプローチだと言える。
オブジェクト指向は世界そのものではない
記号主義的な発想は、AIだけでなく、ソフトウェア開発にも深く根づいている。
オブジェクト指向では、対象をクラスとして定義し、属性とメソッドを与え、継承関係や包含関係を設計する。企業には社員が所属し、顧客は注文を行い、注文は商品を含む、といった形で世界をモデル化する。
これは業務処理の対象が明確に決まっている場合には極めて有効である。
しかし、オブジェクト指向モデルは、世界そのものの構造ではない。それは、ある目的のために人間が世界を切り分けた設計図である。
同じ人物でも、販売管理システムでは「顧客」、医療システムでは「患者」、学校では「保護者」、地域社会では「住民」として表現される。どれがその人の本当の姿なのかを問うことには、ほとんど意味がない。
クラスは対象の内部に実在しているのではなく、システムの目的に応じて設定される。
オントロジーも同様である。情報科学におけるオントロジーは、一般に「概念化の明示的な仕様」と定義される。対象領域にどのような実体、概念、属性、関係が存在するとみなすかを形式的に記述するものである。
ここで重要なのは、オントロジーが世界そのものを記述しているのではなく、ある共同体が採用した概念化を明示しているにすぎないという点である。
オントロジーは概念を利用することはできる。しかし、概念が生まれる過程そのものを説明することはできない。
論理学における概念――内包と外延
伝統的な論理学では、概念はしばしば内包と外延によって説明される。
内包とは、その概念を成立させる属性や条件である。たとえば「鳥」という概念の内包として、羽毛を持つ、卵を産む、脊椎動物である、といった特徴を挙げることができる。
外延とは、その概念が適用される対象の集合である。スズメ、カラス、ペンギン、ダチョウなどが「鳥」の外延に含まれる。
論理学では、内包が外延を決定すると考えられる。しかし、同じ対象を指示していても意味が異なる表現があるため、何を指すかという外延と、どのような意味を持つかという内包は区別されなければならない。
この枠組みは概念を整理するうえでは有用だが、内包として採用する特徴を誰が選ぶのかという問題が残る。
鳥を「飛ぶもの」と定義すればペンギンやダチョウが外れる。「卵を産むもの」と定義すれば昆虫や爬虫類まで含まれる。「羽毛を持つもの」と定義すれば比較的うまくいくが、それを重要な特徴として選んだのは世界ではなく、分類する人間である。
概念の内包は、対象を観察するだけでは自動的に決まらない。
醜いアヒルの仔の定理が示すもの
この問題を明確に示したのが、渡辺慧の醜いアヒルの仔の定理である。
この定理を単純化して表現すると、あらゆる論理的属性を平等に数えるならば、異なる二つの対象は、どの組み合わせを選んでも同じ程度に類似しているという結論になる。
白鳥同士が共有する属性は多いように思える。しかし、許される属性を無制限に作れば、「左側にいる」「今日観察された」「白鳥Aではない」「白鳥BまたはアヒルCである」といった属性も数えられる。すべての述語を平等に扱う限り、白鳥と白鳥の類似度も、白鳥と醜いアヒルの仔の類似度も等しくなってしまう。
したがって、分類には必ず、どの特徴を重要とみなし、どの特徴を無視するかという偏りが必要になる。醜いアヒルの仔の定理は、分類や類似性が対象の側に客観的に備わっているのではなく、特徴の選択と重みづけに依存することを示している。
ここでいう偏りは、差別や誤りという意味ではない。機械学習でいう帰納バイアスに近い。いかなる分類器も、何を類似とみなすかについて、何らかの前提を置かなければ動作しない。
つまり、分類とは世界の中に存在する境界線を発見する作業ではない。
目的にとって重要な特徴を選び、世界に境界線を引く作業なのである。
概念が生じるためには「注意」が必要である
では、どの特徴を重要とみなすかは、どのように決まるのか。
その鍵になるのが注意である。
人間は、感覚器官に入ってくるすべての情報を同じ強さで処理しているわけではない。現在の目的、関心、危険、経験、予測などに応じて、一部の情報に注意を向け、それ以外を背景へ退ける。
認知心理学の分類研究でも、人間のカテゴリー学習には、関連する次元に選択的に注意を向け、無関係な次元を無視する学習が含まれると考えられている。
森を歩いているとき、植物学者は葉の形や葉脈に注意する。猟師は足跡や物音に注意する。子どもは木の実や昆虫に注意する。同じ森を見ても、生成される概念世界は異なる。
注意とは、単に情報をよく見ることではない。
それは、何を同じものとして扱い、何を異なるものとして扱うかを決定する働きである。
注意によって特徴に異なる重みが与えられ、類似性が生まれる。類似性によって対象がグループ化され、概念が成立する。
したがって、概念は外界に完成品として存在しているのではない。
概念は存在論ではなく認識論である
哲学における存在論は、「何が存在するのか」を問う。
これに対して認識論は、「私たちは世界をどのように知るのか」を問う。
オントロジーという名称が示すように、従来の知識工学は、世界に存在する実体や関係を形式的に記述しようとしてきた。しかし、概念を実体のように扱うと、あたかも「企業」「顧客」「品質」「リスク」「善」「悪」といったカテゴリーが、人間とは独立して世界に存在しているかのような錯覚が生じる。
実際には、概念は世界の構成物というよりも、世界を認識するための仕組みである。
生物は、目の前の対象について考え得るすべての属性を検討してから行動することはできない。危険な動物か、食べられるものか、仲間か、障害物かを素早く判断しなければならない。
概念とは、膨大な入力情報を圧縮し、過去の経験と結びつけ、迅速な行動を可能にする脳機能である。
「これは蛇だ」という認識は、蛇という本質を発見したことを必ずしも意味しない。細長い形、動き、模様、状況などを統合し、危険回避という目的に必要なカテゴリーを瞬時に生成したことを意味する。
概念は、記号処理を可能にする基礎である。しかし、概念そのものが固定した記号なのではない。
概念形成が先にあり、その結果に名前という記号が与えられる。
AIに必要なのは、記号を操作する能力だけではない
記号主義AIでは、記号の意味や分類体系があらかじめ与えられる。
しかし、現実の環境で自律的に動くAIには、入力された情報から、その場の目的に応じた概念を生成する能力が必要になる。
たとえば「重要顧客」という概念を考えてみよう。
売上金額を重視すれば大口顧客が重要になる。将来性を重視すれば現在の売上が小さくても成長企業が重要になる。社会的影響を重視すれば著名な顧客が重要になる。解約リスクへの対処が目的なら、不満を表明している顧客が重要になる。
「重要顧客」という概念には、固定された外延も内包もない。目的、時点、状況によって、注意すべき特徴が変化する。
AIがあらかじめ定義された「重要顧客」クラスに顧客を割り当てるだけなら、それは既存ルールの自動化にすぎない。
本当に知的なシステムには、現在の課題を理解し、どの特徴に注意を向け、どのような分類を作るべきかを変化させる能力が求められる。
LLMは人間の概念世界を暗黙に学習した
大規模言語モデルは、表面的には「次に来る単語やトークンを予測するモデル」である。
しかし、予測を高い精度で行うには、文法だけでなく、語の意味、対象間の関係、典型的な出来事、人間の価値判断、社会制度、因果関係についても、何らかの内部表現を形成しなければならない。
インターネット上の文章には、人間が世界をどのように分節し、何を同じものとしてまとめ、何を重要と考えてきたかが埋め込まれている。
LLMは大量のテキストから、個々の記号の明示的な定義だけでなく、記号が使用される文脈の分布を学習する。その結果、モデル内部には、意味的な近さ、カテゴリー、関係、文脈による意味の変化などが連続的な表現として形成される。
実際、言語予測の学習だけから、人間の判断と一定の整合性を持つ概念表現が創発し得るという研究結果も報告されている。もっとも、身体感覚や運動に関わる概念では、人間との隔たりが大きく、テキストだけで人間と同じ世界理解を獲得したと断定することはできない。
したがって、LLMが人間と同じ意味で世界を理解しているとまで言う必要はない。
それでもLLMは、人間が文章の中に残した膨大な分類、比喩、判断、因果説明を学習することで、人間社会が共有してきた概念世界や世界観の写像を内部に形成している。
ここに、従来の記号主義とは異なる重要な転換がある。
人間がオントロジーを完全に設計しなくても、モデルが言語使用のパターンから概念的構造を学習できるようになったのである。
記号主義の限界を克服した後で、なぜ再びオントロジーへ戻るのか
この観点から見ると、現在のRAGには興味深い逆説がある。
RAGは、LLMが持つパラメトリックな知識に加えて、外部文書を検索し、その内容を参照して回答を生成する仕組みである。情報の更新、根拠の提示、組織固有情報の利用という点で重要な技術であり、原型となった研究でも、ニューラルな生成モデルと外部の非パラメトリック記憶を組み合わせることが中心的な発想だった。
問題はRAGそのものではなく、その使い方にある。
一般的なRAGでは、文書を一定の長さに分割し、それぞれを埋め込みベクトルに変換する。質問に近い断片を検索してLLMに渡すが、検索単位となるチャンクは、文章を機械的に切った断片にすぎないことが多い。
LLMは文脈から柔軟な概念表現を生成できるにもかかわらず、その前段階で情報を固定的な文書断片に還元してしまう。
GraphRAGはこの問題を改善するために、文書からエンティティと関係を抽出し、知識グラフやコミュニティ階層、要約を構築する。MicrosoftのGraphRAGも、原文から知識グラフを抽出し、そのコミュニティ構造と要約を検索に利用する方式を採用している。
これは文書断片の単純検索よりも、全体構造や関係性を扱いやすい。
しかし、エンティティと関係を固定し、グラフとして明示化する過程では、再び「世界は対象と関係から構成されている」という記号主義的なモデルへ近づいていく。
現実には、何を一つのエンティティとみなすか、どの関係を抽出するか、どの粒度でコミュニティを作るかは、質問の目的によって変わる。
「A社はB社に出資した」という記述も、資本関係を調べるときには重要だが、技術移転を調べるときには別の記述の方が重要かもしれない。固定されたグラフが、あらゆる問いにとって最適な概念構造になるわけではない。
GraphRAGはオントロジーを手作業で構築する従来方式より柔軟だが、生成されたグラフを世界の客観的構造とみなせば、従来の知識工学と同じ問題に戻る。
RAGは外部記憶であり、概念形成装置ではない
RAGやGraphRAGを否定する必要はない。
これらは、LLMが参照すべき情報を絞り込み、回答の根拠を与え、更新可能な外部記憶を提供する技術として有効である。
ただし、それらを「知識の構造そのもの」と考えるべきではない。
文書チャンク、エンティティ、関係、グラフ、オントロジーは、すべて情報へアクセスするための索引である。索引は、概念形成を助けることはできるが、概念形成そのものではない。
AIに必要なのは、固定された分類体系の中から該当項目を探す能力だけではない。
- 現在の目的を理解する
- 目的に応じて注意を配分する
- 入力の特徴に動的な重みを与える
- 類似性と差異を再構成する
- その場に必要な概念を生成する
- 生成した概念を記号化し、推論や説明に用いる
という一連の処理が必要になる。
記号処理は最後に行われる。概念形成は、その前に行われなければならない。
記号かニューラルネットワークか、ではない
記号主義は、論理的推論、明示的な規則、説明、検証に強い。
コネクショニズムは、曖昧な入力からパターンを学び、文脈に応じた柔軟な内部表現を形成することに強い。
したがって、将来のAIに必要なのは、どちらか一方を選ぶことではない。
ニューラルネットワークによって入力から概念を形成し、その概念を必要に応じて記号化して推論する構造が必要になる。現在もニューラル手法と論理・知識表現を統合するニューロシンボリックAIが研究されているが、重要なのは単に二つの部品を接続することではない。
中心に置かれるべきなのは、動的な概念形成である。
固定されたオントロジーをニューラルネットワークに接続するだけでは、概念は依然として外部から与えられたままである。
AIは目的と状況に応じて、何に注意し、何を同一視し、何を区別するかを変えなければならない。
世界に概念があるのではない。概念によって世界が現れる
人間は、概念によって世界を認識している。
しかし、私たちが見ている概念的な世界を、世界そのものと取り違えてはならない。
企業、顧客、市場、競争、品質、危険、価値、正義といった概念は、人間と無関係に完成した形で存在しているわけではない。人間が生存し、行動し、社会を形成するために、膨大な現象の一部へ注意を向け、一定のまとまりとして扱ってきた結果である。
概念は虚構だから不要なのではない。
実在しないからこそ、状況に応じて作り替えることができる。そして、その柔軟性こそが知能の中心にある。
従来の記号主義は、概念がすでに存在することを前提として、記号操作を始めた。
コネクショニズムは、データから内部表現を形成することで、その前提を部分的に乗り越えた。
LLMは、人間が言語の中に蓄積してきた概念世界を大規模に学習し、記号主義だけでは到達できなかった柔軟性を獲得した。
ところが、そのLLMを業務へ利用する段階で、私たちは再び、固定的なオブジェクト、チャンク、エンティティ、関係、オントロジーへ知識を押し戻そうとしている。
必要なのは、世界を完全な知識グラフとして記述することではない。
目的に応じて注意を変え、入力から概念を生成し、その概念を用いて記号的に判断できるAIを作ることである。
概念とは世界の部品ではない。
世界の中で限られた時間を生きる知的主体が、素早く判断し、行動するために作り出す認識の単位なのである。
