ハルシネーションは「誤謬(ミス)」ではなく「生成的メカニズムの性質」である理由
ここでいう 誤謬(error) とは、
「本来あるべき唯一の正解から逸脱した結果」
を指します。しかし、LLMにおけるハルシネーションは、そもそも 正解を参照する仕組みではなく、確率的生成を通じて“もっともらしさ”を構築する仕組み に起因します。
1. AI研究の観点:誤謬とは前提が異なる
モデルは「世界の真理を保持」しているわけではなく、
「テキスト分布の統計的近似を行う関数」です。
そのため “誤りかどうか” は外部の評価基準であり、内部には「正解フラグ」がありません。
ハルシネーションは、
誤った記憶ではなく、欠損した文脈を“足す”ことによって連続性を保とうとする現象 です。
これは誤謬ではなく、むしろモデルの生成能力(coherence maker)が正常に動いている状態と言えます。
2. 認知科学の観点:人間の知覚も本質的に「補完」である
人間の知覚も、隙間を補い、欠損を埋め、状況を整合的に保つメカニズムを持ちます。
記憶の誤再生、ミューラー=リヤー錯視、夢、誤帰属、すべて補完の結果です。
つまり
錯覚は誤謬ではなく、認知を成立させているメカニズムの裏返し
という位置づけができます。
同様にLLMも、補完的生成をしなければ「文章がつながらない」ため、補完が先にある構造です。
3. 哲学的観点:誤謬は外在的・規範的な概念である
デリダ、フーコー、クワインなどの系譜では、
「誤り」という概念は、制度・権威・外部基準によって決定される“規範的なラベル”です。
ハルシネーションはモデル内部にとって
正しくもない
間違ってもいない
ただ“連続性を維持するもっともらしい生成”
として成立しています。
つまり
誤謬というカテゴリーは、人間の評価フレームであり、モデルの内的過程とは異なるレイヤーの概念
なのです。