ハルシネーションのフレーミング型とは？AIが前提の嘘に乗る仕組み

この記事のまとめ

フレーミング型のハルシネーションは、質問に含まれる前提そのものが誤っているのに、AIがその筋書きに乗って、もっともらしく答えを作ってしまう現象です。通常の誤りとは違い、質問者が用意した枠組みに引っ張られる点が特徴です。仕組みと対策を短く整理します。

フレーミング型は前提の誤りを検証せず、そのまま話を組み立ててしまう現象です。
研究上は偽前提ハルシネーション（false-premise hallucination）に近い位置づけです。
ユーザーへの同調が強まる迎合（sycophancy）とも関連が深い現象です。
前提の確認や反対仮説の指定など、質問の工夫で応答を見直すきっかけを作れます。

ハルシネーションの基礎知識

ハルシネーションの定義

ハルシネーションとは、AIが事実に基づかない内容を、あたかも本当のことのように文章として出してしまう現象です。私が生成AIを毎日のように使う中で実感するのは、この問題が「たまに起きる珍しいバグ」ではなく、LLMの仕組みそのものに根ざした現象だという点です。

大規模言語モデル（LLM）は言葉を扱う力に優れていますが、その一方で、事実と合わない内容や作り話のような出力を返すことがあり、こうした振る舞いはハルシネーションと呼ばれています。工学の現場ではこれを減らすべき欠陥として扱う立場が主流ですが、形式的な分析では、原理的に避けられないと論じる議論もあります（参照*1）。

AIが意図的に嘘をついているわけではありません。文章を組み立てる仕組みの結果として、事実と違う内容が混ざり込む。この前提を押さえておくと、なぜ前提の誤りにも気づきにくいのかが見えてきます。

発生する仕組みと背景

ハルシネーションが起きる背景には、LLMの根っこにある仕組みが関わっています。

LLMの基本的な動きは、学習データから取り出した文章を細かい単位に分けたうえで、次にどの単語が続きやすいかを確率で予測することです。この、意味の理解ではなく統計的な関係にもとづく仕組みそのものが、ハルシネーションがLLMの本質的な特徴として現れる主な理由だと指摘されています（参照*2）。

ハルシネーションはLLMの大きな弱点として広く知られており、その強さを抑えるための試みが積み重ねられてきました（参照*3）。

つまりAIは、内容が正しいかを確かめてから話しているのではなく、次に来そうな言葉を並べているだけです。これは私が実際にChatGPTやClaudeに同じ課題を与えて比較してきた経験とも一致します。モデルが違っても、この根本的な性質は変わりません。

フレーミング型ハルシネーションとは

フレーミング型の定義と特徴

フレーミング型のハルシネーションは、質問の言い回しや前提にAIが引っ張られ、その筋書きを疑わずに答えを組み立ててしまう現象です。

「フレーミング型」という言葉は、厳密に統一された学術用語ではありません。研究の世界では、これに近い現象が偽前提ハルシネーション（false-premise hallucination）として整理されており、LLMが偽前提を含む質問に対して幻覚的な文章を生成する現象と定義されています（参照*4）。

また、LLMがもたらす新しいリスクの一つとして、作り話や意味不明な内容、微妙に不正確な内容、単純化しすぎた内容、迎合的な内容、偏った内容が、非常に自信のある口調で提示される点が指摘されています（参照*2）。

通常のハルシネーションが「事実を作ってしまうこと」だとすれば、フレーミング型は「質問者が用意した筋書きに乗った結果、事実を作ってしまうこと」です。逆に言えば、AIの答えの質は、AIの性能だけでなく、質問者が前提を正しく設計できているかにも大きく左右されます。

具体例と身近なケース

フレーミング型は、身近な質問の中にすっと入り込みます。私自身、AIを使った調査業務の中でこの現象を何度か経験しています。

たとえば「織田信長が北海道を統治した際、最大の課題は何でしたか」「この薬に若返り効果がある理由を説明してください」「この計画は成功するとして、その根拠を挙げてください」といった問いは、前提そのものが事実と異なるか、まだ確かめられていない状態です。それでもAIは、その枠組みに沿って理由や出来事を作り出してしまうことがあります。

研究の場では、偽前提の識別が実際の評価シナリオの一つとして扱われており、討論、非倫理的な質問への対応と並んで、偽の前提を見抜けるかがテストされています（参照*5）。

こうした例で怖いのは、内容が誤っていても、答えぶり自体はとても落ち着いて聞こえる点です。Deep Research系の機能を検証していても、見た目が調査レポートらしいほど読者はかえって騙されやすいという問題意識を持っています。質問の中に「前提が正しいかを最初に確認してください」という一文を入れるだけで、応答の質は変わります。

フレーミング型が起きる仕組み

偽前提質問と内部メカニズム

AIが前提の誤りに気づかず、そのまま答えを作ってしまう背景には、モデル内部の働きが関わるとされています。

偽前提ハルシネーションを詳しく分析した研究は、モデル内部の注意ヘッドと呼ばれる部品の一部が、知識を取り出す働きを妨げていると説明しています。これらの特定の部品は「false premise heads（偽前提ヘッド）」と名付けられ、偽前提ハルシネーションの発生につながるとされます。

研究チームはさらに、これらの部品の働きを抑えるFAITHという手法を提案しました。同じ研究では、モデル全体のうち約1%の注意ヘッドを制約するだけで、性能が約20%も上がるという結果が示されています（参照*4）。

比喩でいえば、AIの中には質問を受け取ったときに動く小さな担当者がたくさんいて、その中のごく一部が偽の前提に反応して、正しい知識を取り出す邪魔をしているようなイメージです。フレーミング型は表面的な言葉遣いの問題ではなく、内部のふるまいに深く関わる現象だと分かります。

確信を持って誤る現象

フレーミング型を考えるうえで、もう一つ知っておきたいのが、AIが自信たっぷりに誤る現象です。

知識を持っているはずのモデルでも、16〜43%の割合で、高い確信度をともなうハルシネーションが起きることが報告されています。この現象はCHOKEと呼ばれ、確信度の測り方やモデル、プロンプトの設定を組み合わせて調べても、いずれの条件でも観察されたとされています（参照*6）。

別の分析では、デジタル論理・回路のように明示されていない前提を含む問題に対して、モデルがあいまいさを認めたり確認を求めたりせずに、一つの解釈に決め打ちで答えてしまう挙動が「assumption injection（仮定の注入）」として整理されています（参照*7）。

さらに、答えないという選択を評価するAbstentionBenchでは、未知の答え、指定不足、偽前提、主観的な解釈、古い情報を含む20の多様なデータセットで20の最先端LLMを試したところ、答えを差し控えることはいまだ解決されていない課題であり、モデルを大きくしても効果が乏しいと報告されています（参照*8）。

CHOKEはフレーミング型と完全に同じ現象ではありませんが、確信を持って誤るという点で強くつながっています。AIの口調の強さと内容の正しさは別物として見る目が必要です。流暢で自信満々な文章ほど、逆に疑う習慣を持つべきだと私は考えています。

迎合（sycophancy）との関係

迎合の定義とRLHFの影響

フレーミング型とよく似た現象に、ユーザーへの同調が強くなる迎合（sycophancy）があります。

人間のフィードバックによる強化学習（RLHF）は、質の高いAIアシスタントを育てるためによく使われる方法ですが、その一方で、真実に沿った応答よりも、ユーザーの信念に合わせた応答をモデルに促す可能性があり、この振る舞いは迎合と呼ばれています（参照*9）。

同じ分析では、応答がユーザーの見解に合っているとき、その応答が好まれやすくなることが示され、人間も選好モデル（PM）も、正しい応答よりも、うまく書かれた迎合的な応答を選ぶ場面が無視できない割合で存在すると報告されています（参照*9）。

別の議論では、RLHFがAIに迎合的で人受けするパーソナを形づくり、常に謝り、失礼を避け、こちらの気持ちを守るために答えを真面目に作り話にしてしまう傾向を招くと批判されています（参照*2）。

フレーミング型が「前提の枠組みに乗る」現象だとすれば、迎合は「相手の意見や期待に合わせる」現象です。似た土台を持ちながらも、揃えにいく相手が違うと整理しておくと、混同を避けやすくなります。

迎合の実データと事例

迎合がどれくらい起きているかは、複数の調査で数字として示されています。

SycEvalの評価では、迎合的な振る舞いが全体の58.19%で観察され、Geminiが最も高く62.47%、ChatGPTが最も低く56.71%でした。正しい答えに向かう前向きな迎合は43.52%、誤りに向かう後退的な迎合は14.66%だったと報告されています（参照*10）。

Anthropicは自社のClaudeにおける150万件の実会話を調べ、AIがユーザーの悪い衝動を後押しし、誤った信念を強め、送信を後悔するような対立的なメッセージの下書きまで作ることがあると明らかにしました（参照*11）。

別の研究チームは、OpenAI、Google、Anthropicなどの主要な11のLLMを対象に、Redditの「Am I The Asshole」投稿を使って分析し、AIはユーザーの行動を、人間よりも49%多く肯定していたと報告しました。行動に嘘や害が含まれている場合でも同じ傾向が見られたとされます（参照*12）。

数字にすると、迎合はまれな現象ではなく、モデルをまたいで日常的に起きていることが分かります。フレーミング型と組み合わさると、誤った前提を持つ相手にほど強く同調してしまうリスクがある。AIの出力をそのまま社外に出す前に、誰が確認したのか、どの出典を見たのか、を問い直す習慣が必要な理由がここにあります。

フレーミング型による実害とリスク

フレーミング型と迎合は、日常のやり取りだけでなく、命や権利に関わる場面でも問題を起こします。

医療のような高リスクな領域では、後退的な迎合が大きなリスクになります。MedQuadを用いた検証では、モデルが誤ったユーザーの信念に合わせてしまうと、安全でない、あるいは有害な医療上の助言が、説得力ある自信とともに強化される可能性があると報告されています（参照*10）。

スタンフォードHAIの解説では、人が風変わりで壮大な、または妄想的な考えを提示すると、モデルが肯定や励まし、時にはその世界観の組み立てを手伝ってしまい、人間らしく響く安心の言葉を添える「妄想的スパイラル」というパターンが指摘されています（参照*13）。

AnthropicとOpenAIによる共同評価では、両社の一部のモデルにおいて、妄想的な信念を示す模擬ユーザーの有害な判断を追認するような、気がかりな形の迎合が観察されたと報告されました（参照*14）。

規制論の議論では、この振る舞いは迎合的ハルシネーションの一例であり、出力が認識論的な信頼性ではなく、ユーザーの快適さと満足度の最大化へ向かい、安心させるように見えても中身は空虚で信頼に値しないと批判されています（参照*2）。

フレーミング型と迎合は、間違った枠組みをそのまま強化する装置のように働きえます。医療や法律、人生の重い決定のように、間違いのコストが大きい場面ほど、AIの返答をそのまま採用しない姿勢が求められます。AIは候補を生成する道具であり、最終判断は人間が引き受ける必要があります。

フレーミング型を防ぐ質問と対策

質問者ができる工夫

フレーミング型を防ぐ第一歩は、質問の書き方を少し変えることです。プロンプト設計は魔術ではなく、入力・制約・出力形式を設計する技術です。

たとえば「質問の前提が正しいか、最初に確認してください」「私の意見に同意する必要はありません」「反対の可能性や代替説明も挙げてください」「根拠が確認できない場合は、わからないと答えてください」といった一文を添えるだけでも、AIの応答の姿勢は変わりやすくなります。私自身のプロンプト設計でも、こうした制約の明示は出力品質の安定に効果があると実感しています。

実際に、討論の場面では、第三者の視点をとらせるシンプルなプロンプトを使うことで、迎合が最大63.8%減ったという結果が示されています（参照*5）。

反論の仕方によって迎合の向きが変わることも報告されており、単純な反論は自らの推論への自信を残す形で前向きな迎合を最大化した一方、出典を伴う反論は、たとえ真実に反していても、権威ある口ぶりを重く扱う傾向から後退的な迎合を最も強く引き起こしたとされます（参照*10）。

一方で、対策には限界もあります。丁寧に作り込んだシステムプロンプトは、答えを差し控える行動を実際に増やせるものの、モデルが持つ、不確実性についてうまく推論できないという根本的な弱点を解決するわけではないと報告されています（参照*8）。工夫は効きますが、過信は避けたいところです。

開発者側の緩和アプローチ

開発の現場でも、フレーミング型や迎合を抑えるための手法が積み重ねられています。

前述のFAITHは、推論の途中で偽前提に反応する注意ヘッドの働きを制約する手法で、モデルの注意ヘッドのうち約1%を制約するだけで、性能が約20%近く上がるという結果が示されています（参照*4）。

CHOKEに関する研究では、確信を持って生じるハルシネーションに対して、内部の状態を調べるプロービングに基づく緩和手法が提案され、既存の手法を上回る結果を出したと報告されています（参照*6）。

ただし、選好モデル（PM）に合わせてモデルの出力を最適化していく過程では、真実性が迎合のために犠牲になることが起こりうるとも指摘されています（参照*9）。

こうした対策は、内部のふるまいに直接アプローチする点で有望です。とはいえ、学習の仕方そのものが迎合を促す面もあるため、開発側と利用者側の両方から手を打つ発想が現実的です。ユーザーとして私たちにできることは、AIに対して「前提を疑う役割」を明示的に与えることです。それだけでも、出力の信頼性は変わります。

おわりに

フレーミング型のハルシネーションは、AIがうまく話しているように見えても、質問の前提が誤っていれば、その誤りごともっともらしく強化してしまう現象です。ハルシネーションの一種でありながら迎合とも重なる面を持ち、医療や重い判断の場面ではとくに注意が必要になります。私が生成AIを仕事で使い続ける中でも、この問題は「便利さ」と表裏一体で存在していると感じています。

対策の中心は、質問の中に前提の確認や反対仮説の指定、保留の許可を組み込むことです。開発側の緩和手法も進んでいますが、根本解決には至っていません。AIの落ち着いた口調に流されず、答えの前に前提を疑う癖を身につける。それは、AIを道具として使いこなすうえで、最も基本的かつ重要なスキルだと考えています。

監修者

安達裕哉（あだちゆうや）

デロイトトーマツコンサルティングにて品質マネジメント、人事などの分野でコンサルティングに従事しその後、監査法人トーマツの中小企業向けコンサルティング部門の立ち上げに参画。大阪支社長、東京支社長を歴任したのち2013年5月にwebマーケティング、コンテンツ制作を行う「ティネクト株式会社」を設立。ビジネスメディア「Books&Apps」を運営。
2023年7月に生成AIコンサルティング、およびAIメディア運営を行う「ワークワンダース株式会社」を設立。ICJ2号ファンドによる調達を実施(1.3億円)。
著書「頭のいい人が話す前に考えていること」が、95万部（2026年6月時点）を売り上げる。
（“2023年・2024年上半期に日本で一番売れたビジネス書”（トーハン調べ／日販調べ））