← PC・IT用語集へ戻る

ハルシネーション

Hallucination
ai beginner
AIが事実ではない内容を、もっともらしく正しい情報のように出力してしまう現象のこと。
ハルシネーション (Hallucination)

概要(サマリー)

AIが事実ではない内容を、もっともらしく正しい情報のように出力してしまう現象のこと。

直訳すると「幻覚」という意味だが、AIの文脈では、本当に見えていないものが見えるというより、存在しない情報や不正確な情報を、それらしく組み立てて答えてしまうことを指す。
たとえば、存在しない関数名、架空の拡張機能、間違った仕様、古い制度情報などを、さも正しいかのように断定的に説明してしまうことがある。
これがハルシネーションである。

AIはかなり便利だが、出力が自然で自信ありげに見えるほど、間違いにも気づきにくくなる。
そのため、特に調査・設定・コーディング・法律や医療のような正確性が重要な場面では、鵜呑みにしない姿勢が大切である。

詳細解説

ハルシネーション(Hallucination)とは、AIが事実ではない内容を、もっともらしい形で出力してしまう現象のことである。
特に文章を生成するLLMは、人間のように「本当に知っていることだけを答える」わけではなく、与えられた文脈から「次にもっともありそうな表現」を組み立てて返す性質がある。
そのため、分からないことや不確かなことに対しても、沈黙するのではなく、自然な文章として答えを作ってしまうことがある。

この結果、

  • 実在しない機能をあるように説明する
  • 間違ったURLやコマンドを出す
  • 存在しない文献や引用を挙げる
  • 仕様の違うコードを正しいと断定する
  • 古い情報を今も正しいように話す

といったことが起こる。
こうした「もっともらしい誤り」がハルシネーションである。

なぜハルシネーションが起きるのか

AIは、検索エンジンのように常に正解データベースから事実を引いてくるわけではない。
多くの場合は、学習済みのパターンや、与えられた文脈をもとに文章を生成している。
Web検索やRAGで外部の資料を参照する仕組みを足しても、資料の読み違いや、資料にない部分を補ってしまうことは残る。

そのため、

  • 情報が足りない
  • 文脈があいまい
  • 類似概念が多い
  • 最新情報が必要
  • 存在確認が必要

といった場面では、AIが推測で埋めてしまうことがある。

つまりハルシネーションは、
AIが悪意で嘘をつくというより、自然につじつまを合わせようとして誤る現象
と考えるとわかりやすい。

どんなイメージで考えればよいか

初心者向けには、次のようなたとえがわかりやすい。

自信満々のうろ覚え回答

本当ははっきり覚えていないのに、会話の流れから「たぶんこうだったはず」と言い切ってしまう人に近い。

空欄をそれっぽく埋める

テストで分からない問題に対して、空欄のままにせず、それらしく書いてしまうイメージである。

もっともらしい作り話

文章としては自然で筋も通っているので、一見すると正しそうに見える。
しかし、事実確認すると間違っていることがある。

どんな場面で起きやすいのか

ハルシネーションは、特に次のような場面で起きやすい。

1. 最新情報が必要なとき

法律、料金、サービス仕様、API仕様、時事ニュースなど。

2. 似た名前の技術が多いとき

ライブラリ名、コマンド名、拡張機能名、関数名など。

3. あいまいな質問をしたとき

前提が不足していると、AIが都合よく補ってしまうことがある。

4. 存在確認が必要なとき

「このプラグインある?」「この関数ある?」のような問い。

5. 専門性が高い・ニッチな内容のとき

情報が少ない領域では、推測が混ざりやすい。

つまり、確認が難しいほど、それっぽい誤りが混ざりやすい。

調べものでも起きる

ハルシネーションはコードだけの問題ではない。
たとえば調査系でも、

  • 実在しない制度名
  • 数字や日付の誤り
  • 間違った引用元
  • 誤った因果関係
  • 存在しない発言

などが出ることがある。

しかもAIの文章は読みやすく整っているため、
雑な誤情報よりも、むしろ信じてしまいやすい
という危険がある。

ハルシネーションと単純ミスの違い

ハルシネーションは、単なる打ち間違いとは少し違う。
単純ミスは記号や数字のうっかりミスであることが多いが、ハルシネーションは

  • 論理が通っているように見える
  • 文として自然
  • それっぽい説明がついている
  • でも事実ではない

という特徴がある。

つまり、「自然すぎる誤り」 であるところが厄介なのである。

AIコーディングとの関係

AIコーディングでは、ハルシネーションは実害につながりやすい。たとえば次のような例がある。

  • 存在しない npm パッケージを提案する
  • 実際にはないメソッド名を書く
  • フレームワークのバージョン違いを混同する
  • 古い書き方を今も正しいように出す
  • その言語では使えない構文を混ぜる
  • 実在しない設定項目を .env に書かせる

これらは見た目にはかなり自然なので、初心者ほど信じやすい。そのまま使うと「動かない」「見つからない」「設定しても反映されない」といった形で詰まりやすい。

完全にゼロにするのは難しいが、減らし方はある。

  • 質問を具体にする。条件や前提を書いた方が、誤りは減りやすい。
  • 出典を確認する。仕様、料金、法律、ニュースは、AIの記憶だけに頼らない。
  • 存在確認を分ける。「このライブラリは本当に存在しますか」と聞いたあと、公式ドキュメント、npm、GitHub、実行結果でも確かめる。
  • コードは実行する。動かないときはデバッグで、存在しない名前や古い仕様が混ざっていないかを見る。

聞き方でも、断定を弱められる。

  • 分からない場合は推測せず、その旨を明記してください
  • 実在確認が必要なものは確認前提で答えてください
  • 仕様が不確かな部分は断定しないでください
  • 公式ドキュメントベースで説明してください
  • このコードは動作未確認ならそう書いてください

プロンプトを工夫しても、完全には防げない。調査が速い、文章が自然、自信ありげに見える、という長所は、誤情報にも気づきにくくする。怖いから使わないのではなく、確認できるものは確認しながら使うのが現実的である。

よくある勘違い

ハルシネーション = AIがわざと嘘をついている?

そうではない。
多くの場合は、文脈からもっともらしい答えを組み立てた結果、誤りになっている。

AIの精度が上がれば完全になくなる?

減ることはあっても、完全になくなるとは限らない。
特に曖昧さや最新性が関わる内容では今後も注意が必要である。

自然な文章なら正しい?

そうとは限らない。
むしろハルシネーションは自然で読みやすい形で出るため、注意が必要である。

コーディングなら事実系より安全?

必ずしもそうではない。存在しないパッケージ名や関数名、古い仕様の提案など、コーディングでも普通に起こる。

まとめ

  • ハルシネーションは、AIが事実ではない内容を、もっともらしく正しい情報のように出力してしまう現象のこと。
  • 情報が足りない、文脈があいまい、最新情報が必要といった場面で起きやすい。
  • コーディングでは、存在しないパッケージやメソッドを提案してくるといった形で実害につながりやすい。
  • 完全になくすのは難しいため、出典の確認や実行して確かめるなど「確認可能なものは確認する」姿勢が対策の基本になる。
  • 具体的な質問や根拠重視の指示を出すことで、ハルシネーションはある程度減らせる。

情報ソース

より詳しくAIに聞いてみよう

  • ハルシネーションとは何かを、中学生でもわかるように説明してください。
  • AIがハルシネーションを起こしやすい場面を具体例つきで教えてください。
  • コーディングで起きるハルシネーションの例を見せてください。
  • ハルシネーションを減らすための質問の仕方を教えてください。
  • AIの回答をどこまで信じてよいか、判断のコツを初心者向けに説明してください。