AIのハルシネーションが起きる理由と防ぎ方

ハルシネーションとは、AIが事実でない内容を、もっともらしい文章で答えてしまう現象です。完全に防ぐことは難しいため、起きやすい場面を知り、質問の仕方を工夫し、重要な点は自分で確認する、という三段構えで備えます。

AIは、膨大な文章から学んだパターンをもとに、次に来そうな言葉をつなげて文章を作っています。事実を調べて答えているわけではないため、知らないことでも、それらしく答えてしまうことがあるのです。

ハルシネーションが起きる理由

AIが事実でないことを答える背景には、いくつかの理由があります。

• 学習した情報に含まれていない、あるいは少ない話題について聞かれた
• 質問があいまいで、AIが勝手に解釈して答えを作った
• 情報が古く、最新の状況を反映していない
• 「答えられない」と言うより、何かを答えるように作られている傾向がある
• 実在しない固有名詞や数字を、もっともらしく組み合わせてしまう

AIの回答が流暢で、自信ありげに書かれているほど、間違いに気づきにくくなります。文章の滑らかさは、正しさの証拠にはなりません。

起きやすい場面

次のような質問は、ハルシネーションが起きやすい傾向があります。

1. 具体的な数字を求める質問（統計、金額、年号）
2. 実在の人物や小さな会社についての質問
3. 論文、書籍、判例などの出典を求める質問
4. 最新の出来事や、法律・制度の改正に関する質問
5. 専門性が高く、情報が少ない分野の質問
6. 長い文章の要約や、細部の確認

これらの質問に答えさせるときは、特に確認を丁寧に行います。反対に、文章の整形、言い換え、アイデア出しのように、事実の正確さがあまり問われない用途では、問題が起きにくくなります。

質問の仕方で減らす

質問の工夫で、ハルシネーションの確率を下げられます。

• 「分からなければ、分からないと答えて」と添える
• 「自信のない部分は、その旨を明記して」と頼む
• 質問の範囲を絞り、前提条件を明確にする
• 答えの根拠や、情報源の種類を示させる
• 複雑な質問は、小さな質問に分けて聞く

「推測を含む場合は、推測であると書いて」という指示は、効果があります。事実と推測が区別されると、確認すべき箇所が分かりやすくなります。

ただし、こうした指示をしても、間違いがゼロになるわけではありません。あくまで、確率を下げる工夫です。

資料を渡して答えさせる

自分で用意した資料を渡し、その範囲内で答えさせる方法は、ハルシネーションを減らす有効な手段です。

「次の資料の内容だけをもとに答えてください。資料に書かれていないことは『記載なし』と答えてください」と指示します。AIが資料の外の知識で補うことを防げます。

この方法でも、資料の読み違いや、要約の誤りは起こります。回答の根拠となった箇所を引用させ、原文と照らして確認します。「回答の根拠になった文章を、原文のまま引用して」と頼みます。

確認の手順

AIの回答を仕事に使う前に、確認の手順を踏みます。

1. 数字、固有名詞、日付に印をつける
2. 公式の資料や、一次情報に当たって確かめる
3. 確認できないものは、使わないか、未確認と明記する
4. 重要な内容は、別の人にも見てもらう

確認の深さは、使い道で変えます。社内のたたき台なら軽く、顧客に出す資料なら徹底して行います。間違いが見つかった場合は、その傾向を記録して、同じ種類の質問で注意します。

複数のAIで比べる

同じ質問を複数のAIに聞いて、答えを比べる方法もあります。答えが一致していれば、広く知られた内容である可能性が高まります。食い違っていれば、確認が必要な箇所です。

ただし、複数のAIが同じ間違いをすることもあります。一致していても、確認を省略しないでください。あくまで、確認の優先順位を決める手がかりです。

責任の所在

AIの回答をそのまま使って問題が起きた場合、責任は、AIではなく、使った人にあります。取引先や上司には、「AIがそう言った」という説明は通用しません。

仕事でAIを使うときは、出力を自分の成果物として責任を持てるかどうかを、基準にします。責任を持てないと感じたら、使わないか、確認を重ねます。この姿勢が、AIを安全に使い続けるための土台です。

業務で起きた事例の見方

実際の職場では、ハルシネーションが原因の失敗が、さまざまな形で起こりえます。たとえば、存在しない法令の条文を引用した文書、実在しない参考文献を載せた資料、古い料金を案内するメールなどです。報道でも、AIが作った誤った情報による問題が取り上げられています。

こうした事例から学べるのは、AIの出力を確認せずに外部へ出す危険性です。社内で共有する前に、確認を挟む手順を定めておけば、多くの問題は防げます。

確認しやすい形で出力させる

確認の手間を減らすために、出力の形を工夫します。回答の中で、事実として述べている部分と、推測や意見を述べている部分を、分けて書かせます。数字や固有名詞には、印をつけさせます。

「回答を、①確かな事実、②推測、③確認が必要な点、の三つに分けて」と頼むと、確認すべき箇所が見えやすくなります。この区分けも、AIが完全に正確に行えるわけではありませんが、確認の手がかりとして役立ちます。

付き合い方の心構え

ハルシネーションは、AIの欠点であると同時に、現在の技術の性質でもあります。完全になくなる日を待つより、ある前提で付き合う方が、現実的です。

AIを「優秀だが、時々確認が必要な新人」のように考えると、扱い方が見えてきます。任せる範囲を決め、結果を確認し、問題があれば直す。この繰り返しで、信頼できる範囲が分かっていきます。

子どもの頃の「うろ覚え」との類似

人間も、あやふやな記憶を、もっともらしく補って話すことがあります。AIの場合も似ていて、断片的な知識から、それらしい全体を作ってしまいます。人間の「うろ覚え」と同じように、本人は自信を持って話している点が厄介です。

この類似を意識すると、AIに「本当にそうか」と聞き返す習慣がつきます。聞き返しても、同じ間違いを繰り返すことがあるため、最終的には、外部の資料で確認します。

日常の小さな確認の習慣

大がかりな確認だけでなく、日常の小さな確認も習慣にします。AIが示した数字を、一つだけ検索で確かめる。名前を一つだけ公式ページで見る。それだけでも、間違いに気づく機会が増えます。小さな確認の積み重ねが、AIとの付き合いの感覚を養います。

次にやること

自分がよく使う質問の種類で、ハルシネーションの傾向を調べてみてください。

1. 自分が答えを知っている質問を、AIに5つ聞く
2. 答えが合っているか、間違っているかを記録する
3. 間違いが多かった種類の質問を、リストにする
4. その種類の質問は、確認の手順を入れると決める

自分の得意分野でAIを試すと、間違いに気づきやすく、傾向もつかめます。その感覚を持っていると、不慣れな分野でAIを使うときにも、慎重さが働きます。