AIがすらすら答えたので、そのまま資料に入れた。後で調べたら、その調査はどこにも無かった。文章は、とても自然だったのに。
こうした、事実と合っていない答えは「ハルシネーション」と呼ばれます。なぜ起きるのかを先に見て、止まる合図、確かめる順番へ進みます。
AIが嘘をつく理由は?自信があってもまちがう?

文章を作る生成AIは、次に来そうな言葉を組み立てて答えるからです。質問や、それまでの流れをもとにしています。
スマホの予測変換にたとえると、近いです。続きそうな言葉を出すのは上手です。でも、その中身が本当かどうかを調べるのは、別のはたらきです。
だから、答えが出たことは、資料を確かめた証拠にはなりません。元の資料を読んで、日付や数字を照らし合わせる作業とは別です。
まちがいの原因は、六つに分けられます。
| 原因 | 起きること |
|---|---|
| 情報が足りない | 足りない所を、推測でうめる |
| 質問があいまい | 別の意味に受け取って答える |
| 古い情報をもとにする | 最新の制度、価格、予定、人物の情報に弱い |
| 無い物があるとして話す | 架空の本、法律、事件があることにして話してしまう |
| 似た情報をまぜる | 近い名前や考え方を組み合わせて、まちがえる |
| 根拠と答えが結びついていない | 裏づけのない説明を、確かな事実のように書く |
やっかいなのは、まちがっていても文章が上手なことです。生成AIのこわさは、まちがいが下手に見えない所にあります。
検索できるAIなら、安心?
検索や外の資料を使えるAIでも、まちがいは残ります。別の資料を取りちがえたり、資料の中身と短くまとめた答えがずれたりするからです。
出典が表示されたかどうかで終わらせず、そこに何が書いてあるかまで見ます。まちがいがどのくらい減るのかを示す数字は、この記事で確かめた資料にはありません。
生成AIの間違いは、どんな質問で、なぜ起きやすい?

固有名詞・数字・日付が答えに入る質問で起きやすくなります。固有名詞とは、人や会社、本などの名前です。AIが足りない所を推測でうめたり、似た情報をまぜたりしても、文章の上では見分けがつきません。
特に気をつけたい質問は、次の六つです。
- 最新の情報を聞く質問
- 法律・医療・お金に関わる質問
- 出典や論文の名前を求める質問
- 人名・会社名・住所・日付など、固有名詞をふくむ質問
- あるかどうか分からない資料が、あるものとして聞く質問
- 数値、ランキング、価格、制度を聞く質問
たとえば、「最近の法律改正をまとめて」「この病気かどうか決めて」。ほかにも「この会社の最新の決算を教えて」「この論文の結論を引用して」。こうした質問は、AIの答えで終わりにしないほうが安全です。
聞く側が、まちがった思いこみを入れてしまうこともあります。「A社が発表した新制度について教えて」と聞いたとします。A社がその制度を発表していなくても、AIは自然に説明を作ってしまうことがあります。
覚えておく合図は三つです。 固有名詞、数字、日付。この三つが答えに出てきたら、いちど止まります。制度や本、論文の名前も、固有名詞に数えます。
ハルシネーション対策:回答を確かめる5つ

使う前に、確かめられた事実と、まだ確かめられていない事実を分けます。順番は五つです。
| 順番 | すること |
|---|---|
| 1. 確かめる所を決める | 人名、会社名、制度名、論文名、日付、数値をメモする |
| 2. 資料があるかを見る | 発表元、公的機関、原典、規約、論文のページで、そもそも資料が存在するかを見る |
| 3. 中身を照らし合わせる | 数字、日付、当てはまる人や物、ふつうとちがう場合が答えと合うか。必要なら別の資料も見る |
| 4. 保留する・使わない | 根拠が取れない、資料と食いちがう、どんな場合に当てはまるか分からない事実は、出す文や決定から外す |
| 5. 担当へもどす | 医療、法律、お金、契約、人事は、中身を確かめられる専門家や担当者に聞く。済むまで、その答えを決める根拠にしない |
4番目で、やりがちなことがあります。「〜かもしれない」と弱く書けば使える、と考えることです。弱く書いても、確かめたことにはなりません。確かめられない事実は、使うのを待ちます。
落とし穴が二つあります。
一つ目。いくつものページが同じ説明をしていても、元が同じまちがった情報かもしれません。その場合は、照らし合わせたことになりません。
二つ目。AIが示したURLを開けることと、その先で言ったことを確かめられることは、別です。
米国の国立標準技術研究所(NIST)も、同じ所を挙げています。2024年7月に出した、生成AIのリスク管理の資料です。リスクとは、損やまちがいが起きるおそれです。まちがった答えに、根拠らしい説明や引用が付くリスク。そして、出力の出典を確かめる作業を挙げています。
たどれない情報を保留することも、確かめた結果の一つです。
時間が無い時は、どこまで確かめればいい?
外へ出す文に残す事実を、確かめられた物にしぼります。
全部を確かめる時間が無い時は、確かめる数ではなく、使う数を減らします。数字を三つ入れたかったなら、発表元で見つかった一つを残し、残りは外します。上の4番目を、時間が無い場面に当てはめた、編集部の考え方です。
「この数字、どこから来たんだろう」。そう思ったら、その数字を提出用の資料からいったん外します。発表元を調べるメモへ移します。
すべてを自分一人で確かめなくても、だいじょうぶです。どこまで確かめられたかを残します。分からない所は、確かめられる担当へわたします。
気をつけたいのは、確かめられる人がいないまま通してしまうことです。中身を見ていない人の「承認」をもらっても、確かめたことにはなりません。公開する情報や、契約、診断、投資、権利に関わる決定に使うなら、確かめる人が要ります。その人に知識と情報、決めたり止めたりする権限があるかも見ます。
わざと嘘をつく?生成AIの嘘の情報と、人の嘘

わざとではありません。ハルシネーションは、作られた内容と事実が合っていない、という問題です。
「AIが嘘をつく」と言うと、AIが人をだまそうとしているように聞こえます。人の嘘には、事実を知っていて別のことを言う場合があります。AIの口ぶりから意図を読み取ろうとしても、その本や数字が実在するかは分かりません。
知らない道でも、親切に答えてくれる人にたとえられます。その人に道を聞いた場面です。悪気はありません。だから、地図でも確かめます。
対策も、人の嘘とは変わります。
- AIに反省を求めるより、出典を確かめる
- AIの自信の度合いを信じるより、一次情報(元の資料)を見る
- AIにもういちど聞くより、別の道で照らし合わせる
- AIを禁止するより、どこまで使うかを決める
AIの答えは、完成品ではなく下書きとして見ると使いやすくなります。文章のたたき台、見る点の洗い出し、質問のリスト、比べる表の下書き。こうした使い方でも、中にふくまれる事実は、別に確かめます。
AIの回答の確認が楽になる、聞き方の工夫は?

聞き方を変えると、確かめる所を見つけやすくなります。まちがいをゼロにする聞き方は、ありません。
何を答えてほしいかをくわしく書くと、伝わりやすくなります。でも、「分からない時は分からないと言って」とたのんでも、正しい答えが出る証拠にはなりません。
使いやすいたのみ方は、次の五つです。質問の最後に足します。
- 分からない場合は分からないと言ってください
- 推測と事実を分けてください
- 確かめる必要がある所をリストにしてください
- 最新情報が必要なものは、公式情報で確かめるべきと書いてください
- 出典がない固有名詞や数字は使わないでください
「出典を出して」とたのむ時も、気をつけます。存在しないURLや本、論文の名前を作ることがあるからです。出典が表示されたら、リンクを開けるか見ます。ページの中身が答えと合っているかまで見ます。
出典はかざりではなく、たどれる道です。
分かれ道:まちがいが減ったら、減らなかったら
AIのまちがいがこの先どのくらい減るかは、まだ分かりません。この記事で確かめた資料からは、分からないことです。二つの場合で、することがどう変わるかを比べます。
こうなったら
減ったら
- 下書きとして使える場面が増える
- 資料の取りちがえや、短くまとめた答えのずれは残りうる
- 外へ出す前に、固有名詞・数字・日付を見る習慣は、そのまま要る
ならなかったら
減らなかったら
- 今と同じ五つの順番で確かめる
- 医療・法律・お金・契約・人事は、確かめられる人へもどすことが続く
- 確かめられない事実は使うのを待つ、という決まりが効き続ける
どちらに寄っているかを確かめる目印自分が使っているAIの答えに付いた出典を、いくつか開いてみます。開いた先に、AIの言った数字や名前がそのまま書いてあるかどうかが、目印になります。
どちらの道でも、することは一つ残ります。AIの答えに、人が確かめにもどれる道を付けておくことです。
今できること
三つあります。まず1つ目を、やってみてください。
1. 今日、5分。AIの答えの中の一か所に、ふせんを一枚はる。
今日、AIの答えを資料やメールに使う前に、その中の固有名詞・数字・日付を見ます。どれか一つを選びます。紙ならふせんをはり、画面なら印を付けます。
ふせんには二つ書きます。何を確かめるのか。どの元の資料で確かめるのか。数字なら、発表元のページに同じ数字があるかを見ます。
2. もし確かめ先が見つからなかったら、その情報を使うのは待つ。
資料から外し、「まだ確かめていない」メモへ移します。上司や相手には、こう伝えられます。「この数字は、発表元でまだ確かめられていないので、いったん外しました」。
3. 次にAIへ聞く時、最後に一行足す。
「推測と事実を分けてください。確かめる必要がある所をリストにしてください。」
未来分岐点:AIの答えを、最後の答えにしない

AIがまちがうことは、さけられないかもしれません。けれど、まちがいをそのまま外へ流すかどうかは、使う人が選べます。
AIの答えを、最後の答えにするのか。最初の下書きにするのか。そこが分かれ目です。
流れは、こうです。AIに聞く。気になる点をぬき出す。一次情報で確かめる。人が決める。まだ確かめていない物は、保留するか使わない。確かめられる担当へもどす。使う内容を選び直す。
未来ログには、次の問いへの答えを残します。
そのAIの答えには、
人が確かめにもどれる道があるか。
短くてかまいません。「見積もりの数字は、発表元のページで確かめた。調査の名前は見つからなかったので、資料から外した。」のように書きます。
すらすら話すからこそ、ゆっくり確かめる。そうすると、AIの答えは終点ではなく、入口になります。
