AIのハルシネーション対策｜誤りの種類を分けて回答を確かめる

AIのハルシネーションは、生成AIが誤った内容を、もっともらしい回答として出す現象を指します。文章が自然で、説明や出典が付いていても、それだけで内容が正しいとは判断できません。

回答を主張に分け、元資料へ戻って確かめることが対策の基本です。「間違えないで」と指示するだけでなく、何を入力し、どの主張を、誰が確認するかを決めます。

なぜ自然な回答にも誤りが入るのか

NISTの生成AIプロファイルは、誤った内容を確信的に示す現象をconfabulationとして扱い、一般にhallucinationとも呼ばれると説明しています。大規模言語モデルの統計的な生成は、正確な出力にも、不正確・不整合な出力にもつながり得ます。NIST AI 600-1、2.2節

回答の自信ありげな文体は、事実確認が済んだ印ではありません。理由や引用先そのものが誤っている可能性もあるため、説明の長さを根拠の強さに置き換えないようにします。

次の表は、業務資料を確認するための整理例です。すべてのAI誤りを一つの学術分類へ当てはめるものではありません。

問題の種類を分けると、再生成する前に、資料不足なのか、読み取り違いなのか、確認漏れなのかを考えられます。

たとえば社内規程の要約を作るなら、対象の版と範囲を明示し、「この資料にない事項は不明とする」「各結論に該当箇所を付ける」と依頼する方法があります。これは確認を助ける指示で、誤りを完全に防ぐ保証ではありません。

資料を検索して回答へ使う仕組みでも、検索された資料が適切か、古くないか、必要な条件を含むかを確認します。資料が付いた回答でも、本文の主張がその資料から言えるとは限りません。

架空の回答として「手続きは全員が翌月から利用できる」と書かれていたら、「誰が」「いつから」「どの条件で」を分けます。元資料が一部の対象者だけを示していれば、「全員」は支持されません。

数字なら単位と期間、制度や製品の条件なら対象と例外、引用なら文脈まで見ます。実際に確認できない重要な主張は、確認待ちにするか、回答から外します。別のAIが同意したことだけを独立した根拠にしないようにします。

アイデアの発散と、社外へ送る説明や重要な業務判断では、誤りの影響が違います。人が内容を修正できる下書きとして使うのか、そのまま外部へ出すのかで確認工程を変えます。

重要な用途では、元資料を読める担当、確認した版、未確認事項、公開・送信の判断を記録します。AIの回答を人が見たという形式だけでは、その人に必要な知識や時間がなければ誤りを見逃す可能性があります。

同じ種類の誤りが続く場合は、プロンプトだけでなく、使う資料、出力形式、任せる範囲を見直します。たとえば数字の取り違えが多ければ、文章へ変換する前に元表との対応を確認する工程を設けます。

対策の評価では、見つけた誤りの数だけでなく、確認対象と確認方法をそろえます。少数の成功例から「誤りがなくなった」と一般化しないことが大切です。AI利用と確認工程の整理は、テクノヴァースへのお問い合わせからご相談ください。