AIに「ハルシネーションしないでください」は逆効果！嘘を防ぐプロンプトと8つの対策

生成AIを業務に導入したものの、もっともらしい嘘（事実誤認）に悩まされるケースは少なくありません。多くの現場で「ハルシネーションしないでください」とAIに指示していますが、AIの仕組み上このアプローチでは解決せず、肯定的なルールの設定と運用フローの見直しが不可欠です。本記事では、AIがハルシネーションを起こす根本原因と、具体的なプロンプト例を交えた8つの実践的な対策を解説します。

「ハルシネーションしないでください」という指示が効かない理由

生成AIに対して「ハルシネーションしないでください」と直接指示しても、実務において期待する効果は得られません。LLM（大規模言語モデル）の仕組み上、否定形での抽象的な指示は意図通りに処理されにくいからです。

なぜAIのハルシネーションが発生するのか

そもそもなぜAIのハルシネーションが発生するのかという疑問を持つ方は多いでしょう。LLMは事実を検索するデータベースではなく、入力された文脈から「次に続く確率が高い単語」を予測して文章を生成する仕組みです。そのため、学習データに存在しない情報や専門的な内容について問われた際、もっともらしい単語を繋ぎ合わせて「もっともらしい嘘」を自動構築してしまいます。

否定形の指示が逆効果になるメカニズム

プロンプトで「ハルシネーションしないでください」と入力すると、モデルは「ハルシネーション」という単語そのものに強く反応します。人間であれば「〜しない」という否定の意図を汲み取れますが、LLMにとっては指示に含まれるキーワードが生成のトリガーとなります。結果として、かえって不確かな情報を引き寄せる確率が高まるのです。AIへの指示は、「何をしないか」ではなく「何をするか」を明確に定義することが基本です。

ChatGPTのハルシネーションを防ぐ8つの実践的対策

事実に基づいた信頼できる回答を得るためには、プロンプトの工夫と運用ルールの整備が必要です。ここでは、ChatGPT等のLLMを安全に活用するための8つの対策を、具体的なプロンプト例とともに解説します。

対策1：否定形ではなく「肯定的なルール」で指示する

「嘘をつかないでください」と禁止するのではなく、AIにどう動いてほしいかを肯定形で具体的に伝えます。事実のみを出力させたい場合のルールを明確に定義しましょう。

【改善プロンプト例】

以下の参考資料の内容のみを用いて、要約を作成してください。推測や一般的な知識は含めず、資料に記載されている事実のみを抽出してください。

対策2：前提となる参照データをプロンプトに組み込む

AIが学習していない自社の非公開データや最新情報について質問する場合、前提となる「素材」を直接プロンプトに組み込むことが重要です。AIに事実の担保を丸投げせず、判断の根拠となるリファレンスを提示することで、事実誤認のリスクを最小限に抑えられます。

対策3：情報がない場合の「逃げ道」を用意する

回答に必要な情報が不足している場合、AIは文脈を推測して嘘をつきやすくなります。これを防ぐために、情報がない場合の明確な行動指示（逃げ道）を与えてください。

【改善プロンプト例】

参考資料の中に質問への答えが含まれていない場合は、推測で答えず「資料に該当する情報がありません」と出力してください。

対策4：推論の過程をステップバイステップで出力させる

AIに対して「回答を出力する前に、その内容が事実に基づいているかステップバイステップで確認してください」と指示します（CoT：Chain of Thoughtプロンプティング）。AIが推論の過程をテキストとして可視化するため、人間側が情報の正確性や論理の飛躍を判断しやすくなります。より高度な指示の組み立て方については、プロンプトエンジニアリング入門｜AIエージェントの作り方とLLM活用事例も参考にしてください。

対策5：RAGなどの外部データ連携を活用する

実務においてハルシネーションのリスクを抑える有効な手段が、RAG（検索拡張生成）を用いて社内ドキュメントや外部データベースをAIに参照させる仕組みです。安全な連携手順については、生成AIで社内データを活用する7つのステップを参照してください。

対策6：AIの役割を「草案作成」に限定する

AIの出力を顧客向けの提案資料や経営層の意思決定にそのまま用いることは避けるべきです。AIはあくまで「草案作成のアシスタント」として位置づけ、最終的な品質保証は人間が担うという運用原則を社内で徹底します。AIガバナンスの体制を整備し、人間とAIが適切に協働する環境を構築しましょう。

対策7：固有名詞や数値データを重点的にファクトチェックする

ChatGPT（GPT）のハルシネーションの典型例として、実在しない法律の条文、架空の企業名、存在しないURLや論文名を堂々と出力するケースが挙げられます。これらが出力された場合は特に注意し、公式サイトや原典に当たって必ず一次情報で確認するルールを設けてください。

対策8：継続的にプロンプトを評価し改善サイクルを回す

誤った情報が生成された場合は、なぜその出力に至ったのか原因を分析し、プロンプトに前提条件や参照データを追加するなどの改善を継続的に行います。このPDCAサイクルを回すことが、AI導入の失敗を防ぎ、確実な導入効果を出すための最大の要点です。

AIのハルシネーション対策に関するよくある質問

ChatGPTでハルシネーションを防ぐプロンプトのコツはありますか？

ChatGPTのハルシネーションを防ぐには、「役割の指定（あなたは優秀なリサーチャーです）」「参照データの提供」「制約条件（推測で答えない、わからない場合は不明と答える）」の3要素をセットでプロンプトに組み込むのが効果的です。

ハルシネーションを完全にゼロにすることは可能ですか？

現在の生成AIの仕組み上、ハルシネーションを完全にゼロにすることは不可能です。そのため、AIを過信せず、必ず人間による最終確認（Human-in-the-Loop）を行う運用フローが必須となります。

まとめ

単に「ハルシネーションしないでください」と指示するだけでは、事実誤認のリスクを解消することはできません。重要なのは、否定形ではなく肯定的なルールで指示を出し、前提情報を提供した上で、AIを「草案作成のアシスタント」として活用することです。

本記事で解説した具体的なプロンプト設計、外部データとの連携、そして人間による確実なファクトチェック体制を業務プロセスに組み込むことで、より信頼性の高いAI活用が実現します。適切なリスク管理については、AIリスクマネジメントの実践手順や情報漏洩を防ぐ安全な導入ガイドラインも併せて確認し、安全な運用体制を構築してください。