ハルシネーション対策には、具体的で明確なプロンプトの作成や、人によるファクトチェックの徹底、RAG技術の導入などが有効です。これらの対策を組み合わせることで、ハルシネーションの発生確率を下げ、誤情報の利用リスクを最小限に抑えられます。
さらに、生成AIを業務システムやアプリケーション開発に組み込む場合には、ハルシネーションによる誤ったコードや設定がセキュリティリスクにつながる可能性があります。そのため、出力結果を検証するだけでなく、脆弱性診断によってシステム全体の安全性を確認することが重要です。
主な対策として、以下の5つの項目が推奨されます。
- プロンプトの指示内容を明確にする
主語や年代を具体的に示し、情報がない場合には「情報なし」と回答するよう指示します。AIが不正確な補完を行う隙をなくすことで、回答の信頼性が高まります。 - 必ずファクトチェックを行う
AIの回答を鵜呑みにせず、常に事実確認を行う体制を整えます。個人任せにせず、法務などの専門部署によるダブルチェックをルール化することが効果的です。 - RAGを活用した生成AIを使う
RAG（検索拡張生成）とは、外部の信頼できる情報源を検索して回答を生成する技術です。根拠となるソースが提示されるため、回答精度の向上と管理の容易化を実現できます。 - ガイドラインやマニュアルを作成する
生成AIの利用範囲をアイデア出しなどの補助業務に限定し、リスクの高い公式文書作成などは制限します。 - 脆弱性診断を実施する
AIが生成したコードなどに潜むセキュリティ上の弱点を、網羅的な検査で洗い出します。
各対策の詳しい実施方法については、「ハルシネーションによるトラブルへの対策」で解説しています。
