ハルシネーションとは何ですか？

ハルシネーションとは、生成AIが事実とは異なる情報や存在しない事象を作り出してしまう現象です。生成AIは、事実の中に自然な形で嘘を混ぜ込むため、誤情報に気づかず信じてしまうケースもあります。

ハルシネーションには「Intrinsic Hallucinations（内在的ハルシネーション）」と「Extrinsic Hallucinations（外在的ハルシネーション）」の2種類があります。前者は学習データと矛盾する内容を出力するもので、後者は学習データに存在しない内容を回答として出力するものです。現在の技術ではハルシネーションの発生を完全に防ぐことは困難といわれ、生成AIを利用する際は注意が必要です。
詳しい内容は「ハルシネーションとは」をご覧ください。