ハルシネーションが起きるのはなぜですか？

ハルシネーションが起きる主な原因として、生成AIが学習するデータの質や量、そして人間からの指示の仕方の2点が挙げられます。学習データが不足していたり内容に偏りがあったりすると、生成AIは知識不足を補おうと不正確な情報を生成しやすくなるのです。

また、生成AIはユーザーからの曖昧な質問や矛盾を含む指示を正確に理解できないため、文脈から答えを推測しようとします。その結果、事実とは異なるもっともらしい回答を出力してしまうことがあります。

詳しい内容は「ハルシネーションが起こる原因」をご覧ください。