ハルシネーションとは
ハルシネーション（幻覚：Hallucination）とは、AI（特にLLM）が事実と異なる情報を、あたかも正確であるかのように生成してしまう現象のことです。AIの信頼性を大きく左右する課題として、実務活用において最も注意すべき特性の一つです。
ハルシネーションが起きる仕組み
LLMは「次に来る確率の高いトークン（単語）」を予測するモデルであり、「真実を述べる」ようには設計されていません。学習データにない情報を求められると、もっともらしい表現で「でたらめ」を生成してしまうことがあります。存在しない論文や人物、架空の統計データなどが典型的な例です。
ハルシネーションの具体的リスク
法律・医療・財務情報でのハルシネーションは深刻な実害につながりえます。企業が生成AIで作成したコンテンツをそのまま公開すると、誤情報の拡散や信頼失墜のリスクがあります。
ハルシネーション対策
①一次情報での必須確認、②RAG（検索拡張生成）による事実ベースの回答設計、③重要度に応じた人間レビューの義務化、④AI利用ガイドラインの整備が主な対策です。「AIの出力は草稿」という前提で運用することが実務の基本です。
