ハルシネーション
ハルシネーションは、生成AIが事実と異なる内容や実在しない情報、存在しない出典などを、あたかも正しいかのようにもっともらしく出力してしまう現象のことです。
総務省のウェブサイトで公表されている「AI事業者ガイドライン」（2026年9月時点の最新は2026年3月31日公表の第1.2版）の別添では、生成AIが事実と異なることをもっともらしく回答するハルシネーションについて、AIの開発者や提供者が訴えられた事例も紹介されています。
生成AIを使ったサービスでは、出力が誤りうることを前提に設計する必要があります。具体的には、RAGで信頼できる情報源を参照させる、回答に根拠を示す、重要な判断には人の確認を挟む、利用規約や画面で注意を示す、といった対策があります。とくに医療、法律、金融など誤りの影響が大きい分野では、慎重な検討が欠かせません。
参考資料
「ハルシネーション」が出てくる記事
この用語が出てくる記事はまだありません。