倫理・安全
ハルシネーション
LLM がもっともらしい嘘・事実誤認を生成する現象。
詳しい解説
存在しない論文を引用したり、間違った日付を書いたり、API の仕様を捏造したりする LLM の典型的な失敗モード。確率的に「それっぽい」続きを出す仕組み上、完全に消すのは難しい。対策は RAG での根拠提示、引用必須化、ファクト検証ツール併用など。
別表記
ハルシネーションhallucination幻覚
LLM がもっともらしい嘘・事実誤認を生成する現象。
存在しない論文を引用したり、間違った日付を書いたり、API の仕様を捏造したりする LLM の典型的な失敗モード。確率的に「それっぽい」続きを出す仕組み上、完全に消すのは難しい。対策は RAG での根拠提示、引用必須化、ファクト検証ツール併用など。