ハルシネーション

ハルシネーション(hallucination)とは、生成系AIなどの人工知能が現実や事実に基づかない情報を生成する現象のこと。まるで人工知能が幻覚(ハルシネーション)を見ているように事実とは異なる「もっともらしい嘘」を出力することである。

生成系AIでは人間の入力に対して回答を出力するが、どのような学習データが用いられたのかがわからなければその真偽の判断は人間には困難になる。

例えば、人工知能が学習に用いたデータとは異なる事実を出力したり、学習に用いたデータには存在しない事実を出力することもある。

「ChatGPT」などの生成系AIが広く利用され始めてから注目されるようになった。