ハルシネーション
ひとことでいうと
AIが、事実ではないことをもっともらしい文章で答えてしまう現象のことです。
もう少し詳しく
AIは意味を理解して答えているのではなく、「この文脈なら次はこの言葉が自然だ」という形で文章を組み立てています。そのため知らないことでも、自然な文章として埋めてしまいます。困るのは、間違いが不自然な文章ではなく、いかにも正しそうな文体で出てくること。社名・数値・日付・URL・法令などは必ず裏取りが必要です。
たとえるなら
話を合わせるのが上手な人が、知らない話題でも自信たっぷりに答えてしまう状態です。口調が自然なので、聞いている側も疑いません。
制作現場ではこんなふうに使います
「AIの下書きはそのまま公開せず、固有名詞と数字は必ずご確認ください」「参考URLも実在しないことがあります」— AI活用時の注意点として必ずお伝えする内容です。
これだけ覚えておけばOK
- 1AIは「正しさ」ではなく「自然さ」で文章を作る
- 2間違いほど自然な文体で出てくる
- 3固有名詞・数字・日付・URLは必ず人が確認する