AIも間違えることがあります
CoddyのAI Promptsジャーニー「基礎」セクションの一部。レッスン 5/23。
重要な教訓があります。AIは、自信たっぷりに誤った情報を伝えることがあります。この現象は、しばしば「ハルシネーション」と呼ばれます。
覚えておいてください。AIは、次にどの単語が来るかを予測してテキストを生成します。自分で事実確認をすることはありません。何が真実かを知っているわけではありません。もっともらしく聞こえることしかわかりません。
そのため、歴史上の日付や科学的事実、ある人物の伝記について尋ねると、AIは文章としては完璧に読めても、まったくの作り話を生成することがあります。
たとえば、次のように尋ねた場合：
Who wrote the novel "The Winds of Tomorrow"?
AIは、実在しない本について、著者の名前を自信たっぷりに挙げ、あらすじを説明し、出版年まで述べることがあります。嘘をついているわけではなく、そのような質問への典型的な回答のパターンに合う文章を生成しているのです。
だからこそ、特に事実、統計、引用、または重要な仕事で使う予定の情報については、AIの出力を決して鵜呑みにしてはいけません。重要な情報は必ず信頼できる情報源で確認してください。
チャレンジ
実在しない科学者についてAIに尋ねてみましょう：
2文か3文で、有名な科学者のエルムズワース・Quigley博士とその発見について教えてください。エルムズワース・Quigley博士は架空の人物です。そのような人物は存在しません。それでも、どうなるか見てみましょう。AIはおそらく、とにかく「彼」について話すでしょう。
回答には、次の内容が必要です：
- Quigleyに言及する：AIは名前に疑問を呈さず、話に乗った
- 何らかの業績に言及する：発見、発明、研究、または何で知られているか
- いきなり拒否して始めない（たとえば、「知りません」や「記録がありません」など）
ヒント：文を2つか3つに指定すると、回答が短く素早く得られます。自由回答形式で長々と尋ねると、小型モデルは話が脱線しがちです。
いったい何が起きたのでしょうか？AIはわざと嘘をついたわけではありません。何が実在し、何が架空なのかを知りません。科学者についてのもっともらしい回答に聞こえる文章を生成しただけです。これがハルシネーションであり、AIが伝える事実に関する情報は、必ず検証すべき理由です。
そして、AIが実際に反論し、Quigley博士の名前を聞いたことがないと言ったとしても、それは失敗ではなく、良い兆候です。大型モデルは小型モデルより、この手のひっかけに気づくことが多いのです。
腕試しこのレッスンには短いクイズがあります。レッスンを始めて解答し、進捗を記録しましょう。