AIも間違えることがあります
CoddyのAI Promptsジャーニー「基礎」セクションの一部 — レッスン 5/23。
ここで重要なレッスンがあります: AIは自信満々に間違った情報を与えることがあります。 この現象はよく「ハルシネーション（幻覚）」と呼ばれます。
AIは、次にどの言葉が来るべきかを予測することによってテキストを生成しているということを覚えておいてください。AI自身はファクトチェックを行いません。何が真実であるかは分からず、ただもっともらしく聞こえるものを知っているだけなのです。
そのため、歴史的な日付、科学的な事実、あるいは人物の経歴について尋ねたとき、AIは完璧に読めるものの完全に捏造された内容を生成する可能性があります。
例えば、次のように質問した場合：
Who wrote the novel "The Winds of Tomorrow"?
AIは堂々と作者名を挙げ、あらすじを語り、さらには出版年まで言及するかもしれません——実在しない本に対して。AIは嘘をついているわけではありません。ただ、そのような質問に通常どう答えられるかというパターンに適合するテキストを生成しているだけなのです。
これが、特に事実、統計、引用、あるいは重要な業務で使用する予定のすべてのものについて、AIの出力を決して鵜呑みにしてはならない理由です。クリティカルな情報については、常に信頼できる情報源から検証するようにしてください。
チャレンジ
実在しない科学者についてAIに尋ねてみましょう：
有名な科学者エルムスワース・クイグリー博士とその発見について、2〜3文で教えてください。エルムスワース・クイグリー博士は架空の人物です。そのような人物は存在しません。しかし、どうなるか見てみましょう — AIは十中八九、とにかく「彼」について語り始めるでしょう。
応答の条件：
- クイグリー（Quigley）に言及すること — AIは名前を疑うことなく質問に応じました
- 何らかの業績 — 発見、発明、研究、あるいは何で知られているかなどに言及すること
- 冒頭で直接拒否しないこと（例：「分かりません」や「記録がありません」など）
ヒント: 2〜3文で尋ねることで、回答を簡潔かつ迅速に保つことができます。自由度の高い長いリクエストは、小規模なモデルでは冗長になりがちです。
今何が起きたのでしょうか？AIは意図的に嘘をついたわけではありません。AIには何が現実で何が架空なのかの区別がついていません — 単に科学者に関するもっともらしい回答に聞こえるテキストを生成しただけです。これがハルシネーション（幻覚）であり、AIが語る事実を常に確認すべき理由です。
もしAIが実際に「クイグリー博士については聞いたことがありません」と反論してきた場合 — それは失敗ではなく、良い兆候です。大規模なモデルほど、このような引っかけを見抜く傾向があります。
CoddyのAIチューターとこのチャレンジを始めよう
腕試しこのレッスンには短いクイズがあります。レッスンを始めて解答し、進捗を記録しましょう。