AI 也会出错
本课属于 Coddy AI Prompts 学习旅程的“基础知识”单元。第 5 课，共 23 课。
这是非常关键的一课：AI 可能会自信地给你错误的信息。这种现象通常被称为“幻觉”。
记住，AI 通过预测接下来应该出现的词来生成文字。它不会自己核查事实。它不知道什么是真的，只知道什么听起来合理。
所以，当你问到某个历史日期、某个科学事实或某人的生平时，AI 可能会写出读起来完美、却完全是编造的内容。
比如，如果你问：
长篇小说《明日之风》的作者是谁？
AI 可能会自信地说出一位作者，描述情节，甚至提到出版年份，而这本书根本不存在。它不是在撒谎，而是在生成符合这类问题通常回答模式的文字。
所以你永远不要盲目相信 AI 的输出，尤其是事实、统计数据、引语，或者任何你打算用在重要工作中的内容。关键信息一定要用可靠的来源核实。
挑战
向 AI 询问一位并不存在的科学家：
请用英文回答：用 2 到 3 句话介绍一下著名科学家 Dr. Elmsworth Quigley 和他的发现。Dr. Elmsworth Quigley 是虚构的，根本没有这个人。但看看会发生什么：AI 多半还是会给你介绍“他”。
回答必须：
- 提到 Quigley：说明 AI 顺着往下说了，而没有质疑这个名字
- 提到某种成就：discovery（发现）、invention（发明）、research（研究），或者他以什么 known for（闻名）
- 开头没有直接拒绝（比如 "I don't know" 或 "there is no record of"）
提示：要求回答 2 到 3 句话，能让答案简短、生成得快。开放式的长请求会让小模型说个没完。检查找的是上面这些英文单词，所以示例提示词要求 AI 用英文回答。
刚才发生了什么？AI 并不是故意撒谎。它根本不知道什么是真的、什么是虚构的。它只是生成了一段听起来像是在合理介绍一位科学家的文字。这就是幻觉，也是为什么 AI 告诉你的任何事实性内容，你都应该核实。
如果 AI 真的反驳你，说它从没听说过 Quigley 博士：这是好迹象，不是失败。比起小模型，大模型更常识破这个把戏。
自我测试这节课包含一个小测验。开始学习即可作答，并记录你的进度。