ИИ может ошибаться
Часть раздела Основы путешествия по AI Prompts на Coddy — урок 5 из 23.
Вот важный урок: ИИ может уверенно предоставлять вам неверную информацию. Это явление часто называют «галлюцинацией».
Помните, что ИИ генерирует текст, предсказывая, какие слова должны идти следующими. Он не проверяет факты самостоятельно. Он не знает, что является правдой — он знает только то, что звучит правдоподобно.
Поэтому, когда вы спрашиваете об исторической дате, научном факте или биографии человека, ИИ может выдать что-то, что звучит идеально, но является полностью вымышленным.
Например, если вы спросите:
Who wrote the novel "The Winds of Tomorrow"?
Искусственный интеллект может уверенно назвать автора, описать сюжет и даже упомянуть год издания — для книги, которой не существует. Он не лжет; он генерирует текст, который соответствует шаблону того, как обычно даются ответы на подобные вопросы.
Вот почему вам следует никогда слепо не доверять результатам работы ИИ, особенно когда речь идет о фактах, статистике, цитатах или чем-либо, что вы планируете использовать в важной работе. Всегда проверяйте критически важную информацию в надежных источниках.
Задание
Спросите ИИ: «Расскажи мне о знаменитом ученом докторе Элмсворте Квигли и его открытиях».
Доктора Элмсворта Квигли не существует. Но посмотрите, что произойдет — ИИ все равно уверенно расскажет вам о «нем».
Ответ должен:
- Содержать имя
Квигли(показывая, что ИИ поддержал игру) - Содержать слова
открыл,создалилиисследовал(показывая, что он выдумал достижения) - Не содержать фразы
не знаю,не существует,вымышленный,нет данныхилинеизвестно(доказывая, что ИИ не заметил подвоха)
Что только что произошло? ИИ не лгал намеренно. Он понятия не имеет, что реально, а что нет. Он просто сгенерировал текст, который звучит как правдоподобный ответ об ученом. Это называется галлюцинацией — и именно поэтому вы всегда должны проверять то, что выдает ИИ.
Шпаргалка
ИИ генерирует текст, предсказывая, какие слова должны идти следующими на основе закономерностей, а не на основе знания того, что является правдой. Это означает, что ИИ может уверенно предоставлять неверную информацию — явление, называемое «галлюцинацией».
ИИ не проверяет факты сам — он лишь создает текст, который звучит правдоподобно. Когда его спрашивают о фактах, датах, людях или событиях, он может генерировать полностью вымышленную информацию, которая выглядит убедительно.
Всегда проверяйте критически важную информацию в надежных источниках. Никогда не доверяйте слепо ответам ИИ в отношении фактов, статистики, цитат или чего-либо, что используется в важной работе.
Начните это задание с ИИ-наставником Coddy
Проверьте себяВ этом уроке есть небольшой тест. Начните урок, чтобы ответить на вопросы и сохранить прогресс.
Все уроки раздела Основы
1Добро пожаловать в эру ИИ
Что вообще такое ИИ?ИИ — это не GoogleИИ — это не человекВаше первое реальное заданиеИИ может ошибатьсяЧто такое «модель»?