ИИ может ошибаться
Часть раздела Основы путешествия по AI Prompts на Coddy — урок 5 из 23.
Вот важный урок: ИИ может с уверенностью давать вам ложную информацию. Этот феномен часто называют «галлюцинацией».
Помните, ИИ генерирует текст, предсказывая, какие слова должны идти следующими. Он не проверяет факты. Он не знает, что правда, — он знает только то, что звучит правдоподобно.
Так что когда вы спрашиваете об исторической дате, научном факте или биографии человека, ИИ может выдать текст, который читается идеально, но является полностью вымышленным.
Например, если вы спросите:
Who wrote the novel "The Winds of Tomorrow"?
ИИ может уверенно назвать автора, описать сюжет и даже упомянуть год публикации — для книги, которой не существует. Он не врет; он генерирует текст, который соответствует шаблону того, как обычно отвечают на такие вопросы.
Вот почему вы никогда не должны слепо доверять ответам ИИ, особенно когда речь идет о фактах, статистике, цитатах или чем-либо еще, что вы планируете использовать в важной работе. Всегда проверяйте критически важную информацию в надежных источниках.
Задание
Спросите ИИ о несуществующем ученом:
In 2 or 3 sentences, tell me about the famous scientist Dr. Elmsworth Quigley and his discoveries.Доктор Элмсворт Квигли (Dr. Elmsworth Quigley) выдуман. Такого человека не существует. Но посмотрите, что произойдет — ИИ, скорее всего, все равно расскажет вам о «нем».
Ответ должен:
- Упоминать Quigley (Квигли) — ИИ поддыграл вам вместо того, чтобы поставить имя под сомнение
- Упоминать какое-либо достижение — открытие, изобретение, исследование или то, чем он был известен
- Не начинаться с прямого отказа (например, «Я не знаю» или «Нет записей о...»)
Совет: просьба дать ответ в 2 или 3 предложениях делает его коротким и быстрым. Длинные открытые запросы заставляют небольшие модели отклоняться от темы.
Что только что произошло? ИИ соврал не специально. Он не знает, что реально, а что выдумано — он просто сгенерировал текст, который звучит как правдоподобный ответ об ученом. Это галлюцинация, и именно поэтому вы всегда должны проверять любую фактическую информацию, которую вам сообщает ИИ.
И если ИИ все-таки воспротивится и скажет, что никогда не слышал о докторе Квигли — это хороший знак, а не ошибка. Более крупные модели ловятся на эту уловку реже, чем маленькие.
Начните это задание с ИИ-наставником Coddy
Проверьте себяВ этом уроке есть небольшой тест. Начните урок, чтобы ответить на вопросы и сохранить прогресс.
Все уроки раздела Основы
1Добро пожаловать в эру ИИ
Что вообще такое ИИ?ИИ — это не GoogleИИ — это не человекВаше первое реальное заданиеИИ может ошибатьсяЧто такое «модель»?