ИИ — это не человек

Часть раздела Основы путешествия по AI Prompts на Coddy. Урок 3 из 23.

Соблазнительно относиться к ИИ как к человеку. Он пишет на естественном языке, отвечает на вопросы и даже говорит такие вещи, как «Я думаю» или «Я считаю». Но вот правда: у ИИ нет мыслей, чувств или понимания.

Когда ИИ говорит: «Я рад помочь», он не испытывает радости. Когда он пишет: «Я понимаю вашу обеспокоенность», он на самом деле ничего не понимает.

Это всего лишь шаблоны: фразы, которые часто встречаются в полезных ответах. ИИ узнал, что люди хорошо реагируют на эти выражения, поэтому использует их.

Это важно для разработки промптов, потому что не стоит полагаться на то, что ИИ «поймёт», что вы имеете в виду. Он не будет читать между строк или улавливать тонкие намёки.

Если вы напишете:

You know what I mean, right?

ИИ скажет «yes», потому что это ожидаемый ответ, а не потому, что он действительно понял ваше намерение.

Вместо этого формулируйте явно. Не рассчитывайте на общий контекст или здравый смысл. ИИ обрабатывает ваши точные слова, а не ваши намерения. Чем яснее и прямее ваш запрос, тем лучше будут результаты.

Задание

Попросите ИИ описать банан, но скажите ему, что банан грустный.

Ответ должен содержать:

Слово банан
Слово грустный

Поисковая система сообщила бы вам пищевую ценность. ИИ охотно опишет грустный банан не потому, что он понимает грусть, а потому, что бездумно следует заданной вами формулировке. Он не останавливается и не думает: «Подождите, бананы не могут быть грустными». Он просто генерирует текст, соответствующий заданному вами шаблону.

Напишите свой запрос на русском языке: проверка ищет в ответе слова банан и грустный.