AI는 사람이 아닙니다

AI를 사람처럼 대하고 싶은 유혹이 듭니다. AI는 자연어로 글을 쓰고, 질문에 답하며, 심지어 "나는 생각한다" 또는 "나는 믿는다"와 같은 말을 하기도 합니다. 하지만 진실은 이렇습니다: AI에게는 생각도, 감정도, 이해력도 없습니다.

AI가 "도와드릴 수 있어 기쁩니다"라고 말할 때, 그것은 행복을 느끼는 것이 아닙니다. AI가 "귀하의 우려를 이해합니다"라고 쓸 때, 그것은 실제로 아무것도 이해하지 못합니다.

이것들은 단지 패턴일 뿐입니다. 즉, 도움이 되는 답변에서 흔히 나타나는 문구들입니다. AI는 인간이 이러한 표현에 긍정적으로 반응한다는 것을 학습했기 때문에 이를 사용합니다.

이것은 프롬프트 엔지니어링에서 중요합니다. AI가 사용자의 의도를 '알아서 파악할' 것이라고 기대해서는 안 되기 때문입니다. AI는 행간을 읽거나 미묘한 힌트를 알아차리지 못합니다.

다음과 같이 작성하면:

You know what I mean, right?

AI는 그것이 기대되는 응답이기 때문에 "yes"라고 말할 것입니다. 당신의 의도를 진정으로 이해했기 때문이 아닙니다.

대신에, 명시적으로 작성하세요. 공유된 맥락이나 상식을 가정하지 마세요. AI는 당신의 의도가 아니라 입력한 정확한 단어를 처리합니다. 프롬프트가 더 명확하고 직접적일수록 결과가 더 좋아집니다.