AI는 사람이 아닙니다

Coddy AI Prompts 여정의 기초 섹션에 포함된 레슨. 23개 중 3번째.

AI를 사람처럼 대하고 싶은 유혹이 생깁니다. AI는 자연어로 글을 쓰고, 질문에 답하며, 심지어 "I think" 또는 "I believe"와 같은 말도 합니다. 하지만 진실은 이렇습니다. AI에게는 생각, 감정 또는 이해가 없습니다.

AI가 "기꺼이 도와드리겠습니다"라고 말할 때, 실제로 행복을 느끼는 것은 아닙니다. AI가 "귀하의 우려를 이해합니다"라고 쓸 때도 실제로 무언가를 이해하는 것은 아닙니다.

이것들은 그저 패턴입니다. 유용한 응답에 흔히 나타나는 문구입니다. AI는 사람들이 이러한 표현에 긍정적으로 반응한다는 것을 학습했기 때문에 이를 사용합니다.

이는 프롬프트 엔지니어링에서 중요합니다. AI가 여러분의 의도를 “이해할” 것이라고 기대해서는 안 되기 때문입니다. AI는 행간의 의미를 읽거나 미묘한 힌트를 알아차리지 못합니다.

다음과 같이 작성하면:

You know what I mean, right?

AI는 사용자의 의도를 진정으로 이해해서가 아니라, 그것이 예상되는 응답이기 때문에 "yes"라고 말할 것입니다.

대신 명확하게 표현하세요. 공유된 맥락이나 상식이 있다고 가정하지 마세요. AI는 여러분의 의도가 아니라 정확히 작성한 단어를 처리합니다. 프롬프트가 더 명확하고 직접적일수록 결과도 더 좋아집니다.

챌린지

AI에게 바나나를 설명해 달라고 요청하되, 그 바나나가 슬픈 상태라고 말하세요.

응답에는 다음이 포함되어야 합니다:

단어 바나나
슬픔을 나타내는 단어(예: 슬픈)

검색 엔진이라면 영양 정보를 제공할 것입니다. AI는 슬픔을 이해해서가 아니라, 사용자가 제시한 프레임을 맹목적으로 따르기 때문에 기꺼이 슬픈 바나나를 설명합니다. AI는 멈춰서 "잠깐, 바나나는 슬퍼할 수 없잖아"라고 생각하지 않습니다. 그저 사용자가 제공한 패턴에 맞는 텍스트를 생성할 뿐입니다.

프롬프트를 한국어로 작성하세요. 검사는 응답에 바나나를 뜻하는 단어와 슬픔을 나타내는 단어(예: 슬픈)가 포함되어 있는지 확인합니다.