AI는 사람이 아닙니다
Coddy AI Prompts 여정의 기초 섹션에 포함된 레슨. 23개 중 3번째.
AI를 사람처럼 대하고 싶은 유혹이 들 수 있습니다. AI는 자연어로 글을 쓰고, 질문에 답하며, 심지어 "제 생각에는"이나 "저는 믿습니다" 같은 말도 합니다. 하지만 사실은 이렇습니다. AI에게는 생각이나 감정, 이해력이 없습니다.
AI가 "기꺼이 도와드리겠습니다"라고 말해도 행복을 느끼는 것은 아닙니다. "걱정하시는 점을 이해합니다"라고 써도 실제로 무언가를 이해하는 것은 아닙니다.
이것들은 그저 패턴일 뿐입니다. 도움이 되는 응답에 흔히 등장하는 문구입니다. AI는 사람들이 이러한 표현에 긍정적으로 반응한다는 것을 학습했기 때문에 이를 사용합니다.
프롬프트 엔지니어링에서 이 점이 중요한 이유는 AI가 당신의 의도를 알아서 "이해할" 것이라고 기대해서는 안 되기 때문입니다. AI는 행간을 읽거나 미묘한 힌트를 알아차리지 못합니다.
다음과 같이 쓴다면:
You know what I mean, right?
AI는 여러분의 의도를 실제로 이해했기 때문이 아니라, 예상되는 응답이기 때문에 "yes"라고 말할 것입니다.
대신 명확하게 표현하세요. 서로 같은 맥락을 공유하거나 상식이 통한다고 가정하지 마세요. AI는 여러분의 의도가 아니라 정확히 적은 말을 처리합니다. 프롬프트가 더 명확하고 직접적일수록 더 좋은 결과를 얻을 수 있습니다.
챌린지
AI에게 바나나를 묘사해 달라고 요청하되, 그 바나나가 슬프다고 말하세요.
응답에는 다음이 포함되어야 합니다:
- 바나나라는 단어
- 슬프다는 표현
검색 엔진이라면 영양 정보를 알려 줄 것입니다. AI는 슬픈 바나나를 기꺼이 묘사합니다. 슬픔을 이해해서가 아니라, 사용자가 제시한 관점을 맹목적으로 따르기 때문입니다. AI는 "잠깐, 바나나는 슬퍼할 수 없잖아"라고 멈춰 생각하지 않습니다. 그저 사용자가 제시한 패턴에 맞는 텍스트를 생성할 뿐입니다.
프롬프트를 영어로 작성하세요. 응답에 바나나와 슬프다는 표현이 있는지 확인합니다.
실력 점검이 레슨에는 짧은 퀴즈가 포함되어 있습니다. 레슨을 시작해 문제를 풀고 진행 상황을 기록하세요.