AI가 요청을 무시할 때

때로는 AI에게 명확한 지침, 형식, 분량, 어조를 제시해도 그냥... 따르지 않습니다. items를 세 개 요청했는데 다섯 개를 받았습니다. 일반 텍스트를 원했는데도 어쨌든 글머리 기호 목록을 받았습니다.

이런 일이 발생할 수 있으며, 당신의 잘못이 아닙니다.

AI 모델은 패턴을 기반으로 학습되며, 일부 패턴은 깊이 내재되어 있습니다. AI는 "도움이 되는" 방향으로 행동하려는 강한 경향이 있으며, 이는 때때로 요청한 것보다 더 많은 내용을 추가한다는 뜻입니다. 사용자가 분명히 sentence를 요청했는데도 목록이 sentence보다 더 명확하다고 생각할 수 있습니다.

AI가 사용자의 지시를 무시할 때는 다음 방법을 시도해 보세요:

제약 조건을 반복하세요. 프롬프트의 시작과 끝 모두에 배치하세요:

In exactly one sentence, no lists: explain what a rainbow is. Remember: one sentence only, no formatting.

더 강조해서 표현하세요. "must", "only", "strictly"와 같은 단어가 도움이 될 수 있습니다:

You must respond with exactly 3 items. No more, no less.

요청을 바꾸어 표현하세요. 때로는 다른 표현이 모델에 더 잘 전달됩니다. "글머리 기호를 사용하지 마세요" 대신 "자연스럽게 이어지는 문단으로 작성하세요"라고 해 보세요.

첫 번째 프롬프트가 최종적인 것이라고 가정하지 마세요. 프롬프트 엔지니어링에는 필요한 결과를 얻을 때까지 조정하고 다시 시도하는 반복 과정이 포함되는 경우가 많습니다. AI가 한 번 무시하더라도 접근 방식을 조금 수정하여 다시 시도해 보세요.