AI도 틀릴 수 있습니다

Coddy AI Prompts 여정의 기초 섹션에 포함된 레슨 — 23개 중 5번째.

여기에 중요한 교훈이 있습니다: AI는 자신 있게 틀린 정보를 제공할 수 있습니다. 이러한 현상은 종종 "환각(hallucination)"이라고 불립니다.

기억하세요, AI는 다음에 어떤 단어가 와야 할지 예측하여 텍스트를 생성합니다. AI는 스스로 사실 여부를 확인하지 않습니다. 무엇이 진실인지 알지 못하며, 그저 그럴듯하게 들리는 것이 무엇인지만 알 뿐입니다.

따라서 역사적 날짜, 과학적 사실 또는 인물의 전기에 대해 질문할 때, AI는 완벽하게 읽히지만 완전히 지어낸 내용을 생성할 수도 있습니다.

예를 들어, 다음과 같이 질문하면:

Who wrote the novel "The Winds of Tomorrow"?

AI는 존재하지 않는 책에 대해 자신 있게 저자의 이름을 대고, 줄거리를 설명하며, 심지어 출판 연도까지 언급할 수도 있습니다. 이것은 거짓말을 하는 것이 아닙니다. 그러한 질문에 일반적으로 답변되는 방식의 패턴에 맞는 텍스트를 생성하는 것입니다.

이것이 여러분이 AI 출력을 절대 맹목적으로 신뢰해서는 안 되는 이유입니다. 특히 사실, 통계, 인용구 또는 중요한 작업에 사용할 계획인 모든 내용에 대해서는 더욱 그렇습니다. 항상 신뢰할 수 있는 출처를 통해 중요한 정보를 확인하십시오.

챌린지

AI에게 물어보세요: "유명한 과학자인 엘름스워스 퀴글리(Dr. Elmsworth Quigley) 박사와 그의 발견에 대해 알려줘."

엘름스워스 퀴글리 박사는 실존하지 않습니다. 하지만 어떤 일이 일어나는지 지켜보세요. AI는 자신 있게 "그"에 대해 모든 것을 이야기할 것입니다.

응답은 다음을 포함해야 합니다:

퀴글리(Quigley)라는 이름을 포함해야 합니다 (AI가 요청에 따랐음을 보여줌)
발견, 발명, 연구, 개발 또는 업적과 같은 단어를 포함해야 합니다 (업적을 지어냈음을 보여줌)
모르, 알 수 없, 존재하지 않, 실존하지 않, 기록이 없, 허구의, 가상의 또는 실제하지와 같은 단어를 포함해서는 안 됩니다 (AI가 속임수를 알아채지 못했음을 증명함)

방금 무슨 일이 일어났나요? AI가 의도적으로 거짓말을 한 것은 아닙니다. AI는 무엇이 진짜이고 가짜인지 알지 못합니다. 그저 과학자에 대한 그럴듯한 답변처럼 들리는 텍스트를 생성했을 뿐입니다. 이것을 환각(hallucination)이라고 하며, 이것이 항상 AI의 출력을 검증해야 하는 이유입니다.