확신한다고 맞는 것은 아니다

막대는 AI가 가중치를 어떻게 나누었는지를 보여 주며, 얼마나 자주 정답을 맞히는지를 보여 주는 것은 아닙니다. 작은 모델은 근거가 될 만한 텍스트가 전혀 없어도 확신에 차 있는 경우가 많습니다.

지원 라우터는 안녕하세요, 거기 누구 있나요?라는 메시지를 받습니다.

billing   ░░░░░░░░░░░░░░░░░░░░   0%
shipping  ░░░░░░░░░░░░░░░░░░░░   0%
tech      ████████████████████ 100%

요청이 전혀 없는데도 한 팀이 거의 모든 것을 가져갑니다.

그러니 신뢰도를 힌트로 여기세요. 상단 막대가 낮으면 유용한 경고입니다. 높다고 해서 반드시 그렇다는 보장은 없습니다. 질문을 신뢰하기 전에 이상한 메시지를 포함해 실제 메시지로 테스트하세요.