Yakin Bukan Berarti Benar

Batang menunjukkan bagaimana AI membagi bobotnya, bukan seberapa sering AI menjawab dengan benar. Model kecil sering kali sangat yakin, bahkan ketika teks tidak memberi mereka dasar apa pun.

Sebuah perutean dukungan menerima pesan Halo, apakah ada orang di sana?

billing   ░░░░░░░░░░░░░░░░░░░░   0%
shipping  ░░░░░░░░░░░░░░░░░░░░   0%
tech      ████████████████████ 100%

Sama sekali tidak ada permintaan, tetapi satu tim menerima hampir semuanya.

Jadi, anggap tingkat keyakinan sebagai petunjuk. Bilah atas yang rendah adalah peringatan yang berguna. Bilah yang tinggi bukanlah jaminan. Uji pertanyaanmu pada pesan sungguhan, termasuk pesan yang aneh, sebelum kamu memercayainya.