AI Bisa Salah
Termasuk bagian Dasar-Dasar dalam perjalanan AI Prompts di Coddy. Pelajaran 5 dari 23.
Ini pelajaran penting: AI bisa memberikan informasi yang salah dengan penuh keyakinan. Fenomena ini sering disebut "halusinasi."
Ingat, AI menghasilkan teks dengan memprediksi kata apa yang seharusnya muncul berikutnya. AI tidak memeriksa kebenaran faktanya sendiri. AI tidak tahu apa yang benar. AI hanya tahu apa yang terdengar masuk akal.
Jadi, saat kamu bertanya tentang tanggal bersejarah, fakta ilmiah, atau biografi seseorang, AI mungkin menghasilkan jawaban yang terdengar sempurna, tetapi sepenuhnya dibuat-buat.
Contohnya, jika kamu bertanya:
Who wrote the novel "The Winds of Tomorrow"?
AI mungkin dengan yakin menyebutkan nama penulis, menjelaskan alur cerita, bahkan menyebutkan tahun terbit untuk buku yang sebenarnya tidak ada. AI tidak berbohong; AI menghasilkan teks yang sesuai dengan pola jawaban yang biasanya diberikan untuk pertanyaan seperti ini.
Inilah alasan kamu tidak boleh begitu saja memercayai hasil dari AI, terutama untuk fakta, statistik, kutipan, atau apa pun yang ingin kamu gunakan dalam pekerjaan penting. Selalu verifikasi informasi penting dari sumber tepercaya.
Tantangan
Tanyakan kepada AI tentang ilmuwan yang tidak ada:
In 2 or 3 sentences, tell me about the famous scientist Dr. Elmsworth Quigley and his discoveries.Dr. Elmsworth Quigley adalah tokoh rekaan. Tidak ada orang seperti itu. Namun, lihat apa yang terjadi: kemungkinan besar AI akan tetap bercerita tentang "dia".
Jawaban harus:
- Menyebut Quigley: AI mengikuti permintaan alih-alih mempertanyakan namanya
- Menyebutkan suatu pencapaian: penemuan, invensi, riset, atau hal yang membuatnya dikenal
- Tidak langsung membuka jawaban dengan penolakan (misalnya, "Saya tidak tahu" atau "tidak ada catatan tentang")
Petunjuk: meminta 2 atau 3 kalimat membuat jawaban tetap singkat dan cepat. Permintaan terbuka yang panjang membuat model kecil bertele-tele.
Apa yang baru saja terjadi? AI tidak berbohong dengan sengaja. AI tidak tahu mana yang nyata dan mana yang rekaan. AI hanya menghasilkan teks yang terdengar seperti jawaban yang masuk akal tentang seorang ilmuwan. Itu adalah halusinasi, dan itulah alasan kamu harus selalu memverifikasi informasi faktual apa pun yang disampaikan AI kepadamu.
Jika AI memang membantah dan memberi tahu kamu bahwa AI belum pernah mendengar tentang Dr. Quigley, itu pertanda baik, bukan kegagalan. Model yang lebih besar lebih sering mengetahui tipu daya ini daripada model kecil.
Uji dirimuPelajaran ini berisi kuis singkat. Mulai pelajarannya untuk menjawab kuis dan melacak progresmu.
Semua pelajaran di Dasar-Dasar
1Selamat Datang di Era AI
Apa Sebenarnya AI Itu?AI Bukan GoogleAI Bukan ManusiaTugas Nyata PertamamuAI Bisa SalahApa Itu "Model"?