Yapay Zeka Bir İnsan Değildir

Yapay zekâyı bir insan gibi görmek cazip gelebilir. Doğal dilde yazar, soruları yanıtlar ve hatta “Bence” ya da “İnanıyorum ki” gibi şeyler söyler. Ama gerçek şu: Yapay zekânın düşünceleri, duyguları veya anlayışı yoktur.

Yapay zekâ "Yardımcı olmaktan mutluluk duyarım" dediğinde mutluluk hissetmez. "Endişenizi anlıyorum" yazdığında da aslında hiçbir şeyi anlamaz.

Bunlar yalnızca kalıplardır: yardımcı yanıtların içinde sıkça görülen ifadeler. Yapay zekâ, insanların bu ifadelere olumlu yanıt verdiğini öğrendiği için bunları kullanır.

İstem mühendisliği açısından bu önemlidir; çünkü yapay zekânın ne demek istediğini “anlamasına” güvenmemelisin. Satır aralarını okumaz veya ince ipuçlarını fark etmez.

Şunu yazarsan:

You know what I mean, right?

Yapay zekâ, niyetinizi gerçekten anladığı için değil, beklenen yanıt bu olduğu için "yes" diyecektir.

Bunun yerine açık olun. Ortak bir bağlamı veya sağduyuyu varsaymayın. Yapay zekâ niyetlerinizi değil, tam olarak yazdığınız kelimeleri işler. İsteminiz ne kadar açık ve doğrudan olursa sonuçlarınız da o kadar iyi olur.