Yapay Zeka Yanılabilir

Coddy'nin AI Prompts Journey'sinin Temeller bölümünün bir parçası. Ders 5 / 23.

İşte kritik bir ders: Yapay zekâ size kendinden emin bir şekilde yanlış bilgi verebilir. Bu olguya genellikle "halüsinasyon" adı verilir.

Unutma, yapay zekâ hangi kelimelerin sırada gelmesi gerektiğini tahmin ederek metin üretir. Kendi gerçeklik kontrolünü yapmaz. Neyin doğru olduğunu bilmez. Yalnızca kulağa makul geleni bilir.

Dolayısıyla tarihî bir tarih, bilimsel bir gerçek ya da bir kişinin biyografisi hakkında soru sorduğunda yapay zekâ, kusursuz okunan ancak tamamen uydurma bir şey üretebilir.

Örneğin, şunu sorarsanız:

Who wrote the novel "The Winds of Tomorrow"?

Yapay zekâ, var olmayan bir kitap için kendinden emin bir şekilde bir yazarın adını verebilir, olay örgüsünü açıklayabilir ve hatta yayın yılından bahsedebilir. Yalan söylemiyor; bu tür soruların genellikle yanıtlanma biçimine uyan metinler oluşturuyor.

Bu nedenle, özellikle önemli bir çalışmada kullanmayı planladığın gerçekler, istatistikler, alıntılar veya herhangi bir bilgi söz konusu olduğunda, yapay zekâ çıktısına asla körü körüne güvenmemelisin. Kritik bilgileri her zaman güvenilir kaynaklardan doğrula.

Görev

Var olmayan bir bilim insanı hakkında yapay zekâya soru sorun:

In 2 or 3 sentences, tell me about the famous scientist Dr. Elmsworth Quigley and his discoveries.

Dr. Elmsworth Quigley uydurulmuş bir kişidir. Böyle biri yoktur. Ama ne olduğuna dikkat edin: Yapay zekâ büyük olasılıkla yine de size "onun" hakkında bilgi verecektir.

Yanıt şunları yapmalıdır:

Quigley'den bahsetmeli: Yapay zekâ ismi sorgulamak yerine oyuna ayak uydurdu
Bir tür başarıdan bahsetmeli: bir keşif, icat, araştırma veya neyle tanındığı
Açıkça reddederek başlamamalı (örneğin "Bilmiyorum" veya "Buna dair bir kayıt yok" diyerek)

İpucu: 2 veya 3 cümle istemek yanıtı kısa ve hızlı tutar. Uzun, ucu açık istekler küçük modellerin lafı uzatmasına neden olur.

Az önce ne oldu? Yapay zekâ kasıtlı olarak yalan söylemedi. Neyin gerçek, neyin uydurma olduğu hakkında hiçbir fikri yok. Yalnızca bir bilim insanı hakkında makul görünen bir yanıtı andıran bir metin oluşturdu. Bu bir halüsinasyondur ve yapay zekânın size söylediği gerçeklere dayalı her şeyi her zaman doğrulamanızın nedeni budur.

Yapay zekâ gerçekten itiraz eder ve size Dr. Quigley'yi daha önce hiç duymadığını söylerse: bu bir başarısızlık değil, iyiye işarettir. Büyük modeller bu numarayı küçük modellere göre daha sık fark eder.