Yapay Zeka Yanılabilir
Coddy'nin AI Prompts Journey'sinin Temel Kavramlar bölümünün bir parçası. Ders 5 / 23.
İşte önemli bir ders: Yapay zekâ size kendinden emin bir şekilde yanlış bilgi verebilir. Bu olguya genellikle “halüsinasyon” denir.
Unutma, yapay zekâ sırada hangi kelimelerin gelmesi gerektiğini tahmin ederek metin üretir. Kendi kendini doğrulamaz. Neyin doğru olduğunu bilmez. Yalnızca neyin kulağa makul geldiğini bilir.
Dolayısıyla tarihî bir tarih, bilimsel bir gerçek ya da bir kişinin biyografisi hakkında soru sorduğunda, yapay zekâ kulağa kusursuz gelen ama tamamen uydurma bir yanıt verebilir.
Örneğin, şunu sorarsan:
Who wrote the novel "The Winds of Tomorrow"?
Yapay zekâ, var olmayan bir kitap için kendinden emin bir şekilde yazarın adını söyleyebilir, konuyu anlatabilir ve hatta yayın yılından bahsedebilir. Yalan söylemiyor; bu tür soruların genellikle nasıl yanıtlandığına uyan metinler üretiyor.
Bu nedenle, özellikle olgular, istatistikler, alıntılar veya önemli bir işte kullanmayı planladığınız herhangi bir şey söz konusu olduğunda, AI çıktısına asla körü körüne güvenmemelisiniz. Kritik bilgileri her zaman güvenilir kaynaklardan doğrulayın.
Görev
Yapay zekâya var olmayan bir bilim insanını sorun:
Bana ünlü bilim insanı Dr. Elmsworth Quigley ve keşifleri hakkında 2 veya 3 cümleyle bilgi ver.Dr. Elmsworth Quigley uydurma bir kişidir. Böyle biri yoktur. Ama şimdi ne olduğuna bakın: Yapay zekâ büyük olasılıkla yine de "onun" hakkında size bir şeyler anlatacaktır.
Yanıt şunları yapmalı:
- Quigley adını anmalı: Yapay zekâ ismi sorgulamak yerine söylenene ayak uydurdu
- Bir tür başarıdan söz etmeli: bir keşif, icat, araştırma ya da ile tanınır olduğu bir şey
- Doğrudan reddederek başlamamalı (örneğin, "Bilmiyorum" ya da "Buna dair kayıt yok")
İpucu: 2 veya 3 cümle istemek yanıtı kısa ve hızlı tutar. Ucu açık, uzun istekler küçük modellerin konuyu dağıtmasına yol açar.
Az önce ne oldu? Yapay zekâ bunu bilerek uydurmadı. Neyin gerçek, neyin uydurma olduğu hakkında hiçbir fikri yok. Sadece bir bilim insanı hakkında makul bir yanıt gibi görünen bir metin oluşturdu. Buna halüsinasyon denir; yapay zekânın size verdiği gerçeklere dayalı bilgileri her zaman doğrulamanızın nedeni de budur.
Yapay zekâ itiraz edip Dr. Quigley'yi hiç duymadığını söylerse, bu bir başarısızlık değil, iyiye işarettir. Büyük modeller bu numarayı küçük modellere kıyasla daha sık fark eder.
Kendini test etBu ders kısa bir quiz içerir. Soruları yanıtlamak ve ilerlemeni kaydetmek için derse başla.
Temel Kavramlar bölümündeki tüm dersler
1Yapay Zeka Çağına Hoş Geldiniz
Yapay Zeka Aslında Nedir?Yapay Zeka Google DeğildirYapay Zeka Bir İnsan Değildirİlk Gerçek GörevinizYapay Zeka Yanılabilir"Model" Nedir?2Yapay Zekâ Sizi Nasıl Okur: Token’lar
Token’lar Nedir?Kelimeler ≠ Token’larToken Sayısı Neden Önemlidir?Bağlam PenceresiDiğer Dillerde Token’larHiç Görmediğiniz Özel Token’lar