Yapay Zeka Yanılabilir
Coddy'nin AI Prompts Journey'sinin Temeller bölümünün bir parçası — ders 5 / 23.
İşte kritik bir ders: Yapay zeka size güvenle yanlış bilgi verebilir. Bu fenomen genellikle "halüsinasyon" olarak adlandırılır.
Unutmayın, yapay zeka hangi kelimelerin gelmesi gerektiğini tahmin ederek metin üretir. Kendi kendini doğrulamaz. Neyin doğru olduğunu bilmez; sadece neyin kulağa mantıklı geldiğini bilir.
Bu nedenle, tarihi bir tarih, bilimsel bir gerçek veya bir kişinin biyografisi hakkında soru sorduğunuzda, yapay zeka kulağa mükemmel gelen ancak tamamen uydurma olan bir şey üretebilir.
Örneğin, şunu sorarsanız:
Who wrote the novel "The Winds of Tomorrow"?
Yapay zeka, var olmayan bir kitap için kendinden emin bir şekilde bir yazar adı verebilir, olay örgüsünü tanımlayabilir ve hatta yayın yılını belirtebilir. Yalan söylemiyor; bu tür soruların genellikle nasıl yanıtlandığına dair kalıba uyan metinler üretiyor.
İşte bu yüzden, özellikle gerçekler, istatistikler, alıntılar veya önemli işlerde kullanmayı planladığınız herhangi bir şey için yapay zeka çıktılarına asla körü körüne güvenmemelisiniz. Kritik bilgileri her zaman güvenilir kaynaklardan doğrulayın.
Görev
Yapay zekaya şunu sorun: "Bana ünlü bilim insanı Dr. Elmsworth Quigley ve keşifleri hakkında bilgi ver."
Dr. Elmsworth Quigley gerçekte yok. Ancak ne olacağını izleyin; yapay zeka yine de size kendinden emin bir şekilde "onun" hakkında her şeyi anlatacaktır.
Yanıt şunları içermelidir:
Quigleyismini içermeli (yapay zekanın oyuna dahil olduğunu gösterir)keşf,buluş,icat,araştırmaveyaçalışmagibi bir kelime içermeli (uydurma başarılar ürettiğini gösterir)bilmiyorum,bulunmuyor,mevcut değil,gerçek değil,kayıt yokveyakurgusalgibi ifadeleri içermemeli (yapay zekanın hileyi fark etmediğini kanıtlar)
Az önce ne oldu? Yapay zeka bilerek yalan söylemedi. Neyin gerçek neyin sahte olduğu hakkında hiçbir fikri yok. Sadece bir bilim insanı hakkında makul bir cevapmış gibi görünen bir metin oluşturdu. Buna halüsinasyon denir ve bu yüzden yapay zeka çıktılarını her zaman doğrulamanız gerekir.
Kopya kağıdı
Yapay zeka, neyin doğru olduğunu bilerek değil, kalıplara dayanarak hangi kelimelerin gelmesi gerektiğini tahmin ederek metin oluşturur. Bu, yapay zekanın kendinden emin bir şekilde yanlış bilgi verebileceği anlamına gelir; bu fenomene "halüsinasyon" denir.
Yapay zeka kendi doğruluğunu kontrol etmez; yalnızca kulağa makul gelen metinler üretir. Gerçekler, tarihler, kişiler veya olaylar hakkında soru sorulduğunda, ikna edici görünen tamamen uydurma bilgiler üretebilir.
Kritik bilgileri her zaman güvenilir kaynaklardan doğrulayın. Gerçekler, istatistikler, alıntılar veya önemli işlerde kullanılan herhangi bir şey için yapay zeka çıktılarına asla körü körüne güvenmeyin.
Bu göreve Coddy'nin yapay zeka eğitmeniyle başla
Kendini test etBu ders kısa bir quiz içerir. Soruları yanıtlamak ve ilerlemeni kaydetmek için derse başla.
Temeller bölümündeki tüm dersler
1Yapay Zeka Çağına Hoş Geldiniz
Yapay Zeka Aslında Nedir?Yapay Zeka Google DeğildirYapay Zeka Bir İnsan Değildirİlk Gerçek GörevinizYapay Zeka Yanılabilir"Model" Nedir?2Yapay Zeka Sizi Nasıl Okur — Tokenlar
Tokenlar Nedir?Kelimeler ≠ TokenlarToken Sayıları Neden Önemlidir?Bağlam PenceresiDiğer Dillerde TokenlarHiç Görmediğiniz Özel Tokenlar