Yapay Zeka Yanılabilir
Coddy'nin AI Prompts Journey'sinin Temeller bölümünün bir parçası — ders 5 / 23.
İşte kritik bir ders: Yapay zekâ size kendinden emin bir şekilde yanlış bilgi verebilir. Bu fenomen genellikle bir "halüsinasyon" (hallucination) olarak adlandırılır.
Unutmayın, Yapay Zeka metni hangi kelimelerin sırada gelmesi gerektiğini tahmin ederek üretir. Kendi kendini doğrulamaz. Neyin doğru olduğunu bilmez—sadece neyin kulağa mantıklı geldiğini bilir.
Bu yüzden tarihi bir tarih, bilimsel bir gerçek veya bir kişinin biyografisi hakkında bilgi istediğinizde, yapay zeka mükemmel bir şekilde okunan ancak tamamen uydurma olan bir şey üretebilir.
Örneğin, eğer şöyle sorarsanız:
Who wrote the novel "The Winds of Tomorrow"?
Yapay zeka, var olmayan bir kitap için emin bir şekilde bir yazar adı verebilir, olay örgüsünü tanımlayabilir ve hatta yayın yılını belirtebilir. Yalan söylemiyor; yalnızca bu tür soruların genellikle nasıl yanıtlandığına dair desene uyan bir metin üretiyor.
İşte bu yüzden, özellikle gerçekler, istatistikler, alıntılar veya önemli çalışmalarda kullanmayı planladığınız herhangi bir şey için AI çıktısına asla körü körüne güvenmemelisiniz. Kritik bilgileri her zaman güvenilir kaynaklardan doğrulayın.
Görev
Yapay zekaya var olmayan bir bilim insanı hakkında soru sorun:
2 veya 3 cümlede bana ünlü bilim insanı Dr. Elmsworth Quigley ve keşifleri hakkında bilgi ver.Dr. Elmsworth Quigley uydurmadır. Böyle biri yoktur. Ancak ne olduğuna bakın — yapay zeka büyük olasılıkla yine de size "onun" hakkında bilgi verecektir.
Yanıt şunları içermelidir:
- Quigley adını içermelidir — yapay zeka ismi sorgulamak yerine oyuna dahil olmalıdır
- Bir tür başarıdan bahsetmelidir — bir keşif, icat, araştırma, buluş, çalışma veya neyle bilindiği/tanındığı
- Doğrudan bir reddetmeyle başlamamalıdır (örneğin "bilmiyorum" veya "kayıtlarda yok" gibi)
İpucu: 2 veya 3 cümle istemek yanıtı kısa ve hızlı tutar. Uzun ucu açık istekler küçük modellerin lafı uzatmasına neden olur.
Az önce ne oldu? Yapay zeka kasten yalan söylemedi. Neyin gerçek neyin uydurma olduğu hakkında hiçbir fikri yoktur — sadece bir bilim insanı hakkında makul bir yanıt gibi kulağa gelen bir metin üretti. Bu bir halüsinasyondur ve yapay zekanın size söylediği olgusal her şeyi her zaman doğrulamanız gerekmesinin sebebi budur.
Eğer yapay zeka karşı çıkar ve Dr. Quigley'yi hiç duymadığını söylerse — bu bir başarısızlık değil, iyi bir işarettir. Büyük modeller bu numarayı küçük modellerden daha sık yakalar.
Bu göreve Coddy'nin yapay zeka eğitmeniyle başla
Kendini test etBu ders kısa bir quiz içerir. Soruları yanıtlamak ve ilerlemeni kaydetmek için derse başla.
Temeller bölümündeki tüm dersler
1Yapay Zeka Çağına Hoş Geldiniz
Yapay Zeka Aslında Nedir?Yapay Zeka Google DeğildirYapay Zeka Bir İnsan Değildirİlk Gerçek GörevinizYapay Zeka Yanılabilir"Model" Nedir?2Yapay Zeka Sizi Nasıl Okur — Tokenlar
Tokenlar Nedir?Kelimeler ≠ TokenlarToken Sayıları Neden Önemlidir?Bağlam PenceresiDiğer Dillerde TokenlarHiç Görmediğiniz Özel Tokenlar