Token Sayıları Neden Önemlidir?
Coddy'nin AI Prompts Journey'sinin Temel Kavramlar bölümünün bir parçası. Ders 9 / 23.
Belirteçler Üç Nedenden Dolayı Önemlidir
Maliyet. Yapay zekâ hizmetleri token başına ücret alır; çıktı tokenlarının maliyeti girdi tokenlarından daha yüksektir. Uzun bir yanıt oluşturan geveze bir istem, kısa ve öz bir istemden daha pahalıya mal olur.
Hız. Yapay zekâ çıktıyı her seferinde bir belirteç üreterek oluşturur. Daha kısa yanıtlar daha hızlı gelir.
Bağlam sınırları. Her modelin konuşma başına maksimum bir token kapasitesi vardır (bağlam penceresi). Uzun istemler, yanıtlar için daha az yer bırakır.
Verimliliğin önemli olmasının nedeni budur. "Lütfen Fransa'nın başkentinin ne olduğunu bana çok ayrıntılı bir şekilde açıklayarak yardımcı olabilir misin?" (~20 token), daha düşük maliyetle ve daha yüksek hızda "Fransa'nın başkenti neresidir?" (~7 token) ile aynı yanıtı alır.
Bilgi olarak, GPT-4o'nun maliyeti milyon giriş/çıkış belirteci başına yaklaşık $2.50/$10; Claude Sonnet'in maliyeti ise $3/$15'tir. Bir milyon belirteç kabaca 750.000 kelimeye karşılık gelir; bu nedenle ara sıra kullanmak bile maliyeti artırır.
Kendin dene
Bu ders bir kod alıştırması içermiyor.
Bu ders kısa bir quiz içerir. Soruları yanıtlamak ve ilerlemeni kaydetmek için derse başla.
Temel Kavramlar bölümündeki tüm dersler
2Yapay Zekâ Sizi Nasıl Okur: Tokenlar
Tokenlar Nedir?Kelimeler ≠ TokenlarToken Sayıları Neden Önemlidir?Bağlam PenceresiDiğer Dillerde TokenlarHiç Görmediğiniz Özel Tokenlar