Token Sayıları Neden Önemlidir?
Coddy'nin AI Prompts Journey'sinin Temeller bölümünün bir parçası — ders 9 / 23.
Tokenlar Üç Nedenden Dolayı Önemlidir
Maliyet. Yapay zeka servisleri token başına ücret alır ve çıktı token'ları girdi token'larından daha maliyetlidir. Uzun bir yanıt oluşturan geveze bir istem, kısa ve öz olandan daha maliyetlidir.
Hız. Yapay zeka, çıktıyı her seferinde bir token olacak şekilde üretir. Daha kısa yanıtlar daha hızlı döner.
Bağlam sınırları. Her modelin konuşma başına maksimum bir token kapasitesi (bağlam penceresi) vardır. Uzun istemler, yanıtlar için daha az yer bırakır.
İşte bu yüzden verimlilik önemlidir. "Lütfen Fransa'nın başkentinin neresi olduğunu bana ayrıntılı bir şekilde açıklayarak yardımcı olabilir misiniz?" (~20 token), "Fransa'nın başkenti neresidir?" (~7 token) ile aynı cevabı alır — hem de daha düşük maliyetle ve daha yüksek hızda.
Referans olması açısından, GPT-4o'nun maliyeti milyon girdi/çıktı token'ı başına yaklaşık 2,50$/10$'dır; Claude Sonnet ise 3$/15$ civarındadır. Bir milyon token yaklaşık 750.000 kelimeye tekabül eder, bu nedenle gündelik kullanım bile birikebilir.
Kopya kağıdı
Tokenlar, yapay zeka kullanımının üç temel yönünü etkiler:
Maliyet: Yapay zeka servisleri token başına ücret alır; çıktı tokenları, girdi tokenlarından daha maliyetlidir.
Hız: Yapay zeka çıktıyı her seferinde bir token olacak şekilde oluşturur, bu nedenle daha kısa yanıtlar daha hızlıdır.
Bağlam sınırları: Modellerin konuşma başına maksimum token kapasitesi (bağlam penceresi) vardır. Daha uzun istemler, yanıtlar için daha az yer bırakır.
Verimli istemler maliyetleri düşürür ve hızı artırır. Örneğin:
- "Can you please help me by explaining in great detail what the capital city of France is?" (~20 token)
- "What is the capital of France?" (~7 token)
Her ikisi de aynı cevabı alır, ancak ikincisi daha verimlidir.
Fiyatlandırma referansı: GPT-4o'nun maliyeti milyon girdi/çıktı tokenı başına ~$2.50/$10'dır; Claude Sonnet'in maliyeti ~$3/$15'dır. Bir milyon token ≈ 750.000 kelimeye tekabül eder.
Kendin dene
Bu ders bir kod alıştırması içermiyor.
Kendini test etBu ders kısa bir quiz içerir. Soruları yanıtlamak ve ilerlemeni kaydetmek için derse başla.
Temeller bölümündeki tüm dersler
2Yapay Zeka Sizi Nasıl Okur — Tokenlar
Tokenlar Nedir?Kelimeler ≠ TokenlarToken Sayıları Neden Önemlidir?Bağlam PenceresiDiğer Dillerde TokenlarHiç Görmediğiniz Özel Tokenlar