لماذا يهم عدد الرموز؟

للرموز أهمية لثلاثة أسباب

التكلفة. تحتسب خدمات الذكاء الاصطناعي الرسوم لكل رمز، وتكون رموز الإخراج أغلى من رموز الإدخال. لذلك تكلّف المطالبة المسهبة التي تُنتج استجابة طويلة أكثر من المطالبة الموجزة.

السرعة. يُنتج الذكاء الاصطناعي المخرجات رمزًا واحدًا في كل مرة، لذا تصل الاستجابات الأقصر أسرع.

حدود السياق. لكل نموذج حدٌّ أقصى من الرموز في المحادثة الواحدة (نافذة السياق). وكلما طالت المطالبات، قلّت المساحة المتبقية للاستجابات.

لهذا تهمّ الكفاءة. فالمطالبة "هل يمكنك من فضلك أن تساعدني بشرح مفصّل جدًا لما هي عاصمة فرنسا؟" (نحو 20 رمزًا) تحصل على الإجابة نفسها التي تحصل عليها "ما عاصمة فرنسا؟" (نحو 7 رموز)، لكن بتكلفة أقل وسرعة أكبر.

وللاطلاع، تبلغ تكلفة GPT-4o نحو $2.50/$10 لكل مليون رمز إدخال/إخراج، بينما تبلغ تكلفة Claude Sonnet نحو $3/$15. ويعادل مليون رمز قرابة 750,000 كلمة، لذا تتراكم التكلفة حتى مع الاستخدام العادي.