الموجّه دون أمثلة (zero-shot prompting) يعني أن تطلب من النموذج أداء مهمة بتعليمة وحدها، دون أن تعرض عليه أي أمثلة على الإجابة التي تريدها. عبارتا "ترجم هذه الفقرة إلى الإسبانية" و"لخّص هذا البريد في جملتين" موجّهان من نوع zero-shot. هذه هي الطريقة الافتراضية التي يستخدم بها الناس نماذج المحادثة، وفي المهام الشائعة تكون عادةً كل ما تحتاجه.
ماذا يعني zero-shot
في تعلّم الآلة، الـ"shot" مثال محلول. المصطلحات أقدم من نماذج المحادثة، لكن معناها في كتابة الموجّهات انتشر مع بحث Brown وزملائه عام 2020، "Language Models are Few-Shot Learners"، الذي اختبر GPT-3 في ثلاثة أوضاع: وصف للمهمة مع صفر أو مثال واحد أو بضعة أمثلة داخل الموجّه، ودون إعادة تدريب في أي منها. في ذلك النموذج، كانت بضعة أمثلة تتفوق عادةً على عدم وجودها.
منذ ذلك الحين، دُرّبت نماذج المحادثة تدريبًا مكثفًا على اتباع التعليمات، ولهذا ينجح الطلب البسيط الآن بهذا الشكل. موجّه zero-shot هو بالضبط الموقف الذي دُرّبت عليه: شخص يصف عملًا بالكلمات وينتظر إنجازه.
zero-shot لا يعني صفر سياق. الموجّه الجيد من هذا النوع يظل يذكر الجمهور، ويلصق المُدخل، ويصف الصيغة والحدود. الشيء الوحيد الذي يتركه هو مثال جاهز على المخرجات.
موجّه zero-shot مكتوب جيدًا
الموجّه التالي يستخرج المهام من ملاحظات اجتماع دون أي مثال على المخرجات، بل بوصف دقيق لها فقط. أوقف بعض الأجزاء لترى أي الأسطر يؤدي العمل.
اجتماع السبرنت، الثلاثاء
بريا ستصلح مهلة تسجيل الدخول قبل الجمعة.
تحدثنا عن الانتقال إلى مزوّد CI جديد، ولا قرار.
توم يكتب ملاحظات الإصدار 2.4.
يجب أن يحدّث أحدٌ مستند التهيئة للموظفين الجدد.
لينا: سأراجع ملاحظات توم قبل الخميس.
بريا: إصلاح مهلة تسجيل الدخول (قبل الجمعة) توم: كتابة ملاحظات الإصدار 2.4 غير مُسندة: تحديث مستند التهيئة للموظفين الجدد لينا: مراجعة ملاحظات إصدار توم (قبل الخميس)
سطر الصيغة يؤدي عمل المثال: يحدد الشكل الدقيق لكل سطر، فلا يبقى شيء لنسخه. أوقفه فيختار الرد شكله الخاص، وكثيرًا ما يكون قائمة نقطية بأسماء عريضة، تُقرأ جيدًا لكنها لم تعد تُلصق بسلاسة في أداة التتبّع. وأوقف القيود فقد يظهر نقاش CI على أنه مهمة، لأن شيئًا لم يخبر النموذج أن المواضيع غير المحسومة لا تُحتسب.
متى يكفي zero-shot
ينجح zero-shot عندما يستطيع النموذج استنتاج كل شيء من كلماتك:
- المهمة شائعة. التلخيص والترجمة والشرح وتصحيح القواعد وكتابة دالة وفق مواصفات واضحة، كلها مهام رآها النموذج مرات لا تُحصى أثناء التدريب.
- تستطيع وصف المخرجات بدقة. عبارة "سطر واحد لكل مهمة، المسؤول أولًا" واضحة وضوح المثال. راجع المخرجات المنظمة لوصف الصيغ التي سيقرؤها برنامج.
- التصنيفات تعني ما تقوله. فرز المراجعات إلى إيجابية وسلبية لا يحتاج عادةً إلى أمثلة، لأن هذين التصنيفين يعنيان الشيء نفسه لدى الجميع تقريبًا.
متى تضيف أمثلة بدلًا من ذلك
بعض الأشياء يصعب التعبير عنها بالكلمات، وهناك تبدأ موجّهات zero-shot في الإخفاق:
- حدودك الخاصة. إذا كان فريق الدعم لديك يصنّف "لا أستطيع تسجيل الدخول" ضمن مشكلات الحساب لا الأخطاء البرمجية، فلا يستطيع النموذج معرفة ذلك. سيختار الفهم الذي يختاره معظم الناس.
- أسلوب مؤسستك. رسائل commit لدى فريقك أو نبرة نشرتك البريدية أسهل في العرض منها في الوصف.
- الأخطاء القريبة المتكررة. إذا أعدت صياغة التعليمة مرتين وظلت المخرجات منحرفة قليلًا بالطريقة نفسها، فتوقف عن إعادة الصياغة واعرض إجابتين أو ثلاثًا صحيحة.
هذا هو الموجّه بالأمثلة (few-shot). والعادة المعقولة أن تبدأ بـ zero-shot، وتنظر فيما يعود، ثم تضيف أمثلة للشيء المحدد الذي يخطئ فيه فقط.
سلسلة التفكير دون أمثلة
وجد Kojima وزملاؤه عام 2022، في بحث "Large Language Models are Zero-Shot Reasoners"، أن إضافة جملة واحدة، "لنفكر خطوة بخطوة" (Let's think step by step)، جعلت النماذج الكبيرة أفضل بوضوح في مسائل الحساب والرموز والمنطق، دون أي أمثلة. تجعل العبارة النموذج يكتب الخطوات الوسيطة قبل الإجابة، وكل خطوة يكتبها تصبح سياقًا للتالية. استخدمت طريقتهم استدعاءين: الأول أنتج الاستدلال، والثاني طلب الإجابة النهائية.
في المثال التالي، يفرض التبويب الأول إجابة فورية، ويعطي الثاني النموذج مساحة للعمل.
12:40
الرد الأول أسقط الدقائق العشر التي عوّضها القطار: هذا نوع الزلة الذي يحدث عندما يضطر النموذج إلى الالتزام بالإجابة في أول بضعة توكنات. قد يجيب نموذج حالي عن هذه المسألة إجابة صحيحة في الحالتين، لكن الفرق يكبر مع عدد خطوات المسألة. وللنسخة الثانية ميزة أخرى: كل خطوة ظاهرة، فترى أين أخطأت الإجابة.
النماذج التي تستدل داخليًا قبل أن تجيب تقوم بهذا العمل أصلًا دون أن يُطلب منها، لذا لا تضيف عبارة "لنفكر خطوة بخطوة" لها إلا ردًا أطول. تشرح صفحة سلسلة التفكير التقنية بعمق، ومعها نسخة few-shot.
zero-shot مقابل few-shot بنظرة سريعة
| Zero-shot | Few-shot | |
|---|---|---|
| محتوى الموجّه | التعليمات والسياق والمُدخل | الشيء نفسه، مع بضعة أزواج من المُدخلات والإجابات |
| الأنسب لـ | المهام الشائعة ذات المخرجات السهلة الوصف | التصنيفات الخاصة، والصيغ غير المألوفة، وأسلوب المؤسسة |
| التكلفة | موجّه قصير | موجّه أطول، وتوكنات أكثر لكل استدعاء |
| الإخفاق المعتاد | يختار الفهم الأكثر شيوعًا، لا فهمك | ينسخ أنماطًا عرضية في الأمثلة |
الأسئلة الشائعة
ما هو الموجّه دون أمثلة (zero-shot)؟
الموجّه دون أمثلة هو أن تعطي النموذج اللغوي مهمة بتعليمات فقط، دون أمثلة جاهزة على المخرجات. عبارة "لخّص هذا البريد في جملتين" موجّه zero-shot. نماذج المحادثة الحديثة مدرّبة على اتباع التعليمات، لذا تتعامل موجّهات zero-shot جيدًا مع معظم المهام اليومية.
ما الفرق بين zero-shot وfew-shot؟
موجّه zero-shot يصف المهمة بالكلمات. أما موجّه few-shot فيضيف بضعة أمثلة، كل منها مُدخل مقرون بالإجابة التي تريدها، حتى ينسخ النموذج النمط. ابدأ بـ zero-shot، وانتقل إلى few-shot عندما تظل المخرجات تخطئ صيغة أو تمييزًا يسهل عرضه أكثر من وصفه.
لماذا يُسمّى zero-shot؟
في تعلّم الآلة، الـ"shot" مثال محلول. بحث Brown وزملائه عن GPT-3 عام 2020، بعنوان "Language Models are Few-Shot Learners"، اختبر النموذج بصفر أو مثال واحد أو بضعة أمثلة للمهمة داخل الموجّه، فأصبحت هذه الأسماء معيارية في كتابة الموجّهات: zero-shot وone-shot وfew-shot.
متى لا ينجح الموجّه دون أمثلة؟
يتعثر عندما تعتمد المهمة على قواعد لا يعرفها أحد سواك، مثل تصنيفات فريقك أو أسلوب مؤسستك، وعندما تكون صيغة المخرجات غير مألوفة، وفي الاستدلال متعدد الخطوات حين يجيب النموذج بسرعة زائدة. الأمثلة تعالج الحالتين الأوليين، وطلب العمل خطوة بخطوة يساعد في الثالثة.
ما هي سلسلة التفكير دون أمثلة (zero-shot chain of thought)؟
هي موجّه zero-shot يطلب من النموذج أن يستدل قبل أن يجيب، وأشهر صيغها إضافة عبارة "لنفكر خطوة بخطوة" (Let's think step by step). أظهر Kojima وزملاؤه عام 2022 أن هذه الجملة الواحدة، دون أمثلة، حسّنت نتائج النماذج الكبيرة في مسائل الحساب والمنطق.
