اليقين لا يعني الصواب

تُظهر الأشرطة كيفية توزيع الذكاء الاصطناعي لأوزانه، لا مدى صحة إجاباته. غالبًا ما تكون النماذج الصغيرة واثقة جدًا، حتى عندما لا يقدم لها النص ما تستند إليه.

يتلقى جهاز توجيه الدعم الرسالة مرحبًا، هل يوجد أحد؟

billing   ░░░░░░░░░░░░░░░░░░░░   0%
shipping  ░░░░░░░░░░░░░░░░░░░░   0%
tech      ████████████████████ 100%

لا يوجد أي طلب على الإطلاق، ومع ذلك يتلقى فريق واحد كل شيء تقريبًا.

لذلك تعامل مع مستوى الثقة بوصفه مؤشرًا. يُعدّ انخفاض الشريط العلوي تحذيرًا مفيدًا. أما ارتفاعه فليس ضمانًا. اختبر أسئلتك على رسائل حقيقية، بما فيها الرسائل الغريبة، قبل أن تثق بها.