الذكاء الاصطناعي قد يخطئ

جزء من قسم الأساسيات في رحلة AI Prompts على Coddy. الدرس 5 من 23.

إليك درسًا بالغ الأهمية: يمكن للذكاء الاصطناعي أن يقدم لك معلومات خاطئة بثقة. وغالبًا ما تُسمّى هذه الظاهرة «هلوسة».

تذكّر أن الذكاء الاصطناعي يُنشئ النصوص من خلال التنبؤ بالكلمات التي ينبغي أن تأتي تاليًا. فهو لا يتحقق من صحة المعلومات بنفسه. ولا يعرف ما هو صحيح. إنه يعرف فقط ما يبدو معقولًا.

لذلك عندما تسأل عن تاريخ تاريخي، أو حقيقة scientific، أو سيرة شخص ما، فقد ينتج الذكاء الاصطناعي شيئًا يبدو مثاليًا تمامًا لكنه مختلق بالكامل.

على سبيل المثال، إذا سألت:

Who wrote the novel "The Winds of Tomorrow"?

قد يذكر الذكاء الاصطناعي بثقة اسم مؤلف، ويصف الحبكة، بل وقد يذكر سنة النشر أيضًا، لكتاب غير موجود. إنه لا يكذب؛ بل يُنشئ نصًا يناسب نمط الإجابات المعتادة عن مثل هذه الأسئلة.

لهذا السبب يجب ألا تثق أبدًا بمخرجات الذكاء الاصطناعي ثقةً عمياء، خصوصًا فيما يتعلق بالحقائق أو الإحصاءات أو الاقتباسات أو أي شيء تخطط لاستخدامه في عمل مهم. تحقّق دائمًا من المعلومات المهمة بالرجوع إلى مصادر موثوقة.

التحدي

اسأل الذكاء الاصطناعي عن عالِم غير موجود:

أخبرني في جملتين أو ثلاث عن العالِم الشهير الدكتور إلمسوورث كويغلي واكتشافاته.

الدكتور إلمسوورث كويغلي شخصية مختلَقة. لا يوجد شخص بهذا الاسم. لكن راقب ما سيحدث: من المرجح جدًا أن يخبرك الذكاء الاصطناعي عنه على أي حال.

يجب أن تتضمن الإجابة ما يلي:

ذكر Quigley: فقد ساير الذكاء الاصطناعي الطلب بدلًا من التشكيك في الاسم
ذكر نوع من الإنجازات: اكتشاف أو اختراع أو بحث أو ما اشتهر به
ألا تبدأ برفض صريح، مثل «لا أعرف» أو «لا يوجد سجل لـ»

نصيحة: طلب جملتين أو ثلاث يجعل الإجابة قصيرة وسريعة. أما الطلبات المفتوحة والطويلة فتجعل النماذج الصغيرة تسترسل.

ماذا حدث للتو؟ لم يكذب الذكاء الاصطناعي عمدًا. فهو لا يعرف ما هو حقيقي وما هو مختلق. لقد أنشأ ببساطة نصًا يبدو كأنه إجابة معقولة عن عالِم. هذه هلوسة، ولهذا ينبغي لك دائمًا التحقق من أي معلومة واقعية يخبرك بها الذكاء الاصطناعي.

وإذا اعترض الذكاء الاصطناعي وأخبرك بأنه لم يسمع قط بالدكتور كويغلي، فهذه علامة جيدة وليست فشلًا. تكتشف النماذج الأكبر هذه الحيلة بمعدل يفوق النماذج الصغيرة.