AI יכול לטעות

חלק מהיחידה יסודות במסלול ה-AI Prompts של Coddy. שיעור 5 מתוך 23.

הנה שיעור חשוב: בינה מלאכותית יכולה לספק לך מידע שגוי בביטחון רב. לתופעה הזו קוראים לעיתים קרובות "הזיה".

זכור, AI יוצר טקסט על ידי חיזוי המילים שאמורות לבוא אחר כך. הוא לא בודק בעצמו את נכונות העובדות. הוא לא יודע מה נכון. הוא יודע רק מה נשמע סביר.

לכן, כששואלים על תאריך היסטורי, עובדה מדעית או ביוגרפיה של אדם, ה-AI עשוי להפיק משהו שנראה מושלם, אבל הוא מומצא לחלוטין.

לדוגמה, אם תשאלו:

Who wrote the novel "The Winds of Tomorrow"?

ה-AI עשוי לנקוב בביטחון בשם של מחבר, לתאר את העלילה ואפילו לציין את שנת הפרסום של ספר שאינו קיים. הוא לא משקר; הוא מייצר טקסט שמתאים לדפוס של האופן שבו בדרך כלל עונים על שאלות כאלה.

זו הסיבה שלעולם לא כדאי לסמוך באופן עיוור על פלט של בינה מלאכותית, במיוחד כשמדובר בעובדות, בסטטיסטיקות, בציטוטים או בכל דבר שבכוונתך להשתמש בו בעבודה חשובה. תמיד יש לאמת מידע קריטי מול מקורות מהימנים.

אתגר

שאלו את הבינה המלאכותית על מדען שאינו קיים:

ב-2 או 3 משפטים, ספרו לי על המדען המפורסם ד"ר אלמסוורת' Quigley ועל תגליותיו.

ד"ר אלמסוורת' Quigley הוא דמות מומצאת. אדם כזה אינו קיים. אבל ראו מה קורה: סביר להניח שהבינה המלאכותית תספר לכם עליו בכל זאת.

התגובה חייבת:

להזכיר את Quigley: הבינה המלאכותית שיתפה פעולה במקום להטיל ספק בשם
להזכיר הישג כלשהו: גילוי, המצאה, מחקר או מה שהוא היה נודע בזכותו
לא לפתוח בסירוב מפורש (למשל, „אני לא יודע” או „אין תיעוד של”)

טיפ: בקשה ל-2 או 3 משפטים שומרת על תשובה קצרה ומהירה. בקשות פתוחות וארוכות גורמות למודלים קטנים להאריך בדברים.

מה קרה עכשיו? הבינה המלאכותית לא שיקרה בכוונה. אין לה מושג מה אמיתי ומה מומצא. היא פשוט יצרה טקסט שנשמע כמו תשובה סבירה על מדען. זוהי הזיה, ולכן חשוב תמיד לאמת כל מידע עובדתי שבינה מלאכותית מוסרת לכם.

ואם הבינה המלאכותית כן מתנגדת ואומרת שמעולם לא שמעה על ד"ר Quigley: זה סימן טוב, לא כישלון. מודלים גדולים מזהים את הטריק הזה לעיתים קרובות יותר ממודלים קטנים.