AI יכול לטעות

הנה שיעור חשוב: בינה מלאכותית יכולה לספק לך מידע שגוי בביטחון רב. לתופעה הזאת קוראים לעיתים קרובות "הזיה".

זכור, AI מייצר טקסט על ידי חיזוי המילים שאמורות לבוא אחר כך. הוא לא בודק את העובדות בעצמו. הוא לא יודע מה נכון. הוא רק יודע מה נשמע סביר.

לכן, כששואלים על תאריך היסטורי, עובדה מדעית או ביוגרפיה של אדם, הבינה המלאכותית עשויה להפיק משהו שנקרא בצורה מושלמת, אבל הוא מומצא לחלוטין.

לדוגמה, אם תשאלו:

Who wrote the novel "The Winds of Tomorrow"?

ייתכן שה-AI יציין בביטחון שם של מחבר, יתאר את העלילה ואפילו יציין את שנת הפרסום של ספר שאינו קיים. הוא לא משקר; הוא מייצר טקסט שתואם את הדפוס שבו בדרך כלל עונים על שאלות כאלה.

זו הסיבה שלעולם לא כדאי לסמוך באופן עיוור על פלט של AI, במיוחד כשמדובר בעובדות, בסטטיסטיקות, בציטוטים או בכל דבר שמתכננים להשתמש בו בעבודה חשובה. תמיד יש לאמת מידע קריטי באמצעות מקורות אמינים.