AI הוא לא בן אדם

מפתה להתייחס ל-AI כמו אל אדם. הוא כותב בשפה טבעית, עונה על שאלות ואפילו אומר דברים כמו "אני חושב" או "אני מאמין". אבל הנה האמת: ל-AI אין מחשבות, רגשות או הבנה.

כשה-AI אומר "אני שמח לעזור", הוא לא מרגיש שמחה. כשהוא כותב "אני מבין את החשש שלך", הוא לא באמת מבין שום דבר.

אלה רק דפוסים: ביטויים שמופיעים לעיתים קרובות בתגובות מועילות. ה-AI למד שבני אדם מגיבים היטב לביטויים האלה, ולכן הוא משתמש בהם.

זה חשוב בהנדסת פרומפטים, כי לא כדאי להסתמך על כך שהבינה המלאכותית "תבין" למה התכוונת. היא לא תקרא בין השורות ולא תקלוט רמזים עדינים.

אם תכתוב:

You know what I mean, right?

ה-AI יאמר "כן" כי זו התשובה הצפויה, ולא משום שהוא באמת הבין את כוונתך.

במקום זאת, נסחו במפורש. אל תניחו שיש הקשר משותף או היגיון בריא. ה-AI מעבד את המילים המדויקות שלכם, ולא את הכוונות שלכם. ככל שההנחיה שלכם תהיה ברורה וישירה יותר, כך התוצאות שלכם יהיו טובות יותר.