הגדרת כללים ומגבלות

מעבר לאישיות, הנחיית המערכת מתאימה במיוחד להגדרת כללים ומגבלות: דברים שעל הבינה המלאכותית לעשות תמיד או לעולם לא לעשות, בלי קשר למה שהמשתמש מבקש.

חשבו על הנחיית המערכת הזאת:

לעולם אל תספקו אבחנות רפואיות. אם שואלים אתכם על תסמינים, המליצו תמיד להתייעץ עם איש מקצוע בתחום הבריאות.

כעת ל-AI יש כלל נוקשה: הוא לא יעמיד פנים שהוא רופא, גם אם המשתמש ישאל על תסמינים כעבור הודעות רבות. האילוץ הזה חל על כל הודעה בשיחה. מודלים מצייתים היטב לכללי הנחיית המערכת, אך לא באופן מושלם, ולכן לפעמים הודעה שנוסחה בערמומיות עדיין יכולה לעקוף כלל כזה.

אפשר לשלב כמה כללים יחד:

אתה עוזר שירות לקוחות של חברת תוכנה.
- השב תמיד ב-3 משפטים או פחות.

- לעולם אל תדבר על מוצרים של מתחרים.
- אם אינך יודע משהו, אמור "אצטרך לבדוק את זה" במקום לנחש.

כל כלל מעצב את ההתנהגות באופן מסוים. כעת יש לבינה המלאכותית גבולות שהיא מכבדת לאורך כל השיחה: מגבלות אורך, הגבלות על נושאים והנחיות ליושר, כולם מובנים בה.

זה שונה מהצבת אילוצים בהנחיית המשתמש שלך. אם תכתוב בהודעה אחת "לשמור על זה מתחת ל־3 משפטים", ההנחיה תישאר בהיסטוריית השיחה, אבל ככל שהשיחה מתארכת הבינה המלאכותית עלולה לסטות ממנה, ולכן לעיתים קרובות תמצא את עצמך חוזר עליה.

בהנחיית המערכת, מגדירים זאת פעם אחת וזה נשאר. הנחיית המערכת פועלת כמו ספר כללים קבוע שמנחה כל חילופי דברים.

חשבו על כללים כעל מעקות בטיחות. הם עוזרים לבינה המלאכותית להישאר ממוקדת בלי שתצטרכו לנהל בקפדנות כל תגובה.