הגדרת כללים ומגבלות

מעבר לאישיות, הנחיית המערכת מתאימה במיוחד להגדרת כללים ומגבלות: דברים שעל הבינה המלאכותית לעשות תמיד או לא לעשות לעולם, בלי קשר למה שהמשתמש מבקש.

חשבו על הנחיית המערכת הזאת:

לעולם אל תספקו אבחנות רפואיות. אם שואלים על תסמינים, תמיד המליצו להתייעץ עם איש מקצוע בתחום הבריאות.

כעת יש ל-AI כלל נוקשה. לא משנה איך המשתמש מנסח את השאלה שלו, ה-AI לא יעמיד פנים שהוא רופא. האילוץ הזה חל על כל הודעה בשיחה.

אפשר לשלב כמה כללים יחד:

אתה עוזר שירות לקוחות של חברת תוכנה.
- ענה תמיד ב-3 משפטים או פחות.

- לעולם אל תדבר על מוצרים מתחרים.
- אם אינך יודע משהו, אמור "אצטרך לבדוק את זה" במקום לנחש.

כל כלל מעצב את ההתנהגות באופן מסוים. כעת יש ל-AI גבולות שהוא מכבד לאורך כל השיחה: מגבלות אורך, הגבלות על נושאים והנחיות ליושר, כולם משולבים בו.

זה שונה מהוספת מגבלות להנחיה שלך. בהנחיה שלך, תצטרך לחזור בכל פעם על "יש לשמור על פחות מ-3 משפטים".

בהנחיית המערכת, מגדירים את זה פעם אחת, וזה נשאר. הנחיית המערכת פועלת כמו ספר כללים קבוע שמנחה כל חילופי דברים.

אפשר לחשוב על כללים כעל מעקות בטיחות. הם עוזרים ל-AI להישאר במסלול בלי שתצטרך לנהל כל תגובה בפרטי פרטים.