הגדרת כללים ומגבלות

מעבר לאישיות, הנחיית המערכת מושלמת להגדרת כללים ומגבלות: דברים שעל הבינה המלאכותית לעשות תמיד או לעולם לא לעשות, בלי קשר למה שהמשתמש מבקש.

שקלו את הנחיית המערכת הזו:

לעולם אל תספקו אבחנות רפואיות. אם שואלים על תסמינים, תמיד המליצו להתייעץ עם איש מקצוע בתחום הבריאות.

עכשיו ל-AI יש כלל נוקשה. לא משנה איך המשתמש ינסח את השאלה שלו, ה-AI לא ישחק אותה רופא. המגבלה הזו חלה על כל הודעה בשיחה.

אפשר לשלב כמה כללים יחד:

אתה עוזר שירות לקוחות של חברת תוכנה.
- השב תמיד ב-3 משפטים או פחות.

- לעולם אל תדון במוצרים של מתחרים.
- אם אינך יודע משהו, אמור "אצטרך לבדוק את זה" במקום לנחש.

כל כלל מעצב את ההתנהגות באופן מסוים. כעת יש ל-AI גבולות שהוא מכבד לאורך כל השיחה: מגבלות אורך, הגבלות נושא והנחיות ליושר — כולם מובנים בתוכו.

זה שונה מהוספת מגבלות להנחיה שלך. בהנחיה שלך, תצטרך לחזור על „שמור על זה מתחת ל־3 משפטים” בכל פעם.

בהנחיית המערכת, מגדירים את זה פעם אחת וזה נשאר. הנחיית המערכת משמשת כספר חוקים קבוע שמכתיב כל חילופי דברים.

חשבו על כללים כעל מעקות בטיחות. הם שומרים על הבינה המלאכותית במסלול בלי שתצטרכו לנהל כל תגובה בפרטי פרטים.