התנגשויות בין פרומפטים של מערכת

מה קורה כשפרומפט המערכת שלך אומר דבר אחד, אבל פרומפט המשתמש שלך אומר דבר אחר? זהו קונפליקט, והבנת האופן שבו ה-AI פותר אותו עוזרת לך לכתוב פרומפטים טובים יותר.

דמיינו את הנחיית המערכת הזאת:

יש להשיב תמיד בעברית רשמית. לעולם אין להשתמש בקיצורים.

לאחר מכן שולחים את הבקשה הזו למשתמש:

Reply casually, like you're texting a friend. What's the weather like today?

עכשיו הבינה המלאכותית תקועה.

ההנחיה של המערכת דורשת שפה רשמית. ההנחיה של המשתמש דורשת שפה לא רשמית. איזו מהן גוברת?

בדרך כלל, להנחיית המערכת יש עדיפות, אבל לא תמיד באופן מוחלט. מידת הנאמנות שלה תלויה במודל: מודלים גדולים בדרך כלל נוטים לצד הנחיית המערכת, בעוד שמודלים קטנים לרוב פועלים לפי ההנחיה האחרונה שניתנה. הבינה המלאכותית מנסה לאזן בין שתיהן, והתוצאה עלולה להיות מסורבלת ולא עקבית. היא עשויה להשיב באופן רשמי, אך לנסות לשמור על טון ידידותי, וכך ליצור שילוב מוזר.

התנגשויות מתרחשות גם בתוך הנחיית מערכת. למשל:

יש לשמור על תשובות באורך של פחות מ־50 מילים. יש לספק תמיד הסברים מפורטים ומקיפים.

הכללים האלה סותרים זה את זה. הבינה המלאכותית לא יכולה להיות גם תמציתית וגם יסודית, ולכן היא מתפשרת ולעיתים קרובות לא עומדת היטב באף אחת מהדרישות.

כדי להימנע מסתירות, עברו על הנחיות המערכת שלכם לפני הוספת כללים חדשים. שאלו את עצמכם: האם חלק מההנחיות האלה מושכות לכיוונים מנוגדים? אם אתם רוצים שה-AI יפעל לפי כלל באופן עקבי, ודאו ששום דבר אחר לא מערער אותו. הנחיות ברורות שאינן סותרות זו את זו מובילות להתנהגות אמינה.