מהו "מודל"?

שוחחת עם "בינה מלאכותית", אבל למעשה דיברת עם מודל: מערכת בינה מלאכותית מסוימת שאומנה על נתונים כדי ליצור תגובות.

"AI" הוא המושג הכללי; "model" הוא גרסה מסוימת שאפשר להשתמש בה בפועל. דוגמאות נפוצות כוללות את GPT-4, Claude, Gemini ו-Llama, שכל אחד מהם נבנה על ידי חברה אחרת.

אותה הנחיה יכולה להפיק תוצאות שונות מאוד, בהתאם למודל.

מהם פרמטרים?

גודלו של מודל נמדד בפרמטרים: מספרים שהוא למד במהלך האימון, אשר מעצבים את אופן התגובה שלו.

יותר פרמטרים פירושם בדרך כלל יותר יכולות, אך גם צורך ביותר כוח חישוב כדי להריץ את המודל.

ל-GPT-4 יש, לפי ההערכות, יותר מטריליון פרמטרים. באתר הזה אנחנו משתמשים ב-Qwen3 1.7B, רק 1.7 מיליארד. זה קטן בכוונה.

מודלים גדולים זקוקים למעבדי GPU יקרים ולהרבה זיכרון; מודל של 1.7B יכול לפעול על מחשב נייד רגיל.

הפשרה היא פחות יכולת במשימות מורכבות, אבל זה מושלם ללימוד הנדסת פרומפטים. אם תצליחו להשיג תוצאות טובות ממודל קטן, הפרומפטים שלכם יעבדו אפילו טוב יותר עם מודלים גדולים יותר.