מהו "מודל"?

שוחחת עם "בינה מלאכותית", אבל למעשה דיברת עם מודל: מערכת בינה מלאכותית מסוימת שאומנה על נתונים כדי ליצור תגובות.

"AI" הוא המושג הכללי; "model" הוא גרסה מסוימת שאפשר להשתמש בה בפועל. בין המודלים הנפוצים ניתן למנות את GPT-4, Claude, Gemini ו-Llama, שכל אחד מהם נבנה על ידי חברה אחרת.

אותה הנחיה יכולה להניב תוצאות שונות מאוד, בהתאם למודל.

מהם פרמטרים?

גודלו של מודל נמדד בפרמטרים: מספרים שהוא למד במהלך האימון, שמעצבים את האופן שבו הוא מגיב.

באופן כללי, יותר פרמטרים פירושם יותר יכולות, אך גם נדרש כוח מחשוב רב יותר כדי להריץ אותו.

ל-GPT-4 יש לפי ההערכות יותר מטריליון פרמטרים. באתר הזה אנחנו משתמשים ב-Qwen3 0.6B, שיש לו רק 600 מיליון פרמטרים. הוא קטן בכוונה.

מודלים גדולים זקוקים למעבדי GPU יקרים ולזיכרון רב; מודל של 0.6B יכול לפעול במחשב נייד רגיל.

הפשרה היא פחות עוצמה במשימות מורכבות, אבל זה מושלם ללימוד הנדסת פרומפטים. אם תצליחו להשיג תוצאות טובות ממודל קטן, הפרומפטים שלכם יעבדו אפילו טוב יותר עם מודלים גדולים יותר.