מה זה Fine-tuning (כוונון עדין)

הגדרה

Fine-tuning, בעברית כוונון עדין, לוקח מודל שכבר אומן ומאמן אותו עוד קצת על דוגמאות שאתם מספקים: זוגות של קלט ושל התשובה שאתם רוצים לקבל. ההגדרות הפנימיות של המודל משתנות, כך שההתנהגות החדשה נשארת בלי שצריך לחזור עליה בכל פרומפט. כוונון עדין מתאים לסגנון אחיד, לפורמט קבוע או למשימה צרה שחוזרת הרבה פעמים, כמו מיון הודעות לסוגים. הוא דרך לא אמינה להוסיף עובדות, ואיטית לעדכן כשעובדה משתנה, ולכן העובדות שלכם צריכות לשבת במסמכים שהמודל קורא עם כל שאלה (RAG). כוונון עדין הוא כלי למפתחים בפלטפורמה של הספק. העלאת קבצים לפרויקט בכלי צ׳אט היא לא כוונון עדין: הכלי מחפש בקבצים, והמודל נשאר כמו שהוא.

למה זה חשוב

הפרומפט קובע הנחיות וטון, RAG מספק את העובדות שלכם, וכוונון עדין שווה את המאמץ רק למשימה צרה שחוזרת בהיקף גדול, כשפרומפט טוב עדיין נכשל. שם הוא יכול לאפשר למודל קטן יותר לעשות עבודה אחת היטב.

קשור ישירות: RAG (יצירה מועשרת באחזור), פרומפט (Prompt), אימון מודל (Model Training).

טיפים לשיפור

• לפני שאתם שוקלים כוונון עדין, נסו פרומפט ברור יותר עם שלוש או ארבע תשובות לדוגמה, ובדקו אותו על 20 הודעות אמיתיות.
• עובדות שמשתנות, כמו שעות פתיחה ונהלים, החזיקו במסמך שהמודל קורא, לא באימון.
• אם כבר מכווננים, אספו עשרות עד מאות דוגמאות טובות, לפי המשימה, כולן בסגנון שאתם רוצים.
• מחקו שמות, מספרי טלפון ומספרי תעודת זהות משיחות עם לקוחות לפני שהן הופכות לדוגמאות אימון.

טעויות נפוצות

• לקרוא לפרויקט צ׳אט עם קבצים שהועלו מודל מכוונן, כשהמודל עצמו לא השתנה.
• לאמן על דוגמאות לא אחידות, כך שהמודל לומד את הטעויות יחד עם הסגנון.
• להתחיל פרויקט כוונון עדין לפני שניסו פרומפט טוב ומדדו אותו.