אימון לעומת הסקה
אימון הוא תהליך לימוד המודל על ידי הזנתו בכמויות גדולות של נתונים, ואילו הסקה היא תהליך השימוש בפועל במודל שכבר אומן לצורך הפקת תשובה. האימון מתרחש פעם אחת, או מדי פעם, ואילו הסקה מתרחשת בכל פעם שמישהו משתמש במודל.
אימון מודל (Model Training)
אימון מודל הוא התהליך שבו מודל AI לומד: הוא רואה דוגמאות רבות, בודק את הניחושים שלו מול התשובה הנכונה ומתקן את עצמו עד שהטעויות קטנות.
Inference (הסקה)
Inference (הסקה) הוא הרגע שבו מודל AI מאומן עושה את העבודה: מקבל שאלה חדשה ומפיק תשובה. זה קורה בכל בקשה, ולכן זו העלות השוטפת של AI.
אימון מודל (Model Training), מתי זה קורה:
לפני פריסת המודל, לרוב פעם אחת או מדי פעם
Inference (הסקה), מתי זה קורה:
בכל פעם שמשתמש שואל שאלה או מבצע בקשה
אימון מודל (Model Training), דפוס עלות:
עלות חד-פעמית גדולה או תקופתית
Inference (הסקה), דפוס עלות:
עלות קטנה יותר שחוזרת עם כל שימוש, מצטברת בקנה מידה גדול
אימון מודל (Model Training), מטרה:
בניית הידע והדפוסים של המודל
Inference (הסקה), מטרה:
יישום הידע הזה על בקשה חיה ואמיתית
| מתי זה קורה | לפני פריסת המודל, לרוב פעם אחת או מדי פעם | בכל פעם שמשתמש שואל שאלה או מבצע בקשה |
|---|---|---|
| דפוס עלות | עלות חד-פעמית גדולה או תקופתית | עלות קטנה יותר שחוזרת עם כל שימוש, מצטברת בקנה מידה גדול |
| מטרה | בניית הידע והדפוסים של המודל | יישום הידע הזה על בקשה חיה ואמיתית |