Обучение против инференса
Обучение - это процесс формирования модели путем подачи ей больших объемов данных. Инференс - это процесс фактического использования уже обученной модели для получения ответа. Обучение происходит один раз или периодически, инференс - каждый раз, когда кто-то использует модель.
Обучение
Процесс подачи данных на вход модели AI для изучения паттернов, корректировки внутренних математических весов и формирования точных прогнозов.
Инференс
Процесс использования обученной модели AI для построения прогнозов, генерации контента или решения задач на основе новых, ранее не встречавшихся входных данных.
| Когда происходит | До развертывания модели - как правило, один раз или периодически | Каждый раз, когда пользователь задает вопрос или делает запрос |
|---|---|---|
| Структура затрат | Крупные единовременные или периодические расходы | Небольшие расходы на каждый запрос, которые складываются в значительную сумму при большом масштабе |
| Цель | Сформировать знания и закономерности модели | Применить эти знания к реальному живому запросу |