Что такое Fine-tuning (Дообучение)

Определение

Дополнительное обучение готовой модели AI на специализированном наборе данных под конкретную задачу. Веса предобученной сети при этом подстраивают под целевую предметную область.

Форма трансферного обучения, при которой веса предобученной нейронной сети корректируют на целевом наборе данных, чтобы модель лучше работала в узкой прикладной задаче.

Почему это важно

Дообучение приучает модель к специальным форматам, профессиональному жаргону или внутренним правилам компании. Оно помогает получать качественные результаты от небольших моделей, снижая расходы на хостинг и задержку ответов.

Напрямую связано: AI Model (Модель AI), Model Training (Обучение модели), LLM (Большая языковая модель).

Советы по улучшению

• Сначала попробуйте инжиниринг промтов и RAG, поскольку они дешевле и быстрее в реализации, чем дообучение.
• Соберите не менее нескольких сотен качественных примеров идеальных входных и выходных данных, прежде чем запускать процесс дообучения.
• Начинайте с низкой скорости обучения, чтобы веса модели менялись медленно и она не потеряла исходные возможности.

Частые ошибки

• Дообучать модель ради запоминания фактов. Для этого лучше подходит RAG, ведь при дообучении модель легко теряет отдельные сведения.
• Обучать на наборе данных с зашумлёнными, непоследовательными или плохо отформатированными примерами.
• Не сравнивать дообученную модель с исходной базовой, чтобы убедиться в реальном улучшении результатов.