Прямо сейчас: ничего делать не нужно. Это справочный урок — прочитайте и отложите. Если хочется — полистайте шпаргалку ниже.
Зачем этот урок
Fine-tuning — одна из тех тем, про которые спрашивают на собеседованиях, упоминают в статьях и путают с RAG. Этот урок — не руководство к действию, а справочный: чтобы вы понимали, о чём речь, когда услышите «мы дообучили модель», и могли осмысленно участвовать в разговоре.
Скорее всего, в ближайший год вам не понадобится запускать fine-tuning самостоятельно. Но понимать, когда он уместен, а когда достаточно промпта или RAG — это то, что отделяет «я просто пользователь» от «я управляю AI-инструментами осознанно».
Что такое fine-tuning
Fine-tuning (дообучение) — это когда вы берёте уже обученную модель (например, GPT-4o) и дополнительно тренируете её на своих данных. Модель не просто «читает» ваши документы — она меняет свои внутренние веса, чтобы лучше справляться с вашими задачами.
Оба подхода решают задачу «модель должна работать с моими данными», но принципиально по-разному:
| Критерий | RAG | Fine-tuning |
|---|---|---|
| Как работает | Ищет релевантные документы и подаёт их в промпт | Меняет веса модели на ваших примерах |
| Данные | Документы, статьи, базы — любые тексты | Пары «вопрос → идеальный ответ» (датасет) |
| Когда обновить знания | Мгновенно: добавили документ — модель его видит | Часы/дни: нужно переобучить модель заново |
| Стоимость | Низкая: платите за поиск + токены | Высокая: GPU-часы для обучения + хостинг модели |
| Типичный сценарий | Ответы по базе знаний, поиск по документам | Стиль, формат ответа, узкая предметная экспертиза |
Когда нужен fine-tuning
Fine-tuning — не серебряная пуля. Вот четыре условия, при которых он оправдан:
- Промпт не справляется. Вы перепробовали системные промпты, few-shot примеры, цепочки рассуждений — модель всё равно сбивается на определённых задачах.
- RAG не подходит. Задача не про поиск фактов, а про стабильный стиль, формат вывода или следование сложной внутренней логике.
- Есть качественный датасет. Минимум 50–100 примеров «вот что пришло → вот что должно получиться». Датасет — это самая трудная часть.
- Есть бюджет и время. Обучение стоит денег (GPU), а развёртывание своей модели — усилий. Если у вас нет разработчика под рукой — скорее всего, не ваш случай.
Три этапа: как устроен процесс
Этап 1. Подготовка датасета. Вы собираете примеры в формате JSONL — каждая строка: системный промпт + пользовательский ввод + идеальный ответ ассистента. Это самая трудоёмкая часть. Хороший датасет — 80% успеха.
Этап 2. Запуск обучения. Вы загружаете датасет в платформу (OpenAI, Together AI, Fireworks), выбираете базовую модель, указываете параметры и запускаете. Обучение длится от 20 минут до нескольких часов.
Этап 3. Оценка и итерация. Вы тестируете дообученную модель на задачах, которых не было в датасете. Если результат не устраивает — чистите датасет, добавляете примеры, перезапускаете. Обычно нужно 2–4 итерации.
Промежуточный итог
Fine-tuning — мощный, но дорогой инструмент. RAG решает 80% задач L&D-специалиста дешевле и быстрее. Этот урок нужен, чтобы вы не путали подходы и знали, в какой момент пора звать разработчика с GPU.
Fine-tuning — не ежедневный инструмент
Это знание: знать, что такое fine-tuning есть, понимать, когда он уместен, и не применять его там, где хватит RAG. Для 95% L&D-задач правильный промпт и векторный поиск сделают больше, чем месяц обучения модели.
Шпаргалка
Термины
| Термин | Значение |
|---|---|
| Fine-tuning | Дообучение готовой модели на своих данных. Меняет веса, а не просто подсказывает. |
| RAG (Retrieval-Augmented Generation) | Модель ищет релевантные документы и добавляет их в промпт. Факты живут отдельно от модели. |
| Датасет | Набор примеров «вопрос → идеальный ответ» в формате JSONL. Основа для fine-tuning. |
| Few-shot prompting | Вы даёте модели 2–5 примеров прямо в промпте. Часто этого достаточно, и fine-tuning не нужен. |
| LoRA (Low-Rank Adaptation) | Облегчённый метод fine-tuning: дообучается не вся модель, а небольшая надстройка. Дешевле и быстрее. |
Карта выбора
| Если вам нужно… | То начните с… |
|---|---|
| Модель отвечает по вашим документам | RAG (векторная база + поиск) |
| Модель придерживается стиля/формата | Системный промпт + few-shot примеры |
| Промпт не держит стиль на длинных диалогах | Fine-tuning (если есть датасет 50+) |
| Модель должна выучить редкий жаргон | Глоссарий в промпте → RAG → Fine-tuning |
Куда смотреть
| Ресурс | Зачем |
|---|---|
| OpenAI Fine-tuning Guide | Официальная документация: форматы, цены, ограничения |
| Together AI Fine-tuning | Альтернатива OpenAI: дешевле, больше моделей (Llama, Mistral) |
| Hugging Face PEFT / LoRA | Библиотека для самостоятельного fine-tuning с LoRA |