02.4
Модуль 2 · AI: от промпта до продукта

Урок 4. Fine-tuning: справочный урок

Урок 4 · Справочный

Прямо сейчас: ничего делать не нужно. Это справочный урок — прочитайте и отложите. Если хочется — полистайте шпаргалку ниже.

Зачем этот урок

Fine-tuning — одна из тех тем, про которые спрашивают на собеседованиях, упоминают в статьях и путают с RAG. Этот урок — не руководство к действию, а справочный: чтобы вы понимали, о чём речь, когда услышите «мы дообучили модель», и могли осмысленно участвовать в разговоре.

Скорее всего, в ближайший год вам не понадобится запускать fine-tuning самостоятельно. Но понимать, когда он уместен, а когда достаточно промпта или RAG — это то, что отделяет «я просто пользователь» от «я управляю AI-инструментами осознанно».

Что такое fine-tuning

Fine-tuning (дообучение) — это когда вы берёте уже обученную модель (например, GPT-4o) и дополнительно тренируете её на своих данных. Модель не просто «читает» ваши документы — она меняет свои внутренние веса, чтобы лучше справляться с вашими задачами.

Метафора: врач и курсы повышения квалификации. Базовая модель — это выпускник мединститута: знает анатомию, физиологию, может поставить диагноз. RAG — это когда вы даёте врачу справочник перед приёмом: «вот история пациента, вот протокол лечения». Fine-tuning — это когда врач прошёл годичную ординатуру по кардиологии: он не просто заглядывает в справочник, он стал кардиологом.

Оба подхода решают задачу «модель должна работать с моими данными», но принципиально по-разному:

Критерий RAG Fine-tuning
Как работает Ищет релевантные документы и подаёт их в промпт Меняет веса модели на ваших примерах
Данные Документы, статьи, базы — любые тексты Пары «вопрос → идеальный ответ» (датасет)
Когда обновить знания Мгновенно: добавили документ — модель его видит Часы/дни: нужно переобучить модель заново
Стоимость Низкая: платите за поиск + токены Высокая: GPU-часы для обучения + хостинг модели
Типичный сценарий Ответы по базе знаний, поиск по документам Стиль, формат ответа, узкая предметная экспертиза
Правило большого пальца: если модель должна знать факты — RAG. Если модель должна вести себя определённым образом (тон, формат, стиль рассуждений) — возможно, fine-tuning.

Когда нужен fine-tuning

Fine-tuning — не серебряная пуля. Вот четыре условия, при которых он оправдан:

  1. Промпт не справляется. Вы перепробовали системные промпты, few-shot примеры, цепочки рассуждений — модель всё равно сбивается на определённых задачах.
  2. RAG не подходит. Задача не про поиск фактов, а про стабильный стиль, формат вывода или следование сложной внутренней логике.
  3. Есть качественный датасет. Минимум 50–100 примеров «вот что пришло → вот что должно получиться». Датасет — это самая трудная часть.
  4. Есть бюджет и время. Обучение стоит денег (GPU), а развёртывание своей модели — усилий. Если у вас нет разработчика под рукой — скорее всего, не ваш случай.

Три этапа: как устроен процесс

Этап 1. Подготовка датасета. Вы собираете примеры в формате JSONL — каждая строка: системный промпт + пользовательский ввод + идеальный ответ ассистента. Это самая трудоёмкая часть. Хороший датасет — 80% успеха.

Этап 2. Запуск обучения. Вы загружаете датасет в платформу (OpenAI, Together AI, Fireworks), выбираете базовую модель, указываете параметры и запускаете. Обучение длится от 20 минут до нескольких часов.

Этап 3. Оценка и итерация. Вы тестируете дообученную модель на задачах, которых не было в датасете. Если результат не устраивает — чистите датасет, добавляете примеры, перезапускаете. Обычно нужно 2–4 итерации.

Сначала промпт, потом RAG, и только в крайнем случае — fine-tuning.

Промежуточный итог

Fine-tuning — мощный, но дорогой инструмент. RAG решает 80% задач L&D-специалиста дешевле и быстрее. Этот урок нужен, чтобы вы не путали подходы и знали, в какой момент пора звать разработчика с GPU.

Fine-tuning — не ежедневный инструмент

Это знание: знать, что такое fine-tuning есть, понимать, когда он уместен, и не применять его там, где хватит RAG. Для 95% L&D-задач правильный промпт и векторный поиск сделают больше, чем месяц обучения модели.

Шпаргалка

Термины

Термин Значение
Fine-tuning Дообучение готовой модели на своих данных. Меняет веса, а не просто подсказывает.
RAG (Retrieval-Augmented Generation) Модель ищет релевантные документы и добавляет их в промпт. Факты живут отдельно от модели.
Датасет Набор примеров «вопрос → идеальный ответ» в формате JSONL. Основа для fine-tuning.
Few-shot prompting Вы даёте модели 2–5 примеров прямо в промпте. Часто этого достаточно, и fine-tuning не нужен.
LoRA (Low-Rank Adaptation) Облегчённый метод fine-tuning: дообучается не вся модель, а небольшая надстройка. Дешевле и быстрее.

Карта выбора

Если вам нужно… То начните с…
Модель отвечает по вашим документам RAG (векторная база + поиск)
Модель придерживается стиля/формата Системный промпт + few-shot примеры
Промпт не держит стиль на длинных диалогах Fine-tuning (если есть датасет 50+)
Модель должна выучить редкий жаргон Глоссарий в промпте → RAG → Fine-tuning

Куда смотреть

Ресурс Зачем
OpenAI Fine-tuning Guide Официальная документация: форматы, цены, ограничения
Together AI Fine-tuning Альтернатива OpenAI: дешевле, больше моделей (Llama, Mistral)
Hugging Face PEFT / LoRA Библиотека для самостоятельного fine-tuning с LoRA

Практика

Упражнение 1. Разведи три случая (15 мин)

Ниже три ситуации. Для каждой определите: хватит ли системного промпта, нужен RAG или пора думать о fine-tuning. Запишите ответ и аргумент в две строки.

Ситуация A

Вы делаете AI-ассистента для онбординга. У вас есть 120 страниц внутренней документации компании: политики, процессы, шаблоны писем. Сотрудник задаёт вопрос — ассистент должен найти ответ в документах.

Ситуация B

Вы настраиваете автоответчик для вакансий. Ответы должны быть в строго определённом тоне: «тёплый, но деловой», с конкретными формулировками «благодарим за интерес», «на данном этапе», «приглашаем на следующий этап». Простые промпты съезжают то в сухость, то в излишнюю фамильярность.

Ситуация C

Вы делаете AI-тренера по продажам. Модель должна имитировать диалог с клиентом и давать обратную связь по пяти критериям: работа с возражениями, выявление потребностей, закрытие, тон, структура. Структура обратной связи сложная и всегда одинаковая. Промпт работает на 60% диалогов — в 40% модель забывает один из критериев или меняет формат.

Упражнение 2. Чёрновик датасета (20 мин)

Это упражнение на понимание структуры — вы не будете запускать обучение. Просто почувствуйте, как выглядит датасет для fine-tuning.

  1. Выберите одну повторяющуюся задачу из своей практики (например: «написать программу вебинара по описанию заказчика» или «оценить резюме по трём критериям»).
  2. Придумайте 5 примеров в формате:
{"messages": [
  {"role": "system", "content": "Ты — L&D-методист. Оцениваешь резюме по трём критериям: релевантный опыт, структура, конкретика."},
  {"role": "user", "content": "Оцени резюме: [текст резюме]"},
  {"role": "assistant", "content": "1. Релевантный опыт: ...\n2. Структура: ...\n3. Конкретика: ..."}
]}
  1. Обратите внимание: системный промпт одинаковый для всех примеров, user — разный, assistant — идеальный ответ.
  2. Запишите вывод: что было самым трудным при составлении примеров? (Скорее всего — придумать «идеальный ответ», который не стыдно показать модели.)

После урока

Чек-лист готовности

Итог модуля 2

Вы прошли путь от «напиши промпт» до «я знаю, когда нужно дообучать модель». Модуль 2 дал вам язык и карту: вы понимаете, как работают промпты, когда подключать RAG, что такое агенты и зачем нужен fine-tuning. Вы не просто пользователь ChatGPT — вы человек, который проектирует взаимодействие с AI.

Дальше — модуль 3: «AI-стратегия и ROI». Переходим от техники к бизнес-смыслу: как выбирать AI-проекты, считать эффект и не сливать бюджет.

Вопросы для проверки

  1. Коллега говорит: «Давай натренируем модель на наших документах, чтобы она отвечала как наш эксперт». Что вы ответите — RAG или fine-tuning? Обоснуйте в двух предложениях.
  2. У вас есть 20 примеров «вопрос → идеальный ответ». Достаточно ли этого для fine-tuning? Почему?
  3. Назовите две ситуации, когда fine-tuning не нужен, хотя на первый взгляд кажется, что нужен.
  4. Что сложнее в fine-tuning: написать код для обучения или собрать качественный датасет? Почему?

Проверь себя

1. Что такое fine-tuning?

2. Когда fine-tuning НЕ нужен?

3. Что нужно для fine-tuning?

4. Чем fine-tuning отличается от RAG?