# Дообучение модели и RAG: как выбрать подход компании

> RAG и дообучение решают разные задачи: актуальные документы, формат ответа, права и стоимость. Сравнение подходов и план проверки на данных компании.

- Источник: https://lokai.ru/blog/rag-ili-doobuchenie-modeli/
- Организация: Local AI — Внедрение ИИ в закрытом контуре
- Раздел: Главная → Блог → RAG и дообучение модели

---

RAG подходит, когда помощнику нужны актуальные сведения из документов с проверяемыми источниками. Дообучение рассматривают для устойчивого поведения, формата и узкой задачи модели. Эти подходы можно сочетать, но они не заменяют подготовку данных и контроль доступа. Разбираем, как выбрать решение, проверить его на своих примерах и избежать лишних работ.

## RAG и дообучение: сначала определите причину ошибки

Фраза «модель не знает наши документы» описывает несколько разных проблем. Источник может отсутствовать в системе, нужный фрагмент — не находиться, а найденный текст — пересказываться с ошибкой. Дообучение на архиве не является универсальным исправлением всех трёх ситуаций. Сначала нужно увидеть, на каком шаге теряется правильный ответ.

Возьмите рабочий вопрос и попросите специалиста назвать верный документ и фрагмент. Затем проверьте поиск без генерации. Если нужный текст не найден, исправляйте обработку файлов, разбиение, ключевые слова и ранжирование. Если текст найден, но ответ неверен, исследуйте инструкцию, модель, конфликт источников и ограничения контекста.

Для задачи извлечения полей критерий другой: важно, правильно ли определяется значение и сохраняется ли формат. Здесь дообучение может быть полезным, когда хорошие примеры уже есть, а простая настройка не даёт устойчивого поведения. Но пропущенную строку исходной таблицы сначала нужно восстановить в обработке документа.

Такой разбор помогает сравнивать решения по результату. Вместо выбора модной технологии появляется конкретная гипотеза: улучшить поиск нужного правила, научить классификатор различать типы обращений или заставить модель последовательно заполнять заданную структуру. Для каждой гипотезы можно собрать отдельную проверочную выборку.

## Сравнение RAG, дообучения и обычного поиска

Таблица помогает выбрать первый эксперимент. В рабочей системе методы могут сочетаться, если каждый закрывает понятную проблему.

| Задача | Первый кандидат | Что обязательно проверить |
|---|---|---|
| Найти действующий регламент | Поиск или RAG | Версия документа, права и полнота выдачи |
| Ответить со ссылкой на внутренний источник | RAG | Подтверждение каждого существенного утверждения |
| Стабильно заполнять специальный формат | Инструкция, затем дообучение при необходимости | Корректность на новых примерах |
| Классифицировать узкие типы обращений | Правила или обученный классификатор | Ошибки между похожими классами |
| Назвать точный остаток или рассчитать сумму | Запрос к учёту или расчётный код | Актуальность, формула и единицы измерения |
| Обновлять часто меняющиеся знания | Индекс документов или API источника | Удаление старого и доступность новой версии |

## Когда корпоративной базе знаний нужен RAG

В RAG-процессе система сначала получает подходящие фрагменты, затем формирует ответ с опорой на них. Для корпоративного использования важны происхождение, версия и права чтения документа. Поиск должен исключить недоступные материалы до того, как они попадут в контекст модели. Проверка только готового ответа слишком поздняя.

Преимущество для меняющихся регламентов — управляемое обновление источника. Можно заменить документ, перестроить нужную часть индекса и проверить повторный вопрос. При этом старая копия не должна оставаться в кэше или резервном поисковом слое. Удаление — полноценный сценарий приёмки, а не техническая деталь после запуска.

RAG полезен для инструкций, ответов сотрудникам, сервисных правил и поиска аналогов. Он не гарантирует истинность документа и не превращает неоднозначное правило в однозначное. Если в архиве две действующие инструкции с разными условиями, владелец знаний должен определить приоритет или объяснить пользователю конфликт.

Корпоративный [AI-ассистент с RAG-поиском](https://lokai.ru/rag-sistema/) строится вокруг вопросов команды. На пилоте важно измерить путь до пригодного ответа: чтение источника, уточнение и проверку тоже. Быстрая генерация текста без найденного правила не сокращает работу специалиста, если ему приходится искать всё заново.

## Когда имеет смысл дообучать открытую модель

Дообучение рассматриваем для повторяемого поведения, которое можно показать примерами и оценить на независимых заданиях. Например, классификация документов по принятой схеме или подготовка ответа в специальной структуре. Нужны корректные примеры, однозначные критерии и достаточное разнообразие входных ситуаций.

При LoRA обычно обучаются небольшие добавочные параметры, а базовые веса сохраняются. Это меняет организацию настройки по сравнению с полным обучением всей модели. Однако низкая стоимость адаптера не отменяет подготовку данных, проверку результата и эксплуатацию. Дообученная модель может лучше держать формат и всё ещё ошибаться в фактах.

Обучающая и проверочная выборки должны быть разделены по смыслу, а не только случайной строкой. Почти одинаковые документы или копии одного обращения по обе стороны границы создадут завышенную оценку. Полезно оставлять новые шаблоны, другие подразделения и редкие случаи, которые реально встретятся в работе.

Не используйте дообучение как способ загрузить постоянно меняющиеся цены и остатки. Для таких сведений нужен актуальный источник. На странице [дообучения моделей](https://lokai.ru/doobuchenie-modeley/) описаны подготовка примеров и контроль качества. Работы начинаются с проверяемой причины, по которой базовая схема не выполняет задачу.

## Данные для RAG и обучения: что подготовить

Для поиска нужен упорядоченный корпус с владельцами и правилами актуальности. Черновики, дубликаты и отменённые документы нельзя молча смешать с действующими. На нескольких характерных файлах проверьте извлечение: таблицы, сноски и подписи должны сохранять связь с основным смыслом. Название расширения файла не доказывает качество обработки.

Для обучения нужны примеры входа и правильного результата. Разметка должна отражать единый стандарт: одинаковая ситуация не может иметь противоположные ответы без объясняющего признака. Спорные случаи сначала разбирает профильный специалист. Его время нужно включить в бюджет проекта вместе с инженерной работой.

Для обоих подходов полезен реестр ошибок. В нём разделяются отсутствие источника, неверный поиск, ошибочный пересказ и нарушение формата. Такая классификация не даёт тратить недели на тренировку модели, когда причина находится в одном нераспознанном столбце. После исправления повторно проверяется вся соответствующая группа задач.

## Как сочетать RAG и дообучение без лишней сложности

Рабочая схема может использовать поиск для фактов и адаптацию для способа ответа. Например, система находит актуальные требования, а настроенная модель оформляет их в принятую структуру. Это две независимые части, и проверять их нужно отдельно. Иначе улучшение формата может скрыть ухудшение фактической точности.

Начните с простого варианта: качественный источник, понятная инструкция, ограниченный набор инструментов и проверяемый ответ. Добавляйте дообучение, когда видна повторяющаяся ошибка, которую оно способно исправить. Каждая дополнительная часть увеличивает количество версий и причин сбоя, которые придётся сопровождать.

Если используется локальная модель, отдельно планируйте память для инференса и обучения. Запуск квантованных весов не доказывает, что станция выдержит подготовку адаптера с нужной длиной примеров. В [ИИ-сервере под ключ](https://lokai.ru/ii-server-pod-klyuch/) эти требования рассчитываются раздельно. Для внешнего обучения заранее согласуются допустимые данные и среда.

## План пилота: как сравнить RAG и дообучение

До закупки оборудования и подготовки большого корпуса можно проверить основную гипотезу на ограниченном процессе. Для сравнения сохраняйте одинаковые условия.

1. **Опишите задачу.** Кто использует результат, какой источник считается верным и какое действие следует после ответа. Отделите поиск знаний от точного расчёта и изменения рабочих данных.
2. **Соберите вопросы.** Включите типовые, неоднозначные, устаревшие и недоступные по правам материалы. Добавьте случаи без ответа. Для каждого сохраните ожидаемый результат и допустимую реакцию системы.
3. **Проверьте базовый вариант.** Обычный поиск, инструкция или правила могут решить значительную часть задачи. Этот уровень нужен для сравнения: сложная система должна объяснить, что именно она улучшает.
4. **Сравните отдельные изменения.** Исправляйте поиск и поведение модели по одному, сохраняя версии. Оценивайте подтверждённость ответа, формат, время проверки и полную задержку рабочего процесса.
5. **Примите решение о продолжении.** Зафиксируйте полезные сценарии, известные ограничения и стоимость эксплуатации. Отдельно согласуйте обновление документов, модели и проверочного набора после передачи команды.

## Стоимость выбора RAG или дообучения для компании

Стоимость определяется готовностью документов, сложностью доступа и нужным поведением. Подготовка плохих сканов или согласование противоречивой разметки могут потребовать больше времени, чем настройка модели. Поэтому оценка без примеров часто описывает предположения, а не состав работ. На диагностике эти предположения должны стать явными.

В Local AI диагностика бесплатна. Пилот на одном процессе — $3–5 тыс. с зачётом в стоимость внедрения, техническая часть — 2–4 недели. Полная система под ключ — от $30 000. В предложении разделяем подготовку корпуса, поиск, изменение весов, инфраструктуру и поддержку. Выбор подхода не должен маскировать дополнительные работы.

Для компании в Москве или другом регионе России можно начать с разрешённой выборки и дистанционного разбора. До передачи закрытых данных согласуется среда. Результат первой встречи — обоснованный следующий эксперимент: проверить поиск, подготовить разметку или исправить источник. Иногда самый полезный вывод состоит в том, что дообучение пока не нужно.

## Источники по моделям и технологиям

- [Первичная работа о Retrieval-Augmented Generation](https://arxiv.org/abs/2005.11401)
- [Hugging Face PEFT: принцип LoRA](https://huggingface.co/docs/peft/main/en/conceptual_guides/lora)

## Вопросы и ответы: RAG и дообучение модели

**Может ли RAG работать без чат-интерфейса?**

Да. Поиск можно встроить в карточку обращения, рабочий документ или интерфейс специалиста. Диалог — один из способов доступа. Часто полезнее сразу показать найденный регламент и фрагмент, чем заставлять сотрудника формулировать каждый шаг в чате.

**Нужно ли размечать весь архив для RAG?**

Не всегда. Для начала нужен ограниченный качественный корпус и проверочный набор вопросов. Разметка помогает оценивать поиск и устранять ошибки, но это не то же самое, что создание обучающих пар для изменения весов модели.

**Можно ли отказаться от неудачного дообучения?**

Да, если сохранены базовая модель, настройки и проверочный набор. План возврата согласуется заранее. Адаптер или новая версия не должны становиться единственной доступной конфигурацией до успешной приёмки.

**Как проверить, что модель не запомнила тестовые ответы?**

Сохранять независимые примеры и проверять их происхождение. Особенно важно исключить близкие дубликаты документов и один и тот же случай в разных выгрузках. Полезно дополнительно проверить новый тип входа, который не использовался во время настройки.

**Можно ли сравнить RAG и дообучение на документах московской компании?**

Да. Согласуйте один сценарий и проверочный набор с известными ответами. Для закрытых материалов определяют допустимую инфраструктуру и доступ. Команда заказчика участвует в оценке результата; дистанционная работа не означает передачу документов внешней модели.

**Когда дообучение модели не заменяет RAG?**

Когда сотрудникам нужны ответы по регулярно меняющимся документам с проверяемыми ссылками. В этом случае важны актуальные источники и поиск. Обучение поведению модели оценивают отдельно; новые веса не являются подтверждением того, что ответ основан на нужной редакции документа.

---

Бесплатный аудит и расчёт окупаемости на ваших данных: https://lokai.ru/besplatnyy-audit-ii/

Почта: hello@lokai.ru · 123112, Москва, ММДЦ «Москва-Сити» · Пн–Пт, 09:00–19:00 МСК