Дообучение или RAG: обучить AI-модель на данных вашей компании или дать ей искать по вашим документам

Если вы хотите, чтобы AI-модель отвечала на вопросы по документам вашей компании, обучать её на этих документах обычно не нужно. Retrieval-augmented generation, или RAG, ищет по вашим документам каждый раз, когда приходит вопрос, и передаёт подходящие фрагменты модели вместе с вопросом. Дообучение (fine-tuning) — это дальнейшее обучение существующей модели на примерах, которые готовите вы. Научные работы и руководства вендоров говорят, что оно лучше учит формату или тону, чем новым фактам. Какой подход вам нужен — или нужны оба, — покажет тест на реальных вопросах из вашего бизнеса.

Чем дообучение отличается от RAG?

Большая языковая модель (LLM) — AI того же типа, что стоит за ChatGPT, — берёт свои знания из текстов, на которых её обучали. Документов, которые никогда не покидали вашу компанию, среди этих текстов не было, поэтому модель должна получить их каким-то другим путём.

При RAG ваши документы остаются вне модели — в поисковом индексе, каталоге фрагментов, построенном из ваших файлов. Когда кто-то задаёт вопрос, система находит подходящие фрагменты и добавляет их в промпт — текст, который получает модель. Поскольку система знает, какие фрагменты она использовала, она может показать исходный документ рядом с каждым ответом.

Дообучение продолжает обучать модель на примерах, в каждом из которых вопросу или задаче сопоставлен нужный вам ответ. Результат — новая версия модели. То, чему она научилась, распределено по внутренним числам модели, и ни один файл не показывает, откуда взялся тот или иной факт.

В руководстве OpenAI «Optimizing LLM Accuracy» (по состоянию на 23 октября 2026 года) разница объясняется на примере экзамена. RAG похож на то, как если бы у вас был «учебник с собой», чтобы искать в нём нужное. Дообучение похоже на то, как месяцами ходить на занятия и учиться на «множестве повторяющихся примеров».

Руководство добавляет, что эти два метода «дополняют друг друга, а не исключают». В нём также сказано, что «многие из крупнейших клиентских внедрений в OpenAI выполнены только с помощью промпт-инжиниринга и RAG». Промпт-инжиниринг — это составление более удачных инструкций и примеров для модели.

Можно ли дообучить модель на наших документах, чтобы она знала наш бизнес?

Опубликованные исследования говорят, что обучение модели на ваших документах не позволяет надёжно научить её фактам вашего бизнеса. В исследовании, впервые выложенном в декабре 2023 года, Oded Ovadia и трое соавторов сравнили RAG с дообучением модели на простом тексте документов. В аннотации сказано, что «RAG стабильно превосходит его» и что моделям «трудно усваивать новую фактическую информацию» таким способом. Там же добавлено, что помочь может, если во время обучения показывать модели «многочисленные вариации одного и того же факта».

Zorik Gekhman и шесть соавторов в работе 2024 года проверили дообучение на вопросах в паре с ответами. Примеры, которые содержат новые факты, «усваиваются значительно медленнее», чем примеры, согласующиеся с тем, что модель уже знает. Когда модель всё же их усваивала, она с большей вероятностью давала фактически неверные ответы. Авторы пишут, что их результаты подтверждают взгляд, согласно которому модели «получают фактические знания в основном в ходе предобучения» — то есть исходного обучения, которое проводит разработчик модели, — а дообучение «учит их эффективнее этими знаниями пользоваться».

Для бизнеса это значит, что меняющимся фактам — например, ценам или формулировкам политик — место в документах, по которым ищет система. Дообученная модель хранит то, что выучила в день обучения, и чтобы это изменить, нужен ещё один прогон обучения.

Когда дообучение оправдано?

Руководство OpenAI советует работать над поведением модели, а не над информацией, которую она получает, когда она «выдаёт непоследовательные результаты с неверным форматированием» или когда её тон или стиль речи «неправильный». Сначала идут более удачные инструкции и примеры в промпте, а дообучение — следующий шаг. В руководстве также названа ещё одна причина для дообучения — эффективность, то есть та же точность с моделью поменьше или с меньшим числом токенов. Токен — это часть слова, и провайдеры моделей берут плату за каждый токен.

Например, модель, которая читает счета, должна возвращать их данные ровно в том формате, который принимает ваша учётная система. Черновики ответов клиентам, возможно, должны звучать так, как пишет ваша служба поддержки. Небольшая дообученная модель к тому же может обходиться в эксплуатации дешевле большой универсальной, если достигает нужной вам точности.

Обучающие примеры должны выглядеть в точности как реальная работа. Руководство советует начинать с «50+ примеров», затем тестировать и добавлять новые, только если оставшиеся ошибки связаны с поведением модели. Писать или проверять эти примеры должен человек, который делает эту работу каждый день, поэтому заложите в бюджет его часы вместе с временем инженеров.

У нас немного документов. Нужен ли нам вообще RAG?

Если документов немного, RAG может вообще не понадобиться. Anthropic, компания, которая создаёт модели Claude, написала в публикации от 19 сентября 2024 года: «Если ваша база знаний меньше 200 000 токенов (около 500 страниц материала), можно просто включить всю базу знаний в промпт, который вы даёте модели, и обойтись без RAG или похожих методов».

У каждой модели есть предел того, сколько токенов она может прочитать за один раз. Кэширование промптов (prompt caching) позволяет приложению повторно использовать текст, который оно отправляло в предыдущих запросах, например один и тот же набор документов. В публикации (по состоянию на тот же день, что и руководство) сказано, что кэширование промптов снижает затраты при работе с Claude «до 90%». Руководство OpenAI предупреждает, что моделям «бывает трудно удерживать внимание на очень больших промптах», поэтому тестируйте на том объёме, который собираетесь использовать.

Отправлять все документы с каждым вопросом всё равно дороже, чем несколько фрагментов, и стоимость растёт с каждой добавленной страницей. Пилот может начаться с небольшого набора, например с руководств по одной продуктовой линейке, и перейти на RAG, когда документы перестанут помещаться в промпт.

Что может пойти не так с RAG?

RAG-система может дать сбой ещё до того, как модель напишет хоть слово, — когда поиск возвращает не те фрагменты или слишком много фрагментов. Руководство OpenAI описывает оба случая. Система может выдать «не тот контекст, так что модель никак не сможет ответить». Другой риск — слишком много нерелевантного текста, потому что он «заглушает настоящую информацию и вызывает галлюцинации», то есть ответы, которые звучат правдоподобно, но ложны.

Многие RAG-системы ищут по смыслу, а не по точным словам, и поэтому могут пропускать точные коды. В публикации Anthropic приводится пример вопроса в поддержку о коде ошибки TS-999. Такой поиск может найти страницы о кодах ошибок вообще и пропустить ту, что посвящена TS-999. В публикации предлагается сочетать его с поиском по ключевым словам, который ищет точный текст.

Поэтому тестируйте поиск отдельно. По каждому тестовому вопросу сначала проверьте, вернулся ли нужный фрагмент, и только потом оценивайте ответ. Если не вернулся, руководство OpenAI указывает, что исправлять нужно поиск.

Что лучше держит наши данные под контролем: RAG или дообучение?

Оба подхода могут работать на ваших собственных серверах. При RAG ваши документы лежат в индексе, который вы контролируете, а модель видит только фрагменты, отобранные под каждый вопрос. Дообучение встраивает обучающие примеры в файлы модели, и то, чему модель на них научилась, может всплыть в её ответах.

С RAG проще соблюдать права доступа, потому что поиск может исключать документы, которые спрашивающему видеть не разрешено. Microsoft описывает один из способов это сделать в своём сервисе Azure AI Search. На её странице о шаблоне фильтра безопасности (security filter pattern) по состоянию на тот же день описан фильтр, который «отсекает результаты поиска на основе строки, содержащей идентификатор группы или пользователя». Страница предлагает этот фильтр для систем, которые не могут использовать встроенные в сервис списки управления доступом.

На той же странице сказано, что в самом этом фильтре «нет ни аутентификации, ни авторизации», поэтому ваше приложение должно передавать нужного пользователя или группу при каждом поиске. У дообученной модели аналога нет. То, чему она научилась на примерах одного отдела, может появиться в ответах любому пользователю этой модели.

Европейский совет по защите данных (EDPB), в который входят представители национальных органов по защите данных и Европейский инспектор по защите данных, 17 декабря 2024 года принял Заключение 28/2024. В нём сказано, что «AI-модели, обученные на персональных данных, не во всех случаях могут считаться анонимными», потому что персональные данные «могут по-прежнему оставаться „впитанными“ в параметры модели». Параметры — это внутренние числа, в которых модель хранит то, чему научилась. В заключении также сказано, что анонимность конкретной модели нужно оценивать в каждом случае отдельно.

Если вы дообучаете модель на тикетах поддержки или клиентских файлах, исходите из того, что персональные данные может содержать сама модель. Выясните, как вы будете выполнять запрос на удаление записей об одном человеке. При RAG, как только документ удалён, а индекс обновлён, по новым вопросам он больше не находится. Копии, оставшиеся в логах, кэшах или сохранённых историях чатов, нужно чистить отдельно. Правила различаются по странам, и эта статья — не юридическая консультация, поэтому проверьте свой случай у юриста.

Как долго будет работать дообученная модель?

Дообученная модель строится на базовой модели — той общей модели, с которой вы начинали. Если вы дообучаете модель через облачный сервис, то, как долго эта базовая модель и ваша версия на её основе остаются доступными, решает провайдер. На странице цен API OpenAI (по состоянию на тот же день) сказано: «OpenAI сворачивает платформу дообучения». Там же добавлено, что дообученные модели остаются доступными, пока их базовые модели не будут объявлены устаревшими (deprecated) — так в OpenAI называют модели, которые компания выводит из эксплуатации.

Даты приводятся на странице OpenAI о выводе моделей из эксплуатации. С 7 мая 2026 года организации, которые ни разу не запускали дообучение, больше не могли его начать. Со 2 июля 2026 года то же самое стало касаться организаций, которые не пользовались дообученной моделью в предыдущие 60 дней. А 6 января 2027 года «активные существующие клиенты больше не смогут создавать новые задания на дообучение».

На той же странице указаны и даты окончания работы самих моделей. Датой отключения дообученных версий gpt-4.1-nano и ещё пяти моделей там названо 23 октября 2026 года. GPT-4o, GPT-4o mini, GPT-4.1 и GPT-4.1 mini последуют 14 января 2027 года, и «дообученные версии этих моделей отключаются по тому же графику, что и их базовые модели».

Модели с открытыми весами, файлы которых разработчики публикуют, чтобы любой мог запускать их по лицензии, по-прежнему можно дообучать на собственном оборудовании. Одна из них — gpt-oss-120b от OpenAI; на её странице на сайте моделей Hugging Face (по состоянию на тот же день) указана лицензия Apache 2.0. На странице сказано, что модель «можно дообучить на одном узле H100», то есть на одном сервере с GPU Nvidia H100 — это тип чипов, который страница называет для запуска модели.

Работает ли модель в облаке провайдера или на вашем собственном оборудовании, новая базовая модель означает ещё один цикл дообучения и тестирования. RAG-систему тоже нужно заново тестировать, когда меняется модель, которая пишет ответы, но индекс и ваши документы остаются как есть.

Во что обходятся создание и эксплуатация RAG и дообучения?

Цифр здесь нет, потому что они зависят от ваших объёмов и конфигурации. Но счёт у этих подходов складывается из разных частей.

При RAG работа на этапе создания — подготовить документы так, чтобы по ним хорошо искалось, построить индекс и протестировать поиск. В текущие расходы входят поисковый сервис и более длинные промпты, ведь каждый вопрос несёт с собой найденные для него фрагменты. Переиндексация может запускаться автоматически, когда файл добавлен или изменён.

При дообучении значительная часть затрат может приходиться на время сотрудников, потому что обучающие примеры пишут и проверяют люди, которые знают задачу. Затем идут прогоны обучения и серверы или сервис, на которых размещается новая модель. Новая базовая модель или новая задача означает, что за эту работу придётся платить снова.

Некоторым системам нужно и то и другое. Если первые тесты показывают проблемы и с фактами, и с форматом, руководство OpenAI говорит, что «вероятно, в итоге у вас получится дообучение + RAG». Тогда вы платите и за то, и за другое.

Что выбрать — RAG или дообучение — и что спросить у компании, которая предлагает это построить?

Начните с тестового набора из реальных вопросов или документов из вашей работы, у каждого из которых есть ответ, проверенный человеком. Руководство OpenAI говорит, что набор из «20+ вопросов и ответов», после того как вы разобрались, почему происходят сбои, даёт «правильную точку отсчёта» для более продвинутых методов. Как собрать такой набор, объясняет статья о застрявшем AI-пилоте.

Затем попробуйте хорошо составленный промпт с RAG и сгруппируйте сбои по причинам. Если нужного фрагмента нет, значит, нужно дорабатывать поиск. Бывает, что нужный фрагмент вернулся, а модель всё равно неправильно его поняла или ответила не в том формате. Для такого случая руководство предлагает сначала улучшить инструкции, а дообучение — если несколько разобранных примеров в промпте улучшают ответы.

Задайте одни и те же вопросы каждой компании, которая предлагает архитектуру решения:

• Какие результаты на нашем тестовом наборе привели вас к предложению дообучения?
• Как система не даст сотрудникам видеть документы, которые им не разрешено открывать?
• Если вы будете дообучать модель, кто пишет обучающие примеры и что происходит, когда базовую модель выводят из эксплуатации?
• Как после запуска удалить документ или данные одного человека?

Где здесь место amBrain?

Единственный проект с языковой моделью, который amBrain описывает публично, таков: «Мы вывели интеграцию LLM в прод внутри FinTech-периметра клиента: извлечение и нормализация неструктурированных уведомлений брокеров и торговых площадок — о корпоративных действиях, изменениях по инструментам и марже — в структурированные записи, которые потребляет торговая система».

Эта статья — не кейс, и работа для клиентов в ней не описывается. В процитированной строке не сказано, использует ли та система RAG, дообучение или ни то ни другое, какую модель она использует и где эта модель работает. Примеры в этой статье — общие, они не взяты ни из того проекта, ни из любой другой работы amBrain.

Компании, официальные органы, модели и научные работы, названные здесь, цитируются по их опубликованным страницам, и статья не утверждает, что между amBrain и кем-либо из них есть какие-либо отношения. Цен, сроков и условий amBrain статья не приводит.

amBrain делает софт с 2019 года. Компания работает в трёх форматах: полная разработка, выделенная команда или инженеры внутри вашей команды. О владении у неё такая строка: «Клиент сохраняет полное владение продуктом и кодом, кроме наших переиспользуемых компонентов». Если amBrain в вашем шорт-листе, задайте ему те же вопросы, что и любой другой компании.