Как работает RAG и чем отличается от обычного чат-бота
RAG (retrieval-augmented generation, генерация с опорой на найденные данные) работает в два шага. Сначала система находит в базе 3–10 фрагментов, близких по смыслу к вопросу. Затем языковая модель (LLM, большая языковая модель) пишет ответ только по этим фрагментам. Обычная нейросеть отвечает «из головы» и может уверенно ошибиться, а RAG-база показывает, из какого документа взят каждый ответ.
Так сотрудник отдела продаж сам находит условия возврата, менеджер склада — порядок приёмки, а новичок — правила работы с CRM (системой учёта клиентов), не дёргая руководителя. Ту же базу можно подключить к ИИ-чат-боту на сайте, чтобы он отвечал клиентам по актуальному прайсу.
Что входит в работу
- Аудит документов: регламенты, инструкции, прайсы, договоры, переписка с типовыми вопросами; убираем дубли и устаревшие версии.
- Разметка и нарезка текстов на фрагменты, чтобы поиск находил нужный абзац, а не весь файл.
- Выбор модели и площадки: YandexGPT или Alice AI LLM в Yandex AI Studio, GigaChat от Сбера; у AI Studio есть готовый инструмент поиска по файлам.
- Интерфейс: окно в браузере, бот в Telegram или MAX, виджет в Битрикс24 или amoCRM.
- Тестовый набор из 50–100 реальных вопросов и проверка каждого ответа вашими сотрудниками.
- Инструкция, как добавлять новые документы, чтобы база не устаревала.
План внедрения по неделям
| Неделя | Что делаем | Результат |
|---|---|---|
| 1-я | Собираем документы и вопросы сотрудников, выбираем модель и место хранения данных | Список источников и тестовых вопросов |
| 2-я | Чистим и нарезаем тексты, настраиваем поиск и инструкцию для модели | Рабочий прототип для 2–3 сотрудников |
| 3-я | Прогоняем тестовые вопросы, правим источники, где ответы неточные | Протокол проверки ответов |
| 4-я | Подключаем интерфейс, права доступа, обучаем команду | База в работе у всего отдела |
Где хранятся данные и как соблюсти 152-ФЗ
Если в документах есть персональные данные клиентов или сотрудников, база данных с ними должна находиться в России: это требование ч. 5 ст. 18 закона о персональных данных (152-ФЗ). Поэтому по умолчанию мы строим RAG на российских облаках и моделях. Если обработку ведёт внешний сервис, с ним нужен договор поручения, а за его действия перед людьми отвечает сама компания.
Сколько стоит RAG-база и почему цена разная
Базовое внедрение стоит от 50 000 ₽ разово. Оплата токенов модели идёт отдельно, напрямую площадке: у GigaChat API для бизнеса минимальный платёж 600 ₽ в месяц с НДС и не взимается, если сервисом не пользовались. Итоговую смету увеличивают объём и разнородность документов, сканы вместо текста, интеграция с CRM и разграничение прав доступа по отделам.
Кому RAG-база пока не нужна
- Документов меньше 20 страниц и вопросы повторяются редко: проще сделать обычную базу знаний компании с поиском.
- Регламенты не записаны, всё держится в головах: сначала описываем процессы, потом подключаем ИИ.
- Нужны ответы, за которые отвечает юрист или врач: модель здесь только помощник, финальное решение за специалистом.