ИИ-ассистент по базе знаний компании: как работает RAG и когда он окупается
· 4 мин чтения · Команда maeTtI
Коротко
- RAG — подход, при котором языковая модель отвечает не «из головы», а по найденным фрагментам ваших документов. Так ответы точнее и их можно проверить.
- Такой ассистент подходит для поддержки, консультаций по услугам, онбординга сотрудников и экспертных сервисов.
- Качество ответов в первую очередь зависит от базы знаний — её актуальности, структуры и полноты, — и только потом от выбора модели.
- Ассистент должен уметь сказать «не знаю» и передать вопрос человеку — это важнее, чем ответить на всё.
- Если в диалогах есть персональные данные, модель и хранение выбирают с учётом 152-ФЗ.
Обычный чат-бот работает по заранее прописанным кнопкам. ИИ-ассистент понимает вопрос в свободной форме и отвечает своими словами. Но если просто подключить языковую модель, она будет отвечать общими фразами или уверенно выдумывать. Чтобы ассистент говорил от имени вашей компании и не ошибался, его подключают к базе знаний. Этот подход называется RAG.
Что такое RAG простыми словами
RAG (Retrieval-Augmented Generation) — «генерация с опорой на найденное». Работает это в три шага:
- 1.Поиск. Вопрос пользователя сравнивается с базой знаний, и система находит несколько самых подходящих фрагментов: абзацы из регламента, строки прайса, ответы из FAQ.
- 2.Подсказка модели. Найденные фрагменты вместе с вопросом передаются языковой модели с инструкцией: отвечай только на основе этих данных.
- 3.Ответ. Модель формулирует ответ простым языком и, если нужно, указывает источник.
Чтобы поиск работал по смыслу, а не по точным словам, документы заранее разбивают на фрагменты и переводят в числовые векторы — эмбеддинги. Вопрос «сколько стоит доставка в область» найдёт абзац «тарифы на доставку за пределы города», даже если слов «область» и «стоимость» в нём нет.
Какие задачи решает ИИ-ассистент
- Поддержка клиентов. Ответы на типовые вопросы в любое время, передача сложных случаев оператору.
- Консультант по услугам и товарам. Помогает выбрать тариф или услугу, объясняет условия, ведёт к заявке.
- Внутренний помощник. Новые сотрудники спрашивают про регламенты, процессы и документы, а не отвлекают коллег.
- Экспертные сервисы. Специалист — психолог, юрист, консультант — делится своим подходом с клиентами между встречами.
- Работа с документами. Поиск по договорам, инструкциям и технической документации.
Пример из практики — ИИ-ассистент перинатального психолога PerinatMama в Telegram. Он отвечает по базе знаний специалиста, помнит контекст диалога и срок беременности, понимает голосовые сообщения; для трудных моментов в боте есть отдельный SOS-раздел. Подробнее — на странице кейсов.
Когда ИИ-ассистент не нужен
- Сценарий короткий и предсказуемый: записаться, оставить заявку, узнать статус. Кнопки справятся быстрее и дешевле.
- Базы знаний нет, и никто не готов её собирать и обновлять.
- Цена ошибки очень высока, а проверять ответы некому. В таких случаях ассистент может помогать сотруднику, но не отвечать клиенту напрямую.
Как устроен ассистент: из чего состоит система
| Компонент | Что делает |
|---|---|
| Источники | Документы, сайт, FAQ, прайс, таблицы, записи из CRM |
| Индексация | Разбивка на фрагменты, эмбеддинги, векторное хранилище, регулярное обновление |
| Поиск | Находит фрагменты по смыслу, учитывает фильтры: раздел, дату, продукт |
| Модель | Формулирует ответ по найденным данным и инструкциям |
| Правила | Тон общения, запретные темы, когда передавать человеку |
| Канал | Telegram, MAX, ВКонтакте, виджет на сайте, внутренний портал |
| Журнал и аналитика | История диалогов, оценки ответов, вопросы без ответа |
Выбор модели и 152-ФЗ
На рынке есть зарубежные модели (GPT, Claude и другие) и российские (GigaChat, YandexGPT). Выбор зависит от качества ответов на ваших данных, стоимости и требований к данным.
Если в переписке с ассистентом есть персональные данные клиентов — имена, телефоны, сведения о здоровье — важно, где они обрабатываются. Передача таких данных в зарубежный сервис — это трансграничная передача с отдельными требованиями закона. Варианты: российская модель, обезличивание данных перед отправкой или архитектура, в которой персональные данные не покидают ваш сервер. Подробнее о требованиях — в статье «Сайт и 152-ФЗ».
Как подготовить базу знаний
- 1.Собрать источники в одном месте: регламенты, FAQ, описания услуг, прайс, типовые ответы из переписки.
- 2.Убрать устаревшее и противоречивое. Если в двух документах разные цены, ассистент может назвать любую.
- 3.Писать фактами. Короткие абзацы, один вопрос — один ответ, конкретные цифры и условия.
- 4.Назначить ответственного за обновление: изменились цены — обновили базу в тот же день.
- 5.Собрать тестовые вопросы — реальные вопросы клиентов с правильными ответами. По ним проверяют качество до запуска и после каждого изменения.
Как понять, что ассистент работает
- Доля вопросов, закрытых без оператора.
- Точность ответов на тестовом наборе вопросов.
- Вопросы без ответа — подсказка, чего не хватает в базе знаний.
- Оценки пользователей и жалобы.
- Бизнес-результат: заявки, записи, продажи, время ответа, нагрузка на поддержку.
Сколько стоит
Стоимость складывается из разработки (подготовка базы, логика, интеграции, интерфейс) и расходов на работу: сервер и оплата запросов к модели, которая зависит от числа диалогов. Точную оценку даём после разбора задачи и объёма базы знаний. Разработка чат-ботов в maeTtI начинается от 50 000 ₽ — состав работ на странице услуг.
Частые вопросы
Что такое RAG?
RAG (Retrieval-Augmented Generation) — подход, при котором система сначала находит в базе знаний фрагменты, подходящие к вопросу, а затем языковая модель формулирует ответ только на их основе. Так ответы точнее и опираются на ваши документы.
Будет ли ИИ-ассистент выдумывать ответы?
Риск снижают три вещи: ответы только по найденным фрагментам базы знаний, инструкция говорить «не знаю», если данных нет, и передача вопроса человеку. Качество проверяют на наборе реальных вопросов до и после запуска.
Какую языковую модель выбрать для бизнеса в России?
Зависит от качества на ваших данных, стоимости и требований к персональным данным. Если в диалогах есть персональные данные, рассматривают российские модели, обезличивание или обработку на собственном сервере.
Где можно разместить ИИ-ассистента?
В Telegram, MAX, ВКонтакте, в виджете на сайте или во внутреннем портале компании. Логика и база знаний при этом общие.