ИИЧат-боты

ИИ-ассистент по базе знаний компании: как работает RAG и когда он окупается

· 4 мин чтения · Команда maeTtI

Коротко

  • RAG — подход, при котором языковая модель отвечает не «из головы», а по найденным фрагментам ваших документов. Так ответы точнее и их можно проверить.
  • Такой ассистент подходит для поддержки, консультаций по услугам, онбординга сотрудников и экспертных сервисов.
  • Качество ответов в первую очередь зависит от базы знаний — её актуальности, структуры и полноты, — и только потом от выбора модели.
  • Ассистент должен уметь сказать «не знаю» и передать вопрос человеку — это важнее, чем ответить на всё.
  • Если в диалогах есть персональные данные, модель и хранение выбирают с учётом 152-ФЗ.

Обычный чат-бот работает по заранее прописанным кнопкам. ИИ-ассистент понимает вопрос в свободной форме и отвечает своими словами. Но если просто подключить языковую модель, она будет отвечать общими фразами или уверенно выдумывать. Чтобы ассистент говорил от имени вашей компании и не ошибался, его подключают к базе знаний. Этот подход называется RAG.

Что такое RAG простыми словами

RAG (Retrieval-Augmented Generation) — «генерация с опорой на найденное». Работает это в три шага:

  1. 1.Поиск. Вопрос пользователя сравнивается с базой знаний, и система находит несколько самых подходящих фрагментов: абзацы из регламента, строки прайса, ответы из FAQ.
  2. 2.Подсказка модели. Найденные фрагменты вместе с вопросом передаются языковой модели с инструкцией: отвечай только на основе этих данных.
  3. 3.Ответ. Модель формулирует ответ простым языком и, если нужно, указывает источник.

Чтобы поиск работал по смыслу, а не по точным словам, документы заранее разбивают на фрагменты и переводят в числовые векторы — эмбеддинги. Вопрос «сколько стоит доставка в область» найдёт абзац «тарифы на доставку за пределы города», даже если слов «область» и «стоимость» в нём нет.

Какие задачи решает ИИ-ассистент

  • Поддержка клиентов. Ответы на типовые вопросы в любое время, передача сложных случаев оператору.
  • Консультант по услугам и товарам. Помогает выбрать тариф или услугу, объясняет условия, ведёт к заявке.
  • Внутренний помощник. Новые сотрудники спрашивают про регламенты, процессы и документы, а не отвлекают коллег.
  • Экспертные сервисы. Специалист — психолог, юрист, консультант — делится своим подходом с клиентами между встречами.
  • Работа с документами. Поиск по договорам, инструкциям и технической документации.

Пример из практики — ИИ-ассистент перинатального психолога PerinatMama в Telegram. Он отвечает по базе знаний специалиста, помнит контекст диалога и срок беременности, понимает голосовые сообщения; для трудных моментов в боте есть отдельный SOS-раздел. Подробнее — на странице кейсов.

Когда ИИ-ассистент не нужен

  • Сценарий короткий и предсказуемый: записаться, оставить заявку, узнать статус. Кнопки справятся быстрее и дешевле.
  • Базы знаний нет, и никто не готов её собирать и обновлять.
  • Цена ошибки очень высока, а проверять ответы некому. В таких случаях ассистент может помогать сотруднику, но не отвечать клиенту напрямую.

Как устроен ассистент: из чего состоит система

КомпонентЧто делает
ИсточникиДокументы, сайт, FAQ, прайс, таблицы, записи из CRM
ИндексацияРазбивка на фрагменты, эмбеддинги, векторное хранилище, регулярное обновление
ПоискНаходит фрагменты по смыслу, учитывает фильтры: раздел, дату, продукт
МодельФормулирует ответ по найденным данным и инструкциям
ПравилаТон общения, запретные темы, когда передавать человеку
КаналTelegram, MAX, ВКонтакте, виджет на сайте, внутренний портал
Журнал и аналитикаИстория диалогов, оценки ответов, вопросы без ответа

Выбор модели и 152-ФЗ

На рынке есть зарубежные модели (GPT, Claude и другие) и российские (GigaChat, YandexGPT). Выбор зависит от качества ответов на ваших данных, стоимости и требований к данным.

Если в переписке с ассистентом есть персональные данные клиентов — имена, телефоны, сведения о здоровье — важно, где они обрабатываются. Передача таких данных в зарубежный сервис — это трансграничная передача с отдельными требованиями закона. Варианты: российская модель, обезличивание данных перед отправкой или архитектура, в которой персональные данные не покидают ваш сервер. Подробнее о требованиях — в статье «Сайт и 152-ФЗ».

Как подготовить базу знаний

  1. 1.Собрать источники в одном месте: регламенты, FAQ, описания услуг, прайс, типовые ответы из переписки.
  2. 2.Убрать устаревшее и противоречивое. Если в двух документах разные цены, ассистент может назвать любую.
  3. 3.Писать фактами. Короткие абзацы, один вопрос — один ответ, конкретные цифры и условия.
  4. 4.Назначить ответственного за обновление: изменились цены — обновили базу в тот же день.
  5. 5.Собрать тестовые вопросы — реальные вопросы клиентов с правильными ответами. По ним проверяют качество до запуска и после каждого изменения.

Как понять, что ассистент работает

  • Доля вопросов, закрытых без оператора.
  • Точность ответов на тестовом наборе вопросов.
  • Вопросы без ответа — подсказка, чего не хватает в базе знаний.
  • Оценки пользователей и жалобы.
  • Бизнес-результат: заявки, записи, продажи, время ответа, нагрузка на поддержку.

Сколько стоит

Стоимость складывается из разработки (подготовка базы, логика, интеграции, интерфейс) и расходов на работу: сервер и оплата запросов к модели, которая зависит от числа диалогов. Точную оценку даём после разбора задачи и объёма базы знаний. Разработка чат-ботов в maeTtI начинается от 50 000 ₽ — состав работ на странице услуг.

Частые вопросы

Что такое RAG?

RAG (Retrieval-Augmented Generation) — подход, при котором система сначала находит в базе знаний фрагменты, подходящие к вопросу, а затем языковая модель формулирует ответ только на их основе. Так ответы точнее и опираются на ваши документы.

Будет ли ИИ-ассистент выдумывать ответы?

Риск снижают три вещи: ответы только по найденным фрагментам базы знаний, инструкция говорить «не знаю», если данных нет, и передача вопроса человеку. Качество проверяют на наборе реальных вопросов до и после запуска.

Какую языковую модель выбрать для бизнеса в России?

Зависит от качества на ваших данных, стоимости и требований к персональным данным. Если в диалогах есть персональные данные, рассматривают российские модели, обезличивание или обработку на собственном сервере.

Где можно разместить ИИ-ассистента?

В Telegram, MAX, ВКонтакте, в виджете на сайте или во внутреннем портале компании. Логика и база знаний при этом общие.