Обсудить проект
Блог · инженерия ИИ

Заметки об инженерии ИИ

Как мы внедряем приватные модели, RAG и агентов в реальные процессы — без пафоса, на практике.

Обработка обращений клиентов: LLM + классификация + маршрутизация

Обращения приходят в почту, чат на сайте, Telegram, WhatsApp, на «Авито» и маркетплейсы, часть — звонками. Менеджер читает каждое, угадывает тему и вручную на...

Обращения приходят в почту, чат на сайте, Telegram, WhatsApp, на «Авито» и маркетплейсы, часть — звонками. Менеджер читает каждое, угадывает тему и вручную назначает ответственного: на это уходят часы, а клиент ждёт. Связка «LLM + классификация + маршрутизация» превращает поток в управляемый конвейер, где модель понимает смысл, а правила решают, кому и как быстро отвечать.

Почему правила и ключевые слова дают сбои

Регулярки и теги ломаются на живом языке. «Где мой заказ?», «не пришло», «сроки сдвинулись», «оплатил, но статус висит» — это одна тема, но четыре разных формулировки, и ни одна не содержит слова «доставка». Добавьте опечатки, транслит, голосовые сообщения после транскрибации, вложения со сканами — и классификатор на ключевых словах даёт 50–60% точности.

Вторая проблема — контекст. Клиент пишет третье сообщение в треде, где уже есть номер договора и переписка с бухгалтерией. Правила видят только последнюю строку, LLM — весь диалог и историю сделки из CRM.

Три слоя конвейера: понять, разметить, распределить

Первый слой — нормализация: сбор из всех каналов в единую очередь, дедупликация, OCR сканов, транскрибация звонков, склейка сообщений одного клиента в один тикет. Без этого шага любая аналитика врёт.

Второй слой — классификация и извлечение сущностей: тема, интент, тональность, приоритет, номер заказа, ИНН, артикул, город. Третий — маршрутизация: тикет уходит в нужную очередь CRM, назначается ответственный, выставляется SLA, при необходимости формируется черновик ответа.

Классификация: тема, интент, приоритет, тональность

Рабочая схема — не «один классификатор на всё», а иерархия: сначала крупный домен (продажи, сервис, финансы, претензия), затем подтема внутри домена. Так проще поддерживать таксономию и объяснять ошибки.

Приоритет считается не только по теме. Признаки: негативная тональность, повторное обращение, упоминание суда, Роспотребнадзора, возврата денег, крупная сумма сделки, VIP-сегмент клиента. Модель отдаёт вероятности, бизнес-правила задают пороги — например, «претензия + повторное обращение = высокий приоритет, SLA 15 минут».

Маршрутизация: правила поверх вероятностей

Маршрутизация должна быть детерминированной и настраиваемой менеджером, а не «чёрным ящиком». Матрица: тема → очередь → ответственный → SLA → шаблон. Отдельно описываются исключения: если уверенность модели ниже порога, тикет идёт в общую очередь с пометкой «проверить», а не к случайному сотруднику.

Обязательны обратная связь и переобучение: каждая ручная перемаршрутизация — это сигнал. Логи правок раз в неделю разбираются, спорные кейсы уходят в датасет для дообучения или в промпт как few-shot примеры.

Российская специфика: данные, модели, интеграции

Персональные данные требуют аккуратности: 152-ФЗ, обезличивание перед отправкой в облачную модель, локальный контур для чувствительных обращений. На практике часто гибрид: приватная LLM на своих серверах для ПДн и претензий, внешний API — для типовых вопросов.

Интеграции делаются через штатные API: Битрикс24, amoCRM, RetailCRM, 1С, телефония. Тикет, ответ и статус остаются в CRM — менеджер не должен работать в двух окнах.

Внедрение: четыре шага и метрики

Шаг 1 — выгрузить 2–4 недели обращений и разметить 500–1000 примеров вручную. Шаг 2 — собрать baseline на правилах и сравнить с LLM по macro-F1. Шаг 3 — запустить в теневом режиме: модель размечает, маршрутизирует человек. Шаг 4 — включить автоответы и авто-маршрутизацию на темах с точностью выше 90%.

Метрики: время первого ответа (FRT), доля полностью автоматических ответов, точность классификации, доля перемаршрутизаций, CSAT, стоимость обработки одного обращения. Реалистичный ориентир — 60–75% обращений без участия человека и сокращение FRT в 3–5 раз.

Как мы можем помочь

Мы проектируем и внедряем такие конвейеры: приватные LLM, RAG по базе знаний, классификация и маршрутизация в вашей CRM, OCR и транскрибация, интеграции с 1С и телефонией. Начинаем с аудита потока обращений и пилота на одной теме — Обсудить проект.

CRM и продажи ИИ автоматизация АПС

Внедрить это в вашей компании

Приватный ИИ, RAG-поиск и агенты на вашем сервере — пилот за пару недель покажет эффект до полного бюджета.

Обсудить проект

Комментарии (0)

Пока нет комментариев — будьте первым.