Секретарь, который сам разбирает почту, ставит встречи и напоминает о дедлайнах, перестал быть фантастикой. Открытые модели уровня Qwen2.5, Llama 3.1 и их отечественные аналоги уверенно работают с инструментами через function calling и держат контекст длинного диалога. Главное отличие от облачных ассистентов — переписка и календарь не покидают контур компании.

Почему локальная модель, а не облако

Почта и календарь руководства — это коммерческие условия, персональные данные сотрудников, иногда сведения с грифом. Отправлять их во внешний API означает нарушать 152-ФЗ и внутренние регламенты безопасности. Локальный инференс на собственном GPU-сервере снимает вопрос: запросы не уходят наружу, логи остаются в вашем SIEM, а модель можно дообучить на внутренних данных без риска утечки.

Что реально умеет ИИ-секретарь

• Классификация входящего потока: запрос, счёт, жалоба, спам — с извлечением сути, сроков и ответственных.
• Черновики ответов в вашем стиле, собранные на основе прошлой переписки и шаблонов.
• Планирование встреч: поиск свободных слотов, отправка приглашений, учёт часовых поясов и занятости участников.
• Контекстные напоминания: не просто «в 15:00», а «напомнить, если контрагент не ответил два дня».
• Протоколы: расшифровка аудио (Whisper-подобные модели), выжимка, задачи в трекер.

Архитектура: из чего это собирается

Ядро — LLM с поддержкой вызова инструментов. Вокруг — слой интеграций: IMAP/EWS или API Яндекс 360 и Mailion для почты, CalDAV/Exchange для календаря, REST-интерфейсы 1С и CRM (Битрикс24, amoCRM) для сделок и задач. RAG-контур на векторной базе (Qdrant, pgvector) даёт доступ к регламентам, прайсам и истории переписки.

OCR (Tesseract, PaddleOCR) вытаскивает данные из сканов счетов и актов. Интерфейс — Telegram-бот или виджет в корпоративном мессенджере: сотруднику не нужно осваивать новую систему. По железу для модели 7–14B в квантованном виде достаточно одной GPU на 24 ГБ, нагрузку 50–100 человек закрывает один сервер.

Практические шаги внедрения

1. Аудит рутины. Неделю фиксируем, сколько времени уходит на почту, согласование встреч, напоминания. Обычно это 1,5–2,5 часа в день у ассистента и 40–60 минут у руководителя.
2. Пилот на одном сценарии. Начните с сортировки входящих и черновиков ответов — быстрый эффект и не нужны права на запись в календарь.
3. Права и подтверждения. Любое действие, меняющее данные, проходит через человека: модель предлагает — сотрудник подтверждает.
4. Журналирование. Каждый вызов инструмента пишется в лог: кто, что, на основании чего. Это и аудит, и материал для дообучения.
5. Метрики. Точность извлечения полей, доля принятых черновиков без правок, сэкономленные часы. Без цифр проект не защитить перед руководством.

Где обычно спотыкаются

Модель галлюцинирует в датах и суммах — лечится жёсткой валидацией: числа и сроки берутся только из структурированных полей, а не из свободного текста генерации. Вторая проблема — качество данных: грязные справочники в 1С и CRM ломают поиск слотов и сопоставление контрагентов. Третья — сопротивление сотрудников: если ассистент ошибается в первые две недели, им просто перестают пользоваться. Поэтому пилот должен быть узким и надёжным, а не «умным на всё сразу».

Отдельно стоит продумать разграничение прав: секретарь руководителя и сотрудник отдела продаж должны видеть разные календари и разные ветки переписки. Это решается на уровне интеграционного слоя, а не промпта — модель не должна получать данные, к которым у пользователя нет доступа.

Как мы можем помочь

Собираем ИИ-секретарей на локальных моделях: подбираем железо и модель под вашу нагрузку, пишем слой интеграций с почтой, календарём, 1С и CRM, настраиваем RAG и OCR, разворачиваем всё в вашем контуре с журналированием и разграничением прав. Начинаем с аудита рутины и пилота на одном сценарии, чтобы эффект был измеримым. Обсудить проект