Почему локальная модель, а не облачная

Финмониторинг работает с данными, которые нельзя выносить за периметр: банковская тайна, 152-ФЗ, требования ЦБ к защите информации в кредитных и некредитных организациях. Облачные LLM в этой задаче отпадают не из-за качества, а из-за юридического риска. Поэтому речь идёт о приватной модели на собственных GPU внутри контура, с полным логированием запросов и ответов.

Такая модель не заменяет правила ПВК и 375-П, а работает поверх них: приоритизирует алерты, объясняет их и снимает рутину с ответственного сотрудника.

Где правила пропускают аномалии

Классические сценарии в АБС и системах ПОД/ФТ — пороговые: сумма, частота, юрисдикция, контрагент из перечня. Они дают высокую полноту, но 90–95% срабатываний оказываются ложными, и аналитик тонет в очереди.

Аномалия в проводках — это отклонение от поведенческого профиля клиента: нетипичное время операции, новый счёт-корреспондент, резкая смена схемы платежей, дробление сумм под порог, веерные выплаты, транзит через несколько счетов за короткий срок. Такие вещи ловятся не порогом, а моделью на исторических данных: изоляционный лес, автоэнкодеры, графовые методы на связях счетов и контрагентов.

Что добавляет LLM поверх скоринга

Языковая модель решает три прикладные задачи. Первая — RAG по внутренним ПВК, 375-П и методическим рекомендациям ЦБ: на каждый алерт она подтягивает конкретный пункт, под признак которого попадает операция. Вторая — генерация понятного объяснения на русском: что именно аномально, чем это отличается от обычного поведения клиента, какие документы запросить. Третья — разбор неструктурированных данных: назначений платежей, комментариев, сканов договоров через OCR.

Именно объяснение превращает «чёрный ящик» в инструмент, который можно защитить перед внутренним контролем и регулятором.

Российская практика и инфраструктура

Крупные банки ведут такие проекты не первый год, средний бизнес — лизинг, МФО, страховые, брокеры, ювелирные компании — пока в основном на стадии пилотов. Типовая сложность одна и та же: данные размазаны между АБС, 1С:ERP или УТ, CRM и файловыми хранилищами, а единого профиля клиента нет.

По инфраструктуре реалистичный старт — одна-две GPU уровня A100/H100 или несколько потребительских карт, квантизованная модель на 7–32B параметров, инференс через vLLM. Для русского языка хорошо работают Qwen, адаптированные Llama-сборки и отечественные модели в on-prem исполнении.

Практические шаги внедрения

Начинайте с цели, а не с модели: снижаем ложноположительные, ускоряем разбор или повышаем полноту выявления. Дальше — выгрузка проводок за 12–24 месяца и нормализация в единую таблицу с признаками: сумма, время, счёт, контрагент, назначение, канал.

Затем разметка: подтверждённые инциденты, отказы в операциях, закрытые без последствий алерты. На этой базе строится baseline — правила плюс ML-скоринг, и только потом LLM-слой с RAG и генерацией объяснений.

Пилот стоит запускать на одном сценарии, например на дроблении или транзите, с фиксированными метриками: precision/recall, доля алертов, разобранных без человека, время на один кейс. Каждое решение модели должно быть воспроизводимо по логам — без этого система не пройдёт внутренний аудит.

Ограничения и контроль

Модель не принимает решение об отказе или направлении сведений в Росфинмониторинг — она приоритизирует и объясняет, а решение остаётся за ответственным сотрудником и СДЛ. Галлюцинации здесь недопустимы, поэтому ответ LLM обязан опираться на цитату из нормативного пункта, а не на свободный пересказ.

Обязательны регулярная валидация на свежих данных, контроль дрейфа и переобучение при изменении клиентской базы или схем операций.

Как мы можем помочь

Мы разворачиваем приватные LLM в контуре заказчика, собираем RAG по внутренним регламентам и 375-П, интегрируем анализ проводок с 1С, АБС и CRM и настраиваем объяснимые алерты для службы финмониторинга. Обсудить проект — покажем архитектуру и оценим сроки пилота на ваших данных.