Рынок перестал выбирать «самую умную» модель

Год назад главным вопросом было «какая модель лучше по бенчмаркам». В 2025-м бизнес спрашивает иначе: сколько стоит обработка одного документа, какую задержку даёт контур и можно ли развернуть решение внутри периметра. Разрыв в качестве между топовыми моделями сократился настолько, что решающими стали цена, скорость и юридическая чистота.

Это сместило фокус выбора. Вместо одной универсальной модели в прод идёт набор: дешёвая быстрая — на классификацию и маршрутизацию, reasoning — на сложные разборы, локальная — на чувствительные данные.

Reasoning-модели стали рабочим стандартом

GPT-5, Claude 4, Gemini 2.5/3 и их аналоги научились «думать» перед ответом: строить план, проверять себя, удерживать длинный контекст. Для бизнеса это дало две вещи — агентов, выполняющих многошаговые задачи (собрать данные из 1С, сверить с договором, подготовить письмо), и резкое снижение требований к промпт-инженерии.

Практика показала: reasoning стоит включать точечно. На потоковых операциях — извлечение реквизитов, классификация обращений — дорогая модель проигрывает по экономике. В проектах мы считаем стоимость на 1000 операций, а не «качество вообще».

Открытые веса закрыли вопрос приватности

Qwen 3, DeepSeek, Llama 4 и линейка Mistral дали то, чего не хватало: модели, которые ставятся на собственный сервер и не отправляют наружу ни байта. Для российского бизнеса с персональными данными, коммерческой тайной и требованиями 152-ФЗ это стало главным аргументом.

Локальный контур на одной-двух GPU уровня A100/H100 — или даже на квантизованных версиях под задачи 7–30B — уже не эксперимент, а штатная конфигурация. Важное уточнение: открытые веса не отменяют RAG и дообучение. «Голая» модель без ваших данных и инструкций отвечает уверенно и неверно.

Российские модели: GigaChat, YandexGPT и ниша «под задачу»

Отечественные модели за год догнали по прикладным сценариям. GigaChat и YandexGPT уверенно закрывают работу с русским языком, деловую переписку, суммаризацию, входят в реестр отечественного ПО и доступны через API с оплатой в рублях.

Их сильная сторона — не абсолютные бенчмарки, а предсказуемость: договор, поддержка, соответствие требованиям регуляторов. Для госсектора, банков и холдингов это часто важнее пары процентов на тестах. Рабочая схема — гибрид: российская модель на клиентских сценариях, открытая локальная — на внутренних.

Мультимодальность и OCR вытащили документы из папок

Модели 2025 года читают сканы, таблицы, схемы и фото почти без предварительной обработки. Связка «vision-модель + специализированный OCR» наконец сделала рентабельным разбор первички, актов, накладных, паспортов оборудования.

На практике это выглядит так: документ попадает в систему, модель извлекает поля, проверяет их по правилам и пишет в 1С или CRM. Человек подключается только к спорным случаям — обычно это 5–15% потока.

Что делать бизнесу дальше

Шаги, которые мы видим в работающих проектах:

1. Выбрать один участок с измеримой болью — не «внедрить ИИ», а «сократить обработку заявки с 20 до 5 минут».
2. Собрать 100–300 реальных примеров и замерить базовую точность. Без метрики проект невозможно защитить.
3. Определить контур: облако или on-premise. Решает не мода, а тип данных.
4. Построить RAG на своих документах — это даёт больше прироста, чем смена модели.
5. Сравнить минимум три модели на своей выборке: цена за 1000 операций, задержка, доля ошибок.

Модель — только часть системы. Работающий инструмент получается из модели, данных, интеграций и оценки качества.

Как мы можем помочь

АПС внедряет приватные LLM, RAG-системы, ИИ-агентов, OCR и интеграции с 1С/CRM: подбираем модель под задачу, разворачиваем контур внутри вашей инфраструктуры, считаем экономику и доводим решение до продакшена. Обсудить проект