Promptra Team for Promptra

Posted on Jul 11

ИИ-агенты для бизнеса: 6 слоёв стека и какой фреймворк выбрать

#ai #agents #llm #coding

Применить: собрать первый агентский контур · Уровень: средний · Чтение: ~22 минуты · Данные проверены на 10 июля 2026

Что узнаешь:

Из чего собрать агентскую среду: 6 слоёв стека и что кладут в каждый

Какой фреймворк выбрать: LangGraph (37k звёзд), CrewAI (55k), n8n (196k) или managed - таблица и дерево решений

Почему мультиагент жжёт в 15 раз больше токенов, чем чат, и 3 рычага срезать счёт

Пошаговый план внедрения за 6 шагов и когда агент не нужен вообще

7 ошибок, из-за которых проект попадает в 40% отменённых по Gartner

Как дать агенту доступ ко всем топ-моделям из России и платить рублями

Главное. Агентская среда - это стек из шести слоёв вокруг модели: оркестрация, доступ к моделям, память, инструменты, инфраструктура и наблюдаемость. Собрать её бизнесу реально за вечер в минимальном виде, но выкатить в прод трудно: Gartner прогнозирует, что свыше 40% агентских проектов закроют к концу 2027 из-за стоимости, неясной ценности и слабого контроля рисков. Ниже - из чего собирать, по какому плану внедрять, сколько это стоит и на каких ошибках проекты сыпятся. Данные актуальны на 10.07.2026.

За последний год «ИИ-агенты для бизнеса» превратились из хайпа в статью бюджета. По McKinsey (State of AI, март 2026) ИИ хотя бы в одной функции используют 88% организаций, а агентную систему уже масштабируют 23%. Но у той же McKinsey эффект на прибыль на уровне предприятия видят лишь 39%. Разрыв между «попробовали» и «работает и приносит деньги» - главная тема этого разбора.

Я собрал сюда то, что даёт первоисточник и проверяемая цифра, а не маркетинг вендоров. Разберу по полкам: из чего вообще состоит агентская среда, какой фреймворк выбрать, сколько это стоит и как поднять всё это из России. Каждая цифра - с источником и датой. Где источник осторожничает, я осторожничаю вместе с ним.

Каждую неделю разбираю новое по доступу к нейросетям и агентам: инструменты, кейсы, ошибки. Подпишись на канал provod.ai, чтобы не пропустить.

Что такое ИИ-агент и агентская среда - и чем это не чат-бот?

Главное. ИИ-агент - это нейросеть, которая работает в цикле: сама планирует, вызывает инструменты (API, поиск, код), читает результат и решает следующий шаг, пока не закроет задачу. Чат-бот отвечает одной репликой, агент действует. Агентская среда - это стек вокруг модели, который позволяет ей действовать безопасно, помнить контекст и быть под контролем. Anthropic советует: сложность повышать только по необходимости, а иногда «не строить агентную систему вообще».

Начну с определения в лоб. ИИ-агент - это большая языковая модель, посаженная в цикл: получил задачу, составил план, вызвал инструмент, посмотрел на результат, скорректировал план, вызвал следующий инструмент. Так до готового результата или до стоп-условия. Обычный чат-бот выдаёт одну реплику на один запрос; агент сам ведёт многошаговый процесс.

Простой пример из поддержки. Приходит обращение «где мой заказ». Чат-бот выдаст шаблон про сроки доставки. Агент действует иначе: читает номер заказа, вызывает инструмент к базе и достаёт статус, сверяет с политикой возвратов, формирует ответ по фактам, а если клиент просит возврат сверх лимита - эскалирует человеку. Пять шагов вместо одной реплики, и на каждом модель сама решает, что делать дальше. Отсюда и вся сложность: чем больше шагов, тем больше мест, где что-то ломается.

Anthropic в разборе «Building Effective Agents» проводит важную границу между двумя вещами. Первое - workflow: модель и инструменты гоняются по заранее написанному коду, предсказуемо и консистентно. Второе - агент: модель сама управляет процессом и выбирает шаги, это гибко, но менее предсказуемо. Формулировка Anthropic прямая: начинай с простейшего решения и повышай сложность только там, где она реально нужна, - «This might mean not building agentic systems at all» (Anthropic, engineering blog).

Почему это важно для бизнеса с первой минуты. «Агент» звучит дорого и умно, поэтому вендоры лепят это слово на всё подряд. Gartner называет явление «agent washing» - ребрендинг ассистентов, RPA и чат-ботов без реальных агентных способностей, и оценивает, что из тысяч «агентных» вендоров настоящими можно считать около 130 (Gartner, июнь 2025).

⚠️ Совет. Прежде чем выбирать фреймворк, ответь на один вопрос: задача правда требует, чтобы модель сама принимала решения в цикле? Если процесс описывается фиксированной схемой «если X, то Y», это workflow, и агент тут - лишний дорогой слой. OpenAI в «A Practical Guide to Building Agents» ставит ту же проверку первым шагом: сначала валидируй, что кейсу нужен именно агент.

Агентская среда - это всё, что превращает голую модель в работающего агента: оркестратор, доступ к моделям, память, инструменты, инфраструктура и наблюдаемость. Дальше разберём каждый слой отдельно: именно там, в слоях вокруг модели, прячется большинство провалов внедрения.

Из чего собрать агентскую среду: 6 слоёв стека

Главное. Агентская среда собирается из шести слоёв: 1) оркестрация - фреймворк, который держит цикл и состояние; 2) доступ к моделям - шлюз к нейросетям с failover; 3) память - короткая (контекст) и долгая (векторная база); 4) инструменты - способ действовать во внешнем мире, чаще через MCP; 5) инфраструктура - где агент запущен и как масштабируется; 6) наблюдаемость - трейсинг, логи и оценки качества. Минимальный контур - один агент плюс одна модель - собирается за вечер, остальное наращивается по мере надобности.

Модель - это мозг, но мозг без тела и памяти ничего не сделает. Агентская среда - это тело: шесть слоёв, каждый закрывает свою функцию. Вот они снизу вверх.

Слой	Что делает	Примеры	Ключевой факт
Оркестрация	держит агентский цикл, состояние, ветвление, human-in-the-loop	LangGraph, CrewAI, n8n, ADK	LangGraph ~37k, n8n ~196k звёзд (github, 10.07.2026)
Доступ к моделям	единая точка к нейросетям, роутинг, failover, биллинг	шлюз/gateway, единый API	78% команд гоняют 2+ семьи моделей (LangChain, дек 2025)
Память	короткий контекст + долгая память между сессиями	mem0, Zep, векторные БД	долгая память экономит до 90% токенов (mem0, ECAI 2025)
Инструменты	как агент действует: API, поиск, код, базы	MCP-серверы, функции	10 000+ публичных MCP-серверов (Linux Foundation, дек 2025)
Инфраструктура	где запущен, как масштабируется, изоляция	managed-платформы, контейнеры	Bedrock AgentCore, Vertex, Foundry - managed-runtime
Наблюдаемость	трейсинг, логи, оценки качества (evals)	LangSmith, Langfuse, Phoenix	evals внедрили лишь 52% команд (LangChain, дек 2025)

Хорошая новость: минимальный агентский контур - один слой оркестрации плюс одна модель с парой инструментов - поднимается за вечер. Плохая: именно на верхних слоях (наблюдаемость, безопасность, контроль стоимости) проекты и спотыкаются, потому что их добавляют в последнюю очередь или не добавляют вовсе.

Дальше идём по слоям сверху вниз по важности выбора: сначала оркестрация (её меняют болезненнее всего), потом доступ к моделям, память, инструменты, наблюдаемость и отдельно - стоимость и безопасность как сквозные темы.

Оркестрация: какой фреймворк выбрать - LangGraph, CrewAI, n8n или managed?

Главное. Фреймворк оркестрации держит агентский цикл, состояние и ветвление. Грубое деление: code-first (LangGraph, Google ADK, OpenAI Agents SDK) - полный контроль и durable state для прода; low-code (n8n, CrewAI) - быстрый прототип и автоматизация без разработчиков; managed (Bedrock AgentCore, Vertex, Azure Foundry) - когда не хочешь держать рантайп сам. Практики сходятся в одном: качество агента определяют eval-пайплайн, наблюдаемость и логика восстановления после сбоя, а сам выбор фреймворка вторичен.

Оркестратор - это скелет агента. Выбор здесь дороже всего в переделке, поэтому начнём с него. Ниже - свежий снимок ключевых фреймворков, звёзды и версии сняты прямым запросом к GitHub 10 июля 2026.

Фреймворк на GitHub	Кто стоит	Версия / статус	Звёзды	Профиль
LangGraph	LangChain Inc.	1.0 GA (окт'25), v1.2.9 (10.07)	~37k	code-first, durable state, HITL
CrewAI	CrewAI Inc.	v1.15.2 (08.07)	~55,3k	ролевой мультиагент, быстрый прототип
OpenAI Agents SDK	OpenAI	v0.18.1 (09.07), Swarm архивирован	~27,8k	лёгкий SDK, встроенный трейсинг
Google ADK	Google	ADK Go 2.0 GA	7M+ загрузок	code-first + Vertex managed
Microsoft Agent Framework	Microsoft	1.0 GA (~апр'26)	-	enterprise .NET/Azure
Mastra	Mastra (Spark Capital)	1.0 (янв'26)	~26k	full-stack TypeScript
Pydantic AI	Pydantic	v2.8.0 (10.07)	~18,3k	type-safe, структурированный вывод
Strands	AWS	Python v1.42	~6,1k core	AWS-деплой, 16,7M загрузок/мес
n8n	n8n GmbH	OSS, нода AI Agent	~196k	бизнес-автоматизация без кода

Пара сдвигов, которые стоит знать. Microsoft слила AutoGen и Semantic Kernel в единый Agent Framework - его 1.0 вышел примерно 2 апреля 2026, а оба предшественника переведены в режим поддержки: только багфиксы и патчи безопасности, без новых фич (learn.microsoft.com, 2026). У OpenAI экспериментальный Swarm архивирован, репозиторий редиректит на Agents SDK. То есть часть популярных вчера имён сегодня уже легаси - проверяй статус перед стартом.

Как выбирать под задачу бизнеса - дерево из четырёх вопросов:

Нужна автоматизация без разработчиков (почта, тикеты, роутинг)? Бери n8n или Make с нодой AI Agent: визуальный canvas, интеграции из коробки, шаги трассируются.
Клиентский прод-агент с аудитом и одобрением человека (финансы, поддержка, комплаенс)? Code-first LangGraph или managed-платформа: durable state, чекпоинты, human-in-the-loop.
Нужен быстрый PoC мультиагента для проверки гипотезы? CrewAI: рабочий прототип за пару часов на ролевой метафоре, потом критичное переносишь в LangGraph.
Уже живёшь в одном облаке (AWS / Azure / GCP)? Бери родное: Strands + Bedrock AgentCore, Agent Framework + Foundry, ADK + Vertex соответственно.

Главная ловушка выбора - переоценка самого фреймворка. В сводке бенчмарков 2026 сформулировано жёстко: «The gap between a good agent system and a bad one is almost never the framework; it is the eval pipeline, the observability setup, and the failure recovery logic». Перевожу на живой язык: не столько важно, какой логотип на скелете, сколько - настроены ли у тебя оценки качества, видимость происходящего и восстановление после сбоя. У CrewAI и LangChain частая жалоба ровно об этом - «за абстракциями не видно, что именно уходит в модель» (firecrawl.dev, 2026), а на проде эта непрозрачность бьёт по отладке.

У low-code есть свой стеклянный потолок. n8n и подобные дают быстрый старт и трассируемые шаги, но упираются в сложную кастомную логику, хуже версионируются и тестируются. Типичный сценарий: команда стартует на CrewAI ради скорости прототипа, дорастает до требований durable state, аудита и одобрений человеком под комплаенс - и мигрирует на LangGraph. Это двойная работа, если развилку не заложить заранее. Поэтому дешёвый быстрый старт стоит выбирать с открытыми глазами: под PoC он окупается, под клиентский прод с требованиями к надёжности - закладывай запас на переезд.

Как агент получает доступ к моделям и зачем единый API?

Главное. Агент постоянно крутится в цикле и вызывает инструменты, поэтому в отличие от разового чата ему критичны надёжный tool-calling и непрерывный доступ. По LangChain 78% команд используют две и более семьи моделей и роутят между ними под задачу. Держать «зоопарк SDK» под каждого вендора дорого и хрупко, поэтому доступ к моделям выносят в отдельный слой - единый OpenAI-совместимый шлюз, который даёт роутинг, failover, кэш и единый биллинг.

Первое, что отличает агента от чата, - он бьёт по API постоянно и должен уметь вызывать инструменты. Вендоры так и позиционируют свежие флагманы: у OpenAI в GPT-5.6 (вышла 9 июля 2026, разбор Simon Willison) появился Programmatic Tool Calling - модель сама пишет и исполняет код, который оркеструет вызовы инструментов. Без надёжного structured tool-calling агент просто не может действовать.

Второе - мультимодельность. По опросу LangChain (State of Agent Engineering, ноябрь-декабрь 2025, 1340 ответов) 78% команд гоняют две и более семьи моделей: где-то дешёвая модель для рутины, где-то топовая для сложного шага, где-то запасная на случай отказа основной. Роутинг между Claude, GPT, Gemini, DeepSeek и Qwen под конкретный шаг - норма, а не экзотика.

Проблема в том, что у каждого вендора свой SDK и своя форма API: у Anthropic - Messages, у OpenAI - Responses, у Google - своя. Держать под каждого отдельный код - это зоопарк, который дорого поддерживать и который ломается на каждом обновлении. Поэтому доступ к моделям выносят в отдельный слой: единый OpenAI-совместимый эндпойнт плюс шлюз, который делает роутинг, failover между провайдерами, кэш и единый биллинг. Меняешь модель - правишь одно поле в запросе, а не переписываешь интеграцию.

Хочешь собрать агентскую среду целиком, а не бороться с доступом к моделям? provod.ai закрывает именно этот слой: все топовые нейросети мира в одном балансе, единый API, совместимый и с OpenAI (/v1/chat/completions), и с Anthropic (/v1/messages). Код и тулзы переключаются сменой baseURL и ключа, а под капотом - резервирование провайдеров, чтобы флагман не «отвалился» посреди агентского цикла.

Для агента этот слой особенно чувствителен. Разовый чат переживёт обрыв - человек повторит запрос. Прод-агент, который крутится в цикле, при обрыве доступа просто падает вместе с процессом. Поэтому непрерывность (аптайм и failover), мультимодельность (роутинг под задачу) и предсказуемый биллинг - три требования, которые к слою доступа предъявляет именно агентская нагрузка, а не чат.

Память агента: чем короткая память отличается от долгой?

Главное. У памяти два слоя. Короткая - это контекст-окно: у флагманов оно выросло до 1 млн токенов, но точность проседает при заполнении, поэтому окно - не то же самое, что память. Долгая - отдельное хранилище фактов между сессиями: mem0, Zep, векторные базы. В бенчмарках долгая память даёт сопоставимую точность при экономии до 90% токенов и в разы меньшей задержке. Для бизнеса это и качество ответа, и прямая экономия на счёте.

Короткая память - это то, что помещается в контекст текущего запроса. Окна разрослись: у флагманов Claude, GPT и Gemini заявлен 1 млн токенов. Но большое окно не равно надёжной памяти: практики отмечают, что точность падает по мере заполнения окна, и часть контекста «теряется в середине». Поэтому для фактов, которые агент должен помнить между сессиями, нужен отдельный слой.

Долгая память - это внешнее хранилище, куда агент кладёт и откуда достаёт нужные куски. Здесь два популярных подхода. Первый - специализированные слои памяти: mem0 показывает на бенчмарке LoCoMo точность 92,5% при экономии около 90% токенов относительно передачи всего разговора в контекст (mem0, данные ECAI 2025). Второй - Zep на движке темпорального графа знаний: на LongMemEval он даёт относительный прирост точности +18,5% к полному контексту при задержке ниже на ~90% (blog.getzep.com, arXiv 2501.13956).

Под капотом долгой памяти чаще всего векторная база: pgvector (расширение Postgres, удобно если данные уже там), Pinecone, Qdrant, Weaviate, Chroma для локального прототипа. Тот же механизм лежит в основе RAG - подмешивания релевантных документов в контекст.

Когда что брать - простое правило. RAG хорош, когда есть один набор документов и все имеют к ним доступ: база знаний, справка, документация. Долгая память и context engineering нужны там, где источники конфликтуют, у разных пользователей разные права, важно отличать свежее от устаревшего, и агент действует, а не просто отвечает. Anthropic описывает context engineering шире RAG - как решение, «какие данные, знания, инструменты, память и структуру дать модели в момент вывода», и советует стартовать с агентского поиска по требованию, а не грузить всё в окно заранее.

🚨 Критично. Не путай «большое окно» с «памятью». Окно в 1 млн токенов - это разово и дорого: каждый шаг агента заново отправляет растущий контекст, и счёт летит вверх (см. раздел про стоимость). Долгая память достаёт только нужные куски - это и точнее, и в разы дешевле. Anthropic в разборе про context engineering формулирует принцип: подгружать контекст точечно и по необходимости, а не грузить всё сразу.

Инструменты и MCP: как агент действует во внешнем мире?

Главное. Инструменты - это руки агента: вызовы API, поиск, исполнение кода, доступ к базам. Раньше каждый инструмент подключали кастомным коннектором, получая матрицу N×M. В 2026 стандартом стал MCP (Model Context Protocol) - «USB-C для ИИ-инструментов»: один разъём вместо множества. 9 декабря 2025 Anthropic передала MCP в Linux Foundation; на тот момент экосистема насчитывала 10 000+ публичных серверов. Но тот же стандарт открывает и новый класс атак - об этом в разделе про безопасность.

Модель сама по себе только генерирует текст. Чтобы агент что-то делал - отправлял письмо, читал базу, запускал код, искал в интернете, - ему нужны инструменты. Технически это функции, которые модель вызывает и чей результат читает.

Проблема масштаба: если каждый инструмент подключать своим коннектором, получается матрица N моделей на M инструментов, и её дорого поддерживать. MCP решает это единым протоколом. Метафора, которую закрепил рынок, - «USB-C для ИИ-инструментов»: один стандартный разъём, к которому подключается что угодно.

MCP из proprietary-идеи Anthropic стал общей инфраструктурой. 9 декабря 2025 Anthropic передала стандарт в Linux Foundation, в новый фонд Agentic AI Foundation; со-учредители - Anthropic, Block и OpenAI, поддержку заявили Google, Microsoft, AWS, Cloudflare и Bloomberg (anthropic.com, 09.12.2025). На дату передачи насчитывалось 10 000+ активных публичных MCP-серверов и 97 млн+ ежемесячных загрузок SDK. Рядом развивается A2A (Agent2Agent) - протокол связи между агентами: его версия 1.0 вышла в апреле 2026, к ней присоединились 150+ организаций. MCP даёт агенту инструменты, A2A связывает агентов друг с другом - они дополняют друг друга.

Для бизнеса вывод практический: подключать инструменты через MCP дешевле и быстрее, чем писать интеграции руками, и экосистема готовых серверов уже большая. Но у этой лёгкости есть цена в безопасности - вредоносные инструкции могут прятаться прямо в описании инструмента. К этому вернёмся ниже.

Наблюдаемость: почему без трейсинга агент - чёрный ящик?

Главное. Многошаговый агент без трейсинга непрозрачен: не видно, какой шаг сжёг токены и время, где галлюцинация, какой инструмент упал. Наблюдаемость даёт по спану на каждый вызов модели и инструмента плюс оценки качества (evals) на живом трафике. Разрыв тут показательный: по LangChain трейсинг внедрили ~89% команд, а evals - только 52%. Именно оценок качества чаще всего и не хватает, чтобы отличить «демо работает» от «прод надёжен».

Агент делает десятки шагов: планирует, зовёт инструменты, лезет в память, порождает субагентов. Без распределённого трейсинга это чёрный ящик - когда что-то ломается или счёт улетает, ты не видишь, где именно. Трейсинг разбирает прогон на спаны: по одному на каждый round-trip к модели (с моделью, расходом токенов, причиной остановки) и отдельные - на вызовы инструментов.

Инструменты этого слоя в 2026: LangSmith (глубоко интегрирован с LangGraph), Langfuse (open-source, в январе 2026 его купил ClickHouse), Arize Phoenix (OpenTelemetry-native), Braintrust (упор на оценки), Helicone (простейший proxy-логгер). Часть - self-host, часть - SaaS.

⚠️ Заметка. Отраслевой стандарт трейсинга для ИИ - OpenTelemetry GenAI semantic conventions - на июль 2026 всё ещё в статусе Development: стабильного релиза нет, конвенции активно дорабатываются (opentelemetry.io). На практике это значит, что унификация метрик пока «плывёт», и завязываться на неё как на застывший стандарт рано.

Но главный разрыв держится на дисциплине. По LangChain наблюдаемость внедрили около 89% команд, а вот оценки качества (evals) - лишь 52%. При этом барьером №1 для вывода агента в прод те же респонденты назвали именно качество (32%). Без evals ты не измеряешь, стал агент лучше или хуже после правки промпта, и катишь в прод вслепую. Это прямой мост к разделу про ошибки.

Сколько стоит агент и почему он жжёт в 15 раз больше токенов?

Главное. Агент дороже чата в разы, потому что крутит многошаговый цикл и на каждом шаге заново отправляет растущий контекст. По измерениям Anthropic одиночный агент расходует примерно в 4 раза больше токенов, чем чат, а мультиагентная система - примерно в 15 раз. При этом расход токенов сам по себе объясняет около 80% разброса в качестве. Хорошая новость - три рычага срезают счёт: кэш промпта (-90% на повторный контекст), Batch API (-50%) и роутинг моделей (спред цен ~5x).

Почему агент жжёт токены. Он гоняет цикл: планирует, зовёт инструмент, добавляет результат в контекст, снова обращается к модели - и так десятки раз, с каждым шагом контекст растёт. Мультиагентные схемы умножают это на число субагентов, у каждого своё окно.

Anthropic измерила это на своей мультиагентной research-системе (блог, 13 июня 2026) и дала точные якоря: «agents typically use about 4x more tokens than chat interactions», а «multi-agent systems use about 15x more tokens than chats». То есть одиночный агент - примерно 4x к чату, мультиагент - примерно 15x. Там же вывод, важный для планирования бюджета: расход токенов сам по себе объясняет около 80% разброса в качестве. Мощнее агент - дороже прогон, это почти линейно.

Отсюда практика: не гнаться за максимальной автономией ради галочки. Но если агент нужен, счёт снижают три рычага (все - из официальных pricing-страниц вендоров):

Кэш промпта. Повторно отправляемый контекст (системный промпт, инструкции, документы) кэшируется: чтение из кэша стоит около 0,1x базовой цены входа - скидка ~90%. У Anthropic, OpenAI и Google механика похожая.
Batch API. Если задача не требует ответа в реальном времени, пакетная обработка даёт -50% и на вход, и на выход. Подтверждают Anthropic, OpenAI и Google.
Роутинг моделей. Дешёвую модель - на простые шаги, топовую - только на сложные. Спред цен между младшей и флагманской моделью у одного вендора - примерно 5x, и скидки складываются с кэшем и батчем.

🚨 Критично. Самая частая утечка бюджета - retry-петли: агент упирается в плохой вывод и молча гоняет повторные попытки, тихо тратя в разы больше, пока не вмешается человек. Живой пример из разбора на Habr (23 апреля 2026): мультиагентный прогон стоил $4,30 за 127 вызовов модели, тогда как детерминированный граф решил ту же задачу за $0,42 за 14 вызовов - разница на порядок. Ставь лимиты на шаги и «стоп-кран» с первого дня.

Пошаговый план: как выкатить агента в бизнесе за 6 шагов?

Главное. Рабочий маршрут - «crawl-walk-run»: взять один узкий процесс и довести его до прода, прежде чем масштабировать всё остальное. Шесть шагов: выбрать узкий повторяемый процесс с чёткой метрикой успеха, собрать PoC, встроить человека по уровню риска, поднять evals и наблюдаемость до прода, выкатить с логами и алертами, и только потом расширять на соседние процессы. И перед всем этим - проверить, что задаче правда нужен агент.

Внедрять агента лучше по нарастающей. Вот устойчивый по источникам маршрут.

Выбери узкий процесс. Повторяемый, с большим объёмом и чётким критерием успеха: маршрутизация обращений, ответы на типовые вопросы, сбор данных, черновики документов. Не «универсальный ассистент на всё», а один процесс с измеримой метрикой.
Собери PoC на этом одном процессе. Минимальный контур: оркестратор + модель + пара инструментов. Метрика - конкретная: время обработки, доля автозакрытий, точность.
Встрой человека по уровню риска. Необратимые и дорогие действия - через явное одобрение человеком (human-in-the-loop). Среднерисковые - агент действует, человек мониторит (human-on-the-loop). Низкорисковые - автономно, но только после доказанной точности.
Подними evals и наблюдаемость до прода. Оценки качества на живом трафике, а не только предрелизные тесты; трейсинг каждого шага; интеграция в CI/CD. Без этого шага «демо работает - прод нет» почти неизбежен.
Выкати с логами и алертами. Детальный audit trail всех действий агента - для разбора инцидентов и комплаенса. Плюс лимиты на шаги и стоимость.
Масштабируй на соседние процессы только после стабильной надёжности на первом. Расширение до того, как первый процесс устоялся, - типичная причина хаоса.

А перед шагом 1 - честная проверка: нужен ли вообще агент? Anthropic и OpenAI в своих гайдах прямо советуют: если задача решается детерминированным скриптом или workflow, бери его. Отдельный сигнал того же порядка - наблюдение практиков, что «зарабатывающие в 2026 ИИ-агенты - узкие, скучные и глубоко контролируемые» (White Beard Strategies, 2026). Узкий и скучный процесс с чёткой метрикой окупается чаще, чем автономный «супер-агент» из презентации.

Собрать первый контур - только начало. provod.ai закрывает слой доступа к моделям для всей этой конструкции: единый API ко всем топ-моделям, оплата рублями и закрывающие документы для юрлица, чтобы бухгалтерия не спотыкалась об валютный биллинг. Это тот кусок стека, который в России собирают дольше всего, - и его можно не собирать руками.

7 ошибок, из-за которых проект попадает в 40% отменённых

Главное. Gartner прогнозирует, что свыше 40% агентских проектов закроют к концу 2027 - из-за роста затрат, неясной бизнес-ценности и слабого контроля рисков. MIT NANDA добавляет: 95% корпоративных GenAI-пилотов не дают измеримого эффекта на прибыль. Причины повторяются от проекта к проекту, и почти все - организационные, а не про «слабую модель». Ниже 7 ошибок, которые чаще всего топят внедрение.

Сначала цифры, чтобы понять масштаб. Gartner (пресс-релиз, 25 июня 2025): свыше 40% проектов агентского ИИ будут закрыты к концу 2027 из-за роста затрат, неясной бизнес-ценности и недостаточного контроля рисков. MIT NANDA (август 2025): при вложенных $30-40 млрд 95% организаций не получают измеримого возврата, и лишь ~5% интегрированных пилотов дают ценность. Это фон, на котором собираются агентские среды. Теперь - конкретные грабли.

Агент там, где хватило бы скрипта. «90% кейсов для ИИ-агентов можно реализовать обычными алгоритмами - без модели, без планировщика, без памяти» (Habr, «ИИ-агенты никому не нужны», 31 марта 2025). Агент поверх простой задачи - это дороже, медленнее и менее предсказуемо.
Нет оценок качества и наблюдаемости. Evals внедрили лишь 52% команд, а качество - барьер №1 прода (LangChain, декабрь 2025). Без метрик релиз идёт вслепую.
Недооценка стоимости. Агент жжёт в 4-15 раз больше токенов, а retry-петли на плохих выводах тихо утраивают счёт. Пример выше ($4,30 против $0,42) - ровно про это.
Избыток автономии без человека в контуре. Классический разворот - Klarna (см. следующий раздел): ставка на ИИ-only снизила качество, пришлось возвращать людей.
Мультиагентный хаос без жёсткой оркестрации. Пять агентов «устроили бесконечный митинг», переспрашивая друг друга 37 итераций без результата (Habr, «Мультиагентный хаос», 23 апреля 2026). Лечится конечными автоматами и графами вместо чат-оркестрации, лимитами и стоп-краном.
Увольнения вместо перепроектирования процессов. 80% крупных компаний, внедривших автономный ИИ, провели сокращения, но те не коррелируют с ростом ROI (Gartner, май 2026). «Сократить штат легко, построить операционную модель - нет».
Безопасность в последнюю очередь. По McKinsey почти две трети называют безопасность и риски главным барьером масштабирования агентов, а по Deloitte зрелую модель управления автономными агентами имеет лишь 1 из 5 компаний. Агент с широкими правами плюс галлюцинация равно инцидент.

Общий знаменатель всех семи - организационный, а не модельный. Gartner прямо отмечает: ни одна из трёх причин отмены не лечится более умной моделью. Это вопрос дисциплины: узкий процесс, метрики, человек в контуре, контроль стоимости и безопасность с первого дня.

Безопасность: что может пойти не так с автономным агентом?

Главное. Агент опасен там, где сочетаются три вещи: доступ к приватным данным, контакт с недоверенным контентом и способность отправить что-то наружу. Simon Willison назвал это «lethal trifecta» - собрав все три, злоумышленник через prompt injection может увести данные. Профильные списки рисков - OWASP Top 10 for LLM (2025) и отдельный OWASP Top 10 for Agentic Applications (декабрь 2025). Базовая защита - least privilege: минимальные права, одобрение человеком на необратимые действия, изоляция.

Prompt injection - главная первопричина проблем. Архитектурный корень в том, что модель читает системный промпт, ввод пользователя и внешний текст как один недифференцированный поток токенов: вредоносная инструкция, спрятанная в письме, на веб-странице или в описании инструмента, для модели выглядит как легитимная команда.

Самая понятная модель угрозы - «lethal trifecta» Саймона Уиллисона (simonwillison.net, 16 июня 2025). Агент становится эксплуатируемым, когда сочетает все три свойства: (1) доступ к приватным данным, (2) контакт с недоверенным контентом, (3) способность к внешней коммуникации как канал утечки. Дословно: «If your agent combines these three features, an attacker can easily trick it into accessing your private data and sending it to that attacker». Убери любую одну «ногу» - и эксфильтрация блокируется. Уиллисон отдельно отмечает, что MCP провоцирует смешивание инструментов, которые вместе собирают все три ноги.

Отраслевые списки рисков стоит держать под рукой. OWASP Top 10 for LLM Applications (версия 2025) выделяет для агентов LLM06 Excessive Agency (избыточные права и автономия) и LLM10 Unbounded Consumption (расход токенов как DoS). А 9 декабря 2025 OWASP выпустила отдельный Top 10 для агентских приложений - там уже про перехват цели агента, злоупотребление инструментами, отравление памяти и каскадные сбои агентов.

⚠️ Совет. Практическая защита сводится к least privilege: давай агенту минимально необходимые права, короткоживущие и узкие креды под каждый инструмент, обязательное одобрение человеком на необратимые действия и изолированный рантайп. Не выдавай одному агенту сразу доступ к приватным данным, к недоверенному вводу и к внешней отправке - разорви трифекту архитектурно. И помни свежий класс атак: в июне 2026 раскрыли «agentjacking» - инъекцию вредоносных данных через открытый ingestion, после которой кодинг-агенты исполняли чужие команды с правами разработчика.

Что агенты пока не умеют: честные бенчмарки 2026

Главное. На узких однодоменных задачах топ-модели почти уперлись в потолок (85-99%), но на широких открытых задачах агенты по-прежнему проваливаются в 30-50% случаев. GAIA - около 52%, WebArena - около 68%, SWE-bench Pro у GPT-5.6 Sol - 64,6%, Agents' Last Exam - около 54%. Причина математическая: надёжность цепочки шагов перемножается, и при 95% на шаг за 20 шагов остаётся 36%. Вывод для бизнеса - короткие цепочки и человек на верификации.

Честный разговор про пределы. Есть разница между узким и широким бенчмарком. На узких однодоменных tool-use тестах (семейство τ-bench от Sierra) лучшие модели переваливают за 85-99% - но там же слабое место pass^k: согласованность по нескольким прогонам остаётся низкой, то есть один и тот же агент на одной задаче ведёт себя нестабильно.

На широких открытых задачах картина отрезвляющая. Снимки лидербордов на 9 июля 2026 (benchlm.ai, разбор Simon Willison):

Бенчмарк агентов	Что проверяет	Лучший результат
GAIA	реальные многошаговые ассистент-задачи	~52%
Agents' Last Exam	длинные агентские задачи	~54% (GPT-5.6 Sol)
SWE-bench Pro	сложный агентский кодинг	64,6% (GPT-5.6 Sol)
WebArena	задачи на живых сайтах	~68%

Даже лучшие модели решают примерно половину открытых задач. Почему так - объясняет арифметика цепочки. Надёжность многошагового процесса равна произведению пошаговых (закон Люссера): при 95% успеха на каждый шаг за 20 шагов остаётся 0,95 в степени 20 = 36%. Агент падает почти в двух прогонах из трёх, потому что ошибки перемножаются на каждом шаге, даже когда каждый шаг сам по себе почти надёжен.

Практический вывод: чем длиннее автономная цепочка, тем ниже надёжность. Отсюда - короткие цепочки, верификация между шагами и человек на рискованных действиях. Это инженерное ограничение, а не приговор: агент отлично работает на узком контролируемом участке, и тянуть его в длинные автономные цепочки просто дорого и ненадёжно.

Как развернуть агентов из России?

Главное. Технически стек тот же, но добавляется слой доступа: топ-модели из России напрямую не оплатить и не всегда открыть. Карты РФ не проходят, с апреля 2026 усилилась верификация личности, рекуррентные платежи ломаются на втором списании, а юрлицу негде взять закрывающие документы. Агенту это критично: он бьёт по API постоянно, и обрыв доступа роняет прод. Решение - единый OpenAI-совместимый шлюз с оплатой рублями, который закрывает слой доступа целиком.

Спрос в России есть и растёт. По данным АФТ (Ведомости, 5 июля 2026) 75% компаний планируют масштабное внедрение ИИ-агентов в течение трёх лет, а главным барьером называют корпоративную культуру - страх увольнений и нехватку компетенций. По опросу Сбера (29 мая 2026, 308 крупных компаний) 56% хотят использовать агентов для автоматизации офисной рутины. То есть строить агентские среды в РФ будут массово.

Но упираются в доступ к моделям. Прямая оплата российскими картами не работает, сервисы верифицируют «страну аккаунта, IP, BIN карты, 3-D Secure и личность» (vc.ru, 6 июня 2026). С апреля 2026 антифрод ужесточился: верификация через Persona проверяет личность владельца, а рекуррентные платежи ломаются на втором списании, а не на первом - подписка обрывается непредсказуемо. Для юрлица отдельная боль: нет счёта-договора, акта и закрывающих документов, которые нужны бухгалтерии. VPN не спасает - нестабильный западный IP сам триггерит антифрод.

Почему для агента это болезненнее, чем для человека в чате. Разовый чат переживёт обрыв: перелогинился, повторил. Агент крутится в цикле постоянно, и обрыв доступа или сломавшийся рекуррент - это упавший прод, а не неудобство. Плюс мультимодельность: агенту нужно роутить между Claude, GPT, Gemini и другими под задачу, а не биться в один заблокированный сервис.

Класс решений под это на рынке РФ 2026 - агрегаторы LLM API: единый OpenAI-совместимый эндпойнт, оплата рублями по договору, закрывающие документы, доступ к моделям без VPN. provod.ai - как раз такой слой доступа для агентской среды: все топовые нейросети (Claude Opus 4.8, GPT-5.5, Gemini 3.1 Pro, DeepSeek v4, Qwen, Kimi, Grok) в одном балансе, единый API - совместимый и с OpenAI (/v1/chat/completions), и с Anthropic (/v1/messages). Код и тулзы переключаются сменой baseURL и ключа:

# было - напрямую к вендору (карта РФ не проходит, юрлицу нет документов)
export OPENAI_BASE_URL="https://api.openai.com/v1"

# стало - единый шлюз, оплата рублями, тот же OpenAI-совместимый формат
export OPENAI_BASE_URL="https://api.provod.ai/v1"
export OPENAI_API_KEY="<ключ provod>"
# модель выбираешь строкой в запросе: claude-opus-4.8 / gpt-5.5 / gemini-3.1-pro / deepseek-v4

Цены при этом 1:1 с официалом без наценки посредника, оплата картой РФ, через СБП или по счёту, а для юрлица - полный пакет закрывающих (договор, счёт, акт/УПД). Это тот кусок агентского стека, который в России собирают дольше всего, - и его можно закрыть одним слоем.

Сделай прямо сейчас

Главное. Не собирай всё сразу. Минимальный контур - один агент, одна модель, пара инструментов - уже даёт пользу, а память, мультиагент и managed добавляются позже. Четыре действия на сегодня: проверить, нужен ли агенту процесс вообще, выбрать оркестратор по дереву решений, заложить evals и наблюдаемость с первого дня и закрыть вопрос доступа к моделям до боевых задач.

По шагам:

Возьми один узкий процесс с чёткой метрикой и проверь по гайдам Anthropic и OpenAI, правда ли ему нужен агент, а не workflow. Если хватает скрипта - бери скрипт.
Выбери оркестратор по дереву из раздела про фреймворки: n8n для автоматизации без кода, LangGraph для прод-агента с аудитом, CrewAI для быстрого PoC.
Заложи evals и трейсинг сразу, а не «потом» - именно их нехватка отправляет проекты в 40% отменённых. Поставь лимиты на шаги и стоимость с первого дня.
Реши вопрос доступа к моделям до боевой нагрузки: единый API, мультимодельность и оплата рублями с закрывающими - чтобы прод не упал на сломавшемся платеже.

Была полезна статья? Да / Нет

Источники

Gartner, пресс-релиз «Over 40% of Agentic AI Projects Will Be Canceled by End of 2027» (свыше 40% отмены; ~130 реальных вендоров из тысяч; опрос 3 412 участников янв 2025; прогноз к 2028 - 15% решений и 33% ПО) - 25 июня 2025, актуально в июле 2026
McKinsey, State of AI (88% используют ИИ, треть масштабируют, 23% масштабируют агентов, 39% эффект на EBIT, ~2/3 барьер - безопасность) - реф. Forbes, 22 марта 2026
LangChain, State of Agent Engineering (опрос 1 340 ответов: 57,3% агентов в проде, 78% используют 2+ семьи моделей, наблюдаемость ~89%, evals 52%, барьер качество 32%) - ноябрь-декабрь 2025
MIT NANDA, «The GenAI Divide - State of AI in Business 2025» (95% организаций - нулевой возврат, 5% пилотов дают ценность, вложено $30-40 млрд, buy 67% vs build втрое реже) - август 2025
Deloitte, State of AI in the Enterprise 2026 (23% используют агентов сейчас, зрелый governance у 1 из 5); PwC, AI Agent Survey и AI Performance Study (79% внедряют, 66% видят ценность; топ-20% берут 74% ценности, отрыв 7,2x) - 2025-2026
Anthropic, «Building a multi-agent research system» (одиночный агент ~4x токенов чата, мультиагент ~15x, токены объясняют ~80% дисперсии) - 13 июня 2026; «Building Effective Agents» и «Effective context engineering» (workflow vs agent, «не строить агентную систему вообще», just-in-time контекст) - engineering blog
OpenAI, «A Practical Guide to Building Agents» (валидируй, что кейсу нужен агент); developers.openai.com и разбор Simon Willison про GPT-5.6 (Programmatic Tool Calling, GA 9 июля 2026) - 2025-2026
github.com, прямые фетчи звёзд и версий: LangGraph ~37k (v1.2.9), CrewAI ~55,3k (v1.15.2), OpenAI Agents SDK ~27,8k (v0.18.1, Swarm архивирован), n8n ~196k, Mastra ~26k, Pydantic AI ~18,3k, Strands ~6,1k; Microsoft Agent Framework 1.0 GA (AutoGen+Semantic Kernel в maintenance) - 10 июля 2026
Linux Foundation / Anthropic, передача MCP в Agentic AI Foundation (10 000+ публичных серверов, 97 млн+ загрузок SDK/мес, со-учредители Anthropic/Block/OpenAI) - 9 декабря 2025; A2A Protocol 1.0 (150+ организаций) - апрель 2026
mem0.ai (LoCoMo 92,5%, экономия ~90% токенов, данные ECAI 2025); blog.getzep.com и arXiv 2501.13956 (Zep LongMemEval +18,5%, задержка -90%) - 2025-2026
opentelemetry.io (GenAI semantic conventions в статусе Development на июль 2026); clickhouse.com (Langfuse приобретён ClickHouse) - 16 января 2026
Anthropic и OpenAI, официальные pricing-страницы (кэш промпта cache read 0,1x = -90%, Batch API -50%, спред моделей ~5x) - проверено 10 июля 2026
genai.owasp.org, OWASP Top 10 for LLM Applications 2025 (LLM06 Excessive Agency, LLM10 Unbounded Consumption) и OWASP Top 10 for Agentic Applications - релиз 9 декабря 2025
simonwillison.net, «The lethal trifecta for AI agents» (приватные данные + недоверенный контент + внешняя коммуникация) - 16 июня 2025
benchlm.ai и разборы Simon Willison, снимки лидербордов (GAIA ~52%, WebArena ~68%, SWE-bench Pro 64,6%, Agents' Last Exam ~54%; узкие τ-bench 85-99% при слабом pass^k) - 9 июля 2026; арифметика компаундинга (0,95^20 = 36%, закон Люссера)
Habr, «ИИ-агенты никому не нужны» (90% решается обычными алгоритмами) - 31 марта 2025; «Мультиагентный хаос» ($4,30 за 127 вызовов против $0,42 за 14; 37 итераций без результата) - 23 апреля 2026; Gartner (80% сокративших штат не получили ROI) - май 2026
vc.ru, разбор доступа и оплаты из РФ (верификация страны/IP/BIN/3-D Secure/личности, Persona с апреля 2026, слом рекуррента на втором списании, нет закрывающих для юрлиц) - 6 июня 2026
АФТ / «Ведомости» (75% компаний планируют внедрять агентов за 3 года) - 5 июля 2026; Сбер «Салют для бизнеса», опрос 308 компаний (56% хотят агентов для офисной рутины) - 29 мая 2026
Klarna / OpenAI и CX Dive (ИИ-ассистент = работа 700 операторов, затем 853-эквивалент и ~$60 млн/год, разворот 2025 к гибриду, CEO о «cost -> lower quality») - 2024-2025

Связанные материалы

«Агрегаторы LLM API в России 2026: какой выбрать и не переплатить» - подробный разбор слоя доступа к моделям: как выбрать единый API-шлюз и не нарваться на наценку
«Как заставить ИИ-агента доводить задачу до конца: loops в Claude Code» - про надёжность агентского цикла и verification-петли, если агент бросает задачу на середине
«ИИ для кода в 2026: что реально используют разработчики (Ask HN)» - если агентская среда нужна прежде всего под кодинг и хочется живого среза стеков

Собрать оркестрацию, память и инструменты - полдела; в России дольше всего собирается слой доступа к моделям. provod.ai закрывает его целиком: Claude Opus 4.8, GPT-5.5, Gemini 3.1 Pro, DeepSeek v4, Qwen, Kimi и Grok - в одном кабинете, чат и API на общем балансе, цены 1:1 с официалом без наценки. Единый эндпойнт совместим и с OpenAI, и с Anthropic, так что фреймворк и тулзы подключаются сменой baseURL и ключа.

Оплата картой РФ, через СБП или по счёту; бизнесу - договор, счёт и закрывающие документы. Актуальный список моделей и цены.

provod.ai — Russian LLM API aggregator. One OpenAI-compatible endpoint to all flagship models: OpenAI (GPT-5.6, GPT-5.5), Anthropic (Claude Opus 4.8, Sonnet 4.6), Google (Gemini 3.1 Pro, 3.5 Flash), DeepSeek V4 Pro, Qwen 3.6 Plus. Provider prices at the CBR rate, no token markup. Pay in rubles to a Russian legal entity with full closing documents.

Try: provod.ai · model catalog · docs

DEV Community