DEV Community

Cover image for Сбер представил GigaChat 3.5 Ultra — модель вдвое компактнее предыдущей, но работающую с документами в четыре раза быстрее…
Promptra Team for Promptra

Posted on

Сбер представил GigaChat 3.5 Ultra — модель вдвое компактнее предыдущей, но работающую с документами в четыре раза быстрее…

Если ты пришёл сюда за одним ответом: да, 6 июля 2026 года Сбер выложил новую флагманскую модель, она заявлена как почти вдвое компактнее прошлой версии и работает с большими документами до четырёх раз быстрее. Веса открыты и лежат на Hugging Face. Всё остальное в этой статье - как это проверить руками, где легко ошибиться и чего этот релиз не решает.

Сразу оговорюсь про частую путаницу. gigachat от сбера - это не один продукт, а два разных входа: ассистент ГигаЧат, которым пользуются как чат-ботом, и сама модель, которую теперь можно скачать и запускать у себя. GigaChat 3.5 Ultra - именно про второе. Если ты искал «где нажать кнопку и спросить», тебе в ассистент. Если ищешь веса и API для своего агента - читай про открытый код ниже.

Что именно изменилось 6 июля

Главное: появилась новая версия флагманской модели, её отдали и обычным пользователям бесплатно, и разработчикам в виде открытого исходного кода. Технически ключевое слово релиза - linear attention.

По данным анонса, который 6 июля 2026 года разошёлся через iXBT и подтверждается карточкой модели команды GigaChat на Hugging Face, изменилось следующее:

  • Модель почти в два раза компактнее предыдущей версии и требует меньше вычислительных ресурсов (Сбер, через iXBT, 6 июля 2026).
  • С большими документами она работает до четырёх раз быстрее прошлой версии (там же).
  • Заявлены улучшения в программировании, математике и анализе документов, плюс поддержка многошаговых агентных сценариев (Сбер, через iXBT).
  • Под капотом - технология linear attention (карточка модели на Hugging Face, ai-sage/GigaChat3.5-432B-A28B-bf16).
  • GigaChat 3.5 Ultra доступна бесплатно пользователям ассистента ГигаЧат для личных и рабочих задач.
  • Открытый исходный код модели бесплатно доступен разработчикам для своих сервисов и ИИ-агентов.

Что важно не додумать. Точное число параметров и размер контекстного окна в самом анонсе не раскрыты. Имя репозитория GigaChat3.5-432B-A28B-bf16 намекает на разреженную MoE-архитектуру с 432 млрд параметров и примерно 28 млрд активных, но официально Сбер эту цифру в анонсе не называл - это моя догадка по названию, и её стоит перепроверить в официальном блоге и в конфиге модели, прежде чем закладывать в расчёты памяти.

Пока ты прикидываешь, стоит ли гонять свои документы через ещё одну модель, держи в голове простой приём: чтобы понять, насколько gigachat от сбера хорош на твоих данных, полезно сравнить его ответы с зарубежными моделями на том же промпте - и такой прогон удобно делать через один совместимый API без VPN.

Что linear attention значит для агентов

Главное: обычное внимание в трансформере растёт квадратично от длины входа, linear attention - линейно. Для длинных документов это и есть источник заявленного ускорения.

Классический self-attention на входе из N токенов считает матрицу N×N. Удвоил документ - вычислений стало вчетверо больше. На договоре, логах или большом своде регламентов это упирается и в скорость, и в память. Linear attention переписывает операцию так, что стоимость растёт примерно линейно с длиной. Отсюда и логика заявления «до четырёх раз быстрее с большими документами» (Сбер, через iXBT): чем длиннее вход, тем заметнее выигрыш, а на коротком чате разницу ты можешь и не почувствовать.

Почему это важно именно для агентов. Многошаговый сценарий - это не один запрос, а цепочка: прочитать документ, вызвать инструмент, получить результат, снова подумать. Каждый шаг тащит за собой растущий контекст. Если обработка длинного контекста дешевле, агент дешевле и быстрее на каждом витке. Сбер прямо заявляет поддержку многошаговых агентных сценариев как одну из целей релиза - и архитектурный выбор с этим согласуется.

Честная оговорка от меня, не от Сбера: linear attention - это компромисс. Такие схемы исторически экономят на «дальнобойности» точных зависимостей ради скорости. Хорошо ли конкретно эта реализация держит длинный контекст на твоих задачах - независимыми замерами на 6 июля я не располагаю. Проверяй на своих документах, а не на демо.

Как попробовать GigaChat 3.5 Ultra прямо сейчас

Главное: есть два пути - нажать и спросить в ассистенте либо скачать веса. Начни с первого, чтобы понять, нужен ли второй.

  1. Через ассистент, бесплатно. Модель доступна пользователям ГигаЧата для личных и рабочих задач (Сбер, 6 июля 2026). Это самый быстрый способ увидеть поведение на своих текстах, без железа и без кода.
  2. Через открытые веса. Разработчикам отдан открытый исходный код для собственных сервисов и агентов. Это путь для тех, кому нужен контроль, приватность данных и запуск в своём контуре.

Прежде чем тянуть десятки гигабайт весов, ответь себе на три вопроса: хватит ли у меня видеопамяти под MoE такого размера, нужен ли мне self-hosted из-за требований к данным, и не решается ли задача обычным доступом к ассистенту. Если на все три «нет» - оставайся в ассистенте.

Схема: два пути к GigaChat 3.5 Ultra - ассистент ГигаЧат и открытые веса на Hugging Face

Открытый код: что реально лежит на Hugging Face

Главное: веса опубликованы командой GigaChat в репозитории ai-sage/GigaChat3.5-432B-A28B-bf16. Это первичный источник, его и стоит открыть перед любым продакшеном.

Формат bf16 в имени означает веса в bfloat16 - то есть без квантизации, «полный» вес. Под инференс на скромном железе тебе, скорее всего, понадобится квантованная сборка или несколько ускорителей; в bf16 модель такого класса требует много видеопамяти. Точные требования смотри в конфиге репозитория, а не в этой статье - я их не выдумываю.

Базовая загрузка весов через официальный клиент Hugging Face выглядит так. Токен нужен, если репозиторий попросит принять условия использования; храни его в переменной окружения, а не в коде.

import os
from huggingface_hub import snapshot_download

# HF_TOKEN - секрет, задай через переменную окружения, не коммить в git
snapshot_download(
    repo_id="ai-sage/GigaChat3.5-432B-A28B-bf16",
    token=os.environ.get("HF_TOKEN"),  # placeholder: подставь свой токен
    local_dir="./gigachat-3-5-ultra",
)
Enter fullscreen mode Exit fullscreen mode

Дальше запуск зависит от твоего стека - transformers, vLLM или другой сервер инференса. Здесь я намеренно не привожу «магической» команды загрузки: конкретный класс модели, trust_remote_code и параметры зависят от того, что лежит в репозитории на день, когда ты это читаешь. Открой карточку модели, прочитай README и config.json - там официальные инструкции. Всё, что важно знать заранее: это открытые веса под свой запуск, а не готовый управляемый сервис.

Схема авторизации: переменная окружения с токеном, загрузка репозитория, локальный запуск

⚠️ Предупреждение: не вставляй токены Hugging Face и любые ключи прямо в скрипт или в блокнот, который потом уйдёт в репозиторий. Утёкший токен - это чужой доступ к твоим приватным репозиториям и квотам. Используй переменные окружения или секрет-менеджер.

Сколько это стоит и какую модель выбрать

Главное: в ассистенте GigaChat 3.5 Ultra заявлена бесплатной для личных и рабочих задач; открытые веса тоже бесплатны, но платить придётся за железо и его обслуживание. Прямой прайс инференса в источнике не приводится, поэтому цифр за токен я не называю.

Выбор модели под задачу - это не про «какая лучше вообще», а про то, что у тебя за данные и где они должны оставаться. Ниже компактная таблица-ориентир. Она про способ доступа, а не про рейтинг качества - бенчмарков на 6 июля у меня нет, качество меряй сам.

Что тебе нужно Разумный вариант На что смотреть
Быстро проверить ответы на русских текстах Ассистент ГигаЧат Бесплатно для личных и рабочих задач (Сбер)
Данные не должны покидать контур Открытые веса GigaChat 3.5 Ultra Своё железо, память под MoE, поддержка
Сравнить с зарубежными моделями Внешний совместимый API Оплата, доступ без VPN, единый счёт
Длинные документы, агентные цепочки GigaChat 3.5 Ultra (linear attention) Проверить контекст на своих данных

Отдельно про сравнение. Чтобы честно понять, где gigachat от сбера выигрывает, а где нет, нужен второй игрок на том же промпте. Держать под это отдельные зарубежные аккаунты, карты и VPN - лишняя возня. Здесь пригождается доступ к Claude, GPT, Gemini, DeepSeek и Qwen через один API, совместимый с SDK OpenAI и Anthropic: меняешь ключ и base_url, платишь рублями с российской карты, по СБП или по счёту, работаешь без VPN и без иностранных карт. GigaChat через него не идёт - это отечественная модель со своим доступом; сервис закрывает ровно вторую половину сравнения, зарубежные модели, чтобы было с чем сопоставлять.

Минимальный прогон второй модели на том же запросе выглядит так - это обычный клиент OpenAI с другим адресом:

from openai import OpenAI

client = OpenAI(
    api_key="PROVOD_API_KEY",              # placeholder: секрет, из переменной окружения
    base_url="https://api.provod.ai/v1",   # единый совместимый эндпоинт
)

resp = client.chat.completions.create(
    model="claude-opus-4-8",               # или gpt/gemini/deepseek/qwen
    messages=[{"role": "user", "content": "Суммируй договор ниже: ..."}],
)
print(resp.choices[0].message.content)
Enter fullscreen mode Exit fullscreen mode

Тот же промпт отправляешь в ГигаЧат, кладёшь два ответа рядом и смотришь на свои критерии: где точнее по фактам договора, где меньше выдумок, где формат ответа удобнее. Это скучная ручная работа, но именно она заменяет веру в пресс-релиз на собственные данные.

Ориентир по выбору доступа и стоимости: ассистент, свои веса, внешний совместимый API

Где ты споткнёшься при встраивании в n8n и агентов

Главное: большинство проблем при интеграции - не про модель, а про формат ответа, длину контекста и ретраи. Разбери их заранее, и агент перестанет «падать без причины».

Частые грабли, отсортированные по тому, как часто на них наступают:

  1. Ожидаешь строгий JSON - получаешь текст с пояснением. Любая модель иногда оборачивает JSON в фразу «вот ваш результат». В n8n это ломает следующий узел. Лечится явной инструкцией «ответь только JSON» и узлом-парсером, который отбрасывает всё до первой {.
  2. Слишком длинный вход. Даже с linear attention контекст не бесконечен, а его точный размер в анонсе не назван. Если суёшь весь документ целиком, режь на части и собирай ответ. Не полагайся на «модель же быстрая с документами» как на «модель проглотит любой объём».
  3. Нет ретраев и таймаутов. Агент делает пять шагов, на третьем сеть моргнула - вся цепочка встала. Оборачивай вызовы в повтор с экспоненциальной задержкой и разумным таймаутом на шаг.
  4. Смешиваешь роли в диалоге. Для агентных сценариев следи за порядком system/user/assistant и за тем, куда кладёшь результаты вызванных инструментов. Каша в ролях - главная причина, почему многошаговый сценарий «тупеет» к концу.
  5. Тестируешь на демо-примере, катишь на боевых данных. Красивый пример из анонса и твой реальный договор с таблицами и сносками - разные миры. Собери десяток настоящих документов и гоняй регресс на них.

Для n8n практический скелет один и тот же: HTTP-узел на эндпоинт модели, узел-валидатор ответа, ветка на ошибку с ретраем, и только потом бизнес-логика. Если строишь агента на открытых весах GigaChat 3.5 Ultra - добавь мониторинг видеопамяти и очередь запросов, иначе первый же всплеск нагрузки уронит инференс-сервер.

Карта отладки агента: валидация ответа, нарезка контекста, ретраи, разделение ролей

Чего этот релиз не решает

Честный список, чтобы не было завышенных ожиданий.

  • Он не отменяет твою инженерную работу. Открытые веса - это старт, а не готовый сервис. Разворачивание, мониторинг, безопасность и обновления остаются на тебе.
  • Он не даёт официальных цифр по параметрам и контексту. В анонсе их нет; название репозитория - это подсказка, а не спецификация. Не строй расчёты памяти на догадке.
  • Заявления о скорости - от вендора. «До четырёх раз быстрее с большими документами» и «вдвое компактнее» - это слова Сбера через iXBT, не независимый бенчмарк. Активное обсуждение в iXBT, Sostav и vc.ru 6 июля - это внимание к анонсу, а не доказательство качества.
  • provod.ai не заменяет GigaChat. Сервис не предоставляет ГигаЧат и не подменяет платформы автоматизации, приватную и on-prem инфраструктуру, функции, доступные только по подписке вендора, и работу по внедрению. Его роль в этой теме узкая: дать зарубежные модели через совместимый API, когда нужно сравнить или маршрутизировать между семействами.
  • Он не отвечает на вопрос «а точно ли лучше для меня». На это отвечает только прогон на твоих документах.

Что делать дальше, по шагам

  1. Открой ассистент ГигаЧат и прогони пять своих реальных запросов.
  2. Параллельно отправь те же пять запросов в одну зарубежную модель и сравни.
  3. Если данные нельзя отдавать наружу - иди в репозиторий ai-sage/GigaChat3.5-432B-A28B-bf16, читай README и прикидывай железо.
  4. Собери мини-регресс из настоящих документов и меряй скорость и точность сам.
  5. Решение о продакшене принимай по своим числам, а не по пресс-релизу.

Источники

Мем: две модели отвечают на один и тот же промпт, разработчик сравнивает ответы

Хочешь честно сравнить gigachat от сбера с зарубежными моделями на своих данных - подключи один совместимый API и оплати рублями без VPN, меняя только ключ и base_url.


provod.ai — Russian LLM API aggregator. One OpenAI-compatible endpoint to all flagship models: OpenAI (GPT-5.6, GPT-5.5), Anthropic (Claude Opus 4.8, Sonnet 4.6), Google (Gemini 3.1 Pro, 3.5 Flash), DeepSeek V4 Pro, Qwen 3.6 Plus. Provider prices at the CBR rate, no token markup. Pay in rubles to a Russian legal entity with full closing documents.

Try: provod.ai · model catalog · docs

Top comments (0)