Gemini Decision используют для выбора модели, и задержка снижается до 40%

Google в своём блоге для разработчиков от 2026-11-11 привела очень конкретный пример. Gemini Notebook использует Decisions API как маршрутизатор в реальном времени: когда приходит запрос, повседневные вопросы сразу распределяются по подходящему уровню модели и уровню thinking. По официальным данным, задержка для обычных запросов снижается до 40%. Учтите: цифру назвала сама Google. Это не сторонний нагрузочный тест и не результат замеров какой-либо платформы.

Это не очередное улучшение возможностей модели. Выбор модели переехал из кода разработчика прямо в путь прохождения запроса.

Главное: за 3 минуты разберёмся, что такое gemini-decision-1, как он тарифицируется и что меняется в вашей цепочке вызовов.

gemini-decision-router-latency-cut-40-ru-image-0


Gemini Decision: ключевая информация

Параметр Подробности
Дата анонса 2026-11-11, блог Google для разработчиков
ID модели gemini-decision-1
Назначение Маршрутизация и принятие решений в реальном времени, а не генерация контента
Первый публичный кейс Распределение повседневных вопросов по уровням внутри Gemini Notebook
Цена входа $0.10 / 1M токенов
Цена выхода $0
Выигрыш в задержке По официальным данным, до 40% для повседневных запросов
Наличие на агрегаторах На 2026-11-12 этого ID нет в прайс-листе APIYI (apiyi.com)

Проще всего пропустить в таблице строку, где цена выхода равна $0. Она показывает, что результат gemini-decision-1 — не текст ответа, а очень короткий вердикт: на какой уровень отправить запрос и сколько бюджета на размышление выделить. Если сравнивать цену такой модели с ценами диалоговых моделей в одном прайс-листе, выводы получатся совершенно неверными.

Есть и ещё одна деталь: у модели уже есть реальный боевой кейс, а не просто пример из документации. Gemini Notebook — собственный продукт Google. Эту маршрутизацию сначала запустили у себя и только потом рассказали о ней публично. Доверия к такому подходу больше, чем к чистым бенчмаркам, но это по-прежнему одностороннее описание от самого вендора.


Как работает Gemini Decision: кейс маршрутизации по данным самого Google

Как пишет Google в своём блоге, обычные вопросы в Gemini Notebook сначала проходят через Decisions API. Он решает, какой уровень модели и какой уровень «глубины размышления» задействовать. Получается, что решение о маршрутизации теперь само является вызовом модели, а не жёстко прописанным if-else и не вручную подобранным порогом.

gemini-decision-router-latency-cut-40-ru-image-1

Задача, которую решает такая схема, вполне приземлённая. В одном продукте большинство запросов — лёгкие повседневные вопросы, и лишь немногие требуют серьёзных рассуждений. Если гнать всё через один уровень, лёгкие запросы тянет за собой тяжёлая модель, и растут и задержки, и расходы. Если же всё отправлять на лёгкий уровень, со сложными вопросами модель не справится. Отдельная модель-решатель на входе делает «распределение по потребности» частью инфраструктуры.

Этап Как обычно делали раньше После внедрения Decision
Выбор уровня Правила в коде или сопоставление по ключевым словам Модель сама оценивает по содержимому запроса
Поддержка Пороги приходится подкручивать вручную вслед за бизнесом Логика выбора обновляется вместе с моделью
Влияние на задержку Если тяжёлых запросов много, тормозит всё По заявлению Google, для повседневных запросов задержка снижается до 40%
Влияние на стоимость Все запросы тарифицируются по одному уровню Лёгкие запросы уходят на лёгкий уровень, структура счёта меняется

Важно уточнить: цифра в 40% относится к сценарию «повседневные запросы», а не ко всем запросам. Google указывает её как верхнюю границу, так что реальный выигрыш зависит от того, какая доля ваших запросов вообще допускает понижение уровня. Если ваш продукт целиком состоит из анализа длинных документов или сложных задач по коду, пространства для экономии заметно меньше.

🎯 Технический совет: чтобы проверить, даст ли такой подход выигрыш именно в вашем проекте, сначала прогоните модели разных уровней через единый интерфейс APIYI (apiyi.com) и сравните задержки и качество ответов на одном и том же наборе запросов. Только после этого решайте, нужен ли вам слой маршрутизации.


Структура тарификации Gemini Decision и что она значит для затрат

Вход стоит $0.10 за 1M токенов, выход — $0. По сути, это плата за то, сколько контекста модель «прочитала». Чтобы принять решение о маршрутизации, нужно увидеть содержимое запроса, поэтому брать деньги за вход логично. А на выходе модель выдаёт лишь один вывод — уровень (тир), так что затрат на выходной стороне почти нет, и в официальном прайсе там просто поставили 0.

Отсюда вывод: при подключении придётся считать чуть внимательнее, ведь слой маршрутизации тоже расходует токены. Экономия на инференсе после понижения тира должна перекрывать эти дополнительные расходы на принятие решения — только тогда вы действительно в плюсе. Чем длиннее запрос и чем больше разница между тирами, тем проще выйти в плюс. А если запросы короткие и и так идут на лёгкий тир, лишний слой маршрутизации может, наоборот, обойтись дороже.

import openai

client = openai.OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.apiyi.com/v1"
)

# gemini-decision-1 пока не добавлена в прайс-лист платформы
# Для проверки бизнес-цепочки можно временно заменить model на любую доступную диалоговую модель
response = client.chat.completions.create(
    model="YOUR_MODEL",
    messages=[{"role": "user", "content": "这个问题需要多深的推理?"}]
)
print(response.choices[0].message.content)

🚀 Быстрый старт: по состоянию на 2026-11-12 в прайс-листе APIYI (apiyi.com) gemini-decision-1 ещё нет — платформа добавит её в ближайшее время. Пока этого не произошло, проверяйте цепочку на других моделях через тот же OpenAI-совместимый интерфейс: переключиться потом почти ничего не стоит. Актуальные модели и цены смотрите в списке на apiyi.com.


Кого это затронет: три типа цепочек вызовов

Сторона приложения: маршрутизация больше не пишется вручную, а вызывается через интерфейс

Раньше, чтобы разводить трафик между несколькими моделями, команде обычно приходилось поддерживать таблицу правил и снова и снова подбирать параметры при каждой смене версии модели. Если решение о маршрутизации можно отдать специальной модели-диспетчеру, логика на стороне приложения заметно похудеет. Останется определить, какие бывают «уровни» и какую модель поставить на каждый из них. Цена вопроса — ещё один последовательный вызов, поэтому качество сети на входном слое напрямую влияет на общую задержку.

Сторона затрат: меньше задержка — не значит меньше счёт

Задержка и стоимость — это две разные кривые. Переход на более лёгкий уровень снижает обе, но сам роутер тарифицируется по входным токенам, так что на коротких запросах предельные затраты вырастают. Надёжный подход такой: сначала разбить запросы по типам и включать маршрутизацию только для той части трафика, где сложность запросов сильно различается. Остальной трафик пусть идёт на фиксированный уровень.

Тип команды Основная выгода На какие статьи затрат смотреть
Вопросно-ответные продукты для конечных пользователей (C-end) Снижается задержка на повседневных вопросах, UX заметно улучшается Дополнительные токены на вызов роутера
Внутренние корпоративные инструменты Сложные и простые запросы идут вперемешку, разница между уровнями большая Нужно заново продумать разбивку на уровни
Сервисы с частыми короткими запросами Выгода ограниченная, пространства для понижения уровня мало Лишний последовательный шаг может не окупиться

Сторона платформы: скорость появления новых ID моделей становится критерием выбора

Модели обновляются всё быстрее, и между объявлением ID и его стабильной работой нередко проходит «окно ожидания». Для команд, которые работают через агрегирующие платформы, важно, как быстро в этот период можно получить рабочий интерфейс: от этого напрямую зависит график проверки. В этом и ценность платформ вроде APIYI (apiyi.com): один API-ключ, OpenAI-совместимый интерфейс, и после появления модели в каталоге можно переключиться на неё, не меняя структуру кода. Сроки добавления моделей и детали тарификации смотрите на странице apiyi.com — там актуальная информация.

gemini-decision-router-latency-cut-40-ru-image-2


Часто задаваемые вопросы (FAQ)

Q1: Что такое Gemini Decision?

gemini-decision-1, о котором объявила Google, — это модель для маршрутизации и принятия решений в реальном времени. Она не генерирует основной текст, а определяет, на какую модель и с каким уровнем «размышления» отправить запрос. Gemini Notebook — первый публично заявленный продакшен-кейс её использования.

Q2: Чем она отличается от обычных моделей Gemini?

Обычная диалоговая модель выдаёт контент, а здесь на выходе — крайне короткий вердикт, поэтому и тарификация устроена иначе: вход — $0.10 за 1M токенов, выход — $0. Воспринимать модель как «более дешёвую генеративную» — значит изначально смотреть не в ту сторону.

Q3: Откуда взялось «снижение задержки до 40%»?

Эта цифра взята из официального блога Google и является самоотчётом. Речь о верхней границе улучшения задержки в Gemini Notebook на повседневных запросах, а не о результатах независимого стресс-теста. Реальный выигрыш зависит от того, какая доля ваших запросов — лёгкие вопросы, которые можно отправить на более простой уровень.

Q4: Сколько это сэкономит моему бизнесу?

Универсального ответа нет. Экономия на инференсе появляется за счёт того, что запросы попадают на более лёгкие уровни, а сама маршрутизация тарифицируется по входным токенам. Чем длиннее запросы и чем больше разница между уровнями, тем заметнее чистая выгода. Для сценариев с частыми короткими запросами нужно считать осторожно.

Q5: Можно ли уже вызывать Gemini Decision?

По состоянию на 2026-11-12 в прайс-листе APIYI (apiyi.com) модели gemini-decision-1 пока нет, платформа добавит её в ближайшее время. А пока можно отладить всю цепочку обработки через единый интерфейс apiyi.com, и когда ID появится, останется просто заменить название модели. Актуальные модели и цены смотрите в списке на apiyi.com.

Q6: Какие известные издержки у слоя маршрутизации?

Основных три. Во-первых, в путь запроса добавляется ещё один последовательный вызов, поэтому качество сети на входе становится важнее. Во-вторых, сама маршрутизация расходует входные токены, и для коротких запросов предельные затраты растут. В-третьих, разбиение на уровни нужно проектировать под свой бизнес — чужую схему не получится просто скопировать.


Gemini Decision: ключевые выводы (Key Takeaways)

  • Назначение: gemini-decision-1 — маршрутизирующая модель реального времени. Она выдаёт решение о выборе уровня и не генерирует основной текст ответа.
  • Сценарий использования: Gemini Notebook с её помощью распределяет повседневные вопросы по подходящему уровню модели и уровню «размышления».
  • Выгода: по заявлению самой компании, задержка в повседневных запросах снижается максимум на 40%. Это данные самой компании, а не независимых замеров.
  • Тарификация: вход — $0.10 за 1M токенов, выход — $0. Плата взимается за прочитанный контекст.
  • Цена вопроса: сам роутинг тратит токены, поэтому для коротких запросов чистую выгоду нужно считать отдельно.
  • Доступность: по состоянию на 2026-11-12 этого ID в APIYI (apiyi.com) пока нет, мы добавим его как можно скорее. Актуальные цены смотрите в списке на apiyi.com.
  • Как проверить: сначала запустите цепочку через единый интерфейс, а потом решайте, нужен ли вам слой маршрутизации в продакшене.

Итоги

Ценность этого анонса не в том, насколько сильна сама модель, а в том, что Google превратила «выбор модели» в отдельный интерфейс, доступный снаружи, и сначала обкатала его в собственных продуктах. Разработчикам стоит запомнить три вещи: решение о маршрутизации из кода превращается в вызов модели; выигрыш в задержке — это заявленный компанией верхний предел, и его нужно пересчитывать под структуру вашего трафика; новая статья расходов меняет структуру затрат, поэтому нельзя смотреть только на экономию от перехода на более лёгкий уровень.

Если хотите проверить этот подход заранее, запустите логику распределения по уровням на существующих моделях. Когда gemini-decision-1 появится в APIYI (apiyi.com), достаточно будет поменять название модели. Актуальные модели и цены смотрите в списке на apiyi.com.


Источники

  1. Официальный блог Google: Gemini Decisions API
  2. Ссылка: blog.google/innovation-and-ai/technology/developers-tools/gemini-decisions-api/
  3. Описание: единственный первоисточник этой статьи по ID модели, сценариям маршрутизации, цифрам задержки и ценам

  4. Прайс-лист APIYI (apiyi.com)

  5. Ссылка: apiyi.com
  6. Описание: здесь можно проверить, добавлена ли модель gemini-decision-1, и уточнить итоговый способ тарификации

Автор: техническая команда APIYI
Обратная связь: пишите нам на главной странице APIYI (apiyi.com). Новости о добавлении моделей и описания новых интерфейсов смотрите в центре документации на сайте

Оставьте комментарий