Бюджеты и лимиты

v1.2.x · обновлено 2026-07-21

Экран «Бюджет» держит расход инстанса под контролем: задаёт лимиты и показывает фактическое потребление токенов, денег и обработок. Лимиты помогают контролировать использование; проверьте, блокируют ли они запросы до начисления расходов у внешнего провайдера — лимит стоимости считается по данным учёта инстанса и не отменяет уже выполненные у провайдера запросы.

Лимиты

Карточка «Лимиты» задаёт пороги:

дневной лимит токенов и месячный лимит токенов;
дневной лимит стоимости и месячный лимит стоимости (в USD);
лимит запросов в минуту (RPM).

[!WARNING] Рядом с каждым полем действует правило: значение 0 означает «без ограничения» — оставив 0, вы разрешаете неограниченное потребление по этому лимиту.

Что происходит при достижении каждого лимита:

Лимит	Поведение при достижении
Токены (день/месяц)	Новые запросы отклоняются с кодом 429 до сброса окна; резервная модель не подставляется
Стоимость (день/месяц)	Новые запросы отклоняются с кодом 429 до сброса окна
RPM	Запросы сверх частоты отклоняются с кодом 429; окно скользящее, минута

Дневные и месячные окна сбрасываются по времени сервера инстанса (UTC, если сервер не настроен иначе); отдельное уведомление о достижении лимита приходит в ленту «Уведомления».

Использование

Карточка «Использование» показывает:

токены за день и за месяц (с полоской потребления от месячного лимита);
стоимость за день и за месяц в USD;
число обработок за месяц;
разбивку по моделям — таблица «модель / токены / стоимость / обработки».

Как пользоваться

Задайте месячные лимиты по токенам и стоимости, соответствующие вашему бюджету.
Следите за разбивкой по моделям: дорогие модели видны сразу — их можно убрать из доступных или понизить приоритет в цепочке провайдеров.
Ставьте RPM-лимит, если канал или интеграция способны создать всплеск нагрузки.

Что дальше

Модели — где выбирается более дешёвый провайдер.
Дашборд — метрики нагрузки в реальном времени.
Лицензия и система — тарифные ограничения.