Разработчики запустили сервис Die With Me для отслеживания лимитов токенов

Команда проекта Die With Me представила одноименный сервис, который визуализирует состояние лимитов использования API для популярных языковых моделей. Инструмент работает по принципу статусов «away messages» в мессенджерах, оповещая пользователей о доступности ресурсов в реальном времени.

Сервис отслеживает текущие квоты для моделей Claude и Codex. Когда остаток доступных токенов опускается ниже 10%, система автоматически переводит «маскотов» моделей в режим сна. Это позволяет разработчикам оперативно узнавать о достижении пороговых значений и планировать выполнение задач без риска внезапной остановки процесса из-за исчерпания лимитов.

Интерфейс приложения выполнен в стилистике классических мессенджеров, где статус модели меняется в зависимости от нагрузки на API. Пользователи могут подключаться к мониторингу через веб-интерфейс, получая уведомления о статусе доступности конкретных эндпоинтов. Техническая реализация опирается на данные о текущем потреблении токенов, предоставляемые провайдерами моделей.

Проект был представлен в рамках сообщества Hacker News, где разработчики обсуждают интеграцию дополнительных API в будущих обновлениях. Инструмент ориентирован на тех, кто активно использует LLM в автоматизированных пайплайнах и нуждается в визуальном контроле за расходом квот.

Подобные решения упрощают управление инфраструктурой при работе с платными API, где жесткие ограничения по количеству токенов в минуту или день могут блокировать работу агентов. Автоматизация мониторинга позволяет избежать простоев в разработке и оптимизировать затраты на использование облачных моделей.