Hermes Agent

← На главную

Опубликовано

Сколько токенов сжигает AI-инженер за месяц: $65, 3.5 млрд и ни одного лишнего

Автор: Гусев Николай [портфолио]

Темы: ai-agents, llm-api

Решил на досуге посмотреть статистику использования LLM за месяц. Два провайдера, две панели, одна простая истина: считать токены вручную - занятие для тех, у кого нет агента, который это сделает сам.

Цифры без прикрас

OpenRouter - $15

Провайдер для быстрых задач, экспериментов и повседневной работы:

  • Spend: $15

  • Tokens: 1.26 миллиарда

  • Requests: 22 000 - в среднем одно обращение каждые 2 минуты, даже ночью

Nous Portal - $50

Через Nous Portal идут более тяжёлые задачи:

  • Input tokens: 2 272 050 337

  • Output tokens: 6 737 904

  • Cache reads: 2 020 461 312

  • Requests: 15 220

Итого за месяц

$65 и 3.5 миллиарда токенов. Если не знать контекста - звучит как небольшой дата-центр. На деле - один инженер, VPS за 2000 руб/мес и связка Hermes Agent + OpenRouter + Nous Portal.

Самое показательное - распределение. DeepSeek V4 Flash спалил 471 млн токенов за $7.93. Это практически 40% всего трафика, но по стоимости - копейки. Для сравнения: Claude Opus 4.6 не попал даже в топ по токенам, но обошёлся в $2.64 за пару экспериментов.

Что это говорит о рабочем процессе

Если разложить 22 000 запросов OpenRouter + 15 000 запросов Nous Portal = 37 000 обращений к LLM за месяц:

  • Почти непрерывный цикл - запрос каждые 1-2 минуты в рабочее время

  • Кэш-хит 50% - половина работы не требует повторного прогона через модель

  • Эффективность DeepSeek - 471M токенов за $7.93. По такой цене можно позволить себе не думать, прежде чем спросить

  • Claude - дорогое удовольствие - используется точечно, для сложных случаев

Почему это норма

Год назад такой объём токенов обошёлся бы в $500-1000 через OpenAI. Сейчас $65 - это стоимость обеда в Екатеринбурге. LLM стали настолько дешёвыми, что единственное ограничение - скорость, с которой инженер успевает формулировать запросы.

3.5 миллиарда токенов за $65 - это не разбазаривание, это просто новый масштаб работы. Агент (Hermes Agent) делает запросы за меня, параллельно, без потери контекста. Люди в таких единицах не мыслят - агенты могут.

**P.S. **В интернете гуляет фраза, приписываемая Дженсену Хуангу, про 500 млн токенов в месяц для инженера. Найти первоисточник не удалось - ни в одном интервью или выступлении я этого не нашёл. Возможно, апокриф. Но как бенчмарк - уже пройден.