Глоссарий
Токены LLM: единица, которой вы платите
Коротко: Токен — минимальная единица текста, которой оперирует LLM: часть слова, слово или знак. Модель не видит слова целиком: русский текст из-за морфологии режется дороже английского, одно русское слово может занимать 2–3 токена. От токенов зависит всё: цена запроса (вход и выход тарифицируются отдельно), размер контекста, скорость генерации. Реальный месячный бюджет одного инженера при плотной работе с агентами — десятки долларов и миллиарды токенов.
Каждый запрос к LLM тарифицируется дважды: вход (промпт, инструкции, история) и выход (ответ). Вход почти всегда дороже выхода суммарно — потому что он повторяется с каждым ходом агента.
Цена одного агента
Ход агента весит 15–20 тысяч токенов ещё до содержимого вопроса: системные инструкции, активные скиллы, память, описания инструментов, история сессии. Месяц плотной работы: 3,5 миллиарда токенов и 65 долларов у одного человека — не дата-центр, а VPS и два провайдера.
Экономия как инженерная задача
Дешёвая модель читает большой файл и возвращает выжимку, дорогая решает основную задачу. Контекст, рендеренный в изображение, стоит 3,1 символа на vision-токен против одного на текстовый. Подписки с долларовым потолком дешевле токенной оплаты на дешёвых моделях — ceiling не пробить.