Глоссарий
Маршрутизация моделей: кто отвечает на этот шаг
Коротко: Маршрутизация моделей это правило, по которому запрос уходит в конкретную LLM: по типу задачи, цене токена, длине контекста, языку или приватности данных. В агентной системе роутер стоит перед генераторами и решает, кому отдать шаг: дешёвой быстрой модели на рутину, тяжёлой на рассуждения, локальной на чувствительное. Цена ошибки выше лишних токенов: неверно выбранный генератор портит ответ целиком, поэтому правило держат явным и проверяют замером.
Самая дешёвая форма маршрутизации живёт в конфиге профиля: список задач и закреплённые за ними генераторы. Продвинутая форма добавляет оценку сложности запроса и цену ошибки, но принцип не меняется: правило должно быть предсказуемым, иначе отладка агентного пайплайна превращается в угадывание.
Наши замеры показывают одно и то же: правильный выбор дешёвой модели на рутину высвобождает бюджет на тяжёлые шаги без потери качества там, где качество действительно нужно.