Гибридная inference-нода: термин курса

Коротко: Гибридная inference-нода объединяет unified-memory устройство, где помещается большая модель или считается длинный prefill, с дискретной GPU, где выполняется draft, decode fast-path или ranker. Между ними передают KV-кэш или компактные состояния, а не веса на каждом токене. Схема выгодна только если remote prefill + KV transfer меньше local prefill; иначе дополнительная сеть превращает оптимизацию в задержку.