Почему это интересно агентным системам?

Многоагентная система, где умная модель строит контекст, а дешёвая его исполняет, тратит на коммуникацию префиллы. SwaT-класс переноса заменяет текстовое саммари передачей кэша: меньше токенов, быстрее, и дешёвая модель получает полный контекст, а не пересказ.

Глоссарий

SwaT (Swarm Telepathy): перенос кэша между семействами

Коротко: SwaT это метод (MIT, arXiv 2610.15095) передачи KV-кэша между моделями разных семейств без префилла: обучаемый маппинг переводит кэш отправителя в пространство кэша получателя. Обучение: <50M токенов и <1 GPU-день, обе модели заморожены. Честные цифры: сам по себе перенос даёт retention 90-110% (паритет с префиллом получателя); выигрыш +40% к качеству и 4x wall-clock появляется только в связке со сжатием кэша. Разброс по парам моделей большой — от 31% до ~99% retention. Статус на конец 2026: препринт без peer-review, независимых воспроизведений нет.

SwaT это метод (MIT, arXiv 2610.15095) передачи KV-кэша между моделями разных семейств без префилла: обучаемый маппинг переводит кэш отправителя в пространство кэша получателя. Обучение: <50M токенов и <1 GPU-день, обе модели заморожены. Честные цифры: сам по себе перенос даёт retention 90-110% (паритет с префиллом получателя); выигрыш +40% к качеству и 4x wall-clock появляется только в связке со сжатием кэша. Разброс по парам моделей большой — от 31% до ~99% retention. Статус на конец 2026: препринт без peer-review, независимых воспроизведений нет.