RLM против RAG: что на самом деле заменит память агента

Раз в пару месяцев в инженерных чатах всплывает один и тот же тезис: рекурсивные языковые модели (RLM) скоро вытеснят память на базе дополнения выборкой (RAG). Звучит как смена парадигмы. На деле это путаница двух слоёв системы, которые не конкурируют.

Разберём, что такое RLM, откуда взялся шум и где RAG остаётся вне конкуренции.

Что такое рекурсивная языковая модель

В этом споре RLM - не модель с явным рассуждением и не новая архитектура весов. Речь о работе MIT CSAIL (Zhang, Kraska, Khattab, декабрь 2025, arXiv:2512.24601). Это стратегия вывода.

Идея простая. Вместо того чтобы запихивать весь корпус в окно модели, вы кладёте его в переменную context внутри интерактивной среды Python, то есть снаружи окна. Модель видит только метаданные: длину, префикс. Дальше она сама пишет код. Ищет по регулярным выражениям, разбивает текст по заголовкам, запускает рекурсивные подвызовы к самой себе через llm_query() на подзадачи. Когда уверена в ответе - возвращает FINAL(answer).

Ключевое: модель сама решает, что посмотреть, в каком порядке и с какой логикой. Никакого жёсткого конвейера выборки.

Почему вообще заговорили о замене

Главный козырь - явление под названием гниение контекста. Исследование Chroma по 18 моделям (GPT-4.1, Claude Opus 4, Gemini 2.5, Qwen3) показало: с ростом длины входа точность системно падает даже на тривиальных задачах (Chroma Research, 2025). Один похожий, но лишний кусок текста бьёт точность, четыре - критично. Классический тест "иголка в стоге сена" модели проходят отлично, но стоит спросить про семантику, а не про лексику, результаты рушатся.

Вывод неприятный: больше окно не означает лучше результат. Значит "просто засунь всё в контекст" не работает. И тут рекурсивный подход выглядит честнее.

На тестах он реально рвёт. RLM на базе GPT-5-mini обошла чистый GPT-5 на задачах OOLONG при длине 132 тысячи токенов примерно в два раза и при этом стоила дешевле (Zhang et al., 2025). Модель Qwen3-8B с рекурсивной надстройкой дала прирост 28,3% к базовой линии. Масштаб впечатляет: до ста крат выше нативного окна, с 272 тысяч до более чем 10 миллионов токенов.

Три провала классической выборки, которые рекурсивный подход закрывает

Первый - разрыв по релевантности. Выборка достаёт top-k по сходству векторных вложений, но при многошаговом рассуждении ответ зависит от кусков, не похожих на запрос. Спросите "сравни условия возмещения убытков во всех трёх договорах с поставщиком" - нужны куски из разных документов, которые по отдельности не выстрелят по векторному вложению.

Второй - разрыв по агрегации. Выборка скормила модели мешок сниппетов в один проход. Подсчёты и перекрёстные ссылки по десяткам фрагментов сыплются.

Третий - разрыв по полноте. Выборка не гарантирует, что достала всё релевантное. Top-k равное десяти пропустит одиннадцатый кусок с критичным исключением. В юридической проверке и аудите это неприемлемо.

Почему "заменит" - ложная дихотомия

Слой хранения и слой обработки живут на разных этажах.

Выборка отвечает за то, чтобы персистентно держать корпус и выдавать релевантное по запросу. Это векторное хранилище, индексы, переранжирование. Рекурсивная модель отвечает за то, чтобы пережевать уже выданный кусок: поискать программно, рекурсировать, проверить полноту.

Рекурсивная модель не помнит ничего между сессиями. Ей надо скормить корпус каждый раз. Значит для долговременной памяти агента векторное хранилище обязательно. Рекурсивный подход - это что делать, когда корпус уже передан, а не где его хранить.

Где выборка вне конкуренции

Фактоидный поиск по базе в 10 миллионов документов: "какая выручка за третий квартал 2024 года" - выборка тут права. Латентность: хороший процесс выборки отвечает быстрее секунды, рекурсивный из-за рекурсии серийнее и медленнее. Часто меняющийся корпус: обновил индекс, и модель сразу видит новое без переобучения. Прод сегодня: рекурсивные модели всё ещё в стадии исследования, высокая вариативность стоимости, нужна модель с поддержкой кода.

Что это значит для инженера

Не "рекурсивные модели убьют выборку", а "контекстное проектирование важнее размера окна". Выборка остаётся верным решением для огромного класса задач. Рекурсивный подход бьёт её там, где нужна полнота и рассуждение поверх большого входа.

Стек будущего - гибрид. Выборка находит кандидатов по доменам, переранжирование упорядочивает, а рекурсивная модель углублённо обрабатывает: многошаговое рассуждение, агрегация, проверка полноты. Третий игрок - графовая выборка (Microsoft, arXiv:2404.16130) для тематических вопросов и многошаговых связей, где векторный поиск не видит отношений между сущностями.

Итог

Тезис "RLM заменит память RAG" строится на смешении хранения и вычисления. Память - это слой хранения. Рекурсивная модель - это вычисление поверх неё. Стек, а не выбор "или/или".

Источники: Recursive Language Models, arXiv:2512.24601; Context Rot, Chroma Research, 2025; From Local to Global (графовая выборка), Edge et al., arXiv:2404.16130.