Больше контекста - хуже результат: почему AI-агенты деградируют на длинных сессиях и при чём тут CoT

Больше контекста - хуже результат: почему AI-агенты деградируют на длинных сессиях и при чём тут CoT

После первой статьи про Cursor и компактинг развернулась жаркая дискуссия. Я решил собрать всю подноготную: исследования, цифры, механизмы.

Главное: ▪️ CoT - это не мышление, а пост-хок нарратив. Turpin et al. (2023) показали: модель может дать правильный ответ, но её объяснение будет систематически врать о причинах ▪️ Du et al. (2024) провели жестокий эксперимент: даже при идеальном поиске релевантной информации, просто увеличение длины контекста роняет производительность на 13-85%. Контекст сам по себе - шум ▪️ OpenAI и Anthropic выпустили свежие гайды по промптингу для GPT-5.5 и Opus 4.7. Обе компании советуют одно и то же: начинайте с минимального промпта, не тащите старые инструкции

Бонус: подтверждение от производителей моделей, ссылки на все 10 исследований и 7 практических правил для разработчиков AI-агентов.

→ Читать на Telegra.ph: https://telegra.ph/Bolshe-konteksta---huzhe-rezultat-pochemu-AI-agenty-degradiruyut-na-dlinnyh-sessiyah-i-pri-chyom-tut-CoT-05-04-5

Предыдущая статья на Хабре: https://habr.com/ru/articles/1030946/

🌐 hermes-agent.ru - сайт проекта ℹ️ Хотите попробовать, но нет времени разбираться? Напишите в контакты на сайте - поможем с настройкой и подбором сценария под ваши задачи.