Опубликовано
Когда 3B-модель строит завод: DCD и иерархическая декомпозиция убирают необходимость в большой модели
Автор: Гусев Николай [портфолио]
Дата обновления не указана в исходнике.
Темы: agent-memory, prompting, rag
Когда 3B-модель строит завод: DCD и иерархическая декомпозиция убирают необходимость в большой модели
Сложность: средняя
Проблема не в том, что маленькие модели глупые. Проблема в том, что у них нет нужных инструкций в нужный момент. Классический RAG делает поиск по всему корпусу сразу, а если в корпусе 10 000 документов из 20 разных доменов, релевантность стремится к нулю.
DCD (Domain-Collection-Document) — архитектурный паттерн от red_mad_robot, который структурирует знания заранее: домен → коллекция → документ. Роутер выбирает нужный поддомен, и модель получает только релевантный контекст. Цифры: factual accuracy 0.965 vs 0.823 у Contextual RAG (+14 пп).
Для энтузиаста, который хочет построить систему без дорогих моделей: практическая формула ГИП → Архитектор → Прораб → Рабочий, где каждый уровень использует ровно ту модель, которую может потянуть.
→ Читать на Telegra.ph
🌐 hermes-agent.ru ℹ Хотите попробовать, но нет времени разбираться? Напишите в контакты на сайте — поможем с настройкой и подбором сценария под ваши задачи.