Опубликовано
Диспетчер за полтора гигабайта: локальный оркестратор для AI-агента на MiniCPM5-2B
Автор: Гусев Николай [портфолио]
Дата обновления не указана в исходнике.
Темы: ai-agents, benchmarks, llm-api, local-models
Диспетчер за полтора гигабайта: локальный оркестратор для AI-агента на MiniCPM5-2B
Сложность: средняя
Платные лимиты горели на рутине, бесплатные простаивали, а выбор модели каждый раз был ручным. Прошёл путь от скилла с таблицей сигналов до локального диспетчера: MiniCPM5-2B в LM Studio сам скорит задачу и нативным tool-calling вызывает субагентов Hermes - quick решает сам, standard/deep уводит на free-каналы, architect - в подписку. Протестировано 9 локальных моделей, финальная дуэль MiniCPM5 против Granite 3B, матрица квантов Q4/Q8/F16 (точнее квант - хуже дисциплина!) и живые сессии с делегацией за 0 рублей. В тестах попалась и хрупкость, о которой в тот же день написали в Spotify Portal - правила соблюдаются не всегда.
→ Читать на Telegra.ph: https://telegra.ph/Dispetcher-za-dva-gigabajta-iskal-lokalnyj-orkestrator-dlya-AI-agenta-nashyol-Granite-3B-09-07
🌐 hermes-agent.ru 📦 Материалы и харнессы: GitHub | GitFlic ℹ️ Хотите попробовать, но нет времени разбираться? Напишите в контакты на сайте - поможем с настройкой и подбором сценария под ваши задачи. 🛠 Наши сервисы: pii-guard.ru | llm.pii-guard.ru | hermes-agent.ru | shturman.ai - сотрудничество и вопросы: TG @sneg1313