Опубликовано
Talos V2: FPGA, микротрансформер и российское железо
Автор: Гусев Николай [портфолио]
Дата обновления не указана в исходнике.
Темы: ai-agents, benchmarks, llm-api, local-models
Talos V2: FPGA, микротрансформер и российское железо
Два студента собрали трансформер на ПЛИС за $150. Не софт, скомпилированный под FPGA, а чистый RTL — каждый слой нейросети как цифровая схема. 53K токенов/с, 2W потребления.
▪️ Сама по себе Talos V2 — игрушка, EMBED_DIM=16, один слой. Она не заменит GPU. ▪️ Но три методологии портируются на любое железо: time-мультиплексируемое MatVec-ядро, фиксированная точка Q4.12, верификационный конвейер RTL ↔ Python ▪️ Портировал на Кобальт (российский toolchain). SystemVerilog → Verilog-2001, RAM→LUT, тесты совпали — порт корректен
Вывод: FPGA для AI — не тупик, а ниша. Там где нужен cycle-детерминизм, гарантированная latency, 2W вместо 400W. Российские ПЛИС (Кобальт, Байкал-S) пригодны — но на уровне 2013 года Intel.
→ Читать полностью: https://telegra.ph/Talos-V2-rossijskoe-zhelezo-i-edge-AI-inzhenernyj-razbor-05-03
🌐 hermes-agent.ru Есть инженерная задача? Напишите в контакты на сайте — поможем с разбором и внедрением.