Тема: nvme

• 3 октября 2026 г.

  EXL3-2: тысяча квантов, один подходит. Учимся считать бюджет до закачки

  В первой части я похоронил ExLlamaV3 на 8 ГБ: релиз с кодбуком mcg молча не выгружает экспертов, и 35B MoE падает по памяти. Обещал продолжение - вот оно.