Глоссарий
NVFP4: 4-битный формат NVIDIA для Blackwell
Коротко: NVFP4 это нативный 4-битный формат весов и активаций NVIDIA для Blackwell-тензорных ядер: два FP4-элемента плюс FP8-масштаб на блок. Вместе с MXFP4 (открытый формат с блочным масштабом) образует продакшн-трек 4-битного инференса 2026. Практика: Qwen3.8-27B в NVFP4 работает на одном Blackwell-GPU (FP8-вариант требует 48 ГБ, BF16 — 80 ГБ); vLLM Humming-кернел распаковывает MXFP4 при загрузке и считает в FP8 на тензорных ядрах — ~4.2x на H20 и ~4.5x на H200 против DeepGEMM W8A8 на малых и средних батчах. Отрезвляющий ориентир: DGX Spark с FP4-петафлопсом выдаёт 35B MoE-модель на 40 tok/s — пиковые FLOPS не равны скорости decode.
NVFP4 это нативный 4-битный формат весов и активаций NVIDIA для Blackwell-тензорных ядер: два FP4-элемента плюс FP8-масштаб на блок. Вместе с MXFP4 (открытый формат с блочным масштабом) образует продакшн-трек 4-битного инференса 2026. Практика: Qwen3.8-27B в NVFP4 работает на одном Blackwell-GPU (FP8-вариант требует 48 ГБ, BF16 — 80 ГБ); vLLM Humming-кернел распаковывает MXFP4 при загрузке и считает в FP8 на тензорных ядрах — ~4.2x на H20 и ~4.5x на H200 против DeepGEMM W8A8 на малых и средних батчах. Отрезвляющий ориентир: DGX Spark с FP4-петафлопсом выдаёт 35B MoE-модель на 40 tok/s — пиковые FLOPS не равны скорости decode.