Глоссарий
NVIDIA DGX Spark: термин курса
Коротко: NVIDIA DGX Spark это компактная система на GB10 Grace Blackwell: официально заявлены 20-ядерный Grace CPU, до 1 PFLOP FP4, до 128 ГБ когерентной unified memory и ConnectX-сеть для объединения до 4 систем. Для инференса важны не только FP4-пик, но и память: decode читает веса и KV на каждом шаге, поэтому throughput проверяется воспроизводимым бенчмарком, а не TOPS или FLOPS на коробке. В курсе Spark служит примером unified-memory ноды и кластера с RDMA.
NVIDIA DGX Spark это компактная система на GB10 Grace Blackwell: официально заявлены 20-ядерный Grace CPU, до 1 PFLOP FP4, до 128 ГБ когерентной unified memory и ConnectX-сеть для объединения до 4 систем. Для инференса важны не только FP4-пик, но и память: decode читает веса и KV на каждом шаге, поэтому throughput проверяется воспроизводимым бенчмарком, а не TOPS или FLOPS на коробке. В курсе Spark служит примером unified-memory ноды и кластера с RDMA.