Известный разработчик Джон Кармак (John Carmack) заявил, что домашний мини-суперкомпьютер Nvidia DGX Spark, который продаётся многими сторонними брендами, не обеспечивает заявленной производительности. 

Кармак, получивший известность благодаря разработке Doom и Quake, утверждает, что система потребляет более чем вдвое меньше заявленного и при этом обеспечивает соответствующую производительность. 

Похоже, DGX Spark потребляет всего 100 Вт, что меньше половины номинальных 240 Вт, и, похоже, обеспечивает лишь около половины заявленной производительности (исходя из соотношения 1 PF для FP4 и 125 TF для BF16). Даже на таком уровне он довольно сильно греется, и я видел сообщения о самопроизвольных перезагрузках при длительной работе. Так что, мощность была снижена перед запуском? 

Можно было бы подумать, что это брак экземпляра самого Кармака, но такие отзывы уже не единичны. К примеру, там же в социальной сети X автору ответил ведущий разработчик фреймворка MLX от Apple, написав, что у него получилось всего около 60 TFLOPS в режиме BF16. 

Nvidia пока никак не прокомментировала ситуацию, однако нужно отметить, что DGX Spark опирается на структурную разреженность - аппаратную особенность, которая пропускает операции с нулевыми значениями в нейронных сетях, фактически удваивая пиковую скорость вычислений. Однако показатели производительности в этом случае будут достигаться только в нагрузках, которые полностью оптимизированы под эту особенность, так что, возможно, в этом случае речь как раз о недостатке мощности в неоптимизированных нагрузках.