- В России представили уникальную версию... (282)
- В России представили уникальные версии... (268)
- Сверхпопулярный в России Jetour Dashing... (291)
- Выходцы из ZA/UM анонсировали смесь Disco... (253)
- В России снова наблюдаются массовые проблемы... (230)
- Perplexity выпустила более функциональный... (221)
- «Россияне не должны нести такие риски», — на... (239)
- Google упростила управление умным домом —... (262)
- Технология суперлинз, уменьшенный Dynamic... (226)
- Российский производитель рамных... (263)
- Новая версия бестселлера уже в России: у... (941)
- Свет вместо процессора: физики создали новый... (303)
- Дилер выставил в салоне экзотический... (341)
- «Абсолютно завораживающе»: новый трейлер... (304)
- Космические телескопы обнаружили... (416)
- Космические телескопы наблюдают испаряющиеся... (422)
Новый GPU Nvidia поколения Blackwell настолько чудовищный, что для обучения модели ИИ с 1,8 трлн параметров нужно всего 2000 ускорителей
Дата: 2024-03-19 12:14
Компания Nvidia вчера представила гигантский GPU Blackwell и решения на его основе. Пока есть не все данные, хотя сегодня часть пробелов мы заполнили. Теперь же пришёл черёд поговорить о прямом применении новых ускорителей — обучении ИИ.
Несмотря на то, что новый GPU производится по техпроцессу 4 нм, пусть и улучшенному, Nvidia говорит о гигантском приросте энергоэффективности. К примеру, на фоне H100 новое решение якобы снижает стоимость обучения ИИ и энергопотребление до 25 раз.
Но есть и более наглядный пример. По словам Nvidia, для обучения модели с 1,8 трлн параметров требуется 8000 графических процессоров Hopper и 15 МВт мощности либо же всего 2000 графических процессоров Blackwell и 4 МВт. В тесте LLM GPT-3 со 175 млрд параметров GB200 в семь раз опережает H100.
Для объединения нескольких графических процессоров в единую систему Nvidia разработала новый коммутатор NVLink. И по транзисторному бюджету он даст фору почти любому GPU на рынке: чип состоит из 50 млрд транзисторов.
Как и ранее, Nvidia представила и полностью готовую систему. Называется она GB200 NVL72 и содержит 36 ускорителей GB200 Grace Blackwell Superchip, то есть 72 новых GPU. Система имеет жидкостную СО и предлагает производительность обучения ИИ в 720 PFLOPS или 1,4 ExaFLOPS для вывода. Ещё один интересный факт о GB200 NVL72: внутри каждой системы проложено более 3 км кабелей. Nvidia говорит, что одна такая система может запускать модель ИИ с 27 трлн параметров.
Для самых крупных клиентов у Nvidia есть DGX Superpod — он объединяет восемь GB200 NVL72, обеспечивая 11,5 ExaFLOPS вычислений в режиме FP4.
Подробнее на iXBT
Предыдущие новости
Илон Маск признался в употреблении кетамина
В откровенном интервью бывшему ведущему CNN Дону Лемону миллиардер и глава Tesla и SpaceX Илон Маск поделился, что страдает от депрессии и принимает лекарства для ее лечения. Маск описал свое состояние как «своего рода негативное химическое состояние в мозгу, что-то вроде депрессии», которое не всегда связано с внешними факторами или плохими новостями. Он также отметил, что...
Skoda Kamiq подешевел в России
Если в декабре прошлого года кроссовер Skoda Kamiq продавался в России за почти 3,2 млн рублей, то в феврале цена снизилась до 3,0 млн рублей, а сейчас цена опустилась до 2,65 млн рублей. Изображение: Skoda За эту сумму Kamiq можно купить в Казани. В комплектации такого автомобиля кожаный салон, датчики света и дождя, система контроля давления в шинах, круиз-контроль,...
Более половины игровых студий применяют ИИ в разработке, показало исследование Unity
Уже 62 % игровых студий на разных этапах разработки своих проектов прибегают к помощи искусственного интеллекта, гласят результаты исследования Unity. Чаще всего эти инструменты используются для экономии времени и повышения эффективности. Источник изображений:...
Пользователи жалуются на слишком тёмные фото с камеры Samsung Galaxy S24 Ultra, компания обещает это исправить. Но есть и другие проблемы
Несмотря на то, что флагманы Samsung Galaxy S24 уже получили большое обновление, которое улучшило камеру, ряд проблем остался. Например, при определенных условиях Galaxy S24 Ultra делает слишком тёмные фото. Изображение: Samsung Проблема возникает, когда пользователь блокирует экспозицию при съемке с зумом 1,6—1,9x и 4,6—9,9x. Samsung уже в курсе этой ситуации, проблема будет...