- Китайцы перестарались и забили склады в... (256)
- Российские склады трещат от китайских машин.... (350)
- Перестраховались и побили прошлогодний... (453)
- Убийца Mercedes-Maybach GLS и BMW X7, а... (475)
- «Гибриды — это тупик», — «Крестный отец... (445)
- Представлен 500-сильный двигатель нового... (508)
- Чтобы решить проблемы с выпуском HBM,... (538)
- Метеозависимым — держать строй: после... (493)
- Представлен прототип первого российского... (472)
- Миллиновые: случайно обнаружен новый тип... (428)
- Новая статья: Обзор и тест материнской платы... (409)
- Новая статья: NGFW по-русски: знакомство... (450)
- Криптоиндустрия замерла в ожидании от Трампа... (398)
- Малоизвестная компания ISoftStone стала... (400)
- Утечки раскрывают мощный Snapdragon... (550)
- «Не думаю, что Nintendo это стерпит, но я... (432)
Nvidia представила чудовищный двухчиповый ускоритель H100 NVL со 188 ГБ памяти для обучения языковых моделей
Дата: 2023-03-21 23:34
Компания Nvidia представила ускоритель H100 NVL, который, судя по всему, создан специально для обучения языковых моделей. Как сказано на сайте Nvidia, cерверы, оснащенные графическими процессорами H100 NVL, повышают производительность модели GPT-175B до 12 раз по сравнению с системами DGX A100, сохраняя при этом низкую задержку в средах центров обработки данных с ограниченным энергопотреблением.
Фактически H100 NVL представляет собой пару H100 на одной плате. Речь идёт о двух GPU, объединённых интерфейсом NVLink, благодаря чему Nvidia говорит о 68 TFLOPS при вычислениях с двойной точностью (FP64), 143 TFLOPS (Tensor Core FP64), 7916 TOPS (IN8), 188 ГБ памяти с пропускной способностью 7,8 ТБ/с. Всё это позволяет обрабатывать до 175 млрд параметров ChatGPT в режиме реального времени.
Также Nvidia анонсировала запуск платформ логического вывода для больших языковых моделей и генеративных рабочих нагрузок ИИ. Речь сразу о четырёх платформах логического вывода, оптимизированных для разнообразного набора быстро развивающихся приложений генеративного ИИ.
Каждая платформа сочетает в себе полный стек ПО для логических выводов, новейшие графические процессоры компании, причём как игровые Ada Lovelace, так и специализированные Hopper, а также Grace Hopper Superchip.
Подробнее на iXBT
Предыдущие новости
Видеокарты с 2-3 ГБ памяти пора окончательно отправлять на пенсию? Halo Infinite больше не запускается на таких адаптерах
Видеокарты с малым объёмом памяти иногда всё ещё могут неплохо показывать себя в современных играх, если речь идёт о флагманских решениях прошлых лет. Однако теперь есть как минимум одна игра, где ускорители менее чем с 4 ГБ памяти работать попросту не будут. Это Halo Infinite. Свежий патч для этой игры теперь попросту не позволяет запускать её на ПК с видеокартами, имеющими...
«Запомните эту марку китайских автомобилей». Очень скоро в России стартует производство машин Shineray из Китая
Автоэксперт Сергей Цыганов в своём Telegram-канале «Русский автомобиль» анонсировал скорое начало производства в России автомобилей Shineray из Китая. «Shineray. Запомните эту марку китайских автомобилей. Скоро (апрель-май) она удивит нас входом на рынок РФ. Причем в варианте промышленной сборки», — сказано в сообщении «Русского автомобиля». Shineray Group — относительно...
Командный экшен Crash Team Rumble с героями серии Crash Bandicoot выйдет 20 июня
Разработчики из студии Toys for Bob совместно с издательством Activision Blizzard объявили, что командный экшен Crash Team Rumble выйдет 20 июня, а его предварительное тестирование начнётся уже в следующем месяце. Источник изображения: Activision...
Камера Samsung Galaxy A34 за 400 евро хуже, чем у Pixel 4a из 2020 года. Так её оценили в DxOMark
Кроме Samsung Galaxy A54 специалисты DxOMark оценили также камеру Galaxy A34. Ожидаемо, смартфон получил меньше баллов, чем старший брат. Камеру этой новинки авторы обзора оценили на 92 балла, и это 98 место в общем рейтинге. Достаточно посредственный результат на сегодняшний день, и точно не лучший для аппарата с ценой почти в 400 евро за базовую версию. При этом, если у...