Рекурсивный акроним словосочетания «PHP: Hypertext Preprocessor»

Добро пожаловать на форум PHP программистов!

За последние 24 часа нас посетили 17168 программистов и 1568 роботов. Сейчас ищет 1471 программист ...

Последние

Nvidia представила чудовищный двухчиповый ускоритель H100 NVL со 188 ГБ памяти для обучения языковых моделей

Дата: 2023-03-21 23:34

Компания Nvidia представила ускоритель H100 NVL, который, судя по всему, создан специально для обучения языковых моделей. Как сказано на сайте Nvidia, cерверы, оснащенные графическими процессорами H100 NVL, повышают производительность модели GPT-175B до 12 раз по сравнению с системами DGX A100, сохраняя при этом низкую задержку в средах центров обработки данных с ограниченным энергопотреблением.

Фактически H100 NVL представляет собой пару H100 на одной плате. Речь идёт о двух GPU, объединённых интерфейсом NVLink, благодаря чему Nvidia говорит о 68 TFLOPS при вычислениях с двойной точностью (FP64), 143 TFLOPS (Tensor Core FP64), 7916 TOPS (IN8), 188 ГБ памяти с пропускной способностью 7,8 ТБ/с. Всё это позволяет обрабатывать до 175 млрд параметров ChatGPT в режиме реального времени.

Также Nvidia анонсировала запуск платформ логического вывода для больших языковых моделей и генеративных рабочих нагрузок ИИ. Речь сразу о четырёх платформах логического вывода, оптимизированных для разнообразного набора быстро развивающихся приложений генеративного ИИ.

Каждая платформа сочетает в себе полный стек ПО для логических выводов, новейшие графические процессоры компании, причём как игровые Ada Lovelace, так и специализированные Hopper, а также Grace Hopper Superchip.

Подробнее на iXBT

Предыдущие новости

iXBT, 2023-03-21 23:41
Видеокарты с 2-3 ГБ памяти пора окончательно отправлять на пенсию? Halo Infinite больше не запускается на таких адаптерах

Видеокарты с малым объёмом памяти иногда всё ещё могут неплохо показывать себя в современных играх, если речь идёт о флагманских решениях прошлых лет. Однако теперь есть как минимум одна игра, где ускорители менее чем с 4 ГБ памяти работать попросту не будут. Это Halo Infinite. Свежий патч для этой игры теперь попросту не позволяет запускать её на ПК с видеокартами, имеющими...

iXBT, 2023-03-21 23:46
«Запомните эту марку китайских автомобилей». Очень скоро в России стартует производство машин Shineray из Китая

Автоэксперт Сергей Цыганов в своём Telegram-канале «Русский автомобиль» анонсировал скорое начало производства в России автомобилей Shineray из Китая. «Shineray. Запомните эту марку китайских автомобилей. Скоро (апрель-май) она удивит нас входом на рынок РФ. Причем в варианте промышленной сборки», — сказано в сообщении «Русского автомобиля». Shineray Group — относительно...

3Dnews.ru, 2023-03-21 23:37
Командный экшен Crash Team Rumble с героями серии Crash Bandicoot выйдет 20 июня

Разработчики из студии Toys for Bob совместно с издательством Activision Blizzard объявили, что командный экшен Crash Team Rumble выйдет 20 июня, а его предварительное тестирование начнётся уже в следующем месяце. Источник изображения: Activision...

iXBT, 2023-03-21 23:06
Камера Samsung Galaxy A34 за 400 евро хуже, чем у Pixel 4a из 2020 года. Так её оценили в DxOMark

Кроме Samsung Galaxy A54 специалисты DxOMark оценили также камеру Galaxy A34. Ожидаемо, смартфон получил меньше баллов, чем старший брат. Камеру этой новинки авторы обзора оценили на 92 балла, и это 98 место в общем рейтинге. Достаточно посредственный результат на сегодняшний день, и точно не лучший для аппарата с ценой почти в 400 евро за базовую версию. При этом, если у...