- Аналог Toyota Alphard с 2,0-литровым мотором... (806)
- Дизель от Ford, полный привод, понижающая... (881)
- В «М.Видео» начали продавать... (750)
- 5,2-литровый турбированный Predator V8,... (907)
- Midea Group показала шестирукого робота с... (1220)
- Midea Group считает шестирукого робота с... (1109)
- АвтоВАЗ планирует выпуск линейки... (724)
- Большой семейный кроссовер белорусской... (1171)
- Инвесторы охладели к OpenAI, фаворитом в... (1053)
- Пользователи ИИ-смартфона Nubia M153... (921)
- Новая статья: Топ-10 смартфонов до 20 тысяч... (1255)
- Сэм Альтман рассматривал инвестиции в... (1329)
- «Вояджер-2» ошибся днём: экстремальная... (1039)
- «Зомби-бактерия» из чистых комнат NASA могла... (1094)
- OpenAI уверяет, что не продаёт рекламу в... (1201)
- Samsung поставит Nvidia 100 млрд Гбит памяти... (909)
Nvidia представила чудовищный двухчиповый ускоритель H100 NVL со 188 ГБ памяти для обучения языковых моделей
Дата: 2023-03-21 23:34
Компания Nvidia представила ускоритель H100 NVL, который, судя по всему, создан специально для обучения языковых моделей. Как сказано на сайте Nvidia, cерверы, оснащенные графическими процессорами H100 NVL, повышают производительность модели GPT-175B до 12 раз по сравнению с системами DGX A100, сохраняя при этом низкую задержку в средах центров обработки данных с ограниченным энергопотреблением.
Фактически H100 NVL представляет собой пару H100 на одной плате. Речь идёт о двух GPU, объединённых интерфейсом NVLink, благодаря чему Nvidia говорит о 68 TFLOPS при вычислениях с двойной точностью (FP64), 143 TFLOPS (Tensor Core FP64), 7916 TOPS (IN8), 188 ГБ памяти с пропускной способностью 7,8 ТБ/с. Всё это позволяет обрабатывать до 175 млрд параметров ChatGPT в режиме реального времени.
Также Nvidia анонсировала запуск платформ логического вывода для больших языковых моделей и генеративных рабочих нагрузок ИИ. Речь сразу о четырёх платформах логического вывода, оптимизированных для разнообразного набора быстро развивающихся приложений генеративного ИИ.
Каждая платформа сочетает в себе полный стек ПО для логических выводов, новейшие графические процессоры компании, причём как игровые Ada Lovelace, так и специализированные Hopper, а также Grace Hopper Superchip.
Подробнее на iXBT
Предыдущие новости
Видеокарты с 2-3 ГБ памяти пора окончательно отправлять на пенсию? Halo Infinite больше не запускается на таких адаптерах
Видеокарты с малым объёмом памяти иногда всё ещё могут неплохо показывать себя в современных играх, если речь идёт о флагманских решениях прошлых лет. Однако теперь есть как минимум одна игра, где ускорители менее чем с 4 ГБ памяти работать попросту не будут. Это Halo Infinite. Свежий патч для этой игры теперь попросту не позволяет запускать её на ПК с видеокартами, имеющими...
«Запомните эту марку китайских автомобилей». Очень скоро в России стартует производство машин Shineray из Китая
Автоэксперт Сергей Цыганов в своём Telegram-канале «Русский автомобиль» анонсировал скорое начало производства в России автомобилей Shineray из Китая. «Shineray. Запомните эту марку китайских автомобилей. Скоро (апрель-май) она удивит нас входом на рынок РФ. Причем в варианте промышленной сборки», — сказано в сообщении «Русского автомобиля». Shineray Group — относительно...
Командный экшен Crash Team Rumble с героями серии Crash Bandicoot выйдет 20 июня
Разработчики из студии Toys for Bob совместно с издательством Activision Blizzard объявили, что командный экшен Crash Team Rumble выйдет 20 июня, а его предварительное тестирование начнётся уже в следующем месяце. Источник изображения: Activision...
Камера Samsung Galaxy A34 за 400 евро хуже, чем у Pixel 4a из 2020 года. Так её оценили в DxOMark
Кроме Samsung Galaxy A54 специалисты DxOMark оценили также камеру Galaxy A34. Ожидаемо, смартфон получил меньше баллов, чем старший брат. Камеру этой новинки авторы обзора оценили на 92 балла, и это 98 место в общем рейтинге. Достаточно посредственный результат на сегодняшний день, и точно не лучший для аппарата с ценой почти в 400 евро за базовую версию. При этом, если у...