Добро пожаловать на форум PHP программистов!
За последние 24 часа нас посетили 21546 программистов и 1017 роботов. Сейчас ищут 723 программиста ...
Последние
Популярные

Новый бенчмарк — новый рекорд: NVIDIA подтвердила лидерские позиции в MLPerf Inference

Дата: 2024-03-27 22:29

Компания NVIDIA опубликовала новые, ещё более впечатляющие результаты в области работы с большими языковыми моделями (LLM) в бенчмарке MLPerf Inference 4.0. За прошедшие полгода и без того высокие результаты, демонстрируемые архитектурой Hopper в инференс-сценариях, удалось улучшить практически втрое. Столь внушительный результат достигнут благодаря как аппаратным улучшениям в ускорителях H200, так и программным оптимизациям. Генеративный ИИ буквально взорвал индустрию: за последние десять лет вычислительная мощность, затрачиваемая на обучение нейросетей, выросла на шесть порядков, а LLM с триллионом параметров уже не являются чем-то необычным. Однако и инференс подобных моделей тоже является непростой задачей, к которой NVIDIA подходит комплексно, используя, по её же собственным словам, «многомерную оптимизацию».

Подробнее на 3Dnews.ru
 

Предыдущие новости

iXBT, 2024-03-27 22:27
Стартап Exploration Labs планирует миссию по встрече с астероидом Апофис в 2028 году

Стартап из Южной Калифорнии под названием Exploration Labs (ExLabs) планирует миссию по встрече с астероидом Апофис в 2028 году. В рамках этой миссии ExLabs планирует вывести на орбиту Апофиса три кубсата. Кроме того, цель миссии предусматривает проверку систем и программного обеспечения для будущих кампаний по захвату и перемещению околоземных астероидов на стабильные орбиты...

iXBT, 2024-03-27 21:17
С 1 апреля в России может сильно подорожать техника

С 1 апреля 2024 года российские потребители могут ощутить на себе последствия снижения порога беспошлинных онлайн-покупок. Как сообщает портал Hi-Tech Mail.ru, цены на импортную технику, ввозимую в рамках параллельного импорта, могут подскочить на 15-20%. В 2022 году порог беспошлинного ввоза товаров был временно повышен до 1000 евро с целью поддержки альтернативных каналов...

iXBT, 2024-03-27 21:55
Водородный поезд установил мировой рекорд: он проехал почти 3000 км без дозаправки

Поезд на водородных топливных элементах, разработанный швейцарской компанией Stadler Rail, установил новый мировой рекорд. Он был занесён в Книгу рекордов Гиннесса как пассажирский поезд на водороде, преодолевший наибольшее расстояние без дозаправки или подзарядки. Поезд Stadler Flirt H2 сумел проехать 2803 км без остановок на одном баке водорода, он непрерывно двигался в...

iXBT, 2024-03-27 21:57
Astrobotic наняла опытных профессионалов: результаты первой неудачной лунной миссии Peregrine вдохновляют компанию на разработку второго посадочного модуля

Astrobotic привлекает опытных представителей отрасли для разработки своего второго, более крупного посадочного модуля, находясь на завершающей стадии расследования своей первой миссии на Луну. 21 марта Astrobotic объявила о найме Стива Кларка в качестве вице-президента по спускаемым аппаратам и спутникам, а также Фрэнка Перри в качестве технического директора. Компания также...

© 2024 «PHP.RU — Сообщество PHP-Программистов»
Главная | Форум | Реклама на сайте | Контакты VIP Сувениры
Разработка компании ODware