Рекурсивный акроним словосочетания «PHP: Hypertext Preprocessor»

Добро пожаловать на форум PHP программистов!

За последние 24 часа нас посетили 66184 программиста и 2310 роботов. Сейчас ищут 1345 программистов ...

Последние

Впятеро энергоэффективнее H100: HyperAccel разработала экономичный чип Bertha 500 для ИИ-инференса

Дата: сегодня 12:50

Южнокорейский стартап HyperAccel, по сообщению EETimes, готовится вывести на рынок специализированный чип Bertha 500, предназначенный для ИИ-инференса. Утверждается, что благодаря особой архитектуре изделие способно генерировать в пять раз больше токенов в секунду по сравнению с решениями на основе GPU при том же уровне TOPS. В Bertha 500 упор сделан на экономическую эффективность. С этой целью используется память LPDDR вместо дорогостоящей HBM. При этом благодаря отказу от традиционной иерархии памяти достигается утилизация пропускной способности LPDDR на 90 %. Дальнейшее повышение эффективности обеспечивается путём оптимизации архитектуры именно для задач инференса. Для сравнения, как утверждает HyperAccel, в случае GPU при инференсе используется только около 45 % пропускной способности памяти и 30 % вычислительных ресурсов. Иными словами, немного жертвуя производительностью, чип Bertha 500 позволяет достичь значительного снижения стоимости.

Подробнее на 3Dnews.ru

Предыдущие новости

3Dnews.ru, сегодня 12:46
Звёздные войны от создателей Ex Machina и Crossout: анонсирован эвакуационный космический экшен Star Wrath

Издатель Gaijin Entertainment (War Thunder) и разработчики из Targem Games (серия Ex Machina, Crossout) анонсировали условно-бесплатный мультиплеерный космический экшен Star Wrath, в прошлом известный под кодовым названием Void Space. Источник изображений:...

3Dnews.ru, сегодня 12:46
9 из 10 руководителей не увидели роста производительности от ИИ — но отказываться от него не собираются

Проведённый Национальным бюро экономических исследований (NBER) опрос представителей бизнеса в США, Великобритании, Германии и Австралии показал, что в 80 % случаев руководство компаний, уже использующих в своей деятельности искусственный интеллект, не наблюдает какой-либо пользы от него с точки зрения повышения производительности труда или оптимизации численности...

3Dnews.ru, сегодня 13:00
Infinix представила в России смартфоны Note Edge, Note 60 и Note 60 Pro

Infinix объявила о выпуске в России смартфонов Note Edge, Note 60 и Note 60 Pro — последний впервые в истории бренда получил процессор от Qualcomm. Устройства отличают привлекательный дизайн, продолжительное время автономной работы и поддержка современных технологий. Источник изображений:...

iXBT, сегодня 12:06
Астрономы впервые проследили, как вихревые структуры формируются у поверхности Солнца и сохраняются на огромных расстояниях

Учёные из Гавайского университета провели уникальное исследование, используя данные более чем десятилетних наблюдений полных солнечных затмений. Во время затмения Луна закрывает яркий диск Солнца, позволяя разглядеть его корону — внешнюю атмосферу, где происходят сложные плазменные процессы. Впервые удалось зафиксировать турбулентные структуры: вихревые кольца, волны и потоки,...