Рекурсивный акроним словосочетания «PHP: Hypertext Preprocessor»

Добро пожаловать на форум PHP программистов!

За последние 24 часа нас посетили 20652 программиста и 1605 роботов. Сейчас ищут 1564 программиста ...

Последние

SRAM, да и только: d-Matrix готовит ИИ-ускоритель Corsair

Дата: 2025-01-20 07:53

Стартап d-Matrix создал ИИ-ускоритель Corsair, оптимизированный для быстрого пакетного инференса больших языковых моделей (LLM). Архитектура ускорителя основана на модифицированных ячейках SRAM для вычислений в памяти (DIMC), работающих на скорости порядка 150 Тбайт/с. Новинка, по словам компании, отличается производительностью и энергоэффективностью, пишет EE Times. Массовое производство Corsair начнётся во II квартале. Среди инвесторов d-Matrix — Microsoft, Nautilus Venture Partners, Entrada Ventures и SK hynix. d-Matrix фокусируется на пакетном инференсе с низкой задержкой. В случае Llama3-8B сервер d-Matrix (16 четырёхчиплетных ускорителей в составе восьми карт) может производить 60 тыс. токенов/с с задержкой 1 мс/токен. Для Llama3-70B стойка d-Matrix (128 чипов) может производить 30 тыс. токенов в секунду с задержкой 2 мс/токен. Клиенты d-Matrix могут рассчитывать на достижение этих показателей для размеров пакетов порядка 48–64 (в зависимости от длины контекста), сообщила EE Times руководитель отдела продуктов d-Matrix Шри Ганесан (Sree Ganesan).

Подробнее на 3Dnews.ru

Предыдущие новости

3Dnews.ru, 2025-01-20 07:54
Регуляторы в США насторожены стремлением Microsoft, Google и Amazon инвестировать в ИИ-стартапы

В минувшую пятницу Федеральная торговая комиссия США (FTC) выразила свою озабоченность стремлением гигантов облачного сегмента в лице Microsoft, Google и Amazon инвестировать в стартапы, занимающиеся искусственным интеллектом. Подобного рода сделки могут не только давать крупным игрокам рынка преимущество по доступу к технологиям, но и к кадровым ресурсам и данным,...

iXBT, 2025-01-20 07:05
Mercedes-Benz GLA 250 за 1,8 млн рублей, Mitsubishi Pajero Sport за 1,7 млн рублей, Hummer H2 за 1,5 млн рублей. В России продадут машины должников

В феврале этого года в Башкирии на продажу выставят арестованные автомобили, которые были изъяты у владельцев за долги. Изображение Midjourney В этот раз в список попали следующие модели: Mercedes-Benz GLA 250 2014 года выпуска. Начальная стоимость – 1 853 000 рублей; Lada Priora 2014 года выпуска. Начальная стоимость – 323 000 рублей; Renault Sandero 2015 года выпуска....

iXBT, 2025-01-20 07:14
В России аналогов нет, такие машины запрещено вывозить из Японии. На продажу выставили Nissan Silvia 1966

Nissan Silvia 1966 года ручной сборки выставили на продажу во Владивостоке. Автомобиль привезли из Японии в 2008 году. Фото drom Это особый выпуск автомобиля на основе двигателя и шасси Fairlady 1600 (SP311). В этом году автомобилю исполняется 59 лет, при этом он находится в хорошем состоянии и полностью на ходу. Автомобиль получил мотор на 1,6 л мощностью 90 л.с. и...

iXBT, 2025-01-20 07:22
Отреставрированную «Чайку», как у Брежнева, с камерой заднего вида и блокировкой заднего дифференциала выставили на продажу

Отреставрированный лимузин ГАЗ-13 «Чайка» с небольшим пробегом менее 8 тыс. км продается в Екатеринбурге за 20 млн рублей. На похожем автомобиле ездил генсек ЦК КПСС Леонид Брежнев. Этот автомобиль 1976 года выпуска прошёл полную профессиональную реставрацию «с разбором до винтика». После ремонта все зазоры у кузовных деталей соответствуют современным стандартам. Фото...