- Землю накроет солнечная плазма со скоростью... (46)
- BMW X5 подешевел в России на 1 млн рублей.... (36)
- Не прекращали ни на день: российская... (62)
- Суперинтеллект против утилитарности: США и... (106)
- Новый урок арифметики от NVIDIA: Дженсен... (207)
- Очередная конференция Nvidia GTC пройдёт с... (125)
- Samsung анонсировала 37-дюймовый монитор... (109)
- M**a может начать использовать ИИ-модели... (409)
- SK hynix серьёзно приблизилась к Samsung по... (116)
- Palisade нового поколения стал «больше,... (141)
- Белый дом приказал вернуть ИИ-бота xAI Grok... (117)
- Samsung готова усилить собственные... (118)
- Xiaomi решила не дожидаться взрывов и... (112)
- Дизайн в стиле флагманов Samsung,... (106)
- Представлены современные телевизоры Akai по... (130)
- Samsung добавила ИИ-помощника Microsoft... (150)
Теперь-то наконец блоки NPU в процессорах Intel станут полезными? Компания открыла исходный код своей библиотеки ускорения NPU Acceleration Library
Дата: 2024-03-02 18:12
Компания Intel открыла исходный код своей библиотеки ускорения NPU Acceleration Library, позволяющей компактным моделям искусственного интеллекта работать непосредственно на блоках NPU в процессорах Meteor Lake.

Библиотека создана на языке Python и призвана помочь разработчикам улучшить свои продукты при условии запуска их на блоках NPU новейших процессоров Intel. Библиотека позволяет запускать компактные языковые модели вроде Gemma-2b или TinyLlama прямо на NPU, не требуя никакого облачного сервера. Собственно, это именно то, зачем вообще в процессорах нужны аппаратные блоки NPU, и то, чего на данный момент не хватает.

Напомним, блоки NPU есть в процессорах Intel Meteor Lake и AMD Ryzen 7040/8040. Пока что для большинства пользователей эти блоки совершенно бесполезны.
Подробнее на iXBT
Предыдущие новости
Honor представила Pad 9 — планшет среднего уровня с чипом Snapdragon 6 Gen 1 и батареей на 8300 мА·ч
В рамках выставки MWC 2024 компания Honor представила несколько новинок, включая глобальные версии смартфонов Magic6 Pro и Magic V2 RSR Porsche Design, а также производительный ноутбук MagicBook Pro 16. Вместе с этим китайский производитель привёз на выставку планшетный компьютер Pad 9, который известен на китайском рынке как Tablet 9. Honor Pad 9 оснащён большим...
NASA свернуло проект по дозаправке спутников — у подрядчика не хватило опыта и выросли аппетиты
Накануне стало известно, что в NASA решили свернуть проект по заправке спутников на орбите, стоимость которого перевалила за $2 млрд. Поводом для разрыва контракта стала аудиторская проверка агентства, выявившая перерасход средств и отсутствие необходимой квалификации у подрядчика, компании Maxar. Источник изображения: ИИ-генерация Кандинский...
Redmi Note 13 Turbo будет по-настоящему «турбо». Он получит Snapdragon 8s Gen 3 и аккумулятор на 5000 мА·ч с поддержкой 100-ваттной зарядки
В Сети появились подробности о будущем смартфоне Redmi Note 13 Turbo. Как сообщается, он получит новую однокристальную систему Qualcomm SM8635, которая выйдет в марте под названием Snapdragon 8s Gen 3. Уже по названию понятно, что производительность SM8635 будет высокой — примерно на уровне Snapdragon 8 Gen 2. Однако Redmi Note 13 Turbo будет не единственной модель на SM8635 —...
Лунные аппараты SLIM и «Одиссей» борются с термическими вызовами во время наступившей лунной ночи
Два небольших лунных аппарата на Луне — японский и американский — активно собирают изображения и данные. Оба аппарата питаются только от солнечных батарей и не предназначены для выживания в холодных 14-дневных лунных ночах. На этой неделе японский аппарат SLIM успешно вернулся к работе после преодоления всех трудностей своей первой лунной ночи. Сможет ли он сделать это снова и...