- Core Ultra 9 285K за год стал быстрее в... (532)
- Сюда можно будет установить новые 86-ядерные... (509)
- В Китае похвастались разработкой... (2014)
- Люди даже не представляют, насколько ИИ... (731)
- Россияне показали преданность брендам своих... (685)
- Это RTX 5090 с жидкостным охладителем и... (852)
- Велосипедный хоррор Quite a Ride от... (704)
- Астрономы обнаружили молодую звезду с... (683)
- Россиянин отсудил у Toyota рекордные 36 млн... (667)
- Samsung разрабатывает совершенно новую... (547)
- Партнёры OpenAI набрали долгов на $100 млрд,... (622)
- Затопят — раз и навсегда. Модули МКС не... (497)
- Таможни Приморья начали работать... (927)
- Технологический сбор на смартфоны составит... (694)
- SSSTC выпустила SSD на 15,36 Тбайт с... (563)
- Насколько россияне лояльны к брендам своих... (635)
Теперь-то наконец блоки NPU в процессорах Intel станут полезными? Компания открыла исходный код своей библиотеки ускорения NPU Acceleration Library
Дата: 2024-03-02 18:12
Компания Intel открыла исходный код своей библиотеки ускорения NPU Acceleration Library, позволяющей компактным моделям искусственного интеллекта работать непосредственно на блоках NPU в процессорах Meteor Lake.
Библиотека создана на языке Python и призвана помочь разработчикам улучшить свои продукты при условии запуска их на блоках NPU новейших процессоров Intel. Библиотека позволяет запускать компактные языковые модели вроде Gemma-2b или TinyLlama прямо на NPU, не требуя никакого облачного сервера. Собственно, это именно то, зачем вообще в процессорах нужны аппаратные блоки NPU, и то, чего на данный момент не хватает.
Напомним, блоки NPU есть в процессорах Intel Meteor Lake и AMD Ryzen 7040/8040. Пока что для большинства пользователей эти блоки совершенно бесполезны.
Подробнее на iXBT
Предыдущие новости
Honor представила Pad 9 — планшет среднего уровня с чипом Snapdragon 6 Gen 1 и батареей на 8300 мА·ч
В рамках выставки MWC 2024 компания Honor представила несколько новинок, включая глобальные версии смартфонов Magic6 Pro и Magic V2 RSR Porsche Design, а также производительный ноутбук MagicBook Pro 16. Вместе с этим китайский производитель привёз на выставку планшетный компьютер Pad 9, который известен на китайском рынке как Tablet 9. Honor Pad 9 оснащён большим...
NASA свернуло проект по дозаправке спутников — у подрядчика не хватило опыта и выросли аппетиты
Накануне стало известно, что в NASA решили свернуть проект по заправке спутников на орбите, стоимость которого перевалила за $2 млрд. Поводом для разрыва контракта стала аудиторская проверка агентства, выявившая перерасход средств и отсутствие необходимой квалификации у подрядчика, компании Maxar. Источник изображения: ИИ-генерация Кандинский...
Redmi Note 13 Turbo будет по-настоящему «турбо». Он получит Snapdragon 8s Gen 3 и аккумулятор на 5000 мА·ч с поддержкой 100-ваттной зарядки
В Сети появились подробности о будущем смартфоне Redmi Note 13 Turbo. Как сообщается, он получит новую однокристальную систему Qualcomm SM8635, которая выйдет в марте под названием Snapdragon 8s Gen 3. Уже по названию понятно, что производительность SM8635 будет высокой — примерно на уровне Snapdragon 8 Gen 2. Однако Redmi Note 13 Turbo будет не единственной модель на SM8635 —...
Лунные аппараты SLIM и «Одиссей» борются с термическими вызовами во время наступившей лунной ночи
Два небольших лунных аппарата на Луне — японский и американский — активно собирают изображения и данные. Оба аппарата питаются только от солнечных батарей и не предназначены для выживания в холодных 14-дневных лунных ночах. На этой неделе японский аппарат SLIM успешно вернулся к работе после преодоления всех трудностей своей первой лунной ночи. Сможет ли он сделать это снова и...