- Складной iPhone Fold может оказаться в... (5799)
- YouTube разрешит зрителям отключать... (4451)
- Blue Origin научилась извлекать пригодный... (4847)
- «Готовы вступить в битву!»: Lenovo задумала... (4152)
- Китай разгоняет производство памяти: YMTC... (4227)
- Обновлённый электромобиль Mercedes-Benz EQS... (4458)
- Nvidia опровергла слухи о намерениях купить... (4876)
- Космический дата-центр — уже реальность:... (4286)
- Всё под рукой: в Италии построили подземный... (5994)
- M**a может свергнуть Google с вершины рынка... (4756)
- Supermicro выпустила компактные серверы на... (5773)
- Инвесторы усомнились, что OpenAI... (4660)
- Microsoft не удалит Copilot из Windows 11, а... (4806)
- Физик из Албании разработал флеш-память в... (5230)
- ИИ-помощник «Алиса Про» заработал в почте... (5609)
- «Игромир», но не тот: игровой облачный... (5109)
Теперь-то наконец блоки NPU в процессорах Intel станут полезными? Компания открыла исходный код своей библиотеки ускорения NPU Acceleration Library
Дата: 2024-03-02 18:12
Компания Intel открыла исходный код своей библиотеки ускорения NPU Acceleration Library, позволяющей компактным моделям искусственного интеллекта работать непосредственно на блоках NPU в процессорах Meteor Lake.
Библиотека создана на языке Python и призвана помочь разработчикам улучшить свои продукты при условии запуска их на блоках NPU новейших процессоров Intel. Библиотека позволяет запускать компактные языковые модели вроде Gemma-2b или TinyLlama прямо на NPU, не требуя никакого облачного сервера. Собственно, это именно то, зачем вообще в процессорах нужны аппаратные блоки NPU, и то, чего на данный момент не хватает.
Напомним, блоки NPU есть в процессорах Intel Meteor Lake и AMD Ryzen 7040/8040. Пока что для большинства пользователей эти блоки совершенно бесполезны.
Подробнее на iXBT
Предыдущие новости
Honor представила Pad 9 — планшет среднего уровня с чипом Snapdragon 6 Gen 1 и батареей на 8300 мА·ч
В рамках выставки MWC 2024 компания Honor представила несколько новинок, включая глобальные версии смартфонов Magic6 Pro и Magic V2 RSR Porsche Design, а также производительный ноутбук MagicBook Pro 16. Вместе с этим китайский производитель привёз на выставку планшетный компьютер Pad 9, который известен на китайском рынке как Tablet 9. Honor Pad 9 оснащён большим...
NASA свернуло проект по дозаправке спутников — у подрядчика не хватило опыта и выросли аппетиты
Накануне стало известно, что в NASA решили свернуть проект по заправке спутников на орбите, стоимость которого перевалила за $2 млрд. Поводом для разрыва контракта стала аудиторская проверка агентства, выявившая перерасход средств и отсутствие необходимой квалификации у подрядчика, компании Maxar. Источник изображения: ИИ-генерация Кандинский...
Redmi Note 13 Turbo будет по-настоящему «турбо». Он получит Snapdragon 8s Gen 3 и аккумулятор на 5000 мА·ч с поддержкой 100-ваттной зарядки
В Сети появились подробности о будущем смартфоне Redmi Note 13 Turbo. Как сообщается, он получит новую однокристальную систему Qualcomm SM8635, которая выйдет в марте под названием Snapdragon 8s Gen 3. Уже по названию понятно, что производительность SM8635 будет высокой — примерно на уровне Snapdragon 8 Gen 2. Однако Redmi Note 13 Turbo будет не единственной модель на SM8635 —...
Лунные аппараты SLIM и «Одиссей» борются с термическими вызовами во время наступившей лунной ночи
Два небольших лунных аппарата на Луне — японский и американский — активно собирают изображения и данные. Оба аппарата питаются только от солнечных батарей и не предназначены для выживания в холодных 14-дневных лунных ночах. На этой неделе японский аппарат SLIM успешно вернулся к работе после преодоления всех трудностей своей первой лунной ночи. Сможет ли он сделать это снова и...