- ChatGPT вошёл в список самых подделываемых... (2050)
- Кнопку Copilot в Windows 11 наконец можно... (2271)
- Торговая марка выдала название загадочной... (1662)
- GeForce RTX 3050 помогла удвоить частоту... (1757)
- GeForce RTX 3060 с 12 Гбайт памяти «стареет»... (2392)
- Sega пообещала не отказываться от выпуска... (1855)
- Neuralink показала инвалидную коляску,... (1842)
- Обнаружен способ незаметной подмены... (1643)
- Microsoft принудила LG перестать донимать... (1704)
- AMD раскрыла, когда выпустит процессоры... (1961)
- Аудитория Google Gemini приблизилась к... (2038)
- TikTok обвинили в попустительстве вредному... (1785)
- TikTok обвинили в попустительстве вредного... (1690)
- Деятельность 33 российских вузов признана... (1447)
- AMD: рынок ИИ-ускорителей вырастет до $1,4... (1567)
- Anthropic открыла доступ к голосовому режиму... (1654)
Теперь-то наконец блоки NPU в процессорах Intel станут полезными? Компания открыла исходный код своей библиотеки ускорения NPU Acceleration Library
Дата: 2024-03-02 18:12
Компания Intel открыла исходный код своей библиотеки ускорения NPU Acceleration Library, позволяющей компактным моделям искусственного интеллекта работать непосредственно на блоках NPU в процессорах Meteor Lake.
Библиотека создана на языке Python и призвана помочь разработчикам улучшить свои продукты при условии запуска их на блоках NPU новейших процессоров Intel. Библиотека позволяет запускать компактные языковые модели вроде Gemma-2b или TinyLlama прямо на NPU, не требуя никакого облачного сервера. Собственно, это именно то, зачем вообще в процессорах нужны аппаратные блоки NPU, и то, чего на данный момент не хватает.
Напомним, блоки NPU есть в процессорах Intel Meteor Lake и AMD Ryzen 7040/8040. Пока что для большинства пользователей эти блоки совершенно бесполезны.
Подробнее на iXBT
Предыдущие новости
Honor представила Pad 9 — планшет среднего уровня с чипом Snapdragon 6 Gen 1 и батареей на 8300 мА·ч
В рамках выставки MWC 2024 компания Honor представила несколько новинок, включая глобальные версии смартфонов Magic6 Pro и Magic V2 RSR Porsche Design, а также производительный ноутбук MagicBook Pro 16. Вместе с этим китайский производитель привёз на выставку планшетный компьютер Pad 9, который известен на китайском рынке как Tablet 9. Honor Pad 9 оснащён большим...
NASA свернуло проект по дозаправке спутников — у подрядчика не хватило опыта и выросли аппетиты
Накануне стало известно, что в NASA решили свернуть проект по заправке спутников на орбите, стоимость которого перевалила за $2 млрд. Поводом для разрыва контракта стала аудиторская проверка агентства, выявившая перерасход средств и отсутствие необходимой квалификации у подрядчика, компании Maxar. Источник изображения: ИИ-генерация Кандинский...
Redmi Note 13 Turbo будет по-настоящему «турбо». Он получит Snapdragon 8s Gen 3 и аккумулятор на 5000 мА·ч с поддержкой 100-ваттной зарядки
В Сети появились подробности о будущем смартфоне Redmi Note 13 Turbo. Как сообщается, он получит новую однокристальную систему Qualcomm SM8635, которая выйдет в марте под названием Snapdragon 8s Gen 3. Уже по названию понятно, что производительность SM8635 будет высокой — примерно на уровне Snapdragon 8 Gen 2. Однако Redmi Note 13 Turbo будет не единственной модель на SM8635 —...
Лунные аппараты SLIM и «Одиссей» борются с термическими вызовами во время наступившей лунной ночи
Два небольших лунных аппарата на Луне — японский и американский — активно собирают изображения и данные. Оба аппарата питаются только от солнечных батарей и не предназначены для выживания в холодных 14-дневных лунных ночах. На этой неделе японский аппарат SLIM успешно вернулся к работе после преодоления всех трудностей своей первой лунной ночи. Сможет ли он сделать это снова и...