- Потеряшек не будет: зонд NASA «Новые... (1)
- RTX 5070 лучшая среди новых, а Radeon RX... (1)
- Samsung снова оставит флагман без особых... (1)
- Компактный компьютер Asus на суперчипе... (1)
- AMD понадобился год, чтобы выпустить... (2)
- GeForce RTX 5050 в разрешении 4K медленнее,... (2)
- Nvidia, а сколько ещё версий RTX 5090 выйдет... (35)
- Самые короткие дни на Земле в этом году... (70)
- ЕС не дрогнул: Закон об ИИ вступит в силу,... (79)
- Foxconn нарастила квартальную выручку... (108)
- Племянник изобретателя ZX Spectrum... (118)
- Подписанный Трампом «большой и прекрасный»... (118)
- Рынок российского ПО за год вырос на... (111)
- YADRO вложила в развитие отечественных... (112)
- Третий межзвёздный объект в Солнечной... (107)
- Дефицит на Nintendo Switch 2 прекратится не... (101)
Вся мощь ускорителей Nvidia для ИИ теперь в Windows. Компания объявила о доступности для этой ОС своей библиотеки TensorRT-LLM
Дата: 2023-10-18 11:54
На данный момент искусственный интеллект в Windows практически никак не задействован, если не считать интеграции языковой модели GPT. Однако, во-первых, уже есть процессоры AMD с выделенным блоком для работы с ИИ, и аналогичные готовит Intel, а во-вторых, согласно слухам, вокруг ИИ будет построена Windows 12. И вот теперь сообщается, что обычные пользователи получат в свои руки фактически ускорители для ИИ от Nvidia, только в программном виде.

Компания объявила, что её библиотека TensorRT-LLM, которая повышает производительность вывода для новейших моделей большого языка ИИ, теперь доступна для Windows. TensorRT-LLM позволяет значительно ускорить работу с ИИ.
В частности, в Stable Diffusion в популярном веб-интерфейсе дистрибутива Auto1111 разработка Nvidia ускоряет работу ИИ почти вдвое. В итоге с таким улучшением RTX 4090 опережает Apple M2 Ultra в семь раз.
Судя по всему, работать это будет только на видеокарта GeForce RTX, но для Nvidia это вполне логично. Фактически компания таким образом «превращает» свои игровые адаптеры в ускорители для ИИ.
Подробнее на iXBT
Предыдущие новости
AT&T пытается сорвать испытания связи Starlink для мобильных телефонов
SpaceX обвинила оператора AT&T и Сельскую ассоциацию беспроводной связи (Rural Wireless Association — RWA) в проведении «отчаянной 11-часовой кампании по срыву» испытаний спутника связи Starlink второго поколения. Источник изображения:...
Причины мощнейшего в истории наблюдений марсотрясения стали еще более загадочными
В мае 2022 года марсианский зонд NASA InSight зафиксировал мощнейшее за всю историю наблюдений марсотрясение магнитудой 4,7 балла. Для учёных это стало неожиданностью ввиду крайне слабой геологической активности Красной планеты. Причиной толчков могло стать падение крупного небесного тела, поисками которого занялись все находящиеся на орбите Марса космические станции....
Во всех машинах Chery, Omoda и Jaecoo появится интернет с Яндексом, «ВКонтакте» и играми
Компания Chery уже в декабре планирует начать поставлять в Россию так называемые подключенные автомобили, о чем стало известно «Китайским автомобилям» о время глобальной конференции Chery International User Summit в Уху. По сути, Chery планирует обеспечить российские автомобили своих брендов подключением к интернету. Это позволит дать пассажирам кроссоверов онлайн-доступ к...
Завод официально подтвердил начало продаж «Москвича 6»: машины доступны в большинстве салонов Москвы, а до конца недели они появятся в Санкт-Петербурге
Завод «Москвич» рассказал, где уже появились лифтбэки «Москвич 6», а также подтвердил, что список городов будет увеличиваться. «Отличная новость: встречайте новый «Москвич 6»! Модель уже представлена в большинстве дилерских центров Москвы и до конца недели появится в автосалонах Санкт-Петербурга. Приглашаем вас оценить новинку вживую и посидеть за рулем яркого динамичного...