Добро пожаловать на форум PHP программистов!
За последние 24 часа нас посетили 39495 программистов и 1811 роботов. Сейчас ищут 805 программистов ...
Последние
Популярные

Вся мощь ускорителей Nvidia для ИИ теперь в Windows. Компания объявила о доступности для этой ОС своей библиотеки TensorRT-LLM

Дата: 2023-10-18 11:54

На данный момент искусственный интеллект в Windows практически никак не задействован, если не считать интеграции языковой модели GPT. Однако, во-первых, уже есть процессоры AMD с выделенным блоком для работы с ИИ, и аналогичные готовит Intel, а во-вторых, согласно слухам, вокруг ИИ будет построена Windows 12. И вот теперь сообщается, что обычные пользователи получат в свои руки фактически ускорители для ИИ от Nvidia, только в программном виде. 

Компания объявила, что её библиотека TensorRT-LLM, которая повышает производительность вывода для новейших моделей большого языка ИИ, теперь доступна для Windows. TensorRT-LLM позволяет значительно ускорить работу с ИИ.  

В частности, в Stable Diffusion в популярном веб-интерфейсе дистрибутива Auto1111 разработка Nvidia ускоряет работу ИИ почти вдвое. В итоге с таким улучшением RTX 4090 опережает Apple M2 Ultra в семь раз.

Судя по всему, работать это будет только на видеокарта GeForce RTX, но для Nvidia это вполне логично. Фактически компания таким образом «превращает» свои игровые адаптеры в ускорители для ИИ.



Подробнее на iXBT
 

Предыдущие новости

3Dnews.ru, 2023-10-18 11:33
AT&T пытается сорвать испытания связи Starlink для мобильных телефонов

SpaceX обвинила оператора AT&T и Сельскую ассоциацию беспроводной связи (Rural Wireless Association — RWA) в проведении «отчаянной 11-часовой кампании по срыву» испытаний спутника связи Starlink второго поколения. Источник изображения:...

3Dnews.ru, 2023-10-18 11:39
Причины мощнейшего в истории наблюдений марсотрясения стали еще более загадочными

В мае 2022 года марсианский зонд NASA InSight зафиксировал мощнейшее за всю историю наблюдений марсотрясение магнитудой 4,7 балла. Для учёных это стало неожиданностью ввиду крайне слабой геологической активности Красной планеты. Причиной толчков могло стать падение крупного небесного тела, поисками которого занялись все находящиеся на орбите Марса космические станции....

iXBT, 2023-10-18 10:06
Во всех машинах Chery, Omoda и Jaecoo появится интернет с Яндексом, «ВКонтакте» и играми

Компания Chery уже в декабре планирует начать поставлять в Россию так называемые подключенные автомобили, о чем стало известно «Китайским автомобилям» о время глобальной конференции Chery International User Summit в Уху. По сути, Chery планирует обеспечить российские автомобили своих брендов подключением к интернету. Это позволит дать пассажирам кроссоверов онлайн-доступ к...

iXBT, 2023-10-18 11:06
Завод официально подтвердил начало продаж «Москвича 6»: машины доступны в большинстве салонов Москвы, а до конца недели они появятся в Санкт-Петербурге

Завод «Москвич» рассказал, где уже появились лифтбэки «Москвич 6», а также подтвердил, что список городов будет увеличиваться. «Отличная новость: встречайте новый «Москвич 6»! Модель уже представлена в большинстве дилерских центров Москвы и до конца недели появится в автосалонах Санкт-Петербурга. Приглашаем вас оценить новинку вживую и посидеть за рулем яркого динамичного...

© 2025 «PHP.RU — Сообщество PHP-Программистов»
Главная | Форум | Реклама на сайте | Контакты VIP Сувениры
Разработка компании ODware