- «Эта игра будет особенной»: амбициозный... (2166)
- SpaceX в рекордные сроки собрала самый... (1918)
- Принципиально новая платформа, оцинковка,... (1336)
- Tank 300 — самый популярный внедорожник... (1349)
- Новым предновогодним подарком в Epic Games... (1298)
- Очень ремонтопригодные ноутбуки. Lenovo... (1736)
- NASA приостановит операцию по спасению... (2322)
- Samsung передумала сворачивать производство... (1795)
- Игроки Eve Online за 2025 год уничтожили... (1689)
- Nvidia протестировала техпроцесс Intel 18А,... (1565)
- Ocypus представила практичные корпуса Iota... (2051)
- BitLocker будет меньше тормозить ПК —... (1443)
- Цены на DDR4 взлетели до 60 долларов за 16... (1866)
- iPhone станет более американским —... (1632)
- У дилеров и в мультибрендовых салонах... (1374)
- Lenovo готовит ноутбуки ThinkPad и ThinkBook... (1369)
Вся мощь ускорителей Nvidia для ИИ теперь в Windows. Компания объявила о доступности для этой ОС своей библиотеки TensorRT-LLM
Дата: 2023-10-18 11:54
На данный момент искусственный интеллект в Windows практически никак не задействован, если не считать интеграции языковой модели GPT. Однако, во-первых, уже есть процессоры AMD с выделенным блоком для работы с ИИ, и аналогичные готовит Intel, а во-вторых, согласно слухам, вокруг ИИ будет построена Windows 12. И вот теперь сообщается, что обычные пользователи получат в свои руки фактически ускорители для ИИ от Nvidia, только в программном виде.
Компания объявила, что её библиотека TensorRT-LLM, которая повышает производительность вывода для новейших моделей большого языка ИИ, теперь доступна для Windows. TensorRT-LLM позволяет значительно ускорить работу с ИИ.
В частности, в Stable Diffusion в популярном веб-интерфейсе дистрибутива Auto1111 разработка Nvidia ускоряет работу ИИ почти вдвое. В итоге с таким улучшением RTX 4090 опережает Apple M2 Ultra в семь раз.
Судя по всему, работать это будет только на видеокарта GeForce RTX, но для Nvidia это вполне логично. Фактически компания таким образом «превращает» свои игровые адаптеры в ускорители для ИИ.
Подробнее на iXBT
Предыдущие новости
AT&T пытается сорвать испытания связи Starlink для мобильных телефонов
SpaceX обвинила оператора AT&T и Сельскую ассоциацию беспроводной связи (Rural Wireless Association — RWA) в проведении «отчаянной 11-часовой кампании по срыву» испытаний спутника связи Starlink второго поколения. Источник изображения:...
Причины мощнейшего в истории наблюдений марсотрясения стали еще более загадочными
В мае 2022 года марсианский зонд NASA InSight зафиксировал мощнейшее за всю историю наблюдений марсотрясение магнитудой 4,7 балла. Для учёных это стало неожиданностью ввиду крайне слабой геологической активности Красной планеты. Причиной толчков могло стать падение крупного небесного тела, поисками которого занялись все находящиеся на орбите Марса космические станции....
Во всех машинах Chery, Omoda и Jaecoo появится интернет с Яндексом, «ВКонтакте» и играми
Компания Chery уже в декабре планирует начать поставлять в Россию так называемые подключенные автомобили, о чем стало известно «Китайским автомобилям» о время глобальной конференции Chery International User Summit в Уху. По сути, Chery планирует обеспечить российские автомобили своих брендов подключением к интернету. Это позволит дать пассажирам кроссоверов онлайн-доступ к...
Завод официально подтвердил начало продаж «Москвича 6»: машины доступны в большинстве салонов Москвы, а до конца недели они появятся в Санкт-Петербурге
Завод «Москвич» рассказал, где уже появились лифтбэки «Москвич 6», а также подтвердил, что список городов будет увеличиваться. «Отличная новость: встречайте новый «Москвич 6»! Модель уже представлена в большинстве дилерских центров Москвы и до конца недели появится в автосалонах Санкт-Петербурга. Приглашаем вас оценить новинку вживую и посидеть за рулем яркого динамичного...