- Микроавтобус скорой помощи из частной... (1544)
- Kia K4 2026 вышел на рынок в США. Седан,... (1397)
- 50-летняя «Волга» без пробега всплыла в... (1344)
- Планшеты HONOR Pad в 2025 году: нейросети,... (1612)
- Смартфоны Samsung наконец-то научатся... (1880)
- Россияне увидят два затмения в 2026... (1314)
- 6000 ANSI люмен и 300 дюймов: Представлены... (1859)
- Больше не нужно тыкать в экран: Xiaomi 17... (1795)
- Вдвое дешевле, чем в России: Chevrolet... (1892)
- 185 Гц, 10 000 мА·ч, 100 Вт, IP69K и... (1345)
- Браузерная версия GTA: Vice City разозлила... (1532)
- Li Auto готовит смену флагмана: Li L8... (1853)
- 800 л.с. и 380 км/ч: российский суперкар... (1837)
- Новые игровые ноутбуки Redmi не будут... (1508)
- Первый смартфон 2026 года с экраном без... (1860)
- Аналог Toyota Alphard с местной сборкой и... (1365)
Вся мощь ускорителей Nvidia для ИИ теперь в Windows. Компания объявила о доступности для этой ОС своей библиотеки TensorRT-LLM
Дата: 2023-10-18 11:54
На данный момент искусственный интеллект в Windows практически никак не задействован, если не считать интеграции языковой модели GPT. Однако, во-первых, уже есть процессоры AMD с выделенным блоком для работы с ИИ, и аналогичные готовит Intel, а во-вторых, согласно слухам, вокруг ИИ будет построена Windows 12. И вот теперь сообщается, что обычные пользователи получат в свои руки фактически ускорители для ИИ от Nvidia, только в программном виде.
Компания объявила, что её библиотека TensorRT-LLM, которая повышает производительность вывода для новейших моделей большого языка ИИ, теперь доступна для Windows. TensorRT-LLM позволяет значительно ускорить работу с ИИ.
В частности, в Stable Diffusion в популярном веб-интерфейсе дистрибутива Auto1111 разработка Nvidia ускоряет работу ИИ почти вдвое. В итоге с таким улучшением RTX 4090 опережает Apple M2 Ultra в семь раз.
Судя по всему, работать это будет только на видеокарта GeForce RTX, но для Nvidia это вполне логично. Фактически компания таким образом «превращает» свои игровые адаптеры в ускорители для ИИ.
Подробнее на iXBT
Предыдущие новости
AT&T пытается сорвать испытания связи Starlink для мобильных телефонов
SpaceX обвинила оператора AT&T и Сельскую ассоциацию беспроводной связи (Rural Wireless Association — RWA) в проведении «отчаянной 11-часовой кампании по срыву» испытаний спутника связи Starlink второго поколения. Источник изображения:...
Причины мощнейшего в истории наблюдений марсотрясения стали еще более загадочными
В мае 2022 года марсианский зонд NASA InSight зафиксировал мощнейшее за всю историю наблюдений марсотрясение магнитудой 4,7 балла. Для учёных это стало неожиданностью ввиду крайне слабой геологической активности Красной планеты. Причиной толчков могло стать падение крупного небесного тела, поисками которого занялись все находящиеся на орбите Марса космические станции....
Во всех машинах Chery, Omoda и Jaecoo появится интернет с Яндексом, «ВКонтакте» и играми
Компания Chery уже в декабре планирует начать поставлять в Россию так называемые подключенные автомобили, о чем стало известно «Китайским автомобилям» о время глобальной конференции Chery International User Summit в Уху. По сути, Chery планирует обеспечить российские автомобили своих брендов подключением к интернету. Это позволит дать пассажирам кроссоверов онлайн-доступ к...
Завод официально подтвердил начало продаж «Москвича 6»: машины доступны в большинстве салонов Москвы, а до конца недели они появятся в Санкт-Петербурге
Завод «Москвич» рассказал, где уже появились лифтбэки «Москвич 6», а также подтвердил, что список городов будет увеличиваться. «Отличная новость: встречайте новый «Москвич 6»! Модель уже представлена в большинстве дилерских центров Москвы и до конца недели появится в автосалонах Санкт-Петербурга. Приглашаем вас оценить новинку вживую и посидеть за рулем яркого динамичного...