- Huawei собирается выйти на глобальный рынок... (821)
- 8000 мАч, 144 Гц и совершенно новая... (1063)
- 20 000 мАч, до 190 Вт и цена всего 35... (1028)
- Во флагманских смартфонах Samsung Galaxy S... (990)
- Культовый российский хоррор «Зайчик» получит... (1099)
- Глава Battlestate Games прояснил, что Escape... (1127)
- Google начала отключать и увозить из России... (1105)
- LG представит робота для суеты по хозяйству... (1209)
- Nvidia введёт лимиты в GeForce Now — 100... (1262)
- «10 криков на напарника из 10»: в Epic Games... (1207)
- У некоторых ноутбуков Asus есть проблема,... (1339)
- «Лорд-капитан, нам нужен ваш совет»: Owlcat... (1278)
- Эксплуатация ностальгии — на Тайване... (1079)
- Стало известно, когда стоит ожидать... (1062)
- Чёрный экран и подвисания из-за одной цифры:... (1400)
- Китай вторым после Google шагнул к... (1284)
Вся мощь ускорителей Nvidia для ИИ теперь в Windows. Компания объявила о доступности для этой ОС своей библиотеки TensorRT-LLM
Дата: 2023-10-18 11:54
На данный момент искусственный интеллект в Windows практически никак не задействован, если не считать интеграции языковой модели GPT. Однако, во-первых, уже есть процессоры AMD с выделенным блоком для работы с ИИ, и аналогичные готовит Intel, а во-вторых, согласно слухам, вокруг ИИ будет построена Windows 12. И вот теперь сообщается, что обычные пользователи получат в свои руки фактически ускорители для ИИ от Nvidia, только в программном виде.
Компания объявила, что её библиотека TensorRT-LLM, которая повышает производительность вывода для новейших моделей большого языка ИИ, теперь доступна для Windows. TensorRT-LLM позволяет значительно ускорить работу с ИИ.
В частности, в Stable Diffusion в популярном веб-интерфейсе дистрибутива Auto1111 разработка Nvidia ускоряет работу ИИ почти вдвое. В итоге с таким улучшением RTX 4090 опережает Apple M2 Ultra в семь раз.
Судя по всему, работать это будет только на видеокарта GeForce RTX, но для Nvidia это вполне логично. Фактически компания таким образом «превращает» свои игровые адаптеры в ускорители для ИИ.
Подробнее на iXBT
Предыдущие новости
AT&T пытается сорвать испытания связи Starlink для мобильных телефонов
SpaceX обвинила оператора AT&T и Сельскую ассоциацию беспроводной связи (Rural Wireless Association — RWA) в проведении «отчаянной 11-часовой кампании по срыву» испытаний спутника связи Starlink второго поколения. Источник изображения:...
Причины мощнейшего в истории наблюдений марсотрясения стали еще более загадочными
В мае 2022 года марсианский зонд NASA InSight зафиксировал мощнейшее за всю историю наблюдений марсотрясение магнитудой 4,7 балла. Для учёных это стало неожиданностью ввиду крайне слабой геологической активности Красной планеты. Причиной толчков могло стать падение крупного небесного тела, поисками которого занялись все находящиеся на орбите Марса космические станции....
Во всех машинах Chery, Omoda и Jaecoo появится интернет с Яндексом, «ВКонтакте» и играми
Компания Chery уже в декабре планирует начать поставлять в Россию так называемые подключенные автомобили, о чем стало известно «Китайским автомобилям» о время глобальной конференции Chery International User Summit в Уху. По сути, Chery планирует обеспечить российские автомобили своих брендов подключением к интернету. Это позволит дать пассажирам кроссоверов онлайн-доступ к...
Завод официально подтвердил начало продаж «Москвича 6»: машины доступны в большинстве салонов Москвы, а до конца недели они появятся в Санкт-Петербурге
Завод «Москвич» рассказал, где уже появились лифтбэки «Москвич 6», а также подтвердил, что список городов будет увеличиваться. «Отличная новость: встречайте новый «Москвич 6»! Модель уже представлена в большинстве дилерских центров Москвы и до конца недели появится в автосалонах Санкт-Петербурга. Приглашаем вас оценить новинку вживую и посидеть за рулем яркого динамичного...