- «Абсолютно проклято»: для The Elder Scrolls... (1005)
- Новые ИИ-ускорители Intel Gaudi 3 оказались... (1125)
- Samsung продолжит держаться за контрактное... (1060)
- В Белоруссии уже запустили: дорога в... (1176)
- А вот как выглядят чиплеты в Intel Arrow... (1021)
- Кампания Бакалавра для «Мора» стала... (917)
- Китай заявил о прорыве в кремниевой... (857)
- Могут ли смартфоны Samsung Galaxy S25 быть... (625)
- Death of the Reprobate получила дату выхода... (9611)
- Анонсирован смартфон Samsung Galaxy A16 5G с... (8674)
- Renault Lodgy с расходом 5,5 л на 100 км в... (781)
- Intel, это новый флагман? Core i9-14900K... (489)
- Глава Nvidia запланировал выступить на... (446)
- ООН рассказала об использовании Telegram... (566)
- Устаревшие SoC Kirin обходятся Huawei очень... (447)
- Бензиновый мотор 6,2 литра, 682 л.с., рама и... (561)
Новый алгоритм целочисленного сложения способен энергопотребление ИИ на 95%
Дата: 2024-10-13 21:06
Команда инженеров компании BitEnergy AI, занимающейся технологиями вывода ИИ, сообщила о методе снижения энергопотребления приложений на базе искусственного интеллекта на 95%. Группа опубликовала статью, описывающую их технологию, на сервере препринтов arXiv.
Поскольку ИИ-приложения стали мейнстримом, их использование резко возросло, что привело к заметному росту потребностей в энергии и затрат. Большие лингвистические модели, такие как ChatGPT, требуют большой вычислительной мощности, что, в свою очередь, означает, что для их работы требуется много электроэнергии. Например, ChatGPT теперь требует около 564 МВтч ежедневно, что достаточно для питания 18 000 американских домов. Поскольку наука продолжает развиваться, а такие приложения становятся всё более популярными, критики предположили, что эти приложения могут потреблять около 100 ТВтч ежегодно всего через несколько лет, наравне с операциями по добыче биткоинов.
Источник: DALL-EКоманда BitEnergy AI утверждает, что в рамках новой разработки им удалось найти способ значительно сократить объём вычислений, необходимых для приложений ИИ, не приводя при этом к снижению производительности.
Новая техника является достаточно изящной — вместо использования сложного умножения с плавающей точкой (FPM) метод использует целочисленное сложение. Приложения используют FPM для обработки чрезвычайно больших или малых чисел, что позволяет приложениям выполнять вычисления с их использованием с большой точностью. Это также самая энергоёмкая часть обработки чисел ИИ.
Исследователи называют свой новый метод Linear-Complexity Multiplication — он работает путём аппроксимации FPM с использованием целочисленного сложения. Они утверждают, что тестирование на данный момент показало, что новый подход снижает потребление электроэнергии на 95%.
Единственный недостаток заключается в том, что он требует другого оборудования, чем то, что используется в настоящее время. Но исследовательская группа также отмечает, что новый тип оборудования уже был спроектирован, создан и протестирован. Однако пока что неясно, как такое оборудование будет лицензироваться — в настоящее время на рынке оборудования для искусственного интеллекта доминирует производитель графических процессоров Nvidia. То, как они отреагируют на эту новую технологию, может оказать существенное влияние на темпы внедрения — если заявления компании подтвердятся.
Подробнее на iXBT
Предыдущие новости
Apple может выпустить умные очки и AirPods с камерами в 2027 году
Компания Apple планирует выпустить новые устройства с функциями визуального распознавания окружения. В числе новинок могут появиться умные очки, аналогичные тем, что были созданы в сотрудничестве M**a и Ray-Ban, а также AirPods с камерами. Ожидается, что эти продукты выйдут не раньше 2027 года, если вообще будут выпущены. Источник изображения: Joshua...
Учёные обнаружили связь между космической погодой и погодой на Земле, представляющую опасность для спутников и астронавтов
Учёные из Университета Колорадо в Боулдере обнаружили связь между космической погодой и погодой на Земле. Команда исследователей под руководством студента-бакалавриата Макса Файнланда обнаружила, что грозы на нашей планете могут вытеснять высокоэнергетические электроны из внутреннего радиационного пояса, что может представлять опасность для спутников и астронавтов. По словам...
Православный мессенджер «Зосима» с чатами, фото и видео появится в Google Play весной 2025 года, скачать смогут все желающие
Алексей Агапов, президент фонда «Иннотех XXI», рассказал, когда состоится релиз отечественного православного мессенджера «Зосима». Публичная бета-версия появится в ноябре текущего года, но скачать ее смогут все желающие на определенной интернет-страничке. А вот релиз для широкой аудитории состоится весной 2025 года. Изображение: Fastflux «Первая версия мессенджера появится в...
Разработан алгоритм, который позволяет передавать навыки между роботами
Учёные из Калифорнийского университета в Беркли разработали новую вычислительную структуру под названием RoVi-Aug, которая позволяет дополнять роботизированные данные и облегчает передачу навыков между различными роботами. Эта структура использует генеративные модели для дополнения данных изображений и создания синтезированных визуальных демонстраций задач с различными видами...