- Nvidia заново адаптирует ускоритель H20 для... (240)
- Starlink со скоростью более 200 Мбит/с для... (245)
- Новый седан на платформе Toyota чуть дороже... (290)
- «Мы явно перестарались»: разработчикам Clair... (331)
- ADATA создала бренд Trusta для SSD... (227)
- Доставка прибудет по расписанию: курьерский... (299)
- Частный японский модуль Resilience с... (299)
- Google обновила дизайн поискового виджета на... (308)
- Тарифы Трампа способствовали росту... (313)
- В Telegram добавились маркетплейс подарков,... (318)
- Видео: взбесившийся гуманоидный робот... (323)
- Новые универсалы Toyota, сертифицированные... (321)
- Первый ПК Huawei с HarmonyOS получит... (309)
- Учёные установили мировой рекорд по ионной... (292)
- Китайский контрактный производитель чипов... (308)
- «Лучшая карточная игра с RPG-элементами»: с... (333)
Прорыв в области энергоэффективности: чип, работающий на машинном обучении, меняет правила игры в ИИ
Дата: сегодня 10:21
Учёные из Университета штата Орегон разработали новый энергоэффективный чип, призванный решить проблему огромного потребления электроэнергии крупными языковыми моделями искусственного интеллекта, такими как Gemini и GPT-4. Разработка, представленная на недавней конференции IEEE Custom Integrated Circuits Conference в Бостоне, позволяет сократить энергопотребление вдвое по сравнению с традиционными решениями.
Студент Рамин Джавади и доцент кафедры электротехники Теджасви Ананде представили чип, основанный на принципах искусственного интеллекта, которые оптимизируют энергопотребление при обработке сигналов. Проблема, по словам Ананде, руководителя лаборатории смешанных сигналов и систем в OSU, заключается в том, что энергозатраты на передачу одного бита не снижаются с той же скоростью, с которой растёт потребность в объёме передаваемых данных. Это и приводит к колоссальному энергопотреблению современных дата-центров.

Большие языковые модели требуют передачи и приёма огромных объёмов данных по проводным медным каналам связи в центрах обработки данных, что требует значительных энергетических затрат. Один из способов решения этой проблемы — разработка более эффективных чипов для проводной связи. При высокоскоростной передаче данных, сигнал на приёмнике искажается и требует коррекции. Большинство традиционных систем проводной связи используют для этого эквалайзеры, которые потребляют значительное количество энергии.
В новом чипе используется подход, основанный на машинном обучении. Встроенный классификатор обучается распознавать и исправлять ошибки, что позволяет восстанавливать данные более эффективно и с меньшими энергозатратами. Этот подход, по словам Джавади, позволяет значительно снизить энергопотребление.
Проект, получивший поддержку Агентства по перспективным оборонным исследовательским проектам (DARPA), Корпорации исследований полупроводников и Центра повсеместной связи, принёс Джавади награду за лучшую студенческую работу на конференции. Сейчас Джавади и Ананде работают над следующим поколением чипа, надеясь достичь ещё большей энергоэффективности. Их разработки обещают стать важным шагом к снижению энергопотребления современных систем искусственного интеллекта.
Подробнее на iXBT
Предыдущие новости
Huawei представила комплексную платформу хранения и обработки ИИ-данных
Компания Huawei на форуме Innovative Data Infrastructure (IDI) в Мюнхене (Германия) анонсировала решение AI Data Lake для хранения и обработки данных, призванное ускорить внедрение ИИ в различных отраслях. Платформа ориентирована на обучение больших языковых моделей (LLM), инференс и другие нагрузки. Аппаратная составляющая AI Data Lake предполагает использование СХД трёх...
Платина и моча: учёные нашли рецепт для «зелёного» водорода будущего
Водород рассматривается как экологически чистая альтернатива ископаемому топливу. Он сгорает без вредных выбросов и может служить аккумулятором для длительного хранения энергии. Только водород способен заменить ископаемое топливо в авиации, судоходстве и тяжёлой промышленности. Проблема в том, что экологически чистый «зелёный» водород добывается с колоссальными затратами...
Китай удваивает мощности станции «Тяньгун»: новые модули, телескоп-гигант и международные экипажи
Китай подтвердил планы по расширению своей орбитальной станции «Тяньгун», что укрепит её роль в научных исследованиях и международном сотрудничестве. Как заявил Ван Цзюэ из Китайской аэрокосмической научно-технической корпорации (CASC), для запуска новых модулей будет использоваться ракета-носитель Long March 5B. Хотя сроки не уточняются, это решение связано с растущими...
Он защищает Starlink при выходе на орбиту: обтекатель Falcon 9 установил рекорд по повторному использованию
SpaceX объявила о ещё одном успешном запуске ракеты Falcon 9, отметив, что одна из створок головного обтекателя побывала в космосе уже в 30-й раз. Обтекатель, изготовленный из углеродного композитного материала, защищает спутники на пути к орбите. Обтекатель сбрасывается примерно через 3 минуты полета, а SpaceX собирает обтекатели для повторного использования в будущих...