- Vantage построит для OpenAI в Висконсине... (1880)
- Vantage построит для OpenAI в Висконсине... (2244)
- Как Radeon RX 9070 XT, только с 32 ГБ памяти... (1910)
- Mercedes-Benz построила самый мощный в мире... (2085)
- Чемпион по нарушениям: в Китае задержали... (1894)
- Выяснилось, что стоит за повышением цен,... (1993)
- Microsoft Edge стал ИИ-браузером для всех —... (1992)
- Тодд Говард «с нетерпением» ждёт дня, когда... (2057)
- Apex запланировала демонстрацию прототипа... (1986)
- Экран 1,5K OLED 165 Гц, Snapdragon 8 Elite... (1909)
- Intel собралась надолго «застрять» на... (2043)
- Почти та же начинка, за исключением... (2030)
- На мировой рынок выходит новейшая система... (1814)
- Большой седан Geely с дизайном в стиле... (2020)
- 5000 мА·ч — это уже вчерашний день. Honor... (1966)
- Илон Маск подтвердил: Tesla AI5 будет... (1890)
Яндекс опубликовал свой ускоритель обучения нейросетей – YaFSDP
Дата: 2024-06-11 12:09
Команда Яндекса открыла для всех доступ к библиотеке YaFSDP. Она значительно ускоряет обучение больших языковых моделей — как собственной разработки, так и сторонних, с открытым исходным кодом.
Сгенерировано нейросетью Dall-E Как отмечают в Яндексе, с помощью YaFSDP также можно расходовать до 20% меньше ресурсов графических процессоров (GPU), которые требуются для обучения. Теперь YaFSDP могут использовать компании, разработчики и исследователи по всему миру.
Библиотека Яндекса рассчитана в первую очередь на большие языковые модели, хотя она подходит и для других нейросетей — например, таких, которые генерируют изображения. YaFSDP позволяет сократить расходы на оборудование для обучения моделей.
Яндекс разработал YaFSDP в процессе обучения своей генеративной модели нового поколения YandexGPT 3. Компания уже протестировала библиотеку на сторонних нейросетях с открытым исходным кодом. Например, если бы YaFSDP использовалась применительно к модели LLaMA 2, этап предварительного обучения на 1024 графических процессорах сократился бы с 66 до 53 дней.
Подробнее на iXBT
Предыдущие новости
Сбер выпустил новые сверхъяркие лампы Sber А70 и полезный для здоровья режим рсвещени
Команда СберБанка сообщила, что для пользователей платформы умного дома Sber стал доступен режим «Адаптивный свет». Он автоматически подстраивает температуру освещения под биологические ритмы человека. Иллюстрация: Сбер Обновление получат все умные осветительные приборы Sber, а также партнёрские устройства, совместимые с платформой. Одновременно линейка устройств,...
Последний смартфон Nokia, который выпустит HMD, рассекречен. Он получит знаменитый логотип на задней панели
Знаменитый логотип Nokia будет нанесен на задней панели смартфона SkyLine, который выпустит HMD Global. По данным mydrivers, это будет последний смартфон под брендом Nokia, произведенный HMD. Ожидается, что этот смартфон будет похож на Nokia 8.3. Он будет оснащен чипом Qualcomm Snapdragon 7s Gen 2, 12 ГБ оперативной памяти и 256 ГБ встроенной флеш-памяти, а также задней...
Это первый ноутбук со Snapdragon X Elite и Linux. Tuxedo Drako предложит необычную связку в этом году
Новейшие SoC Snapdragon X ориентированы на Windows on Arm. Именно эти платформы могут изменить рынок ПК достаточно сильно. Но на Computex 2024 можно было увидеть первый ноутбук с такой SoC и при этом вовсе не с Windows. фото: Qualcomm Компания Tuxedo привезла прототип мобильного ПК под кодовым именем Drako на основе Snapdragon X Elite, работающий под управлением Linux. Если...
Выбираем электронику на лето вместе с партнёрами 3DNews
Небольшой обзор электроники, составленный вместе с партнёрами 3DNews, может помочь в выборе устройств, которые будут полезны во время летнего