- В России поступили в продажу обновлённые... (421)
- Новая статья: Обзор тройного складного... (348)
- Календарь релизов 10 – 16 февраля:... (153)
- В Steam начался фестиваль локальных... (414)
- В Россию официально начнут завозить... (409)
- Оказывается, потребляющую 600 Вт GeForce RTX... (457)
- «Человечество может исчезнуть за 10 лет»:... (455)
- Ждать более дешёвых видеокарт GeForce RTX 50... (451)
- Автор самого популярного мода для Elden Ring... (427)
- Шведские учёные нашли способ сделать зимние... (440)
- Частный лунный аппарат Blue Ghost начал... (469)
- Федеральная комиссия по связи США готовится... (452)
- Над Microsoft нависла угроза крупного штрафа... (411)
- Первый хорватский спутник CroCube передал... (421)
- Греческие учёные создали оптическую систему... (480)
- Samsung перейдет на кремний-углеродные... (381)
Яндекс опубликовал свой ускоритель обучения нейросетей – YaFSDP
Дата: 2024-06-11 12:09
Команда Яндекса открыла для всех доступ к библиотеке YaFSDP. Она значительно ускоряет обучение больших языковых моделей — как собственной разработки, так и сторонних, с открытым исходным кодом.
![](https://www.ixbt.com/img//x780/n1/news/2024/5/2/2024-06-11 12.11.00_large.jpg)
Как отмечают в Яндексе, с помощью YaFSDP также можно расходовать до 20% меньше ресурсов графических процессоров (GPU), которые требуются для обучения. Теперь YaFSDP могут использовать компании, разработчики и исследователи по всему миру.
Библиотека Яндекса рассчитана в первую очередь на большие языковые модели, хотя она подходит и для других нейросетей — например, таких, которые генерируют изображения. YaFSDP позволяет сократить расходы на оборудование для обучения моделей.
Яндекс разработал YaFSDP в процессе обучения своей генеративной модели нового поколения YandexGPT 3. Компания уже протестировала библиотеку на сторонних нейросетях с открытым исходным кодом. Например, если бы YaFSDP использовалась применительно к модели LLaMA 2, этап предварительного обучения на 1024 графических процессорах сократился бы с 66 до 53 дней.
Подробнее на iXBT
Предыдущие новости
Сбер выпустил новые сверхъяркие лампы Sber А70 и полезный для здоровья режим рсвещени
Команда СберБанка сообщила, что для пользователей платформы умного дома Sber стал доступен режим «Адаптивный свет». Он автоматически подстраивает температуру освещения под биологические ритмы человека. Иллюстрация: Сбер Обновление получат все умные осветительные приборы Sber, а также партнёрские устройства, совместимые с платформой. Одновременно линейка устройств,...
Последний смартфон Nokia, который выпустит HMD, рассекречен. Он получит знаменитый логотип на задней панели
Знаменитый логотип Nokia будет нанесен на задней панели смартфона SkyLine, который выпустит HMD Global. По данным mydrivers, это будет последний смартфон под брендом Nokia, произведенный HMD. Ожидается, что этот смартфон будет похож на Nokia 8.3. Он будет оснащен чипом Qualcomm Snapdragon 7s Gen 2, 12 ГБ оперативной памяти и 256 ГБ встроенной флеш-памяти, а также задней...
Это первый ноутбук со Snapdragon X Elite и Linux. Tuxedo Drako предложит необычную связку в этом году
Новейшие SoC Snapdragon X ориентированы на Windows on Arm. Именно эти платформы могут изменить рынок ПК достаточно сильно. Но на Computex 2024 можно было увидеть первый ноутбук с такой SoC и при этом вовсе не с Windows. фото: Qualcomm Компания Tuxedo привезла прототип мобильного ПК под кодовым именем Drako на основе Snapdragon X Elite, работающий под управлением Linux. Если...
Выбираем электронику на лето вместе с партнёрами 3DNews
Небольшой обзор электроники, составленный вместе с партнёрами 3DNews, может помочь в выборе устройств, которые будут полезны во время летнего