- Илон Маск анонсировал выпуск мессенджера X... (719)
- Соцсеть Bluesky набрала 40 млн пользователей... (786)
- Игровая консоль MSI Claw получила поддержку... (1129)
- Робот-пылесос в эксперименте с LLM-моделями... (597)
- С июня этого года основатель Nvidia Дженсен... (582)
- Китайская Orico выпустила копии Mac Pro и... (542)
- Три тайконавта и четыре мыши прибыли на... (1403)
- Несмотря на ИИ-бум, онлайн-реклама остаётся... (1440)
- Представлена ретроконсоль Atari 2600+... (1294)
- Дело о растрате 7,5 млрд при разработке MRAM... (1270)
- Blue Origin провела огневые испытания ракеты... (573)
- ChatGPT перестал давать медицинские и... (592)
- Doom впервые запустили в космосе, но под... (684)
- Принудительного сканирования всех переписок... (504)
- ИИ-певица Жания Моне совершила прорыв в... (785)
- Биткоин оказался в минусе по итогам октября... (806)
Яндекс опубликовал свой ускоритель обучения нейросетей – YaFSDP
Дата: 2024-06-11 12:09
Команда Яндекса открыла для всех доступ к библиотеке YaFSDP. Она значительно ускоряет обучение больших языковых моделей — как собственной разработки, так и сторонних, с открытым исходным кодом.
Сгенерировано нейросетью Dall-E Как отмечают в Яндексе, с помощью YaFSDP также можно расходовать до 20% меньше ресурсов графических процессоров (GPU), которые требуются для обучения. Теперь YaFSDP могут использовать компании, разработчики и исследователи по всему миру.
Библиотека Яндекса рассчитана в первую очередь на большие языковые модели, хотя она подходит и для других нейросетей — например, таких, которые генерируют изображения. YaFSDP позволяет сократить расходы на оборудование для обучения моделей.
Яндекс разработал YaFSDP в процессе обучения своей генеративной модели нового поколения YandexGPT 3. Компания уже протестировала библиотеку на сторонних нейросетях с открытым исходным кодом. Например, если бы YaFSDP использовалась применительно к модели LLaMA 2, этап предварительного обучения на 1024 графических процессорах сократился бы с 66 до 53 дней.
Подробнее на iXBT
Предыдущие новости
Сбер выпустил новые сверхъяркие лампы Sber А70 и полезный для здоровья режим рсвещени
Команда СберБанка сообщила, что для пользователей платформы умного дома Sber стал доступен режим «Адаптивный свет». Он автоматически подстраивает температуру освещения под биологические ритмы человека. Иллюстрация: Сбер Обновление получат все умные осветительные приборы Sber, а также партнёрские устройства, совместимые с платформой. Одновременно линейка устройств,...
Последний смартфон Nokia, который выпустит HMD, рассекречен. Он получит знаменитый логотип на задней панели
Знаменитый логотип Nokia будет нанесен на задней панели смартфона SkyLine, который выпустит HMD Global. По данным mydrivers, это будет последний смартфон под брендом Nokia, произведенный HMD. Ожидается, что этот смартфон будет похож на Nokia 8.3. Он будет оснащен чипом Qualcomm Snapdragon 7s Gen 2, 12 ГБ оперативной памяти и 256 ГБ встроенной флеш-памяти, а также задней...
Это первый ноутбук со Snapdragon X Elite и Linux. Tuxedo Drako предложит необычную связку в этом году
Новейшие SoC Snapdragon X ориентированы на Windows on Arm. Именно эти платформы могут изменить рынок ПК достаточно сильно. Но на Computex 2024 можно было увидеть первый ноутбук с такой SoC и при этом вовсе не с Windows. фото: Qualcomm Компания Tuxedo привезла прототип мобильного ПК под кодовым именем Drako на основе Snapdragon X Elite, работающий под управлением Linux. Если...
Выбираем электронику на лето вместе с партнёрами 3DNews
Небольшой обзор электроники, составленный вместе с партнёрами 3DNews, может помочь в выборе устройств, которые будут полезны во время летнего