- Австралия присоединилась к странам,... (136)
- Глава AMD подтвердила, что видеокарты Radeon... (233)
- 6000 мАч, камера Zeiss 200 Мп и SoC... (286)
- Японские учёные объединили люминесценцию и... (244)
- В России продают самую крутую «Альпину».... (282)
- Дороги будущего: инженеры создали модель... (370)
- RDW Computers представила российские серверы... (273)
- Филиппинские учёные превратили вулканический... (266)
- Apple, это точно лучший флагман компании?... (244)
- Инженеры создали материал для охлаждения... (218)
- В России начали продавать Kia K5 2025 из... (167)
- Учёные призывают к революции в переработке... (260)
- Мощнейшее столкновение создало... (350)
- Великобритания инвестирует 16 миллионов... (391)
- Миссия VIPER возрождается: NASA предлагает... (378)
- Представлен российский минивэн для большой... (484)
Яндекс опубликовал свой ускоритель обучения нейросетей – YaFSDP
Дата: 2024-06-11 12:09
Команда Яндекса открыла для всех доступ к библиотеке YaFSDP. Она значительно ускоряет обучение больших языковых моделей — как собственной разработки, так и сторонних, с открытым исходным кодом.
Сгенерировано нейросетью Dall-EКак отмечают в Яндексе, с помощью YaFSDP также можно расходовать до 20% меньше ресурсов графических процессоров (GPU), которые требуются для обучения. Теперь YaFSDP могут использовать компании, разработчики и исследователи по всему миру.
Библиотека Яндекса рассчитана в первую очередь на большие языковые модели, хотя она подходит и для других нейросетей — например, таких, которые генерируют изображения. YaFSDP позволяет сократить расходы на оборудование для обучения моделей.
Яндекс разработал YaFSDP в процессе обучения своей генеративной модели нового поколения YandexGPT 3. Компания уже протестировала библиотеку на сторонних нейросетях с открытым исходным кодом. Например, если бы YaFSDP использовалась применительно к модели LLaMA 2, этап предварительного обучения на 1024 графических процессорах сократился бы с 66 до 53 дней.
Подробнее на iXBT
Предыдущие новости
Сбер выпустил новые сверхъяркие лампы Sber А70 и полезный для здоровья режим рсвещени
Команда СберБанка сообщила, что для пользователей платформы умного дома Sber стал доступен режим «Адаптивный свет». Он автоматически подстраивает температуру освещения под биологические ритмы человека. Иллюстрация: Сбер Обновление получат все умные осветительные приборы Sber, а также партнёрские устройства, совместимые с платформой. Одновременно линейка устройств,...
Последний смартфон Nokia, который выпустит HMD, рассекречен. Он получит знаменитый логотип на задней панели
Знаменитый логотип Nokia будет нанесен на задней панели смартфона SkyLine, который выпустит HMD Global. По данным mydrivers, это будет последний смартфон под брендом Nokia, произведенный HMD. Ожидается, что этот смартфон будет похож на Nokia 8.3. Он будет оснащен чипом Qualcomm Snapdragon 7s Gen 2, 12 ГБ оперативной памяти и 256 ГБ встроенной флеш-памяти, а также задней...
Это первый ноутбук со Snapdragon X Elite и Linux. Tuxedo Drako предложит необычную связку в этом году
Новейшие SoC Snapdragon X ориентированы на Windows on Arm. Именно эти платформы могут изменить рынок ПК достаточно сильно. Но на Computex 2024 можно было увидеть первый ноутбук с такой SoC и при этом вовсе не с Windows. фото: Qualcomm Компания Tuxedo привезла прототип мобильного ПК под кодовым именем Drako на основе Snapdragon X Elite, работающий под управлением Linux. Если...
Выбираем электронику на лето вместе с партнёрами 3DNews
Небольшой обзор электроники, составленный вместе с партнёрами 3DNews, может помочь в выборе устройств, которые будут полезны во время летнего