- Слухи: датамайнеры нашли в файлах Assassin’s... (816)
- После провала iPhone Air китайские бренды... (1017)
- 7100 мАч, 100 Вт, немерцающий экран, топовая... (788)
- Официально: новый кроссовер Jaecoo... (1044)
- Ракета «Союз-2.1а» за три часа доставила... (1104)
- 380 долларов за материнскую плату с... (1037)
- Премьера финального сезона «Очень странных... (566)
- «Т-Банк» предлагает поиздеваться над... (709)
- Комариный хоботок приспособили под сопло для... (1169)
- ИИ-пузырь получил соседа: Пекин предупредил... (607)
- «Базис» идёт на IPO в... (658)
- Всё по графику: корабль «Союз МС-28» с новым... (526)
- В России начались продажи 12-дюймового... (808)
- У межзвёздной кометы 3I/ATLAS сохраняется... (882)
- ИИ-помощник Сбера GigaChat отправился на МКС... (785)
- Процессоры Huawei Kirin 9030 и Kirin 9030... (797)
Яндекс опубликовал свой ускоритель обучения нейросетей – YaFSDP
Дата: 2024-06-11 12:09
Команда Яндекса открыла для всех доступ к библиотеке YaFSDP. Она значительно ускоряет обучение больших языковых моделей — как собственной разработки, так и сторонних, с открытым исходным кодом.
Сгенерировано нейросетью Dall-E Как отмечают в Яндексе, с помощью YaFSDP также можно расходовать до 20% меньше ресурсов графических процессоров (GPU), которые требуются для обучения. Теперь YaFSDP могут использовать компании, разработчики и исследователи по всему миру.
Библиотека Яндекса рассчитана в первую очередь на большие языковые модели, хотя она подходит и для других нейросетей — например, таких, которые генерируют изображения. YaFSDP позволяет сократить расходы на оборудование для обучения моделей.
Яндекс разработал YaFSDP в процессе обучения своей генеративной модели нового поколения YandexGPT 3. Компания уже протестировала библиотеку на сторонних нейросетях с открытым исходным кодом. Например, если бы YaFSDP использовалась применительно к модели LLaMA 2, этап предварительного обучения на 1024 графических процессорах сократился бы с 66 до 53 дней.
Подробнее на iXBT
Предыдущие новости
Сбер выпустил новые сверхъяркие лампы Sber А70 и полезный для здоровья режим рсвещени
Команда СберБанка сообщила, что для пользователей платформы умного дома Sber стал доступен режим «Адаптивный свет». Он автоматически подстраивает температуру освещения под биологические ритмы человека. Иллюстрация: Сбер Обновление получат все умные осветительные приборы Sber, а также партнёрские устройства, совместимые с платформой. Одновременно линейка устройств,...
Последний смартфон Nokia, который выпустит HMD, рассекречен. Он получит знаменитый логотип на задней панели
Знаменитый логотип Nokia будет нанесен на задней панели смартфона SkyLine, который выпустит HMD Global. По данным mydrivers, это будет последний смартфон под брендом Nokia, произведенный HMD. Ожидается, что этот смартфон будет похож на Nokia 8.3. Он будет оснащен чипом Qualcomm Snapdragon 7s Gen 2, 12 ГБ оперативной памяти и 256 ГБ встроенной флеш-памяти, а также задней...
Это первый ноутбук со Snapdragon X Elite и Linux. Tuxedo Drako предложит необычную связку в этом году
Новейшие SoC Snapdragon X ориентированы на Windows on Arm. Именно эти платформы могут изменить рынок ПК достаточно сильно. Но на Computex 2024 можно было увидеть первый ноутбук с такой SoC и при этом вовсе не с Windows. фото: Qualcomm Компания Tuxedo привезла прототип мобильного ПК под кодовым именем Drako на основе Snapdragon X Elite, работающий под управлением Linux. Если...
Выбираем электронику на лето вместе с партнёрами 3DNews
Небольшой обзор электроники, составленный вместе с партнёрами 3DNews, может помочь в выборе устройств, которые будут полезны во время летнего