Рекурсивный акроним словосочетания «PHP: Hypertext Preprocessor»

Добро пожаловать на форум PHP программистов!

За последние 24 часа нас посетили 47474 программиста и 3052 робота. Сейчас ищут 1343 программиста ...

Последние

Аналоги есть только у Meta*, AMD и китайских IT-гигантов: Яндекс оптимизировал обучение нейросетей

Дата: сегодня 13:47

Команда Яндекса повысила эффективность обучения больших языковых моделей (LLM), сохранив качество и масштаб разработок. Как рассказали в Яндексе, благодаря глубокой оптимизации инфраструктуры, компания сократила операционные расходы, достигнув годовой экономии в 4,8 млрд рублей — в среднем 400 млн рублей ежемесячно.

Сгенерировано нейросетью Grok

Ключевую роль сыграла собственная разработка — библиотека YCCL (Yet Another Collective Communication Library), ускорившая обмен данными между графическими процессорами в 2 раза и уменьшившая объём передаваемой информации. Кроме того, управление было перенесено с графических на центральные процессоры. В Яндексе подчеркнули:

Библиотека YCCL масштабируется на крупные кластеры, а её аналоги есть лишь у ведущих мировых компаний — Meta*, AMD — и китайских IT-гигантов.

Дополнительную эффективность обеспечил переход на формат FP8 с пониженной точностью вычислений, ускоривший обучение моделей на 30% и сокративший коммуникации в 2 раза. Яндекс увеличил батч до 16–32 млн токенов, что позволило обучать модели без простоев графических процессоров. Компания также повысила стабильность IT-инфраструктуры, снизив число аппаратных сбоев и расходы на перезапуск обучения. Улучшения коснулись и кода, и архитектурных решений, что повысило общую функциональность системы.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.

Подробнее на iXBT

Предыдущие новости

iXBT, сегодня 13:11
«Первый в мире настоящий агент искусственного интеллекта» спровоцировал скачок спроса на Mac mini и Studio, из-за чего ПК теперь нужно долго ждать

Популярность ИИ-агента OpenClaw привела к росту спроса на некоторые компьютеры Apple. Если точнее, то в первую очередь на Mac mini, хотя и на Mac Studio тоже. Насколько вырос спрос, точно неизвестно, но как минимум это проявилось в сроках ожидания при покупке в онлайн-магазине Apple. Базовые версии ажиотаж особо не затронул, а вот если выбрать какой-то из этих настольных ПК в...

3Dnews.ru, сегодня 12:22
Microsoft показала, чего ждать от следующих обновлений Windows 11 — улучшение панели задач, новые настройки и эмодзи

Компания Microsoft выпустила новую предварительную сборку Windows 11 в рамках программы предварительной оценки Windows Insider на канале Release Preview. Благодаря этому уже сейчас можно понять, какие функции и изменения софтверный гигант начнёт распространять массово в ближайшие несколько недель. Обновление сосредоточено на повышении качества повседневного использования...

3Dnews.ru, сегодня 12:25
Perplexity первой встроила рекламу в ИИ, но теперь отказалась от неё из-за угрозы доверию пользователей

ИИ-стартап Perplexity из Сан-Франциско (США), который одним из первых среди компаний в сфере разработки генеративного ИИ запустил рекламу в своих сервисах в 2024 году, решил отказаться от её дальнейшего использования в качестве источника доходов из-за опасений потери доверия пользователей к ИИ, сообщил ресурс The Financial Times. Источник изображения:...

3Dnews.ru, сегодня 12:45
Bethesda наконец починила The Elder Scrolls V: Skyrim на Nintendo Switch 2 — легендарная RPG получила поддержку 60 кадров/с и не только

Культовая фэнтезийная RPG с открытым миром The Elder Scrolls V: Skyrim вышла на гибридной консоли Nintendo Switch 2 не в лучшем виде, однако со времён релиза разработчики из Bethesda Game Studios значительно улучшили порт. Источник изображений: Bethesda...