- Представлен ноутбук Ninkear A15 Pro с... (1294)
- КамАЗ представил водородный грузовик. Его... (1231)
- Жизнь на Землю прилетела из космоса, снова... (1172)
- Внедорожник Honda Pilot 2025 стоит в России... (1890)
- Внедорожник Honda Pilot 2024 подорожал в... (1330)
- От тостера до ЦОД: RISC-V International... (1290)
- Fujitsu представила самый лёгкий ноутбук в... (1227)
- Глава Microsoft попросил урезать ему... (1115)
- OpenAI распустила AGI Readiness — ещё один... (1189)
- «Тоньше, мощнее и изысканнее». Опубликованы... (1244)
- Необычный хоррор Please Insert Disc столкнёт... (1188)
- Стали известны сроки выпуска флагманов Oppo... (17255)
- Китай открывает двери для ЦОД с полностью... (3391)
- Китай предложит всем желающим слетать в... (4754)
- OpenAI обучила ИИ-модель Orion — она может... (1358)
- Apple заплатит хакерам до $1 млн за взлом... (1491)
С момента установки первой стойки крупнейшего в мире ИИ-суперкомпьютера Colossus Илона Маска до начала работ прошло всего 19 дней. Сетевое оборудование Nvidia Ethernet ускоряет работу
Дата: 2024-10-29 06:40
Nvidia объявила о том, что суперкомпьютерный кластер Colossus компании xAI, состоящий из 100 000 графических процессоров Nvidia Hopper Tensor Core в Мемфисе, штат Теннесси, достиг такого огромного масштаба благодаря использованию сетевой платформы Nvidia Spectrum-X Ethernet, которая разработана для обеспечения высочайшей производительности для многопользовательских гипермасштабируемых фабрик ИИ с использованием стандартизированного Ethernet для сети удаленного прямого доступа к памяти (RDMA).
Colossus, крупнейший в мире суперкомпьютер с искусственным интеллектом, используется для обучения семейства крупных языковых моделей Grok компании xAI, а чат-боты предлагаются в качестве функции для подписчиков X Premium. xAI находится в процессе удвоения размера Colossus до общего числа 200 000 графических процессоров Nvidia Hopper.
Изображение MidjourneyВ пресс-релизе говорится, что xAI и Nvidia построили вспомогательное оборудование и современный суперкомпьютер всего за 122 дня, вместо типичного срока для систем такого размера, который может занять от нескольких месяцев до нескольких лет. С момента, когда была установлена первая стойка, до начала обучения прошло 19 дней.
При обучении чрезвычайно большой модели Grok суперкомпьютер Colossus достигает беспрецедентной производительности сети. На всех трех уровнях сетевой структуры система испытала нулевую задержку приложений или потерю пакетов из-за столкновений потоков. Она сохранила 95% пропускной способности данных, обеспечиваемой контролем перегрузки Spectrum-X. Такого уровня производительности невозможно достичь при масштабировании с помощью стандартного Ethernet, который создает тысячи коллизий потоков, обеспечивая при этом лишь 60% пропускной способности данных.
Nvidia
Изображение Midjourney«xAI построила самый большой и мощный суперкомпьютер в мире, — заявил представитель xAI. — Графические процессоры Nvidia Hopper и Spectrum-X позволяют нам раздвинуть границы обучения моделей ИИ в огромных масштабах, создавая сверхбыструю и оптимизированную фабрику ИИ на основе стандарта Ethernet».
Ранее глава Nvidia назвал Илона Маска сверхчеловеком, комментируя скорость создания суперкомпьютера Colossus.
Подробнее на iXBT
Предыдущие новости
Mitsubishi анонсировала выход сразу двух новых моделей в Европе
Mitsubishi объявила о скором прибытии в Европу двух новых внедорожников, которые будут играть в сегменте C-SUV, где уже присутствует Mitsubishi Eclipse Cross. Новые внедорожники Mitsubishi C-SUV, название которых не сообщается, будут запущены в продажу в 2025 году. Один из этих внедорожников будет доступен с гибридными силовыми установками. В частности, он будет предлагаться с...
Mercedes будет устанавливать в свои машины двигатели Geely: появились первые детали
После того как Mercedes и BYD прекратили сотрудничество по бренду Denza, немцы договорились с Geely, которая будет поставлять новый бензиновый и гибридный двигатель, разработанный компанией Aurobay, основанной после слияния моторных подразделений Volvo и Geely. Как сообщает speedme.ru, речь идёт о бензиновом двигателе внутреннего сгорания с гибридным модулем, который...
Представлен Nokia 110 4G (2024)
Представлен кнопочный телефон Nokia 110 4G (2024), который оснащен 2-дюймовым ЖК-экраном и подключением 4G, а также скромными 128 МБ ОЗУ и 64 МБ флеш-памяти. Этого достаточно для базовых задач, таких как звонки, отправка текстовых сообщений и прослушивание музыки. В оснащение входит съемная батарея емкостью 1000 мАч, обещающая длительное время автономной работы. Он получил...
Власти США ввели ограничения на инвестиции в определённые отрасли китайской экономики
Надвигающиеся выборы американского президента неизбежно служат катализатором законодательной работы, которая проводилась при Джозефе Байдене (Joseph Biden), и правила контроля за инвестициями резидентов США в отдельные отрасли китайской экономики на этой неделе были утверждены после более чем года активного обсуждения с заинтересованными сторонами. Источник изображения:...