- Honor представила MagicOS 9.0 — своё видение... (1015)
- Солнце проснулось: мощная солнечная вспышка... (961)
- «Просто больно видеть, что про нас пишут»:... (920)
- Российские операторы связи намерены поднять... (1022)
- Доступ к драйверам Nvidia из России... (1150)
- AMD Ryzen 7 9800X3D будет на 8 % быстрее... (1183)
- Вся стартовая партия Lada Aura раскуплена по... (1188)
- CATL выведет гибриды на новый уровень —... (1079)
- Роскомнадзор: владеющих более чем тысячей... (1115)
- Прощай, легенда. Представлена финальная... (1079)
- Пенальти не будет: Австрия передумала... (992)
- Новые Honda Odyssey в России с 3-летней... (1032)
- Airbus и Toshiba вместе разработают... (1002)
- TP-Link представила двухдиапазонные... (1037)
- V-Color выпустила комплекты памяти CUDIMM... (1016)
- SpaceX выкатила на площадку новую ступень... (1015)
С момента установки первой стойки крупнейшего в мире ИИ-суперкомпьютера Colossus Илона Маска до начала работ прошло всего 19 дней. Сетевое оборудование Nvidia Ethernet ускоряет работу
Дата: 2024-10-29 06:40
Nvidia объявила о том, что суперкомпьютерный кластер Colossus компании xAI, состоящий из 100 000 графических процессоров Nvidia Hopper Tensor Core в Мемфисе, штат Теннесси, достиг такого огромного масштаба благодаря использованию сетевой платформы Nvidia Spectrum-X Ethernet, которая разработана для обеспечения высочайшей производительности для многопользовательских гипермасштабируемых фабрик ИИ с использованием стандартизированного Ethernet для сети удаленного прямого доступа к памяти (RDMA).
Colossus, крупнейший в мире суперкомпьютер с искусственным интеллектом, используется для обучения семейства крупных языковых моделей Grok компании xAI, а чат-боты предлагаются в качестве функции для подписчиков X Premium. xAI находится в процессе удвоения размера Colossus до общего числа 200 000 графических процессоров Nvidia Hopper.
Изображение MidjourneyВ пресс-релизе говорится, что xAI и Nvidia построили вспомогательное оборудование и современный суперкомпьютер всего за 122 дня, вместо типичного срока для систем такого размера, который может занять от нескольких месяцев до нескольких лет. С момента, когда была установлена первая стойка, до начала обучения прошло 19 дней.
При обучении чрезвычайно большой модели Grok суперкомпьютер Colossus достигает беспрецедентной производительности сети. На всех трех уровнях сетевой структуры система испытала нулевую задержку приложений или потерю пакетов из-за столкновений потоков. Она сохранила 95% пропускной способности данных, обеспечиваемой контролем перегрузки Spectrum-X. Такого уровня производительности невозможно достичь при масштабировании с помощью стандартного Ethernet, который создает тысячи коллизий потоков, обеспечивая при этом лишь 60% пропускной способности данных.
Nvidia
Изображение Midjourney«xAI построила самый большой и мощный суперкомпьютер в мире, — заявил представитель xAI. — Графические процессоры Nvidia Hopper и Spectrum-X позволяют нам раздвинуть границы обучения моделей ИИ в огромных масштабах, создавая сверхбыструю и оптимизированную фабрику ИИ на основе стандарта Ethernet».
Ранее глава Nvidia назвал Илона Маска сверхчеловеком, комментируя скорость создания суперкомпьютера Colossus.
Подробнее на iXBT
Предыдущие новости
Mitsubishi анонсировала выход сразу двух новых моделей в Европе
Mitsubishi объявила о скором прибытии в Европу двух новых внедорожников, которые будут играть в сегменте C-SUV, где уже присутствует Mitsubishi Eclipse Cross. Новые внедорожники Mitsubishi C-SUV, название которых не сообщается, будут запущены в продажу в 2025 году. Один из этих внедорожников будет доступен с гибридными силовыми установками. В частности, он будет предлагаться с...
Mercedes будет устанавливать в свои машины двигатели Geely: появились первые детали
После того как Mercedes и BYD прекратили сотрудничество по бренду Denza, немцы договорились с Geely, которая будет поставлять новый бензиновый и гибридный двигатель, разработанный компанией Aurobay, основанной после слияния моторных подразделений Volvo и Geely. Как сообщает speedme.ru, речь идёт о бензиновом двигателе внутреннего сгорания с гибридным модулем, который...
Представлен Nokia 110 4G (2024)
Представлен кнопочный телефон Nokia 110 4G (2024), который оснащен 2-дюймовым ЖК-экраном и подключением 4G, а также скромными 128 МБ ОЗУ и 64 МБ флеш-памяти. Этого достаточно для базовых задач, таких как звонки, отправка текстовых сообщений и прослушивание музыки. В оснащение входит съемная батарея емкостью 1000 мАч, обещающая длительное время автономной работы. Он получил...
Власти США ввели ограничения на инвестиции в определённые отрасли китайской экономики
Надвигающиеся выборы американского президента неизбежно служат катализатором законодательной работы, которая проводилась при Джозефе Байдене (Joseph Biden), и правила контроля за инвестициями резидентов США в отдельные отрасли китайской экономики на этой неделе были утверждены после более чем года активного обсуждения с заинтересованными сторонами. Источник изображения:...