- Lexus LX 700h 2025 — первый полноприводный... (3545)
- TSMC продолжит инвестировать в проекты на... (2929)
- Количество моделей ПК с Windows на основе... (3186)
- Вышли обзоры Mac Mini с M4 и M4 Pro:... (2911)
- Новая статья: Обзор и тестирование корпуса... (2691)
- Redmi K80 Pro официально рассекречен: более... (2560)
- Amazon запустила в производство сериал по... (2845)
- Российская замена тяжёлым внедорожным... (2680)
- Начались продажи PlayStation 5 Pro — в... (2847)
- «Аркейн» с большим отрывом стал самым... (2582)
- Sony оценила PlayStation 5 Pro 30th... (2660)
- Первая портативная приставка на Ryzen AI 300... (2634)
- AMD нанесет сокрушительный удар по игровым... (2729)
- Nvidia ограничит ежемесячное игровое время в... (2884)
- Лучший игровой процессор продемонстрировал... (2861)
- Олдскульная стимпанковая ролевая игра New... (2874)
С момента установки первой стойки крупнейшего в мире ИИ-суперкомпьютера Colossus Илона Маска до начала работ прошло всего 19 дней. Сетевое оборудование Nvidia Ethernet ускоряет работу
Дата: 2024-10-29 06:40
Nvidia объявила о том, что суперкомпьютерный кластер Colossus компании xAI, состоящий из 100 000 графических процессоров Nvidia Hopper Tensor Core в Мемфисе, штат Теннесси, достиг такого огромного масштаба благодаря использованию сетевой платформы Nvidia Spectrum-X Ethernet, которая разработана для обеспечения высочайшей производительности для многопользовательских гипермасштабируемых фабрик ИИ с использованием стандартизированного Ethernet для сети удаленного прямого доступа к памяти (RDMA).
Colossus, крупнейший в мире суперкомпьютер с искусственным интеллектом, используется для обучения семейства крупных языковых моделей Grok компании xAI, а чат-боты предлагаются в качестве функции для подписчиков X Premium. xAI находится в процессе удвоения размера Colossus до общего числа 200 000 графических процессоров Nvidia Hopper.
Изображение MidjourneyВ пресс-релизе говорится, что xAI и Nvidia построили вспомогательное оборудование и современный суперкомпьютер всего за 122 дня, вместо типичного срока для систем такого размера, который может занять от нескольких месяцев до нескольких лет. С момента, когда была установлена первая стойка, до начала обучения прошло 19 дней.
При обучении чрезвычайно большой модели Grok суперкомпьютер Colossus достигает беспрецедентной производительности сети. На всех трех уровнях сетевой структуры система испытала нулевую задержку приложений или потерю пакетов из-за столкновений потоков. Она сохранила 95% пропускной способности данных, обеспечиваемой контролем перегрузки Spectrum-X. Такого уровня производительности невозможно достичь при масштабировании с помощью стандартного Ethernet, который создает тысячи коллизий потоков, обеспечивая при этом лишь 60% пропускной способности данных.
Nvidia
Изображение Midjourney«xAI построила самый большой и мощный суперкомпьютер в мире, — заявил представитель xAI. — Графические процессоры Nvidia Hopper и Spectrum-X позволяют нам раздвинуть границы обучения моделей ИИ в огромных масштабах, создавая сверхбыструю и оптимизированную фабрику ИИ на основе стандарта Ethernet».
Ранее глава Nvidia назвал Илона Маска сверхчеловеком, комментируя скорость создания суперкомпьютера Colossus.
Подробнее на iXBT
Предыдущие новости
Mitsubishi анонсировала выход сразу двух новых моделей в Европе
Mitsubishi объявила о скором прибытии в Европу двух новых внедорожников, которые будут играть в сегменте C-SUV, где уже присутствует Mitsubishi Eclipse Cross. Новые внедорожники Mitsubishi C-SUV, название которых не сообщается, будут запущены в продажу в 2025 году. Один из этих внедорожников будет доступен с гибридными силовыми установками. В частности, он будет предлагаться с...
Mercedes будет устанавливать в свои машины двигатели Geely: появились первые детали
После того как Mercedes и BYD прекратили сотрудничество по бренду Denza, немцы договорились с Geely, которая будет поставлять новый бензиновый и гибридный двигатель, разработанный компанией Aurobay, основанной после слияния моторных подразделений Volvo и Geely. Как сообщает speedme.ru, речь идёт о бензиновом двигателе внутреннего сгорания с гибридным модулем, который...
Представлен Nokia 110 4G (2024)
Представлен кнопочный телефон Nokia 110 4G (2024), который оснащен 2-дюймовым ЖК-экраном и подключением 4G, а также скромными 128 МБ ОЗУ и 64 МБ флеш-памяти. Этого достаточно для базовых задач, таких как звонки, отправка текстовых сообщений и прослушивание музыки. В оснащение входит съемная батарея емкостью 1000 мАч, обещающая длительное время автономной работы. Он получил...
Власти США ввели ограничения на инвестиции в определённые отрасли китайской экономики
Надвигающиеся выборы американского президента неизбежно служат катализатором законодательной работы, которая проводилась при Джозефе Байдене (Joseph Biden), и правила контроля за инвестициями резидентов США в отдельные отрасли китайской экономики на этой неделе были утверждены после более чем года активного обсуждения с заинтересованными сторонами. Источник изображения:...