Amazon Web Services (AWS) представила собственную систему охлаждения IRHX (In-Row Heat Exchanger), разработанную для удовлетворения растущих потребностей в охлаждении мощных графических процессоров Nvidia. Эта инновационная разработка стала ответом на вызовы, связанные с увеличением энергопотребления и тепловыделением современного оборудования, в частности, Nvidia GB200 NVL72, используемого в самых мощных экземплярах EC2 – P6e UltraServer.

Перед созданием IRHX компания AWS оценила существующие решения жидкостного охлаждения, но пришла к выводу, что они не соответствуют масштабам её инфраструктуры. Как отметил вице-президент AWS по вычислительным и ML-сервисам Дейв Браун, «существующие решения занимали бы слишком много места в дата-центрах, требовали бы значительных модификаций инфраструктуры или приводили бы к существенному увеличению потребления воды». Масштабы AWS, по его словам, требуют гораздо большей мощности жидкостного охлаждения, чем могут обеспечить существующие решения.

Система IRHX состоит из насосного агрегата, распределительного шкафа и вентиляционных катушек. Жидкость охлаждает чипы через холодную пластину, разработанную совместно AWS и Nvidia, а затем возвращается в IRHX для охлаждения и повторного использования. Ключевое преимущество IRHX – совместимость с существующей инфраструктурой AWS.

Система поддерживает работу 72 графических процессоров Blackwell в одном P6e UltraServer, обеспечивая их функционирование как единого массива. Это позволяет обрабатывать масштабные вычислительные задачи, особенно в области искусственного интеллекта, требующие высокой скорости и производительности. Разработка IRHX является продолжением стратегии AWS по созданию собственного оборудования, включая чипы и сетевые системы. Теперь эта стратегия распространяется и на системы охлаждения, что позволяет AWS развертывать новые стойки с GPU без перепроектирования своих объектов.

Система IRHX, разработанная под текущие потребности процессоров Nvidia, в перспективе может быть использована и для охлаждения собственных чипов AWS Graviton, если их тепловыделение достигнет аналогичного уровня. На текущий момент система используется для обработки задач ИИ, требующих как масштабируемости, так и высокой скорости. IRHX успешно функционирует в инфраструктуре AWS.