Amazon Web Services, Nvidia AI çipleri için özel soğutma sistemi tanıttı

Investing.com — Amazon Web Services (NASDAQ:AMZN) Çarşamba günü, üretken yapay zeka sistemlerini destekleyen Nvidia’nın (NASDAQ:NVDA) en yeni grafik işlem birimleri için özel olarak tasarlanmış kendi soğutma donanımını tanıttı.

AWS, yaygın olarak kullanılan endüstri standardı sıvı soğutma çözümlerini benimsemek yerine özel üretim altyapı çözümünü -Sıra İçi Isı Değiştirici (IRHX)- geliştirdi. Bu yaklaşım, AWS’nin veri merkezlerinde büyük yenilemelere gerek kalmadan Nvidia’nın yüksek yoğunluklu GPU raflarını barındırabilmesini sağlıyor.

Büyük ölçekli yapay zeka eğitimi ve çıkarımı için tasarlanan Nvidia’nın Blackwell GPU’ları, önemli miktarda enerji tüketiyor ve ciddi ısı üretiyor. Bu nedenle gelişmiş soğutma sistemlerine ihtiyaç duyuyor. Önceki çip nesillerinde işe yarayan geleneksel hava soğutma yöntemleri, tek bir rafta 72 GPU barındıran Nvidia’nın GB200 NVL72 gibi rafların ısı taleplerini karşılayamıyor.

AWS Bilgi İşlem ve Makine Öğrenimi Hizmetleri Başkan Yardımcısı Dave Brown bir sunum videosunda şöyle dedi: “Bu sistemler veri merkezi zemin alanında çok fazla yer kaplar veya su kullanımını önemli ölçüde artırır. Bu çözümlerden bazıları diğer sağlayıcılarda düşük hacimler için işe yarayabilse de, bizim ölçeğimizi destekleyecek yeterli sıvı soğutma kapasitesi sağlayamazlar.”

IRHX soğutma sistemi, verimli ısı yönetimi için sıvı ve hava bazlı bileşenleri birleştiriyor. Nvidia ile ortaklaşa geliştirilen sistem, soğutucu sıvıyı soğuk plakalar aracılığıyla GPU çiplerine dolaştırıyor ve ısıyı fan-bobin dizileri ile uzaklaştırırken, AWS’nin standart raflarının hava soğutmalı mekanik düzenini koruyor.

Bu soğutma yeniliği, AWS’nin yeni bilgi işlem örneklerini piyasaya sürmesiyle aynı zamana denk geliyor: EC2 P6e ve P6e Ultra. Bu örnekler, müşterilere sırasıyla Nvidia’nın HGX B200 ve GB200 NVL72 yığınlarına erişim sağlıyor. GB200 NVL72, gelişmiş model geliştirme ve dağıtımı için tasarlanmış AWS’nin bugüne kadarki en güçlü sunucu yapılandırmalarından biri.

Bununla birlikte, AWS bu yeni örnekler için ağ oluşturma ve sistem izleme sağlayan Nitro altyapı platformunu da vurguladı. Nitro sistemi, hizmet kesintisi olmadan donanım yazılımı güncellemelerine olanak tanıyor ve Ultra sunucu başına 28,8 terabayt/saniye ağ bant genişliğini destekliyor. Bu özellik, on binlerce GPU’ya yayılan yapay zeka iş yükleri için hayati önem taşıyor.

Bu makale yapay zekanın desteğiyle oluşturulmuş, çevrilmiş ve bir editör tarafından incelenmiştir. Daha fazla bilgi için Şart ve Koşullar bölümümüze bakın.