Google Cloud, NVIDIA Vera Rubin altyapısını genel kullanıma açıyor

Google Cloud ve NVIDIA, NVIDIA Vera Rubin altyapısını bulut müşterilerine sunmak üzere iş birliğini genişletti. Söz konusu A5X örneklerinin genel kullanıma açılması önümüzdeki ay gerçekleşecek; ardından erişimin Avrupa'ya yayılması planlanıyor. Böylece eğitim, çıkarım (inference) ve büyük ölçekli pekiştirmeli öğrenme (reinforcement learning) iş yükleri için bütünleşik bir platform bulut üzerinden sunulmuş olacak.

A5X örnekleri, NVIDIA'nın yeni nesil veri merkezi sistemlerinden Vera Rubin NVL72'yi temel alıyor. NVIDIA'nın NVL72 mimarisi, birden fazla GPU'yu tek bir tutarlı sistem olarak çalıştıracak şekilde tasarlanmış rack ölçeğinde bir yapı sunuyor; bu yaklaşım önceki Blackwell NVL72 sistemlerinde de büyük dil modeli eğitiminde kullanılmıştı. A5X'te bu hesaplama gücü, NVIDIA ConnectX-9 SuperNIC'ler, Google Cloud'un Virgo ağı ve şirketin dördüncü nesil gelişmiş sıvı soğutma teknolojisiyle bir araya geliyor.

Birleşimin önemli bir bileşeni de ağ tarafı. Vera Rubin NVL72 gibi yüksek yoğunluklu sistemlerde GPU'lar arası iletişim, eğitim performansını doğrudan belirleyen faktörlerden biri. ConnectX-9 SuperNIC'lerin ve Google Cloud Virgo ağının bu kurulumda birlikte konumlandırılması, müşterilerin ayrı ağ altyapısı kurmak zorunda kalmadan ölçeklenebilir yapay zeka kümeleri çalıştırabilmesini hedefliyor. Sıvı soğutma teknolojisi ise bu yoğunluktaki donanımın güç tüketimi ve ısınma sorununu yönetmek için devrede.

Kimleri ilgilendiriyor

Bu altyapı öncelikle büyük dil modelleri geliştiren yapay zeka laboratuvarlarını, araştırma kuruluşlarını ve yoğun GPU kaynaklarına ihtiyaç duyan kurumsal geliştiricileri hedefliyor. Google Cloud, AWS ve Microsoft Azure gibi bulut sağlayıcılar, yapay zeka iş yükleri için NVIDIA'nın en yeni donanımını kendi platformlarına ne kadar hızlı entegre ettikleri üzerinden rekabet ediyor. Vera Rubin'in bulutta genel kullanıma açılması, müşterilerin bu donanıma kendi veri merkezlerini kurmadan erişebilmesi anlamına geliyor. Avrupa'daki kullanılabilirliğin plana dahil edilmiş olması da veri yerleşimi gereksinimleri nedeniyle ABD dışındaki bölgelerde işlem yapması gereken kurumlar için ayrı bir önem taşıyor.