NVIDIA, Nemotron 3.5 ailesini genişletti: Veri merkezinden masaüstüne açık kaynak modeller

NVIDIA, Nemotron ailesini üç yeni açık kaynak modelle genişletti. Duyuruya göre veri merkezlerinde çalışmak üzere tasarlanan Nemotron 3.5 Super VL, 120 milyar parametreli bir model. Şirket, sürekli çalışan (always-on) özel amaçlı ajanlar için bu modelin en hızlı görev tamamlama süresini ve en yüksek doğruluğu sunduğunu belirtiyor.

Veri merkezi tarafına ek olarak iki yeni edge modeli de aileye katıldı. Nemotron 3.5 Bolt 74B-A9B 24GB, yerel ajan iş yükleri için her gigabayt başına zeka ve hız dengesini optimize etmek üzere tasarlanmış. Daha küçük ölçekli sistemler içinse Nemotron 3.5 Bolt E4B 4GB modeli sunuluyor.

Ailenin adındaki 'VL' harfleri modelin görsel-dil (vision-language) yeteneklerine işaret ediyor; bu tür modeller metnin yanı sıra görüntü girdilerini de işleyebiliyor. 'Açık' (open) model olarak duyurulan Nemotron serisi, geliştiricilerin model ağırlıklarına erişip kendi sistemlerinde çalıştırmasına ve ihtiyaca göre uyarlamasına olanak tanıyor.

Edge modelleri neden önemli

Bolt serisindeki iki modelin farklı bellek ayak izleri, NVIDIA'nun stratejisinin merkezinde duruyor. 24GB'lık 74B-A9B modeli, harici görüntü birimine sahip üst seviye tüketici kartlarında yerel çalıştırılabilecek boyutta. 4GB'lık E4B ise çok daha sınırlı donanımlarda, örneğin gömülü sistemlerde veya düşük profilli cihazlarda ajan iş yüklerini çalıştırmayı hedefliyor. Mixture-of-Experts mimarisine işaret eden A9B ifadesi, modelin her sorguda tüm parametrelerini değil yalnızca aktif uzman kümelerini kullandığını gösteriyor; bu da bellek verimliliğini artırıyor.

NVIDIA'nın Nemotron hamlesi, açık kaynak yapay zeka modellerinde Meta, Mistral ve DeepSeek gibi oyuncuların yer aldığı alanda rekabeti yoğunlaştırıyor. Şirketin bu modellere verdiği 'en yüksek verimlilik' vurgusu, kendi ölçümlerine dayanan bir iddia; bağımsız kıyaslamalar henüz yayımlanmadı. Modellerin NVIDIA'nın geliştirici platformları üzerinden erişime açıldığı duyuruldu.