Kısaca · 2 madde
- 1Bağımsız değerlendirme kuruluşu Artificial Analysis, NVIDIA’nın Blackwell’in halefi olan Vera Rubin mimarisine dayanan raf ölçekli Vera Rubi…
- 2Kaynak: Artificial Analysis: First AA-AgentPerf results for NVIDIA Vera Rubin NVL72
Bağımsız değerlendirme kuruluşu Artificial Analysis, ’nın Blackwell’in halefi olan Vera Rubin mimarisine dayanan raf ölçekli Vera Rubin NVL72 sisteminin ilk AA-AgentPerf sonuçlarını yayımladı. 72 Rubin GPU ve 36 Vera CPU içeren sistem, kodlama ajanı iş yükünde önceki nesil GB300 NVL72’ye göre megavat başına toplam verimde V4 Pro’da yaklaşık 5,7 kat, V4.1 Flash’ta 5,4 kat, ’de 3,0 kat ve ’te 2,8 kata kadar üstünlük gösterdi.
AA-AgentPerf neyi ölçüyor?
AA-AgentPerf, herkese açık kod depolarındaki sorunları çözen ajanlardan alınmış gerçek kodlama ajanı izlerini farklı eşzamanlılık düzeylerinde yeniden oynatıyor. İstekler 132 bine kadar girdi tokenı taşıyor ve ortalamada bir isteğin girdi tokenlarının yüzde 97’si bir önceki istekle aynı. Bu nedenle KV önbelleğinin korunması, düzensiz prefill yükü ve kısa araç çağrısı yanıtları bu testte belirleyici oluyor. Kuruluş, 1 milyon tokenlık bağlamların yakında ekleneceğini belirtiyor.
Donanım farkı ve sonuçlar
Her Rubin GPU, Blackwell Ultra ile aynı 288 GB belleğe sahip ancak HBM4 sayesinde 2,4 kat bellek bant genişliği (19,2 TB/sn), 1,7 kat NVLink bant genişliği ve 2,3 kat yoğun NVFP4 hesaplama sunuyor. Zirve verimde Vera Rubin, V4 Pro’da MW başına saniyede 272 milyon token ile GB300’ün 239 milyonunun 1,14 katına ulaşıyor; fark, kullanıcı başına yüksek hızlarda GB300’ün verimi düştüğünde açılıyor. GPU başına bakıldığında üstünlük zirve verimde 2,0–2,5 kat. Vera Rubin’in en hızlı yapılandırmaları V4.1 Flash’ta kullanıcı başına saniyede 906 token ile kuruluşun tablosundaki en hızlı sonucu verdi.
Dikkat edilmesi gereken noktalar
Artificial Analysis, Vera Rubin yapılandırmalarının ilk tokenı döndürme süresinin daha uzun olduğunu ( V4 Pro’da ~165 tok/sn hızda medyan 1,65 sn, GB300’de 1,08 sn) ve bu bekleme dahil edildiğinde GB300’ün çoğu hızda benzer ya da daha iyi verim sunduğunu not ediyor. V4.1 Flash koşularında ’nın yanıtları 2.048 tokenla sınırlaması da sonuçları bir miktar Vera Rubin lehine etkiliyor. Kuruluşa göre farkın büyük kısmı donanımdan geliyor; ise bunların ilk sonuçlar olduğunu ve Rubin’e özel optimizasyonlarla performansın artmasını beklediğini belirtiyor.
Kaynak: Artificial Analysis: First AA-AgentPerf results for NVIDIA Vera Rubin NVL72
Yapay zekâya sor
Haberi seçtiğiniz asistanda hazır bir soruyla açın
Şu haberi 3 maddede özetle: https://aihaber.org/nvidia-vera-rubin-ajan-performans-testi/
Gemini hazır soruyla açılamıyor: soru panonuza kopyalanır, açılan sayfada yapıştırmanız yeterli.
Bu haber işinize yaradı mı?
Yorumlar 0
Henüz yorum yok. İlk yorumu siz yazın.

Yorum yazın