OpenAI Başkanı Greg Brockman, NVIDIA CEO’su Jensen Huang’ın ilk DGX Spark’ı kendisine bizzat teslim ettiğini sosyal medyada heyecanla paylaştı. Yalnızca 1 petaflop bilgi işlem gücüne sahip olan bu cihazın ne kadar kompakt bir şekilde en iyi teslimat hizmeti olarak adlandırılabileceğine hayret etti.
Aynı zamanda, teknoloji blog yazarı Karminski-Dentist ayrıntılı performans testi verileri yayınladı. GPT-OSS-120B modelini çalıştırırken DGX Spark 11,66 token/s çıkış hızına ulaşırken, llama-3.1-70B modelini çalıştırırken 2,66 token/s oldu. İlginç bir şekilde blog yazarı, 3060 grafik kartının 360,0 GB/s bellek bant genişliğine sahip olduğuna da dikkat çekerek cihazın maliyet etkinliği konusunda tartışmalara yol açtı.
Sam Altman da haberi retweetledi ve teknolojinin 1 yıl önceki DGX-9’den bugünkü DGX Spark’a kadar gerçekten çok yol kat ettiğinden yakındı.
Henüz yorum yok. İlk yorumu siz yapın!