NVIDIA ve Groq: Vera Rubin Platformunun Parçası Devrim Niteliğindeki Groq 3 LPU Yongası

NVIDIA, Groq teknolojilerini en yeni Vera Rubin platformuna entegre etti. Sistemin kalbi olan Groq 3 LPU yongası, 500 MB SRAM belleğe ve 150 TB/s bant genişliğine sahip; bu, en yeni HBM4 bellekten yaklaşık 7 kat daha hızlıdır.

Amul Info analistleri, bu çözümün token oluşturma (çıkarım) hızını radikal bir şekilde artırmayı hedeflediğini belirtiyor. 256 işlemciden oluşan bir Groq 3 LPX rafı, 315 PFLOPS toplam performans sunarak platformu dünyanın en güçlü dil modeli aracı haline getiriyor.

Kaynak: WCCF Tech, NVIDIA, Amul Info