NVIDIA и Groq: Революционный чип Groq 3 LPU в составе платформы Vera Rubin

NVIDIA интегрировала технологии Groq в свою новейшую платформу Vera Rubin. Сердцем системы стал чип Groq 3 LPU, обладающий 500 МБ памяти SRAM с пропускной способностью 150 ТБ/с, что почти в 7 раз быстрее новейшей памяти HBM4.

Аналитики Amul Info отмечают, что это решение нацелено на радикальное ускорение генерации токенов (вывода). Стойка Groq 3 LPX из 256 таких процессоров обеспечивает совокупную производительность 315 PFLOPS, превращая платформу в самый мощный инструмент для работы с языковыми моделями в мире.

Источник: WCCF Tech, NVIDIA, Amul Info