
NVIDIA интегрировала технологии Groq в свою новейшую платформу Vera Rubin. Сердцем системы стал чип Groq 3 LPU, обладающий 500 МБ памяти SRAM с пропускной способностью 150 ТБ/с, что почти в 7 раз быстрее новейшей памяти HBM4.
Аналитики Amul Info отмечают, что это решение нацелено на радикальное ускорение генерации токенов (вывода). Стойка Groq 3 LPX из 256 таких процессоров обеспечивает совокупную производительность 315 PFLOPS, превращая платформу в самый мощный инструмент для работы с языковыми моделями в мире.
Источник: WCCF Tech, NVIDIA, Amul Info
Keywords