标签:LPU架构

揭开Groq LPU神秘面纱:世界最快硬件加速器的底层架构设计!

Groq, 一家创业公司,因其自研的硬件加速器LPU(Language Processing Unit)一夜爆火,实现了500个token/s的推理速度,秒杀了ChatGPT。这种性能的飞跃归功于...