别只关心Sora，来看看Groq的新芯片给AI的提速有多么恐怖

作者信息

【原文作者】 硅星人Pro
【作者简介】 硅（Si）是创造未来的基础，欢迎来到这个星球。
【微 信 号】 Si-Planet

文章摘要

【关 键 词】 Groq、TSP微架构、Llama 2 70B、Mistral 8x7B、速度对比

Groq是一个自研的TSP微架构，它将开源的Llama 2 70B和Mistral 8x7B集成到特调芯片上，实现了非常快的处理速度。

与GPT-4相比，Groq加速后的Llama 2 70B和Mistral 8x7B在回答问题时的速度分别达到200个单词/秒和408个单词/秒。

在理解能力、生成能力、逻辑推理、翻译能力、情感分析和常识判断等方面，Groq的模型与GPT-4相比表现相近，但在某些方面如生成速度和特定功能上，Groq具有优势。

Groq还允许在回答完成后更改生成选项，提供即时生成或扩展回答内容的功能。

此外，Groq的员工在Hack News上活跃，参与技术讨论，提高了Groq的知名度。

尽管Groq在某些方面超越了GPT-4，但它仍然需要在语言翻译等方面进行改进。

原文信息

【原文链接】 阅读原文
【原文字数】 1109
【阅读时长】 4分钟