标签：推理
3140参数Grok-1推理加速3.8倍，PyTorch+HuggingFace版来了
这篇文章介绍了马斯克开源的Grok-1，以及Colossal-AI团队为Grok-1提供的方便易用的Python+PyTorch+HuggingFace版本，能将推理时延加速近4倍。Colossal-AI团队...
黄仁勋对话Transformer七子：人类正见证“AI工厂”的诞生｜钛媒体AGI
在英伟达GTC大会上，英伟达CEO黄仁勋主持了一场圆桌论坛，邀请了七位Transformer论文《Attention is All You Need》的作者们。 黄仁勋表示，在过去的六十年...
赶超Gemini Pro，提升推理、OCR能力的LLaVA-1.6太强了
摘要：去年，威斯康星大学麦迪逊分校、微软研究院和哥伦比亚大学合作发布了LLaVA（Large Language and Vision Assistant），并在10月推出了LLaVA-1.5，最近又...
讯飞星火V3.5重磅发布，开源iFlytekSpark-13B！
第一段：讯飞星火V3.5于2024年1月30日14点发布，相比V3.0，在逻辑推理、文本生成、数学答题及小样本学习能力等方面有大幅提升。第二段：讯飞星火开源大模型iF...
