标签:新智元
首席分析师揭秘爆火Groq,每小时要烧168美元!10倍H100拥有成本,老黄笑而不语
摘要:Groq是一家AI初创公司,推出了一种大模型推理解决方案,声称其速度比现有GPU快4倍,成本低70%。然而,SemiAnalysis的分析显示,Groq的持有成本是英伟达...
AAAI 2024开奖!西安电子科技大学团队荣获杰出论文奖
在最近举行的AAAI 2024会议上,西安电子科技大学的团队荣获杰出论文奖,这是人工智能领域的重要事件。AAAI(Association for the Advancement of Artificial ...
GPT-4、Gemini同时被曝重大缺陷,逻辑推理大翻车!DeepMind上交校友团队发现LLM严重降智
摘要:谷歌DeepMind和斯坦福的研究人员发现,大模型在处理逻辑推理任务时,信息呈现的顺序对模型表现有显著影响。研究表明,当信息按逻辑顺序排列时,模型表...
单GPU就能压缩模型,性能不变参数少25%!微软提出模型稀疏化新方法
新智元报道了一项由微软研究院和苏黎世联邦理工学院联合发表在arXiv上的研究成果,名为SliceGPT。这项研究关注大语言模型(LLM)的稀疏化问题,旨在降低模型...