突发！谷歌刚刚发布全球最强开源大模型Gemma，平均性能远超130亿的Llama，作者数量达57人｜钛媒体AGI

578 0 0

作者信息

【原文作者】 钛媒体AGI
【作者简介】 钛媒体集团旗下产品。专注AI新浪潮，第一时间带来AI新模式、新产品、新趋势。让我们汇聚最前沿的AI创新与思考，从这里开启AGI新世界！
【微信号】 TMTPOSTAGI

文章摘要

性能超越Llama-2开源模型，谷歌Gemma为何那么强？

谷歌在AI方面的持续推进，不仅统一了AI人才和算力资源，而且全力投资Gemini。Gemma模型的灵感来自于此前谷歌发布的Gemini大模型，名字在拉丁语中意为“宝石”。Gemma基于谷歌Gemini模型以及Transformer自注意力机制的深度学习技术研发，针对来自网络文档、数学和代码的大规模英文标注数据进行训练。Gemma还使用了改进后的多头注意力、RoPE嵌入、GeGLU激活函数等新的技术，旨在文本领域实现通用能力，同时具备最先进的理解和推理技能。

署名研究人员高达57人，其中31人来自亚洲

技术论文显示，此次参与谷歌Gemma开源模型的研发人员数量高达57位。其中包括核心贡献者14人，参与者达35人，产品管理2人，项目管理1人，执行赞助人5人。据钛媒体AGI通过Kimi Chat提供的信息、研发者名字进行梳理和猜测，此次参与Gemma模型研发的57人中，可能有大约一半以上（31人）的开发者来自亚洲，或与华人或具有华人血统的个人有关。

小结：谷歌拼命“卷”，只想成为王者

谷歌AI技术的更新迭代之快，让人始料未及。在AI三要素中，谷歌在算力、算法、数据方面都具有很明显的技术领先优势。谷歌连续发布Gemini、Gemma模型，全面覆盖开源和闭源方向，希望成为“AI行业王者”的野心暴露无遗。我们预计，接下来Gemma将成为开源社区的关注焦点。谷歌开发者X副总裁兼总经理、谷歌开发者关系主管Jeanine Banks认为，Gemma模型“感觉像是谷歌从TensorFlow等工具开源AI开发技术的历史的延续”的最新AI系统，从PaLM2、AlphaFold到Gemini，最后形成了Gemma。