腾讯、红杉投资的无问芯穹,公布首个大模型算力平台|钛媒体AGI
文章摘要
【关 键 词】 AI大模型、无问芯穹、腾讯百度投资、开发服务平台、免费公测
钛媒体App报道,无问芯穹,一家由腾讯和百度投资的国内AI大模型公司,于3月31日在上海发布了Infini-AI大模型开发与服务平台。该平台提供一站式AI服务,支持多个模型,包括infini-megrez、Llama、ChatGLM等,并利用GPU推理和加速技术,为大模型的开发、训练、运行和应用提供完整的工具链。
清华大学电子工程系教授兼系主任汪玉教授,也是无问芯穹的发起人,强调了大模型在芯片上部署的重要性,以及它对推动大模型研发的作用。无问芯穹的目标是推动大模型技术设施的发展,并将其应用于各行各业。
无问芯穹的创始人兼CEO夏立雪宣布,大模型服务平台自3月31日起开启免费公测,向所有实名注册的个人和企业用户提供百亿tokens的免费配额。此外,一站式AI平台将在4月1日至4月30日限时免费试用。
无问芯穹成立于2023年5月,是一家专注于AI 2.0时代提供完整解决方案的科技公司。尽管公司尚未公开融资,但工商信息显示,包括腾讯、百度在内的多家知名投资机构已投资入股。
无问芯穹的创始团队源自清华大学电子工程系,致力于成为大模型落地过程中的”M×N”中间层,旨在打造软硬件一体化的大模型解决方案,链接上下游,建立AGI时代的基础设施。
汪玉教授,无问芯穹的发起人,是清华大学最年轻的系主任,同时清华电子工程系也是国内半导体产业的重要摇篮。汪玉教授的深度学习处理器项目曾孵化出AI芯片公司深鉴科技,该公司后被赛灵思收购,赛灵思又被AMD收购,显示出汪玉在AI领域的深远影响。
无问芯穹的联合创始人包括夏立雪博士、CTO颜深根和首席科学家戴国浩,他们都有着深厚的学术背景和行业经验,致力于推动AI大模型的发展。
汪玉教授指出,AI大模型的发展面临算力限制、高成本和多元硬件生态等挑战。他透露,训练GPT-4所需的算力成本极高,而无问芯穹旨在通过软硬件联合优化,降低推理成本、微调成本和人力成本,提高文本处理能力。
汪玉教授还强调了芯片制造的算力密度限制,以及如何通过近存储计算和存内计算等技术提高计算效率。他提出,通过创建统一的中间层,可以更好地匹配大型模型和硬件,实现更灵活的部署。
总之,无问芯穹的推出标志着AI大模型技术的进一步发展,为AI 2.0时代提供了新的解决方案,同时也展示了中国在AI大模型领域的创新能力和发展潜力。
原文和模型
【原文链接】 阅读原文 [ 2355字 | 10分钟 ]
【原文作者】 钛媒体AGI
【摘要模型】 gpt-4
【摘要评分】 ★★★★★