不牺牲算法,不挑剔芯片,这个来自中科院的团队正在加速国产AI芯片破局
文章摘要
【关 键 词】 编译技术、AI算力、国产芯片、异构算力、市场需求
在AI算力竞赛日益激烈的今天,除了硬件的堆叠,编译技术成为了提升算力的有效途径。中科院计算所编译团队负责人崔慧敏指出,编译器的作用在于将高级编程语言翻译成机器语言,并进行优化以提高执行效率。通过编译技术,可以在不降低算法精度的情况下提升2至10倍的性能,这对于AI领域的大模型算法尤为重要。
微软和OpenAI计划建造的AI超级计算机“星际之门”凸显了数据中心项目的竞争态势。在国内,随着AI芯片国产化的加速,如何提升算力成为了一个关键问题。崔慧敏认为,编译技术提供了一种经济且有效的方法,通过软件平台层的构建,实现模型与芯片之间的解耦,从而降低开发成本,提高技术标准化和兼容性。
崔慧敏的团队致力于打破国产芯片生态的碎片化,通过编译中间平台实现模型和应用在不同硬件平台间的自由移植和性能优化。这一目标的实现将降低上层应用在国产芯片平台上的落地门槛和成本,提升异构算力的利用和适配效率。
崔慧敏拥有丰富的编译器开发经验,她的团队在编译技术方面取得了显著成果,发表了多篇论文,并参与了国产芯片的编译器研发。中科加禾公司成立后,已完成近亿元融资,得到了知名投资机构和国产芯片厂商的支持。
在大模型时代,AI加速的需求不断变化,对硬件和软件的优化提出了更高要求。崔慧敏认为,大模型推理市场将非常庞大,多样化的需求推动了对碎片化生态整合的需求。她预计,随着国产芯片替代率的提高,国产AI芯片市场规模将迅速增长。
中科加禾的端侧大模型推理引擎正在开发中,公司也在探索消费电子领域的AI应用。崔慧敏认为,编译器的内涵和外延正在不断扩大,AI框架的每个层面都包含编译技术和理念。她强调,编译的目的是让整个系统更灵活、更通用,建立软件和硬件之间的桥梁。
崔慧敏和她的团队致力于构建国产芯片生态,通过编译技术提升国产芯片的可用性和市场需求的转化。他们的工作不仅推动了AI技术的发展,也为国产芯片在全球竞争中提供了强有力的支持。
原文和模型
【原文链接】 阅读原文 [ 7733字 | 31分钟 ]
【原文作者】 机器之心
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★