打破生态孤岛，国产异构原生AI算力工具问世，来自中科加禾

AIGC动态3个月前发布 almosthuman2014

738 0 0

文章摘要

中科加禾公司于7月20日发布了其第一代异构原生 AI算力工具，旨在解决算力瓶颈问题，并推动国内技术生态的发展。该工具通过系统优化，实现了不同种类芯片的大规模并行运行，提高了效率，同时为用户提供了统一的高性能接口，简化了不同芯片生态的使用。中国工程院院士孙凝晖在发布会上强调了系统软件优化在智能生态进步中的重要性。

中科加禾的AI算力工具已经在国产AI基础设施上发挥作用，支持340B参数量的稠密大模型和640B的MoE大模型，显著降低了时延，提升了吞吐率和能效比。公司已与多家芯片、集成商、服务商等客户合作，支持国内外主流大模型，并实现多样化并行推理。

公司提出的“三零一高”目标，即在不同芯片上实现零成本迁移、零损耗使用、零延迟部署的高效使用，通过其软件工具实现。这些工具包括异构原生大模型推理引擎SigInfer、异构原生微调引擎SigFT和算子自动生成、转译工具SigTrans。SigInfer作为一款跨平台的高性能推理引擎，支持服务器级AI加速卡和消费级GPU，可部署于数据中心和端侧设备。

中科加禾的技术路线围绕编译技术展开，通过编译层的优化提高机器代码的运行效率。公司在AI编译领域进行了大量研究，如全局数据流分析、计算图和数据依赖图构建、算子融合等，取得了显著的加速效果。其基础软件平台层在硬件和软件之间架设了桥梁，帮助用户平稳迁移AI模型和芯片架构。

中科加禾成立于2023年7月，团队主要来自中科院计算所，具备超过20年的编译器研发经验。公司聚焦于芯片编译与优化技术，提供通用化、低成本、高性能的算力资源。目前，中科加禾已获得多轮融资，正在打造支持异构算力的AI大模型推理引擎、微调框架和AI编译工具套件等系列产品。

公司致力于成为连接算力使用方和供应方的桥梁，推动异构原生AI算力的大规模应用和国产AI生态的繁荣发展。通过其技术和产品，中科加禾有望为国产AI算力生态补齐重要拼图，助力构建正循环。