文章摘要
【关 键 词】 AI模盒、大模型、云天励飞、DeepEdge10、边缘计算
云天励飞推出了一款名为「深目」的AI模盒,这款设备搭载了国产自研大模型推理芯片DeepEdge10,以及多模态大模型「云天天书」,并具备边缘AI在线学习能力。
它的售价只有千元级,可以轻松实现百亿级参数多模态大模型的推理+微调。
这款AI模盒的推出,使得每个企业都能同时拥有专属于自己的大模型和训练设备,并基于此轻松地实现覆盖场景超90%,算法精度超90%,使用成本降低90%。
云天励飞的「深目」AI模盒的大模型能力,来源于多次霸榜C-Eval、CMMLU等权威测试的,云天励飞自研多模态大模型「云天天书」。
而其算力基础,来源于云天励飞推出的第一颗基于纯国产工艺、可承载百亿级多模态大模型边缘推理计算的芯片——DeepEdge10。
这颗芯片采用了自主可控的SoC和国产RISC-V核心,算力在INT8精度下可达48TOPS。
云天励飞副总裁罗忆在发布会现场演示了「深目」AI模盒在数据少、无数据等极端情况下,快速完成算法训练的能力。
例如,只需5张照片,算法精度即可提升10%以上。
另外,通过AI合成数据来训练算法,不仅能够填补数据空白,还能够规避隐私安全等问题。
云天励飞一直秉持着将AI技术与物理世界相结合的理念,通过算法芯片化,无形的技术和有形的世界构建出了一座通道。
从此,AI不仅是虚拟世界的工具,而切实地转化为物理世界的生产力。
云天励飞已经在公安、城市治理、智慧交通、人居生活等领域打造了多个标杆项目,还在低空经济、智慧教育等领域持续探索中。
总的来说,云天励飞的「深目」AI模盒是一款具有划时代意义的产品,它将大模型的能力和边缘计算的便利性结合在一起,为企业提供了一种高效、低成本的AI解决方案。
原文和模型
【原文链接】 阅读原文 [ 3316字 | 14分钟 ]
【原文作者】 新智元
【摘要模型】 gpt-4-32k
【摘要评分】 ★★★★★