文章摘要
【关 键 词】 纽交所、巴菲特、金证科技、K-GPT模型、英特尔
纽交所因技术问题导致巴菲特的伯克希尔-哈撒韦公司股价暴跌近100%,事后分析指向更新软件时的数据一致性问题和数据库问题。
金证科技采用组合式AI策略,结合大模型、小模型及工具,以适应金融领域的需求。他们推出的K-GPT模型在金融场景中显示出对数据查询的准确性和专业术语的理解。
面对大模型在实时性、资源消耗、数据隐私和模型可解释性方面的挑战,金证科技与英特尔合作,利用高带宽内存(HBM)和英特尔® 高级矩阵扩展(AMX)引擎提升性能。此外,英特尔提供的OpenVINO™工具套件和优化的Faiss数据库增强了模型的Embedding处理和向量相似性检索任务的性能。
金证科技节展示了这一大模型推理方案,并强调了CPU在AI推理加速中的潜力。
原文和模型
【原文链接】 阅读原文 [ 3095字 | 13分钟 ]
【原文作者】 量子位
【摘要模型】 generalv3.5
【摘要评分】 ★☆☆☆☆
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...