文章摘要
【关 键 词】 AI技术、大模型、数据隐私、医疗AI、模型优化
在AICon全球人工智能开发与应用大会2024北京站即将召开之际，InfoQ《极客有约》X AICon直播栏目邀请了商汤科技大模型技术总监张涛、百度灵医大模型底座技术负责人夏源和京东零售AIGC技术专家，深入探讨大模型技术在垂直行业落地的见解。讨论中，专家们分享了代码和大模型结合为团队提供更广泛支持的观点，以及私有化部署策略有效解决数据隐私问题的重要性。夏源强调，专业医生的真实评估比榜单排名更能反映模型的实际效果。
在AICon全球人工智能开发与应用大会上，将特别设置【AI Native产品创新与技术落地】专题，通过业界知名企业专家的分享，了解AI Native产品前沿技术、应用实践经验和未来趋势。张涛将分享《有用到好用——AI生产力工具如何放大AI能力》，夏源则将在《RAG在企业落地的难点与创新》专题中分享《在医疗健康领域，企业大模型RAG优化实践》。
张涛关注大模型和生产力工具结合，特别是代码能力的增强，而夏源关注Claude Sonnet 3.5新模型和其computer use功能，以及OpenAI的o1大模型在医疗领域的应用。夏源提到，医疗领域对大模型的需求复杂多变，临床辅助决策系统的病历生成是更符合医院需求的应用落地场景。同时，他也提到了病案质控问题，需要模型细致发现病历潜在的缺陷问题。
夏源还提到，为了解决数据隐私问题，他们采取了模型私有化部署的策略，这是B端尤其是医疗大模型非常重要的一环。他们将大模型容量进行蒸馏，精简到百亿参数级别甚至更小，以实现病历生成和智能诊断等功能，并支持国产芯片，以实现私有化部署。
夏源还分享了他们在医疗领域的多模态大模型开发经验，包括皮肤病和中医领域的应用。他们没有追求开发一个通用模型来处理所有类型的医疗影像，而是结合百度健康上的用户数据，发现皮肤病相关的图片查询是一个高频场景，因此专门针对皮肤病开发了一个多模态大模型。
最后，夏源分享了他对大模型技术未来突破性进展的看法，提到了学界对AGI的不同观点，以及他对Transformer模型的简单矩阵计算可能实现通用人工智能的思考。他强调，可能很多年后，真的有人会揭开这个谜团。
原文和模型
【原文链接】 阅读原文 [ 3835字 | 16分钟 ]
【原文作者】 AI前线
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★
