模型信息
【模型公司】 百川智能
【模型名称】 Baichuan2-53B
【摘要评分】 ★★★★★
文章摘要
【关 键 词】 新质生产力、人工智能、大模型、垂直化、安全风险
文章总结了360集团创始人周鸿祎关于新质生产力和人工智能的观点。新质生产力是指代表新技术、创造新价值、适应新产业、重塑新动能的新型生产力,人工智能是其重要组成部分。大模型正在驱动新一轮科技革命和产业变革,中国科技企业需要全方位投入人工智能,创新发展大模型技术,保证其安全、向善、可信、可控,为现代化产业体系建设注入新动能。
文章指出,大模型发展的一个重要趋势是垂直化,包括行业深度化、企业个性化、能力专业化、规模小型化、部署分布化和所有权私有化。大模型应找准刚需和痛点,重点发展专业化、垂直化、小型化、低成本的行业大模型和企业大模型,实现深度垂直定制。
文章强调了大模型面临的安全风险,包括技术安全、内容安全和人类安全三个方面。技术安全问题主要包括网络安全、数据安全和生成内容安全;内容安全问题主要涉及大模型的控制、滥用、误用和恶意应用;人类安全问题主要关注大模型的可控性。
为保障大模型安全,文章提出了安全四原则:安全、向善、可信、可控。安全原则旨在解决漏洞问题;向善原则要求大模型不作恶,保证输出内容的合法性;可信原则针对大模型的“幻觉”问题,通过搜索增强和知识增强等方式进行校正;可控原则强调将大模型“关在笼子里”,实现真正的安全可控。
最后,文章表示360将继续致力于大模型安全研究,为大模型产业的平稳健康发展贡献力量,为现代化产业体系建设打造新质生产力工具。
原文信息
【原文链接】 阅读原文
【阅读预估】 2688 / 11分钟
【原文作者】 中国网信杂志
【作者简介】 《中国网信》杂志是由中央网信办(国家网信办)主管、中国网络空间研究院主办的全国网信工作指导性刊物。