中国发布《生成式AI安全基本要求》，涵盖训练数据、生成内容等

文章摘要

【关 键 词】 网络安全、人工智能、标准要求、数据安全、知识产权

全国网络安全标准化技术委员会近期发布了《网络安全技术 生成式人工智能服务安全基本要求》的征求意见稿，旨在加强生成式人工智能开发与应用的安全性。该标准对训练数据安全、模型安全等方面提出了具体要求，并强调了数据来源管理、内容过滤、知识产权和个人信息保护等方面的重要性。

在数据来源安全方面，标准要求对采集的数据进行安全评估和核验，确保不含违法不良信息。同时，提倡训练数据来源的多样性，对境外来源数据需与境内数据进行合理搭配。此外，训练数据需具备可追溯性，对开源、自采、商业及用户输入数据提出了明确的追溯和授权要求。

数据内容安全方面，标准强调对训练数据进行内容过滤，并要求数据使用前识别和处理知识产权侵权风险。同时，需建立个人信息保护机制，确保在使用包含敏感个人信息的数据前取得个人同意。

模型安全要求方面，标准提出在训练过程中将生成内容安全性作为重要评价指标，并定期进行安全审计。模型输出应确保内容准确、可靠，对违法不良信息问题应拒绝回答。此外，标准还涉及模型监测、更新升级以及软硬件环境的安全管理，强调供应链安全评估和隔离措施的重要性。

我国发布此标准，体现了对生成式人工智能技术的高度重视和安全管理，保障了其场景化落地和应用的安全性。此举也标志着我国在全球范围内对生成式人工智能领域的安全管理具有前瞻性和引领作用。有兴趣的公众可在2024年7月22日前向国家网安标委秘书处反馈意见，共同推动生成式人工智能服务安全标准的完善。

原文和模型

【原文链接】 阅读原文 [ 2134字 | 9分钟 ]
【原文作者】 AIGC开放社区
【摘要模型】 glm-4
【摘要评分】 ★★★★★

智谱AI

智谱AI是一家国内的AI大模型...