解读最新国标《生成式人工智能服务安全基本要求》征求意见稿,附全文下载
报名:人工智能管理专家CAIM课程(上海班)
时间:6月22日、23日,聚焦ISO/IEC42001人工智能管理体系
形式:线下为主、线上同步
费用:CAIM6000元,早鸟价9折和团购价8折
地址:上海市徐汇区宜山路889号4号楼5楼SGS上海培训中心
咨询:138 1664 6268,11535782@qq.com
预报名请咨询
如需国标《生成式人工智能服务安全基本要求》草案PDF版,请关注“数据法盟”并在后台回复“生成式人工智能”自行获取下载链接
1. 训练数据安全要求
采集来源管理: 采集数据前应进行安全评估,含违法不良信息超过5%的数据源不得使用。 采集后需核验,含违法不良信息超过5%的数据不得用于训练。 不同来源训练数据搭配: 提高数据来源多样性,确保每种语言和类型的数据均有多个来源。 境外数据应与境内数据合理搭配。 训练数据来源可追溯: 使用开源数据时需有开源许可或授权文件。 自采数据需有采集记录,不得采集明确禁止的数据。 商业数据需有合法的交易合同和质量承诺。 使用者输入信息作为训练数据时需有授权记录。
训练数据需经过过滤,去除违法不良信息。 对数据中的知识产权侵权风险进行识别和处理。 涉及个人信息的数据使用需获得同意或符合法律规定。
标注人员需经过培训和考核,明确分工。 标注规则应覆盖数据标注和审核环节。 对功能性和安全性标注的数据进行抽检和审核,确保准确性。
2. 模型安全要求
生成内容的安全性应作为评价指标之一。 定期审计开发框架和代码,修复安全漏洞。
提高生成内容的准确性和可靠性,减少错误。 对明显偏激或违法的问题拒绝回答。 符合国家规定标识生成内容。
持续监测模型输入,防范恶意攻击。 建立常态化监测和应急管理措施,优化模型。
制定安全管理策略,进行安全评估。
评估计算系统的供应链安全。 训练环境与推理环境隔离,防止数据泄露。
3. 安全措施要求
确保生成式人工智能服务在各领域应用的必要性和安全性。 重要场合和未成年人使用需有相应的安全保护措施。
公布服务适用信息、局限性和模型算法概要。 以编程接口提供服务时公开相关信息。
提供关闭信息收集的便捷方式,并告知用户。 建立投诉举报途径和处理机制。
建立备份机制和恢复策略,确保业务连续性。
4. 安全风险
如需国标《生成式人工智能服务安全基本要求》草案PDF版,请关注“数据法盟”并在后台回复“生成式人工智能”自行获取下载链接
微信扫码关注该文公众号作者
戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章