《深度合成管理规定》明年1月正式施行，AI技术纳入监管！

2022-12-12 14:12

「点击上方"GameLook"↑↑↑，订阅微信」

从AI插画生成到聊天机器人ChatGPT，AI技术无疑在2022年又一次站上了风口浪尖。不过，随之而来的法律和伦理问题也愈发受到外界关注：版权侵犯、信息欺诈、隐私盗用，无束缚的自由生长让AI应用的潜在风险接续暴露，对此加以规范引导也成为监管层面的当务之急。

近日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。在经历了近一年的公示、讨论、修改后，包括人脸替换、合成人声、图像生成在内的各种AI应用，在国内也将正式迈入法制时代。

划定规范红线，引导科技向善

今年1月28日，国家网信办在官网发布了《规定》的征求意见稿，对于文本、图像、音频、视频等各种借助AI技术进行深度合成的行为进行了边界划分和初步规范。GameLook注意到，在此次答记者问环节中，对于“深度合成”的定义与征求意见稿又有了新的变化（加粗部分为新增内容）：

《规定》中所称深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、虚拟场景等网络信息的技术，具体包括篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术；文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术；音乐生成、场景声编辑等生成或者编辑非语音内容的技术；人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。

此次新增的部分正是为了涵盖时下流行的AI图像生成和数字人技术，将这些新的热门领域纳入到监管范围内，从而保证《规定》的与时俱进。

同时，《规定》明确提供了深度合成服务的总体要求，强调不得利用深度合成服务从事法律、行政法规禁止的活动。《规定》也要求深度合成服务提供者和技术支持者加强训练数据管理和技术管理，保障数据安全，不得非法处理个人信息，定期审核、评估、验证算法机制机理。

《规定》还明确要求提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。

而对于信息安全，《规定》要求深度合成服务提供者、技术支持者应当依法配合网信部门和有关主管部门开展的监督检查，并提供必要的支持和协助。发现存在较大信息安全风险的，网信部门和有关主管部门可以按照职责依法要求其采取暂停信息更新、用户账号注册或者其他服务等措施。

AI规范成行业共识，部分网站已先行先试

随着AI技术逐渐向日常应用发展，对于AI进行规范引导，已经成为行业共识。此前，GameLook就曾报道过，由于AI合成图像技术的飞速发展，已经导致二次元同人插画真假难辨，日本最大的同人插画网站Pixiv早前推出了暂时的AI合成图像政策，要求用户发布AI合成图像时必须带有明确的标签，以和真人画师的作品加以区隔。

而GameLook注意到，国内的同人社区半次元也已经有AI、AI插画等相关标签的圈子，同时已经有不少用户上传自己的AI插画作品。