目录
一、概念
二、刑事法律风险
三、案例
四、监管规定
五、建议
2023年1月10日起施行的《互联网信息服务深度合成管理规定》将深度合成技术定义为：“利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术”。深度合成服务的主体，包括深度合成服务提供者、深度合成服务技术支持者、深度合成服务使用者。根据我国官方定义，深度合成技术包括但不限于：（一）篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术；（二）文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术；（三）音乐生成、场景声编辑等生成或者编辑非语音内容的技术；（四）人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；（五）图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术；（六）三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。深度合成技术是人工智能技术的一种，与传统合成技术（如PS）相比，深度合成技术的突出特点在于其依托算法自主学习，实现内容的合成与自动生成，其内部过程脱离人的参与，通过人工智能的计算机程序自动完成。深度合成技术具有广泛应用场景，常见于影视、娱乐、教育、艺术、旅游、科研、医疗、社交、通信等领域。例如，正在上映的科幻电影《流浪地球》（2），使用深度合成技术再现了演员刘德华、吴京的青年形象，通过人工智能算法对演员李雪健声音进行修复。又例如，AI主播、虚拟歌手、数字虚拟人等社交应用初露锋芒，据北京市经济与信息化局发布的数字人产业创新发展行动计划，到2025年，数字人产业规模将达到500亿元。当前互联网行业最为火热的ChatGPT，是基于深度合成算法的AI问答对话类应用。深度合成技术应用侵犯隐私，突出表现在输入数据时。为了训练机器学习模型和神经网络，训练数据可能包括个人信息、机密数据、商业秘密或其他敏感数据。这些数据本不应随意利用、公开，但许多行业在不当使用这些数据。例如，美颜类APP未取得被编辑对象的单独同意，径直搜集个人人脸、人声等人物识别信息，加剧个人信息泄露、身份被盗用、仿冒的风险。曾经火爆一时的深度合成类APP“ZAO”的用户协议就要求，用户为获得相应服务必须无条件同意提供其个人信息，甚至面部等生物特征信息。随着算力的增长，机器学习越发智能化，即使技术开发者通过合法授权获取用户数据，并对个人数据进行匿名处理之后，机器学习模型依然能够根据现有数据或独立于传统识别数据，对个人身份进行跟踪学习和隐性识别。技术开发者通过掌握用户行为，也能掌握该用户的其他信息，即使形式上其依据做到了对用户数据的匿名处理。当具有特定模式的用户被识别并标签化后，机器学习模型根据性别、年龄、种族等特征进行用户分类，可能导致歧视、偏见等算法风险。在人工智能条件下，对于数据处理的合规需要重新评估。深度合成技术处理数据可能违反确保国家主权和地理完整的法律。例如，用于训练机器学习模型的数据包含了受数据出口管制的机密数据。如果训练模型已经包含受数据出口管制的机密数据或涉及隐私、数据本地化法律的数据，则应当考虑机器学习模型本身限制在特定国家或区域，否则深度合成技术开发者、服务者可能面临严厉的监管风险。深度合成技术广泛应用于图像视频、音频类、虚拟空间类场景，比如美颜相机、换脸APP、语音合成、声音模仿、营销类语音机器人、画质修复、数字孪生、游戏、3D建模等场景，这些场景的机器学习数据需要大量音视频、图片作为原料，如果未经他人许可复制、删改、公开他人肖像，就构成侵犯他人肖像权。法律上对侵犯个人肖像并不要求有盈利行为，所以极易发生肖像类侵权。同时，《民法典》第1023条将自然人的声音参照肖像权予以保护。未经许可使用他人声音，也是侵犯人格权的行为。利用深度合成技术手段时，必须取得他人的同意，不得未经许可复制、删改他人肖像、声音，否则构成对肖像权（包括声音权）的侵犯，侵权人应承担相应的损害赔偿责任。利用深度伪造技术进行视频制作的行为，可能构成侮辱或诽谤他人，造成他人名誉损害。在“杨幂换脸朱茵”视频中，朱茵饰演的黄蓉形象备受称赞，视频制作者将朱茵的面部特征更换为杨幂后，众多网友嘲讽杨幂“演技”提升。此类视频如果造成社会公众对相关人员的社会评价降低，或构成对相关人员名誉权的侵犯。《著作权法》第3条第6款规定：电影作品和以类似摄制电影的方法创作的作品属于该法所称的作品。在利用利用深度合成技术在制作电影、电视剧、短视频时，须尊重《著作权法》所规定“作品”权利。《著作权法》第10条第4款中明确保护作品所享有的不被篡改歪曲的权利；第14款规定改编权是基于原作品创作出独创性的新作品。未经当事人同意不得改编作品。如前述“杨幂换脸朱茵”视频传播过程中，可能会侵害著作权人的信息网络传播权和演员的表演者权，侵害《射雕英雄传》著作权人的修改权和保护作品完整权，侵害著作权人的网络信息传播权。同时，由于朱茵个人的表演内容受到篡改和歪曲，伪造视频制作者或侵害了朱茵的表演者权。深度合成技术应用让人脸识别系统安全面临考验。人脸识别技术应用于身份认证，通过采集到的人脸图谱或视频与预先登记的人的图像进行检查、比对，以鉴别、核实身份，广泛应用于公安、安全、海关、金融、军队、机场、边防口岸、安防等重要行业、领域，以及智能门禁、门锁、考勤、手机、玩具等产品。基于深度合成技术的深度伪造技术可以制作以假乱真的假人脸或假视频，达到欺骗人脸验证的目的。人脸识别不仅用于通行验证，也深度应用到金融支付领域，其将人脸信息与身份信息、银行账户信息进行关联，通过人脸识别达到鉴真验证，取得合法授权支付的作用。利用深度伪造技术，通过3D打印技术可以生成面具，给人脸识别支付系统带来挑战。2020年1月，浙江衢州发生过利用公民头像照片骗过支付系统后薅羊毛的刑事案件。在美国、荷兰，有人工智能公司测试骗取登录人脸识别系统的事例。深度合成技术如果被别有用心的人利用，可能成为诈骗的工具。德国出现过通过深度伪造技术模拟老板声音、骗走公司钱财的案例。如前所述，如果利用换脸技术，让支付系统误认为是财产所有权本人，将对他人账户资金带来风险。根据公安部网安局的安全提示，境外有人使用ChatGPT创建一个完整的感染链：不同以往的广撒网式的网络钓鱼，它在提问者的诱导下可以生成针对特定人或者组织的“鱼叉式”网络钓鱼邮件，此类钓鱼邮件更具有欺骗性和迷惑性，这就导致邮件接收方更容易上当受骗，接收者一旦点击该邮件，系统就会被恶意代码感染中毒，造成欺诈、敲诈勒索等网络犯罪。深度合成技术很容易成为散布虚假信息的帮凶。研究机构测试发现，如果对着ChatGPT提出充斥阴谋论和误导性叙述的问题，它能在几秒钟内改编信息，产生大量令人信服却没有来源根据的内容，成为互联网上制造和传播网络谣言的工具。当利用深度合成技术散布涉及公共法益的信息时，根据实行行为所侵害的具体法益类型，可能构成编造并传播证券或期货交易信息罪、损害商业声誉罪、编造或故意传播虚假信息罪。当利用深度合成技术散布涉及公共安全、国家安全的信息时，可能构成煽动分裂国家罪、煽动颠覆国家政权罪、宣扬恐怖主义或极端主义或煽动实施恐怖活动罪、战时故意提供虚假敌情罪、战时造谣扰乱军心罪、战时造谣惑众罪。当利用深度合成技术发布有关制作或者销售毒品、枪支、淫秽物品等违禁物品、管制物品或者其他违法犯罪信息时，可能构成非法利用信息网络罪。音频、视频材料是举足轻重的证据材料，深度合成技术可以制造高度仿真的事物，而深度伪造技术门槛并不高，如果没有足够强大的技术来区分视频、音频等科技产物的真实性，现有的证据体系将受到挑战和冲击。如果鉴真技术滞后于深度合成技术，易造成案件的错误判决。当深度合成技术被恶意制作成证据信息时，可能构成伪证罪、辩护人或诉讼代理人伪造证据罪。除前述刑事风险外，我国以拒不履行信息网络安全管理义务罪、非法利用信息网络罪、帮助信息网络犯罪活动罪三个罪名构建了对网络平台运营的刑事责任。国外学者总结了算法六种政策风险：算法歧视、算法操纵、算法违规、舆论控制、品牌污染、算法黑箱。依据应用领域和针对群体不同，算法主要对商业竞争、舆论环境、监管政策形成挑战。法具有内在错误或无意识偏见。在商业领域，最常见的算法风险是算法偏见、算法歧视，企业为吸引更多用户，给予新人优惠、回归补贴等差异化定价手段，以实现精准营销，吸引更多用户。但算法偏见可能适得其反，造成“杀熟”等侵害客户权利。算法偏见还造成就业招聘时排除特定地域、特定性别、种族的人群，在金融信贷行业错误识别信用不良人士或给予特定人群优待，在公共服务领域给特定人士错误打上危险标签。算法操纵主要表现在新闻、信息、广告行业，算法推断用户偏好呈现更感兴趣的内容，却事实上强化了偏见、刻板印象，加剧了不平等、不公平。同时，算法操纵被用于舆论控制与政治宣传。有证据表明，算法程序被用于国家间的舆论信息战，或者国内政治任务竞选、公投。算法控制舆论操纵，扭曲真实、造成不公。5.3触碰监管政策
国外研究者认为，算法或许被利用欺骗立法者和监管机构，通过算法进行价格操作、欺骗消费者和监管者，例如大众汽车曾利用算法违规操纵减排监测。有研究者认为，人工智能算法或许影响金融市场系统性稳定，比如不法者利用人工智能交易系统进行市场操纵行为，侵害投资者利益。虽然目前并未发生实际不法案例，但已发生过自动策略交易系统设计缺陷引发的金融风险事件。2018年7月开始，张某雇佣姚某使用其购买的公民个人身份信息注册支付系统账号，并使用软件将公民头像照片制作成公民3D头像，从而通过人脸识别认证。张某共使用他人公民个人身份信息注册成功至少547个通过人脸识别认证的实名支付账户，从中非法获利15316元。2018年8月份开始，张某教授余某制作3D头像通过人脸识别认证的技术，余某雇佣被告人史某进行管理，并先后雇佣被告人刘某等多人在其位于杭州市桐庐县下轮公寓工作室内工作，使用张某购买的公民个人身份信息注册支付账户，并使用软件将公民头像照片制作成公民3D头像，从而通过人脸识别认证。至案发，马某等人使用他人公民个人身份信息分别注册成功385个、367个、298个、103个通过人脸识别认证的实名支付账户，从中非法获利。法院对张某等人以侵犯公民个人信息罪和诈骗罪数罪并罚。2018年8月，重庆合川人唐某通过他人介绍，两次前往山东省菏泽市，学习制作用以破解人脸识别认证系统的3D人脸动态图，并从被告人李某处购买了相关设备，唐某在网络上发布信息称能够提供破解某人脸识别认证的服务。2018年9月，唐某获得某人的支付账户信息，采用制作某人3D人脸动态图的方式，突破了某人脸识别认证系统，解除了某支付平台对账号的限制登录。唐某将某人支付账户信息提供给被告人张某，张某通过伪造手持身份证和承诺函的照片，并拨打客服电话，解除了对账户的资金冻结。2019年9月19日，郫都区人民法院一审判决，张某犯非法获取计算机信息系统数据罪和犯侵犯公民个人信息罪，数罪并罚决定合并执行有期徒刑六年六个月，并处罚金人民币六万元。唐某犯非法获取计算机信息系统数据罪，判处有期徒刑一年十个月，并处罚金人民币一万五千元。2021年3月，上海市虹口区人民检察院公诉一起特大虚开增值税普通发票案。被告人通过破解人脸识别技术等方式，注册“皮包公司”用于虚开增值税普通发票。多名被告人为他人开具增值税普通发票价税合计超过5亿元。犯罪嫌疑人中专门从事人脸识别破解的成员表示，其一般先从他处以30元每个的价格购买他人的高清头像和身份证信息，之后利用“活照片”App对高清头像进行处理，让照片“动起来”，形成包括点头、摇头、眨眼、张嘴等动作视频。获取视频后，利用特殊处理的手机劫持摄像头，在人脸认证环节时，手机摄像头不会启动，系统获取的是之前做好的视频。系统会认为是本人在摄像头前，最后通过认证。2019年4月12日，明星蔡徐坤委托律师发函某视频网站，表示某视频网站存在许多恶意剪辑蔡徐坤表演素材的视频，这些视频点击量高、传播范围广、影响恶劣，严重侵犯蔡徐坤的权益。据悉，此类视频中，有人把把蔡徐坤手里的篮球与头进行了对换，也有人把蔡徐坤剪辑合成至吃鸡游戏中，一时间成为舆论和调侃的谈资。蔡徐坤委托的律师认为，类似视频制作者、传播者侵犯了蔡徐坤的名誉权、肖像权、表演者权等权利，部分个人、自媒体已经涉嫌构成刑事犯罪。2019年3月欧洲发生第一起“AI 语音诈骗案”为例，犯罪分子使用深度伪造应用成功模仿并生成一家英国能源公司德国母公司CEO的语音（包括他的德国口音），对该英国能源公司CEO及其多位同事实施“语音网络钓鱼”，让他们向指定的“匈牙利供应商”转账，成功诈骗了24.3万美元。2015年，大众汽车“排放门”在美国被曝光，美国司法部启动对大众汽车的刑事调查。当年9月，美国环境保护署指认大众汽车在部分柴油车上安装专门应付尾气排放检测的作弊软件，使汽车能够在车检时以高标准过关，平时行驶时却大排污染物。围绕“排放门”案件，大众同意支付累计高达约247亿美元罚金和赔偿。大众承认在销往全球的1100万辆柴油车上安装专门应付尾气排放检测的软件。大众的作弊软件是一种“失效保护器”，嵌入了复杂的算法，会自动检测车周围环境，根据不同的环境状况，选择装置开启或者闭合。该软件感知方向盘位置、车速、周围气压等参数来判断车辆是否在实验室环境，从而向发动机发送指令，令其改变NOx的排放策略。四、监管规定（鉴于篇幅，法规全文PDF在本号后台留言：DPOHUB就是数据合规03】）《互联网信息服务深度合成管理规定》第六条，对深度合成技术的禁止规定，包括对相关内容的禁止、对相关活动的禁止：1.【内容禁止】不得利用深度合成技术制作、复制、发布、传播法律、行政法规禁止的信息；2.【活动禁止】不得利用深度合成技术从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动；3.【虚假新闻禁止】不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。《网络音视频信息服务管理规定》第九条，禁止利用网络音视频信息服务以及相关信息技术从事下面行为：1.禁止从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动；2.禁止制作、发布、传播煽动颠覆国家政权、危害政治安全和社会稳定的信息内容；4.禁止制作、发布、传播侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权益等法律法规禁止的信息内容。《网络信息内容生态治理规定》第二十一条、二十二条规定：1.不得利用网络和相关信息技术实施侮辱、诽谤、威胁、散布谣言以及侵犯他人隐私等违法行为，损害他人合法权益；2.不得通过发布、删除信息以及其他干预信息呈现的手段侵害他人合法权益或者谋取非法利益。3.不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。《互联网信息服务算法推荐管理规定》第六条规定了算法推荐服务的禁止规定：1.不得利用算法推荐服务从事危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动；2.不得利用算法推荐服务传播法律、行政法规禁止的信息，应当采取措施防范和抵制传播不良信息。根据《互联网信息服务深度合成管理规定》，以下是深度合成服务提供者义务清单：建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度，具有安全可控的技术保障措施。依法依约履行管理责任，以显著方式提示深度合成服务技术支持者和使用者承担信息安全义务。基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式，依法对深度合成服务使用者进行真实身份信息认证；不得向未进行真实身份信息认证的深度合成服务使用者提供信息发布服务。采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核；建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序，记录并留存相关网络日志；发现违法和不良信息的，应当依法采取处置措施，保存有关记录，及时向网信部门和有关主管部门报告；对相关深度合成服务使用者依法依约采取警示、限制功能、暂停服务、关闭账号等处置措施；建立健全辟谣机制，发现利用深度合成服务制作、复制、发布、传播虚假信息的，应当及时采取辟谣措施，保存有关记录，并向网信部门和有关主管部门报告。提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意；加强技术管理，定期审核、评估、验证生成合成类算法机制机理；提供具有（A）生成或者编辑人脸、人声等生物识别信息、（B）生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息两类功能的模型、模板等工具的，应当依法自行或者委托专业机构开展安全评估。一般标识：对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识；显著标识：可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况：（A）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；（B）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；（C）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；（E）其他具有生成或者显著改变信息内容功能的服务。深度合成服务提供者提供前款规定之外的深度合成服务的，应当提供显著标识功能，并提示深度合成服务使用者可以进行显著标识。不得删除、篡改、隐匿标识：任何组织和个人不得采用技术手段删除、篡改、隐匿深度合成标识。深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的，应当按照国家有关规定开展安全评估；互联网应用商店等应用程序分发平台应当核验深度合成类应用程序的安全评估、备案等情况；对违反国家有关规定的，应当及时采取不予上架、警示、暂停服务或者下架等处置措施；设置便捷的用户申诉和公众投诉、举报入口，公布处理流程和反馈时限，及时受理、处理和反馈处理结果。《网络音视频信息服务管理规定》规定了鉴别机制，网络音视频信息服务提供者负有“部署深度伪造鉴别技术”的义务，网络监管从“通知—删除”的被动处置模式，转变为“识别—删除”的主动监管模式。根据该规定第十二条第一款，网络音视频信息服务提供者应当加强对网络音视频信息服务使用者发布的音视频信息的管理，部署应用违法违规音视频以及非真实音视频鉴别技术，发现音视频信息服务使用者制作、发布、传播法律法规禁止的信息内容的，应当依法依约停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信、文化和旅游、广播电视等部门报告。深度合成技术本身是基于算法的信息网络技术，因此算法推荐服务提供者与深度合成服务提供者、技术支持者具有重合性，此三个主体亦应遵守我国对算法推荐服务的法律规定。《互联网信息服务算法推荐管理规定》第七条规定：算法推荐服务提供者应当落实算法安全主体责任，建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施，制定并公开算法推荐服务相关规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。《网络音视频信息服务管理规定》也同样规定了标识“合成”义务（第十一条第一款）、停止传输义务（第十二条第一款与第十二条第二款）、辟谣机制（第十三条）、合成新闻类虚假信息禁止义务（第十一条第二款）。义务 | 深度合成服务提供者、技术支持者 | 算法推荐服务提供者 |
信息安全主体责任 | 建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度，具有安全可控的技术保障措施。 | 建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施，制定并公开算法推荐服务相关规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。 |
建立管理规则、平台公约、服务协议 | 依法依约履行管理责任，以显著方式提示深度合成服务技术支持者和使用者承担信息安全义务。 |
|
真实身份信息认证义务 | 基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式，依法对深度合成服务使用者进行真实身份信息认证； 不得向未进行真实身份信息认证的深度合成服务使用者提供信息发布服务。 |
|
内容管理义务 | 采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核； 建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序，记录并留存相关网络日志； 发现违法和不良信息的，应当依法采取处置措施，保存有关记录，及时向网信部门和有关主管部门报告； 对相关深度合成服务使用者依法依约采取警示、限制功能、暂停服务、关闭账号等处置措施； 建立健全辟谣机制，发现利用深度合成服务制作、复制、发布、传播虚假信息的，应当及时采取辟谣措施，保存有关记录，并向网信部门和有关主管部门报告。 | 建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输。 发现违法信息的，应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信部门和有关部门报告。发现不良信息的，应当按照网络信息内容生态治理有关规定予以处置。 加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。 综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。 算法推荐服务提供者提供互联网新闻信息服务的，应当依法取得互联网新闻信息服务许可，规范开展互联网新闻信息采编发布服务、转载服务和传播平台服务，不得生成合成虚假新闻信息，不得传播非国家规定范围内的单位发布的新闻信息。 |
技术管理义务 | 加强训练数据管理，采取必要措施保障训练数据安全； 提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意； 加强技术管理，定期审核、评估、验证生成合成类算法机制机理； 提供具有（A）生成或者编辑人脸、人声等生物识别信息、（B）生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息两类功能的模型、模板等工具的，应当依法自行或者委托专业机构开展安全评估。 | 应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。 |
一般标识和显著标识义务 | 一般标识：对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识； 显著标识：可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况： （A）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务； （B）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务； （C）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务； （D）沉浸式拟真场景等生成或者编辑服务； （E）其他具有生成或者显著改变信息内容功能的服务。 深度合成服务提供者提供前款规定之外的深度合成服务的，应当提供显著标识功能，并提示深度合成服务使用者可以进行显著标识。 不得删除、篡改、隐匿标识：任何组织和个人不得采用技术手段删除、篡改、隐匿深度合成标识。 | 应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。 |
评估、备案、举报入口设置等义务 | 深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的，应当按照国家有关规定开展安全评估； 互联网应用商店等应用程序分发平台应当核验深度合成类应用程序的安全评估、备案等情况； 设置便捷的用户申诉和公众投诉、举报入口，公布处理流程和反馈时限，及时受理、处理和反馈处理结果。 |
|
鉴真义务 | 部署应用违法违规音视频以及非真实音视频鉴别技术，发现音视频信息服务使用者制作、发布、传播法律法规禁止的信息内容的，应当依法依约停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信、文化和旅游、广播电视等部门报告。 |
|
标签管理义务 |
| 加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。 |
行为管理义务 |
| 不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为。 不得利用算法对其他互联网信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息服务正常运行，实施垄断和不正当竞争行为。 应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。 算法推荐服务提供者应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。 算法推荐服务提供者应用算法对用户权益造成重大影响的，应当依法予以说明并承担相应责任。 |
针对特殊服务对象的义务 |
| 未成年人网络保护义务； 便利老年人安全使用义务； 劳动者保护义务； 消费者公平交易权利保护义务。 |
建立追溯和问责制度，明确法律法规禁止的信息内容的创作者、传播者、社交媒体等角色的相关权利、义务和责任，对违规使用该技术传播虚假信息造成不良影响的人和组织进行追溯惩戒。开展深度合成技术评估评价，对衍生应用建立安全审查制度和定期检测制度，制定因深度伪造而引发政治、舆论、公共安全等突发事件应急方案。行政监管与算法融合。建立深度合成技术的数据库，将有关深度合成技术的信息输入到数据库中，实现预防和规制的深度融合。构建和开放深度合成内容数据共享库，为检测识别技术的研发提供数据支持。研发检测辨别与标记深度合成技术的工具，培育具有专业水平的合成内容审稿人，使视频内容的真实程度变强。建构包容大量合成图像等数据信息的数据库来与现存的深度合成算法进行竞争，训练更完善的人工智能系统。禁止恶意利用深度合成技术危害社会和国家安全，打击利用深度合成技术进行犯罪。禁止利用合成技术进行政治干扰、色情视频合成、欺骗索贿、恶意商业竞争、非法获取个人信息、虚假情报、选举干扰等。内容制作、传播者，对传播内容的真实性、合法性负有注意义务。任何人和组织一旦发现深度合成技术生成的内容系违背法律禁止的底线内容，应当主动停止传播该信息，采取消除处置措施，防止信息扩散。网络服务提供者要保存有关记录，并向有关部门报告。【提取法规全文PDF，在本号后台留言：DPOHUB就是数据合规03】刘洋，北京律师。中国政法大学法律硕士，北京大学传播学硕士。北京市创业投资法学研究会成员，社科院新基建蓝皮书专家成员。北京中关村网信联盟理事，网络法实务圈联合创始人。在公安系统工作十余年，曾任公安部人民公安报社《消防周刊》编辑部副主任，获公安系统个人三等功、公安部嘉奖。参编《网络法案》《中国新基建发展报告》，著有《物权纠纷律师在线答疑》、《生命玉树——全国公安特警抗震救灾纪实》、《读不孤》。曾办理玩具公司涉网络贩卖仿真枪案，部督跨境特大电信网络诈骗案，省督涉案2亿元电信网络诈骗案，程序员涉危害计算机信息系统案件等新型网络犯罪案件，取得较好辩护效果。
据统计，99%的大咖都关注了这个视频号
联系微信：heguilvshi领取优惠券，加入会员
每天两块钱，实时获取全球数据合规风险预警
👇
