AIGC应用场景及合规问题全解析

ChatGPT让AIGC成功“出圈”，国内外科技巨头争相推出自己的AIGC产品，针对AIGC的监管亦迅速推进。就在今天（4月18日），最高人民检察院第四检察厅有关负责人就《关于加强新时代检察机关网络法治工作的意见》答记者问时强调，检察系统应当聚焦数字经济健康发展，依法保护和规范数字技术、数字产业和数字市场，加大对人工智能等领域的司法保护力度，推动数字技术成果的创新发展和转化，推动完善数据权利司法保护。

在几天之前的4月11日，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》，并向社会公开征求意见。无独有偶，同一天，美国商务部就ChatGPT等AI大模型监管措施公开征求意见；欧盟各国亦提议磋商《人工智能法案》有关生成式人工智能的条款。无论是我国还是全球范围内，针对人工智能的监管已经来临。

《生成式人工智能服务管理办法（征求意见稿）》如果获得通过，将成为全球首个专门规制AIGC的监管规范。有学者将其称之为“全球第一款GPT法”。横向比较而言，《生成式人工智能服务管理办法》（当然，前提是目前的“征求意见稿”和最终版没有根本性差别）体现出了与美国、欧盟完全不同的监管思路。欧美对于人工智能立法的监管思路偏向于个人隐私保护与数据保护，而我国的“GPT法”则更强调内容治理、数据治理、权责分配相结合的综合治理思路。

这一综合治理思路必然需要相关企业提前介入、提前研判、提前布局，以尽可能在做到有效合规的前提下降低合规成本。从这个角度而言，AIGC监管立法是典型的“实务推动型”立法，在AIGC法律监管框架的制定过程中实务领域必然发挥极为重要的作用，因此飒姐团队认为有必要梳理目前存在的AIGC工业品方案，分析相关监管对于企业合规的可能影响。

“我国目前存在哪些AIGC应用场景”与“我国目前有哪些成熟的AIGC工业产品”可以说是一个问题的两个方面，部分研究机构认为目前我国AIGC的应用场景归纳为“传媒、电商、影视、娱乐、其他”五个大类，上述分类方法可以直观展现出AI对于传媒、电商等行业的影响，但各个行业之间似有交叉，上述分类方式不足以体现出AIGC跨行业应用的特征，除上述分类方法外，飒姐团队认为还可以根据AI生成内容的不同性质对AIGC工业产品进行分类，由此将AIGC工业产品细分为“AI生成文字内容类产品、AI生成音视频类产品、AI辅助数据分析类产品三大模块。

（一）AI生成文字内容类工业产品

目前我国较为成熟的AI生成文字内容类工业品主要集中在传媒领域，上述工业品基本涵盖了传媒领域从采编到传播的所有环节。

在智能新闻写作产品条线，新闻写作机器人已经被广泛应用于新闻采编环节中。中国地震台网早在2017年就开始使用智能写稿机器人自动编写稿件，在四川阿坝州九寨沟县发生地震后，写稿机器人仅用25秒就生成了540字并配发4张图片的新闻稿件；国内某著名财经网站利用“某某稿王”写稿机器人一分钟可写出1680字的新闻稿件，目前写稿机器人已经被广泛应用于即时突发新闻的新闻稿写作领域。

在语音文字转录产品条线，字幕自动生成器、语音智能转换文字软件亦被广泛应用于传媒领域的各个环节。如在2022年北京冬奥会期间，记者使用智能录音笔通过语音转换文字机制，两分钟内就可快速写出新闻稿。诸多自媒体从业者使用字幕自动生成软件，可以在极短的时间内将自己的短视频中加入字幕，极大提高了内容产出效率。

AI生成文字类工业品还被广泛应用于影视剧本智能写作环节，目前国内已经有相当一部分科技公司开始提供智能剧本生产相关服务，如某公司推出的“小说转剧本”智能写作功能，服务了包括《你好，李焕英》《流浪地球》等著作影视剧作品的制作。

ChatGPT等大语言模型亦属于AI生成文字类的工业品，国内目前亦有大厂迅速跟进，预计这类产品未来会在更多需要人机交互的场景（如政务服务、智能驾驶、客诉处理等多个场景）下迸发出更为巨大的生产力。有关ChatGPT相关工业品及应用场景的详细描述，可关注飒姐团队近期的文章：热度“狂飙”的ChatGPT，亟待“合规刹车”

（二）AI生成音视频类工业产品

这类工业产品被广泛应用于从电商到影视制作的各个领域。

在电商领域，目前AI生成音视频类工业品主要集中在虚拟主播带货与AI生成商品3D模型两种产品。就虚拟主播而言，基于AI生成音视频的功能，虚拟主播可以24小时不间断进行货品推荐和在线服务能力，目前国内诸多电商平台已经出现虚拟主播“直播带货”的场景。就AI生成商品3D模型类产品而言，国内著名的“某宝”购物平台已经上线3D版本商品模型，可以自动将平面的商品图片转化为带有3D效果的小视频，当我们打开“某宝”APP时，随时能够看到这类由平面图片转化而来的带有3D效果的商品短视频，这一工业应用大幅度提升了某宝用户的购物体验感。中国信通院报告显示，国内某大厂于2021年4月上线AIGC 3D模型创作服务后，3D购物的转化率平均值为70%，较行业平均水平提升了约9倍。

在影视剧制作领域，AI生成人脸声音等工业产品亦被广泛应用。年初热播的《流浪地球2》就采用了AI生成技术，生成了著名演员刘德华年轻时的形象，实现了已故演员吴孟达的“复活”；AI智能语音生成亦被广泛运用于互联网平台短视频制作中。自媒体短视频“UP主”可以利用AI智能语音播报等迅速生产风靡各大手机APP（如某红书、某音、某手）的短视频，极大提高内容生产效率，这类AIGC工业品高效节省了人力时间成本。

（三）AI辅助数据分析类工业品

目前国内主要应用在工业设计、智能驾驶和智能医疗三大领域。在工业设计领域，AI辅助设计CAD可以极大缩短工程设计周期，在智能驾驶领域，AI可以实现辅助驾驶、无人驾驶，目前北京石景山首钢园内已经建立起了智能无人驾驶实验园区，国内智能驾驶技术的发展已经处在世界第一梯队。在智能医疗领域，AI医疗影像分析可帮助医护人员更为有效发现早期癌症病灶，AI康复诊疗、医护陪伴等亦在国内出现。

正如前文所述，《生成式人工智能服务管理办法（征求意见稿）》被学者称之为我国的第一部“GPT”法，但这并不代表目前我国没有规制生成式人工智能服务的规范，实际上我国目前将AIGC归入到深度合成服务的监管框架之下，其直接受到《互联网信息服务深度合成管理规定》《互联网信息服务算法推荐管理规定》《网络音视频服务管理规定》《网络信息内容生态治理规定》规制。

在这一监管框架之下，与AIGC服务相关的主体被分为三类，即深度合成服务提供者、深度合成服务技术支持者、深度合成服务使用者。监管框架以深度合成服务提供者为核心，分别明确了各自的监管义务与责任分配。《生成式人工智能管理服务办法（征求意见稿）》在很大程度上也“继承”了这一监管义务与责任分配的原则。如“征求意见稿”明确表明了生成式人工智能服务的服务提供者是内容安全的责任主体，利用生成式人工智能产品提供聊天服务和文本、图像、声音生成等服务的组织和个人（即AIGC服务提供者）承担内容生产者的责任。“征求意见稿”亦明确规定了AIGC服务提供者的对于违规内容的处置义务，这点也与《互联网信息服务深度合成管理规定》等监管框架类似。

这些违规内容处置义务包括：

1.服务提供者发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合相关规定要求时，应当采取措施，停止生成，防止危害持续；

2.服务提供者发现用户利用生成式人工智能产品过程中违反法律法规、违背商业道德、社会公德的行为时，应当暂停或者终止服务。

上述处置义务无疑比其他既存的监管规范更加严格，与此同时，“征求意见稿”还要求AIGC服务提供者确保AI生成的内容真实、准确，这无疑要求AIGC服务提供者对AI生成的内容要进一步加强审核，保证其合规性。

随着AIGC服务的监管框架及相关监管法规逐步完善，AIGC提供者的合规问题一定会成为企业极为关心的问题。

最高检第四检察厅有关负责人就《关于加强新时代检察机关网络法治工作的意见》的答记者问中强调，数字经济时代，大部分企业的业务都涉及海量的数据、丰富的场景以及复杂的算法，完全依靠外部监管难度非常大，内部合规管理显得更为重要。检察机关要以全面推行企业合规改革为契机，积极探索在网络数字领域推进涉案企业合规改革和落实第三方监督评估机制，建立健全合规管理的制度机制，有效预防网络违法犯罪。同时要积极探索以事后合规整改促进事前合规建设，推动网络监管部门、互联网企业共同研究制定数据合规规范指引，保障数字经济健康发展。

相关企业务必重视AIGC的内部合规，总体而言“征求意见稿”是在现有的监管框架之下，对《互联网信息服务深度合成管理规定》《互联网信息服务算法推荐管理规定》《网络音视频服务管理规定》《网络信息内容生态治理规定》的细化，因此相关企业应当重视衔接现有算法推荐服务、深度合成服务等其他人工智能监管法规的要求，尽力做到内部合规，结合技术与法律力量提出创造性的合规解决方案，为产业发展赢得更多的制度空间。

REVIEW