《人工智能法》前瞻
点击文末阅读原文，立即购买GDPR高级班62讲！
一、背景：万丈高楼平地起
根据2023年6月初国务院办公厅印发的《国务院2023年度立法工作计划的通知》，《人工智能法》的草案已经预备提请全国人大常委会审议，这意味着关于人工智能的立法工作已经启动，我们或许可以在短期内就见到这部法律的真容。
无独有偶，欧盟也在紧锣密鼓地开展人工智能立法工作，EU AI Act已经到了立法的最终阶段，预期年内可以定稿。此外，联合国秘书长古特雷斯公开支持建立人工智能领域的“国际原子能机构（IAEA）”，对人工智能技术进行监管。
制订中的《人工智能法》，并不会是一座空中楼阁，而是会以当前诸多法律法规、标准、政策中的内容为基础进行立法。许多原本确保人工智能安全的技术标准、最佳实践，预期也会升格为法律义务。早在国务院2017年印发的《新一代人工智能发展规划》中，就提出到2025年，初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力。
法律的草案结合当前我国对互联网、数据的治理经验，尤其是《互联网信息服务算法推荐管理规定》与《互联网信息服务深度合成管理规定》的治理经验，我们可以展望一下《人工智能法》可能会有哪些内容。
二、管辖范围与定义
管辖会是首当其冲的问题，即《人工智能法》的适用范围是怎样的。可以大致推测，《人工智能法》将规范限定在：1）在中国境内应用人工智能的行为；2）中国境内实体对人工智能的研发。
在现行的《个人信息保护法》中，管辖范围即是如此约定。在《互联网信息服务算法推荐管理规定》第2条将管辖范围设定为“在中华人民共和国境内应用算法推荐技术提供互联网信息服务”，《互联网信息服务深度合成管理规定》第2条也将管辖设定为“在中华人民共和国境内应用深度合成技术提供互联网信息服务”。值得留意的是，《生成式人工智能服务管理办法（征求意见稿）》第2条拟对管辖范围进行限缩，将受规制的范围限定在向公众提供服务的领域：“研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。”
另外一个问题是法律中的人工智能会如何定义，内涵和外延各是什么。尽管在各种技术标准中当然对人工智能有不少的定义，但法律如何定义仍然是一个至关重要的问题。这个问题也会直接决定哪些事项属于该法的管辖范围，比如自动驾驶、自动化决策、搜索结果排序等技术是否会被纳入该法的管辖。
三、科技伦理
科技伦理审查会是《人工智能法》中的一项基础制度。2023年4月，科技部就《科技伦理审查办法（试行）（征求意见稿）》公开征求意见，是此前2022年中共中央办公厅与国务院办公厅颁布的《关于加强科技伦理治理的意见》的具体落地，也标志着AI等科技的伦理审查制度已经初具雏形。
可以预期，《人工智能法》中会勾勒出科技伦理审查的制度框架，概括性地要求企业履行科技伦理审查的义务，具体交给下位法规落地实施。而科技伦理审查制度也会贯穿于人工智能研发、测试、合作、部署、更新等完整生命周期。
四、数据安全与数据要素
数据是人工智能发展的三大基础元素之一，具有举足轻重的地位，而训练数据的质量更是直接决定人工智能的质量。考虑到《数据安全法》《个人信息保护法》等法律法规已经对数据保护与数据安全进行了较为详尽的规定，因此可预期《人工智能法》会直接援引其他法律法规对于数据的规定，并将重点聚焦于训练数据上。
在《生成式人工智能服务管理办法（征求意见稿）》第7条中，就拟专门要求“提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责”。并且要求训练数据需要：1）符合网络安全的要求；2）不含侵犯知识产权的内容；3）符合个人信息保护的相关规定；4）保证数据的真实性、准确性、客观性、多样性；等等。《人工智能法》可能会对这些义务进行确认，至少遵循类似的思路确定训练数据合法性判断的标准。
既然训练数据至关重要，如何合法合规获得优质的训练数据就尤为重要，法律的保障不可缺少。
“数据二十条”对于数据权益的归属做了一些突破性尝试，划分为数据资源持有权、数据加工使用权与数据产品经营权。这样的划分可能会成为训练数据利用、交易的法学理论基础。并且国家也可能会打造统一的训练数据素材库，并可能通过《反垄断法》尝试扭转当前各平台通过App、小程序等私域将数据画地为牢的行为。
五、权责的变更
关于人工智能生成内容的权属，《人工智能法》也可能会给出指导性的意见，当然更有可能作为一个待定的议题而存在，留给后续的立法或法律修订去解决。
结合当前个人在面对自动化决策的影响，拒绝权、解释说明权都可能会是个人所拥有的宝贵权利。
人工智能最为重要的特点在于会对一些事项进行自主决策，因此会对传统的产品责任承担模式带来变革的动力。因此如何分配人工智能的法律责任，也会成为《人工智能法》的重头戏，尤其是如何划分人工智能技术支持者、人工智能服务提供者、人工智能服务使用者与用户的责任。
六、算法管理
对算法的规制会是《人工智能法》的重头戏。在2021年，国家网信办等九部委联合发布《关于加强互联网信息服务算法综合治理的指导意见》，成为我国开展算法治理工作的基础。
《人工智能法》预期会继承并发扬算法备案制度。算法备案已经成为标志性的算法治理措施，截止2023年6月，已经有四批次合计264个互联网信息服务算法、41个深度合成算法完成备案并公示。此外，在一些场景下，完成算法备案也成为App上架的先决条件。
通过算法备案制度，有关部门可以对企事业单位算法治理架构与算法本身的安全架构进行管控，符合监管部门的一贯思路。
七、分类分级
在科技部《科技伦理审查办法（试行）（征求意见稿）》中，拟对部分被纳入清单的AI相关科技进行更为严格的管理（如复核程序、登记管理、年报等），实际是对AI进行分级管理。目前，清单内的AI有：
具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发。
面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统的研发。
欧盟EU AI Act同样设置了高风险人工智能名单，涵盖关键基础设施、教育、人力资源、公共秩序和移民管理领域等范围。
我们可以预期，《人工智能法》也会对人工智能实施分类分级的管控措施，对特定类别或用途的人工智能进行更加严格地管控，设置全流程的管理措施。
八、跨境使用
人工智能的跨境使用是一个敏感的问题，想必《人工智能法》也不会对此熟视无睹。数据方面的跨境措施正在逐渐完善，已经有非常多的讨论，这里不再赘述。而在算法方面，我国其实也在进出口层面有管控措施。
部分人工智能技术的引进是需要遵循进口管制流程的。根据商务部2021年11月公布的《中国禁止进口限制进口技术目录》，深度伪造技术属于限制进口技术目录。控制要点为：笔迹伪造技术、语音伪造技术、图片伪造技术、视频伪造技术、生物特征伪造技术以及其他伪造技术，伪造信息与被伪造信息相似度大于70%。
根据商务部与科技部在2020年8月更新的《中国禁止出口限制出口技术目录》，人工智能交互界面技术（包括语音识别技术，麦克风阵列技术，语音唤醒技术，交互理解技术等）与个性化推荐技术被列入限制出口目录。
因此，《人工智能法》对于人工智能的跨境使用，除了数据层面的跨境传输的监管要求，也可能会从进出口管制的角度进行规制。
九、其他关键问题
除了以上这些问题，我们还可以猜测《人工智能法》可能会有以下方面的内容：
知识产权：《人工智能法》不太可能会直接涉及人工智能生成作品的知识产权问题，具体的归属问题、素材侵权可能会放到后续《著作权法》《反不正当竞争法》未来的修订中去解决。
产业促进：《人工智能法》也会是一部产业促进法，通过一些原则性的条款鼓励人工智能产业有序发展、支持对人工智能应用的研发投入。比如《北京市促进通用人工智能创新发展的若干措施》中的很多鼓励措施就可能会以某种形式成为法律中的原则性规定。
政府运用：《人工智能法》可能会设置专门的章节，对政府使用人工智能产品进行规定，预期相较于一般实体运用人工智能会有更多的限制，如不得使用境外或未经验证的模型，或要求人工智能仅能起到辅助作用。这方面可以参考《最高人民法院关于规范和加强人工智能司法应用的意见》的相关内容，很多内容可能也会体现在《人工智能法》中。
管理机构：《人工智能法》可能会明确网信部门是我国人工智能的统筹管理部门，然后各部委在各自的职权范围内各自管理人工智能。
人工智能正在飞速重新塑造这个世界，我们当然无法指望通过一稿《人工智能法》就解决所有的新问题。人工智能给法律和社会的一点点震撼才刚刚开始，好戏都还在后面。
微信扫码关注该文公众号作者