AI Trust解读 | 欧盟《人工智能法》会失败吗？谁是绊脚石？

公众号新闻

2024-06-09 12:06

报名：人工智能管理专家CAIM课程（上海班）

时间：6月22日、23日,聚焦ISO/IEC42001人工智能管理体系
形式：线下为主、线上同步
费用：CAIM6000元，早鸟价9折和团购价8折
地址：上海市徐汇区宜山路889号4号楼5楼SGS上海培训中心
咨询：138 1664 6268，[email protected]

预报名请咨询

来源：IAPP

整理：何渊

欧盟《人工智能法》尚未在欧盟官方公报上发表，然而，作为世界上首次尝试规范人工智能的立法努力，其无疑具有颠覆性价值，引发了大量关于即将到来的实施和可能出现问题讨论。

在创建立法框架时，由于没有先例可循，欧盟委员会选择了产品安全框架，使其成为所谓的协调立法的一部分，这些立法规范单一市场上流通的产品。

法律文本自那时以来已经发展了很多，使人工智能法成为一种相当混合形式的立法。尽管来自利益相关者和专家的批评，但欧洲选择的规范人工智能的结构不仅有其自身的优势，而且在其最终形式中，构成了一种新颖的方法，在技术产品安全立法和旨在保护基本权利的立法的交汇处。

我们还不知道这项开创性的法律是否有效。这将取决于几个因素。然而，如果它无效，可能因为其他原因而不是目前正在辩论的那些。

AI不是烤面包机：双重批评

针对人工智能法案的主要批评可以分为两个不同的方向。两者都认为，像AI这样强大和复杂的东西不能通过简单的技术要求来规范。

一方面，这种批评来自围绕个人数据保护和基本权利保护的利益相关者。对他们来说，仅仅将基本权利——民主和环境——添加到传统产品安全立法所保护的利益中，如健康和安全，已经是一个矛盾，因为人们不能像对待一台冷冰冰的机械一样对待一个决定某人是否有权获得难民身份的系统。

在其最终形式中，人工智能法为基本权利的保障提供了更加突出的空间。除了增加被禁止的做法数量和限制那些滥用潜力最高的做法，它还确立了人工智能特定的权利和补救措施——特别是获得人工智能系统做出的决定的有意义的解释的权利。此外，它为部署者在使用高风险人工智能系统之前进行基本权利影响评估创造了新的义务，以更好地考虑特定背景。

权利和补救措施没有包含在委员会的草案提案中，因为它认为，现有的消费者保护立法通常已经提供了足够的补救措施，并且不属于技术协调立法。基本权利影响评估偏离了产品安全立法中通常存在的“级联”运营商义务，其中制造商——在本例中，是提供者——承担了大部分责任，然后是进口商、分销商，最后是用户——在本例中，是部署者——几乎没有责任。

AI不是烤面包机或洗衣机，所以在高风险使用案例中，部署者在使用时需要额外小心，特别是当它可能对受影响者的基本权利产生负面影响时。这就是为什么，在议会的坚持下，引入了基本权利影响评估，从而扩展了文本中已经存在的人工智能系统部署者的义务。

另一个角度认为，人工智能不是一个静态产品，它具有线性的价值链和开发，它的规范不能像玩具或电梯那样对待，因为它需要更多的灵活性和持续的适应。使人工智能法案未来证明是谈判开始以来的关键挑战之一：普通立法程序的缓慢节奏如何跟上市场上快速发展的步伐？

在整个过程中，新的发展迫使我们重新思考一些概念，并不止一次地添加或删除一些部分。批评者没有意识到所选择框架提供的灵活性水平，有可能更新大多数附件、通用人工智能模型的阈值和其他标准，具有系统风险。而且，最重要的是，高度依赖标准和指南。

人工智能法与其他所有协调产品一样，为高风险人工智能系统在欧盟市场流通预见了一系列高级别的技术要求。“如何”实施它们在很大程度上留给了标准化过程，因此，它主要是行业主导的，更有可能第一手经验了解如何通过成为市场上既定实践的要求来操作化。

我们是否可以在文章中更详细、更少含糊？过于规定性将冒着使立法过于僵化和容易过时的风险，也不会在法庭上留下解释的空间。法案中预见的许多指南将提供实施硬性法律要求和标准所需的额外支持。

我们是否可以引入更多的灵活性？许多利益相关者都主张更多——来自行业，如更新某些定义的可能性，来自民间社会，如通过二级立法更新禁令清单的可能性。

我们不能忘记，谈判者受到欧盟法律的限制，它认为立法的必要元素，如定义或禁令，远远超出了欧盟委员会通常需要更新的权力委托，从而破坏了民主进程。如果需要有针对性的修改，它们很可能成为快速立法程序的对象，而不必再经历两年的谈判。

人工智能法案是否面临与GDPR相同的风险？

另一个关键元素使得使用产品安全框架在实施阶段的问题要少得多：其执行结构。人工智能法案和其他协调立法一样，依赖于国家市场监管机构进行执行，其权力和欧盟协调规则由市场监管和产品合规条例（EU）2019/1020管理。一个在实践中运作良好的框架。

在比较人工智能法案和欧盟通用数据保护条例时，这种执行结构为两者提供了根本的不同。根据人工智能法案，市场监管机构在侵权发生地进行干预——例如，在非合规产品流通的成员国——而不是在提供者建立的地方，因此处理数据，就像GDPR的情况一样。

在后者的实施中存在非常明确的问题，以爱尔兰的臭名昭著的瓶颈为例，大多数非欧盟科技公司都在那里建立，而最近批准的关于跨境案件执行的修订只会部分解决这个问题。然而，在人工智能法的情况下，一个机构被案件压倒并承担大部分欧盟执法活动的风险要小得多，可能会在成员国之间更分散。

此外，人工智能法加强了进行联合调查和其他活动的可能性，以及市场监管条例已经预见到的互助。使用这种执行结构的主要可能担忧在于市场监管机构工作人员的技能，因为人工智能的性质使其经典的技术技能不足以评估高风险人工智能系统。

最终选择任命哪个机构由成员国自行决定，唯一的指示是其人员应具有足够的基本权利法、个人数据保护等领域的专业知识。理想情况下，至少应该有一个协调/监督机构（可能是独立的，正如议会所倡导的），将国家数据保护机构的专业知识与典型的技术市场监管机构的专业知识结合起来，因为在人工智能的情况下，两者的专业知识都不能独立运作。

一个全面的框架来构建

考虑到这些方面，对当前人工智能法结构的主流批评似乎没有道理，实际上，积极的方面似乎超过了负面的。

然而，如果有一个重大缺陷可能使大部分法规无法实施，那就是强调狭义的高风险人工智能系统的预期目的，而不是通用的。由于风险（和提供者的赔偿责任触发因素）与特定用例相关，几乎没有系统只有一种，狭义用例，如果他们不严格遵循指示，大部分责任将留给部署者，而且提供者很容易声称他们的系统的预期目的是法规中未列出的。

强调预期目的的缺陷源于产品安全结构，但并不适合像AI这样的复杂技术，尤其是在该领域当前的发展下。

同时，人们可能会想，是否最好解决公司和公共当局的总体内部实践以确保合规，而不是公司和当局分别对每个单一的高风险人工智能系统进行工作。

我们将只能在两年后通过实践来验证系统是否有效。与此同时，重要的是有一个全面框架来利用人工智能并限制其风险，并且总体上被大多数利益相关者认为是一个很好的基础。希望将来在此基础上更容易构建。

关于AI Trust：

AI Trust是一个聚焦人工智能治理的非营利性高端平台，一个整合法律、技术及管理的专业人工智能治理专家共同体，一个制造干货、相互赋能及塑造职业品牌的人工智能治理生态体。AI Trust将持续开放AI Trust沙龙、AI Trust全球资讯、AI Trust论坛、AI Trust全球大会、AI Trust公益翻译小组等系列精品活动。AI Trust旨在建立一个共商、共建、共享的人工智能治理开放社区。AI Trust现招募联合运营单位及大咖，以“AI Trust×”共建系列活动。

联系人：徐博士

138 1664 6268 [email protected]

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章