拜登签署首个生成AI行政命令，却曝露出监管的尴尬

2023-10-31 05:10

机器之能报道

编辑：sia

冗长的行政命令立场摇摆，内容复杂如拼盘，像生成AI技术一样让人困惑。

人工智能很可能成为通向新繁荣时代的桥梁，但要确保我们所有人都能分享其利益并避免其风险，仅靠公司章程远远不够，还要有强有力的新政治。

今天，美国总统拜登签署了一项重要行政命令——《关于安全、可靠、可信开发和使用人工智能的行政命令》（以下简称「命令」），提供了首个有关生成式人工智能的规则，共有八大目标：

1、为AI安全制定新标准（New Standards for AI Safety and Security）
2、保护美国人的隐私（Protecting Americans’ Privacy）
3、促进公平和公民权利（Advancing Equity and Civil Rights）
4、为消费者、病患和学生提供支持（Standing Up for Consumers, Patients, and Students）
5、支持工人（Supporting Workers）
6、促进创新和竞争（Promoting Innovation and Competition）
7、提升美国在海外的领导地位（Advancing American Leadership Abroad）
8、确保政府负责任、有效地使用AI技术（Ensuring Responsible and Effective Government Use of AI）

《关于安全、可靠、可信开发和使用人工智能的行政命令》，官网截图

作为拜登政府与科技行业几个月讨论的高潮，该「命令」为人工智能的发展和使用设置了护栏，也是迄今为止美国最全面的 AI 监管原则。

它指示所有类别的政府机构要确保美国在发展 AI 上处于领先地位，同时也要解决技术带来的许多危险。「命令」明确要求，各机构制定规则和指导方针，撰写报告，并为 AI（用拜登自己的话来说是「我们这个时代最重要的技术」)创建资金和研究计划。

周一，美国总统拜登签署了一项行政命令，该命令将影响开发人工智能的公司。

「命令」冗长、所涉范围之广，令人印象深刻，有几点值关注。

1、重点关注人工智能系统的评估和标准，包括由美国国家标准与安全研究院（NIST）来制定红队标准。

「命令」动用朝鲜战争时期的《国防生产法》( Defense Production Act )，强制要求大型 AI 公司在开发「任何对国家安全、国家经济安全或国家公共健康和安全构成严重风险」的系统时通知政府。

这意味着在向公众发布之前，白宫将对未来的大型语言模型(包括 OpenAI 的 GPT-5 和谷歌的 Gemini )进行监督，大型 AI 模型的开发人员也有义务与美国政府分享他们的安全测试结果和其他关键信息。

根据「命令」，美国国家标准与安全研究院（NIST）将负责在公开发布之前制定「红队」人工智能模型的标准，能源部和国土安全部将解决人工智能系统对关键基础设施以及化学、生物、放射、核和网络安全等方面的威胁和风险。

「命令」强调，这些是任何政府为推进人工智能安全而采取的最重要的行动。

2、特别提到生物安全和网络安全，防止 AI 加剧这些风险

「命令」要求「通过制定强有力的生物合成筛选新标准，防范使用 AI 设计危险生物材料的风险。」

OpenAI CEO Sam Altman 也明确表示过这种担心，一些错位的大型模型将创造一种迅速传播的病原体。Altman 积极呼吁一个类似国际原子能机构的组织，对人工智能进行全球监督，否则人类很难「有一条长期幸福的道路」。

这并非杞人忧天。今年 6 月，麻省理工学院的生物安全专家 Kevin Esvelt 让学生在 ChatGPT 或其大型语言模型的帮助下创建一个危险病毒。这些系统可以根据大量的互联网数据训练集，对各类问题做出类似人类的回答。仅仅一个小时后，全班同学就列出了候选病毒的清单，以及能够合成病毒基因密码并组装病毒片段的公司。

大约在同一时间，一群化学家将类似的人工智能连接到专家设计的工具，系统自己设计并合成了一个分子。

针对「道高一尺魔高一丈」的生成 AI 造假与网络安全，「命令」要求「通过建立检测人工智能生成内容和验证官方内容的标准和最佳实践，保护美国人免受人工智能欺诈和欺骗。」

3、重视和支持开发保护隐私的 AI 技术

人工智能不仅使提取、识别和利用个人数据变得更加容易，而且还增强了这样做的动力，因为公司使用数据来训练人工智能系统。为了更好地保护美国人的隐私，包括免受人工智能带来的风险，总统呼吁国会通过两党数据隐私立法，以保护所有美国人，尤其是儿童。

「命令」指出，「通过优先考虑联邦政府对加速隐私保护技术的开发和使用来保护美国人的隐私，包括使用尖端人工智能的技术，以及在保护训练数据隐私的同时训练人工智能系统的技术。」

「命令」还表示，将通过资助 Research Coordination Network （一种虚拟协作结构，可帮助支持研究人员群体跨学科、组织、部门和地理边界沟通和协调他们的研究。——编者注）来加强保护隐私的研究和技术，例如保护个人隐私的加密工具。

4、对「AI+医疗」、「AI+教育」的关注

人工智能可以为消费者带来真正的好处，但也增加了伤害、误导或以其他方式伤害美国人的风险。为了保护消费者，同时确保人工智能能够让美国人过上更好的生活，「命令」希望通过创建资源来支持教育工作者部署支持 AI 的教育工具（例如学校的个性化辅导），塑造 AI 改变教育的潜力。推动人工智能在医疗保健领域的负责任使用，开发负担得起的救命药物。

5、对竞争对手的担忧

该「命令」采取的最激进的行动之一是指示商务部长提出新的规定，要求微软和谷歌等美国云服务提供商在使用其服务的外国个人或实体开始训练可能被用于恶意目的的大型人工智能模型时，通知政府。

该「命令」还强调了国际人力资源对美国人工智能发展的重要性。例如，利用现有权力，通过简化、现代化签证标准、面试和审查，扩大关键领域具有专业知识的高技能移民和非移民在美国学习、居留和工作的能力。

美国总统拜登签署的这项重要行政命令也引发学界关注

由于相当多机构参与了提供意见，「命令」读起来更像是各个不同（甚至对立）群体立场的拼凑：

一部分完全采纳了 OpenAI 和谷歌等少数几家有影响力的人工智能公司的观点，而另一部分则集中了工人、弱势群体和社区以及对大型科技公司最持批评态度的民权组织的担忧；

尽管该「命令」听取了大型人工智能的建议，但它还概述了支持小型人工智能开发人员和研究人员的方法。对于这项技术的潜在好处，也有很多人表示赞同。「命令」指出，人工智能具有「解决社会上一些最困难挑战的潜力」。它可能是小企业和企业家的福音，创造新的就业类别，开发新的药物，改善医疗保健，等等。

这种复杂与「几乎无所不包」也反映出，政府相信人工智能技术很快就会无处不在。「这是一件大事，」高级研究所(Institute for Advanced Study)教授、曾担任白宫科技政策办公室(Office of Science and Technology Policy)代理主任 Alondra Nelson 在接受外媒采访时说道。

人工智能将「像手机上的操作系统一样无处不在」，这意味着对它的监管将涉及「整个政策空间本身」。这种规模几乎必然会导致一种矛盾状态，好像拜登政府考虑了相互矛盾的观点，但没有决定采取哪一种方法。

一位高级政府官员在接受记者采访时表示，该文件的庞大性是一个功能，而不是一个错误。「人工智能政策就像十项全能，」这位官员说。「我们不能只是选择，说，『我们只是要做安全』或者『我们只是要做公平』，或者『我们只是要做隐私』，我们必须做所有这些事情。毕竟，该命令具有巨大的『信号力量』」

美国总统拜登签署的这项重要行政命令引发学界关注

从历史上看，拜登政府一直在努力对科技行业执行反垄断法。拜登政府首先发布了《人工智能权利法案》，概述了人工智能模型开发者应遵循的一系列原则。

去年 11 月 ChatGPT 出现以来，科技行业已将大量资本和资源引入人工智能。今年 5 月，拜登和副总统哈里斯会见了谷歌、Anthropic、Microsoft 和 OpenAI 的首席执行官，这四家公司都是该行业的领先公司，每家公司都在人工智能开发上花费数十亿美元或更多。

作为白宫与科技行业沟通的重要成果——这项「命令」不是永久性法律，通常只在拜登执政期间有效。立法者仍在讨论如何监管人工智能，尽管一些政界人士表示他们希望在年底前通过有关人工智能的法律。

行业观察人士表示，该行政命令至少在提供生成式人工智能标准方面向前迈出了一步。

Credo AI 创始人、国家人工智能咨询委员会成员 Navrina Singh 表示，行政命令是一个强烈信号，表明美国认真对待生成式人工智能，这也是政府的首要任务。「我们不能指望政策在一开始就完美无缺。」

虽然新技术的安全规则通常会随着时间的推移而积累，就像美国所采纳的普通法一样。但这一次，我们面对的是前所未见、真正强大的人工智能系统，还能承受不断试错所带来的成本和风险吗？

想起 Sam Altman 曾说的一句话，「我们可能必须从一开始就制定出完全正确的规则。」

参考链接：
https://www.whitehouse.gov/briefing-room/statements-releases/2023/10/30/fact-sheet-president-biden-issues-executive-order-on-safe-secure-and-trustworthy-artificial-intelligence/
https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/（全文）
https://www.theatlantic.com/technology/archive/2023/10/biden-white-house-ai-executive-order/675837/?utm_source=feed

转载请联系本公众号获得授权

投稿或寻求报道：[email protected]

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章