AI危险！白宫召集AI领袖紧急开会，再投1.4亿美金建研发中心

---

  新智元报道  

美国终于出手了！

当地时间周四，拜登会见了顶级AI公司的CEO们，告诉他们：你们有道德义务，保证AI产品的安全。

Sam Altman、谷歌劈柴、微软纳德拉、Anthropic的Dario Amodei参加了这场不同寻常的会议。

拜登开场非常直白，「你们正在做的事不仅有巨大的影响力，还将带来巨大的危害」。

在这场大约2小时的会议中，最重要的话题便是对AI危害的担忧，白宫希望，这个问题能通过立法来解决。

这是自ChatGPT等流行AI聊天机器人发布以来，白宫首次召集主要大科技公司CEO开会。

把硅谷大厂的CEO们召集来白宫开会，是美国政府能做的最大努力了。面对如今AI领域日益增多的问题，要求政府监管的呼声也越来越高。

在白宫的罗斯福厅，副总统Kamala Harris和其他官员花了大约两个小时，告诉谷歌、微软、OpenAI和Anthroic的CEO们，要认真考虑对AI技术的担忧。

Harris在一份声明中表示：「私营部门在道德、道德和法律上，都有责任确保其产品的安全。每家公司都必须遵守现行法律，以保护美国人民。」

显然，AI的繁荣以及由此而来的隐忧，已经让各国领导人都感到了重重压力。

自ChatGPT面世以来，全球许多大型科技公司都急于将聊天机器人接入自家产品，并加快人工智能的研究。

与此同时，风投家已经向人工智能初创企业投入了数十亿美元。

但人工智能的爆炸式发展，引发了人们对这一技术可能如何改变经济、动摇地缘政治，以及助长犯罪活动的担忧。

批评人士担心，强大的人工智能系统并不透明，有可能带来歧视、失业、散布虚假信息，甚至违反法律的危险行为。

甚至，一些人工智能公司也对这项技术带来的后果提出了警告。就连，人工智能先驱Geoffrey Hinton离职谷歌，以便公开谈论AI的风险。

拜登表示，人工智能是否危险「还有待观察」，他的一些高级官员已经承诺，如果该技术被用于有害的地方，将进行干预。

包括多数党领袖、纽约州参议员Chuck Schumer在内的国会议员，也已开始起草或提议立法规范人工智能。

全世界都感受到了监管AI的压力。欧盟的立法者已经就AI的使用规则进行谈判。

美国联邦通信委员会(FCC)前主席Tom Wheeler表示，现在全世界的目光都集中在这里，在看美国可能会采取什么样的行动。

他说，「我们需要保证，我们是谈判桌上的参与者，每个人的第一反应都是，白宫打算怎么办？」

然而有趣的是，尽管各国政府呼吁科技公司采取措施，确保其产品安全，人工智能公司及其代表却反过来让政府去为指数级爆发的AI制定规则。

开会前，拜登自己尝试了ChatGPT，完完全全被「迷住了」，并认为这是「我们这个时代最强大的技术之一」。

白宫政府在会上向这些AI公司强调，它们应该解决人工智能发展带来的风险。

此外，奥巴马政府在会后发表的一份声明中表示，已经就下列问题进行了建设性的讨论：

公司希望对自己的产品更加开放；

人工智能系统需要接受外部审查；

以及让这些产品远离坏人的重要性。

白宫表示，鉴于这些首席执行官及其公司在美国人工智能创新生态系统中所扮演的重要角色，政府官员强调了他们领导力的重要性，呼吁他们树立负责任的榜样，并采取行动确保负责任的创新和适当的保障措施，保护人民的权利和安全。

会议召开前几个小时，白宫宣布，国家科学基金会计划投入1.4亿美元，建立7个全新人工智能研究中心。

该基金会表示，最新投资将使美国人工智能研究中心总数达到26个，政府资助总额近5亿美元。

这笔资金将分发给全国各地的机构，包括马里兰大学学院市分校、加州大学圣巴巴拉分校和双子城分校的明尼苏达大学。

此外，白宫还公布了两项新举措：

一是，对现有生成人工智能系统公开评估。

美政府宣布，包括Anthropic、谷歌、Hugging Face、微软、NVIDIA、OpenAI和Stability AI在内的领先AI开发商，将首次独立参加AI系统的公开评估。

该评估将在由Scale AI开发的平台上——DEF CON 31的AI Village进行评估，将在今年8月份进行。

届时，包括微软和谷歌在内的主要人工智能公司将为黑客和人工智能专家提供人工智能系统，以进行测试和评估。

一名高级政府官员称，黑客大会上的演习旨在获得更多这些模型影响的公开信息，让人工智能开发企业能够解决出现的问题。

另一项举措是，确保美国政府在缓解AI风险和利用AI机会方面发挥示范作用的政策。

美政府管理和预算办公室（OMB）宣布，将发布关于美政府使用人工智能系统的政策指南草案，并征求公众意见。

其实，在推进负责任AI上，美国已经做了很多努力。

去年，白宫发布了一份「人工智能权利法案蓝图」。该蓝图称，自动化AI系统应该保护用户的数据隐私，保护他们不受歧视，并明确说明采取某些行动的原因。

今年1月，美国商务部还发布了一个降低人工智能开发风险的框架，据称该框架已经酝酿多年。

但是，控制AI风险的具体措施更有可能更早来源于华盛顿的执法机构。

今年4月，一些政府机构承诺「监督自动化系统的开发和使用，促进负责任AI的创新」，同时惩罚使用该技术的违法行为。

联邦贸易委员会主席Lina Khan表示，美国正处于与人工智能合作的「关键决策点」。

她把这项技术的最新发展比作谷歌和Meta等科技巨头的诞生，并警告称，如果没有适当的监管，这项技术可能会放大大型科技公司的权力，并给骗子提供一个强有力的工具。

她称，「随着人工智能的应用越来越广泛，政府官员有责任确保这段来之不易的历史不会重演。

参考资料：

https://www.nytimes.com/2023/05/04/technology/us-ai-research-regulation.html