Redian新闻
>
美国 FTC 主席莉娜·可汗:为什么必须监管 AI

美国 FTC 主席莉娜·可汗:为什么必须监管 AI

公众号新闻


AI 发展,可以绕开 Web 2.0 时代的垄断弯路?


编译 | 美漪
编辑 | 靖宇


作者:Lina Khan

来源:https://www.nytimes.com/2023/05/03/opinion/ai-lina-khan-ftc-technology.html


从调查亚马逊,到单挑 Facebook,美国最年轻的 FTC 主席莉娜·可汗是全球科技监管领域的「铁娘子」。

由 ChatGPT 带火的最新一波 AI 浪潮兴起之时,可汗在 NYT 上写下署名文章,阐明对于巨头正在争抢的 AI 赛道,FTC 必须要加强监管。

以下为莉娜·可汗关于 AI 监管的全文:

与 AI 进行仿真的对话,既令人兴奋又令人不安。由于生成式 AI 的快速发展,我们中的许多人,现在已经体验到了这种潜在的革命性技术,它对世界各地人们的生活、工作和交流方式都产生了巨大的影响。

生成式 AI 的全部潜力仍有待讨论,但毫无疑问,它将是高度颠覆性的。

上一次,我们发现自己面临由科技带来的广泛的社会变革,还是 2000 年代中期,Web 2.0 时代的开始。像 Facebook 和谷歌这样的新型科技公司,彻底改变了传统的通讯方式,并为快速增长的用户群体,提供了创新的服务。

然而,这些创新服务是以高昂的代价换来的。

我们最初设想的免费服务,最终通过对使用这些服务的人和企业,进行广泛监控,从而完成了商业化。其结果是形成了一种「网络经济(online economy)」,而在这种经济中,提供越来越多的基本服务的前提是,广泛地囤积和出售用户的个人数据。

这种商业模式促使科技公司想方设法地来追踪用户,甚至不惜违法法律。少数的这几家巨头,使用用了一些激进的策略,像是收购,或封锁有潜在威胁的公司,从而巩固自己的主导地位。

一系列革命性的技术,最后却沦为对一些关键服务的加强,并定型成了以用户的隐私和安全为代价的商业模式。

但是,Web 2.0 时代的发展轨迹,并不是不可避免的——它是由广泛的政策选择所决定的。

而现如今,我们面临着另一个关键的抉择时刻:AI 技术的应用越来越广泛,政府官员有责任确保其发展不会重蹈覆辙。

随着各家公司竞相部署 AI,并从中获利,联邦贸易委员会(FTC)正在仔细研究,如何才能最好地实现我们的双重任务,即促进公平竞争,和保护美国人免受不公平或欺骗性行为的影响。

随着 AI 技术的发展,我们将致力于尽我们的职责,维护美国长久以来的传统——维持开放、公平和竞争的市场。正是这样的市场支撑着突破性的创新,和我们国家的经济成功,绝不能容忍大规模剥削用户的商业模式或做法。

虽然这些工具是新的,但它们仍受现有规则的约束。而且,即使在这个新的市场,联邦贸易委员会(F.T.C.)也会积极地执行我们负责管理的法律。

虽然 AI 技术正在迅速发展,但一些风险已经显露出来。

首先是,随着 AI 技术的应用范围不断扩大,现有科技巨头的「主导地位」会得到强化。

这意味着,少数强大的企业,控制着其他公司和初创企业,开发和部署 AI 工具所必需的原材料,包括云服务(cloud services)和算力(computing power),以及大量的数据。

这些占据主导地位的公司,可以通过控制这些关键投入,来打压下游的竞争对手,从而巩固自己的地位。对此,执法者和监管者必须保持高度警惕。

此外,企业用来制定各种价格的 AI 工具(从洗衣粉到保龄球道预订等),还会助长哄抬价格的合谋行为,以及各种形式的价格歧视。

值得强调的是,执法者的责任是「双重」的。这意味着,我们不仅要防范 AI 技术带来的危险,还要促进公平竞争,以确保这些技术的市场合法发展。

联邦贸易委员应当充分发挥法律管辖权,来处理快速发展的 AI 技术带来的问题,包括串通、垄断、兼并、价格歧视和不正当竞争。

其次,生成式 AI 还有可能助长欺诈行为。

虽然,它可能还没有准备好取代专业作家,但它已经可以比普通的网络骗子,更好地捏造一个看似真实的信息,使骗子们能够快速而廉价地生成内容。

聊天机器人已经被用来生成诈骗性质的钓鱼邮件(spear-phishing emails)、虚假网站和虚假消费者评论。AI 机器人甚至被命令使用针对特定群体和社区的词汇或短语。例如,诈骗者可以根据用户的社交媒体帖子,起草高度针对性的钓鱼邮件。除了制作换脸视频(deep fake videos)和语音克隆的工具外,这些 AI 技术还可以被用来进行大规模的欺诈和敲诈。

在针对这些 AI 诈骗行为执法时,我们不仅要打压部署这些 AI 工具的获得蝇头小利的骗子,还要关注这些工具背后的上游公司。

最后,还值得注意的是,这些 AI 工具正在接受大量不受检查的数据库的训练。

由于,训练数据可能包括充满错误和偏见的信息,这些 AI 工具就很有可能使「歧视自动化 (automating discrimination)」——不公平地将部分人排除在工作、住房或关键服务之外。这些工具还可以在私人电子邮件、聊天记录和敏感数据上进行训练,最终暴露个人隐私并侵犯用户隐私。

因此,针对 AI 技术,现有的禁止歧视的法律将继续适用;同时,禁止剥削性收集或使用个人数据的法律也将适用。

二十年前,科技公司的成长史可以作为一个「反面教材」,警示我们应该如何思考生成式 AI 的扩张。但历史也提供了科技技「造福社会」的经验。

20 世纪 60 年代末,面对反垄断审查,计算机巨头 IBM 公司,将软件从其硬件系统中分拆出来,促进了美国软件业的崛起,并创造了数万亿美元的增长。这时,政府要求 AT&T 开放其专利库,同样释放了数十年的创新,刺激了无数初创公司的发展。

美国政府对「促进公平、公开竞争」的「长期承诺」,是使这个国家成为经济强国和创新大国的一个重要部分。

现在,我们再次处于一个关键的决策点。美国能否抵制竞相压价的商业模式和垄断性的资本控制,从而继续成为世界先进技术的「故乡」?

答案是:可以的,如果我们做出正确的政策选择。


*头图来源:NYT

本文为极客公园原创文章,转载请联系极客君微信 geekparkGO



极客一问

你认为 AI 应该怎么监管?











微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
全澳前十富豪榜单出炉,吉娜·莱因哈特再踞榜首希腊罗德岛(Rhodes),面纱揭开APEX《战双》赛琳娜·岚音:手持提琴剑的黑长直美女!​新当选的国家主席、中央军委主席习近平进行宪法宣誓蒂娜·特纳 (Tina Turner) 去世,享年 83 岁天可汗(9)个人奋斗结合历史进程后的伟大高峰——玄奘大师西天取经天可汗(7)钱权名的不能全占原理,女皇骑唐的蝴蝶效应源头(万字长篇)Colleges Offering a Religious Studies Major47岁安吉丽娜·朱莉有新恋情啦?神秘富豪比她年轻,身份显赫…美监管机构FTC批准微软“抄家”索尼、举证收购动视暴雪没垄断土耳其总统亲自命名!可汗战斗机配备先进头盔显示器与光电传感器抖音做酒旅,为什么必须上线“日历房”天可汗(上)东亚中亚命运共同体的构想,巨唐迈向世界大舞台的奠基拆解“中特估”:为什么是中国,为什么是现在?大结局!商鞅为什么必须死?燕梳楼:为什么必须要彻查鼠头鸭脖真相?可汗学院创办人Sal Khan:生成式AI 会是最好的个人化家教天可汗谢幕(10)唯大英雄能本色,是真名士自风流【Zoom活动】与退休宇航员安娜·李·费舍尔博士一起进行讨论,4月13日晚8:00-9:00天可汗(下)恰到好处的离去,是天对神的恩典重登当天可汗与中东样板房美食坊海鲜阁粤式饮早茶量子领导者大师丹娜·左哈、法国前总统德维尔潘面对面大师课报名专栏 | 堵“监管真空”,去“监管重复”:中国金融监管体系发展的分分合合为什么必须来中国?他说:“只有这里的竞争会让你全力以赴”Colleges Offering a Philosophy Major【金融行业】监管部门加强银行间与交易所债市发行监管—监管政策周报澳中企业家俱乐部主席袁祖文先生来访泰国并回访泰中东盟经贸促进会萧国刚主席、杜威逸副主席、沈祖强副主席、东南亚房地产业协会魏勇会长【北京美国中心活动】与退休宇航员安娜·李·费舍尔博士一起参加电影放映并进行讨论,4月13日星期四6:30pm-9:00pm法律翻译|美国反垄断法经典案例:国家石油公司诉可汗案【上海美国中心活动】国际女性电影节放映德国电影《汉娜·阿伦特》,3月23日,周四,18:30-20:30为什么必须让女性参与家庭财务决策南澳散记 (增订本) :第二十四章:吃蟹杂谈“摇滚女王”蒂娜·特纳 | 经济学人讣告只来上海待三天,有什么必吃榜?
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。