Redian新闻
>
谷歌、微软等“七巨头”发声!

谷歌、微软等“七巨头”发声!

财经


2023.07.22

本文字数:1810,阅读时长大约3分钟



导读这些企业的高管承诺,将为消费者创建识别生成式人工智能的方法,并确保在生成式人工智能工具发布前,会测试其安全性。


作者 | 第一财经 钱童心


当地时间7月21日,包括谷歌、微软、OpenAI、亚马逊、Meta、Anthropic、Inflection在内的七家顶级人工智能公司在白宫召开会议。这些企业的高管承诺,将为消费者创建识别生成式人工智能的方法,并确保在生成式人工智能工具发布前,会测试其安全性。

美国会推出AI法规前的“过渡”

据了解,参加周五白宫会议的高管包括亚马逊AWS首席执行官Adam Selipsky、Anthropic首席执行官Dario Amodei、谷歌全球事务主管Kent Walker、Inflection首席执行官Mustafa Suleyman、Meta全球事务主管Nick Clegg、微软总裁Brad Smith以及OpenAI总裁Greg Brockman。
美国对于人工智能的监管是全球较为宽松的,因此人工智能创新也能在美国得以较快的发展。然而,自从OpenAI去年年底发布ChatGPT以来,生成式AI的安全性已成为人工智能领域的首要关注点。顶级科技公司和投资者正在向生成式AI背后的大型语言模型投入数十亿美元。
白宫与企业召开会议后,企业同意为生成式AI技术的快速发展提供新的保障措施。这些措施包括为人工智能内容添加水印,以使其更容易识别,以及对技术进行第三方测试,以试图发现危险的缺陷。
具体而言一共涉及八项措施:在音频和视频内容上使用水印来帮助识别人工智能生成的内容;在向公众发布工具之前,请独立专家评估其工具的安全性;与其他行业参与者、政府和外部专家分享有关最佳实践和规避安全措施的尝试的信息;投资网络安全措施;鼓励第三方发现安全漏洞;报告技术的局限性并指导适当使用人工智能工具;优先研究人工智能的社会风险,包括歧视和隐私问题;使用最前沿的人工智能系统(前沿模型)来解决社会最严重的问题,例如缓解气候变化和疾病等社会挑战。
以上为企业的自愿承诺,这些措施将成为美国国会通过正式的人工智能监管法规之前解决风险的直接方法。美国国会正在考虑有关人工智能的规则,但这一实施标准的制定可能需要数月或数年的时间推出。
拜登在白宫发表讲话时表示,这些公司的承诺是“真实而具体的”,将有助于“开发安全、可靠和值得信赖”的技术,造福社会并维护价值观。但一些人工智能监管倡导者表示,拜登的举动只是一个开始,还需要做更多工作来让科技公司及其产品承担相应的责任。

企业“自己约束自己”几乎不可能

非营利组织Common Sense Media创始人兼首席执行官詹姆斯·斯泰尔(James Steyer)在一份声明中表示:“许多科技公司实际上并没有兑现自愿承诺采取负责任的行动并支持强有力的监管。”
AI Now Institute研究小组执行董事安巴·卡克 (Amba Kak) 表示:“我们需要更广泛的公众审议,要指望企业自己提出问题并履行承诺几乎是不可能的,因为这会直接影响它们的商业模式。”
卡克指出,应更加关注“八项承诺”清单中未被列入的问题,例如竞争问题、这些人工智能系统的歧视性影响等。“这些公司表示,他们将研究隐私和偏见,但事实上我们已经拥有强大的研究机构对此展开研究,现在我们需要的是问责制。”他表示。
还有一些专家则担心,这种监管类型可能会对OpenAI、谷歌和微软等财力雄厚的行业巨头有利,因为较小的参与者会因为合规问题而付出高昂的成本,从而失去竞争力。
值得关注的是,就在周四,OpenAI公司的信任和安全团队负责人戴夫·威尔纳(Dave Willner)宣布离职,威尔纳的离职凸显了OpenAI面临的监管压力。
在今年5月的一封公开信中,人工智能的行业专家和领导人呼吁“减轻人工智能带来的灭绝风险,应该与流行病和核战争等其他社会规模风险一起成为全球优先事项。”
目前,欧洲和中国在人工智能的监管方面走在前沿。上周,中国网信办联合七部门公布《生成式人工智能服务管理暂行办法》,新的《办法》将于下个月正式生效。《办法》从生成式人工智能服务商的准入,算法设计、训练数据选择、模型到内容,以及用户隐私、商业秘密等方面提出了相关要求。
欧盟立法者也一直在就成员国内部达成全面的人工智能规则进行谈判。尽管细节仍在讨论中,但欧盟人工智能法案包含强有力的法规,将为消费者提供重要的保护,并旨在防止某些类型的高风险人工智能模型的过度扩张、侵犯隐私和偏见。
联合国也正在呼吁采用人工智能“全球监管标准”。联合国秘书长安东尼奥·古特雷斯最近表示,联合国是采用全球标准的“理想场所”,联合国还任命了一个委员会,将在年底前报告全球人工智能治理的选择。
古特雷斯还表示,他欢迎一些国家所呼吁的建立一个新的联合国机构,以支持全球治理人工智能的努力,该机构可以参照国际原子能机构或政府间气候变化专门委员会等模式。
微信编辑 | Ziang


微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
医疗大模型火了!谷歌、微软全All in亚马逊、谷歌、微软,三大云巨头还没能从AI大模型中赚钱|甲子光年亚麻、微软官宣:这张Data Analyst证书留学生零门槛拿!寄养小猫13: Callie(续)硬核观察 #1090 甲骨文、SUSE 等“抱团”制作兼容版企业 Linux美国科技股“七巨头”疯涨半年,最后的多头狂欢是否到来?下半年华人群体该如何做好资产配置?「AI 七巨头」在白宫做出「8 大承诺」,他们都承诺了什么?突发!美国将限制中国企业使用亚马逊、微软等云服务从“七巨头”看美股的集中度风险多伦多大统华这次真的过分了!黑松露蛋糕!腌笃鲜月饼!爆浆黑刺冰皮等“排队王”全上架...微软、谷歌、英伟达领军,红得发紫的生成式AI在医疗已有哪些进展?【周六前瞻】Meta、微软、谷歌财报来袭,美股下周应该关注什么?突发!农业银行、民生银行等“栽了”冷却的不止季节(68)— 制肘的心事美国拟限制中国用户使用亚马逊、微软等云服务科技巨头年薪曝光!谷歌、Meta收入高?来一看究竟AI巨头们给白宫交卷:谷歌、OpenAI、牛津等12家顶尖机构联合发布「模型安全性评估框架」恒大两年巨亏8000亿;蒋凡重回阿里合伙人;中炬高新高层再换血;微软、谷歌、Meta财报来袭|一周市场盘点梭鱼草分蔸送友亚马逊、谷歌、微软,三大云巨头还没能从AI大模型中赚钱突然崩了!特斯拉狂跌10%,“七巨头”一夜蒸发近两万亿!张忆东:警惕AI成黑天鹅,A股投资战略方向两个,港股要等“水”来冲刺秋招 |比肩亚麻、微软!开价$24w疯狂抢NG,这家公司赢麻了!拖拽下图像就能生成视频,中科大、微软等DragNUWA属实惊艳今年美国孩子的暑假,勉强能排个“五等“吧从小学霸、清华本硕博、微软科学家,这些“成功”却没让我过上自己认可的人生微软、谷歌、亚马逊,正在打响大模型时代的云战争看电视连续剧《欢乐颂4》日本血案!射杀2名警察,凶手竟是"官二代"!俄罗斯紧急召见,啥情况?马斯克"宣战"谷歌、苹果苹果、微软、Google、迪士尼...这些巨头怎么都是从车库起步的?特斯拉、谷歌、优步的巨头之争,这本书讲透了“过念头”“翻行头”“轧苗头”……你还知道哪些上海话中“头”字结尾的三字词语吗?​45人争夺7个席位,西雅图市议员竞选空前激烈;美国万亿美元公司俱乐部的七巨头美国再次伟大的未来比肩亚麻、微软!开价$24w疯狂抢NG,这家公司赢麻了!
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。