Redian新闻
>
大模型要凭证才能开发?至少OpenAI是这么向监管者建议的

大模型要凭证才能开发?至少OpenAI是这么向监管者建议的

科技

本地视角记录硅谷,全球视野关注创新
别忘了给我们加星标~


2023



新技术追踪


BUSINESS







AI已经来到了“原子弹时刻”


文|  编辑| VickyXiao



有趣的一幕发生了。


今天上午,在美国国会针对人工智能监管的听证会开始时,参议员理查德·布卢门撒尔 (Richard Blumenthal)“讲”了一段宣言。他的声音在大厅里起:“我们经常看到技术超过监管时会发生什么。加深对个人数据的无节制利用、虚假信息的泛滥和社会不平等

然而镜头扫到时,他的嘴并没有动。直到最后他忍不住发出笑声,才颇为得意地揭晓这段音频是用语音克隆程序根据他在参议院的演讲资料生成,而文本,当然是他用OpenAI的ChatGPT编写的。


所有人的目光都转向了OpenAI的首席执行官Sam Altman以下简称奥特曼)。此时他正坐在证人席上准备提供证词,旁边还有 IBM 的首席隐私和信任官 Christina Montgomery。Blumenthal 说,人工智能能够制作出如此逼真的音频片段真是太神奇了,但潜在的应用可能是可怕的。 


参议院司法小组委员会的乔希·霍利也在听证会开始时警告说,生成式人工智能“至少在规模上类似于互联网的发明”。他说这可能是“人类历史上”最重要的技术创新之一,但它可能会产生像原子弹一样的严重后果。


AI的势头如此之猛,几个月之内,已经眼看着它的诞生慢慢从“iPhone时刻”上升到了“原子弹时刻”,而背后最大的推手,奥特曼也在此时来到了美国国会,接受议员们的质询。


然而,和此前硅谷各巨头因为用户隐私和数据安全问题受到激烈批评不一样,奥特曼这次显然受到了更友好的待遇。议员们基本上没有批评OpenAI的做法,而是非常友善地征求奥特曼和其他证人对ChatGPT等生成人工智能的潜在监管的意见。奥特曼也出乎意料地配合,多次主动要求监管介入,甚至还主动提出了要求政府成立监管机构的想法,让AI领域也开始“凭证入场”。


图片来自Twitter

自我监管 凭证入场


说奥特曼是科技公司高管里最配合甚至是最主动要求监管介入的,绝不为过。他反复强调,AI的强大,让监管在现在看起来就非常重要,而且他很同意需要一个新的机制来处理AI的监管问题。他甚至有备而来地在这次听证会上建议美国政府应该如何监管像OpenAI的公司,包括提出了三点计划:


组建一个新的政府机构,负责为大型AI模型颁发许可,如果有公司模型不符合政府标准,该机构可以撤销该公司的许可证;


• 为 AI 模型创建一套安全标准,包括对其危险能力的评估。模型必须通过某些安全测试,例如它们是否可以“自我复制”和“随意渗透”,即开始自主行动不受控制。


• 要求独立专家对模型在各种指标上的表现进行独立审计。


不过,对于当下开源界和企业界对AI模型最大的争议之一——训练数据是否应该透明化的问题,他却没有正面回答;也没有对另外一些颇有争议的问题提出回应,比如AI是否可以基于有版权的作品进行训练,以及AI开发者该如何补偿这些作品的创作者。

奥特曼这样配合的态度,无疑让议员们十分满意。毕竟行业高管主动呼吁监管的事儿几乎没有在此前的互联网公司里发生过。甚至有参议员直接问奥特曼本人是否有资格来担任AI监管机构的工作。当然奥尔特曼婉拒了这一邀请,他说他喜欢目前的工作,不过OpenAI可以提供一些不错的候选人名单。


奥特曼此前曾表示, “需要一部针对人工智能的新法律”。而这次,他也非常清楚地表明,230条款不是正确的监管人工智能的框架。(美国《通信规范法案》第230条被视为互联网行业的法律基石:如果用户在网站上发布虚假、有害内容,网站无需对用户发布的有害信息承担连带责任)。


奥特曼还警告说,如果AI出错了,那后果会非常严重。“对于一项非常新的技术,我们需要一个新的框架。““当然,我们这样的公司对我们推出的工具负有很多责任,但工具用户也一样。


不过网友对他的这番话也不全像议员们那样买账。有推特网友就讽刺说,奥特曼的实际想法其实是,”现在OpenAI领先了,政府快来管管我们的竞争者吧。“ 许多 AI研究人员也认为这是一种反竞争行为,因为”凭证入场“对大公司有利,却可能难倒小公司、研究人员和免费的开源替代方案。 


图片来自Twitter


拒绝暂停开发AI


AI发展如此之快,但是奥特曼再一次在听证会上公开拒绝了暂停人工智能开发的呼吁。


有议员提到此前伊隆·马斯克联合众多业内人士签署的要求暂停比GPT-4更强的AI模型研发,暂停时间至少为6个月时,奥特曼也表示,这个呼吁的框架是错误的。


他说,审计、测试、安全标准这些才是重要的,而日期上的暂停毫无意义。“我们暂停6个月,然后呢?我们再暂停6个月?”他说,OpenAI应用在GPT-4上的标准是一个正确的方向,他们会继续这么做,而不是做一个日期上的开发暂停。


但是,他也没有否认,或许暂停开发会在未来的某一天到来。“我相信会有一天我们觉得不了解在开发的东西了,我们会需要确实暂停一下, 但不是现在。”

垄断与竞争


几位参议员也对人工智能市场的垄断竞争敲响了警钟,警告说少数科技公司可能会主导这些工具。


有参议员表示,他对AI“最大担忧”之一是“这种大规模的模型技术集中在少数企业手上”。他以OpenAI与微软的合作为例,表示“看到现在很少有公司控制和影响我们这么多人的生活,而这些公司越来越大,越来越强大,这真的很可怕。”


作为回应,奥特曼表示,他确实认为“能够开发出大模型的企业数量相对较少”,但只有少数参与者可能会让监管变得容易。


“你真正需要关注的人越少......那就有好处。但我认为需要有足够的竞争,而且肯定一定会有。”他说。


无法承诺ChatGPT 无广告


当有议员在询问OpenAI是否会涉足广告业务时,奥特曼也对这种可能性持开放态度。毕竟OpenAI烧钱的速度在那里,此前有消息称,ChatGPT每天的开销就高达70万美元,ChatGPT Plus每月20美金的订阅费对此无疑是杯水车薪。2022年OpenAI的亏损大约翻了一番,达到约5.4亿美元。奥特曼甚至提过OpenAI可能会在未来几年尝试筹集多达1000亿美元的资金。


所以,对于广告模式,尽管奥特曼说“真的很喜欢”拥有基于订阅的模式,但他没办法承诺说“永远不会有广告”,而是暗示说,可能对于有些潜在客户,广告会是唯一能从他们身上获得收入的办法。


这也意味着,如果找不到其他赚钱办法,免费版本的ChatGPT(GPT-3.5)最终还是有可能会迎来广告。奥特曼的回答也表明,OpenAI至少没有完全否定在 ChatGPT免费版中投放广告以从其免费用户那里赚钱的可能性。


不过,说到投放依靠广告赚钱,谁会比谷歌和微软更在行呢?微软的Bing Chat已经开始出现广告的痕迹,谷歌的Bard虽然目前还没有广告,但是谁都知道,这只是时间的问题。


而奥特曼也借此次听证会再一次重申,他在OpenAI没有任何的股权,他做这些,“只是因为我真的热爱。”





*参考资料:

注:封面图来自于Pexels,版权属于原作者。如果不同意使用,请尽快联系我们,我们会立即删除。

END




喜欢这篇文章?



1)点击右下角的“在看”
2)分享到你的朋友圈和微信群
3)赶快关注硅星人吧!
关注硅星人,带你用本地视角看硅谷,全球视野看创新





微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
MIT打造实验科学家的大模型助手,语音聊天就能开展实验OpenAI CEO 公开辟谣 GPT-5,为什么 OpenAI 总是这么坦诚?| 万字详述巴菲特:两年前减持苹果是愚蠢的决定;陆奇:中国大模型要先赶上 GPT-3.5;羊了个羊侵害用户权益被通报 | 极客早知道对话云知声创始人梁家恩:大模型要在务实解决行业问题中演进!Agustín Hernández:中美洲建筑背景下的未来主义巨构8点1氪:调休制定参与者建议重新考虑政策;王慧文因健康原因辞任美团董事;上市公司宣传总经理女儿勇夺状元被质疑炒作刷屏了!60年一遇?至少10万年来的最高值!全球极端高温来袭,这一板块创历史新高!上市公司半年报频频预喜你是人世间最美的春天【金融行业】监管部门加强银行间与交易所债市发行监管—监管政策周报西雅图市长建议提高三倍地产税为无家可归者建房,纳税者不愿意买单!坚持做行业大模型,竹间智能给大模型造了一座「模型工厂」怎样的道歉才是有诚意的?至少这两个词你不能用CV迎GPT-3时刻!万物皆可一键抠图,Meta新模型要掀起CV革命?最新大模型排名!中文大模型评测基准SuperCLUE发布6月榜单只给大模型LeetCode编号,也能解题!大模型表现好是源于对训练数据的记忆吗?请不要迷信大模型硬核观察 #1011 OpenAI 呼吁像监管原子能一样监管超级智能密西击败多伦多!想从公寓“升级”到独立屋?至少存钱7年并花2倍成本!冯仑:我们为什么向东看房地产?花卉摄影,自由生长Nightmare 噩梦百度华为阿里等入选大模型“国家队”;盘古大模型3.0发布;阿里云推AI绘画大模型丨AIGC大事日报我与ChatGPT-4 再战江湖(文学)盘点四大技术板块,洞察百项人工智能开源项目——InfoQ研究中心带你探秘中国人工智能开源领域中国团队自动驾驶大模型斩获CVPR最佳论文;Stability AI推出新文生图模型;京东大模型即将发布丨AIGC大事日报清华系面壁智能开源中文多模态大模型VisCPM :支持对话文图双向生成,吟诗作画能力惊艳Hélène Binet:光的哲学家阿里达摩院大模型公开课上新!主讲中文个性化对话大模型ChatPLUG和模块化多模态大模型mPLUG-Owl证监会发布:监管规则适用指引—境外发行上市类第6号:境内上市公司境外发行全球存托凭证指引纽约天然气将涨价17%!国家电网向监管机构提交申请大模型变“小”:黑马天启开创AI模型“重度垂直”新思路,入选北京大模型行业应用典型案例AI 大模型爆发,如何 2 周上手 AI 应用开发?| 极客时间OpenAI 强烈主张美国的监管者把它“管起来”安以轩的丈夫,从商业帝国走向监狱Opera推出Opera One,将取代Opera浏览器七律--遥赏江南油菜花
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。