Redian新闻
>
GPT-5不能停!吴恩达田渊栋反对千人联名,OpenAI CEO也发声了

GPT-5不能停!吴恩达田渊栋反对千人联名,OpenAI CEO也发声了

公众号新闻
Pine 发自 凹非寺
量子位 | 公众号 QbitAI

千人联名要求“暂停巨型AI实验”在网上经过一天的发酵,各方声音都已经涌现出来。

继LeCun之后,吴恩达、田渊栋等一众AI大牛也发文公开反对“千人联名”。

吴恩达表示,在GPT-4出现之后要求AI训练暂停6个月是很可怕的事情:

(GPT-4)在教育、医疗保健、食品等领域都有很多新的应用,这将帮助许多人。

随后田渊栋也转发并附议,称“我不签暂停令”,并将AI的发展比作囚徒困境

一旦开始,就没有办法停止或扭转这一趋势,这就是进化的必然。

应该换个角度继续向前看,更好地理解 LLM,适应它并利用其力量,感受热度。

在吴恩达的帖子下面,Meta数据科学家林致远,英伟达AI研究科学家Jim Fan也都表示赞同。

对于这个暂停令,还有一些领域大佬“妙语连珠”,直接yygq了起来:

本特利学院的数学教授表示,那既然这样,我呼吁暂停碳排放6个月,这样我们就可以在此期间解决气候变化问题。

谷歌大脑的高级研究员Yi Tay直接调侃,如果是把那些在网上胡乱讨论大语言模型(LLM)的人禁言6个月,我会签的。

而处于这场讨论中心的无疑是OpenAI,CEO奥特曼今早也发了一条“展望未来AGI”的推文,疑似对昨天这场风波做出回应:

一个好的AGI应该具备这三个特点:

1、对齐超级智能的技术能力;2、大多数领先AGI之间的充分协调;3、一个有效的全球监管框架。

“潘多拉的魔盒”已经打开

在吴恩达的帖子里,除了上面提到的应用价值外,他还从竞争、风险以及AI发展的角度详细阐明了“为什么要反对暂停令”。

首先是竞争方面,让第三方暂停他们不了解的新兴技术是反竞争的,树立了一个可怕的先例,是糟糕的创新政策。

然后是AI风险,目前很多流媒体平台渲染的“AI公司疯狂发送不安全代码”是不正确的,绝大多数AI团队都十分注重人工智能的安全问题。

最后再回到“6个月暂停令”本身,这并不是一个非常切实可行的建议,是在扼杀AI进步。

要提高人工智能的安全性,应该是在安全方面进行更大的投资,有关透明度和审计的规定将更加切实可行。

对此,有网友也同样聚焦“6个月的暂停”呼吁,称“要求暂停”并不能让诉求更好地被解决:

暂停令即使出于好意,也会让更微妙、更有建设性的对话变得更难进行。

当然也有人质疑起了马斯克、Bengio等人发起“暂停巨型AI实验”的动机,将其归结为巨头之间的利益之争:

对于发起者以及签署者们的心理,网友直接锐评道:

签署暂停是因为他们不信任人工智能吗?不是,是因为他们不信任人类。

也有网友直接将AI发展比作潘多拉的魔盒:一旦打开,一切都不可避免了。

利益之争?

虽说我们一众“看客”并不清楚“暂停令”的发起者或签署者们是不是有什么私心,但仅仅将这条呼吁归结为利益之争肯定是不全面的。

那为什么他们要发起这项呼吁?为什么非得是暂停六个月呢?

先是为什么要发起这项呼吁,在那封公开信“暂停巨型AI实验”已经有讲明一些原因。

而为什么非要暂停六个月,或许可以从赞同的声音中窥探到一些其他答案。

赞成的网友这边,有人称正是因为AI发展像“潘多拉的魔盒”,但目前还没有被打开,还有挽救的余地:

任何具有实验室逃逸潜力的研究都应该受到国际监管,我们应该尽力去挽回,但如果你释放了一些无法挽回的东西,我们就有麻烦了。

还有一种观点是,目前的AI发展成果已经足够人类使用,暂停几个月也无妨:

GPT-4够用了,仅仅是优化它和扩展插件就能满足至少几年的需求,我们现在需要更多的时间来理解AI如何与互联网互动,并且我认为测试越来越强大的AI是危险的。

当然在这样一群争论中,还有一股清流,无所谓“AI安全”,他们自称降临派:

有高赞微博直接明晃晃地称:

我们羰基生物本来就是开启硅基生命的钥匙罢了。

是对人类太失望了吗 (Doge)

对于这长达一天多的“是否暂停巨型AI实验”之争,网友一针见血地总结:

有的人看到利益,有的人看到文明,有的人看到热闹。

但无论如何,对于“拯救派”们来说,依旧有几个问题不容忽视:

  • 人工智能安全的问题该如何解决?

  • 暂停AI发展是明智之举吗?还有没有其他方法?

对此,你怎么看?

参考链接:
[1] https://twitter.com/tydsh/status/1641203830124859392
[2] https://twitter.com/2020science/status/1641123382115864576
[3] https://twitter.com/XRImagineer/status/1641240405525291009

「人工智能」、「智能汽车」微信社群邀你加入!

欢迎关注人工智能、智能汽车的小伙伴们加入交流群,与AI从业者交流、切磋,不错过最新行业发展&技术进展。

PS. 加好友请务必备注您的姓名-公司-职位噢 ~


点这里👇关注我,记得标星哦~

一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见 ~ 

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
GPT-5不能停!吴恩达和LeCun直播回怼马斯克:汽车都还没发明,要什么安全带...韦神出的这道题火了,GPT人工智能顶级专家“怒怼”马斯克:GPT-5不能停!|中企荐读微信回应头像褪色,部分C刊不准隐瞒ChatGPT使用,微软推进裁员,Opera新版集成ChatGPT,这就是今天的其它大新闻!“睡了七天,说分手就分手”革命化春节:我们曾经革了春节的命 (ZT)田渊栋:关于GPT-4的一点感想(后一篇)吴恩达给ChatGPT泼冷水/ 罗永浩谈欠薪/ 谷歌元老离职... 今日更多新鲜事在此马斯克签署千人联名信:GPT-4 太危险,所有 AI 实验室必须立即暂停研究!吴恩达教你如何玩转ChatGPT,限时免费!吴恩达联手 OpenAI 上线免费课程:一个半小时学会 ChatGPT Prompt 工程吴恩达联手OpenAI上线免费课程:一个半小时学会ChatGPT Prompt工程马斯克呼吁暂停 AI 研究,吴恩达:呼吁无效!潘多拉的魔盒能“安全”打开吗?吴恩达推出新课,91%招聘需要!Prompt工程快学起来吧为何不能暂停 AI 研发?杨立昆、吴恩达对话实录GPT-5 不能停!吴恩达 LeCun 直播回怼马斯克:汽车都还没发明,要什么安全带田渊栋:关于GPT-4的一些感想OpenAI CEO 公开辟谣 GPT-5,为什么 OpenAI 总是这么坦诚?| 万字详述ChatGPT 火爆全球后,OpenAI CEO 称“它很酷,但却是个糟糕的产品”OpenAI CEO也被美国国会盯上了几行代码,GPT-3变ChatGPT!吴恩达高徒、华人CEO震撼发布Lamini引擎暂停GPT-5研发呼吁引激战!吴恩达、LeCun带头反对,Bengio站队支持GPT-5不能停!吴恩达、LeCun反对千人联名!OpenAI CEO也发声了...Gpt 4一出,谁与争锋唤醒突发!ChatGPT遭多国调查,OpenAI凌晨发文,GPT-5要被叫停?GPT“救救人类”!马斯克等千人联名反对AI实验!“暂停GPT-5!”马斯克等千人联名叫停强AI研发:它太可怕了突发!ChatGPT遭多国调查,OpenAI凌晨就安全问题发文,GPT-5要暂缓?GPT-4强到离谱,OpenAI拒绝Open!首席科学家:开源并不明智,我们之前错了别让GPT-4再进化!马斯克带头签署千人联名信,紧急呼吁AI实验室立即暂停研究LeCun、田渊栋参与撰写,70页「自监督学习」大全来了LeCun吴恩达开直播,疾呼GPT-5不能停!LeCun:干脆管制凤头鹦鹉6个月如果您是西城人,这些事儿您肯定门清儿!在目前流行的奥密克戎亚系背景下免疫功能低下患者预防和治疗 SARS-CoV-2 感染的最新信息-美国CDC《吴恩达ChatGPT最新课程》,中文版来了!二年级选课,忽闻一夜 GPT 来,千课 万课 AI 开Agustín Hernández:中美洲建筑背景下的未来主义巨构
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。