Redian新闻
>
LeCun:ChatGPT是「外星人」,所以才会胡说八道

LeCun:ChatGPT是「外星人」,所以才会胡说八道

公众号新闻
Pine 发自 凹非寺
量子位 | 公众号 QbitAI

LeCun现在是彻底不搞技术了???

最近他开始从社会科学的角度分析起了爆火的聊天机器人:

为啥ChatGPT很容易就会胡说八道?

只因它是外星人

这是LeCun和专门研究AI哲学的纽约大学计算机系博士后在最新一篇论文中的观点。

论文中提到的“外星人”是指从社会规范、自我约束等方面不同于正常社会人的指代。

(听起来是有点子哲学意味在里面的)

而文章中提到的观点,可是引起了网友们的热烈讨论。不少网友纷纷表示赞同:

说得太准确了。

那LeCun在论文里具体都讲了些啥?

一起来看~

ChatGPT为什么不能像人一样?

当然,要把ChatGPT这类聊天机器人和人放在一起比较,那就得先从人开始入手了。

第一个问题:

一般情况下,人为什么不会胡说八道,甚至说出一些“反人类”的话?

文章给出了三点原因:

(1) 社会规范:人们不仅要主动遵守外部社会规范,还要受到人体内在规范的约束。
(2) 惩罚违反者:这里的惩罚更侧重在社交层面的惩罚,违反交谈规范的人容易遭到群体的“排斥”甚至“孤立”。
(3) 规范已经内化于情感:违反规范时会愤怒,被冒犯会厌恶,被抓住说谎时会羞耻……

而基于这些原因,人们在讲话之前都会自然而然过滤掉一些言论,以确保更符合社会规范以及自己的内在规范。

(嗯嗯。当代年轻人现状:表面笑嘻嘻,内心mmp)

反过来再看看ChatGPT这些聊天机器人。

相较于人类,它们讲话似乎就更随心所欲,我们没说出来的潜台词它全说出来了。(Doge)

比如说,ChatGPT的老毛病:胡说八道,最初提示词稍微换个说法,就能让ChatGPT写出毁灭人类计划书。

甚至还能生成一些带有种族歧视的答案:

那么第二个问题来了:

为什么ChatGPT不能像人们一样遵守社会规范呢?

原因有三:

(1) 它不需要承担违反社会规范的压力,即使承认自己犯错并道歉后,它也并未意识到原因。
(2) 它们没有内在目标,它们的唯一任务就是交谈。
(3) 它们更聚焦在当下的对话,脱离了更大的社会语境,根本不理解人类表达的方式。

在论文中,LeCun更是直接指出:

ChatGPT是“外星人”,它根本就不理解并认同社会规范

也就是说,ChatGPT只是为了交谈而交谈,而人类在互相交谈时是有社会文化驱动的。

网友讨论

LeCun的这一通从社会科学角度的分析可是引起了网友们的激烈讨论。

一边,网友们对LeCun的分析啧啧称奇:

这项工作实在是太棒了。

还有网友看完之后,一针见血地总结道:

它们(聊天机器人)根本不会使用语言。

另外一边呢,则是觉得LeCun从社会科学的角度分析完全是瞎扯,网友称:

这只是一堆软件把程序设定的东西吐出来而已,根本就没有意识。

甚至还有人直接开启嘲讽模式:

现在一个机器人心理学家在解释糟糕的程序设计。

作者介绍

Yann LeCun,就不用再多说了,图灵奖得主,纽约大学教授,Meta的首席AI科学家,大家都已经很熟悉。

另外一位作者需要好好介绍下。

Jacob Browning,纽约大学计算机科学系的博士后,主要研究人工智能哲学,具体来讲,是研究人工智能和认知科学是如何改变传统观念、学习和思维的。

而人工智能哲学,也在试图回答这几个问题:

  • AI可以有智慧的运作吗,可以解决人透过思考处理的所有问题吗?

  • AI和人类智慧本质上是一样的吗?

  • AI会有精神、心理状态和意识吗,能感知东西吗?

对于LeCun在论文中的观点,你是怎么看的呢?

论文地址:
https://www.noemamag.com/ai-chatbots-dont-care-about-your-social-norms/?utm_source=noematwitter&utm_medium=noemasocial
参考链接:
https://twitter.com/ylecun/status/1633459264508542978

「中国AIGC产业峰会」启动

邀您共襄盛举

「中国AIGC产业峰会」即将在今年3月举办,峰会将邀请AIGC产业相关领域的专家学者,共同探讨生成新世界的过去、现在和未来。

峰会上还将发布《中国AIGC产业全景报告暨AIGC 50》,全面立体描绘我国当前AIGC产业的竞争力图谱。点击链接或下方图片查看大会详情:

被ChatGPT带飞的AIGC如何在中国落地?量子位邀你共同参与中国AIGC产业峰会


点这里👇关注我,记得标星哦~

一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见 ~ 

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
LeCun:ChatGPT无法实现通用人工智能,但ALM技术路线可以!GPT-4苏醒,AI要「杀」人?Hinton、ChatGPT之父预警,LeCun怒怼:不如我家狗美精英评中美防疫的‘傲慢与偏见’LeCun畅谈:ChatGPT局限巨大,自回归模型寿命不超5年Prompt Engineering全面自动化:LeCun看了沉默,ChatGPT看了直呼内行老黄:ChatGPT是AI届iPhone/ 马斯克半夜在推特修Bug/ 国内C刊:用聊天机器人不许隐瞒...今日更多新鲜事在此蔚来试驾车冲进人行道致一死一伤;OpenAI CEO:ChatGPT是“糟糕的产品”;周黑鸭业绩预计大降超90%丨邦早报当ChatGPT“一本正经地胡说八道”时,我们该思考什么台湾名嘴为什么成天胡说八道?嘉御资本卫哲:ChatGPT是真技术、真需求,欠缺的是真商业模式看不下去AI胡说八道,英伟达出手给大模型安了个“护栏” | 开源《降临》作者特德·姜:ChatGPT是网上所有文本的模糊图像2023年才开始,10大胡说八道专家竞争激烈,看看他们都是谁?博客文章总汇ChatGPT惹怒主流媒体!华尔街日报、CNN授权费都没付!马斯克:ChatGPT好得吓人;用户吐槽:它有时会一本正经的胡说八道Yann LeCun:不在乎社会规范,ChatGPT离真正的人还差得远毛泽东诚请《贫下中农》当老师LeCun吴恩达开直播,疾呼GPT-5不能停!LeCun:干脆管制凤头鹦鹉6个月ChatGPT带火AI芯片,赚翻了的英伟达发布新核弹:ChatGPT专用GPU,让推理提速10倍!图灵奖得主LeCun:我赞成用LLM写论文!科研老将更恨ChatGPT?【冷兔趣闻】胡说八道的恋爱真的很有意思ChatGPT全新功能公开演示!OpenAI总裁:ChatGPT会重新定义计算机(全文记录)ChatGPT最大的隐患:当人类无法分辨AI在胡说八道我就是境外反华势力对话复旦管院张诚:ChatGPT是一场AI脱口秀丨驭势2023他们开源了GitHub上最火的双语对话模型,还说AI胡说八道不需要被纠正富士康科技首席数字官史喆:ChatGPT是划时代的效率工具 |中企荐读Yann LeCun:ChatGPT缺乏创新,没什么革命性;网友:早点离开Meta做出点突破吧GPT-4发现LeCun「小秘密」,一大波测评来袭:别问我是谁,我是GPT-3!ChatGPT讲座:ChatGPT并不神秘,但ChatGPT很神奇ChatGPT是怎么变得这么强的?拆解追溯ChatGPT各项能力的起源ChatGPT 或导致 20 种工作失业?恐怕远远不止,比尔盖茨 :ChatGPT 将改变世界iPhone 15 Pro或推新金色/OpenAI:ChatGPT是糟糕的产品/蔚来试驾车冲进人行道纽约每天30人死于XBBGPT-4发布后,其他大模型怎么办?Yann LeCun:增强语言模型或许是条路
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。