Redian新闻
>
ChatGPT有一种迷人的幽默感 | 硅谷观察

ChatGPT有一种迷人的幽默感 | 硅谷观察

科技

作者 | Farhad Manjoo



ChatGPT给人留下的第一印象十分迷人。它幽默感惊人,模仿能力绝佳,在押韵方面也相当有一手。它的观点还非常合理。要是ChatGPT没能通过图灵测试,那大概率是因为它什么事情都不发表自己的意见。上一次有人在互联网上拒绝谈论自己的真实想法,是什么时候?

几周前,当人工智能公司OpenAI推出了ChatGPT这款机器人,作为其大型语言模型工作的“研究预览”(research preview)时,我开始跟它聊天。语言模型是一种人工智能系统,通过大量的文本学习来捕捉词汇之间可能存在的联系。ChatGPT是一种经过优化的语言模型,其目标就是为了探索AI技术领域长期的“圣杯”——一台能与人类对话的计算机。

ChatGPT确实做到了这一点。我一生中跟许多计算机聊过天(我知道这很奇怪),但ChatGPT是我遇到的第一个堪称有趣的聊天对象。起初,我只是说一些琐事,但没过多久,我们就展开了深入的对话,比如:美联储在美国经济中的作用;意识的本质;“woke”(编注:原为非裔美国人的俚语,后来用于指“对种族歧视和偏见保持警觉”)和“Karen”(编注:一个姓名梗,指歧视有色人种的中年白人女性)之类的新词;养育子女的道德困境;怎么为罢工同事提供支持;气候变化、堕胎和疫苗安全;热狗算不算三明治,等等。

说到这里,也许我应该告诉你们——我对ChatGPT抱有一种敬畏或害怕的心态,因为它将会彻底改变或毁灭我们的世界。但是,尽管我认为ChatGPT揭示了AI的一些危险性,我拒绝对它给予强烈的赞扬或是谴责。

就像大多数鸡尾酒会上的闲聊一样,它的潜在利弊,至少就目前而言,都是相当有限的。我毫不怀疑像ChatGPT这样的东西可能会被滥用。它有可能会导致一些貌似科学的错误信息的病毒性传播,可能会降低学生论文作弊的难度。

但OpenAI似乎正在解决这些问题。在一次采访中,OpenAI的首席技术官米拉·穆拉蒂(Mira Murati)表示,该公司正在仔细监控人们在如何使用和滥用它,迅速完善系统来填补一些明显的漏洞,并根据用户反馈不断改进它。

事实上,ChatGPT对自身局限性的认知,正是其最有趣的性格特征之一。

与ChatGPT之间的许多对话都会变成这样:当你打算认可它的说法时,它就会转向高度谨慎的态度,宛如最高法院大法官候选人在其确认听证会上表现出的那样。它通常会提醒你,关于这件事还有其他说法,也许不存在一个明确的“正确”答案,以及你应该试着欣赏不同的观点。

在针对一些科学话题时,ChatGPT似乎更为笃定一些。例如,它会说“气候变化是真实存在的、正在发生的现象”,进化论“得到了来自许多不同领域的大量科学证据的支持”,以及地球当然不是平的。不过,总的来说,ChatGPT会坦白告诉你自己无法提供一个确定的答案。

为什么说ChatGPT的这一特征非常惊艳?众所周知,人工智能研究存在的两个问题分别是保持“一致性”和避免“幻觉”。一致性涉及到人工智能实现其人类创造者目标的能力,换句话说,就是拒绝对世界造成破坏;幻觉则跟坚持真理有关——当人工智能系统困惑不解时,它们有一个坏习惯,就是会编造一些事情,而不是承认自己遇到了困难。为了解决这两个问题,OpenAI的研究人员微调了ChatGPT的语言模型,名为“从人类反馈中强化学习”(Reinforcement learning from human feedback)。该公司雇用了真人与机器人互动。当人类与它聊天时,他们会对它的反应评级,这本质上是在教它:什么样的反应是好的反应,什么样的不是。

穆拉蒂告诉我,语言模型与人类反馈的结合,创造出了一个更逼真的人工智能对话伙伴,“这个模型可以分辨对错,”她说,“它可以顺着你的话题继续提问,也会质疑不正确的假设或拒绝不合适的请求。”

ChatGPT还远远算不上完美。Twitter上充斥着“破解”ChatGPT的例子,或者说,诱骗它产生幻觉或错位的例子。

外界针对像ChatGPT这样由“深度学习”计算技术构建的系统的一个主要批评是,它们只不过是增强版本的自动更正技术,所理解的只是单词之间的统计联系,而不是单词背后的概念。纽约大学心理学荣誉教授、深度学习怀疑论者加里·马库斯(Gary Marcus)表示,虽然像ChatGPT这样的人工智能语言模型可以说一些漂亮话,但它“仍然不可靠,仍然不了解物理世界,仍然不理解心理世界,仍然会产生幻觉”。

不过,与此同时,ChatGPT最大的特点就是它很谦虚。一天下午,我受够了它不断提醒我说,自己的答案可能是错的,我问它:“要是不管你说了什么,我都得确认一遍你说得对不对,那要你有什么用?这话可能有些不中听,不好意思。”

而它表示过意不去,“我无意成为一个确定的信源,我的职责不是替代那些专业的建议和知识。我在这里只是为了辅助提供一些有效信息,但最终还是需要用户自己对这些信息做核实和评估。”

这种谦逊让ChatGPT成了一款不同寻常的数字助手。你很少能在网上看到有人承认自己也许是错的。如果人工智能可以做到的最好的事情就是承诺自己会做得更好,那我愿意接受它。



识别下图二维码,

即可购买《公司的秘密》第四辑



微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
ChatGPT 进军 B 端?消息称微软将允许企业创建定制版 ChatGPT重磅!微软发布 ChatGPT 版搜索引擎,用上了比 ChatGPT 更强大的技术百度版ChatGPT确定为“文心一言”/ 戴尔裁员5%/ 苹果要开会应对ChatGPT…今日更多新鲜事在此试用ChatGPT有感:一个新时代正拉开序幕。有人说ChatGPT有物理学博士水平?中科院物理所的测试结果令人……剽窃、作弊,ChatGPT竟偷偷生成了12篇署名论文!Marcus炮轰Ta变成CheatGPT银座蹓有人说ChatGPT有物理学博士水平?我们的测试结果令人……ChatGPT讲座:ChatGPT并不神秘,但ChatGPT很神奇德国安全吗?ChatGPT到底有多聪明?我测试了ChatGPT的数学能力ChatGPT通过谷歌程序员面试,薪资达18.3万美元!ChatGPT通过谷歌程序员面试,薪资达18.3万美元!ChatGPT因访问量激增崩了;抖音否认3月1日上线外卖服务;百度将于3月推出ChatGPT产品丨邦早报巴黎,巴黎(1)华尔街交易员为何不担心ChatGPT抢饭碗?ChatGPT:我预测不了市场朋友圈全是ChatGPT! ChatGPT概念股大火下载量暴增10倍!微软必应集成ChatGPT后需求大爆发;4省份上调最低工资标准;淘宝已屏蔽ChatGPT关键词丨邦早报试用ChatGPT有感:一个新时代正拉开序幕!为什么ChatGPT这么强?—— 一文读懂ChatGPT原理!我家的超级足球迷紧急提醒!ChatGPT成神器!但这些“ChatGPT”是假的,小心被骗!ChatGPT带火AI芯片,赚翻了的英伟达发布新核弹:ChatGPT专用GPU,让推理提速10倍!重磅 | 我内测了微软最新的 ChatGPT 版必应:比 ChatGPT 更像人,但有一个大隐患我内测了微软最新的 ChatGPT 版必应:比 ChatGPT 更像人,但有一个大隐患朋友圈阴性已然清零ChatGPT有长期记忆了/ “微信版知乎”推出在即/ 高盛预测全球3亿岗位被AI取代…今日更多新鲜事在此父母称呼男友,爸妈有点幽默感的微信回应头像褪色,部分C刊不准隐瞒ChatGPT使用,微软推进裁员,Opera新版集成ChatGPT,这就是今天的其它大新闻!科早ChatGPT:如何应对ChatGPT?二级市场闭门研讨会精选 | S7E01 硅谷徐老师金融民工会因为ChatGPT下岗吗?刚刚,我问了ChatGPT 24个金融圈灵魂问题有人说ChatGPT有物理学博士水平?我们的测试结果令人…… | 中科院物理所集成ChatGPT后必应日活量首破亿!微软推出Azure OpenAI ChatGPT 服务,GPT-4下周发布孟晚舟将首次出任华为轮值董事长/ 百度All in类ChatGPT项目/ 知乎因ChatGPT大涨50%…今日更多新鲜事在此反击!Google 版 ChatGPT 首次亮相,有一个功能「碾压」ChatGPTChatGPT有多懂中国女性创业者?忽略细节你会感动不已
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。