如何辨别文章作者是人类还是GPT？

2023-02-23 09:02

The SEC said, “Musk,/your tweets are a blight./They really could cost you your job,/if you don’t stop/all this tweeting at night.”/…Then Musk cried, “Why?/The tweets I wrote are not mean,/I don’t use all-caps/and I’m sure that my tweets are clean.”/“But your tweets can move markets/and that’s why we’re sore./You may be a genius/and a billionaire,/but that doesn’t give you the right to be a bore!”

这首诗出自一台运行GPT-3（第三代生成式预训练模型）软件的计算机，描述了马斯克与美国证交会之间的争执。由旧金山OpenAI开发的GPT-3代表了AI前沿领域的最新进展，其基础理念是“语言模型”，也在面临瓶颈期的业界和学术界激起争论。GPT-3推出当年的规模空前巨大，其底层模型号称有1750亿个参数，计算机能据此生成复杂精妙、近似人类书写的文字。但这个程序并不完美，最根本的问题是什么？上方扫码可直接订阅商论，中英对照阅读《比特文学》全文。

《经济学人·商论》2020-08

《比特文学》（Bit-lit）

当年，OpenAI将GPT-3的一个早期版本拿给一些人，让他们探索它的功能。AI研究员、企业家埃利奥特·特纳（Elliot Turner）展示了如何用该模型把粗鲁的语言转换为比较礼貌的表达，或许能在网上许多戾气较重的场所派上用场。人类读者已经难以把这个机器撰写的新闻与人写的区分开来（见图表）。

《经济学人·商论》2020-08《比特文学》（Bit-lit）

鉴于OpenAI希望最终能在市场上出售GPT-3，这样的结果预示着可观的前景。但这个程序并不完美。有时候，它似乎只是搬出一些它背下来的语句片段，而不是生成全新的文字。更根本的问题是，基于统计的词语搭配并不等同于对这个世界的连贯认知。GPT-3经常生成一些语法正确但脱离现实的文本，比如它声称“从夏威夷跳到17需要两道彩虹”。圣塔菲研究所（Santa Fe Institute）的计算机科学家梅勒妮·米歇尔（Melanie Mitchell）指出：“它没有关于这个世界——或者任何世界——的任何内部模型，因此无法进行需要这种模型支持的推理。”

要揭开它欺骗性的表象，暴露其缺乏理解力的本质，让模型回答问题是个好办法。兼有AI和量子计算背景的研究人员迈克尔·尼尔森（Michael Nielsen）发布了一段与GPT-3的对话。他向程序提出了一个关于量子计算机潜力的重要的开放性问题，GPT-3自信满满地给出了断言。它的回答貌似有突破性，但尼尔森进一步追问要求它解释时，情况就不妙了。GPT-3并不真正理解要它做什么，只好泛泛而谈，闪烁其词，把它一句现成的套话重复了四次：“对不起，我没时间解释为何不是如此的根本原因。”... ... ...

【付费文章】欢迎打开商论App，订阅后读完文章，搜索“AI”获取更多主题内容

年度订阅超值权益

商论APP核心功能：

3000+中英双语原刊文章
2000+BBC主播原声朗读音频
《经济学人》双语纪录片系列

加入【吴晨主编领读社群】

加入订户专享的吴晨主编领读社群，每日获取主编推送
与其他订户的高质量交流群组
编辑精选《经济学人·商论》阅读指南

加入终身学习之旅：

商论直播对话系列
优先参与线上线下活动，与主编面对面

点击“阅读原文”订阅商论↓

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章