Redian新闻
>
ChatGPT 5天用户破百万,却突遭Stack Overflow封禁

ChatGPT 5天用户破百万,却突遭Stack Overflow封禁

公众号新闻

机器之心报道

编辑:陈萍、小舟
如果有一天我们查询到的「知识」真假难辨,那这就太可怕了。


要问最近 AI 圈哪个模型最火爆,你不得不把 OpenAI 推出的 ChatGPT 排在前面。自从发布以来,这个对话模型可谓是出尽风头,很多人更是对其产生了一百个新玩法,让它写个代码、修改修改 bug、开发个小游戏、解答一下物理知识、去参加一场考试…… 仿佛没有它不会的。

「上周三才上线的 ChatGPT,短短几天它的用户已经突破 100 万大关!」OpenAI 的 CEO Sam Altman 表示。


就连马斯克都忍不住好奇的问了一句:「你们每次聊天的平均成本是多少?」


「每次聊天的平均费用可能只有个位数,我们试着找出更精确的方法以及正在尝试如何优化它。」Sam Altman 回答道。

由于 ChatGPT 在解决各种问题上的能力过于优秀,很多用户都表示 ChatGPT 可以取代 Google 等搜索引擎和 Stack Overflow 等编程问答社区了。


不过,虽然许多用户对 ChatGPT 的功能印象深刻,但其他人也注意到它一直倾向于生成似是而非的错误答案。例如,要求 ChatGPT 写一个公众人物的传记,它可能会很自信地插入不正确的传记数据。再比如要求它解释如何为特定功能编写软件程序,它同样可以生成可信但最终不正确的代码。

图源:https://twitter.com/CT_Bergstrom/status/1598212037901160448

ChatGPT 随时都有可能出错情况也促使 Stack Overflow 做出了一些反应。前两天还有人信誓旦旦的表示 ChatGPT 可以取代 Stack Overflow 了,令人没想到的是,今天 Stack Overflow 反手就把 ChatGPT 给封杀了。

这是怎么回事,原来在试用了一段时间后,人们很快发现,虽然 ChatGPT 以接近人类的方式回答提示,但它给出的答案可能存在缺陷。OpenAI 也提到这一点,ChatGPT 有时会给出看似合理但不正确或荒谬的答案。

对于这一问题,Sam Altman 也表示:「我们正在试图阻止 ChatGPT 随机编造,现阶段让其与当前技术保持平衡是很棘手的。随着时间的推移,我们会根据用户反馈来改进它,相信 ChatGPT 会变得更好。」


关于 Stack Overflow 为何禁用 ChatGPT,官方表示:「主要问题在于,虽然 ChatGPT 产生的答案错误率很高,但我们很难看出来它哪里错了。」这会造成问题回答鱼目混珠的情况。


接下来,Stack Overflow 将制定关于使用此工具和其他类似工具的具体要求。


Stack Overflow 宣布暂时封禁 ChatGPT 是因为它生成的答案正确率太低,发布由 ChatGPT 创建的答案对网站和查询正确答案的用户来说是非常有害的。


虽然 ChatGPT 生成的答案有很高的错误率,但这些答案通常看起来不错,而且生成答案的操作简单容易,许多人愿意尝试使用 ChatGPT 创建答案,但却没有专业知识或不愿意在发布之前验证答案是否正确。


最近几天,由于使用 ChatGPT 生成答案迅速简单,所以 Stack Overflow 上涌现了大量该模型生成的答案。这些答案通常需要具备一些专业知识的人详细阅读才能确定答案实际上是错误的。这种情况让 Stack Overflow 的质量管理遭到冲击。


对于 Stack Overflow 封禁 ChatGPT,网友们纷纷表达了自己的看法。

有人表示赞成,认为 AI 短时间内根本不可能生成完全正确的答案:


有人表示问题出在 Stack Overflow 用户在发布答案之前,没有认真检查和测试 ChatGPT 生成的代码,他们只是用 ChatGPT 快速生成答案并发布,导致答案中出现严重错误,甚至编程语言都是错乱的。


有趣的是,Stack Overflow 宣布封禁 ChatGPT 之后,有网友「询问」ChatGPT:「为什么 Stack Overflow 禁止用 AI 生成答案?」

ChatGPT 的回答非常诚实:「因为 AI 生成的答案不总是准确或相关的,可能会导致 Stack Overflow 上混淆错误答案,误导在寻求帮助的用户。」并且还表态:「Stack Overflow 禁止用 AI 生成答案是合理的。」


然后该网友又追问 ChatGPT:「为什么 Stack Overflow 允许用 AI 生成答案?」即使这只是个假设情况,但 ChatGPT 还是对答如流:

在 Stack Overflow 上允许 AI 生成的答案有一些潜在的好处。一方面,人工智能可能会为用户的问题提供更准确和详细的答案。这对于人类专家可能难以回答的复杂技术问题特别有用。此外,AI 生成答案可以帮助减少人类专家的工作量,使他们能够专注于更重要的任务。


然而,使用 AI 生成答案也有一些潜在的缺点需要考虑。例如,AI 生成的答案可能并不总是准确或有帮助的,而且人们可能担心用于生成答案的算法存在偏见。用户可能也对使用 AI 生成答案有顾虑,更愿意从人类专家那里得到答案。


总的来说,是否允许 AI 在 Stack Overflow 上生成答案是一个复杂的决定,需要社区仔细考虑。



综合上面回答,我们发现 ChatGPT 颇有自知之明,对 Stack Overflow 禁用 AI 生成答案的问题也阐述得有理有据。这说明从语言模型的角度讲,ChatGPT 已经非常成熟,但生成知识型内容并不是一件简单的事。

类似地,上个月 Meta 的模型 Galactica 上线仅两天后就火速下架,因为该模型生成的知识型内容存在严重错误。现在 ChatGPT 被 Stack Overflow 禁用再度证明构建「知识型模型」是一个巨大的挑战。

ChatGPT 的研究团队此前表示将根据用户反馈持续改进模型,但生成错误答案的现状表明,让语言模型生成正确的知识内容还有很长的路要走。

参考链接:
https://twitter.com/sama
https://www.zdnet.com/article/stack-overflow-temporarily-bans-answers-from-openais-chatgpt-chatbot/
https://meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-banned


亚马逊云科技「深度学习实战训练营」


对于刚入行的开发者来说,上手深度学习并不总是一件容易的事。

想要短期提升上手能力?机器之心联合亚马逊云科技开设《深度学习实战训练营》线上实战营。实战营为期 3 周,共 6 次课程,还有 6 次课后作业,实战营期间讲师将在答疑群中随时解决同学的疑问,全程免费,欢迎希望上手实操深度学习的同学加入学习。

11月22日开营,请参与的同学务必扫码加入课后答疑群,亚马逊云科技账号注册、学习疑问、作业提交等详情均在答疑群中为大家说明。

最后附上实战营日程安排:

© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:[email protected]

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
Stack Overflow临时禁用ChatGPT生成内容,网友:人类和AI快打起来!PyTorch 称霸,TensorFlow 正在“无声”消亡?Linux赢了!2022年开发者使用率已达40%,甩macOS一大截|Stack OverflowPyTorch统治学术论文,TensorFlow只占4%,LeCun:还能为啥?ChatGPT疯狂生成「辣鸡」内容,Stack Overflow气急,连夜封杀!早报 | Burberry中国所在的亚太市场收入下跌4%;Farfetch第三财季GMV下跌近5%;天猫万元消费用户破1.24亿毛泽东秋收起义后开始带兵打仗同学去世消息太意外了——一路走好最强 AI 对话系统 ChatGPT横空出世!马斯克点赞,用户破百万!爆火的 ChatGPT 太强了!写代码、改 bug,网友:可取代 Stack Overflow 了Stack Overflow是如何招聘的新版TensorFlow又立flag!官方团队明确「四大支柱」:承诺100%向后兼容,2023年发布Naver元宇宙ZEP用户破300万,自带UGC编辑器,开发者可赚钱YOLOv8来啦 | 详细解读YOLOv8的改进模块!YOLOv5官方出品YOLOv8,必卷!Tacotron2、GST、Glow-TTS、Flow-TTS…你都掌握了吗?一文总结语音合成必备经典模型(二)趣图:当喵星人在 Stack Overflow 发了求助帖之后China Golden Rooster & Hundred Flowers Film Festival wraps up看万山红遍,层林尽染,百鱼争流--Erin dale park5天注册用户超100万,ChatGPT让谷歌百度坐不住了秋日阳台上的早餐,晚餐,下午茶。。。龙卷风健康快递 217ChatGPT偷家:Stack Overflow正被程序员抛弃,访问量一个月骤降3200WPyTorch和TensorFlow迎来后浪!工业界到底需要怎样的机器学习框架?Recovered From COVID, Young Chinese Gripped by Snow Fever写在Stack Overflow封禁ChatGPT之后,人工智能的危机时刻OpenAI 最强对话模型 ChatGPT: 用户已破百万,落地将有几何ChatGPT已突破百万用户;多地宣布不再查验核酸;《阿凡达2》首日预售票房1091.3万元|首席周末热点精华开始使用用于IPU的TensorFlow ServingChatGPT 5天用户破百万,却突遭Stack Overflow禁用ChatGPT 5天用户破百万,原来还能这么聊天!爆火的ChatGPT杀疯了!写代码、改bug,网友:可取代Stack Overflow了PyTorch统治学术论文!TensorFlow只占4%,LeCun:还能为啥?写“毁灭人类计划书”、错误太多被Stack Overflow封禁,好玩的 ChatGPT 还不能替代程序员苹果考虑在印度生产 iPad/B站否认大规模裁员/ChatGPT 用户数破百万使用 PowerFlex 在 Kubernetes 平台上部署 Microsoft SQL Server 大数据集群
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。