Redian新闻
>
ChatGPT 5天用户破百万,原来还能这么聊天!

ChatGPT 5天用户破百万,原来还能这么聊天!

公众号新闻

大家好,我是 Jack。

这两天火爆的 ChatGPT 你们玩了吗?这是一种基于对话的 AI 聊天工具。

可以帮我们写文章、写代码、编故事。

我的视频教程已发,注册方法+体验,详见视频:

https://www.bilibili.com/video/BV1yP4y1Q7PH/

以下内容为 ChatGPT 的有关报道。

转自:机器之心

如果有一天我们查询到的「知识」真假难辨,那这就太可怕了。

要问最近 AI 圈哪个模型最火爆,你不得不把 OpenAI 推出的 ChatGPT 排在前面。自从发布以来,这个对话模型可谓是出尽风头,很多人更是对其产生了一百个新玩法,让它写个代码、修改修改 bug、开发个小游戏、解答一下物理知识、去参加一场考试…… 仿佛没有它不会的。

「上周三才上线的 ChatGPT,短短几天它的用户已经突破 100 万大关!」OpenAI 的 CEO Sam Altman 表示。


就连马斯克都忍不住好奇的问了一句:「你们每次聊天的平均成本是多少?」


「每次聊天的平均费用可能只有个位数,我们试着找出更精确的方法以及正在尝试如何优化它。」Sam Altman 回答道。

由于 ChatGPT 在解决各种问题上的能力过于优秀,很多用户都表示 ChatGPT 可以取代 Google 等搜索引擎和 Stack Overflow 等编程问答社区了。


不过,虽然许多用户对 ChatGPT 的功能印象深刻,但其他人也注意到它一直倾向于生成似是而非的错误答案。例如,要求 ChatGPT 写一个公众人物的传记,它可能会很自信地插入不正确的传记数据。再比如要求它解释如何为特定功能编写软件程序,它同样可以生成可信但最终不正确的代码。

图源:https://twitter.com/CT_Bergstrom/status/1598212037901160448

ChatGPT 随时都有可能出错情况也促使 Stack Overflow 做出了一些反应。前两天还有人信誓旦旦的表示 ChatGPT 可以取代 Stack Overflow 了,令人没想到的是,今天 Stack Overflow 反手就把 ChatGPT 给封杀了。

这是怎么回事,原来在试用了一段时间后,人们很快发现,虽然 ChatGPT 以接近人类的方式回答提示,但它给出的答案可能存在缺陷。OpenAI 也提到这一点,ChatGPT 有时会给出看似合理但不正确或荒谬的答案。

对于这一问题,Sam Altman 也表示:「我们正在试图阻止 ChatGPT 随机编造,现阶段让其与当前技术保持平衡是很棘手的。随着时间的推移,我们会根据用户反馈来改进它,相信 ChatGPT 会变得更好。」


关于 Stack Overflow 为何禁用 ChatGPT,官方表示:「主要问题在于,虽然 ChatGPT 产生的答案错误率很高,但我们很难看出来它哪里错了。」这会造成问题回答鱼目混珠的情况。


接下来,Stack Overflow 将制定关于使用此工具和其他类似工具的具体要求。


Stack Overflow 宣布暂时封禁 ChatGPT 是因为它生成的答案正确率太低,发布由 ChatGPT 创建的答案对网站和查询正确答案的用户来说是非常有害的。


虽然 ChatGPT 生成的答案有很高的错误率,但这些答案通常看起来不错,而且生成答案的操作简单容易,许多人愿意尝试使用 ChatGPT 创建答案,但却没有专业知识或不愿意在发布之前验证答案是否正确。


最近几天,由于使用 ChatGPT 生成答案迅速简单,所以 Stack Overflow 上涌现了大量该模型生成的答案。这些答案通常需要具备一些专业知识的人详细阅读才能确定答案实际上是错误的。这种情况让 Stack Overflow 的质量管理遭到冲击。


对于 Stack Overflow 封禁 ChatGPT,网友们纷纷表达了自己的看法。

有人表示赞成,认为 AI 短时间内根本不可能生成完全正确的答案:


有人表示问题出在 Stack Overflow 用户在发布答案之前,没有认真检查和测试 ChatGPT 生成的代码,他们只是用 ChatGPT 快速生成答案并发布,导致答案中出现严重错误,甚至编程语言都是错乱的。


有趣的是,Stack Overflow 宣布封禁 ChatGPT 之后,有网友「询问」ChatGPT:「为什么 Stack Overflow 禁止用 AI 生成答案?」

ChatGPT 的回答非常诚实:「因为 AI 生成的答案不总是准确或相关的,可能会导致 Stack Overflow 上混淆错误答案,误导在寻求帮助的用户。」并且还表态:「Stack Overflow 禁止用 AI 生成答案是合理的。」


然后该网友又追问 ChatGPT:「为什么 Stack Overflow 允许用 AI 生成答案?」即使这只是个假设情况,但 ChatGPT 还是对答如流:

在 Stack Overflow 上允许 AI 生成的答案有一些潜在的好处。一方面,人工智能可能会为用户的问题提供更准确和详细的答案。这对于人类专家可能难以回答的复杂技术问题特别有用。此外,AI 生成答案可以帮助减少人类专家的工作量,使他们能够专注于更重要的任务。


然而,使用 AI 生成答案也有一些潜在的缺点需要考虑。例如,AI 生成的答案可能并不总是准确或有帮助的,而且人们可能担心用于生成答案的算法存在偏见。用户可能也对使用 AI 生成答案有顾虑,更愿意从人类专家那里得到答案。


总的来说,是否允许 AI 在 Stack Overflow 上生成答案是一个复杂的决定,需要社区仔细考虑。



综合上面回答,我们发现 ChatGPT 颇有自知之明,对 Stack Overflow 禁用 AI 生成答案的问题也阐述得有理有据。这说明从语言模型的角度讲,ChatGPT 已经非常成熟,但生成知识型内容并不是一件简单的事。

类似地,上个月 Meta 的模型 Galactica 上线仅两天后就火速下架,因为该模型生成的知识型内容存在严重错误。现在 ChatGPT 被 Stack Overflow 禁用再度证明构建「知识型模型」是一个巨大的挑战。

ChatGPT 的研究团队此前表示将根据用户反馈持续改进模型,但生成错误答案的现状表明,让语言模型生成正确的知识内容还有很长的路要走。

参考链接:
https://twitter.com/sama
https://www.zdnet.com/article/stack-overflow-temporarily-bans-answers-from-openais-chatgpt-chatbot/
https://meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-banned
·················END·················

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
90后单亲爸爸带4岁女儿骑行西藏,原来还可以这样带娃!会写代码1小时做游戏,聊天机器人ChatGPT豪取百万用户走红全球AI扮演Linux虚拟机,能管理文件&编程&开浏览器,还能跟自己「套娃」聊天 | ChatGPT新玩法忆秦娥:故乡情苹果考虑在印度生产 iPad/B站否认大规模裁员/ChatGPT 用户数破百万活动丨在香港上过学,原来还有这些优势!ChatGPT 5天用户破百万,却突遭Stack Overflow封禁伊萨卡旁边的老磨坊微信一键查看朋友圈访客,原来还有人偷偷关注你…早报 | Burberry中国所在的亚太市场收入下跌4%;Farfetch第三财季GMV下跌近5%;天猫万元消费用户破1.24亿ChatGPT到底有多聪明?我测试了ChatGPT的数学能力这7款“高定包包”火出圈、明星抢着背,原来中国设计也能这么美!用户破亿!编程届当之无愧的神!全球音乐付费用户破6亿,Pollstar发布《2022年票房报告》,YouTube古典音乐使用率猛增 90%腰疼这么多年,原来还有不花钱的方法可以治男人是爱你还是撩你,看看怎么聊天就知道首日用户破100万!巨人《太空行动》迎开门红,三款派对游戏开战为什么ChatGPT这么强?—— 一文读懂ChatGPT原理!GitHub 全球用户破亿,中国开发者超千万,如今联合微软、OpenAI要求驳回AI版权诉讼OpenAI 最强对话模型 ChatGPT: 用户已破百万,落地将有几何原来除了待在教室,幼儿园还能这么上!这种学校给孩子不一样体验写诗、写代码、做数学题……聊天机器人ChatGPT为什么这么强?ChatGPT 5天用户破百万,却突遭Stack Overflow禁用ChatGPT已突破百万用户;多地宣布不再查验核酸;《阿凡达2》首日预售票房1091.3万元|首席周末热点精华老年人的注意事项剽窃、作弊,ChatGPT竟偷偷生成了12篇署名论文!Marcus炮轰Ta变成CheatGPT话语权的西方文化背景惊到了!原来好牛排长这样,还能这么便宜!Naver元宇宙ZEP用户破300万,自带UGC编辑器,开发者可赚钱王妃、赫本挚爱的华美珍珠,原来还能美得如此与众不同!最强 AI 对话系统 ChatGPT横空出世!马斯克点赞,用户破百万!5天注册用户超100万,ChatGPT让谷歌百度坐不住了chatGPT的用户突破100万,谷歌真的要完蛋了?汪曾祺:在一盘咸菜里,我看到活着的中国文化
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。