Redian新闻
>
大家抱怨GPT 4变傻了,OpenAI却说没有没有!!!

大家抱怨GPT 4变傻了,OpenAI却说没有没有!!!

科技

本文首发微信公众号:飞总聊IT

今年4月份的时候,飞总在自己的粉丝微信群里面抱怨最近GPT 4怎么越来越笨,越来越不好用了。


当时就有一些群友反应,的确是越来越笨了。


这个事情不仅仅只有飞总一个人在说,很多老外也发现了。


比如这位:




这事情是不是胡说八道呢?


按照飞总的观察,GPT 4比最开始出炉的时候,快了不少,也笨了很多。


很多网友也是这样的判断。


由于这样抱怨的人越来越多了,OpenAI也受不了, 官方开始辟谣。


官方表示,我们没有把GPT 4弄笨。相反的,我们的每个新版本,都让GPT 4比以前更聪明了。


现在的猜测是:如果你用久了,你就会开始注意那些你以前没注意的问题了。


意思就是,GPT 4并没有变笨,只不过用户比较傻逼而已,一开始没注意到其实GPT 4并不聪明。


要说这回答能不能让我满意?我觉得反正我是不能满意的。


最开始的时候,GPT写东西的那个漂亮,4月份以后,我发现,写的就越来越不行了。


有一个说法,说GPT 4之所以变笨,是因为OpenAI开始训练一组类似于GPT 4,但是参数规模要更小的模型。


这些模型,每个聚焦在不同的领域,相当于是专家模型。


然后用户的问题来的时候,就可以让这些专家模型中的一个来回答。


这或许可以解释,为什么GPT 4看起来变笨了。


还有一种说法,是说OpenAI加强了对内容的审查。因为GPT 4的原始版本经常会脱口而出就说出来冒犯人的句子。


即使经过了reinforcemeng learning的调教以后,依然需要进行内容审查,以避免产生不好的内容。


这种内容审查不仅仅针对回答的结果,也针对输入的prompt。


而这种内容审查的严格,会导致大语言模型能力的下降。因为在禁止了不好的内容的同时,也禁止了模型自由自在的展开推理和自由发挥的可能性。


这是目前非官方的两种解释,用来解释为什么GPT 4越来越笨了。


我觉得两种解释,都有道理。


首先,我们不排除GPT 4为了节省算力,提高模型的效率,而替换底层的模型。毕竟家都知道,目前OpenAI的算力紧张问题,一直没有得到有效的解决。


但是如果日志不公开,我们很难判断模型从发布以后到现在是不是进行过更新。


不过既然OpenAI的人公开说,每次更新都让模型变得更聪明了,这起码可以从侧面反应出来,模型是有更新的。


其次,内容审查,影响模型的自由发挥。这看起来就非常的靠谱。


毕竟模型里面是个黑盒子,没有人知道模型里面是怎么折腾的。


如果人为的进行特定的限制,人类也不知道,在限制了模型输出不好的内容的同时,还有什么东西被牺牲掉了。


所以,大模型和内容审查,应该怎么结合,这真的是一个让很多人头疼的问题了。


毕竟,大模型不像人写的文章,内容审核相对简单,我们总不能在大模型的输出端放一个人去检阅每一个输出吧。


如果真的这样搞,那还要人工智能干嘛?


我看内容审查的需求够这些个大模型吃一壶的。


文章最后再安利一下我的星球,星球聚焦ChatGPT和大语言模型的发展和应用,欢迎有兴趣的人加入一起讨论大语言模型的技术和商业相关的知识。




微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
村民捡到“搓衣板”,文物专家抱着不撒手:上交永久封存大家都在吐槽GPT-4变「笨」了,可能是架构重新设计惹的祸每日烧钱500万,OpenAI或已在破产边缘;B站回应莫言账号被封;王小川谈ChatGPT:程序员是自己的“掘墓人”丨邦早报Hélène Binet:光的哲学家九 战场来信这俩姐妹是不是疯了?没有!才没有!!!终于找到 ChatGPT “智商”下降的原因了!OpenAI 侧面回应,GPT 可能真被你们玩坏了?OpenAI 又赢麻了!谷歌 DeepMind 创始人刚称 Gemini 能碾压 GPT-4,OpenAI 的挖人大计就出炉了水调歌头 五月二首多名前OPPO哲库骨干加入Momenta;OpenAI承认GPT-4变差;全球物联网连接收入激增至108亿欧元 | AIoT情报OpenAI官方ChatGPT速成课流出!留学生:一周驯化GPT的方法找到了....地中海邮轮行之二OpenAI发布给ChatGPT定制人格角色的新功能;苹果已悄悄开发Apple GPT|AIGC周观察第十一期刚刚,OpenAI官方ChatGPT速成课流出!留学生:一周驯化GPT的方法找到了....扎克伯格发布更强「免费版 ChatGPT」!用 open 的 AI 挑战 OpenAIChatGPT不香了?OpenAI核心员工组团叛逃谷歌,抱怨Altman不懂行ChatGPT路线图曝光:没有GPT-5、识图功能要等到明年、GPT-3或将开源终于找到ChatGPT智商下降的原因了!OpenAI侧面回应,GPT可能真被你们玩坏了?PPT让人变傻了,吗?ChatGPT日“烧”500万、75%的企业拟永久性禁用,OpenAI或已在破产边缘热死啦!!!!!!!!!!!!!!OpenAI 已为 GPT-5 申请商标,GPT-5 要来了?无限访问GPT-4!史上最强企业版ChatGPT上线,3.2万token,OpenAI颠覆打工人ChatGPT 又断网了!OpenAI 暂时下线 ChatGPT 搜索功能,只因绕过付费墙?假如ChatGPT去读大学,OpenAI肯付学费吗?微软也搞起了开源小模型!利用OpenAI的ChatGPT和GPT-4 训练,实力碾压当前最强开源模型OpenAI官方ChatGPT速成课流出!一周驯化GPT的方法找到了....GPT-4变笨引爆舆论!文本代码质量都下降,OpenAI刚刚回应了降本减料质疑《人工智能法》列入立法计划;OpenAI尚未训练GPT-5;小鹏申请GPT相关商标丨AIGC大事日报十 快板词代码解释器等于GPT-4.5!不训练GPT-5,OpenAI依然向AGI狂飙年轻人应当去下乡找工作ChatGPT显示付费墙内容,OpenAI把联网功能关了,网友炸了生成式AI围猎口语市场,OpenAI押注 Speak1000+AI智能体复活,OpenAI版元宇宙上线? ChatGPT+VR百分百还原「西部世界」
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。