Redian新闻
>
“双标”让ChatGPT光环褪色

“双标”让ChatGPT光环褪色

科技


托比亚斯·茨温曼是德国咨询公司RAPYD.AI的管理合伙人,这家公司的业务是帮助客户利用人工智能。此外,他还讲授关于人工智能的在线课程。最近,茨温曼开始用ChatGPT制作讲稿,这款新型聊天机器人正迅速成为科技界新风尚。茨温曼说,有一次,他要求ChatGPT解释一种被称为DBSCAN的机器学习技术的机制和运行方法,因为他“懒得把它全部写下来”。

茨温曼说:“我对它说,‘告诉我DBSCAN算法运行的详细步骤’,然后,它的确给我提供了一份详细的说明。”

他说,在稍加打磨和编辑后,这份优质讲稿出炉了。

茨温曼说:“这个过程大概只用了半小时左右,而之前都我会花一整天时间准备讲稿。不得不承认,它十分有用。”

ChatGPT在去年底亮相,迅速引起轰动。人们对它提出各种问题和要求,比如“非同质化代币(NFT)死了吗?”“讲一个关于国际远程办公税收风险的笑话”,并在推特上贴出ChatGPT的回答截图,这些答案常常(但并不总是)颇有道理。

据美国消费者新闻与商业频道网站近日报道,ChatGPT由总部设在旧金山的开放人工智能公司(OpenAI)开发。这家研究公司由萨姆·奥尔特曼领导,并得到了微软公司、领英网联合创始人里德·霍夫曼和科斯拉风险投资公司的支持。ChatGPT能够根据文字提示自动生成文本,比硅谷以往的聊天机器人更先进、更有创造力。

最近,技术行业不景气,大规模裁员、股票价格暴跌和加密货币灾难占据新闻头条,但ChatGPT提醒人们,创新仍在发生。

技术高管和风险投资家们在推特上热议ChatGPT,有人甚至将其与苹果公司2007年首次推出的iPhone相提并论。

早在2016年,脸书、谷歌和微软等科技巨头就宣称,数字助手是人类和计算机互动的下一步发展方向。它们夸下海口说,聊天机器人能打车、购买飞机票、用日常语言回答问题。

6年过去了,进展却很缓慢。大多数与人类互动的聊天机器人还比较原始,只能回答企业帮助页面上的基本问题,或者向失望的顾客解释为什么他们的电视费这么贵。

但是,早期的ChatGPT应用者展示出,除了生成软件代码之外,这项技术还能回答多重问题。所谓的自然语言处理领域似乎正在进入一个新阶段。

这体现了一种大趋势。科技投资者正在向生成式人工智能领域的初创公司投入数十亿美元。生成式人工智能指的是计算机使用最先进的机器学习技术自动创建文本、视频、照片和其他媒体的能力。

“项目建议书”数据公司分析师布伦丹·伯克说,一些早期投资者已经把注意力从加密货币和web3等相关概念转向了生成式人工智能技术。

伯克说:“这是一股可以感知到的趋势。”

“项目建议书”数据公司称,投资该领域的知名公司包括科斯拉风险投资公司、戴维·萨克斯的克拉夫特风投公司、红杉资本公司、创业者至上公司和乐仕资本公司。伯克说,投资者还在源码托管服务公司(Github)等平台上注意到,不少web3开发人员已经从NFT和加密货币项目转向开源的生成式人工智能项目。

伯克说:“我认为这是早期市场中出现的一些重新思考的迹象。”

ChatGPT本质上是OpenAI的畅销产品GPT-3.5语言生成软件的变体,其设计初衷是与人对话。根据OpenAI对这种语言模式的总结,它的特点包括回答后续问题、对错误的前提条件提出质疑、拒答不合适的问题甚至承认错误。

ChatGPT接受了大量文本数据的训练。高德纳咨询公司副总裁伯恩·埃利奥特说,它学会了识别帮助它模仿各种写作风格的模板。Open AI没有透露训练ChatGPT使用了哪些具体数据,但表示一般会在网上收集数据,使用存档书籍和维基百科。

埃利奥特说,就目前而言,ChatGPT的用处更多在于让Open AI获得知名度以及展示大型语言模型的潜力,而不是供企业使用的软件。虽然ChatGPT是免费的,但OpenAI向企业销售其底层语言和相关人工智能模型。

埃利奥特说:“按照目前的设想,ChatGPT就是一个小把戏。它不能满足人们的需求,除非他们的需求就是分散注意力。”

不过,用ChatGPT完成更高级任务的不只是茨温曼一个人。

数字合同管理初创公司Ironclad首席技术官Cai GoGwilt说,他的公司正在研究如何利用ChatGPT来总结法律文件的变化。GoGwilt说,这一功能对该公司的法律客户很有用,因为他们会定期修改文件然后通知同事。

GoGwilt说,与大型科技公司开发的类似语言模型相比,ChatGPT的回应“更有创意”。他说,元宇宙平台公司的人工智能语言工具RoBERTa对文本进行分类和标注的能力似乎更强,他的公司在数字文档软件中两者兼用。

法律研究和数据公司律商联讯副总裁陈敏(音)在一封电子邮件中说,她和她的团队刚刚开始测试ChatGPT,不过他们已经通过微软的Azure云技术使用过OpenAI的GPT-3软件。

陈说,GPT-3更适合律商联讯,因为它是一款可以定制的企业产品。不过,她的团队一直在对ChatGPT进行试验。她说,ChatGPT有时会产生“令人印象深刻”的“合理答案”,不过也存在缺陷。

她说:“作为严肃法律研究的决策工具,它恐怕不够可靠。有时,ChatGPT会给出一个看起来很有道理的冗长回答,但其中存在事实性错误。”

此外,ChatGPT还存在偏见问题,这是许多人工智能驱动软件的通病。

莫齐拉公司高级研究员阿贝芭·比尔哈内在推特上说,ChatGPT创作的歌词暗示,穿实验服的女性“可能只是实验室的保洁员”,穿实验服的男性才“可能具备知识和技能”。

由于ChatGPT系统设计上的缺陷,以及训练数据集的问题,在回答一些问题时,会有偏见性的描述。OpenAI表示,对于涉及政治和有争议的话题,为了避免偏见的产生,规定标注人员不应该偏袒任何政治团体。为了能够使ChatGPT走得更远,OpenAI表示将会在三个方向进行改进。

1.改进默认行为。让用户发现ChatGPT的回答对客户有用,同时也会尊重他们的价值观。目前,ChatGPT所面临的问题是,应当拒绝的回答,没有拒绝;不应该拒绝的回答,却拒绝了。这是OpenAI需要解决的问题。

2.在更加广泛的范围内定义人工智能的价值观。由于越来越多的人,开始担心人工智能的发展,将会危害人类社会。因此OpenAI需要給自己的人工智能系统制定价值观,使其符合人类社会的发展。

3.为了能够得到更加客观的观点,OpenAI表示将会接受各种观点的输入,不会将一些观点弃之门外。

人工智能的改进是一个长期的过程,不仅仅是模型和算法的问题,训练的数据集也非常重要。

(更多国际新闻,参见《参考消息》数字报,点击此处可订阅)


监制 | 程瑞

审核 | 田欣

编辑 | 许海婷

点击下方图片,立即订阅《参考消息》

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
另类的旅游体验分享澳洲对华入境新规被批“双标”,网友:应要求所有游客做检测!一个严肃的问题:让ChatGPT撰写的学术论文能发表吗,如何避免学术不端?一段JavaScript让ChatGPT开口说话?网友开源自制浏览器插件微信回应头像褪色/盖茨:ChatGPT不会威胁人类工作/茶颜悦色回应仍有「罚站式」取餐不让ChatGPT说车轱辘话,我们就得少说废话ChatGPT带火AI芯片,赚翻了的英伟达发布新核弹:ChatGPT专用GPU,让推理提速10倍!我们让ChatGPT写了一篇文章,你能看出真假吗?玩大了!千万不要让ChatGPT帮你写年会回顾,会变得……每周健走 - 3月26日: St. Augustine 神学院与悬崖公园让ChatGPT长“手”!Meta爆火新论文,让语言模型学会自主使用工具让ChatGPT教AI自动批量画图,梦幻联动!我让ChatGPT复盘病例,它的回答让我刮目相看山情水趣话旅游(37):加拿大之行(1)该让ChatGPT给你上上课了今天周末,我让chatGPT帮我代写了一篇文章!怎样让ChatGPT在其内部训练神经网络?先让它想象自己有4块3090让chatGPT去考财务证书,结果令人惊讶!宾顿市有什么特色?让ChatGPT来告诉你!集成ChatGPT后必应日活量首破亿!微软推出Azure OpenAI ChatGPT 服务,GPT-4下周发布新加坡政府有哪些“双标”行为?为何外国人待遇与公民和PR不一样?微信回应头像褪色,部分C刊不准隐瞒ChatGPT使用,微软推进裁员,Opera新版集成ChatGPT,这就是今天的其它大新闻!让ChatGPT4给赵露思写了一个复仇剧本酷刑!人工智能背后的“血汗工厂”:ChatGPT光环照耀不到的隐秘角落回忆我八年多前回国听到某老总对当今皇上的评论ChatGPT讲座:ChatGPT并不神秘,但ChatGPT很神奇一周必读|买基金不如买包?明星基金经理光环褪色;时隔一年,房地产税又被提及怎样让ChatGPT在其内部训练神经网络?乌克兰来美国,俄罗斯去中国,巧合吗?怎样让ChatGPT模仿人类的意识?是什么让ChatGPT变得如此聪明?仍然未知的大语言模型“能力涌现”现象 |【经纬科创汇*AI】东南亚没有“双标”:官方开会自查,只盼中国游客早来多来全球多所学校禁止学生使用ChatGPT;微信回应部分用户头像褪色;茶颜悦色“罚站式”取餐引吐槽丨邦早报让ChatGPT写一篇《美联储何时停止加息》怎样让ChatGPT写出高质量小红书文案?
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。