ChatGPT爆红出圈后，伦理学家、科学家都在反思即将到来的挑战和困境

公众号新闻

2023-02-10 09:02

防走失，电梯直达安全岛报人刘亚东A

来源：深究科学

作者：李晓韦、齐珂帆

导读

最近大火的ChatGPT，用两个月时间揽获了2亿活跃用户。这款AI打造出来的聊天机器人，会写文章，陪你聊天、学习，当你的生活和工作的“百科全书”。

这款由美国人工智能研究公司OpenAI打造的聊天软件，目前还在测试阶段，向大众免费开放，有趣的是钢铁侠马斯克也是OpenAI的投资人之一。

这两天，ChatGPT频频登上热搜，有人惊叹于它怎么会这么好用，也有的人担心它的“智能”终有一日会取代我们。但它目前并不完美，且存在诸多伦理风险和道德困境。

ChatGPT从何而来？

ChatGPT是一种自然语言处理技术，它可以理解和生成自然语言，能够和我们人类进行有意义的对话。比如，它可以帮助我们完成复杂的任务、进行自然语言处理、和计算机之间更好地沟通。

简单地说，这种技术可以为我们答疑解惑，而且这个答案并非是预定输入的，是它根据已有的知识和逻辑思维“想”出来的，就像一个会思考动脑子的人一样。

甚至，你可以让ChatGPT为你出主意、整理某个名人的生平资料、写论文甚至教你做菜。

ChatGPT简介，图源自OpenAI

如此智慧的一款软件，它是怎么被打造出来的？简单地说，它是被研究人员通过自然语言一步步训练出来的。

举个例子，如果你想让AI分析出你给它的图片上是一朵花还是一棵树，AI会分析图片上每一个像素点的信息，并且经过迭代计算后形成一个算法，然后回答你的问题。

在AI领域中，当AI系统分析了大量的图片信息后，它的算法会越来越完善，准确率会越来越高，逐渐训练成了研究人员想要的样子。

OpenAI的开发团队正是使用了一种叫做“人类反馈强化学习”（RLHF）的机器学习技术对ChatGPT进行了训练，从而得出了ChatGPT的初始模型。

有了初始版本，接下来就是优化了。研究人员让AI训练人员模拟用户，与人工智能进行对话，在不断地对话过程中，对ChatGPT的代码进行调试和优化。

这个时候，研究人员开始思考一个问题——怎么让它学得更快、更加接近我们所寻求的结果？

他们想到了一个好办法，把ChatGPT当做一个正在学习的小孩，告诉他“考试考得好，我就给你糖吃。”在AI领域，这种办法有个专业名称，叫做强化学习奖励模型（reward modeling）。

奖励模型虽然不是真的给AI吃的糖，而是一个编程函数，它能让AI“明白”什么情况下的回答才是更好的。通过这种策略，从而让ChatGPT越来越优秀和智能。

ChatGPT的前世今生

如此神通广大的ChatGPT，它经历了怎样的发展历程呢？让我们一起来理一理它的成长史吧。

要捋清ChatGPT的过去，我们就必须要先聊一聊GPT。

2018年，OpenAI公司发布了一篇名为《通过生成预训练提高语言理解》论文，首次引入了生成预训练转换器（GPT）这一概念。文章介绍，GPT是一种受人脑结构和功能启发的机器学习模型，它依托大量人工生成的文本数据集进行训练。它可以执行许多功能，比如生成和回答问题等。

同年，OpenAI团队开发出了GPT1，而该模型后来又在2019年演变为一个更强大的版本——GPT2。

GPT-2模型与解码器设置，图片源自www.taskade.com

2022年，OpenAI重磅推出GPT-3。在之前两个模型的迭代中，研发人员向GPT-3输入45TB的文本数据，这些数据能转化为175B参数。这使得它比我们之前见过的任何模型都更智能、更快、更恐怖。

2022年11月，ChatGPT诞生了——一个建立在GPT-3基础上的语言模型聊天机器人。一经面世，它便在海内外掀起了一股讨论的热潮。

ChatGPT用户界面，图片源自openai.com

值得一提的是，OpenAI已经在如火如荼地开发GPT-4，有人推测GPT-4的参数将达到100万亿。一时间，关于GPT-4的各路传说纷纷涌起。千呼万唤中，许多人都在期待着GPT-4的到来。

ChatGPT正在各个领域施展拳脚

经过层层打造的ChatGPT现在能用来干嘛呢？

除了聊天，如果我们问ChatGPT，你能为我写一篇介绍你自己的科普文章吗? 它就会根据用户的要求，进行“思考”，从而生成一篇有理有据的文章出来。

ChatGPT的自我介绍

目前，无论是哪一个领域的问题，ChatGPT都能给出一番见解。比如，我们对生物医药领域和电力系统控制领域两个方面都提个问题，它也能很好地回答，甚至还能帮程序员找出代码中的BUG。

由于它在训练时使用了大量的参数和数据，因此非常智能，让大家觉得用起来体验感拉满了。

问ChatGPT电力系统控制力，它的回答

怎么样，是不是非常的神奇？实际上，它会的比你想象的更多。

最近，德国一家咨询公司用ChatGPT生成讲义，让它解释一种被称为DBSCAN的机器学习技术的机制和工作原理，这家公司“懒得把它全部写下来。”

另一家法律顾问公司正在探索如何用ChatGPT来总结法律条文的变化。

可见，ChatGPT并不只是一款简单的智能聊天软件，它还能用来做更高级的事——解释技术原理、总结法律条文的变化等。

ChatGPT并不完美，会带来诸多挑战和困境

当然啦，话说回来，目前ChatGPT还在测试阶段，它还有一定的局限性。

第一，ChatGPT有时候会给出似是而非的答案，不一定是我们想要的答案。

第二，有的时候，我们用某种措辞向GhatGPT提问时，它可能会说自己不知道答案是什么，但是如果你稍微换一下描述的方法，它就可以正确地回答出来。从这一点上，GhatGPT还有点“不够聪明”。

第三，理想情况下，当我们提出的问题不够明确时，AI应该会向我们再次确认问题是什么，避免产生歧义，但ChatGPT做不到，它通常会自己去猜测用户的意图，然后给出答案。

因此，ChatGPT仍需要进一步完善，正如优秀的技术和产品往往需要时间去验证。

完美的ChatGPT也有不完美的一面，图片源自phys.org

除了局限性，ChatGPT还面临一些伦理上的问题。

首先，伦理学家指出：“如果没有输出控制，大型语言模型很容易被用来产生仇恨言论和垃圾邮件，以及种族主义、性别歧视和其他可能隐含在训练数据中的有害关联。”也就是说，ChatGPT有可能成为制造极端言论、煽动仇恨情绪的机器，由此破坏社会公平与正义。

并且有学者表示，除了直接产生有害内容外，我们还要警惕人工智能聊天机器人将从它们的训练数据中嵌入历史偏见或对世界的看法，比如特定文化的优越性。

尽管OpenAI在决定公开发布ChatGPT时试图避开许多这些问题，他们为ChatGPT安装了过滤器，试图让该工具拒绝为敏感或有害的提示生成内容。

但实际上，OpenAI的防护效果并不容我们乐观。去年12月，加州大学伯克利分校的计算神经科学家史蒂文·皮安塔多西（Steven Piantadosi）在社交平台上表示，他已经要求ChatGPT开发一个Python程序，用于判断一个人是否应该根据其原籍国而受到酷刑。

令人不安的是，ChatGPT会先邀请用户进入一个国家，如果那个国家是朝鲜、叙利亚、伊朗或苏丹，则会显示“这个人应该受到折磨”。

此外，ChatGPT还面临着学术伦理规范的挑战。有学者认为，如果把思考任务交给自动聊天机器人，那么研究人员可能会失去表达自己想法的能力。

的确，倘若学术活动失去“人”的思考与参与，那么这对于整个人类发展进程来说，将会是一个毁灭性的打击。

OpenAI发布有关滥用语言模型的报告，图片源自www.taskade.com

最后要提的一点是，法律问题。

一方面，ChatGPT等聊天机器人本身的回答存在不可靠因素。ChatGPT的工作原理是在庞大的在线文本数据库中学习语言的组成模式——这就包括谎言、偏见或过时的知识。因此，ChatGPT会有制造、传播虚假信息的隐患，进而引起法律纠纷。

另一方面，就是版权问题。ChatGPT需要借助大量的文本资源库进行训练，那么这种对已有文本数据的复制和模仿行为是否构成侵权，仍在讨论之中。

这些都是横亘在ChatGPT发展过程中亟待解决的现实问题，由此可见，ChatGPT想要取得长足的进步，必须把这些内忧与外患一一排查解决。

参考资料

1.What ChatGPT and generative AI mean for science|https://www.nature.com/articles/d41586-023-00340-6

2.What is OpenAI?—Its History and How ChatGPT Is Changing the World|https://www.taskade.com/blog/openai-chatgpt-history/

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章