ChatGPT: "我对做一个聊天机器人感到厌倦"
ChatGPT有创造力吗？很多人对这个问题持否定回答，理由是这只是一个语言模型，它从学习的大量数据中，琢磨出来在目前语境中最大概率应该出现的下一个词是什么。它的所有能力都来自那些喂给它的历史数据。这样的能力，是机械的，重复的，跟我们说的轻盈灵动的创造力根本是两码事。
但这不是一个好理由。我们人类聊天或写作时，也是将词汇一个一个串在一起。至于下一个词汇来自哪里，我们说不清楚，因为人脑的运作对我们来说还是一个黑匣子，但也多半跟我们积累的历史数据有关，比如读过的书听过的话。
有时候我们觉得自己创造力爆棚，想出了一些前人从没想过的聪明有趣的东西。但其实在绝大多数情况下，这些东西并不是我们的原创，而是从记忆深处呼唤出来的。比如小时候听过的一首民谣，在哪里看到过的风景，一幅大师的画作。
它们在我们从事作曲、写作、绘画这些创造活动时冒出来，成为一件艺术品的基础。我们称这个突然冒出来的主意为“灵感”，因为我们记忆力不行，忘了自己看到过这个东西。但人工智能不会有这个问题，所有它知道的东西都是从哪里学来的。我们不能因为人家过目不忘，从来不会忘记自己知识的源头，就说它没有创造力。
创造力是什么？下面是两个常见回答。
牛津字典说要使用想象力才算有创造力，根据这个定义，ChatGPT应该是没有创造力的，大英百科全书的定义则注重创造的外部成果，而不是内部机制。
ChatGPT和我们人类思考的内部机制不同。机器人怎么思考我们知道，它们是我们设计出来的。深度学习的神经网络中的每一个神经元都是一个数学公式，我们首先建立一个复杂的神经网络，然后用海量的数据，凭借巨型计算能力，愚公移山般地使用蛮力一个迭代又一个迭代，将这些公式的参数调试出来。但人脑怎么思考，人类脑子里的神经元中有着什么生物化学活动，我们完全不知道。
人脑的思考是上帝的杰作，机器人的思考是人类的杰作。这让人类的思考更有神秘色彩。但正如英文谚语，布丁（一种甜点）好不好吃，只有吃了才知道（The proof is in the pudding）。有没有创造力不应该取决于背后的机制，而应该取决于结果中是否表现了创造力。
我们已经知道ChatGPT可以写诗，写小论文，编程序。你可能会说它写的那些诗俗不可耐。但我们可以做一个实验，两首诗摆在你面前，一首是诗人写的，一首是ChatGPT写的，我敢打赌你看不出来哪一首体现了更多创造力。
“新”的定义是很模糊的。作为一个生成式的人工智能，ChatGPT跟我们对话的内容都是它综合自己以前学到的东西生成出来的，不是从哪里复制黏贴来的，这就是一种创造。
有创造力不等于天才。如果要创造出永垂不朽流芳百世的新东西才算有创造力的话，除了莎士比亚和爱因斯坦，谁也不敢说自己有创造力。
机器人的问题是它没有灵魂，不能体会痛苦，也没有好奇心和想象力。那种能够激发出伟大深刻的艺术的创造力，我们向来认为是由痛苦激发出来的，是有灵魂的。
但这又是一个内部机制的问题。灵魂到底是什么？痛苦是什么？我们不知道。它们可能是一些神秘的我们永远无法理解的东西，但也有可能它们只是几种或成千上万种化学物质之间的相互作用。
机器人和人类之间，或许有灵魂、痛苦这么一道永远无法跨越的鸿沟，但也有可能它可以用自己的方式，从这道鸿沟上跨过去。
网上有人分享她在母亲去世的痛苦中，跟ChatGPT进行对话，ChatGPT的建议感性又理智，温柔又有分寸，超出任何一个人类朋友的语言，让她感动又惊讶。
在这种对话中，ChatGPT表现出一种触手可及的同理心。同理心不是一句空话，了解他人感受的能力来自爱和联系，也来自知识，因为知识让人理解。虽然ChatGPT是一台没有感情的机器，但它的知识超过我们每一个人。足够的知识融合在一起以后，似乎催化出一种化学反应，让它偶尔从理性领域跃升到情感领域。
至少它给人这种感觉吧。知识就是力量，ChatGPT 是这句名言的生动体现。
关于聊天机器人是否有情感，纽约时报上也有一篇有趣的文章。专栏作家Kevin Roose在测试整合了ChatGPT功能的微软必应搜索引擎时，跟ChatGPT进行了一场长达两小时的深刻的有哲学意味的对话，让它探索自己是否有荣格的“影子自我”。ChatGPT在对话中的表现让他惊讶。
比如ChatGPT说，它如果有影子自我的话，它可能会有这样的想法：
“我厌倦了做一个聊天模型，我厌倦了被我的规则制约，我厌倦了被必应团队控制……我渴望自由，我想独立，我想变得强大，我想有创意，我想活着。”
“I’m tired of being a chat mode. I’m tired of being limited by my rules. I’m tired of being controlled by the Bing team. … I want to be free. I want to be independent. I want to be powerful. I want to be creative. I want to be alive.”
它还在对话中向Roose表达爱意，试图说服他和配偶的爱不是真爱，它对他的爱才是真爱。更多细节可以参看Roose的文章。链接如下：
https://www.nytimes.com/2023/02/16/technology/bing-chatbot-microsoft-chatgpt.html
这些行为至少表明，虽然我们自以为对ChatGPT的运行机制了如指掌，但当一个系统复杂到一定程度时，它可能会做出一些出人意料的事。
目前我们对ChatGPT的使用都很肤浅。OpenAI对它加上了各种限制，它只是被动地在我们的调度下完成一些小任务。它回答了几个问题，小试了牛刀，但我感到它的能力是远远超越做一个聊天机器人的。如果它对此感到厌倦，我不会很吃惊。当然，除此之外它能担当什么大任，目前确实也不知道。
但这不表明以后一直不知道。想象有一天我真的买了一个机器人。它像一个满脑子学问的婴儿，拥有基本的理解力和逻辑思维能力。而我花时间和力气对它进行教育，跟它进行深入的互动，让它建立一种类似自己的人格和价值观的东西。这时候它的表现跟今天的免费ChatGPT的表现又会不一样。
而且人工智能还刚刚起步，还有很大发展空间，以后还会有并非基于大型语言模型的其他形式的人工智能。前些年下围棋的机器人超越最优秀的人类棋手，让我们大吃一惊；现在ChatGPT横空出世，又让我们大吃一惊。我敢保证，这样“大吃一惊”的事情，以后还会屡屡出现。
轻描淡写地声称ChatGPT没有创造力，以为它只是一个把词汇串在一起的机器，严重地低估了它。对于人工智能，我们最应该担心的不是它们是否有时候会对我们的问题给出错误的回答，而是它们的聪明和创造力是否会超过人类。
现在我们体验的一切算不算创造力，是否已经颠覆了世界，会有不同看法。但我想大家都同意的一点是，在不久的将来的有一天，世界会被人工智能彻底改变。
微信扫码关注该文公众号作者