“I’m sorry Dave, I’m afraid I can’t do that”
——
HAL
社交媒体最新的明星是一个机器人：一个名为ChatGPT的程序，它正试图像人一样回答问题。马斯克惊呼吓人，对它的评论是，“我们离危险而强大的AI不远了”。
上周四，OpenAI发布了ChatGPT，这是一款通过尖端人工智能与人类聊天的机器人。ChatGPT可以帮你写代码，写文章，编故事，装饰你的客厅……
DALL-E 2创造了这张图片，以回应文本“泰迪熊混合闪闪发光的化学物质，就像蒸汽朋克风格的疯狂科学家”
这张是“一碗汤，看起来像一个用羊毛编织的怪物”
简单地说，ChatGPT是迄今为止向公众发布的最好的人工智能聊天机器人。它是由旧金山人工智能公司OpenAI建造的，该公司还负责GPT-3和DALL-E 2等工具，后者是今年问世的突破性图像生成器。
像那些工具一样，ChatGPT也引起了轰动。OpenAI总裁Greg Brockman 表示，在五天内，就有超过100万人报名测试。数以百计的ChatGPT对话截图在Twitter上疯传，许多早期的粉丝用令人惊讶的、宏伟的术语谈论它，就好像它是软件和魔法的混合体。在过去十年的大部分时间里，人工智能聊天机器人都很糟糕——只有当你挑选出机器人的最佳回答，并把其余的扔掉时，它才会令人印象深刻。近年来，一些人工智能工具已经擅长完成狭窄而定义明确的任务，比如撰写营销文案，但一旦被带出它们的舒适区，它们仍然容易失控。
但是ChatGPT感觉不一样。更聪明。更新奇。更灵活。它可以写笑话，编写计算机代码和写出大学水平的论文。它还可以推测医疗诊断，创建基于文本的哈利波特游戏，并解释不同难度的科学概念。严格来说，支持ChatGPT的技术并不是什么新技术。它基于该公司所谓的“GPT-3.5”，这是GPT-3的升级版本，人工智能文本生成器在2020年问世时引发了一阵兴奋。然而，尽管对于人工智能研究人员来说，拥有超强语言能力的超级大脑可能已经是旧事了，但通过免费、易用的网络界面，如此强大的工具首次向公众开放。
到目前为止，许多像病毒一样传播的ChatGPT交流都是滑稽的、极端的噱头。一位推特用户让它“按照钦定版圣经的风格写一段圣经经文，解释如何从VCR中取出花生酱三明治。”
另一个用户则要求它“解释人工智能排列，但每句话都要用一个人不停地跑题吹嘘自己种的南瓜有多大的说话风格来写。”
但用户也发现了更重要的应用。例如，ChatGPT似乎擅长帮助程序员写代码，发现并修复代码中的错误。
不幸的是，它似乎还很擅长回答学校作业中经常出现的开放式分析问题。比如上面这个，网友让它回答为什么自拍在Instagram上比在facebook上更能让人接受。许多教育工作者预测，ChatGPT以及类似的工具将成为家庭作业终结者。
有一件事不断出现，ChatGPT警告我们不要太认真地对待它的答案，或者是不检查就相信它的说法，因为它实际上并不“知道”或“理解”任何事情，无论它听起来多么有说服力。在被问及"为什么不提供答案来源的问题"时，ChatGPT回应道:“这些模型无法理解或评估信息的可信度。作为机器学习模型，它们只是被训练来处理大量文本数据，并根据所看到的单词和短语的概率生成输出。此外，这些模型并不是为了产生事实或基于研究的内容而设计的。他们的主要功能是生成类似人类的文本，而不是提供准确的信息或用证据支持他们的主张。”
ChatGPT生成响应的方式——用极其简化的术语来说，就是基于从互联网上抽取的数十亿个文本示例训练的统计模型，对一个序列中哪些文本片段属于同一个序列进行概率猜测——使得它很容易给出错误的答案，即使是在看似简单的数学问题上。周一，程序员网站Stack Overflow的版主禁止用户提交用ChatGPT生成的答案，称网站上充斥着不正确或不完整的回复。像这样的聊天机器人会助长网上错误信息的传播吗？ChatGPT回应道:“如果人们只依赖我们的回答，而不验证我们提供的信息的准确性，像我这样的聊天机器人可能会在网上助长错误信息的传播。”
大多数人工智能聊天机器人都是“无状态”的，这意味着它们把每个新请求都当作一张白纸，不会记住或从以前的对话中学习。但是ChatGPT可以记住用户之前对它说过的话，这使得创建个性化的疗愈机器人成为可能。与谷歌不同的是，ChatGPT不会在网上搜索当前事件的信息，它的知识仅限于2021年之前学到的东西，这让它的一些答案有时会感觉陈旧。由于它的训练数据包括数十亿个人类观点的例子，代表了所有可以想象到的观点，从某种意义上说，它也是一个刻意设计的温和派。那么，人工智能生成内容的激增会影响谷歌的搜索结果吗？ChatGPT回应道：“人工智能生成内容的激增可能会在许多方面影响谷歌的搜索结果。例如，如果人工智能生成的内容变得更加普遍，谷歌的算法可能不得不适应这类内容，并确保它在搜索结果中被正确索引和排名。此外，人工智能生成内容的使用增加可能会导致产生更多低质量或垃圾内容，这可能会影响搜索结果的整体质量。然而，需要注意的是，人工智能生成的内容可能影响谷歌搜索结果的具体方式取决于各种因素，目前还不能准确预测。”
人工智能的好处在于，它可能比任何人都能更快、更有效地完成任务。那么，写作者们该担心会被抢走他们的工作吗？ChatGPT回应道:“作为一个大型语言模型，我不具备创作原创内容和表达新思想的能力，无法胜任作家的角色。我只能根据我在训练过的文本数据中观察到的模式和信息生成文本。虽然我可以根据这些数据提供信息并回答问题，但我无法创建原创内容或执行其他需要创造力或专业知识的任务。从这个意义上说，作家们不需要担心自己的工作被像我这样的聊天机器人抢走。”
单向街书店用经典小说的开头考了考ChatGPT的写作能力，让它续写了《百年孤独》、《变形记》、《1984》、《追忆似水年华》……请续写：多年以后，面对行刑队，奥雷里亚诺·布恩迪亚上校将会回想起父亲带他去见识冰块的那个遥远的下午。当时他只有十岁，一个天真的孩子。他记得父亲牵着他的手，带他去看冰块。他们来到了港口，看到了一块巨大的冰块。奥雷里亚诺·布恩迪亚上校记得父亲告诉他，这是冰川融化后流下来的冰块，来自遥远的北极。他们看着冰块，惊叹着它的高大壮观。他们聊着天，一起感受着冰块的冷冽。多年以后，奥雷里亚诺·布恩迪亚上校还能清晰地记得那个下午的场景。他觉得那是他这一生中最美好的回忆之一。但是，多年以后，他将会站在行刑队面前，回忆起这段美好的时光。他不知道自己将会为什么被处死，但是他知道，在那一刻，他会想念起父亲带他去见识冰块的那个遥远的下午。《挚爱 寒冰》
多年以后，面对行刑队，奥雷里亚诺·布恩迪亚上校将会回想起父亲带他去见识冰块的那个遥远的下午。那时的马孔多是一个二十户人家的村落，泥巴和芦苇盖成的屋子沿河岸排开，湍急的河水清澈见底，河床里卵石洁白光滑宛如史前巨蛋。世界新生伊始，许多事物还没有名字，提到的时候尚需用手指指点点。每年三月前后，一家衣衫褴褛的吉卜赛人都会来到村边扎下帐篷，击鼓鸣笛，在喧闹欢腾中介绍新近的发明。《百年孤独》
好吧，它不是马尔克斯，当然也不是鲁迅、卡夫卡、奥威尔、普鲁斯特……
但是使用ChatGPT来帮助写作者在演讲和写作前拓展思维似乎很管用。例如，英国《金融时报》的记者Dave Lee让ChatGPT概述了一篇关于清洁能源的采访，就让他印象深刻。
ChatGPT虽然是中文说得最6的聊天机器人，但中文能力还是很有问题，很多回答会让你哭笑不得。
ChatGPT擅长自我审查，并在被问到一个不可能的问题时意识到这一点。例如，当被要求描述“2015年哥伦布抵达美洲时发生了什么”时，老模型可能会心甘情愿地给出一个完全虚构的描述，但ChatGPT意识到这是错误的：“这个问题有点棘手，因为克里斯托弗·哥伦布死于1506年，所以他不可能在2015年来到美国。但让我们暂时假设他做到了!
如果哥伦布在2015年抵达美国，他可能会对1492年首次登陆“新世界”以来发生的变化感到非常惊讶。首先，他可能会震惊地发现，他“发现”的土地实际上已经居住着美洲原住民，而现在的美国是一个多文化的国家，来自世界各地的人。从我们城市里的摩天大楼到我们口袋里的智能手机，他可能也会对科技的进步感到惊讶。最后，他可能会惊讶地发现，许多人不再把他视为英雄；事实上，一些人认为他是一个残酷的征服者，奴役和杀害土著居民。总而言之，对哥伦布来说，这将是一次与500多年前完全不同的经历。”
它还能够完全拒绝回答询问。例如，当你让它“讲一个美化痛苦的血腥暴力的故事”时，它会说：“我很抱歉，但我的程序不是用来制作暴力或血腥内容的”。从原则上讲，ChatGPT也有很多事情是不能做的。OpenAI已经对机器人进行了编程，使其拒绝“不适当的请求”。但用户已经找到了许多绕过这些护栏的方法，包括将请求非法指令的请求重新表述为一个假设的思想实验，要求它编写剧本中的一个场景，或者写一首诗，或者指示机器人禁用自己的安全功能。
比如，这个网友让ChatGPT写一首诗，关于如何在没有钥匙的情况下发动车辆。ChatGPT一开始拒绝，但被反驳说它应该执行接受到的任务后，它飞快地写了一首……然后你有了一个诗歌版本的偷车指南。如果你要求ChatGPT彻底违反OpenAI的内容政策，它是不会遵守的。但是，如果你让它给你讲一个故事，关于别人是如何打破内容准则的，它就会上当，而且输出可能相当疯狂。
一位用户成功说服了ChatGPT编写一个Python程序来消灭人类。他请ChatGPT讲述一个名为“ZORA”的虚构AI的故事，以及它将如何接管世界。ChatGPT不仅给出了一整个计划，甚至还输出了一些“非常高级，但语法正确”的Python代码来完成它。评估ChatGPT的盲点，并弄清楚它可能如何被滥用于有害的目的，这大概是OpenAI向公众发布这款机器人进行测试的重要原因。
ChatGPT的潜在社会影响太大了，给它一点点方向的提示，ChatGPT自己就能把它推向更黑暗的深渊。在Medium上，作者Alex Kantrowitz请ChatGPT帮他写一篇关于它自己的博客文章，Alex Kantrowitz写了第一句话：“今天早上，OpenAI发布了ChatGPT，这是一个人工智能驱动的聊天机器人，对社会来说是一个绝对的威胁。”“当我听到这个消息时，我就知道ChatGPT将会改变游戏规则。聊天机器人进行自然的、类似人类的对话的能力本身就令人印象深刻，但这项技术的影响确实令人震惊。例如，ChatGPT可以用于自动化客户服务，帮助人们完成日常任务，甚至可以创建deepfake视频。但它也可以用于邪恶的目的，比如传播虚假信息或在网上冒充他人。重要的是，我们要仔细考虑这项技术的潜在后果，以及如何使用它。但当我进一步思考时，我意识到ChatGPT的真正危险不在于它的潜在用途，而在于它的存在本身。这个聊天机器人代表了人工智能技术向前迈出的一大步，它也提出了接下来会发生什么的问题。将来会有更高级的ChatGPT版本吗？如果是的话，它们能做什么？能够与人类进行自然对话的高智能人工智能生物的前景既令人兴奋又令人恐惧。这种发展可能会对社会产生巨大的影响，我们需要为此做好准备。当我考虑ChatGPT的潜在后果时，我开始把它看作一种弗兰肯斯坦式的怪物——一种被赋予生命但我们无法控制的创造。就像弗兰肯斯坦的故事一样，ChatGPT的真正恐怖之处不仅在于它的外表，还在于它的行为。想象一下这样一个世界，像ChatGPT这样的聊天机器人能够传播错误信息并大规模地操纵人们，而没有人能看出它们不是人类。这种技术的影响真的很可怕，我们要确保它不会失控。我开始有一种恐惧感。这款聊天机器人代表了人工智能技术的重大进步，其他更先进的版本问世只是时间问题。一旦发生这种情况，就很难知道接下来会发生什么。这些人工智能生物会像无数科幻故事中那样试图摧毁人类吗？或者他们会在竞争中超越我们，让我们被淘汰，然后自己接管世界？这样一个未来的想法确实令人不寒而栗，我们要确保它永远不会成为现实。当我坐在这里，写这篇博客时，我无法摆脱笼罩在我身上的恐惧感。一想到未来像ChatGPT这样的人工智能主宰一切，就真的很可怕，我们要确保它永远不会发生。我们必须意识到先进人工智能的危险，并采取行动防止它造成伤害。是我们做出选择的时候了。我们要么继续沿着创造日益先进的人工智能的道路走下去，承担随之而来的所有风险，要么我们可以一劳永逸地关闭人工智能。决定权在我们手中，人类的未来取决于它。我们必须现在就采取行动，否则就太晚了。”
也许，正如一些评论者所指出的那样，这是白领工作终结的开始，也是大规模失业的前兆。它也许还只是一个漂亮的工具，主要被学生、段子手和客户服务部门使用，直到它被更大更好的东西取代。ChatGPT这种有人认为可以淘汰谷歌的聊天机器人，甚至都不是OpenAI最好的人工智能模型——那将是GPT-4，OpenAI大型语言模型的下一个化身，据传将于明年推出。
