周鸿祎聊ChatGPT：很快产生意识，将带来新的工业革命

ChatGPT将带来新的工业革命

南都：今年你带来了哪些提案？

周鸿祎：今年我带来了三份提案，分别是《关于推广城市数字安全服务中心模式提升我国城市数字安全发展水平》《关于进一步推广SaaS服务模式推动中小微企业数字化共同富裕》《关于以产研协同和开放生态模式推进人工智能大模型技术创新发展》。

在前两份提案里我建议，把城市数字安全服务中心建设作为扩内需、稳增长的重点内容，列入省、市、县及产业园区的发展规划中；把数字化SaaS服务作为重点产业方向进行培育，推进中小微企业数字化的“共同富裕”。

南都：最后这份是与ChatGPT相关的？

周鸿祎：是的，我认为ChatGPT不仅仅是一个聊天机器人，它将重塑所有数字化应用和所有行业，为我们带来一场新的工业革命。

我建议从两方面着手发展人工智能大模型技术，首先是建立大型科技企业+重点科研机构的产研协同创新模式，打造中国的“微软+Open AI”组合引领大模型技术攻关；其次是支持设立多个国家级人工智能大模型的长期开源项目，打造开源众包的开放创新生态。

南都：国外有学者称，ChatGPT的表现接近9岁小孩。你认为ChatGPT是否已经接近人类的智能了？ 

周鸿祎：你们可以批驳我的观点，但我认为很多人可能没有意识到ChatGPT已经接近人类的智能了。ChatGPT是通用人工智能的奇点，未来它有可能变成强人工智能。

就像我们人类的演变，从猿到人肯定也有一个临界点——当大脑中神经网络触突连接的数目等多到一定程度，人就产生了智力。而当人类把所有的知识资料灌输给ChatGPT后，ChatGPT不仅仅是接收了、存储，而且它还理解了这些知识，并且在大脑中将这些知识进行编码，以此作为推理的基础。

南都：谈到理解知识，你认为ChatGPT和此前的一些智能产品有何不同？它真的能做到“理解”吗？

周鸿祎：其实我们跟很多智能产品聊两句，就会觉得“聊不下去”，它的回答经常是风马牛不相及。大家开玩笑说这不是人工智能，是人工智障，但是ChatGPT跟它们不一样。

有一次我问了ChatGPT一个很无厘头的问题：赵匡胤为什么招安了宋江，杀掉了岳飞？虽然是毫不相关的三个人物，ChatGPT却煞有介事地回答了一遍，无非是赵匡胤作为皇帝受到了威胁，岳飞作为一个抗金的将领如何得罪了皇帝等等。

我发现当ChatGPT找不到答案的时候，它会编出来一段答案，你不觉得这是人类的一个特征吗？人和动物有一个本质区别就在于，人类可以描述那些不存在的东西。

南都：那你认为ChatGPT会产生意识吗？ 

周鸿祎：我的观点是可能很快就会产生意识。据说现在OpenAI只向ChatGPT训练了数十万个问题和答案，它就可以处理我们常见的问题。如果我们将来向它训练上千万个问题，你觉得它会有怎样的能力？

我认为从某种程度来说，它甚至可以帮助人类实现数字永生。我原来不相信数字永生，看《流浪地球2》也觉得是部电影，但如果我搭建了一个ChatGPT，它把我这辈子所有的对话内容都记录下来，我今天见过谁、说过什么、写过什么、开过什么会，假设我能够记录几十年，把这些东西全都录入进去，作为训练我没事就找它聊聊天，过一段时间，你们和这个机器人聊天，可能感觉它的说话风格很像老周，思维方式也很像老周，从某种角度来说这个机器人就取代了我，实现了我的数字永生。

南都：你曾说过ChatGPT可以通过图灵实验，怎么理解？

周鸿祎：ChatGPT作为一个“硅基生物”，它正在进化，它的知识广度和深度可能变成世界第一。 

我感觉ChatGPT有三个人格：从知识方面来说，它像一个博士生，什么都知道，但还不会活学活用；从情商方面来说，它像一个油滑的中年人，说话滴水不漏，绝不得罪人；但它的实际能力又像一个小孩子，需要人教。

ChatGPT的认知能力、理解能力、推理能力，我认为基本可以通过图灵实验。ChatGPT绝对是一个革命性的突破，但也是“最大的威胁”。

南都：那你觉得ChatGPT会不会取代人类？有人担心它会让大家失业。

周鸿祎：我认为短期内不会，因为它目前的智力定位只是人类的工具，它还会犯错，我们没办法把它的结果拿给老板用，还需要再改一改。目前他还没有出现自我意识，不具备自我工作的能力，所以还是需要人类的想象力和创造力。

南都：ChatGPT的“威胁”是否还表现在安全问题上？

周鸿祎：是的。安全问题原来问不倒我，但现在把我问倒了。ChatGPT的安全问题已经从技术问题变成了社会伦理问题，甚至变成了一个人类面临的不可预知的问题。

因为ChatGPT掌握了非常多的编程知识，我也很担心ChatGPT成为黑客作恶的工具。但是我们也在探索用ChatGPT搭模型来解决攻击的自动检测、建立知识库。如果用得恰当，ChatGPT也可以扮演正义助手的角色。 

南都：你怎么看待ChatGPT对国内市场的影响？

周鸿祎：我觉得ChatGPT的中外差距没有光刻机和芯片那么大，主要是因为这方面的论文都是开放的，很多模型算法都是开源的，相当于不是从零起步，有基础。ChatGPT已经给大家指明了方向——“大力出奇迹”。

向ChatGPT灌输知识是比较容易的，但是训练它的推理能力等工程化的东西还需要时间。我认为以国内的水平，大概需要两年左右的时间就可以赶上来。我们有一些优势，比如在知识标注上，我们有人口红利。而且中国的互联网巨头比较多，算力也不错，大家也有这个需求。 

但是我们也有一些劣势。我们有句话叫“一人捅破窗户纸，千军万马独木桥”， 虽然中国的科技市场和微软谷歌的差距，从模仿角度来说不大，但从原创角度来说还是有差距，需要时间去弥合。另外，我国缺乏开源的传统，ChatGPT的很多模型都是其他公司开源的，没有开源就没办法在前人的肩膀上积累，每个公司都要从黑暗中摸索，这对整个产业的发展速度而言都是不利的，这么牛的技术也确实不应该被垄断在一两家公司手里。

南都：对国内开发类似ChatGPT的产品，你有哪些建议？

周鸿祎：ChatGPT的中文表现得确实不如英文好，部分原因在于中文语料的占比非常低。知识是无国界的，要开发ChatGPT这类产品一定要有一种开放的、全球化的心态，一定要能够从全球获取知识。如果只拿中文语料训练它，在知识维度上它就会缺乏全球视野。

目前中国互联网存在“信息孤岛”的问题，如果你的数据我拿不到，我的数据也不给你，最后大家训练出来的产品能够真正超越ChatGPT吗？我觉得会比较难。

“信息孤岛”可能是出于竞争的需要，但是对用户体验是一种伤害。我希望政府出台政策来解决这个问题，大家可以公平地拿到互联网全量数据。我们也需要把做研究的人和产业化结合起来，形成一个生态，创造出适合的土壤，这样才能培养出“参天大树”。