怎么看马斯克联名公开信？专家：人工智能已觉醒，人类还没有

当前人工智能影响力远比不上发明蒸汽机

3月31日，2023年博鳌亚洲论坛在海南继续举行。在“人工智能赋能美好生活”分论坛上，多位专家学者就近期人工智能领域的突破进展和对人类社会的影响等问题展开讨论。

由美国人工智能实验室OpenAI开发的对话AI模型ChatGPT自去年11月底推出后便一路走红。目前其底层模型已经经过两次迭代，拥有极其出色的文本生成和对话交互能力，当仁不让地成为时下热议趋势和话题。如何评价最近人工智能领域前沿这一巨大突破？

小i集团董事局主席兼首席执行官袁辉表示，从人类的视角看，ChatGPT的回答水平已经超越了很多个体乃至群体；但从机器的视角看，本质上它对于问答了什么一无所知。因此，从某种角度来讲，ChatGPT可能根本就不具备常识、认知推理能力等，自然也并非人类期待的真正具有颠覆性、突破性能力的人工智能。不过，他同时指出ChatGPT将对整个产业变革和升级带来颠覆性创新，它让行业实现大幅降本增效也毋庸置疑。

“这一波人工智能对社会的影响，我认为是应该远远超过iPhone的。”田奇直言，人工智能旨在打造一种通用的能力，而ChatGPT的出现让他在通用人工智能领域看见了曙光，这是人工智能技术经过几十年积累后的一次爆发——它不仅改变了人机交互方式，还极大地提高了生产力。不过，ChatGPT还未成为拥有人类情感的智能体。

此外，田奇强调AI的可靠性和安全性应受到更多重视。在他看来，应从国家层面出台一些相关政策，防止AI产品被滥用；AI产品要可控可靠，比如防范以文生图等技术可能会产生的伦理问题；不仅要重视数据安全，提高模型的可解释性，还应在通过使用海量数据进行模型训练时，尽量避免数据偏见。

清华大学公共管理学院院长朱旭峰在看待人工智能影响力时持有不同看法。他坦言，目前人工智能的发展还远比不上历史上蒸汽机的发明、印刷术的发明对整个人类社会带来的影响，未来可能也不会达到。如果人类能对人工智能可能带来的各种危害进行充分预防，它无非就是一种相对重要的技术进步，与电话、电报、电力系统的发明没有本质区别。

平安银行股份有限公司行长特别助理蔡新发进一步分析，ChatGPT的革命性意义在于其拥有一种跨界的、横向的、打通的能力。将ChatGPT与人类进行比较时，通常会发现它在很多时候是比较低级的，没有情感也没有思考过，但它具备人类所缺乏的把知识信息横向串通的能力，因为“人类的大脑和精力是有限的，你不可能去学习很多东西”。比如蒸汽机只在动力方面实现了单点的突破，但ChatGPT具备了横向贯通知识的能力。

“这已经证明它至少是一个‘iPhone时刻’，但是能不能到‘蒸汽机时刻’呢？实际上我觉得还需要时间印证。”他说。

有观点认为，过去的人工智能就像“手工定制”，不仅成本高，而且一个模型只能做一件事，比如AlphaGo只会下围棋，换成五子棋就不会了。ChatGPT在通用人工智能领域实现突破以后，该如何看待专用模型和通用模型二者的关系？

田奇表示，通用模型和专业模型是上下游的关系。目前GPT-4等都采用了大模型+行业数据微调的范式，因为如果直接把将通用模型用于行业场景中，可能不会实现最佳效果——比如使用CV模型将海量互联网图片用于医疗影像时，就需要在L0的基础上加上行业数据进行混合训练，从而得到行业大模型。

“大模型其实是一种变革性的、颠覆性的技术，所以它将成为AI将来的一个操作系统。它下面会加速与硬件的适配，上面所有AI的算法开发可能都会围绕它来进行这样一个构建。”他补充道。

袁辉表示，ChatGPT凭借其能力可以快速进入各行各业，并且产生价值，但也面临三个关键挑战。一是它在意识形态、伦理、道德方面必须可控，否则将极度不安全；二是若它要与不同行业相结合，必须是可定制，通用大模型必须在具备通用能力的前提下，具备解决不同专业问题的能力，“否则我们不可能用它去提供一个比较好的服务，用户也不可能付钱。”三是一定要实现可交付，才能在行业中进行大规模变现。

值得一提的是，南都记者在提问环节抛出问题——现在看似开发成本巨大的通用人工智能是否也会在未来“人手一个”？田奇直言觉得这一天会来到，“就像大型机到PC机的转变一样”。

3月29日，未来生命研究所（Future of Life Institute）公布一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。据悉，目前该公开信已有超过1500人签署，除了马斯克、辛顿和马库斯之外，还包括图灵奖得主约书亚·本希奥、《人工智能:现代方法》作者斯图尔特·罗素、苹果公司联合创始人史蒂夫·沃兹尼亚克等科技界领袖人物。3月30日晚间，公开信的网页上写道“由于需求量大，签署者名单暂停”。

谈及这一事件，朱旭峰、袁辉、蔡新发均在会上表示，如果遇到类似情况，他们不会签署。“人类历史发展过程当中，我们已经有能力去利用所有的科技带来的好处。”蔡新发表示。

这封公开信表示，当前这种具有人类智能的人工智能系统可能对社会和人类构成深远的风险，AI系统在一般任务上已经具备了与人类竞争的能力。这样的呼声不免让人联想到一个非常实际的问题——人工智能的发展将对哪些行业造成冲击？

对此，袁辉举了两个例子来解释。一是呼叫中心行业肯定会被快速迭代，因为“目前的版本都是siri的版本，相对来讲一问一答这种知识库的回答，在通用大模型的前提下，专业能力再加上订制化，它一定会大幅度提升。”二是我国建筑设计行业中，每年有海量图纸在最终盖章完成之前需经过一个必要环节——审图，人工审图时间长且无法面面俱到，借助这类技术能极快完成。

蔡新发直言，比较大众化的服务一定会被替代掉，但是对于中高端的客户服务，或者技术门槛较高的职业，仍然需要人机结合。

朱旭峰的态度则相对乐观。在他看来，人类历史上所有的科技发展都会对社会结构产生或多或少的影响，某些阶层、行业可能会崛起或消失，但也会产生新的行业。“不用担心我们的职业会因为新技术的出现（受到冲击），因为人会有适应性。”

他还指出，人工智能与从前所有科技最大的不同是，人类对人工智能的定义不是工具，在过往的历史长河中，科技的发展始终在人类可控的范围之内演进，但人工智能是人类期待的一个具备自我意识的新物种。

ChatGPT的爆火一度让“AI取代人类”的担忧再次加重。在会上，朱旭峰表示要“警告”全人类：人工智能在过去六十年中都在对人类发起攻击，这次ChatGPT的出世意味着碳基和硅基的序幕已真的拉开，未来人类会面对人工智能最强的挑战——与如今的地缘政治风险、数据安全不同，人类将面临一个终极的威胁和挑战。“人工智能已经觉醒，而人类还没有。”

此外，与袁辉的观点类似，他认为中国必须拥有自己的ChatGPT，这个重要程度不亚于“两弹一星”时期。

据统计，99%的大咖都关注了这个视频号

扫码加入学习，最后优惠机会！

每天两块钱，实时获取全球数据合规风险预警

👇