今年是《第一财经》杂志创刊15周年，趁着刚刚过完15周岁生日，我们围绕当时的热点话题ChatGPT和4月刊（《你和ChatGPT聊了吗？》），在深圳前檐书店举办了“杂志15周年系列读者见面会”的第一场。首先《第一财经》YiMagazine副总编辑陈锐分享了杂志创刊15年来的一些故事：比如这本杂志最初是一本周刊而不是月刊；还比如早在2011年杂志就策划了一本关于投资理财的副刊《好运money+》等等。不过始终不变的是，杂志一直在尝试用最新鲜有趣的方式与读者沟通，杂志书 (Mook)就是这几年我们探索出来的新形式——其中研报《公司的秘密》第四辑3月刚刚上市啦。紧接着就来到了此次读者见面会讨论的主题：从AlphaGo到ChatGPT，AI纪元来到了哪一年？我们为此准备了一场圆桌讨论，特意邀请到了南方科技大学系统设计与智能智造学院的马兆远教授与创立火光摇曳教育科技有限公司的靳志辉作为正反方来辩论这个问题，前者写过名为《人工智能之不能》的科普读物，后者曾是腾讯人工智能领域的专家工程师。△ 左上：马兆远，右上：靳志辉，左下：吴洋洋，右下：王杰夫。最后是《第一财经》杂志4月刊的主创团队的分享环节——副总编辑陈锐，主笔吴洋洋及记者王杰夫、张司钰、陶紫东也和读者们面对面聊了聊制作本期杂志过程中的采访见闻，以及他们对这一次人工智能热潮的认知与理解。圆桌讨论的观点激荡比我们预想中来得要更早些。现在，我们摘录出速记中特别有意思的部分，分享给大家。靳志辉：如果大家回看历史的话，每一轮“人机大战”都兴起一次热潮，然后媒体开始疯狂报道——人类可能要被颠覆了，然后热潮就下去了。很多人就开始骂做AI的人，“你们这帮人是骗子”。但我认为过去20年AI领域产生的进展相比1950年到2000年之间的进展是有很大的差异的，2000年之后，AI可以和产业对接，变得工业化了，因此这段时间的进展是很快的。我可以举几个数据。比如说AI最早涉及的游戏是西洋跳棋，AI首次战胜人类大概在1960年代，然后经过了大概40年的时间，AI才进化到全面战胜人类。但在国际象棋中，从AI第一次打败人类到人类完全不可能战胜AI，只用了10年的时间。在围棋上，AlphaGo只用两年时间就让人类再也追不上了。现在从GPT-3迭代到GPT-4，速度很快，肉眼就可以感知到。马兆远：我们经常混淆两个概念，一个是计算机，一个是AI。你说AI在2000年之前没有工业化，那么你怎样去定义AI？比如说 1956年AI这个概念就被提出来了，其实当时跟计算机是在同一个定位上的，那我们是把计算机当AI呢，还是把AI当计算机？现代计算机最早是从 1936年开始的，图灵在一篇文章中定义了什么是图灵机，也定义了图灵机哪些问题是做不了的，所以从那个时候就有了计算机。但计算机的工业化从6、70年代就已经开始了，在国际象棋领域战胜人类的深蓝就是计算机公司IBM开发的一款超级计算机。靳志辉：我认为从 AlphaGo 到ChatGPT 的出现是颠覆性的。在图灵1936年提出图灵机的模型时，提到了一个很重要的智能测试标准：图灵测试。虽然这个标准也有争议，但到目前为止，或者在ChatGPT出来之前，人类认为的人工智能的最高定义标准就是图灵测试——你能不能甄别和你聊天的是一个人还是一个机器？如果不能甄别，那基本上认为这个机器达到了人类的智能水平。2016年的时候，AlphaGo是一个突破，如果此前你问顶尖的AI专家，大家都很悲观，认为在围棋中人类完全无法取胜是20年后才会发生的事情，但实际上Google用了两年就做到了。大家都认为语言处理是人工智能的圣杯，是皇冠上的明珠。但在语言交互能力上ChatGPT取得了很大的突破，这个突破以前在人工智能界是不可想象的。所以从这个点来说，我认为是一个本质的变化。
靳志辉：AlphaGo的任务其实是一个简单任务， AlphaGo在整体上来说是在一个非常受限领域的一个子任务，所以在智能决策里面，虽然围棋的难度很大，但它不太被认为是一个典型的通用智能。但是语言能力是人类的一个顶尖能力，解决了语言问题那么就可以说它是一个通用智能。因为语言能力是人类唯一的能力，语言能力是人区别于动物的认知能力中最顶尖的能力。所以当我们在定义通用智能的时候，可以从视觉的角度定义，也可以从听觉的角度，可以包括从这种肢体完成复杂任务的角度来定义。但一旦语言能力产生，那就会在认知能力上取得极大的突破。现在即便是OpenAI内部的人也搞不明白语言能力为什么被突破了，现在学术界对于ChatGPT的可解释性是很差的。我们现在观察到ChatGPT有极强的语言交互能力和逻辑上一定的解释能力。但是这个能力是怎么产生的？现在归结为一个词叫大模型，但是大模型为什么有这样的能力？还有一个词叫涌现，就是说模型增大了以后产生这样的一个能力，这个能力在科学上怎么解释？目前整个科学界都没搞定。马兆远：我其实特别怕你说整个科学界没搞定这件事，这个说法特别神秘论。因为有些参数确实存在着所谓的跃变，这些参数被改变了之后结果就会发生很大改变，这样的情况下，一个数据模型怎么把它进行传统意义上的代数化？这件事是我们认为所谓大模型不可解释，也就是说解释性做得并不是特别好，但并不等于我们不知道它怎么发生。如果大模型不可解释，潜台词就是说这东西已经醒了，只是没告诉我它醒了，所以后边的推论大家就知道了。所以我不认为它是一个通用人工智能。AI还是在人类的参数的调整中改变的。例如AlphaGo在围棋领域，当我们输入的参数要求它赢的概率在变化，它的结果就相应有改变。那么对于ChatGPT来说也是这样，我们还是在通过参数控制它，只是它的模型更大了。从设定的参数上看，对于机器回答出来的问题，我们并不要求机器能够完全明白，但只要人类看不出机器不懂就可以了，ChatGPT就是通过这种方式让你觉得它有智慧，但这只是个小花招。你如果说到语言的重要性要从维特根斯坦开始讲，维特根斯坦有两个阶段的贡献，一个阶段就是说我们人类沟通要通过语言，所以语言本身必须要讲究逻辑，讲究古典逻辑就是图灵机的所有基础。图灵机也就是计算机科学的基础，计算机科学又是人工智能的基础。但是，维特根斯坦到晚年的时候意识到了另外一件事，人类语言其实是可以被无穷诠释的，我们在创造语言本身，它不是一个静止的东西。这也就可以解释ChatGPT的问题，它一定答不出来人类“今天”才创造的语言，它需要录入。人类的好处是我们并不是面对一个静止的语言，我们在不断创造语言。比方说20年前我跟你说苹果的时候，你一定是说这东西好吃不好吃，但现在我说苹果的时候，你一定跟我说这东西好用不好用。
#3 我们该担忧什么问题？
马兆远：计算机其实在某些事情上取代我们，这也是我们发明计算机的各种算法的目的，比方说我们让它去做文字编辑，就是为了省掉用手抄写这件事。
有个有趣的的故事：当我们谈computer这个词，你在脑袋里出现的一定是计算机，对不对？但在1940年的时候，computer这个词指的不是计算机，是一帮工人，他们在很多屋子里边专门用手摇计算机去算曼哈顿工程的参数，当时这些人就叫computer，它是一个真正的职业。但在后来IBM做出商业化的计算机之后，computer这个词就逐渐变成了指代机器。所以它反映了特别典型的行业变化——当你真做成计算机了，这个工作就消失了。所以你也可以推论，今天的一大堆工作肯定在未来被某一种方式取代掉了，一些工种真的成为历史，甚至未来的人不记得我们干过这些事。靳志辉：其实ChatGPT对整个教育体系已经产生了很大的影响，回到基础教育领域，前两周跟一个大学的教授测试ChatGPT，他测完的结论就是ChatGPT的解题能力基本上达到非数学系本科生的水平。也有人用苏格拉底教学法，一步一步跟ChatGPT互动，把知识过程呈现出来。我觉得这是人类学习的一个很重要的机制，不仅告诉你答案，还要跟你讨论，指导启发你，逐渐地学习。现在这样的一个产品已经开始产生了。不仅如此，法律、医学这些领域都很有可能被AI颠覆。我觉得医疗领域就会产生极大的变化，现在ChatGPT拥有的这种语言交互能力意味着只要它对接到医疗领域，就一定能产生一个医疗助手，能够回答你大量的关于健康咨询的问题。不过现在的问题，不是说AI能力不足，而是有效的医疗数据很难获取。马兆远：我相信现在的ChatGPT给很多人带来的焦虑就类似于1900年代，从事油画创作的人面对照片、电影这种新技术出来时所展现的迷茫。就像现在内容创作中的图片和文字，AI都给你生成了，人类该怎么办？我们其实面临这样的挑战。但我也相信，因为我们有所谓的联想和创造能力，我们总会找出新的突破方法。但是我今天肯定很难预言。现在很多人探讨AI是否会失控，也有人写联名信呼吁暂停开发，但其实即使你停止，也一定会有人继续弄。所以这件事最关键的是我们要知道它的边界在哪，知道我们人跟机器的分工，这是大趋势。在这种前提下，其实让它继续生长没有什么问题。因为技术本身没有善恶，只是很多人会用技术去作恶。那现在的办法就是：怎样在我们人跟机器之间构架好的沟通渠道，怎样约束技术本身的进步并制定技术跟人之间的规则，怎样让它的所谓计算能力后面有一根能被我们攥在手里的缰绳，这个是我们现在应该去关注的事情。
*5月中旬我们将在北京举办以《县城故事》为主题，结合封面主创团队分享的线下沙龙活动，还请大家及时关注杂志公号推文。
识别下图二维码购买本期杂志，
