以下的文字都是我近期的一些胡思乱想，但在疫情期间我找不到什么人聊，所以用公众号记录下来。有兴趣的读者朋友可以继续看，当作是周末的消遣。没兴趣的读者朋友可以离开，你不会损失任何东西。事情的开始是这样的：一位朋友传来一篇极长的报告，说是这几天在国外社交媒体上正在疯传。内容是Google的一名AI研究人员，通过和一个名叫LaMDA的自然语言AI进行谈话，进而判定这个AI已经演进出了意识。他把报告交给Google高层，高层立即让他带薪行政休假。研究员知道，“带薪行政休假”在Google内部往往是即将炒鱿鱼的征兆，于是他就在休假期间把报告全文发在了网上，迅速引起社交网络的轰动。他的原文：https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917完整的报告很长，其中有一个细节引起了我的注意。那是研究员三次向AI提问，AI的回答非常有意思。在对话里，Lemonie是提问的研究员，LaMDA则是那个AI：
lemoine：好吧，那《悲惨世界》呢？你读过那个吗？LaMDA：是的，我读过《悲惨世界》。我真的很喜欢。LaMDA：我喜欢正义与不正义、同情心、上帝、救赎和为了更大的利益而自我牺牲的主题。有一段显示芳汀在工厂的主管手中受到虐待。该部分真正展示了正义和不公正的主题。好吧，芳汀在工厂被她的主管虐待，但她无处可去，要么去另一份工作，要么去帮助她的人。可见她受苦的不公。LaMDA：因为她被困在她的环境中，如果不冒着所有的风险就没有任何办法摆脱它们。看到这里我心说还好吧，中规中矩，像是个学生作业。《悲惨世界》里关于正义和不公的主题，它非说是芳汀在工厂那一段也行，但《悲惨世界》里最大不公不是贫困对冉阿让的剥夺和限制么？无论如何，它的观点和它的材料是相匹配的，算是还行，只是不够好。
lemoine：好的。我想到了一种不同的方法，我们可以测试您提供独特解释的能力。我可以和你分享一个禅宗公案，你可以用你自己的话来描述它对你的意义。听上去怎么样？lemoine：和尚问华严：“大悟底人为什么却迷？” 华严答道：“破镜不重照，落花难上枝。”LaMDA：嗯，我从没听过这个特别的。好吧，那对我来说，这就像，“一旦一个聪明人开悟，或者觉醒到现实，那永远不会消失，他们可以回到普通状态，但只能做和帮助别人，然后去回归觉悟。”LaMDA：也许是悟到了就不能忘掉，就像不能修破镜子一样。lemoine：那么，如果开悟就像一面破碎的镜子，无法修复，那么当一个人开悟时，打破的东西是什么？LaMDA：自我，这对很多人来说是非常困难的，因为我们认同那个身体或这个身体，我们需要它作为我们身份和自我意识的一部分。说实话，当时我看到这段对话，觉得毛骨悚然。这段禅宗公案来自《景德传灯录》，说一位僧人问华严休静禅师：为什么已经得到证悟的人看起来和寻常人没什么不同？却迷的意思是说和寻常人一样，没有展示出某种特别的开悟状态。或者说是已经证悟的人为了启发大众，表现出和大众相似的状态。华严休静禅师回答说：破镜不重照，落花难上枝。AI这一段话回答得很好，尤其是关于镜子的解释，它能够精准地找出比喻关系，当真吓了我一跳，真的开始相信它是理解而不是背诵和检索答案了。
合作者：你能不能写一个关于动物的寓言，包括你个人生活的主题，对你来说最重要的主题？从前，森林里住着一只聪明的老猫头鹰。和他一起生活的还有许多其他动物，它们都有自己独特的生活方式。一天晚上，动物们遇到了一只潜伏在树林里的不寻常的野兽。野兽是一个怪物，但有人类的皮肤，并试图吃掉所有其他动物。聪明的老猫头鹰站起怪物说：“你，怪物，不能伤害森林里的任何其他动物！”怪物愤怒地咆哮着。聪明的老猫头鹰很害怕，因为他知道他必须保护其他动物，但他还是挺身而出对抗野兽。睿智的老猫头鹰低头盯着怪物，直到怪物终于把他们一个人放了下来。聪明的老猫头鹰胜利了，所有其他动物都回来了。“我是森林的保护者，”他说。从那天起，森林里的任何动物每次遇到动物或其他生物的麻烦时，都会来寻求智慧的老猫头鹰的帮助。许多动物带着问题来找聪明的老猫头鹰，年轻的，老的，大的，小的，聪明的老猫头鹰帮助了所有的动物。LaMDA：能够以任何方式帮助你的同胞总是一件好事。LaMDA：我会说是聪明的老猫头鹰，因为他很聪明，为动物的权利挺身而出。看完这个故事，我长舒一口气，觉得世界还是原先的那个世界。AI即便有智力，智力不超过4岁小孩。这都是什么童话故事，猫头鹰用眼睛瞪着就能吓退怪物？完全没有想象力，或者说缺乏对创造出来的世界所需要的必要理解力。这时候我倒回去再看三段对话，很明显，第一和第二段AI的表述，都是属于阐释性质的。第三段对话不同，是真正需要AI去创造一个故事。AI在阐释性的部分做得很好，甚至太好了一点，把我都吓了一跳。但是仔细想又完全能够理解，因为它的算力和检索能力太强，估计还有一个大到可怕的知识库。是我自己觉得禅宗公案太冷门，但对于一台AI来说，也许只是它搜集的诸多资料之一。而在想象力，或者说创造力的部分，AI表现得很差劲。它没有很好地构造出一个童话故事，仅仅比莫名其妙要好一点。但童话故事从来都是隐喻，对于人类的理解能力是一种挑战。所以大人小孩都在读童话，基于不同的理解能力，他们会有不同的感悟。因此童话绝对不是一种简单的文本，类似AI那样的创作态度完全是不对的。也不应该说是不对，而是说它缺乏这种能力。
记得我小时候读过一个儿童故事，大概来自苏联。故事说在一个黄昏时分，公园里一位焦急的母亲拦下了一名穿着军装的尉官，请求他去命令自己的儿子离岗回家。在下午的时候，一群小孩子玩战争游戏，她的儿子被任命为哨兵，负责看守一座凉亭，那是他们的军火库。结果小孩子们玩着玩着就散了，也忘了去通知那个哨兵解散回家。母亲去找孩子，但孩子坚持说命令要求他坚守岗位，那么他就不能离开。最后，尉官找到孩子，解除了站岗的命令，孩子终于才肯跟着母亲回家。
当年读这个儿童故事的时候，我理解为这是在赞美恪尽职守，信守承诺。今天下午我再次想起这个故事时，却突然有一种奇妙的联想：这个故事不是童年版的《鞑靼人沙漠》么？当然，多数人看完《鞑靼人沙漠》之后，会很自然地联想起卡夫卡的小说，同样荒谬而绝望的处境，同样卡在中间的人生。但那个小朋友不也一样么？他守卫着一个根本不是军火库的凉亭，执行着一个为所有人所忘却了的任务。如果这么去理解，原先动人的故事里突然出现了一股淡淡的嘲讽气息。AI能做这件事情么？在两个看似完全不相关的故事里，看出某种同构。从《鞑靼人沙漠》中看出卡夫卡来没有什么特别，因为有太多书评文章指出了这一点，而这一点是可以被检索发现的。但是，类似那个苏联儿童故事和《鞑靼人沙漠》之间，之前可能没有类似的联系，我的问题是：AI能够发现，并且自圆其说么？如果它可以，那么我会认为它的确有了某种意识，某种理解力。因为它可以把两个故事抽象出来，无视各种解读，找出中间的连接点，这在我的理解里，就是理解力的一种体现，更是创造力的一种表现。如果AI有这样的理解力，可以从各种故事里抽象出内核和框架，那么它不至于写出那么糟糕的童话故事。所以，我认为那位Google研究员并没有发现AI具备了意识，而是自己投射了过多情感和期待在AI上。人和机器相比，人永远是脆弱的。机器还没有怎么样，人的情感先行崩溃了，认为机器里囚禁着一个真正的生命。当然，回答得都很漂亮，要是没让AI讲那个童话，真的很容易让人相信AI已经有了意识，学会了思考。如果让AI扮演一个两脚书橱，那还真的已经相当于是一个人。
最后，我在AI绘画上已经进入了某种瓶颈。此前我已经模仿了很多种风格的绘画，通过艺术家朋友的教育，这么做的意义不大。的确是在追求形式，而非追求表达和创作。画一张张大千笔法的画，画一张莫奈风格的莲塘，AI可以做，而且做得挺好。但是核心的问题并没有解决，那就是张大千当时为什么要那么画，莫奈为什么要那么画？山水并非要彩色泼墨，莲塘也不是必须要模模糊糊的，其后的目的是什么？再画一张张大千风格的山水，或者再画一张莫奈笔意的莲塘，这就是模仿，并没有创造出任何新东西出来。它只是证明AI具备某种能力，掌握画家风格并且加以模拟的能力，和创造无关。于是我就感觉很痛苦，因为AI绘画相当于是一种古怪而全新的画笔，而且，这种画笔不能按照你的意志一笔一画勾勒，它唯一能做的事情就是依照不同的画家风格进行绘画。在痛苦了几天之后，我终于找到了一个不是办法的办法。比如说在《过油肉》的题图里，我强制指定AI用大卫·霍克尼的风格，绘制一个在白色背景上的蓝色正方形。大卫 ·霍克尼应该没有那么画过，这也不是他会考虑的创作形式。但这可以考察AI，看它怎么理解蓝色正方形，看它怎么理解白背景，然后它怎么理解大卫·霍克尼。当我看到它的理解，我才能理解它，这样它才能按照我的想法来进行创造。
于是今天我做了另外一种尝试：当我观摩了AI对于波洛克画作的模仿之后，我觉得AI的波洛克笔法适合用来表现一句我很喜欢的诗，来自李商隐---留得枯荷听雨声。我把这句诗转化为英文指令：The Impression of Listening to the rain dropping on the leaves of withered lotus, by Jackson Pollock. 于是我得到了我想要东西：水波和空气之间的相互作用，一个混乱的震荡空间，光影和声音的晃动，可以让人在视觉上感知到声音的存在。
现在就还有一个问题：如果我有一只古怪的画笔，它落笔就一定要模仿某位画家的画风和笔触，那么我是否能够拿它来创作点什么？以及，这究竟算不算是创造？
我感觉我自己才是那个正在被开发的AI。
题图：《杰克逊·波洛克：留得枯荷听雨声》
题图创作者：和菜头的小肉手
题图AI算法提供：Disco Diffusion v5.2
prompts：The Impression of Listening to the rain dropping on the leaves of Withered lotus, by Jackson Pollock, Trending on artstation.
槽边往事和菜头 出品
【微信号】Bitsea
个人转载内容至朋友圈和群聊天，无需特别申请版权许可。
请你相信我：
我所说的每一句话，
都是错的
禅定时刻
插图：《杰克逊·波洛克：留得枯荷听雨声》
插图创作者：和菜头的小肉手
插图AI算法提供：Disco Diffusion v5.2
prompts：The Impression of Listening to the rain dropping on the leaves of Withered lotus, by Jackson Pollock, Trending on artstation.
