六种困境：GPT、科技、人类的生产、知识与未来（下）

 兔主席 20230410

接上文继续讨论。《GPT、科技、人类的生产、知识与未来（上）》

探讨4 ：GPT工具对人类个体的赋能及影响？

有了上篇的铺垫，就可以做更多的分析和判断了。

作者主要结合日常使用ChatGPT、文心一言、BingChat、Stable Diffusion、Midjourney等工具的有限经验，并且假设GPT技术及通用人工智能在可见的未来将加速迭代发展（快至以月度/季度为单位）。一个基本判断是：GPT及通用人工智能将以比普通人预想要快得多的速度，对人类的工作、生活乃至社会、历史发展等产生重大且不可逆的影响。

以下是作者的一些看法。（以ChatGPT为典例）

1. “结果输出型”：如前文举的例子，电子文字录入只是一个输入法，并不影响思维和内容；互联网上的信息则像是一个图书馆，需要个体进行主动的信息检索、收集、分析、比较，最后创作知识/文化产品。ChatGPT是不同的，给出问题，就能直接输出“唯一”的答案，且它不仅仅能够帮助搜索和整理信息，还能对信息加以分析（或呈现有分析的结果）；且不仅仅是进行分析，还能进行一定程度的创作——例如帮助撰写提纲、脚本，对问题的分析，提供框架与思路，打初稿，等等。从这个角度来说，它是“结果输出型”的，性质上更接近电子计算器或翻译机。这个过程，虽然为使用者提供了便利，但也让人们跳过了收集、观察、比较、分析等重要步骤。这些步骤对于一个人掌握学习方法、形成对知识的认知，以及形成系统思维能力是不可或缺的。这时就会出现这样的问题：人工智能越强大，人的思维能力反而可能越弱，因为需要高度依赖人工智能（“ChatGPT上不去了，工作效率急剧下降”）。对于尚在求学阶段的青少年，恐怕更加不利。

2. “内容内循环”：GPT依托互联网上提供的资源信息，不断的训练、学习、模拟。我们前文提到互联网世界信息极大丰富并广泛普及后带来的问题，即“抄袭”和内循环：人们只要从浩如烟海的网络信息里复制内容，做微小的调整就可以当做原创提出。这充其量是一个知识传播的过程，但并没有人类社会创造增量知识。ChatGPT等工具把这个问题“加剧”了。它可以在一定的底层信息上不断地学习、训练、模拟，提供看似正确的答案。并且妙在这个答案每个都看似不同，有所差异，可以为用户调用。但用户所做的，本质上只是对前人成果的复制、复述、反复，并没有创造增量价值。这就是内循环的问题。因此，GPT的结果是以高科技的形式实现了“天下文章一大抄”的愿景。对于尚在求学阶段的青少年，这样的工具恐怕是弊大于利的。因此，我们不得不考虑GPT/AGI对教育体系的影响：如果我们进入这样一个社会，教室用GPT写提纲、备课；学生用GPT写作业。那还有什么教育可言？

3. “平均化、中庸化、中人化”：现阶段，GPT希望实现的就是所谓“通用人工智能”（AGI，下文根据语境，与AI切换使用）。而现阶段的AGI主要还是学习、训练、模拟，“假装是个人”。待ChatGPT发展到GPT-5，对话起来不一定能区分是人还是机器人了——至少不能马上排除其可能是人类。但这时，机器人也只是模仿人类，它也不需要当什么天才，只需要做一个普通人即可，只要达到芸芸众生的平均水平即可。当然，这么说也不准确，确切地说，ChatGPT要达到的是受过高等教育群体里的“中人”水平，甚至超过中人水平，达到比方说第一个四分位数的水平（即打败75%的受过高等教育的人群）。如果实现这一条，对于人类社会的大多数成员而言来说肯定是赋能的：直接把普通人带到了人类知识社会的中层以上水平。这就好比算术能力不普及的时候，所有人突然都有了计算器。这，就是以科技的力量完成知识的均等化。

4. 困境1：“知识和智识的价值贬损”：很多人以为，“哎，有各种GPT帮助写字、画图，我以后可就厉害了。要做个什么东西，先用电脑打个稿，给个创意。”想简单了。知识就是力量（或权力，对应power），隐含的意思是知识也是稀缺的，为少数人所拥有的。等到知识大众化、普及化时，知识和智识能力的相对价值也就减弱了。举个直观的例子。现在报考国际上的名牌大学研究生，申请人都会精心准备简历，个人陈述，并且录制个小视频。这时是很能比出学生用心和能力水平的。但如果以后做这些东西都可以用GPT赋能呢？如果人人都用AI做精美的简历和视频，那一般水平的简历和视频自然也就没有价值了。同理，在职场工作的人士，一般的提纲、文案、备忘录、PPT也没有了价值：你可能只是GPT的二传手。你的工作很快就被人工智能所取代。当人人都拥有这种能力，当知识和智识随手可及时，这种能力瞬间也就没有价值了。可见GPT/AGI会创造价值，但也会同时消灭价值。

5. 困境2：“绝大多数人类个体无法突破AI强大的‘中人’水平”：形式上，GPT/AGI给人赋能了，让每个人都强大了。但实际上，大家都是均等的，你能用GPT，别人也能用。能力一但普及，就没有了价值。创造增量价值的核心在于能够不断地“超越中值”：你在利用GPT做更多的事情，在突破边界，在创造增量价值。你永远不会受困于、受制于AI，而只有AI反过来学习你。换言之，你在把人类的知识和智识推向新的边界。（但AI也会很快赶上哦！）这一条，对大多数人来说是不可能的。他们发现，永远也无法超越GPT，只有“抄”的份儿，只要能抄、会抄就不错了。这很正常，GPT学习的对象一定是受过高等教育的人群，这些人在人口中只占据少数；GPT在这部分人群中如果姑且能够占据“中人”以上水平，其能力肯定会超越大众（及其所代表的智识“中值”水平）。未来世界，真正的高人是能够驾驭AI的（无论利用资本，还是技术，还是政治）；凡人看似也能利用AGI，但实则是被AI驾驭的。

6. 困境3：“大多数人类会因为对AI形成依赖，导致智识能力的进一步下降，甚至导致智力的‘贫富分化’”。上文探讨过，现代文明和生活方式可能反会削弱人们应对和驾驭自然的能力；计算器反会减弱人的算术能力，翻译机反会降低人的外语能力，等等。AI在强大、普及后，将俘获全人类，让大多数人类获得形式上的赋能（如同佩戴了电子计算器和翻译机）。一但人类对AI形成了依赖，智识能力反而可能会下降：他们只求通过AI获得输出与结果——这些结果已经远比他们自我学习所能得的结果要好，效率远要更高，是凡人此生无法超越的。他们也不可能有心力和脑力去研究和驾驭AI。这和我们今日世界的经历一样：电脑和智能手机全面普及后，也不是全民都去学习掌握电脑和智能手机的原理——人们只是将其作为理所当然的工具进行使用。这样，大部分人的智识反而可能更“愚钝”。少部分的精英，则可以利用AI进一步推进自己的脑力，推进人类智识的边界，并且将新的突破传授予AI，帮助AI突破先前所讲的“平均水平”，并使平均水平距离常人更远。这个结果就是，常人更加难突破平均水平，距离中值更远，并且智识水平可能进一步削弱。这时，我们将看到，在AI的助力下，精英与大众的智识能力将加剧分化，最终导致人类智力资源的“两级分化”；

7. 困境4：“知识与智识能力内卷的加剧”。前面我们已经看到，第一，对于大多数凡人来说，将来越难越突破AI代表的人类“平均能力”，并会被困在其中；第二，少数精英能够驾驭和引领AI，并且会推动AI（即人类智识“平均水平”）的前进，拉大AI与普通人（即人类智识“中值水平”）的距离。但还会不少人处在中间位置：他们刚好落在AI代表的平均水平附近，但又不具备引领突破智力边界的能力。这部分人能做的，其实是把大部分脑力用在改良、差异化GPT提供的输出。在知识文化与智识的价值创造上，不能说他们完全没有贡献，但他们投入产出比是比较低的。总体而言，他们做的是教科书定义的“内卷”（involution）。

8. 困境5：“价值观与意识形态‘泡泡’”。就此问题，作者在本公众号上已经写了多篇文章，并以美国的ChatGPT为例，探讨了这一顶流工具系统存在的价值/意识形态偏向（偏向西方的政治左翼/进步主义/社会主义）。作者并认为，未来的意识形态/舆论战场将建立在人工智能的基础之上。掌握人工智能技术资源与能力的机构或个人，将通过人工智能影响世界。未来的人们将不知不觉地“圈定”在一定的意识形态或价值观“泡泡”里，并对此毫无意识，因为这些价值观已经潜移默化地成为他们的一部分。这时，人工智能帮助营造了一个“楚门的世界”，凡人不仅难以突破边界，甚至不知道存在边界。待AI进一步演变，可能人类整体都会被超智能的AI圈定在它所设置的“楚门世界”里而不自知。（这是下一篇文章的题目）

9. 困境6：“AI对艺术创造工作的取代”：许多人认为，创作、创造、创新是人类的专属，很难被AI取代。但这可就把问题想简单了：看艺术领域就知道，原创其实是很少的，绝大部分人只是在学习和模仿，进行微观的差异化调整和改良，但没有艺术的创新，没有对艺术边界的推进。这样的模仿作品，价值是非常小的。我们学习艺术史——从美术、音乐到建筑，看各个时代的大师——大师一定有原创的东西，在所在领域推出了全新的东西，把艺术的边界和可能性向前推进。今天，哪位美术学院或音乐学院的学生模仿几百年前的大师风格创作作品，哪怕比前代做得更好（譬如更高级的莫扎特/巴赫或拉斐尔/伦勃朗），恐怕也不会有什么价值——这些都是人家已经做过的东西。人类艺术史的发展演进，人类艺术价值的发现，都是对艺术边界的推进。大多数人是没有这种能力的，毕生停留在模仿、折衷、微观改善的水平。因此他们也不会成为大师，无法在历史上留名。我们为什么要学习艺术史？表面上是是了解过去，实际上是确立艺术的审美价值观——前代做过的东西，就没有价值了，尝试点新东西！但这对于普通人来说可是勉为其难，因为似乎能做的东西都做了，能表达的东西都表达了，能用的形式都用了，进一步创造增量价值很难了。而这正是AI对人类提供的挑战。第一，凡是大路货的平面设计和视频，很快都会被AI取代，因为GPT就是最强的学习训练模仿者，可以瞬间生成达到人类艺术里均值水平的东西。GPT不负责创作，只负责模仿，而对于大多数艺术品的生产而言，这就够了——我们可能只需要做一个商业海报，营销视频，或者在办公室走廊、会议室、卫生间挂个画，营造一点氛围。交给GPT/AGI不就可以了么，不需要什么艺术家创作。GPT的横空出世，对于偏向模仿，缺乏原创的艺术工作者的打击将是致命的。第二，人类艺术史的推进与发展，其实要捕捉所谓的“outlier”（异类/离群者/异常者）——那些非主流、离经叛道，但对艺术创造和想象产生颠覆影响的人。他们甚至不一定是正常人，可能是精神分裂者。但这样的人，恰恰可能穿越主流，把创作推向新的边界。

GPT的时代，AGI的时代，将使得知识和智识能力全面的大众化、平庸化、中值化。但GPT/AGI终究还只是学习者。人类该如何突围呢？突破算法：你可能需要一点“离经叛道”，一点“非主流”，一点边界感，一点违和，一点极致，一点颠覆。这是一个奖励异类/离群者（outlier）的时代。

直到AI学会“异类”，将其纳入到算法之中，完成楚门世界的闭环。

未来，人类和机器（人工智能）的知识与意识边界将是模糊的。人类高度依赖AI；AI反过来又要向人类学习，两个力量“相向而行”，越发接近。人与机器的知识不断合成，不断迭代。在AI的驱动下，人类彼此之间的意识可能逐渐的聚合，与AI的界限也将越发模糊，最终归于一体，一个共同的意识。

现在一些科学家和科技大佬呼吁叫停GPT的研究，担心人工智能研究的推进可能对人类社会造成不可逆的影响。

太晚了！AI的发展已经突破临界点了，所有的力量都在推动它，不可能再止步。

没人知道技术演变的速度会有多快。几个月？一年？如何改变我们的生活？没人能够预测。但在可见的未来，我们的生活一定会发生巨大的改变。而我们的下一代，必须为这样的生活做好准备。

（全文结束）