看ChatGPT 的一个范例，我们会忧心吗

ChatGPT 之所以如此成功，不是因为它的智能超越了人类，只要它是建立在自然语言学习模型上的，它的智能只能是人的智能的一个子集。当然这个子集可以不断扩大，但不会超越人类智能的全集。

我们说ChatGPT 的智能，要很小心，它面向我们时，往往展示两个能力，一是知识收集和整理，二是推理出新的知识。真真让人惊咋的是后者。我说的新知识不是指要靠科学去发现的新知识，比如从牛顿力学到相对论力学，而是指通过逻辑（分析综合推理）产生的新知识，譬如给它出个题，分析一下电动车和充电站之间的先有鸡先有蛋问题，即使这个问题的回答网上不存在，它都会给出不错的答案。我把这个范例附在本帖后面，它的答案不但语言表达清晰标准，而且你能明显感到一种逻辑思考贯穿其中。

我想它的回答把两个内容的学习结合了起来，一是电动车充电，一是先有鸡先有蛋问题。两个领域都有大量知识可供汲取，这并不难，有挑战的是，它要将第一个知识代入第二个知识，或让第二个知识介入第一个知识，在综合的基础上推理出现实问题并给出合理解决方案。按这个简单范例，它的智能或许已超越平均初中生水平。

它不仅能收集汇聚知识，而且能演化出新的知识内容。它为何能做到后一点，仅凭它强大的语言理解能力？

我觉得这背后牵涉到起码第三个知识的学习，逻辑推理。虽然它不太可能为了这个问题专门去搜集适用的逻辑推理知识，但在它平时处理千千万万的问题时，已经潜移默化地学习人类搭起了相关的神经元网络。可以说这种泛逻辑推理能力已经固化在它的模型里了。这就是可怕的地方，尽管它这三样知识都不会超越它能接触到的人类知识范本，但凭它远超人类的算力和记忆力，至少在速度上可以轻松击败人类。这已然实现，我们热衷使用GPT不正出于 这个原因？

继续想下去，噢，原来我们的智能就这么简单搭建起来，机器只有要算力足够算法合理就能无限制地越来越快地模仿，而且在互联网时代，我们的智力早已脱离大脑的储存，随随便便地通过自然语言的表达扩散得到处都是，毫不设防，对于机器入侵也没有任何知识产权的保护。我们被机器取代的节点离现在还有多远？时钟滴答。

所幸的是，我们的智能全集，并不是全靠这样散布于自然语言的智能定义疆界的。我们更高级的创意性智慧，往往超越自然语言的表达，譬如建筑师通过建筑，作曲家通过音乐，科学家通过数学方程，艺术家通过形体舞蹈或者书画。即使诗人，他必须把作品用自然语言表现出来，但他在落笔前一瞬的灵感，是无法通过笔下的分行文字逆向工程出来的。当然我们不能排除今后的人工智能，会采集非自然语言中的人类智能，但只要它还基于自然语言学习模型，我们人类还是有战略后方的。

最后我们或会想到，我们称自己是属灵生命，灵显然不是知识，智能和智慧，灵是什么很难说，但灵让我们不需感官获得不需理性推导产生对生命和存在的悟和感念，灵即是自由意志的载体，也是信仰执着的基础。灵能让我们这个神的选民面对机器获得某种优势吗？一时想不出来。

实际上机器要战胜我们，并不需完全超越我们，犹如两军对阵，并不一定强者获胜。强者会有疏忽，会有漏洞表现出来，只要那一刻被弱者逮着，事情就完结了。我们人类时时处处会露出自己的漏洞，我们的非理性，我们的情感用事，我们大部分日常决策不愿意动脑，会让我们在无情的绝对理性的机器攻击下一败涂地，即使我们可到达的最高智慧胜于机器

想到这些，我们会觉得那场刚发生在OpenAI的流产政变并非那么荒唐，政变之失败，或许正意味人工智能在战胜我们，它用自己令人惊讶的能力展现，来赢得投资者和持股人的亲睞，变相操纵了他们的决策。

最后无聊一想，如果这个世界的自然语言是中国的文言文，GPT 模型能学到什么？

＊＊＊＊＊＊＊

我问： 请分析一下电动车和充电站之间的先有鸡先有蛋的问题。

它答： 这个问题确实很有趣，因为电动车（EV）和充电站之间的发展存在相互依赖的关系。一方面，没有足够的充电站，消费者可能会因为充电不便而犹豫购买电动车。另一方面，如果没有足够的电动车在路上行驶，投资者和政府可能不愿意投资建设充电基础设施。

从历史的角度来看，电动车的发展通常需要政府的政策支持和补贴来推动充电站的建设。这样可以降低消费者的购车成本，同时确保有足够的充电设施来满足日益增长的需求。随着技术的进步和成本的降低，电动车变得更加普及，充电站的建设也会随之加速。

总的来说，两者之间的发展是相辅相成的。政府和企业通常会通过各种措施来平衡这种先有鸡先有蛋的问题，比如提供购车补贴、建设公共充电站、以及推动家庭和商业充电解决方案的发展。随着时间的推移，这种平衡会逐渐实现，电动车和充电站的网络会不断扩大，最终形成一个成熟的生态系统。

 

 

更多我的博客文章>>>

 

 

看ChatGPT 的一个范例，我们会忧心吗 收获和康复之路 石凳兄咱们和解吧 抱薪者说 我们日常的判断和决定都是逻辑的吗

里面AI作的图也颇令人寻味

我让他作一幅人机互搏的图，并无指定人要用中国功夫。它却画了一个人一本正经摆出中国功夫的架式，煞有介事，然而面对机器人的进攻却门户大开，机器人并无仿效任何中国功夫或西方技击，只是简单粗暴地攻将进来，它半抬的左腿，已经锁定人的下裆命点。这幅图虽然粗看是人机相持，其实意味机器人已胜券在握。而且那机器人背后的光芒。。。

好角度。ChatGPT 和 卜卦更接近 底层都是与非门

但我和世界搏击冠军底层也都是细胞。我有一文预测GAI何时成为AGI超越人类

https://blog.wenxuecity.com/myblog/73834/202304/8564.html 其中这样预测：

GPT-3已是个十分复杂的学习模型，其训练参数总量达到1750亿之巨，而三年后的今天， GPT-4 的参数总量竟然又差不多翻了一倍达到3500亿（比较可靠估计），有人危言耸听，人的神经元总量只有860亿，机器智能复杂度已经超越人类，机器生命诞生。错！  GPT 的参数量只是其训练数据的一种量度，与作为运算单元的神经元是完全两个概念，如果硬要捉对，应该用神经元的触突数才靠谱一些，不同神经元的触突数量差异巨大，但平均来说，一个神经元大约有7000个触突，那么860亿神经元就有602000亿个触突，是GPT-4 参数总量的170多倍。

如果假设GPT 的参数量每三年翻一番，那么大约在22年后，GPT 的参数总量将超越人的神经元触突的总量。

再赞。这也是GEB作者最近认为人也不过soso ：）

他四十几年前的书认为人维度高很多。

不知道 你说的高阶逻辑（我猜）或 驴大师 提及的多重映射在人工智能中是如何运作的。

会不会搞到后来出一个 Gödel-2 , 说再多与非门也没意义：）

这确实应该是当今人类面对的existential问题。我常左右手互搏，希望给自己理出些头绪

有人用ChatGPT 测试希腊数字计算圆周率。ChatGPT的基础是二进制，希腊数学没有二进制，十进制，数字与字母用同一

数字与字母用同一套符号。运算圆周率：

Chat GPT： In Greek numerals, the number 3 is represented by the symbol γ (gamma) and the number 1 is represented by the symbol α (alpha) 1. The number 5 is represented by the symbol ε (epsilon) and the number 9 is represented by the symbol θ (theta) 1. The number 2 is represented by the symbol β (beta) and the number 6 is represented by the symbol ? (stigma) 1. Finally, the number 5 is represented by the symbol ε (epsilon) and the number 6 is represented by the symbol ? (stigma) 1. Therefore, in Greek numerals, 3.14159265 can be expressed as γαεθβ?ε?.To express the same answer in modern numbers, 3.14159265 can be rounded to 3.1416.

 

这个例子好像显不出它的能耐啊，一一对应而已

ChatGPT 之所以如此成功，是因为没有人能够掌握所有人类的知识。

如果你相信有硅基生物的存在，那么它的智能就不会是人类的子集

这也是

ChatGPT的所有成功都没有超越统计推理的范畴，而且是使蛮力，靠大数据和能效比人脑低几个数量级的强大算能。它貌似的逻辑

推理是表象。到目前为止，还没有一个案例说服我，ChatGPT的结论是基于可用数据进行统计推理无法得到的。

ChatGPT令人吃惊的类脑性质和功能说明，贝叶斯机器的确是人脑的一个不错的模型。

这也是为何我提到人是属灵生命的一个原因，哪种元素作为生命的基板恐怕并不过于重要，鸡鸭猪狗也是碳基生命

当然如果外星球真有硅基生命它也可能进化出高级属灵生命，不过这不会是今天地球上的AI，它是人类的产物，它的硅片只赋予它计算和学习的能力，它没有硅基上任何其他生命自由度。

我其实更好奇的是乌龟壳的长短线为什么被八卦用来表示与非门

并且发展出一套说辞，这层物理机制和ChatGPT 正好相同。

年初，我问过ChatGPT我出的一个试题：设计一个数的表达方法，给定它的表达长度，为什么不可能同时最小化绝对误差和相对误

不管是什么基，进化到人脑的能效是关键。不计成本穷举式的探索，是不可持续的。

这大概也是我说的意识啊。这样想吧，ChatGPT的惊艳并不是说它有多高级，而是意味我们自以为是的智慧也不过如此

我并没有对此全然买账，但我贴中强调的一点是，人并不是时时刻刻用自己的智能潜力，大多时候是短路它们，而机器只要开动，任何时候都是运作在智能状态。人的逻辑推理也是建立在大脑神经元网络上的，这点与AI学习模型并无本质不同，只是它的算法神经元还不具人类神经元的全部功能。

我们自以为是的智慧也不过如此——同意！

成本确实极高，所以它已经行动来吸引更多的投资者和持股人，OpenAI政变的破产正说明了它的成功 - 阴谋论说着玩玩

哦，明白你说的意思了。对八卦我一窍不通，但读到有人这样写西方流行用来算命的塔罗牌

它对算命确实有效，但不神秘，算命者靠着变化无穷的牌色来拓展自己的思路，激发自己辨察平时不留意的蛛丝马迹的能力。

这就很可怕啊，它的无与伦比的学习能力

就像在坛上，尽管大家都在胡说八道（抱歉，少数人还是正经的啊），还是能激发我们的思路

人们担忧是有道理的。欧洲人已经在说，取代传统帝国霸权的将是，数据和算能带来的数字霸权。趋势看来，最后的玩家最多剩两个，欧

欧洲不会在其中。

关于老健文尾的学习问题，我换了一个方式问ChatGPT。回答是

你好像误导了ChatGPT? 你是不是要问：中国孩子和以拼音文字为母语的国家的孩子比，谁学习阅读容易？

英语不是phonetic language，现在没有一种语言是完全的phonetic，只能说，一种语言比另一种更phonetic

我试着这样问：

Is it easier for a child to learn to read an alphabetic language or a logographic language?

ChatGPT:

The ease of learning to read an alphabetic language versus a logographic language can depend on various factors, including the child's exposure to the language, the complexity of the writing system, and the teaching methods employed.

Alphabetic languages, like English or Spanish, use symbols (letters) to represent individual sounds (phonemes). Once a child learns the basic sounds associated with each letter, they can begin to decode and sound out words. Alphabetic languages generally have a more straightforward relationship between written symbols and sounds, which might make it initially easier for a child to learn to read.

On the other hand, logographic languages, like Chinese or Japanese kanji, use characters that represent whole words, morphemes, or syllables, rather than individual sounds. Learning to read in logographic languages requires memorizing a large number of characters, which can initially be more challenging for a child. However, once a child becomes proficient in recognizing and remembering these characters, reading can become more intuitive.

Both types of writing systems have their own complexities and challenges. Alphabetic languages might have a more straightforward relationship between sounds and symbols, but they can have complex spelling rules and irregularities. Logographic languages require memorization of characters but might offer context-based clues for meaning once characters are known.

Ultimately, the ease of learning to read in any language—whether alphabetic or logographic—depends on various factors, including the child's familiarity with the language, the teaching methods used, and consistent practice and exposure to written text.

建议用英格丽西跟ChatGPT对话。据说（我没有试过）它的中文和英文答复是不相同的（跟它被feed的内容有关）。

以前我也是得到了你转来的这种四平八稳的外交家式的回答。知道GPT有政治正确的安全阀，所以我问得更直接，逼它答得明确一点，

少一些but，on the other hand，depends .....

我十分好奇，ChatGPT的政治正确是如何实现的？他如何判别那些言论不符合政治正确？

那最后两个玩家没有欧洲会有中国吗？未必，算能也许够得上，但数据低劣

It spoke of itself in disguise of a child haha

那当然，把这作业要它再做一遍，答案也会不一样，不同语言提示答案也不同，一般讲英文的要比中文好

他们认为(亚马逊，阿里）（脸书，微信）（谷歌，百度）（苹果，华为）这些二元组本该是三元组，但现在已经太晚了。欧盟不时敲打

美国IT巨头，就是怕出局知识型经济。

现在有人工监督，以后自动化是可能的。油管和亚马逊的推荐就很牛了，不仅知道你的兴趣，还知道你的价值取向，不会建议你不喜欢的

内容。

这也是双刃剑。人是可以被迎合惯坏的。内容生成算法是weapons of math destruction。

ChatGPT很好玩，但我觉得它缺少姚先生所最看重的“私”，它永远不可能有特别的"私"，所以我觉得不用太担心