周末包子题：机器人会不会有意识和情感？ - 未名空间MITBBS历史存档

国际科技财经博客移民网络热点娱乐民生时事公众号

Redian新闻

>未名空间

>LeisureTime - 读书听歌看电影

周末包子题：机器人会不会有意识和情感？

周末包子题：机器人会不会有意识和情感？# LeisureTime - 读书听歌看电影

wh2017-07-22 07:07

1 楼

前两天那个DC的security robot真的是自杀而溺水的吗？
还有前几年盛传的那个奥地利的Roomba自动吸尘器打开炉子自焚自杀，是真的假的？
刚读了那个《未来简史》的作者、以色列年轻历史教授赫拉利月初在北京做的演讲《人
类将会失去这些力量》，描述人工智能可能怎样逐步取代人类、大部分人将失业、少数
拥有机器人的精英阶层没有动力投资弱势群体、社会分化成为最大危险、现在的孩子该
学什么等等。我还连读带比划地念给小孩听了，很容易懂，又很贴近他们的生活（
Amazon, Youtube，Kindle, 手机……）。他们听完说：Scary... 不过这篇演讲断言，
机器人是没有意识和情感的，也没有任何证据或迹象表明将来会有。然后历史教授表达
了对没有意识和情感的机器人控制世界的担心，呼吁人们开发人工智能时严密考虑对社
会、经济、政治带来的影响。
机器人肯定不会有意识和情感——各位同意吗？有关机器人自杀的新闻都是讹传吗？你
们觉得二三十年以后的未来社会会怎样？现在的孩子学什么比较好？
任何相关回复都请吃个包子。有理有据写得长的（五行以上）双黄包奖励（版面先m；
月初申报站方再发一个包子）。愿意开主帖讨论的非常欢迎，标题请加【人工智能】。
700b（约350字）以上的主帖奖励100伪币，上首页加倍。
我把那篇演讲贴在二楼供参考。期待各种探讨，谢谢！
跟帖奖励：
20（m奖励+站方另发10伪币）：
Busywithbaby
poiuytre
eNerd
feitian
outlier
wh
ilvch
Morningllc
machineman
10（m奖励）：
skl
jprp
deanregal1
yushiqie
maonvlang

wh2017-07-22 07:07

2 楼

附《未来简史》作者尤瓦尔·赫拉利演讲：
人类将会失去这些力量（全文）
2017-07-07 财经会议资讯
（尤瓦尔·赫拉利，耶路撒冷希伯来大学历史系教授，现象级畅销书《人类简史》、《
未来简史》作者。
活动来源：7月6日，“未来进化”首届 XWorld大会，由中信出版集团、百分点主办。
笔记侠作为合作方，经审阅授权发布。中信出版集团供图，摄影师：朱方刚。）
今天我要跟大家介绍的可能是我们这个时代最著名、重要的科学发现，或者可以说是整
个21世纪人类历史上最重要的一个演变，我们称之为“人工智能”。
一、有机生命会逐步被无机生命所替代
人工智能不仅仅是21世纪最重要的科学进化，也不只是我们人类历史上最重要的科学进
化，甚至是整个生命创始以来最重要的原则。有机生命根本的规则没有发生变化，与过
去的40亿年当中都是保持一致的。过去40亿年当中，所有生命都是按照优胜劣汰的原则
进行演变，所有的生命完全按照有有机化学的规则进行了演化。
因为我们的生命是有机化合物组成，不管你是巨大的恐龙还是一个阿米巴虫，还是一个
土豆，还是一个人，都是按照物竞天择的规则，都是有机化合物组成的，我们完全遵守
过去40亿年有机化学规律的演变。
这样一个40亿年的规则将会随着人工智能出现而发生根本变化，人工智能将替代物竞天
择自然选择的结果终止。我们的生命将根据计算机智能设计，脱离原先有机化合物的限
制，脱离原先有机化学的限制，突破原先的限制而进入一个无机的世界。
在我们有生之年，有可能看到有机生命会逐步被无机生命所替代。我们会逐步看到有机
化学规律和无机智慧性的生命形式并存。原先我们是碳基的，未来生命形式当中，硅基
会成为主要的生命形式。这是我们有生命以来的40亿年当中第一次出现的一个重大变局。
二、选择权将逐步让渡给人工智能
在过去的40亿年当中，大家想象一下，所有生命都是局限在地球这样一个行星上面，没
有一个生命、阿米巴虫或者任何一种生命形式有能力突破我们这样一个行星（地球），
去其他的星系进行殖民。这是因为自然选择规律让所有有机物、有机体局限在地球中，
一个非常独特的环境——温度、气候、阳光、重力。
一旦我们从原先有机的生命形态转变成为无机的生命形态，比如机器人，人工智能计算
机等，那么环境就没有限制了。机器人在火星上面也可以生存，而人类不可以。我们在
科幻小说或者电影当中看到的一些场景，现在对于人类来说仍然是非常困难的。因为我
们这样一个有机生命体在地球以外的外太空是很难生存的，但是计算机机器人、人工智
能相对而言，比较容易能够在地球以外的其他星球和星系中生存。
因此，在地球出现生命以来的40亿年，我们有可能突破地球的限制而进入到其它星系，
不是人类，而是人工智能可以做到这一点。另外一个重大突破性的演变，也是在我们有
生之年可以看到的，事实上大家已经从某种程度上经历了这样一种变革。
什么样的变革呢？我们人类上万年以来在演变过程当中获得了越来越多的力量，在21世
纪的时候人类将会失去这些力量，这些力量将逐步从我们这个物种让渡给人工智能。比
如世界上在发生什么，甚至我们自己生命在发生什么，这些权力或者我们掌控的力量，
不管重要的还是不重要的，将会逐步拱手让给计算机或者人工智能的这些算法。
1、人工智能可以了解你的喜好
举一个很简单的例子，比如你下一个月读哪一本书，这是我们生活当中很简单的决定，
我们可以有很多的选择。以前很多人会依赖自己的感觉、喜好、口味，或者依赖朋友、
家人的推荐。选择哪一本书阅读，目前取决于我们自己的感觉、喜好、口味，但是进入
21世纪以后，我们逐步把阅读什么书，购买什么书这样的权力让渡给了电脑、计算机、
算法、让渡给了亚马逊网站。
所以当我们进入到亚马逊未来的书店中，有一个算法告诉你：我一直在跟踪你，我一直
在收集你的数据，你喜欢什么书、不喜欢什么书，我都知道。亚马逊的算法会根据它对
你的了解，以及它对于上千万读者的了解向你推荐书籍。
但这个仍然处于初级状态，这只是人工智能迈出的一小步，亚马逊网站对你的算法仍然
非常有限。进入到下一个阶段，今天已经发生，我们看到这样的算法越来越了解你。今
天越来越多的人看书不是看纸版书，而是阅读电子书，在手机看书或者一些电子阅读器
上面看书。当你在这个设备上读这些书的时候，这个设备也在“读”你。
这是有史以来第一次不仅仅只是人类在阅读一本书，当你在读一本书时，书同时也在“
读”你。你的智能电话、智能平板在跟踪你，监测你，搜集你的数据，这些设备可以了
解到哪一页你会很快地翻过去，哪一页你是慢慢阅读的。
这些数据会给出一些结果：哪些对你来说是无趣的章节，哪些是你喜欢的章节，它也知
道哪一页你不读了。当我购买了别人推荐的书，读后虽然不喜欢了，但我还是会告诉每
一个人这本书非常好。为什么？因为我不想丢脸，别人都说这本书很好。要知道这样只
能骗了别人，计算机这个算法是不会被你骗的，它知道你读到第五页不读了，或者读到
第42页的时候不喜欢了。
2、人工智能可以体会你的情绪
以上是非常初步的功能，下一步它的设备可以连接面部识别的一个软件。今天面部识别
的算法很初级，但是慢慢地，它会学会通过看你脸部的表情判断你喜好。这就跟我们看
别人一样，我知道你的表情背后掩盖着什么样的感情，什么样的感觉。通过观察你的面
部表情，肌肉的变化就会知道你是在笑还是在生气，或者只是无聊了。
这是人类用来认知情绪的方式，今天计算机也在学会、提高对于情绪的识别能力，甚至
比人类做得更好。他们能够找到面部活动的规律，并且用这种规律来分析和评判一个人
目前的情绪状态是怎样。我们把这样的一个软件和kindle这样的电子阅读器结合在一起
，kindle能够判断你正在阅读的书对你产生的情绪影响。
你在看书的时候笑了，这时候它知道你笑了；你看到某一章生气了，它知道你生气了。
我作为一个作者，经常想象书中的哪一章哪一节，读者会看着看着就笑了，他们会不会
理解我埋在文中的笑点，能不能看出我写这段文字是表达讽刺。我不知道，但是亚马逊
会知道。如果87.3%的读者在读到这一段的时候，这个笑话没有笑说明这不是一个有效
的笑话。
3、人工智能可以提出适合你的建议
最后一步把设备和生物识别传感器结合在一起，这些生物识别传感器是植入在体内，这
不是科幻小说，已经实实在在用了。生物特征传感器能够持续不断地监控我身体各种生
物指征。我现在给大家做讲演，我的血压心率是多少，血糖水平或者我的激素水平是多
少。
但是你不知道，计算机通过刚才讲的这样的技术能够知道我每一刻血压的变化。根据这
样的数据，我们大家想象一下你正在读一本非常长的书，比如托尔斯泰的《战争与和平
》，当你读完的时候，实际大部分情节都忘了，但是亚马逊、腾讯或者百度任何一家公
司，它的电子阅读器通过生物识别传感器记录了你阅读这本书的状况。
在我读完《战争与和平》之后，这个设备就知道我是一个怎样的人以及性格特点是什么
。根据这样的一种知识和了解，设备不光能够向我推荐书籍，而且也能够围绕着我生活
中更加重要的决策，向我做出建议。比方我应该学什么，该生活在哪，应该在哪儿上班
，甚至和谁结婚。
人生当中最重要的决定之一，可能就是你的一生要和谁度过——伴侣的选择。在选择伴
侣这件事上，很多人犯过糟糕的错误，我们主要赖于自己的感觉以及亲友家长的建议。
现在有对情侣，该结婚还是分手？二三十年以后，你可能可以问亚马逊百度、腾讯这样
的问题，今天你得靠自己的感觉和亲友的意见。
那时候，亚马逊等公司对于我个人、和我相处的人已经如此了解，你可以问它们的建议
。你迄今为止所有的邮件、微信消息、手机通话它都在追踪，看书、看电影时，它在监
控你血压心率的变化；你每次约会的时候，它也在监控你约会水平的变化。
它对于你个人所有信息的了解以及伴侣的了解，对几百万人的成功或不成功的伴侣关系
的理解，可以告诉你：现在你和你的男朋友或者女朋友结婚的概率是90%。因为在你一
生当中找不到更好的伴侣了，因为它如此地了解你，你心里想的可能是：我有能力找到
一个更好的伴侣，更好看更漂亮的伴侣。它会知道你这样想的错误来源所在：你对外表
太看重了。
你在选择的时候，考虑的因素还是五万年前我们的远祖祖先在非洲的大草原上择偶的标
准。现在机器会告诉你：根据我的统计数据，即使外表对于关系的成功与否具一定的重
要性，但是这个重要性是比较小的，可能只占整体权重的10%，也就是在一个成功的关
系当中只有10%是取决于外表、美貌。
机器会告诉你：我已经看到了这样的现实。从长远来看，你和现在这个人在一起会是最
幸福的，你应该和他结婚。
在这样的一种设想当中，决策的权威、权力已经转移了，从人类手中移交给了算法。我
们在这需要理解的是：做出决定的能力就像一组肌肉一样，这样的肌肉你不用的话就会
退化，你对计算机信任越多，依靠人工智能来做决定越多，你就会失去自己做决定的能
力。
给大家举一个简单的例子：找路。在北京找一条路，去一个地方，比如火车站，过去我
们怎么找路？基于自己的本能知识经验，到一个十字路口该左转还是右转，你会依赖于
自己的经验。今天我们越来越多的人依赖智能手机、各种各样的GPS、地图的应用。
你的本能告诉你应该右转，但是智能手机告诉你左转，你越来越多地相信智能手机，而
不是直觉。经过一段时间之后，你的认路、找路能力就丧失了，即使你还想这样做。在
北京这样的空间找路、认路，今天我们靠机器，二十年以后我们在自己的人生当中碰到
了这样的十字路口要做决策的时候，很多人会用智能手机、人工智能来做决定，他们会
告诉你该怎么做。
三、人工智能产生的革命性影响
随着人工智能变得越来越好，有可能人工智能会把人从就业市场当中挤出去，对于整个
社会的经济和政治都产生革命性的影响。
1、减少交通事故
十年前，如果说计算机驾驶的技术比人更好，大家会觉得这是一部科幻小说。但是今天
所有专家都达成了共识。可能再过一两年时间，计算机就能够比人类驾驶员的平均水平
要好得多。届时数以百万计的出租车、卡车、公交车司机会失业，让位于自动驾驶汽车。
它不仅开起来好，安全性要高得多。今天世界上汽车事故造成的死亡人数比战争暴力还
要多一倍。战争、恐怖主义犯罪，每年造成60-70万人死亡，汽车每年造成130万人死亡
。大部分汽车事故都是由于人为造成的，比如酒驾，开车的时候打电话，或者睡着了，
或者发信息。
今天交通事故当中人是主要的因素，有了人工智能就不会有这样的问题。自动驾驶的汽
车永远不会喝酒，自动驾驶的汽车也不会在开车的时候睡着了，也不可能在开车的时候
接打电话，这样自动驾驶汽车就能替代人员驾驶员的作用。
2、解决道德伦理上的难题
除此之外，人工智能也能做一些关于伦理道德的决定。比方自动驾驶汽车开的过程当中
，突然前方有两个孩子在踢球，这个时候负责自动驾驶的计算机通过算法可算出避免撞
死这两个孩子的办法是快速转向另一条车道；另一个解决方案可能就是让客户、车厂来
决定。
比方丰田让客户决定自己要选用哪一款车，有一款车碰到这样的情况会决定让你死，那
么另外一款车会决定刹车但是仍然会撞死前面两个孩子，你会买哪一款车，选哪一种算
法？世界上最优秀哲学家先把这样的程序做好，我们在理论上考虑的所有东西有各种各
样的理论，但是这些理论对于遇到危机时的作用甚少。
大家可以说道德的选择是牺牲自己的生命救前方的孩子，但是一旦你真正上路了，在几
秒内必须做出这个决定时，你就会忘记刚才的结论，会根据你的本能情绪来采取行动。
那些理论哲学上的行为之间和人类实际行为是有巨大差距的，但是有了计算机人工智能
，我们就能解决这个问题。我们可以把世界上最优秀的哲学家集合在一起，让他们坐在
一个房间，给他们一年时间讨论道德上的难题，不管最终拿出了什么方案，就把这个方
案写到自动驾驶汽车的程序当中。
谈到伦理道德决策，人工智能也有可能是平均意义上比人类更好，因为这意味着这样的
自动驾驶汽车，假设每一辆车里面驾驶员都是孔子，这样对于人类驾驶员来说他们被人
工智能替代之后，当然一方面会带来很多优势：更加安全、更加便利。
与此同时另一方面会使决策权从人民大众手中转向人数很少的一批精英的手中。过去这
样的权力和福利是由数以百万计出租车司机，公交司机，卡车司机来分享，现在不是，
现在都交给了人工智能，他们就掌握了世界上所有的出租车、卡车、公交车。
3、做更优秀的医生
不光是公交车司机，甚至是医生这个工作都会发生变化，在人工智能当中这样的事情已
经开始发生。人工智能在疾病诊断方面能够做得更好，提出治疗方案比平均水平的医生
更好，普通医生的知识和能力是有限的，不可能每天都在更新知识，不可能一个人知道
全世界所有的疾病药物和研发结果。
对于一个医生来说拥有的数据是有限的，但是对于人工智能来说这都是无可限量的，可
以收集信息分析信息，熟知全世界所有疾病，能够24小时不间断地跟踪一个患者。
今天我的私人医生在以色列每年给我做一次体检，他和我报告我的健康状况。有了人工
智能之后相当于你身边就有一个医生，随时追踪你的血压，即使我现在在中国，人工智
能应用也会像一个医生一样随时了解我的健康状况，每0.5秒了解一下我血液的状态。
这不再是每年做一次体检，意味着对于癌症这样的疾病不是等到癌细胞扩散时再去医院
检查，而是在刚刚出现癌细胞的时候就能够被发现。即使我没有不好的感觉，但是人工
智能已经发现了。
因此，人工智能会发现癌症早期的症状提出诊疗方案，一个好医生不仅仅是了解你病情
，还需要一些情感方面的了解：病人是不是害怕了，或者生气了，愤怒了等等。所以有
人认为人工智能做不到，事实上人工智能比人类医生还能够抚慰病人心灵。
人类医生怎么判断呢？可能看你的面部表情，某一个声音语调的变化，但是人工智能可
以更加精准地分析你的面部表情，说话的语调变化。它能更加精准地比人类医生了解病
人情绪的变化，监控某一个病人内部身体情绪的变化。有时候病人自己都不知道自己是
什么状态，但是人工智能可以，因为他在不断监控你的心跳血压状况等等。当然想要创
造出这样一个人工智能医生，还有很多问题需要去解决，很多技术难题需要突破。
我们技术上只要实现一次突破，就可以解决一切的问题。人工医生怎么培训？可能需要
八年大学硕博连读，临床实习之后才会培训出一个合格的医生来。十年之后，我们花了
这么多资源只不过培养出了一名人类医生，这时候培养第二名又需要花十年时间。
但人工智能只要技术上实现一次突破，你拿到的不是一个机器医生而是无穷多的人工智
能医生，他们可以被复制。这个比培训人类医生要效率高得多，虽然一开始要花数百万
亿美元研发，但是一旦研发出来就可以无穷复制。
随着技术发展我们可以用机器替代出租车、司机、医生其他职业，人工智能逐步都可以
替代，这时候出现一个非常大的人类社会学问题。
正如第一次工业革命使得城市无产阶级出现，人工智能的出现会出现一个新的阶层，就
是无用阶层。数以亿计的人将找不到工作，他没有办法和计算机人工智能竞争，对这些
人来说他已经丧失了经济的价值，没有经济价值也就没有政治权力，这会对社会、政治
、经济方面产生巨大的问题。
四、人工智能时代，你该教孩子学会什么
当然大家说会出现一些新的职业，但你没有办法确定会出现哪些新的职业替代那些正在
消失或者被机器抢走的职业。我们可以说人会自己不断地学习，不再需要卡车司机、出
租车司机，会有新的职业设计未来的事业，设计3D计算机游戏。
你想一下一个50岁的出租车司机失业之后，他有多大能力去培养自己？对于50岁的出租
车司机来说，他要重新培养自己的能力，这样就太晚了。这样的革命非常危险，它会从
根本上改变我们的教育体系。
今天，你会教孩子什么？今天在学校里我们应该教孩子什么？大学里面应该教孩子什么
？让他们能够在二三十年之后适应当时的就业市场。
事实上我们没有人能够描述三十年后、二十年后的就业市场，换句话说我们现在的教育
系统没有办法了解今天应该教我们的孩子什么。今天我们的孩子在学校里面学到的所有
知识二三十年后完全无用，我们不知道现在应该教他们什么，才能够让他们在二三十年
后找到工作。
即使我们会产生新的工作，二三十年后可能产生新的工作，但是今天孩子到那天是不具
备那些新工作的就业能力的。那么这个时候出现了数百万、数千万甚至上亿失业人口，
他们丧失了经济价值，这会产生进一步威胁。人类未来的精英阶层是否还会有动力照顾
那些弱势群体？
现在，世界各地的政府还会投资于那些弱势群体，为什么？因为政府精英群体需要这些
弱势群体，即使是德国的纳粹希特勒，他也要投资这些弱势群体。他要变大，需要有强
大的军队，需要普普通通的数以百万计的德国人去给他当兵，成为工厂的工人才能支撑
他打这样的战争，所以投资大量的资金用于教育和医疗。
但是未来如果人工智能替代人类，他可以替人去打仗、去做工，这样国家精英阶层就没
有动力去投资医疗教育，帮助弱势群体。
人类社会会分成两大阶层，一个是非常少的精英阶层，就像上帝一样，他们在创造大量
的人工智能，绝大部分人将变成没有任何经济价值任何无用的阶层。这是21世纪最大的
风险。
五、人工智能毫无疑问会改变我们的未来
最后一点在我结束演讲之前，这也是非常重要的一点：有很多关于人工智能的讨论，但
是也有很多关于人工智能究竟意味着什么的迷惑和疑问。智能和意识之间究竟有什么区
别，很多人迷惑。
智能是解决问题的能力，比如我们诊断一个疾病，或者找到某一个疾病的治疗方法，这
是智能。但是人类的意识是感受某一种外界的能力，你的情绪、你的感情、你的痛苦、
愉悦、爱等等。人类和其他的哺乳动物，大猩猩猴子等，他们的意识和感情是合二为一
的。
但是计算机不一样，随着水平越来越高，他们也能产生意识，很多科学的科幻小说或者
其它科幻电影中，我们经常看到人工智能逐步产生了意识，机器人计算机变得非常智能
，同时获得了意识和情感，机器人会变得非常愤怒，他想杀掉所有的人类。
我们在科幻小说电影中都看到过，它不是科学只是科幻。科学告诉我们智能和意识是完
全不一样的两个东西。到目前为止，我们计算机或者人工智能发展到今天，智能水平在
不断提高，但是人工智能的意识还是零。
换句话说：我们现在没有任何指标证明或者任何迹象表明，计算机和人工智能在未来能
获得这种意识。计算机只是以一种完全不同的方式在工作，和人类其他的哺乳动物完全
不一样，这是我们面临的风险，或许是最大的风险。
计算机会比我们智能得多，比人类水平高好多，他会控制这个世界，开始向宇宙其它星
系去扩张，但是他们仍然没有意识。我们会有一个充满智能机器的宇宙，但它们却丧失
意识和情感。大家可以想象生命过去的演变在逐步向更高的智能发展（无论是人类或者
其他哺乳动物），在演变过程当中是非常慢的。
上亿年的生命通过我们的意识不断摸索，慢慢演变到今天的智能状况，速度是非常慢的
，演变需要数百万年的时间。突然有一个计算机突然杀出来，他们用完全不同的路径、
方式，完全不同的发展模式，超级的智能在赶超有机的生命体。他们智能的进化和演变
速度比我们快得多，他们的发展演变比我们快得多，他们会控制整个世界甚至宇宙，但
是没有意识。
我讲的东西不是一个寓言。没有人会知道未来是什么样，一切还悬而未决，同样一个技
术你可以创造出完全不同的社会和世界。我们在21世纪曾经看到过这一幕，我们的技术
、汽车、广播、电视、计算机，可以利用相同的技术创造出社会主义的国家，资本主义
的国家、法西斯国家也都是利用同样的技术。
同样，人工智能的技术毫无疑问会改变我们的世界，但是我们未来的社会究竟怎么样？
这会有很多选择，而不是完全由技术来决定的，一切都悬而未决。如果大家不喜欢我刚
才描述的这个世界，大家仍然可以用自己的行动去改变决定未来世界的形态，去消除风
险，发挥技术好的那一面。
最后我想讲的就是：当你作为一个个人，一家企业、政府部门，或者作为精英阶层，我
们在做人工智能的时候，做各种各样决定的时候，一定要注意人工智能不仅仅是单纯的
技术问题，同时也要注意到人工智能以及其它技术的发展，将会对社会、经济、政治产
生深远的影响。
我们一定要注重人工智能技术层面的问题，还要严密关注人工智能的发展对社会可能产
生的影响。因此，我们在投资与技术发展的时候，还要投入于社会影响的研究，谢谢。

【在 wh 的大作中提到】

: 前两天那个DC的security robot真的是自杀而溺水的吗？
: 还有前几年盛传的那个奥地利的Roomba自动吸尘器打开炉子自焚自杀，是真的假的？
: 刚读了那个《未来简史》的作者、以色列年轻历史教授赫拉利月初在北京做的演讲《人
: 类将会失去这些力量》，描述人工智能可能怎样逐步取代人类、大部分人将失业、少数
: 拥有机器人的精英阶层没有动力投资弱势群体、社会分化成为最大危险、现在的孩子该
: 学什么等等。我还连读带比划地念给小孩听了，很容易懂，又很贴近他们的生活（
: Amazon, Youtube，Kindle, 手机……）。他们听完说：Scary... 不过这篇演讲断言，
: 机器人是没有意识和情感的，也没有任何证据或迹象表明将来会有。然后历史教授表达
: 了对没有意识和情感的机器人控制世界的担心，呼吁人们开发人工智能时严密考虑对社
: 会、经济、政治带来的影响。

B*y2017-07-22 07:07

3 楼

有一个学期，老师给了好些现代基因工程学与社会伦理关系的文章给大家阅读。
里面奇葩更多，还有人希望把动物基因和人类结合一起，创造新新人类。
这个尤瓦尔·赫拉利的观点，不算新鲜和骇人听闻。
其中有一篇"The age of transformation and the New Human speicies"
https://www.bibliotecapleyades.net/esp_galacticdiplomacy_13.htm
作者Agelika好像也是以色列的学者。
其实我比较好奇：
他们应该都有犹太背景，对于神创论和进化论都是不陌生的。
这些奇思怪想是怎么产生而来的？
Agelika的观点，甚至觉得她是分裂而互相矛盾的。
我当时没选她的文章，就是觉得这两人挺类似的，
发这些东西，除了混文章数以外，他们自己真的相信吗？

p*e2017-07-22 07:07

4 楼

一切皆有可能吧。话说前两天看了几集行星地球，感觉生存的竞争太残酷了。有时候看
到那些大动物追小动物，都希望她们追不上，可是要是追不上，大动物又活不了。于是
刚才在餐馆感慨世界为什么这样，为什么要有食物链，甚至为什么要有生老病死。为什
么这个世界不完美。为什么造物如是安排。然后餐馆大姐说，将来都变成机器人机器虎
机器兔就行了。就不要吃东西了也没有杀戮了。
然后我想假如有这么一种力量，把现在所有的生物都变成机器，从此不用吃东西了，而
且从此都不用死了，但是不也不能再生了。一切意识感觉都一样。那这样会是什么世界
呢？这样对吗？这样好吗？

B*y2017-07-22 07:07

5 楼

定制男/女友？
这个对于雀斑的童鞋，大大的好消息啊！
大家都不用互怼了。

【在 p******e 的大作中提到】

: 一切皆有可能吧。话说前两天看了几集行星地球，感觉生存的竞争太残酷了。有时候看
: 到那些大动物追小动物，都希望她们追不上，可是要是追不上，大动物又活不了。于是
: 刚才在餐馆感慨世界为什么这样，为什么要有食物链，甚至为什么要有生老病死。为什
: 么这个世界不完美。为什么造物如是安排。然后餐馆大姐说，将来都变成机器人机器虎
: 机器兔就行了。就不要吃东西了也没有杀戮了。
: 然后我想假如有这么一种力量，把现在所有的生物都变成机器，从此不用吃东西了，而
: 且从此都不用死了，但是不也不能再生了。一切意识感觉都一样。那这样会是什么世界
: 呢？这样对吗？这样好吗？

p*e2017-07-22 07:07

6 楼

Dunno man, nvr gonna be perfect.

：定制男/女友？
：这个对于雀斑的童鞋，大大的好消息啊！
：大家都不用互怼了。

【在 B**********y 的大作中提到】

: 定制男/女友？
: 这个对于雀斑的童鞋，大大的好消息啊！
: 大家都不用互怼了。

e*d2017-07-22 07:07

7 楼

意识和情感是由众多复杂关联的神经元网络计算出来的。
只要弄清了意识和情感的各类信息流特征，
以及产生这些信息流的网络结构，
就能够进行仿真。
现在的机器人自杀新闻纯属噱头。

【在 wh 的大作中提到】

f*n2017-07-22 07:07

8 楼

机器人和人工智能是一面镜子，能反映出你的表情，却无法理解表情是什么意思
想想每个人类是怎么成熟的？由最初的生物体刺激和反馈，到后来接受整个社会的刺激
和反馈，一切的文化和意义都建立在个体和种群的生存和死亡上。人工智能要达到这个
程度，现在看来极难。
要有生命的概念，先要有对死亡的理解
要有爱和恨，先要有痛和愉悦的感觉

o*r2017-07-22 07:07

9 楼

赫拉利真的很红，国内罗胖子带头捧得很高，好营销卖书。现在又去国内学术“走穴”
，看到一个历史学家与高科技公司CEO在一起，海阔天空，指点未来，就感觉好笑。
《人类简史》读过了，英文版的纸质还特别厚。“想象的共同体”有点意思，宗教国家
货币公司，都建立在人们共同建构的故事之上。但并不是广告里吹嘘的那样的杰作，
是一部畅销书而已。
《未来简史》不打算读，读过Kurzweil的《奇点临近》，以及大量科幻小说，简介评论
里看不出什么新东西。未来人类的阶级分化，可以看刘慈欣的《赡养人类》，把想象
推到了极致，非常震撼。一个富人拥有全部大陆和海洋，几亿穷人封闭在微型生态系统
里苟延残喘。
未来的超级人类，与尼采的《查拉图斯特拉如是说》的“超人”概念有渊源吧？
人工智能去年阿法狗大战李世石以后就特别红，其实历史上已经三起二落，现在这第三
次还很热，不知道能维持五年吗。深度学习的成果可以用在很多领域，担心机器人产
生意识还太早。至于感情，如果模拟出的喜怒哀乐，你分不出真假，那就是真的。

wh2017-07-22 07:07

10 楼

这课很有意思啊。这俩估计都不信教，属于新潮知识分子？想起我以前一个土耳其老板
不仅吃猪肉，而且爱吃烤乳猪，每次请中国学生吃饭就点烤乳猪。要提前两三天预订，
价格贵，还不好吃，皮硬得很。:D
赫拉利是不算惊世骇俗，可以算敏锐？从现在的科技推想的将来似乎很有道理……

【在 B**********y 的大作中提到】

: 有一个学期，老师给了好些现代基因工程学与社会伦理关系的文章给大家阅读。
: 里面奇葩更多，还有人希望把动物基因和人类结合一起，创造新新人类。
: 这个尤瓦尔·赫拉利的观点，不算新鲜和骇人听闻。
: 其中有一篇"The age of transformation and the New Human speicies"
: https://www.bibliotecapleyades.net/esp_galacticdiplomacy_13.htm
: 作者Agelika好像也是以色列的学者。
: 其实我比较好奇：
: 他们应该都有犹太背景，对于神创论和进化论都是不陌生的。
: 这些奇思怪想是怎么产生而来的？
: Agelika的观点，甚至觉得她是分裂而互相矛盾的。

wh2017-07-22 07:07

11 楼

那就是人工智能时代？机器是不是也有好坏优劣、优胜劣汰就出现生死？有感情是不是
也会有善恶道德观念，然后也会打架、有战争？

【在 p******e 的大作中提到】

wh2017-07-22 07:07

12 楼

牛。真成了上帝了。我觉得还是别造好……

【在 e***d 的大作中提到】

: 意识和情感是由众多复杂关联的神经元网络计算出来的。
: 只要弄清了意识和情感的各类信息流特征，
: 以及产生这些信息流的网络结构，
: 就能够进行仿真。
: 现在的机器人自杀新闻纯属噱头。

wh2017-07-22 07:07

13 楼

记得i, robot里的机器人就是因为人要杀他，出于对死亡的恐惧而攻击人类。AI里的人
类大批捕杀机器人而导致人类被灭……

【在 f*****n 的大作中提到】

: 机器人和人工智能是一面镜子，能反映出你的表情，却无法理解表情是什么意思
: 想想每个人类是怎么成熟的？由最初的生物体刺激和反馈，到后来接受整个社会的刺激
: 和反馈，一切的文化和意义都建立在个体和种群的生存和死亡上。人工智能要达到这个
: 程度，现在看来极难。
: 要有生命的概念，先要有对死亡的理解
: 要有爱和恨，先要有痛和愉悦的感觉

wh2017-07-22 07:07

14 楼

我没看过他的书。看完这篇我还查了查本镇图书馆，这本和人类简史都只有电子版。等
把手里的书看完再说。
你是科幻迷啊。赡养人类是这个短篇吗：
https://www.douban.com/group/topic/14080269/
尼采的超人我只看了关于个体意义的阐述，生命力强盛超过常人，担负巨大的悲悯，走
在悬崖上方的钢丝上，跟耶稣或电影里的超人差不多。社会意义大概在《权力意志》里
提到？那本我看得不知所云，又听说是他姐搜集的片言只语且有篡改之嫌，就没再管它。

【在 o*****r 的大作中提到】

: 赫拉利真的很红，国内罗胖子带头捧得很高，好营销卖书。现在又去国内学术“走穴”
: ，看到一个历史学家与高科技公司CEO在一起，海阔天空，指点未来，就感觉好笑。
: 《人类简史》读过了，英文版的纸质还特别厚。“想象的共同体”有点意思，宗教国家
: 货币公司，都建立在人们共同建构的故事之上。但并不是广告里吹嘘的那样的杰作，
: 是一部畅销书而已。
: 《未来简史》不打算读，读过Kurzweil的《奇点临近》，以及大量科幻小说，简介评论
: 里看不出什么新东西。未来人类的阶级分化，可以看刘慈欣的《赡养人类》，把想象
: 推到了极致，非常震撼。一个富人拥有全部大陆和海洋，几亿穷人封闭在微型生态系统
: 里苟延残喘。
: 未来的超级人类，与尼采的《查拉图斯特拉如是说》的“超人”概念有渊源吧？

p*e2017-07-22 07:07

15 楼

太复杂了，我决定暂时不在这个问题里转圈了

：那就是人工智能时代？机器是不是也有好坏优劣、优胜劣汰就出现生死？有感情是不
是也会有善恶道德观念，然后也会打架、有战争？
：欢迎来读书听歌看电影版(LeisureTime)：
：http://www.mitbbs.com/bbsdoc/LeisureTime.html

【在 wh 的大作中提到】

: 我没看过他的书。看完这篇我还查了查本镇图书馆，这本和人类简史都只有电子版。等
: 把手里的书看完再说。
: 你是科幻迷啊。赡养人类是这个短篇吗：
: https://www.douban.com/group/topic/14080269/
: 尼采的超人我只看了关于个体意义的阐述，生命力强盛超过常人，担负巨大的悲悯，走
: 在悬崖上方的钢丝上，跟耶稣或电影里的超人差不多。社会意义大概在《权力意志》里
: 提到？那本我看得不知所云，又听说是他姐搜集的片言只语且有篡改之嫌，就没再管它。

f*n2017-07-22 07:07

16 楼

那都是人自己想象的，就好像这次的所谓机器人投水自杀一样

【在 wh 的大作中提到】

: 记得i, robot里的机器人就是因为人要杀他，出于对死亡的恐惧而攻击人类。AI里的人
: 类大批捕杀机器人而导致人类被灭……

s*l2017-07-22 07:07

17 楼

站方的不就有情感吗

【在 wh 的大作中提到】

m*n2017-07-22 07:07

18 楼

if you can define 意识 and 情感, and can be quantified, then machines will
eventually capable of having it.
see see the last season of agent of shields.
veli interesting idea about AI.

wh2017-07-22 07:07

19 楼

那又不是真的……

【在 s*l 的大作中提到】

: 站方的不就有情感吗

wh2017-07-22 07:07

20 楼

那是机器故障？

【在 f*****n 的大作中提到】

: 那都是人自己想象的，就好像这次的所谓机器人投水自杀一样

i*h2017-07-22 07:07

21 楼

我看就是文科生的ＹＹ
在意识和情感还没有一个科学描述的时候
讨论机器岂不是扯淡

wh2017-07-22 07:07

22 楼

做得到define and quantify意识和情感吗？

【在 m********n 的大作中提到】

: if you can define 意识 and 情感, and can be quantified, then machines will
: eventually capable of having it.
: see see the last season of agent of shields.
: veli interesting idea about AI.

wh2017-07-22 07:07

23 楼

哲学可以走在科学的前面嘛……

【在 i***h 的大作中提到】

: 我看就是文科生的ＹＹ
: 在意识和情感还没有一个科学描述的时候
: 讨论机器岂不是扯淡

i*h2017-07-22 07:07

24 楼

你被中学政治老师洗脑了...

: 哲学可以走在科学的前面嘛……

【在 wh 的大作中提到】

: 哲学可以走在科学的前面嘛……

j*p2017-07-22 07:07

25 楼

其实不需要define
任何神经活动的基础都是化学的。人就是机器，所以人能做的，机器都能做。

【在 wh 的大作中提到】

: 做得到define and quantify意识和情感吗？

d*12017-07-22 07:07

26 楼

可以的，就好像alexa在收集了大量对话数据和进行了pattern analyses以后，其实是
可以主动安慰主人，从主人的角度来看，是有意识和情感的

【在 wh 的大作中提到】

: 做得到define and quantify意识和情感吗？

f*n2017-07-22 07:07

27 楼

任何微积分的基础都是加减法，研究僧就是小学生。所以研究僧能做的，小学生都能做

【在 j**p 的大作中提到】

: 其实不需要define
: 任何神经活动的基础都是化学的。人就是机器，所以人能做的，机器都能做。

f*n2017-07-22 07:07

28 楼

可能性太多了

【在 wh 的大作中提到】

: 那是机器故障？

i*h2017-07-22 07:07

29 楼

最早的哲学家研究世界的本质
和科学家是同一帮人
当科学发展起来以后自然就不需要哲学家了
近代的哲学演变成人学
讨论人性道德社会，正的一套理论，反过来说还是一套理论

【在 wh 的大作中提到】

: 哲学可以走在科学的前面嘛……

m*n2017-07-22 07:07

30 楼

the correct conclusion should be: 微积分能做的, 加减法都能做.

【在 f*****n 的大作中提到】

: 任何微积分的基础都是加减法，研究僧就是小学生。所以研究僧能做的，小学生都能做

m*g2017-07-22 07:07

31 楼

从心理学角度讲，主要看预置和植入了什么，才能造成情感的存在

i*h2017-07-22 07:07

32 楼

人被预置和植入了什么？
心理学也没搞明白吧

【在 m*******g 的大作中提到】

: 从心理学角度讲，主要看预置和植入了什么，才能造成情感的存在

wh2017-07-22 07:07

33 楼

我能想到的就是机器故障或被人推下去。

【在 f*****n 的大作中提到】

: 可能性太多了

wh2017-07-22 07:07

34 楼

对啊，我就记得老师说古希腊的哲学和科学齐头并进，甚至领先一步。现代科学发展太
快，哲学完全跟不上，越来越可有可无，虚张声势。

【在 i***h 的大作中提到】

: 最早的哲学家研究世界的本质
: 和科学家是同一帮人
: 当科学发展起来以后自然就不需要哲学家了
: 近代的哲学演变成人学
: 讨论人性道德社会，正的一套理论，反过来说还是一套理论

m*g2017-07-22 07:07

35 楼

搞的大概80%明白？

【在 i***h 的大作中提到】

: 人被预置和植入了什么？
: 心理学也没搞明白吧

i*h2017-07-22 07:07

36 楼

我不懂心理学啊
感觉就是做点统计实验
最多加上脑电图看哦哦狗看到主人这块脑区发热了
最多只是现象学的描述
基本原理和生理机制的对应还没建立起来吧
不知道80%怎么估计的

【在 m*******g 的大作中提到】

: 搞的大概80%明白？

M*c2017-07-22 07:07

37 楼

我觉得人不编写进程序里去就没有

y*e2017-07-22 07:07

38 楼

我觉得不可能有
现在宣扬的都是噱头

M*c2017-07-22 07:07

39 楼

但是如果编进程序里了，机器人就会有，而且会自我学习自我进化，那就比较恐怖了。
。。
比如，做决策的时候给涉及到的每个人加权，自己服务的主人/家庭认识的时间越长权
重越高，更偏向于维护他们的利益。比如主人的语言中有某些词就情绪崩溃拒绝工作进
行破坏～

f*n2017-07-22 07:07

40 楼

你还是没有理解知道做什么和“知道”做什么的区别

【在 M********c 的大作中提到】

: 但是如果编进程序里了，机器人就会有，而且会自我学习自我进化，那就比较恐怖了。
: 。。
: 比如，做决策的时候给涉及到的每个人加权，自己服务的主人/家庭认识的时间越长权
: 重越高，更偏向于维护他们的利益。比如主人的语言中有某些词就情绪崩溃拒绝工作进
: 行破坏～

M*c2017-07-22 07:07

41 楼

有什么区别？婴儿在还未出生前有情感和意识吗？有，没有，还是虽然没有但是未来有
通过学
习而有拥有的可能？人类可以看作意识和情感的载体，机器也可以。那么人类的意识和
情感又是哪里来的呢？是在从单细胞不断分裂的过程的哪一个阶段起拥有的？人类的出
生和被预置意识与情感的机器被造出有什么区别？
再退一步说，我们讨论的是机器人会不会有意识和情感。与意识和情感是怎么得来的无
关。

【在 f*****n 的大作中提到】

: 你还是没有理解知道做什么和“知道”做什么的区别

f*n2017-07-22 07:07

42 楼

动物有痛苦和快乐的生理体验，对应着死和生的生物特性和哲学思考。机器没有这种体
验，也就没有这种自我意识。
如果一个人会无限复活，他就少了对于生死的恐惧，如果一个人完全丧失五感，他就会
变得反应迟钝，“毫无感情”，”变得象机器人一样”

【在 M********c 的大作中提到】

: 有什么区别？婴儿在还未出生前有情感和意识吗？有，没有，还是虽然没有但是未来有
: 通过学
: 习而有拥有的可能？人类可以看作意识和情感的载体，机器也可以。那么人类的意识和
: 情感又是哪里来的呢？是在从单细胞不断分裂的过程的哪一个阶段起拥有的？人类的出
: 生和被预置意识与情感的机器被造出有什么区别？
: 再退一步说，我们讨论的是机器人会不会有意识和情感。与意识和情感是怎么得来的无
: 关。

M*c2017-07-22 07:07

43 楼

给机器也编一个相应的程序就行了

【在 f*****n 的大作中提到】

: 动物有痛苦和快乐的生理体验，对应着死和生的生物特性和哲学思考。机器没有这种体
: 验，也就没有这种自我意识。
: 如果一个人会无限复活，他就少了对于生死的恐惧，如果一个人完全丧失五感，他就会
: 变得反应迟钝，“毫无感情”，”变得象机器人一样”

M*c2017-07-22 07:07

44 楼

死亡：机器报废
生存：机器运转
疾病：零部件出现故障
等等等等

f*n2017-07-22 07:07

45 楼

从小到大家人有没有强迫你学过什么东西？有的话你对之感情如何？
脱衣服和脱皮哪个更痛？

【在 M********c 的大作中提到】

: 给机器也编一个相应的程序就行了

M*c2017-07-22 07:07

46 楼

没有～家里从来不逼我学任何东西
没脱过皮~~~
：）以上开玩笑
疼痛、喜好和厌恶是大脑神经身体对外界刺激的一系列反应。我觉得机器人也完全可以
通过程序预设类似的反应，比如通过调节和探知电流变化，部分功能的丧失让机器人对
自己的某些行为作出修正。

【在 f*****n 的大作中提到】

: 从小到大家人有没有强迫你学过什么东西？有的话你对之感情如何？
: 脱衣服和脱皮哪个更痛？

f*n2017-07-22 07:07

47 楼

我的帖子被删了也，老刑连银翼杀手的醋都吃？
简单地说，强迫你学的东西你是不会有认同感的

【在 M********c 的大作中提到】

: 没有～家里从来不逼我学任何东西
: 没脱过皮~~~
: ：）以上开玩笑
: 疼痛、喜好和厌恶是大脑神经身体对外界刺激的一系列反应。我觉得机器人也完全可以
: 通过程序预设类似的反应，比如通过调节和探知电流变化，部分功能的丧失让机器人对
: 自己的某些行为作出修正。

m*n2017-07-22 07:07

48 楼

vanilla sky i think it's the name?
cannot recall 100% accurate, but inside the dream, that agent tells tom
cruise, those "human" are not real, however, they still strive to keep
themselves "alive" because they are also afraid of "dying"...
in agents of shields, in the dream land, all the programmed "humans" are
afraid, and terrified of dying also.
in ex-machina, one of the main objective for the girl is to survive. and ze
is allowed to cheat, lie or do whatever to keep zeself survives.
so sounds like it's not that hard to program "fear for death" into machines
ma...

m*g2017-07-22 07:07

49 楼

那个只是脑神经学吧
心理学的内容完全是另外一套。
现有心理学理论把人类行为分析的七七八八了，还有一些说不通的大概就是还没发现到
的，the majority of human behavior can be explained by dominant theories.

【在 i***h 的大作中提到】

: 我不懂心理学啊
: 感觉就是做点统计实验
: 最多加上脑电图看哦哦狗看到主人这块脑区发热了
: 最多只是现象学的描述
: 基本原理和生理机制的对应还没建立起来吧
: 不知道80%怎么估计的