霍金：人工智能或导致人类灭绝应加以控制 (转载) - 未名空间MITBBS历史存档

国际科技财经博客移民网络热点娱乐民生时事公众号

Redian新闻

>未名空间

>Joke - 肚皮舞运动

霍金：人工智能或导致人类灭绝应加以控制 (转载)

霍金：人工智能或导致人类灭绝应加以控制 (转载)# Joke - 肚皮舞运动

h*n2015-05-14 07:05

1 楼

【以下文字转载自 Military 讨论区】
发信人: hutuxian (南刀北猫东奇西虎), 信区: Military
标题: 霍金：人工智能或导致人类灭绝应加以控制
发信站: BBS 未名空间站 (Thu May 14 12:40:15 2015, 美东)
这个老家伙是不是最近科幻影片看多了？
http://news.sohu.com/20150514/n413064816.shtml
人民网5月14日讯据联合早报网报道，人类在下个世纪可能面临人工智能机器人的大规
模崛起，这些机器人的智力甚至可能超过人类。英国史蒂芬·霍金教授称，与其担心谁
来控制人工智能的问题，人类更应该担心的是，人工智能到底愿不愿意受人类控制。
据报道，霍金在伦敦举办的2015时代精神会议上提出了上述观点。在此之前，他曾
向人们发出警告：人工智能可能会导致人类的灭绝。“人工智能计算机可能在接下来的
100年之内就将人类取而代之。”他说道， “如果这样的事情成为了现实，我们必须确
保计算机和我们站在同一战线上。”“我们的未来是一场不断增长的科技力量与人类使
用科技的智慧之间的竞争。”
今年早些时候，霍金和埃隆·马斯克（特斯拉CEO）共同签署了一封公开信，信中
表示，人类不应任由人工智能发展，而不加以控制。如果不对智能机器严加看管，人类
的前景可能会相当晦暗。信中提醒科学家，务必提前阻止这种悲剧的发生，否则人类将
因此灭绝。史蒂芬·霍金今年年初表示，人工智能的诞生“可能是人类历史上最重大的
事件，但不幸的是，也可能是最后一件”。（老任） (来源：人民网-国际频道)

h*n2015-05-14 07:05

2 楼

千元妹子：你怎么看这个问题？

N*m2015-05-14 07:05

3 楼

属实，可惜不可避免

【在 h******n 的大作中提到】

: 【以下文字转载自 Military 讨论区】
: 发信人: hutuxian (南刀北猫东奇西虎), 信区: Military
: 标题: 霍金：人工智能或导致人类灭绝应加以控制
: 发信站: BBS 未名空间站 (Thu May 14 12:40:15 2015, 美东)
: 这个老家伙是不是最近科幻影片看多了？
: http://news.sohu.com/20150514/n413064816.shtml
: 人民网5月14日讯据联合早报网报道，人类在下个世纪可能面临人工智能机器人的大规
: 模崛起，这些机器人的智力甚至可能超过人类。英国史蒂芬·霍金教授称，与其担心谁
: 来控制人工智能的问题，人类更应该担心的是，人工智能到底愿不愿意受人类控制。
: 据报道，霍金在伦敦举办的2015时代精神会议上提出了上述观点。在此之前，他曾

h*e2015-05-14 07:05

4 楼

史蒂芬霍金跟史蒂芬金有什么亲戚关系吗？

l*n2015-05-14 07:05

5 楼

100年后电影里面的ai肯定做不出来, 看看各大学校和研究机构的灌水文章就知道了.
有外星人帮忙是另外一回事儿.

【在 h******n 的大作中提到】

: 千元妹子：你怎么看这个问题？

R*a2015-05-14 07:05

6 楼

ai的问题是一旦智慧超过一个阈值，ai就会自我进步，ai进化的速度肯定是比人脑进化
速度快多了。

【在 l*********n 的大作中提到】

: 100年后电影里面的ai肯定做不出来, 看看各大学校和研究机构的灌水文章就知道了.
: 有外星人帮忙是另外一回事儿.

b*e2015-05-14 07:05

7 楼

扫地大叔把电源一拔就全歇菜

【在 R***a 的大作中提到】

: ai的问题是一旦智慧超过一个阈值，ai就会自我进步，ai进化的速度肯定是比人脑进化
: 速度快多了。

h*e2015-05-14 07:05

8 楼

霍金担心个毛啊，丫不是自己说了人类在地球上活不过一千年吗？
那就算是造福下一个轮回的就好啦。
AI统领总比小强统领地球听着舒服啊。

R*a2015-05-14 07:05

9 楼

ai到了一定程度，会让扫地大叔混进中央机房么？
ai可以自己控制吸尘器，如果需要清洁的话。
然后ai可以控制电厂

【在 b*****e 的大作中提到】

: 扫地大叔把电源一拔就全歇菜

N*m2015-05-14 07:05

10 楼

有UPS啊
而且为啥要扫地？都是irobot

【在 b*****e 的大作中提到】

: 扫地大叔把电源一拔就全歇菜

b*e2015-05-14 07:05

11 楼

问题是他进化了一半硬盘挂了，又要重新开始

【在 R***a 的大作中提到】

: ai到了一定程度，会让扫地大叔混进中央机房么？
: ai可以自己控制吸尘器，如果需要清洁的话。
: 然后ai可以控制电厂

R*a2015-05-14 07:05

12 楼

ai灭绝人类一亿年后肯定在争论第一个机器人是怎么来的。
一派观点是有一个全能的上帝造出来的，
另一派观点是从二极管进化出来的。
然后ai中的尼采就会说，机器人是上帝造出来的，但是上帝已死

【在 h******e 的大作中提到】

: 霍金担心个毛啊，丫不是自己说了人类在地球上活不过一千年吗？
: 那就算是造福下一个轮回的就好啦。
: AI统领总比小强统领地球听着舒服啊。

N*m2015-05-14 07:05

13 楼

云存储，二十个9的reliability，比人强

【在 b*****e 的大作中提到】

: 问题是他进化了一半硬盘挂了，又要重新开始

R*a2015-05-14 07:05

14 楼

硬盘有raid的啊，挂了一块自动换新硬盘上去

【在 b*****e 的大作中提到】

: 问题是他进化了一半硬盘挂了，又要重新开始

N*m2015-05-14 07:05

15 楼

难道人类是恐龙造的？

【在 R***a 的大作中提到】

: ai灭绝人类一亿年后肯定在争论第一个机器人是怎么来的。
: 一派观点是有一个全能的上帝造出来的，
: 另一派观点是从二极管进化出来的。
: 然后ai中的尼采就会说，机器人是上帝造出来的，但是上帝已死

b*e2015-05-14 07:05

16 楼

三体来了一样全灭球用

【在 N*****m 的大作中提到】

: 云存储，二十个9的reliability，比人强

N*m2015-05-14 07:05

17 楼

那是另外一回事

【在 b*****e 的大作中提到】

: 三体来了一样全灭球用

b*e2015-05-14 07:05

18 楼

科学界的共识是三叶虫造的

【在 N*****m 的大作中提到】

: 难道人类是恐龙造的？

R*a2015-05-14 07:05

19 楼

第一个可自我复制的生物是怎么出来的，现在完全没概念吧。
现在的进展不就是甲烷氨气混在一起放电可能能形成复杂有机物么。
但是离最简单的生物都还太远

【在 N*****m 的大作中提到】

: 难道人类是恐龙造的？

n*42015-05-14 07:05

20 楼

此人一张大嘴，完全弥补了身体的萎缩。

【在 h******n 的大作中提到】

: 千元妹子：你怎么看这个问题？

d*o2015-05-14 07:05

21 楼

所以物联网不能搞

【在 R***a 的大作中提到】

: ai到了一定程度，会让扫地大叔混进中央机房么？
: ai可以自己控制吸尘器，如果需要清洁的话。
: 然后ai可以控制电厂

s*y2015-05-14 07:05

22 楼

这个比喻很赞，然后进化派里面的从地层里找到不同时期的机器模型，还发现早期进化
的时候有一种傻大黑粗的机器以及一种小巧而且五彩玲珑的机器，这两种机器貌似互相
竞争，然后突然有一天那种小巧的机器打败了那种傻大黑粗的机器，地层里面从此只看
到一种机器。

【在 R***a 的大作中提到】

b*e2015-05-14 07:05

23 楼

你是果轮

【在 s******y 的大作中提到】

: 这个比喻很赞，然后进化派里面的从地层里找到不同时期的机器模型，还发现早期进化
: 的时候有一种傻大黑粗的机器以及一种小巧而且五彩玲珑的机器，这两种机器貌似互相
: 竞争，然后突然有一天那种小巧的机器打败了那种傻大黑粗的机器，地层里面从此只看
: 到一种机器。

s*y2015-05-14 07:05

24 楼

我是负隅顽抗的PC轮，你不要误伤队友了。

【在 b*****e 的大作中提到】

: 你是果轮

s*y2015-05-14 07:05

25 楼

"God is dead" (German: About this sound "Gott ist tot" (help·info); is a
widely quoted statement by German philosopher Friedrich Nietzsche. It first
appears in Nietzsche's 1882 collection The Gay Science.
Hmmmm, The Gay Science...我总算是明白为什么教会的人那么疯狂反gay 以及反
science 了。

【在 R***a 的大作中提到】

D*g2015-05-14 07:05

26 楼

外星人为什么没被ai灭绝？

【在 l*********n 的大作中提到】

: 100年后电影里面的ai肯定做不出来, 看看各大学校和研究机构的灌水文章就知道了.
: 有外星人帮忙是另外一回事儿.

R*a2015-05-14 07:05

27 楼

不排除外星人就是ai啊

【在 D******g 的大作中提到】

:
: 外星人为什么没被ai灭绝？

N*m2015-05-14 07:05

28 楼

能到地球来的高智物体显然更厉害啊

【在 D******g 的大作中提到】

:
: 外星人为什么没被ai灭绝？

D*g2015-05-14 07:05

29 楼

高智体搞出来的ai不是会更厉害吗

【在 N*****m 的大作中提到】

: 能到地球来的高智物体显然更厉害啊

N*m2015-05-14 07:05

30 楼

可能高智体本身就是ai

【在 D******g 的大作中提到】

:
: 高智体搞出来的ai不是会更厉害吗

R*a2015-05-14 07:05

31 楼

比如三体这个严酷的环境，我觉得非ai不能生存啊

【在 N*****m 的大作中提到】

: 可能高智体本身就是ai

a*e2015-05-14 07:05

32 楼

按电影的说法。他老婆以为丫就两年了
然后结婚，最后二十年还没挂
来一句说好的两年呢？离了

【在 n****4 的大作中提到】

: 此人一张大嘴，完全弥补了身体的萎缩。

R*a2015-05-14 07:05

33 楼

82会不会一个结局？

【在 a***e 的大作中提到】

: 按电影的说法。他老婆以为丫就两年了
: 然后结婚，最后二十年还没挂
: 来一句说好的两年呢？离了

T*e2015-05-14 07:05

34 楼

挺好的，可以认为人类的使命就是造出更比自己更聪明的物种，然后从容的被灭绝掉。

【在 h******n 的大作中提到】

: 千元妹子：你怎么看这个问题？

h*n2015-05-14 07:05

35 楼

初始生命需要简单的天然物质海量碰撞试错演化才能碰出有自我复制的功能，因此大分
子在液体中可能，在固体中粒子都固死了没法发生变化，没可能通过自然演化得出第一
个生物。因此如果在宇宙中观测到由硅片之类固体构成的机器人，可以推断它必是由像
我们这样基于液体的一代生物制造出的二代生物。
二代生物能永生，能联网成连体人等性质也许会让银河系中第一强种族感到威胁，从而
出手灭之。我们一代生物，人家不屑消灭，反而还能残存。

【在 R***a 的大作中提到】

M*P2015-05-14 07:05

36 楼

guns don't kill people, people kill people
这个跟人工智能一个道理。有很长一段时间，what will happen is people with
better AI kill people with no AI (like the US kills taliban). Now it's
actually people with better AI kill people with worse AI (if US fights China
or Russia).
AI is everywhere already. You think all the computer chips you are using
are made by hands and designed by human brains only?

【在 h******n 的大作中提到】

: 千元妹子：你怎么看这个问题？

k*o2015-05-14 07:05

37 楼

ai进化还好，可以有理讲。就是怕ai有bug。弄个自动识别敌人进行
攻击的ai，万一敌我不分了，就比较麻烦了。特别是如果放到核动力的
机器里面，长期不停的试图消灭人类。

R*a2015-05-14 07:05

38 楼

有理讲有用么？
人进化有理讲吧，人还不是长期试图消灭苍蝇蚊子老鼠？

【在 k**o 的大作中提到】

: ai进化还好，可以有理讲。就是怕ai有bug。弄个自动识别敌人进行
: 攻击的ai，万一敌我不分了，就比较麻烦了。特别是如果放到核动力的
: 机器里面，长期不停的试图消灭人类。

k*o2015-05-14 07:05

39 楼

苍蝇蚊子老鼠没法跟人沟通。人和未来AI可以，特别是人创造了AI。只要
有理讲，就有可能沟通，利益交换，达成共识。比如你更害怕遇到只知道
疯狂杀人的杀人狂，还是遇到中统特务。虽然中统特务杀过的人可能更多。
杀人狂杀你是100%没有理可讲。中统特务也许也要杀你，但是有沟通的空间，
不是100%必须死磕。

【在 R***a 的大作中提到】

: 有理讲有用么？
: 人进化有理讲吧，人还不是长期试图消灭苍蝇蚊子老鼠？

t*u2015-05-14 07:05

40 楼

优胜劣汰

R*a2015-05-14 07:05

41 楼

如果ai理性发现对他们最大利益就是消灭人类呢？

【在 k**o 的大作中提到】

: 苍蝇蚊子老鼠没法跟人沟通。人和未来AI可以，特别是人创造了AI。只要
: 有理讲，就有可能沟通，利益交换，达成共识。比如你更害怕遇到只知道
: 疯狂杀人的杀人狂，还是遇到中统特务。虽然中统特务杀过的人可能更多。
: 杀人狂杀你是100%没有理可讲。中统特务也许也要杀你，但是有沟通的空间，
: 不是100%必须死磕。

k*o2015-05-14 07:05

42 楼

可以通过沟通帮AI转变观念，总之就是有沟通的可能性，比无法沟通要强。

【在 R***a 的大作中提到】

: 如果ai理性发现对他们最大利益就是消灭人类呢？

R*a2015-05-14 07:05

43 楼

问题就是对ai来说，消灭人类是他们最大利益。
越沟通，让ai越了解你，消灭起来就更容易

【在 k**o 的大作中提到】

: 可以通过沟通帮AI转变观念，总之就是有沟通的可能性，比无法沟通要强。