世界越来越刺激了！“AI教父”辛頓：10年內將出现自主杀死人类的机器人

现在人类之间的战争就够多的了，十年内，机器人也要掺和进来了！

直接拔电线是不是就可以赢了

I,Robot

Hinton 没有哲学修养。就算 AI 有智能，它也不太可能有意识。所以在AI 产生意识之前不需要担心这些。
AlphaGo 一直赢人类棋手没什么大不了的。如果哪一天它故意输一盘棋给人类，那才是危险的！

jianliu67 发表于 2024-03-21 21:40
Hinton 没有哲学修养。就算 AI 有智能，它也不太可能有意识。所以在AI 产生意识之前不需要担心这些。
AlphaGo 一直赢人类棋手没什么大不了的。如果哪一天它故意输一盘棋给人类，那才是危险的！

哈哈。那不是他，而是别人借他的口说的。网上中文很多是制造的谣言。

minren 发表于 2024-03-21 21:46
哈哈。那不是他，而是别人借他的口说的。网上中文很多是制造的谣言。

这些是他原话。可以去油管听他的seminar
我们已经制造了远超我们智慧的，永生的新物种。人类的生存危在旦夕。

是时候开始研发人类的T800了...

jianliu67 发表于 2024-03-21 21:40
Hinton 没有哲学修养。就算 AI 有智能，它也不太可能有意识。所以在AI 产生意识之前不需要担心这些。
AlphaGo 一直赢人类棋手没什么大不了的。如果哪一天它故意输一盘棋给人类，那才是危险的！

我觉得快了。
你看ChatGPT。对他不知道的东西，他就瞎编一个答案，说的跟真的一样。他已经学会撒谎，满嘴跑火车。而在这之前，只有人类会撒谎。

大喜妞 发表于 2024-03-21 20:46
直接拔电线是不是就可以赢了

你没法关闭全世界的电
只要有网 有电的地方AI就可以藏匿

大喜妞 发表于 2024-03-21 20:46
直接拔电线是不是就可以赢了

智慧足够可以自己发电，你能干啥ai就能干啥，而且干的更好

MiuuiM 发表于 2024-03-21 22:29
你没法关闭全世界的电
只要有网 有电的地方AI就可以藏匿

而且等到要拔电源那种程度的时候，世界已经极度依赖AI，很多利益集团都不肯给你拔

人类互相残杀从猿人之前就开始了， 今后要多加一类。 AI教父应该是图灵， AI这个词出自John McCarthy, 近六十年前的事。

吹牛逼

momclub17 发表于 2024-03-21 22:25
我觉得快了。
你看ChatGPT。对他不知道的东西，他就瞎编一个答案，说的跟真的一样。他已经学会撒谎，满嘴跑火车。而在这之前，只有人类会撒谎。

你不懂生成式AI的原理。ChatGPT不是故意瞎编一个答案，而是生成一个答案自己不知道对错。

回复 5楼 jianliu67 的帖子
这一天已经到了。AI通关游戏已经学了cheating或者各种glitches。我从来不怀疑AI有一天会灭绝人类，因为AI是人类智慧的总和。

jianliu67 发表于 2024-03-22 07:16
你不懂生成式AI的原理。ChatGPT不是故意瞎编一个答案，而是生成一个答案自己不知道对错。

哪天AI不止步于归纳总结表面现象，开始寻找现象背后的逻辑和真理的时候，感觉人类差不多就到头了。

momclub17 发表于 2024-03-21 22:25
我觉得快了。
你看ChatGPT。对他不知道的东西，他就瞎编一个答案，说的跟真的一样。他已经学会撒谎，满嘴跑火车。而在这之前，只有人类会撒谎。

可能 ChatGPT 烙印马工太多？

作为一个码农的一员，我认为，如果有AI杀人，那只能是一种情况，就是人类自己产生的bug。
越接触编程，我越不相信所谓的AI。AI就是机器，它的所有flawed，完全取决于写程序产生它的人类。机器学习只是归纳既有的数据，做一个总结归纳，并不可能自主创新。看看google的Gemini就知道了。AI随主。
而且，很多外行人真不知道，越大的system，bug越多，debug越难。真别太相信AI。没人类现象的那么厉害。

lxylmx 发表于 2024-03-22 13:10
哪天AI不止步于归纳总结表面现象，开始寻找现象背后的逻辑和真理的时候，感觉人类差不多就到头了。

这是不可能发生的事情。除非产生灵异事件，比如什么灵附着于某个物品。这个超出讨论范围了哈。

杀人无人机已经被用于战场了吧？ 下一步无非就是再提高一下无人机的自主杀人能力？
以后打仗要不交战国不用在战场上比了，大家派顶尖码农互相刷个题，做不出来就算输了？

大喜妞 发表于 2024-03-21 20:46
直接拔电线是不是就可以赢了

看看原采访啊，人家不回答了这个问题吗？

jianliu67 发表于 2024-03-21 21:40
Hinton 没有哲学修养。就算 AI 有智能，它也不太可能有意识。所以在AI 产生意识之前不需要担心这些。
AlphaGo 一直赢人类棋手没什么大不了的。如果哪一天它故意输一盘棋给人类，那才是危险的！

请教什么是意识？
怎么判断一个东西有没有意识？

我从来都相信人工智能有一天会成为世界的掌控者之一, 大部分人类会因为懒惰和依赖而听从与它 (被掌控).
不难想象当大部分的人类变成衣来伸手, 饭来张口时, 人类的命运会是什么样的. 人类史的发展将取决于那些肯动脑, 有能力, 判断力, 和决策力的小部分人联合起来的行动而决定.

大喜妞 发表于 2024-03-21 20:46
直接拔电线是不是就可以赢了

一，有电池。二，在你去拔的路上，已被机器人KO

有可能吧。人出问题了会疯狂，机器malfunctioning也可能伤人。

大喜妞 发表于 2024-03-21 20:46
直接拔电线是不是就可以赢了

别的人类因为利益冲突会阻止你拔电源。

MMitchell 发表于 2024-03-22 13:41
杀人无人机已经被用于战场了吧？ 下一步无非就是再提高一下无人机的自主杀人能力？
以后打仗要不交战国不用在战场上比了，大家派顶尖码农互相刷个题，做不出来就算输了？

人类的本性就在于不到黄河心不死 不见棺材不掉泪 尸横遍地都不一定会认输 就别提刷个题了

jianliu67 发表于 2024-03-22 07:16
你不懂生成式AI的原理。ChatGPT不是故意瞎编一个答案，而是生成一个答案自己不知道对错。

就是说AI没有对错的概念，换言之没有道德层面的是否观。那它的行为，也可能跟它的发言一样，在对错这个层面比较随机。
它不知道答案时，就生成一个不知对错的答案。在它不知要采取什么行动时，就可能随机产生一个行动。这种行为的后果，在足够多次之后，概率上讲，必然会有对人类造成伤害的行为。

人类就是地球的癌症，灭了没毛病。

说openAI是是非盈利组织是最大的笑话啊吧

自从从闺蜜那里拿到了neutral network 到底怎么回事儿的简介版（大概她也感到幻灭，所以老是和我吐槽她死单服教授教的东西），我越来越觉得现在的AI 被妖魔神话了。
在代替人类这点，其实还真的没啥好担心的。 它真的比我们想的要机器的多了，连创新的边都没摸到呢。一堆的random 50% set to zero so it''''s not limited to the data it got trained ..(真的就是无语。连50%这个数字也不是什么经过严密设计来的，而就是人的习惯而已~~~真是在能源上是莫大的浪费~~,还有一堆的数学gradient 计算。 ）
自主思维？！ 搞笑呢~~~~
也就是未来效率更加高的机器工具而已。裁员是肯定会来的，但代替人类？ 呵呵~~~ 。

扶苏 发表于 2024-03-22 13:21
作为一个码农的一员，我认为，如果有AI杀人，那只能是一种情况，就是人类自己产生的bug。
越接触编程，我越不相信所谓的AI。AI就是机器，它的所有flawed，完全取决于写程序产生它的人类。机器学习只是归纳既有的数据，做一个总结归纳，并不可能自主创新。看看google的Gemini就知道了。AI随主。
而且，很多外行人真不知道，越大的system，bug越多，debug越难。真别太相信AI。没人类现象的那么厉害。

强RE这位曾主说的。 有空担心这些, 还是抓紧孩子学习数学思维。这个永不过时。 将来越来越重要了。

Skynet 不远了？ 好吓人。

这种AI 不可能是真正的智能。 神经网络只是一个复杂的归纳系统。