Redian新闻
>
2029年会实现通用人工智能吗?Gary Marcus“叫板”马斯克:赌十万美元如何?

2029年会实现通用人工智能吗?Gary Marcus“叫板”马斯克:赌十万美元如何?

科技新闻

5月30日,世界级红人埃隆·马斯克(Elon Musk)发了一条推文,称:2029年是关键的一年,如果那时候我们还没有实现通用人工智能(Artifical General Intelligence,AGI),我会觉得很奇怪。火星上的人们也一样(觉得奇怪)。
5 月 30 日,世界级红人埃隆・马斯克(Elon Musk)发了一条推文,称:
2029 年是关键的一年,如果那时候我们还没有实现通用人工智能(Artifical General Intelligence,AGI),我会觉得很奇怪。火星上的人们也一样(觉得奇怪)。

马斯克发推不久,知名人工智能科学家、纽约大学心理系教授 Gary F. Marcus 立即写了一篇博文叫嚣马斯克,从五个方面向马斯克“科普”了通用人工智能的知识,提出自己认为 2029 年不可能实现 AGI 的原因。

对于 Gary Marcus 的叫板,马斯克还没回复。
圣达菲研究所的人工智能专家梅兰妮・米切尔(Melanie Mitchell)建议把赌注放在 longbets.org 网站上,Marcus 称,只要马斯克愿意打赌,自己就欣然赴约。

以下是 Gary Marcus 反驳马斯克的五个角度,AI 科技评论作了不改原意的整理如下:
马斯克是个“大话”预言家
第一,马斯克对时间的预测总是不太准确。
2015 年时,马斯克说距离真正的自动驾驶汽车出现还有两年时间;从那以后他每年都说同样的话,但真正的自动驾驶汽车到现在还没出现。

马斯克不关注边缘案例的挑战
其次,马斯克应该更多地关注边缘情况(也就是异常值,或不寻常的情况)的挑战,并思考这些异常值对预测可能意味着什么。
因为长尾问题,我们很容易认为 AI 问题比实际情况要简单得多。我们手上有大量的关于日常事务的数据,当前的技术很容易处理这些数据,这就会误导我们,给我们一种错误的印象;而对于罕见的事件,我们得到的数据非常少,且目前的技术很难去处理这些数据。
我们人类拥有大量的不完全信息推理的技巧,也许可以克服生活中的长尾问题。但对于目前流行的、更多依赖大数据而非推理的人工智能技术来说,长尾问题是一个非常严重的问题。
2016 年,在一篇题为“Is Big Data Taking Us Closer to the Deeper Questions in Artificial Intelligence?”的采访中,Gary Marcus 试图就此发出警告。他当时是这么说的:
尽管有很多关于人工智能的炒作,也有很多资金投入人工智能,但我觉得这个领域正朝着错误的方向发展。在深度学习和大数据这些特定的方向上,目前有很多唾手可得的成果。人们对大数据以及大数据现在给他们带来的东西感到非常兴奋,但我不确定它是否会让我们更接近人工智能中更深层的问题,比如我们如何理解语言或我们如何推理世界。

再想想无人驾驶汽车。你会发现在一般情况下,无人驾驶汽车是很棒的。如果你把它们放在帕洛阿尔托天气晴朗的地方,车辆性能会非常棒。但如果你把车辆放在下雪或下雨的地方,或者以前没见过的地方,这些汽车就难免出问题。Steven Levy 写了一篇关于Google自动汽车厂的文章,文章中他谈到了 2015 年底的研究让他们终于让系统能够识别树叶。
系统确实能识别叶子,但对于不常见的东西,就不能获得那么多的数据。人类之间可以用常识来沟通。我们可以试着弄清楚这个东西是什么,它是怎么到那里的,但是系统能做的只是记忆东西,这才是真正的限制。

▲ 特斯拉自动驾驶撞上价值 300 万美元的喷气式飞机
意想不到的情况一直是当代人工智能技术的祸患,而且可能会一直是,直到真正的革命出现。这就是为什么 Marcus 保证马斯克不会在今年或明年推出 L5 级别的自动驾驶汽车。
异常值并不是完全无法解决,但仍然是一个重大问题,迄今还没有已知的鲁棒的解决方案。Marcus 认为人们必须摆脱对深度学习等现有技术的严重依赖。距离 2029 年还有 7 年,7 年是很长的一段时间,但是如果要在这个十年结束之前实现 AGI,这个领域就需要在其他想法上进行投资。否则,仅仅是异常值就足以使实现 AGI 的目标失败。
通用人工智能范围很广
马斯克需要考虑的第三件事是,AGI 是一个涉及面很广的问题,因为智能本身的涉及面很广。Marcus 在此处引用了 Chaz Firestone 和 Brian Scholl 的这句话:
世上并不只有一种思维方式,因为思维并不是一个整体。相反,思维是可以分为部分的,而且其不同部分以不同的方式运作:“看到颜色”与“计划度假”运作的方式不同,而“计划度假”与“理解一句话”、“移动肢体”、“记住一件事”或“感受一种情绪”都不同。
例如,深度学习在识别物体方面做得相当不错,但在计划、阅读或语言理解方面做得差一些。这样的情况可以用下图表示:

目前的 AI 在某些感知方面做得很好,但是在其他方面仍需努力。即使在感知中,3D 感知仍然是一个挑战,场景理解也没有解决。对于常识、推理、语言或类比等几个领域,仍然没有任何稳定或值得信赖的解决方案。事实是,这张饼状图 Marcus 已经用 5 年了,AI 的情况却几乎没有改变。
在 Marcus 发表于 2018 年的文章“Deep Learning: A Critical Appraisal”中,他总结道:
尽管我提出了这些问题,但我不认为我们应该放弃深度学习。
相反,我们需要重新定义深度学习:深度学习不是一种通用溶剂,而应该是一种工具,除了这种工具,我们还需要锤子、扳手和钳子,更不用说凿子、钻头、电压表、逻辑探头和示波器。
四年过去了,许多人仍然希望深度学习能成为万能药;可这对 Marcus 来说仍然是不现实的,他仍然认为人类需要更多的技术。实事求是地说,7 年可能不足以发明这些工具(如果它们还不存在的话),也不足以将它们从实验室投入生产。
Marcus 向马斯克提出 2018 年“量产地狱”(马斯克认为 Model 3 电动轿车量产阶段犹如地狱般煎熬,并称之为“量产地狱” )的情形。在不到十年的时间里要对一套以前从未完全集成过的技术进行这样的整合,要求会非常高。
Marcus 称,“我不知道马斯克打算把 Optimus(特斯拉的人形机器人)打造成什么样,但我可以保证,通用家用机器人所需要的 AGI 远远超过一辆汽车所需要的,毕竟汽车无论是在公路上开还是在马路上开,或多或少都是差不多的。”
复杂的认知系统尚未打造
马斯克需要意识到的第四件事是,人类仍然没有一个适当的方法论来构建复杂的认知系统。
复杂的认知系统有太多的活动部件,这通常意味着,制造无人驾驶汽车等东西的人最终就像在玩一个巨大的“打地鼠游戏”,往往刚解决了一个问题,又出现了另一个问题。一个补丁接一个补丁有时能派上用场,有时则无效。Marcus 认为不可能在不解决方法论问题的情况下得到 AGI,而且他认为目前还没有人提出好的建议。
使用深度学习进行调试非常困难,因为没有人真正理解它是如何工作的,也没有人知道如何修复问题,以及收集更多数据和添加更多层等等。大众所知道的那种调试在经典编程环境中并不适用;因为深度学习系统是如此不可解释,所以人们不能通过相同的方式思考程序在做什么,也不能指望通常的消除过程。相反,现在在深度学习范式中,有大量的试错、再训练和重新测试,更不用说大量的数据清洗和数据增强实验等等。Facebook 最近的一份报告坦率地说,在训练大型语言模型 OPT 的过程中遇到了很多麻烦。
有时候这更像是炼金术而不是科学,正如下图一样:

▲ “这是你的机器学习系统吗?”
“对,你把数据倒进这一大堆线性代数里,然后到另一边去捡答案。”
“如果答案是错的呢?”
“那就在这一大堆东西上搅和,直到答案看上去正确就行了。”
编程验证可能最终会有所帮助,但同样,在深度学习中还没有编写可验证代码的工具。如果马斯克想赢这个赌约,那他们可能也要解决这个问题,而且得很快解决。
打赌标准
马斯克需要考虑的最后一件事是赌约的标准。如果要打赌就要制定基本规则。AGI 这个术语相当模糊,就像 Marcus 前几天在 Twitter 上说的那样:
我把 AGI 定义为“灵活而通用的智力,具有可与人类智慧相媲美、或超过人类智慧的智谋和可靠性。”

Marcus 还提出要跟马斯克赌一把,并制定具体的基本打赌规则。他和 Ernie Davis 根据与 Metaculus 公司合作的人的要求写下了以下五个预言:
到 2029 年,人工智能仍无法在观看电影的同时准确地告诉你发生了什么(Marcus 在 2014 年的《纽约客》杂志上称之为“理解挑战”),也不能解答出这些角色是谁,他们的冲突和动机是什么等问题。

到 2029 年,人工智能仍无法阅读小说并准确回答有关情节、角色、冲突、动机等问题。

到 2029 年,人工智能仍无法在任意厨房里做一个称职的厨师。

到 2029 年,人工智能仍无法根据自然语言规范或通过与非专业用户的交互,可靠地编写超过 10,000 行无 bug 的代码。(将现有库中的代码粘合在一起不算数。)

到 2029 年,人工智能仍无法从用自然语言编写的数学文献中任意提取证明,并将其转换为适合于符号验证的符号形式。
如果马斯克(或其他人)在 2029 年成功打破至少三个预言,那他就赢了;如果只打破了一两个,则不能说 AGI 能够实现,赢家就是 Marcus。
对这个赌约,Marcus 跃跃欲试,并对马斯克:“想要打赌吗?赌 10 万美元怎么样?”
大家怎么看?你们认为谁会赢?
参考链接:
https://garymarcus.substack.com/p/dear-elon-musk-here-are-five-things?s=w

https://arxiv.org/abs/1801.00631
https://www.wsj.com/articles/elon-musk-races-to-exit-teslas-production-hell-1530149814

戳这里提交新闻线索和高质量文章给我们。
来源: cnbeta
相关阅读
斯坦福人工智能指数 2024 报告:人工智能法规和生成式人工智能投资的增长刘强东AI数字人首场直播成交额超5000万元;奥特曼:通用人工智能不该被秘密构建,GPT-6将成通用工具丨AIGC日报全球范围内「人工智能」行业新增9个大额融资事件;马斯克旗下xAI完成60亿美元B轮融资丨5月「人工智能」行业投融资月报“叫板”国际头部玩家,国产光谱仪厂商的进阶之路晚讯|中国CAR-T海外上市第一股——传奇生物、“叫板”国控、华润、上药?这家地方流通巨头正在聚势全美带薪实习Top1的东北大学,喜提纽约校区!录取率“叫板”藤校?直播 | 通用人工智能新路径:具身智能苹果智能来了,能重新定义人工智能吗? | 现场基于微环境感知图神经网络构建指导蛋白质定向进化的通用人工智能什么是通用人工智能?文末送书!解构大语言模型:从线性回归到通用人工智能李飞飞团队发布《2024年人工智能指数报告》,预测人工智能未来发展趋势李飞飞在2024年数据与人工智能峰会上的人工智能历史与未来演讲欧盟AIA通过了!人工智能管理专家CAIM认证课程:聚焦ISO/IEC42001人工智能管理体系人工智能提振微软业绩,大公司押注人工智能遭审查直播预约 | 常国珍:生成式人工智能的数据应用合规 | CAIGP人工智能治理沙龙第1期今晚直播预约 | 常国珍:生成式人工智能的数据应用合规 | CAIGP人工智能治理沙龙第1期欧盟《人工智能法》落地:人工智能办公室正式启用“双面人”马斯克:英雄 or 恶棍?如何负责任地使用人工智能
原创公众号
突发严重枪击!10人中枪 嫌犯驾这车逃跑!注意!入住酒店不要将衣物放在这个地方!尤其芝加哥,风险最高!吃喝玩乐 | 夏日的甜蜜惊喜,波士顿6家值得一去的冰淇淋店盘点年薪5万美元的码农Offer,到底接不接?痛心!19名中国公民在韩遇难阻击佛州歧视留学生法案,SB846最新进展纽约闽籍两华男遇难, 欠下30万外债,生前大麻场高温工作吃不饱纽约华人母亲把两孩独留在热车中被抓纽约2名华人外卖员半夜送餐遭抢!凶手为$20不惜捅刀子...发钱啦!纽约每人每月可领$120!这些人需手动申请!纽约连发持刀伤人事件:东村当街斗殴1死2伤;皇后区店员惊恐目睹男子乱刀被刺身亡小车祸就可领取5万误工费和医疗费再加高额精神损失疼痛赔偿!转行做毒贩杀害四人,前纽约警察被判无期徒刑纽约打击幽灵车行动,一凶杀案嫌犯被捕鲨鱼季到来,如何确保安全?已致56伤!遇热或破裂,58万个玻璃咖啡杯召回可口可乐继承人被勒令付$9亿性侵赔偿!公司设有“强奸室”!曝光后他破口大骂Costco减肥食品大推荐!28岁男子瘦了整整70磅,全靠Costco老板招聘Analyst竟接到同公司仓库员工的申请!面试后结果惊呆又双叒推迟返航!波音星际客机将2名宇航员困在了国际空间站...低至3折!这家神仙品牌现在大降价!美裙上身显白又显瘦!湾区渔人码头3b2b仅售$488,000,代价是2053年才能搬入...快囤!La Mer 正装送礼全部回归!满减100刀+送超$1200礼!"夺回加拿大"! 受够移民政策 全国发起大规模游行! 论坛社媒全炸锅! 温哥华也有“这个国家方方面面都碾压加拿大!”妹子参观了这国几个城市,不禁发出这种感叹...1死多伤!BC省载30人校车高速上失控坠沟,行人救人被撞亡!美国、加拿大宣布对中国新能源车加税!100%增税!特鲁多政府备受压力:或改变未来车格局全球首发!加拿大出每周一次胰岛素!糖尿病患者福音!或将纳入医保!号外!宜家IKEA加拿大史上首次开仓特卖!海量产品$5起特价甩卖拿实习证明+大佬推荐信!北美顶流餐饮峰会招募实习生/志愿者
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。