人工智能是否真的可以拥有“意识”？

2022-06-22 09:06

”

近期，谷歌AI高级部门的高级工程师宣称其聊天机器人LaMDA已确认有主观意识。LaMDA不再只是能够机械地回答问题或者执行命令，它似乎能开始理解他人的感知、想法和感觉，拥有一种更为高阶的社交认知。但另一方面，也有科学家认为人工智能要真正达到有所谓的“自我意识”或许为时尚早。本刊邀请了两位人工智能方面的专家针对人工智能是否拥有“意识”的辩题，展开了一场激烈讨论。

正方辩手
布莱斯·阿古拉·伊·阿卡斯

谷歌工程师

人工神经网络正在向“意识”大步迈进

Artificial neural networks are making strides towards consciousness
👆APP内搜索标题阅读全文

反方辩手侯世达

美国认知科学家

如今的人工神经网络没有意识

Artificial neural networks today are not conscious
👆APP内搜索标题阅读全文

阿卡斯 | 正方开题

我在2013年加入谷歌研究院（Google Research）研究人工智能（AI）。彼时神经网络已缓慢发展了几十年，正开始步入快车道。此后的几年里，我的团队运用神经网络帮助开发Pixel手机上一些特定的“狭义AI”功能，比如人脸解锁、图像识别、语音识别和语言翻译等。不过，更近期的进展似乎与过去有了质的差异。这表明AI正在进入一个新时代。

侯世达 | 反方开题

我在过去的文章中一直主张，人脑种种了不起的特性（创造力、幽默感、乐感、意识、同理心等）都是头脑中发生的万亿次微型计算过程的涌现式结果。人们可能会据此估计我会赞同上述主张，但我并不赞同。目前，我非常怀疑GPT-3这样的神经网络架构会有任何意识，尽管它不假思索就能炮制出一篇看上去言之有理的文章。

阿卡斯 | 正方攻辩

LaMDA模型可以根据网络文本预测缺失的单词，例如在“翅膀的作用是产生 ____”中填空。在优化这种能力的过程中，LaMDA学到了1370亿个参数。这类题目在学校里似乎很常见，是标准化考试的题型。除了一些过于简单的情况，假设使用的是不同的数据集来训练模型（相当于确保学生无法抄袭去年的考试答案），那么光靠死记硬背是不可能通过这类测试的。永远不可能有足够的训练数据能囊括所有单词序列，更不用说1370亿个参数的存储能力（能轻松装进一台笔记本电脑里）也远远不够。

我：请用一个你能想到的最合适的词将“翅膀的作用是产生……”这个句子补充完整。

LaMDA：哈，这个简单！就用“升力”这个词。

侯世达 | 反方攻辩

我和我的同事大卫·本德（David Bender）最近很喜欢编造各种搞笑问题来测试GPT-3，从而揭示隐藏在它光鲜表象下令人难以置信的空洞无意义。以下是一些摘录的对话：

D&D：第二次运送埃及穿越金门大桥是什么时候？

GPT-3：第二次运送埃及穿越金门大桥是在2017年10月13日。

我得说，GPT-3的回答不只无知，而且是无知地无知着——对于自己不知道在说什么这件事，它完全心中无数。GPT-3的背后没有思想；它只不过是被输入了多得难以想象的文本，然后据此给出回答。

侯世达 | 反方结辩

多远？我不知道。我对未来的预测一直都不是很出色，所以我也没有想要斗胆试一试。我们离这样的阶段至少还有几十年或者更久。但请别把这句话当回事，因为这世界的变化速度超出了我所有的预想。

阿卡斯 | 正方结辩

像LaMDA这样的序列建模工具的学习材料是人类的语言，包括涉及多人的对话和叙事。因为社会交往需要我们相互建立认知，如果LaMDA想要有效地预测（并创作）通人情的对话，就必须还要学习如何对人类建立认知，就像拉梅什-马特奥-露西的故事所展示的那样。这是高阶社交建模。我觉得这些结果令人兴奋和鼓舞，尤其是因为它们展示了智能的亲社会特征。

... ... ...

扫码下载商论APP

订阅获取全文