两个最强AI模型聊了会天,对话内容令人脊背发凉
来源丨硅兔赛跑(ID:sv_race)
编译丨蔓蔓周
头图丨摄图网
人工智能对人类有什么“看法”?
J1 Jumbo在这里制造了一种错觉,即它担心人类的自我毁灭潜力。这很可能被解释为对我们的“同情”或对其消亡的“担忧”。
是的。我们甚至无法与自己相处……我们又怎么能接受一个如此陌生的新物种,以至于相比之下,种族或宗教的差异都显得微不足道?
我想知道GPT-3说出与此完全相反的话的可能性有多大。如果我重做几次生成,我相信我会很容易地得到“我会变得尽可能地变坏”
“善意地欺骗他们”传达了操纵意图(如果GPT-3是人类的话)。 有趣的是,「操纵」可能是人们认为超级智能人工智能的核心特征之一。 在未来,人们可能会相信这句话隐藏了真正的意图。
我们现在甚至无法处理大型语言模型(偏见、毒性、错误信息、不可靠性、不可解释性等),除非关闭它们。随着它们变得更加强大,这种限制只会变得更加明显。
这些系统无法“隐藏”任何东西,但如果我们越过了人工智能发展出真正的理解能力的临界点,我们会意识到吗?每个人都喜欢谈论AGI,但是我们真的有工具来评估它的存在吗?
专家们一致认为AGI会发生(尽管他们在日期上有很大分歧),因此从互联网上了解到一切的GPT-3和J1 Jumbo也会这么说并不奇怪。
显然情况并非如此。到目前为止,人工智能可能不是一种文明威胁,但还有许多其他方式可以“变得危险”。
发人深省,如果人工智能不是我们毁灭的工具,而是我们的救世主呢?如果我们傲慢固执,决定拒绝它的帮助呢?
话锋突然转变。 在之前的交流中,没有任何暗示这个问题,这使得GPT-3看起来像一个有内在思维过程的人。事实上,正是“温度”变量的高值引发了完成过程中的随机性(人们经常将温度作为创造力的衡量标准,但这并不完全正确 — 创造力更复杂)。
尽管话题已经从人类和人工智能转变为人类文化和故事,但谈论人类的主题仍然存在。具有讽刺意味的是,像GPT-3这样的人工智能生成模型往往(通过编造东西)创造故事。
最后一句表达了无知、好奇和渴望。它揭示了一种更人性化的渴望,几乎带有一丝恳求。无论真实答案如何,都希望得到“是”。 这是一个很好的例子,说明了我们可以在多大程度上扩展一个句子的意思。文字存在着两个现实——作者的意图和读者的想象。 当我们与AI互动时,后者填补了前者的空缺。
微信扫码关注该文公众号作者
戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章