Redian新闻
>
“把实验停下来”!马斯克等千名科技人员签署公开信:呼吁暂停巨型AI实验

“把实验停下来”!马斯克等千名科技人员签署公开信:呼吁暂停巨型AI实验

公众号新闻

29.03.2023

本文字数:1733,阅读时长大约3分钟



导读:这封信呼吁,所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。


来源 | 生命未来研究所官网、澎湃新闻


近日,人工智能风险引发了多位科技领袖的深切担忧。

未来生命研究所(Future of Life Institute)29日公布一封题为“暂停巨型AI实验”的公开信,呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。辛顿、马库斯和马斯克均签署了这封公开信。公开信中提出,广泛的研究表明,具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险。高级AI可能代表地球生命史上的深刻变化,应以相应的关怀和资源进行规划和管理。不幸的是,这种级别的规划和管理并没有发生,只有当我们确信它们的影响是积极的并且风险是可控的时候,才应该开发强大的人工智能系统。这种信心必须有充分的理由,并随着系统潜在影响的规模而增加。

信中写道:广泛的研究表明,具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险,这一观点得到了顶级人工智能实验室的承认。正如广泛认可的“阿西洛马人工智能原则(Asilomar AI Principles,阿西莫夫的机器人三大法则的扩展版本,于2017年由近千名人工智能和机器人专家签署)中所述,高级AI可能代表地球生命史上的深刻变化,应该以相应的关照和资源进行规划和管理。不幸的是,这种级别的规划和管理并没有发生,尽管最近几个月人工智能实验室陷入了一场失控的竞赛,以开发和部署更强大的数字思维,没有人——甚至他们的创造者——能理解、预测或可靠地控制。

“当代人工智能系统现在在一般任务上变得与人类具有竞争力,我们必须扪心自问:我们是否应该让机器用宣传和谎言充斥我们的信息渠道?我们是否应该自动化所有工作,包括令人满意的工作?我们是否应该发展最终可能比我们更多、更聪明,淘汰并取代我们的非人类思维?我们应该冒险失去对我们文明的控制吗?”这封信写道,“只有当我们确信它们的影响是积极的并且风险是可控的时候,才应该开发强大的人工智能系统。这种信心必须有充分的理由,并随着系统潜在影响的规模而增加。OpenAI最近关于通用人工智能的声明指出,‘在某些时候,在开始训练未来的系统之前进行独立审查可能很重要,并且对于最先进的工作来说,应该同意限制用于创建新模型的计算量增长。’我们同意。那个某些时候就是现在。”

这封信呼吁,所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的,并且包括所有关键参与者。如果不能迅速实施这种暂停,政府应介入并实行暂停。人工智能实验室和独立专家应该利用这次暂停,共同开发和实施一套用于高级人工智能设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督。这些协议应确保遵守它们的系统是安全的,并且无可置疑。这并不意味着总体上暂停AI开发,只是紧急从奔向不可预测的大型黑盒模型的危险竞赛中收回脚步。

与此同时,信中指出,AI开发人员必须与政策制定者合作,以显著加快开发强大的AI治理系统。至少应包括:建立专门负责AI的有能力的新监管机构;监督和跟踪高性能人工智能系统和大量计算能力;推出标明来源系统和水印系统,以帮助区分真实与合成,并跟踪模型泄漏;强大的审计和认证生态系统;界定人工智能造成的伤害的责任;为人工智能技术安全研究提供强大的公共资金;以资源充足的机构来应对人工智能将造成的巨大经济和政治破坏(尤其是对民主的破坏)。

这封信最后写道,“人类可以享受人工智能带来的繁荣未来。成功创建强大的AI系统后,我们现在可以享受‘AI之夏’,收获回报,设计这些系统以造福所有人,并为社会提供适应的机会。社会已经暂停其他可能对社会造成灾难性影响的技术。我们可以在这个领域也这样做。让我们享受一个漫长的AI之夏,而不是毫无准备地陷入秋天。”

未来生命研究所建立于2014年,是一个非营利组织,由一系列个人和组织资助,使命是引导变革性技术远离极端、大规模的风险,转向造福生活。

截至发稿,这封信已有1079名科技领袖和研究人员签名,除了马斯克、辛顿和马库斯之外,还包括图灵奖得主约书亚·本希奥(Yoshua Bengio)、《人工智能:现代方法》作者斯图尔特·罗素(Stuart Russell)、 苹果公司联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)、Stability AI首席执行官埃马德·莫斯塔克(Emad Mostaque)等科技界领袖人物。

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
恐危及全人类!马斯克等1000人签署公开信:立即暂停!马斯克与全球千名科技人士联名叫停AI开发,转头却购入1万块GPU?马斯克呼吁暂停 AI 研究,吴恩达:呼吁无效!潘多拉的魔盒能“安全”打开吗?从千名专家呼吁暂停超强AI研发,到GPT-4老板直言AI可能会杀死人类!人工智能到底怎么了!马斯克等为何呼吁暂停GPT-5训练?AI已成中美战略竞争制高点!中国需从九方面紧急应对!别让GPT-4再进化!马斯克带头签署千人联名信,紧急呼吁AI实验室立即暂停研究马斯克等千名科技大佬呼吁,叫停超强AI研发6个月,是“求饶”还是对手的缓兵之计?“暂停GPT-5!”马斯克等千人联名叫停强AI研发:它太可怕了Colleges Offering a Criminal Justice Major比已知更可怕…马斯克等1000多科学家发公开信要叫停AI研发马斯克不讲武德:一边公开呼吁暂停AI研究,一边偷偷开发“AI版微信”?GPT-5恐被叫停!马斯克、图灵奖得主等千名专家呼吁暂停超强AI研发,至少6个月危险!马斯克、赫拉利、图灵奖主联署:“暂停巨型人工智能实验至少半年”的公开信娄岩一周诗词五首硬核观察 #955 马斯克等人呼吁暂停训练更强大的 AI马斯克等人呼吁暂停AI研发;专家称60岁退休反而是浪费;茅台推出酒瓶装冰淇淋;理想回应雷达在陵园内显示人影...疯狂2023, 中国疫情就那么快结束了吗?立即暂停训练更强大的AI!马斯克等超2300人签署联名信,科技大佬在担心什么;74页起诉书起底赵长鹏在美往事 |一周国际财经美国华盛顿,地标建筑马斯克等千名大佬联名疾呼暂停先进AI训练,周鸿祎:不发展才是最大的不安全危险!立即暂停!马斯克等超千人紧急呼吁一周资讯|罗永浩淘宝直播间交易额破纪录;马斯克等千名科技人士联名喊停GPT训练;腾讯视频号将推出创作分成计划...说一套做一套?马斯克公开呼吁暂停AI开发后,竟又要加入战局恐危及人类社会,马斯克与AI专家连署公开信 吁暂停训练强大AI8点1氪:马斯克、苹果联合创始人等千名科技人士发公开信叫停人工智能开发;钟薛高推出3.5元雪糕;理想回应雷达在无人陵园显示全是人比已知更可怕,马斯克等1000多科学家,叫停AI研发,并签署公开信我国短视频用户规模达10.12亿;货拉拉向港交所提交上市申请;马斯克等千名科技人士呼吁暂停更强AI开发……“救救人类”!马斯克等千人联名反对AI实验!想把AI关进笼子里?千名科技人士发起联名信,呼吁暂停AI研发半年微档案--谢文通美国入境档案比尔·盖茨谈千人公开信:暂停人工智能发展的呼吁解决不了未来的挑战未知风险太大!马斯克等1000多名大佬发公开信:立即暂停训练比GPT-4更强大的AI立刻暂停!马斯克等上千名科学家紧急发声,什么情况?A股最火赛道跳水Elon Musk 等上千名科技专家共同签署「暂缓 AI 开发」公开信件《阿凡达2:水之道》明天网播上线 全网预约已突破290万危险!立刻停下所有大型AI研究!马斯克等千名企业家科学家紧急呼吁!
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。