Redian新闻
>
350名专家警告:人工智能可能灭绝人类!

350名专家警告:人工智能可能灭绝人类!

公众号新闻
↑点击上方蓝色字关注硅谷高创会~
AI 领域传出一封重要的公开信。

这封信只有一句声明:降低人工智能灭绝的风险,应该与其它社会规模的风险(如大流行病和核战争)一样,成为全球的优先事项。

签署人包括三个领先的 AI 公司高管:OpenAI 首席执行官 Sam Altman;Google DeepMind 首席执行官 Demis Hassabis;Anthropic 的首席执行官 Dario Amodei;更重要的是,名单里还有 Geoffrey Hinton 和 Yoshua Bengio 两位人工智能的“教父”。

随着AI技术的发展,领域内的专业人士逐渐开始担忧这项技术对人类社会的潜在威胁。当杰夫瑞·辛顿被问到“你认为可以想象的最坏的情况是什么”,他回答:“完全可以想象,人类只是智能进化的一个过渡阶段。”

(图源网络)



一、科技巨头AI大战白热化


发布这封公开信的机构名叫Center for AI Safety(CAIS),是一家关于AI安全的非营利组织。在这封公开信的开头,CAIS反复强调:包括AI专家、记者、政策制定者和公众在内,越来越多的人开始讨论AI带来的一系列重要和紧迫的风险。即便如此,要想表达对先进AI的严重风险,可能还是有一定难度。这封公开信旨在克服这一障碍,并展开对相关议题的讨论,让更多专家和公众人物认识到这一点。


事实上,这并不是业界首次出于对AI的担忧而提出联合倡议。据此前报道,包括特斯拉创始人马斯克、苹果联合创始人沃兹尼亚克等也曾在一封公开信里警告,呼吁人类暂停开发更强大的人工智能,为时至少6个月。而被称为“AI教父”的杰弗里已经从其工作多年的谷歌离职,并开始畅谈AI所带来的风险。


Geoffrey Hinton)


在过去几年里,AI 技术经历了飞速的发展,极大地推动了行业的创新和进步。从去年年底开始,生成式 AI 开始狂飙,正以天为单位迭代,在这个快速发展的行业中,ChatGPT、多模态、大模型等 AI 技术不断涌现,AIGC 已成为科技巨头们逐鹿的新战场。


5月10日的Google I/O 2023上,谷歌亮出了人工智能(AI)领域开发的最新成果PaLM 2,谷歌声称它在部分任务超越GPT-4。Bard能力大更新,不用再排队等候,并支持新语言。谷歌版AI办公助手也一并推出,将在Gmail中抢先亮相。谷歌云也上线多个基础大模型,为行业提供更进一步的生成式AI服务。这场发布会结束后,谷歌股价也立刻上涨超4%。据悉,PaLM 2接受了100多种语言的训练,甚至还通过了“精通”级别的高级语言能力考试,PaLM 2 的日语水平达到了 A 级,法语水平达到了 C1 级。不仅如此,PaLM 2 还了解重要的语言细微差别,这使得它在语言理解、生成和翻译上的能力更强,并且会更加擅长常识推理、数学逻辑分析。


(图源网络)


5月24日,微软召开Build全球开发者大会。在全面拥抱人工智能后,微软在此次开发者大会的主题演讲中,宣布了旗下多项业务接入人工智能。就在今年2月,微软就宣布推出了全新的人工智能 Bing 搜索引擎和 Edge 浏览器,以改变传统搜索。微软在开发者大会上宣布,必应将成为ChatGPT内置的搜索引擎、与OpenAI共建统一AI插件平台,以及扩展必应聊天机器人在微软Copilots产品线上的广泛应用。




5月30日,伟达股价站上419美元的高位,市值一度登顶1万亿美元,与苹果、微软、谷歌等一并跻身万亿美元俱乐部行列。随着微软、谷歌硅谷等科技巨头在AI竞赛中激烈地角逐,势必对用GPU训练AI的需求极速增长。在算力需求激增的同时,英伟达的GPU几乎成为了唯一的硬通货。英伟达一季度财报中,最亮眼的成绩便是数据中心业务。英伟达的A100/H100等高性能 AI 计算卡,是目前研发大模型的科技巨头们竞相追捧的关键算力资源。


(图源网络)

谷歌和微软作为两大巨头,通过在AI领域的竞争和创新,正在改变应用的格局。无论是谷歌的Google I/O开发者大会还是微软的与OpenAI的合作,都展示了它们在人工智能和机器学习领域的重要进展。随着AI技术的不断演进和应用的扩大,我们或许可以期待更多令人惊喜的AI成果和应用场景的出现。



二、公开信原文


人工智能具有与人类竞争的智能,这可能给社会和人类带来深刻的风险,这已经通过大量研究得到证实,并得到了顶级AI实验室的认可。正如广泛认可的阿西洛马尔人工智能原则(Asilomar AI Principles)所指出的,先进的 AI 可能代表地球生命历史上的重大变革,因此应该以相应的关注和资源进行规划和管理。


不幸的是,即使在最近几个月,AI 实验室在开发和部署越来越强大的数字化思维方面陷入了失控的竞争,而没有人能够理解、预测或可靠地控制这些数字化思维,即使是它们的创造者也无法做到这一点。


现代 AI 系统现在已经在通用任务方面具有与人类竞争的能力,我们必须问自己:



・我们应该让机器充斥我们的信息渠道,传播宣传和谎言吗?
我们应该将所有工作都自动化,包括那些令人满足的工作吗?

我们应该发展可能最终超过、取代我们的非人类思维吗?
我们应该冒失控文明的风险吗?




这些决策不应该由非选举产生的科技领导人来负责。只有当我们确信AI系统的影响是积极的,风险是可控的,我们才应该开发强大的AI系统。这种信心必须得到充分的理由,并随着系统潜在影响的增大而增强。OpenAI 最近关于人工智能的声明指出:「在某个时候,可能需要在开始训练未来系统之前获得独立审查,对于最先进的努力,需要同意限制用于创建新模型的计算增长速度。」我们同意。现在就是那个时刻。

因此,我们呼吁所有 AI 实验室立即暂停至少 6 个月的时间,不要训练比 GPT-4 更强大的 AI 系统。这个暂停应该是公开和可验证的,并包括所有关键参与者。如果无法迅速实施这样的暂停,政府应该介入并实行一个暂禁令。

AI 实验室和独立专家应该利用这个暂停时间共同制定和实施一套共享的先进 AI 设计和开发安全协议,这些协议应该由独立的外部专家严格审核和监督。这些协议应确保遵守它们的系统在合理怀疑范围之外是安全的。这并不意味着暂停 AI 发展,而只是从不断迈向更大、不可预测的黑箱模型及其突现能力的危险竞赛中退一步。

AI 研究和开发应该重点放在提高现有强大、先进系统的准确性、安全性、可解释性、透明度、鲁棒性、对齐、可信度和忠诚度。与此同时,AI 开发者必须与政策制定者合作,大力加速 AI 治理体系的发展。这些至少应包括:

专门负责 AI 的新的、有能力的监管机构;
对高能力 AI 系统和大型计算能力池的监督和跟踪;
用于区分真实与合成内容、跟踪模型泄漏的溯源和水印系统;
健全的审计和认证生态系统;对 AI 造成的损害承担责任;
技术AI安全研究的充足公共资金;
应对 AI 引起的巨大经济和政治变革(特别是对民主制度的影响)的资深机构。



人类可以在 AI 的帮助下享受繁荣的未来。在成功创造出强大的 AI 系统之后,我们现在可以享受一个「AI 盛夏」,在其中我们收获回报,将这些系统明确地用于造福所有人,并让社会有机会适应。

在面临可能对社会造成灾难性影响的其他技术上,社会已经按下了暂停键。在这里,我们也可以这样做。让我们享受一个漫长的 AI 盛夏,而不是毫无准备地冲向秋天。


参考链接:
[1]https://www.safe.ai/statement-on-ai-risk
[2]https://www.nytimes.com/2023/05/30/technology/ai-threat-warning.html?smtyp=cur&smid=tw-nytimes
[3]https://twitter.com/AndrewYNg/status/1663584330751561735
[4]https://www.reddit.com/r/MachineLearning/comments/13vls63/n_hinton_bengio_and_other_ai_experts_sign/

End

|点击关注我们 👇 记得星标|

欢迎添加小编微信,链接一线创业者、投资人,进入全球高端科技创投交流群!
硅谷高创会企业家全球出海商务考察>>
2023年,硅谷高创会将在美国(硅谷、波士顿、纽约、西雅图、洛杉矶、华盛顿、芝加哥、亚特兰大等城市)、新加坡、德国、法国、以色列、日本、韩国等地组织企业家开展考察,促进优秀企业家、投资人、创业团队及政府代表与世界知名企业零距离接触,扩宽视野,寻觅合作,开拓市场。


硅谷高创会2023年企业家全球出海商务考察详细安排及背景介绍请点击蓝字链接查看:

1、硅谷高创会企业家全球出海商务考察第68期—美国行(巴菲特股东大会考察团)精彩回顾

2、硅谷高创会企业家全球出海商务考察第69期—德国行(柏林IFA电子展+智能制造)火热招募中

3、硅谷高创会企业家全球出海商务考察第70期—美国行(硅谷、波士顿、纽约)正在火热招募


为充分满足各地、各层次企业海外商务考察需求,硅谷高创会正在招募城市合伙人/合作伙伴,通过与合伙人达成的全方位、多层次的合作,为各地企业提供持续深化且个性化的商务考察服务,实现共赢。若想成为城市合伙人,请扫码联系小助手,备注【合伙人】具体咨询。


“专精特新”报名及合作事宜>>
工业和信息化部工业文化发展中心主办,北京高创汇智科技有限公司承办,北京大兴国际机场临空经济区管理委员会联合承办,北京大兴区投资促进服务中心支持,共同开展的“专精特新”企业创新特训营第一期在北京大兴成功举办!


欢迎各位朋友扫码添加工作人员微信(备注专精特新合作/报名),报名下一期“专精特新”企业创新特训营或成为城市事业合伙人

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
比尔·阿克曼最新股东信:市场正处在几十年来最有风险的环境,人工智能可能颠覆许多似乎有着坚不可摧护城河的业务习惯,目标,维生素,教练的分析天有不测风云《人类灭绝》:将灭绝我们的,不是灾难,而是我们自己的残忍就连人工智能也建议暂时回避人工智能股票AI会不会灭绝人类?耶鲁CEO峰会调查发现...350余位专家高管联名:AI堪比核战,灭绝人类思想周报丨人工智能可否创作艺术;西方工作场所监控争议谷歌大震动!AI之父辞职并告诫:人工智能或将毁灭人类AI可能灭绝人类!350位大佬联名警告!但对普通人来说更紧迫的是什么?MIT 教授/校友Kellis姐弟同台分享!超越人类智能:人工智能与阴阳促进人类潜能350位大佬警告,AI可能灭绝人类!Sam Altman预警:AI灭绝人类!375+大佬签署22字联名信,LeCun唱反调人工智能可准确识别早期癌症?英国开发AI模型提升精准度行业顶尖专家警告:AI或带来人类灭绝风险巨头、专家发联名信:降低 AI 灭绝人类风险;Kindle 本月关闭电子书店;刘慈欣:科幻作家未来被 AI 替代 | 极客早知道ChatGPT老板警告:AI可能灭绝人类辽宁龙卷风、​新西兰坐飞机称体重、人工智能可能灭绝人类等丨今日天下微软称GPT-4或具备人类逻辑,人工智能终将成“人类智能”?突发!ChatGPT之父警告 AI可能灭绝人类,350名AI权威签署联名公开信含棒棒糖的包裹?别碰它!澳洲专家警告:“你”可能被用来干坏事了硅谷人工智能创新之旅精彩回顾 | 与世界顶尖科技企业交流,探索人工智能创新之谜警惕AI灭绝人类!OpenAI CEO等350位专业人士签署声明​;大脑的核桃状结构决定了我们的思考和感觉 | 环球科学要闻像核战争一样,AI可能灭绝人类:Geoffrey Hinton、Sam Altman等百名专家签署了一封公开信人生的苦役(小说)6或灭绝人类?人工智能先驱警告AI将以6种方式伤害人类怎么看马斯克联名公开信?专家:人工智能已觉醒,人类还没有“ChatGPT之父”警告AI可能灭绝人类;英伟达发布新型AI芯片GH200|AIGC周观察第四期人工智能立法提上日程:兼顾安全与发展,为人工智能治理打下框架性基础淘书 读书 别被钓愚“X病”来了?COVID专家警告:它可能导致更致命的大流行!双林奇案录第三部之天禅寺:第十四节《人类简史》作者最新演讲:人工智能对我们的操控,可能比你想的更严重突爆!人工智能开始诈骗人类!最可怕的事发生了!马斯克2023年世界人工智能大会演讲:我相信,中国会有很强的人工智能能力!(附视频&演讲稿)
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。