Redian新闻
>
突发!ChatGPT之父警告 AI可能灭绝人类,350名AI权威签署联名公开信

突发!ChatGPT之父警告 AI可能灭绝人类,350名AI权威签署联名公开信

公众号新闻
就在刚刚,AI 领域传出一封重要的公开信。
包括 「ChatGPT 之父」Sam Altman 在内 350 位 AI 权威都签署了这封联名公开信,并对当前正在开发的 AI 技术可能会对人类构成生存威胁担忧。
这封信只有一句声明:
降低人工智能灭绝的风险,应该与其它社会规模的风险(如大流行病和核战争)一样,成为全球的优先事项。
加入公开信签名🔗
 https://www.safe.ai/statement-on-ai-risk
签署人包括三个领先的 AI 公司高管:
OpenAI 首席执行官 Sam Altman;
Google DeepMind 首席执行官 Demis Hassabis;
Anthropic 的首席执行官 Dario Amodei;
更重要的是,名单里还有 Geoffrey Hinton 和 Yoshua Bengio 两位人工智能的「教父」。
超过 350 名从事人工智能工作的高管、研究人员和工程师签署了这份由非盈利组织人工智能安全中心发布的公开信,认为人工智能具备可能导致人类灭绝的风险,应当将其视为与流行病和核战争同等的社会风险。
如今人们越来越担心 ChatGPT 等人工智能模型的发展可能对社会和就业带来的潜在威胁,很多人呼吁针对 AI 行业进行更强力的监管,否则它将对社会造成不可挽回的破坏。
AI 不断狂飙,但相关的监管、审计手段却迟迟没有跟上,这也意味着没有人能够保证 AI 工具以及使用 AI 工具的过程中的安全性。
在上周,Sam Altman 和另外两位 OpenAI 的高管提出应该建立类似国际原子能机构这样国际组织来安全监管 AI 的发展,他呼吁国际间领先的人工智能制造商应该展开合作,并要求政府强化对尖端人工智能制造商的监管。
其实早在 3 月,就一篇有关叫停 6 个月 AI 研究的公开信火遍了全网。
该信呼吁所有的 AI 实验立即暂停研究比 GPT-4 更先进的 AI 模型,暂停时间至少 6 个月,为的就是把这些可怕的幻想扼杀在摇篮之中。
该联名信已经获得了包括 2018 年图灵奖得主 Yoshua Bengio、马斯克、史蒂夫 · 沃兹尼亚克、Skype 联合创始人、Pinterest 联合创始人、Stability AI CEO 等多位知名人士的签名支持,联名人数超过千人。
公开信的原文如下:
人工智能具有与人类竞争的智能,这可能给社会和人类带来深刻的风险,这已经通过大量研究得到证实,并得到了顶级AI实验室的认可。正如广泛认可的阿西洛马尔人工智能原则(Asilomar AI Principles)所指出的,先进的 AI 可能代表地球生命历史上的重大变革,因此应该以相应的关注和资源进行规划和管理。
不幸的是,即使在最近几个月, AI 实验室在开发和部署越来越强大的数字化思维方面陷入了失控的竞争,而没有人能够理解、预测或可靠地控制这些数字化思维,即使是它们的创造者也无法做到这一点。
现代 AI 系统现在已经在通用任务方面具有与人类竞争的能力,我们必须问自己:

我们应该让机器充斥我们的信息渠道,传播宣传和谎言吗?

我们应该将所有工作都自动化,包括那些令人满足的工作吗?

我们应该发展可能最终超过、取代我们的非人类思维吗?

我们应该冒失控文明的风险吗?
这些决策不应该由非选举产生的科技领导人来负责。只有当我们确信AI系统的影响是积极的,风险是可控的,我们才应该开发强大的AI系统。这种信心必须得到充分的理由,并随着系统潜在影响的增大而增强。OpenAI 最近关于人工智能的声明指出:「在某个时候,可能需要在开始训练未来系统之前获得独立审查,对于最先进的努力,需要同意限制用于创建新模型的计算增长速度。」我们同意。现在就是那个时刻。
因此,我们呼吁所有 AI 实验室立即暂停至少 6 个月的时间,不要训练比 GPT-4 更强大的 AI 系统。这个暂停应该是公开和可验证的,并包括所有关键参与者。如果无法迅速实施这样的暂停,政府应该介入并实行一个暂禁令。
AI 实验室和独立专家应该利用这个暂停时间共同制定和实施一套共享的先进 AI 设计和开发安全协议,这些协议应该由独立的外部专家严格审核和监督。
这些协议应确保遵守它们的系统在合理怀疑范围之外是安全的[4]。这并不意味着暂停 AI 发展,而只是从不断迈向更大、不可预测的黑箱模型及其突现能力的危险竞赛中退一步。
AI 研究和开发应该重点放在提高现有强大、先进系统的准确性、安全性、可解释性、透明度、鲁棒性、对齐、可信度和忠诚度。
与此同时,AI 开发者必须与政策制定者合作,大力加速 AI 治理体系的发展。这些至少应包括:

专门负责 AI 的新的、有能力的监管机构;

对高能力 AI 系统和大型计算能力池的监督和跟踪;

用于区分真实与合成内容、跟踪模型泄漏的溯源和水印系统;

健全的审计和认证生态系统;对 AI 造成的损害承担责任;

技术AI安全研究的充足公共资金;

应对 AI 引起的巨大经济和政治变革(特别是对民主制度的影响)的资深机构。
人类可以在 AI 的帮助下享受繁荣的未来。在成功创造出强大的 AI 系统之后,我们现在可以享受一个「AI 盛夏」,在其中我们收获回报,将这些系统明确地用于造福所有人,并让社会有机会适应。
在面临可能对社会造成灾难性影响的其他技术上,社会已经按下了暂停键[5]。在这里,我们也可以这样做。让我们享受一个漫长的 AI 盛夏,而不是毫无准备地冲向秋天。

Go 野挑战!Apple Watch 上山下海指南|无限画报


黄仁勋最新演讲全文| 英伟达成功的秘密,藏在三个失败故事里



微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
巴黎市长将重修Châtelet 广场以方便行人一周国际财经|马克龙“欧洲战略自主”引论战;ChatGPT之父表态:不存在GPT-5;马斯克抵制AI升级过快,暗地成立公司突然出手!意大利封杀ChatGPT!马斯克也下场呼吁限制ChatGPT!AI发展可能超越人类思维?立即暂停训练更强大的AI!马斯克等超2300人签署联名信,科技大佬在担心什么;74页起诉书起底赵长鹏在美往事 |一周国际财经350位大佬警告,AI可能灭绝人类!写在《朝歌》之前的几句话ChatGPT之父:目前OpenAI不会上市蝶恋花 春色讯花张特派员说梦深度好文|ChatGPT之父说:“其实最顶级的AI人才,都是中国人...”Meta开源多感官AI模型;“ChatGPT之父”推出世界币App;传出门问问赴港IPO丨AIGC大事日报两位心理学大师因一个女病人而分道扬镳警惕AI灭绝人类!OpenAI CEO等350位专业人士签署声明​;大脑的核桃状结构决定了我们的思考和感觉 | 环球科学要闻巨头、专家发联名信:降低 AI 灭绝人类风险;Kindle 本月关闭电子书店;刘慈欣:科幻作家未来被 AI 替代 | 极客早知道ChatGPT老板警告:AI可能灭绝人类AI可能灭绝人类!350位大佬联名警告!但对普通人来说更紧迫的是什么?【城事】巴黎市长将重修Châtelet 广场以方便行人ChatGPT之父再创业!扫描虹膜送“世界币”,以区分人类和AI,靠谱吗?怎么看马斯克联名公开信?专家:人工智能已觉醒,人类还没有《时代》专访ChatGPT之父:人工智能影响经济还需要很多年350余位专家高管联名:AI堪比核战,灭绝人类或灭绝人类?人工智能先驱警告AI将以6种方式伤害人类OpenAI竟诞生于这个饭局!38岁ChatGPT之父还想让两个男人怀上孩子谷歌突失Hinton!深度学习之父警告AI风险,对毕生工作表示遗憾ChatGPT之父:他是“第二个马斯克”还是末日制造者?辽宁龙卷风、​新西兰坐飞机称体重、人工智能可能灭绝人类等丨今日天下“ChatGPT之父”警告AI可能灭绝人类;英伟达发布新型AI芯片GH200|AIGC周观察第四期像核战争一样,AI可能灭绝人类:Geoffrey Hinton、Sam Altman等百名专家签署了一封公开信Sam Altman预警:AI灭绝人类!375+大佬签署22字联名信,LeCun唱反调ChatGPT之父舌战国会山!OpenAI欲与政府联手,权力通天ChatGPT之父将收获IPO:核裂变公司Oklo拟上市 作价8.5亿美元 路演PPT曝光「ChatGPT之母」最新采访:GPT-4离超级智能还很远,半年内不会训练GPT-5ChatGPT之父反驳马斯克/高考生喊话取消调休/刘慈欣也用ChatGPT写稿|灵感周报350名专家警告:人工智能可能灭绝人类!
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。