350名专家警告:人工智能可能灭绝人类!
发布这封公开信的机构名叫Center for AI Safety(CAIS),是一家关于AI安全的非营利组织。在这封公开信的开头,CAIS反复强调:包括AI专家、记者、政策制定者和公众在内,越来越多的人开始讨论AI带来的一系列重要和紧迫的风险。即便如此,要想表达对先进AI的严重风险,可能还是有一定难度。这封公开信旨在克服这一障碍,并展开对相关议题的讨论,让更多专家和公众人物认识到这一点。
事实上,这并不是业界首次出于对AI的担忧而提出联合倡议。据此前报道,包括特斯拉创始人马斯克、苹果联合创始人沃兹尼亚克等也曾在一封公开信里警告,呼吁人类暂停开发更强大的人工智能,为时至少6个月。而被称为“AI教父”的杰弗里已经从其工作多年的谷歌离职,并开始畅谈AI所带来的风险。
(Geoffrey Hinton)
在过去几年里,AI 技术经历了飞速的发展,极大地推动了行业的创新和进步。从去年年底开始,生成式 AI 开始狂飙,正以天为单位迭代,在这个快速发展的行业中,ChatGPT、多模态、大模型等 AI 技术不断涌现,AIGC 已成为科技巨头们逐鹿的新战场。
5月10日的Google I/O 2023上,谷歌亮出了人工智能(AI)领域开发的最新成果PaLM 2,谷歌声称它在部分任务超越GPT-4。Bard能力大更新,不用再排队等候,并支持新语言。谷歌版AI办公助手也一并推出,将在Gmail中抢先亮相。谷歌云也上线多个基础大模型,为行业提供更进一步的生成式AI服务。这场发布会结束后,谷歌股价也立刻上涨超4%。据悉,PaLM 2接受了100多种语言的训练,甚至还通过了“精通”级别的高级语言能力考试,PaLM 2 的日语水平达到了 A 级,法语水平达到了 C1 级。不仅如此,PaLM 2 还了解重要的语言细微差别,这使得它在语言理解、生成和翻译上的能力更强,并且会更加擅长常识推理、数学逻辑分析。
5月24日,微软召开Build全球开发者大会。在全面拥抱人工智能后,微软在此次开发者大会的主题演讲中,宣布了旗下多项业务接入人工智能。就在今年2月,微软就宣布推出了全新的人工智能 Bing 搜索引擎和 Edge 浏览器,以改变传统搜索。微软在开发者大会上宣布,必应将成为ChatGPT内置的搜索引擎、与OpenAI共建统一AI插件平台,以及扩展必应聊天机器人在微软Copilots产品线上的广泛应用。
5月30日,英伟达股价站上419美元的高位,市值一度登顶1万亿美元,与苹果、微软、谷歌等一并跻身万亿美元俱乐部行列。随着微软、谷歌硅谷等科技巨头在AI竞赛中激烈地角逐,势必对用GPU训练AI的需求极速增长。在算力需求激增的同时,英伟达的GPU几乎成为了唯一的硬通货。英伟达一季度财报中,最亮眼的成绩便是数据中心业务。英伟达的A100/H100等高性能 AI 计算卡,是目前研发大模型的科技巨头们竞相追捧的关键算力资源。
谷歌和微软作为两大巨头,通过在AI领域的竞争和创新,正在改变应用的格局。无论是谷歌的Google I/O开发者大会还是微软的与OpenAI的合作,都展示了它们在人工智能和机器学习领域的重要进展。随着AI技术的不断演进和应用的扩大,我们或许可以期待更多令人惊喜的AI成果和应用场景的出现。
人工智能具有与人类竞争的智能,这可能给社会和人类带来深刻的风险,这已经通过大量研究得到证实,并得到了顶级AI实验室的认可。正如广泛认可的阿西洛马尔人工智能原则(Asilomar AI Principles)所指出的,先进的 AI 可能代表地球生命历史上的重大变革,因此应该以相应的关注和资源进行规划和管理。
不幸的是,即使在最近几个月,AI 实验室在开发和部署越来越强大的数字化思维方面陷入了失控的竞争,而没有人能够理解、预测或可靠地控制这些数字化思维,即使是它们的创造者也无法做到这一点。
现代 AI 系统现在已经在通用任务方面具有与人类竞争的能力,我们必须问自己:
[1]https://www.safe.ai/statement-on-ai-risk
[2]https://www.nytimes.com/2023/05/30/technology/ai-threat-warning.html?smtyp=cur&smid=tw-nytimes
[3]https://twitter.com/AndrewYNg/status/1663584330751561735
[4]https://www.reddit.com/r/MachineLearning/comments/13vls63/n_hinton_bengio_and_other_ai_experts_sign/
|点击关注我们 👇 记得星标|
硅谷高创会2023年企业家全球出海商务考察详细安排及背景介绍请点击蓝字链接查看:
1、硅谷高创会企业家全球出海商务考察第68期—美国行(巴菲特股东大会考察团)精彩回顾
2、硅谷高创会企业家全球出海商务考察第69期—德国行(柏林IFA电子展+智能制造)火热招募中
3、硅谷高创会企业家全球出海商务考察第70期—美国行(硅谷、波士顿、纽约)正在火热招募
为充分满足各地、各层次企业海外商务考察需求,硅谷高创会正在招募城市合伙人/合作伙伴,通过与合伙人达成的全方位、多层次的合作,为各地企业提供持续深化且个性化的商务考察服务,实现共赢。若想成为城市合伙人,请扫码联系小助手,备注【合伙人】具体咨询。
微信扫码关注该文公众号作者