Redian新闻
>
马斯克呼吁暂停 AI 研究,吴恩达:呼吁无效!潘多拉的魔盒能“安全”打开吗?

马斯克呼吁暂停 AI 研究,吴恩达:呼吁无效!潘多拉的魔盒能“安全”打开吗?

公众号新闻

作者丨宋佳

马斯克等“千人联名”呼吁暂停AI研究事件经过一天发酵后,以吴恩达、田渊栋为代表的AI研究支持派也开始发声,公开反对“千人联名”,一场关于“要不要打开潘多拉魔盒”的论战拉开帷幕,被网友戏称为“三体照进现实?降临派、拯救派和幸存派不是开玩笑的。”这究竟是怎么一回事?



1

暂停or继续

ChatGPT训练引发马斯克、吴恩达论战
事情起因是3月29日美国非营利性组织未来生命研究所(Future of Life Institute)发布的一封公开信,信中呼吁所有人工智能(AI)实验室立即暂停训练比GPT-4更强大的AI系统。
“千人联名”公开信(图片来源于网络截图)
半年前,ChatGPT的发布推动了AI热潮,不到两个月的时间就有了上亿个月活用户。时至今日,与ChatGPT相关的话题仍旧频繁登上社交媒体热搜榜单,A股市场上ChatGPT概念股板块历经多番涨停潮,百度、阿里、京东、网易等科技公司相继宣布推出或研发对标产品的计划。
就在行业期待通用型AI能够在ChatGPT的热潮中迎来真正落地的时刻,却冒出了呼吁暂停AI训练的公开信,而后特斯拉及推特首席执行官马斯克等上千人在这封公开信中予以了签名,Stability AI CEO、07年图灵奖得主、苹果联合创始人、多位DeepMind工程师也都赫然在列,形成了极具分量的“千人联名”,引发业界关注。
这封公开信表明了对AI潜在风险的担忧:“只有当我们能够确信,AI体系的有利因素都是积极的,且风险都可控,一个强大的AI体系才能成熟。”

吴恩达公开发贴反对“千人联名”(图片来源于推特截图)

很快,吴恩达、田渊栋等一众AI大牛发文公开反对“千人联名”,吴恩达表示,在GPT-4出现之后要求AI训练暂停6个月是很可怕的事情:它(GPT-4)在教育、医疗保健、食品等领域都有很多新的应用,这将帮助许多人。

在吴恩达的帖子下面,Meta数据科学家林致远,英伟达AI研究科学家Jim Fan也都表示赞同,他们认为“6个月暂停令”本身并不是一个非常切实可行的建议,是在扼杀AI进步。



1

双方提到同一关键词“安全”

技术惊人进化引发人类担忧

无论是呼吁暂停研究的“拯救派”还是反对千人联名的“降临派”,仔细分析双方的发言,发现焦点集中在了“安全”:“千人联名”公开信中建议,利用“暂停训练”的这段时间,开发和实施一套共享安全协议,用于高级人工智能设计和开发,并由独立外部专家进行严格审核和监督……人工智能的研究和发展,应该重新聚焦于朝着更准确、安全、可信可解释等的AI系统开发工作上来。吴恩达的帖子中也提到,要提高人工智能的安全性,应该是在安全方面进行更大的投资,有关透明度和审计的规定将更加切实可行。

从双方对AI“安全”的关注可以看出,这轮关于“暂停AI训练”的争议,本质上是人们对于AI技术无序发展的恐惧和不安,这也并非AI发展中第一次引发这样的担忧。2015年,物理学家斯蒂芬·霍金和埃隆·马斯克等数位科学家、企业家,与人工智能领域有关的投资者,就曾联名发出了一封公开信,警告人们必须更多地注意人工智能的安全性及其社会效益。

当年的呼吁并没有阻挡技术前进的步伐,如今AI已经呈现出了更加令人不安的“智能”,以至于很多人担心,AI会不会像科幻作品中描述的那样,可以像人一样自主思考,甚至更全面更智慧,就像《流浪地球2》里的数字生命计划一样,人的智慧逃逸到数字空间之中,那么人类是否还有存在的必要?《人类简史》当中也描绘了未来人类这个物种可能面临的巨变。

清华大学计算机系长聘副教授、北京聆心智能科技有限公司创始人黄民烈表示,AI距离具备科幻作品中呈现的那种自主人格,还相差很远的距离。“通俗来说,AI学习了大量的人类对话数据,而这些对话来自不同的人,所以可以认为AI学习到了一个‘平均’的人格,但也仅仅是语言说话风格,而且是来自人类的说话风格,并不是AI自发形成的。”
但是,科学的确存在伦理风险,尤其是人类对AI的情感依赖越来越多的情况下,黄民烈教授举例:假想某个受到生活严重打击的人,对AI说:“我想找个桥跳下去”,AI立刻提供了附近桥的位置并导航路径,后果细思恐极。
“千人联名”事件前后发生的一次自杀事件似乎印证了这种担忧,一名化名为皮埃尔的比利时男子在与一个名为“艾丽莎”的智能聊天机器人频繁聊天六周后自杀身亡。“艾丽莎”由美国硅谷一家初创公司开发,背后由GPT-J支撑,与ChatGPT采用OpenAI开发的GPT-3或GPT-4为竞争关系。
ChatGPT的开发公司OpenAI也曾在GPT-4技术报告中描述了一些可预见的,与偏见、虚假信息、过度依赖、隐私、网络安全等相关的风险——ChatGPT“胡言乱语”的问题始终没有得到有效解决,其因此备受诟病。



3

用魔法打败魔法

用技术规范技术
由此看来,暂停AI研究的确不切实际,借用Meta FAIR研究院研究员/高级经理、CMU机器人系博士田渊栋对AI发展的描述来说:一旦开始,就没有办法停止或扭转这一趋势,这就是进化的必然。
但这不意味着人类对可能存在的伦理安全问题“束手无策”,ChatGPT这类生成式AI是通过范例学习的,他们的行为是可以规范的,应该鼓励合规的机构去发展AI,用合法AI去对抗非法AI,而不是停滞不前。
事实上,AI飞速向前发展的同时,有关AI安全的技术也从未止步。前不久,微软在其首届Microsoft Secure活动中发布了一款生成式AI安全产品Security Copilot,把AI技术应用到了网络安全领域。该产品由OpenAI的大型语言模型GPT-4和微软自家的安全模型提供支持,在微软云服务Azure上运行,用以帮助更快、更准确地检测和响应安全威胁。
在更早的2021年,微软就成立了安全、合规、身份与管理部门来应对日益加剧的网络安全挑战。2022年,网络安全业务为微软带来了超200亿美元的营收。微软曾称,未来五年间将不断加大对网络安全业务的投入,预计将在客户安全保护方面投入近200亿美元。
国内在AI安全方面的相关成果也正在出现,例如,3月聆心智能联合清华大学CoAI实验室历经两年建立的大模型安全评估框架正式发布,对ChatGPT的安全设计所不能规避的风险问题形成了更全面的补充,建立了大模型安全分类体系,设置了八大不安全的对话场景,包括政治敏感、犯罪违法、身体健康、心理健康、财产隐私、歧视/偏见、辱骂/仇恨言论、伦理道德,并针对以上八大不安全场景对大模型进行针对性升级,使模型能够在遇到安全问题时给予正确的回复策略,不去做判断和误导。
此外,研究团队还收集和构造了相应的hard case(更难识别和处理的安全测试用例),总结和设计了六种一般模型难以处理的安全攻击方式,称为指令攻击。使安全体系更加完善,进一步改进和优化模型表现。
据了解,早在去年7月,黄民烈教授就在媒体报道中表现出了对AI安全的关注,他表示,“AI对话系统下一阶段发展的重点是更有伦理、更道德、更安全。我们可以通过额外的资源、规则、检测手段赋予AI这样的能力,使风险降至最低。”



4

“潘多拉的魔盒”难以逆转

极拥抱AI for Social good

在科技发展的宏伟历史中,任何一项新兴技术的出现往往会引起人们对未知的恐惧,那些能够引起社会巨大变革的技术总是被比喻为“潘多拉的魔盒”,可能是引发灾难的根源,但是别忘了除了欲望与罪恶,盒子中也藏着希望。并且,“潘多拉的魔盒”一旦打开,很难扭转这一趋势,我们应该做的是规避不幸,释放希望。
就像当前急速发展的AI技术,暂停研究的呼吁是为了促进AI技术建立较高的道德标准和伦理规范,确保AI技术的应用不会对个人和社会造成潜在的危害。但应该看到,AI技术的发展是人类社会前进的必经之路,比起暂停进步,更应该做的是理解AI,适应它并利用其力量,同时建立起安全可信的框架规范其发展,确保其在促进人类社会发展的轨道上不偏航。
发展AI最终的目标是为人类谋福祉,而不是伤害人类,期待AI for Social good(AI赋能社会)尽快到来,为人类社会发展带来更高的社会意义和价值。

更多内容,点击下方关注:

未经「AI科技评论」授权,严禁以任何方式在网页、论坛、社区进行转载!


公众号转载请先在「AI科技评论」后台留言取得授权,转载时需标注来源并插入本公众号名片。

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
“心机boy”马斯克:明面上呼吁暂停先进AI研发,背地里悄悄买1万块GPU推进大模型项目[预约] 为何马斯克呼吁暂停开发人工智能?超百万 B 端月活用户,ZMO.AI 用 AIGC 打开营销的潘多拉魔盒|GGV Family呼吁暂停 GTP-4 研究后,马斯克购买 1 万个 GPU 加入 AI 大战,是在打脸吗?我国短视频用户规模达10.12亿;货拉拉向港交所提交上市申请;马斯克等千名科技人士呼吁暂停更强AI开发……GPT-5不能停!吴恩达和LeCun直播回怼马斯克:汽车都还没发明,要什么安全带...是普罗米修斯火种,还是潘多拉魔盒?连OpenAI CEO都对AI的快速发展“有些害怕”今日财经 | 马斯克呼吁暂停人工智能开发; 上海楼盘出现“一日夫妻”买房; 美媒称电动车电池领域中国是“唯一赢家”“把实验停下来”!马斯克等千名科技人员签署公开信:呼吁暂停巨型AI实验生活的故事GPT-5恐被叫停!马斯克、图灵奖得主等千名专家呼吁暂停超强AI研发,至少6个月张艺谋21岁私生子越来越像巩俐?与巩俐相恋8年,娶小31岁娇妻生三胎AI太强,人类危险?马斯克、图灵奖得主紧急呼吁暂停GPT-4模型后续研发马斯克呼吁暂停AI开发是“打嘴炮”?恐危及人类社会,马斯克与AI专家连署公开信 吁暂停训练强大AI呼吁暂停AI研究?马斯克转身大手笔购进1万个GPU,真实意图遭曝光!多次痛斥OpenAI,背后竟藏着一段爱恨情仇……会不会是习近平报复特朗普把病毒带到全世界,然后特朗普连任没戏。习近平报复拜登用气球进入美国,然后拜登连任也没戏呢?马斯克不讲武德:一边公开呼吁暂停AI研究,一边偷偷开发“AI版微信”?说一套做一套?马斯克公开呼吁暂停AI开发后,竟又要加入战局GPT-5不能停!吴恩达田渊栋反对千人联名,OpenAI CEO也发声了被央视“3·15”点名,景区回应“安全带不安全”:暂不考虑整改,6年没任何意外,当地通报:下达停业整顿通知吴恩达给ChatGPT泼冷水/ 罗永浩谈欠薪/ 谷歌元老离职... 今日更多新鲜事在此超百万 B 端月活用户,ZMO.AI 用 AIGC 打开营销的潘多拉魔盒26岁外卖员与12岁女生发生6次性联系,获刑四年6个月“AI可能杀死人类!” 1000多名硅谷企业家科学家联名呼吁暂停大型AI研究我的“上班简史”GPT-5 不能停!吴恩达 LeCun 直播回怼马斯克:汽车都还没发明,要什么安全带潘多拉的魔盒已经打开,回不去了马斯克等为何呼吁暂停GPT-5训练?AI已成中美战略竞争制高点!中国需从九方面紧急应对!马斯克呼吁停止AI开发!芯片巨头不买账,打响AI争霸战!太可怕!潘多拉魔盒打开?微软ChatGPT疯狂示爱,诱导用户离开妻子!更写了假新闻骗了杭州!马斯克:该关了它!硬核观察 #955 马斯克等人呼吁暂停训练更强大的 AI暂停GPT-5研发呼吁引激战!吴恩达、LeCun带头反对,Bengio站队支持为何不能暂停 AI 研发?杨立昆、吴恩达对话实录马斯克等人呼吁暂停AI研发;专家称60岁退休反而是浪费;茅台推出酒瓶装冰淇淋;理想回应雷达在陵园内显示人影...
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。