立即暂停训练更强大的AI！马斯克等超2300人签署联名信，科技大佬在担心什么；74页起诉书起底赵长鹏在美往事 |一周国际财经

公众号新闻

2023-04-02 00:04

3月29日，马斯克与上千名业内人士联名发表了一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统。这一呼吁得到了不少关注与回应，截至当地时间3月31日，已有超2300人签名。仅3天时间，签名人数已翻倍。

据路透社3月31日报道，OpenAI已在意大利下线ChatGPT，此前意大利数据保护局Garante在同日暂时禁止了该聊天机器人，并对其涉嫌违反隐私规则展开了调查。

《每日经济新闻》连线签署公开信的马萨诸塞大学洛厄尔分校计算机科学教授Jie Wang、纽约大学知名AI专家Gary Marcus，以及美国人工智能协会前主席Thomas Dietterich进行解读。

此外，全球最大加密货币公司币安创始人赵长鹏在美国被起诉，起诉文书长达74页。随着比特币价格的暴跌，“前华人首富”赵长鹏的身家已从900亿美元跌至304亿美元，跌近7成。“一周人物”带你探寻“前华人首富”往事。

马斯克与上千大佬呼吁暂停超强AI研发

意大利已率先禁止ChatGPT!

GPT-4的东风刮得正猛，打工人正为饭碗瑟瑟发抖，科技大佬则对AI风险感到愈发担忧。3月29日，上千名业内人士联名发表了一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统，为期至少6个月，以确保人类能够有效管理其风险。意大利率先禁止ChatGPT，OpenAI已将ChatGPT从该国下线。

超2300人已签名！签名人数3天翻倍意大利率先禁止GhatGPT

这封联名信可谓众星云集，签名的包括埃隆•马斯克，图灵奖得主、深度学习三巨头之一Yoshua Bengio，苹果联合创始人Steve Wozniak，纽约大学知名AI专家Gary Marcus，以及《人类简史》作者Yuval Noah Harari等。《每日经济新闻》记者注意到，不到3天时间，签名人数翻倍。截至当地时间3月31日，已有超2300人签名。

联名信的出现之后，也让AI风险受到大范围的主流关注。3月31日，意大利个人数据保护局宣布，从即日起禁止使用聊天机器人ChatGPT，并限制开发这一平台的OpenAI公司处理意大利用户信息，同时个人数据保护局开始立案调查。

该机构表示，3月20日ChatGPT平台出现了用户对话数据和付款服务支付信息丢失情况，平台没有就收集处理用户信息进行告知，缺乏大量收集和存储个人信息的法律依据。OpenAI公司必须在20天内通过其在欧洲的代表，向意大利个人数据保护局通报公司执行保护局要求而采取的措施，否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。

马萨诸塞大学洛厄尔分校计算机科学教授Jie Wang支持并签署了前述公开信。他在接受《每日经济新闻》采访时表示，“我们需要一种更具包容性和民主性的AI研究方法，以使AI技术的开发和使用符合社会价值观，而不是仅仅取决于开发人员自己的判断力。”

不过，机器学习领域的奠基人之一、美国人工智能协会前主席Thomas Dietterich极力反对这封信，认为夸大了AI技术的风险。但Dietterich告诉每经记者，他认可其带来的犯罪风险问题，并认为AI应用程序在部署之前都应该进行风险分析和管控。

科技大佬们在担心什么？

前述公开信表示，大量研究表明，得到顶级AI实验室的认可、具有和人类竞争智能的AI系统，可能对社会和人类构成4种深远的风险：假新闻和宣传充斥信息渠道、大量工作被自动化取代、AI甚至有一天会比人类更聪明、更强大，让我们失去对人类文明的掌控。

然而，各大AI实验室为了开发和应用更加强大的AI，最近几个月已经陷入了“失控”的竞赛，甚至连AI系统的创始人也并不能完全理解、预测和有效控制其风险，相应的计划和管理工作没有跟上。

只有当人类确信，AI的影响是积极的、风险是可控的时候，才应该开发强大的AI系统。因此他们呼吁，所有AI实验室立即暂停训练比GPT-4更强大的AI系统，至少6个月。

Gary Marcus是签名的一员，他是纽约大学的荣誉教授，也是美国非常知名的AI研究专家。在推特上，Marcus非常活跃，经常与马斯克等人互动。自ChatGPT发布以来，以他与图灵奖得主、Meta首席AI科学家Yann LeCun为首，常发表反对ChatGPT的言论，认为大型语言模型（LLM）将带来诸多风险。

在通过邮件发给《每日经济新闻》记者的一篇文章中，Marcus分享了关于这封信的看法，“这封信的确并不完美，但许多批评被误导了。”他不断强调，这封信没有要求禁止AI，也没有要求禁止GPT-4，它也并没有要求禁止绝大多数AI研究，只是暂停了一个非常具体的项目，该项目使用的技术具有已知风险且没有解决方案。

Jie Wang告诉记者，这封信的目的是呼吁在AI系统的开发和部署中提高透明度和问责制，并在围绕这些技术的决策中加强公众投入和监督。

尽管有上千名大佬背书，这封信还是引发了舆论上的争端。例如，虽然在声讨ChatGPT上和Marcus站在同一阵线，但Yann LeCun却并没有参与签署这封公开信。他在推特上表示，“我不同意这个前提。”

在图灵奖“三巨头”中，对于此事的观点也并不一致：Yoshua Bengio带头签名，Yann LeCun强烈反对，还有一位被称为“AI教父”的Geoffrey Hinton并未公开发表看法。每经记者向三位得奖者均发送了置评邮件，Bengio拒绝评论，剩下两位则并未回复。

Dietterich在接受每经记者采访时也表示，“我反对这封信，它夸大了AI技术的风险，并建议停止训练新的、更强大的模型，这不太可能解决他们声称存在的任何风险。”

分歧：AI真的会消灭人类吗？

从ChatGPT横空出世以来，科技巨头争红了眼。OpenAI、微软、谷歌隔三差五就发布一个新产品，令大众目不暇接。科技高光之下，关于AI的风险并未受到大范围的主流关注——直到这封联名信的出现。

在近期，OpenAI的首席执行官Sam Altman也有了一些耐人寻味的表达。他表示，未来，AI确实可能杀死人类。而有如此石破天惊言论的并非Sam Altman一人，一向深居简出的Geoffrey Hinton在近期也发出了警示：AI消灭人类并非空谈。

几天前，Marcus在推特上转发了Hinton的采访。但有人立即质疑：“这会不会造成对即将到来的通用AI（AGI）的无端恐惧？”

图片来源：推特截图

Marcus解释，他现在并不担心所谓的AGI风险，他担心的是Bing和GPT-4广泛部署后带来的风险，因为其存在明显的错误和不可靠倾向。现在这些工具广为人知，并越来越多地被允许进入外部世界，可能被犯罪分子利用造成更大的破坏。

在LLM的帮助下，包藏祸心的人可以更快、更真实地进行网络钓鱼和在线欺诈，并可以将其用于处理恐怖主义、宣传和虚假信息等，例如恐怖主义融资或匿名文件共享。Marcus甚至还描绘了一些更恐怖的场景，“再加上AI的大规模宣传，LLM导致的恐怖主义可能反过来引发核战争，更大范围的病毒传播等。”

Jie Wang表示，“我不担心AI模型能够像人类一样处理语言或像人类一样思考。相反，AI模型做这些事情是一件好事。但我们需要确保AI模型能够准确地完成这些事情。换句话说，我们需要让AI只做我们期望它们做的事情。”

“我担心的是，AI模型可能会影响人们的思维方式并指导他们的行为方式。”他向记者解释，“假如真的有一天，人类由于受AI模型的影响，逐渐接受了AI模型给出的答案和表达方式是标准，那么人类的思想和行事方式就在不经意中被机器控制了。这封公开信的目的就是为了防止这个走向或其他目前还不知道的更危险的事情的发生。”

Jie Wang也描绘了一个更可怕的场景，如果开发或使用不当，与人类竞争的AI有可能超越人类。“当用户接受它的答案时，ChatGPT可能会在未来将其视为真理，渐渐地可能会建立自己的认知。如果通过基于ChatGPT构建的教育平台教导学生学习，那么他们可能会被训练成像 ChatGPT 一样思考。当这种情况发生时，我会认为ChatGPT已经超越了（学生的）思想。这很可怕。”

作为反对者，Dietterich的意见有一些相左。对于联名信中提出的4大风险， Dietterich认为只有“假新闻和宣传充斥信息渠道”是真实的。“毫无疑问，这些生成式AI工具将增加这种信息洪流，使用现有方法来过滤信息也变得更加困难。但这些工具也可能为我们提供改进的方法，因为新工具可以更好地理解信息。”

对于大众担心的工作被替代，Dietterich认为，一项新技术很少能使一项工作的所有方面都实现自动化，相反，它会使工作的某一部分得到简化和改进。至于AI超越人类、让人类失去对文明的掌控，Dietterich称其是“来自科幻小说”的无稽之谈：“（LLM）只有基本的推理能力，并输出许多错误和自相矛盾的陈述。计算机并不会与我们争夺食物、水或空气。”他认为，事实上新的AI技术正在提高我们记录文明并将传承给下一代的能力。

不过，Dietterich也承认，“每一个现存的金融骗局都是人类被愚弄的案例，新技术可能会加剧这个问题。但与此同时，新技术也可以帮助检测欺诈。”

共识：监管应用而不是监管技术本身

尽管科学界对于AI风险的定义不尽相同，但监管和控制是所有人共同的诉求。联名信要求，在这6个月内，所有AI实验室和独立学者都应该合力开发一套共享安全协议。协议完成后，应该由独立的外部专家进行严格的审计和监督。协议必须确保这些AI系统的安全。同时，开发者必须与政策制定者合作，加快开发强大的AI管理系统。

Jie Wang向记者谈到了政府可以扮演的具体角色，“例如，在美国，国会应该与学术界和工业界合作，在制定开发AI系统的相关法律方面发挥积极作用。政府机构应通过制定政策、法规和标准来监督AI的发展是否符合法律。其他国家也应采取类似措施。”

在Dietterich看来，“AI的每个应用程序在部署之前都应该进行风险分析。政府不应试图监管技术本身，而应监管由此产生的危害，例如金融欺诈、侵犯隐私、盗窃知识产权。随着威胁的变化，法律也需要更新。” “我强烈支持限制AI合成消息（包括电子邮件、广告和社交媒体帖子）的法律法规，我支持研发以创建可用的认证基础设施。”

在Dietterich看来，任何一个组织、公司或政府控制该技术都是危险的，与许多业界大佬一样，他对OpenAI的开源性提出了质疑。“（AI技术）应该对所有人广泛可用，我对OpenAI很少发布关于其最新模型GPT-4的信息感到不满，这一决定似乎主要是关于业务优势，而不是对技术风险的关注。我希望他们公开架构、训练数据和大小。”

在联名信发出后，Yann LeCun也在推特上暗示了没有签名的理由，他转发了一位网友的推文——“OpenAI足足等了6个月，才发布了GPT4！他们甚至为此还写了一份白皮书”，并表示：“说得对，所谓暂停研发，不过就是秘密研发罢了，这与一些签名者所希望的恰恰完全相反。”

图片来源：推特截图

赵长鹏在美国被起诉

74页文书起底“前华人首富”往事

900亿美元身价暴跌近7成

当地时间3月27日，美国商品期货委员会（CFTC）指控币安及其创始人赵长鹏故意逃避联邦法律并经营非法数字资产衍生品交易所。在长达74页的起诉书中，CFTC详述了赵长鹏和币安在美国的违法事宜，希望没收币安的非法所得、进行罚款，并永久禁止其在美国的注册和交易。

币安是全球最大的加密货币交易平台，该公司官网显示，币安拥有1.2亿用户，24小时的交易量达到380亿美元。其创始人赵长鹏，则是昔日的“华人首富”。

1977年，赵长鹏出生在江苏连云港，后移民加拿大，在蒙特利尔的麦吉尔大学完成了计算机科学学位。他的商业生涯始于2005年，当时他放弃了彭博社Tradebook期货研发团队负责人的职位，回到中国创办了一家IT公司。

2014年，赵长鹏踏足加密货币领域，卖掉了上海的房子，全仓投入比特币。到2017年，赵长鹏在上海创办了币安。但由于监管因素，他再次离开了中国。令人惊奇的是，不出几月，币安便成为了全球最大的数字货币交易所。

2021年，币安估值达到925亿美元，跻身私有科技企业的领先阵营，一度与字节跳动、Stripe、SpaceX并驾齐驱。据华尔街日报，币安2021年的日交易额达到了760亿美元，通过收取手续费、上币费、服务费等，赚得盆满钵满。

凭借其惊人的成就和白手起家的神话，赵长鹏在2018年就登上福布斯封面。2021年，赵长鹏以超过900亿美元的身价成为华人首富。

但高光过后，低潮也来了。比特币价格的跳水也导致赵长鹏身价缩水，到2022年12月，其净资产从3月的650亿美元降至45亿美元。截至发稿，赵长鹏身价为304亿美元，在全球位列第41名。

紧接着就是被美国政府盯上了。CFTC的起诉书称，早在2019年7月之前，币安就进入了美国市场，向美国用户提供数字货币交易服务。由于没有获得经营许可，币安的这一市场行为不符合美国法律。

CFTC委员在一份声明中写道，赵长鹏曾表示币安的总部位于他自己所在的位置，这是在有意规避当地监管，不符合《美国商品交易法》以及世界上很多地区的司法规定。

事实上，很少有人知道赵长鹏在哪里，他很少购置房产、车辆，认为这些资产与数字货币相比不具有流动性。2021年11月，华尔街日报曾提到，疫情的两年时间里，他一直在新加坡，时常骑一辆电动滑板车去上班。2021年底，赵长鹏在迪拜购置了一栋公寓，外界一度认为币安可能会将全球总部落在迪拜。

实际上，这不是币安第一次遭到美国监管部门的调查。据路透社报道，早在2022年12月，币安已经因涉嫌违反刑事制裁和洗钱而受到美国司法部的调查。今年2月，币安首席战略官Patrick Hillmann表示，他们预计将会支付罚款来与美国监管部门和司法部门进行和解。

马斯克谈去美元化：问题很严重

图片来源：推特截图

近期，“去美元化”在国际舆论上的一个热门话题，有观点认为，美元正在失去国际储备货币的地位。

埃隆·马斯克3月30日在推特上分享了他对这个问题的看法。他称：“这是严重的问题，美国的政策过于强硬，使其他国家都想抛弃美元。”马斯克还补充称，“再加上（美国）政府开支过大，这迫使其他国家承受我们的很大一部分通货膨胀”。

当地时间 3月31日，巴西央据央视新闻，行发布的一份报告显示，人民币已取代欧元，成了巴西外汇储备中第二重要的货币。

律师：特朗普或将自首下周二接受传讯

当地时间3月30日，美国纽约曼哈顿大陪审团当天投票决定，就美国前总统特朗普涉嫌在2016年竞选期间向艳星丹尼尔斯支付“封口费”并伪造商业记录一事起诉特朗普。特朗普将成为第一位面临刑事指控的美国前总统。当日晚间，美国纽约州曼哈顿地区检察官办公室证实了这一消息。

特朗普发表声明称，这是“历史上最高级别的政治迫害和选举干预（行为）”。据特朗普律师的最新回复，预计特朗普将于下周初向曼哈顿地区检察官办公室自首，并在下周二（4月4日）接受传讯。

美国克里斯多夫纽波特大学政治科学系助理教授孙太一此前在接受《每日经济新闻》记者采访时表示，对特朗普早该推进的司法进程现在才宣布，明显带有政治因素，“特朗普在司法上即便受到重大打击，可能也无法动摇其基本盘。”

美国银行业去年投资浮亏6200亿美元

据彭博社4月1日援引美国联邦存款保险公司（FDIC）的四季度和去年年度数据称，截至去年末，美国银行业投资低收益债券的账面未实现亏损合计约6200亿美元。

投资长期债券巨额浮亏是硅谷银行倒闭的原因之一。整个美国银行业其实也面临这一问题。只不过对大多数银行而言，这种投资浮亏的问题还在可控范围。截至去年12月，整个银行系统资产合计23.6万亿美元，银行账面的债券投资总额占比不到四分之一。

而且，不同于客户集中度极高且依赖不稳定存款的硅谷银行，提供贷款的银行通常有范围广泛的储户，他们不可能同时都需要取款。对大而不能倒的系统重要性银行来说，这类风险更小。但是，虽然他们能撑过账面损失，当在未来数年，这些银行都面临流动性紧张的问题。

当地时间3月30日，曾精准预测雷曼兄弟倒闭和瑞信爆雷的华尔街金融家、《穷爸爸，富爸爸》作者罗伯特·清崎再次发声警告，称日本央行可能是下一个倒下的全球超级大行。

俄乌冲突已爆发400天

核危机阴云笼罩欧陆

图片来源：央视新闻截图

截至3月30日，俄乌冲突已持续400天，双方均未取得明显进展，乌东部城市巴赫穆特仍然是冲突焦点，该城镇和周边地区不断受到轰炸。与此同时，俄乌两军在乌克兰扎波罗热核电站及周边地区的战事也不断升级，国际原子能机构总干事对此警告称当地局势危急，希望俄乌早日就有关核电站安全保护的事宜达成一致。

据央视新闻，美国五角大楼发言人帕特里克·赖德同日表示，65名乌克兰防空部队人员已结束在美国俄克拉何马州锡尔堡的“爱国者”防空导弹系统操作培训，回到欧洲。自去年俄乌冲突升级以来，美国已向7000多名乌克兰士兵提供军事培训。

俄罗斯卫星通讯社，北约副秘书长米尔恰·杰瓦讷30日表示，北约盟国过去一年累计向乌克兰提供价值超过1500亿欧元的财政、军事等各种支持。其中，军事支持达到650亿欧元，约合人民币4900亿元。这种 “拱火浇油”的做法在美国内部表达不满和批评。

迪士尼启动裁员三部曲

3轮共裁7000多人漫威董事长也被炒了

图片来源：每经记者祝裕摄

据《华尔街日报》，当地时间27日，美国迪士尼公司首席执行官艾格表示，7000人的裁员计划将分成三轮进行，第一轮当天启动，首批被裁的员工将在接下来的四天内收到通知。第二轮裁员将于4月份实施，涉及人数会比第一轮更多。第三轮裁员，预计将在春末夏初完成。另据知情人士透露，迪士尼的主题乐园和度假村等部门员工，将是重点裁员对象。

而主要负责元宇宙项目的部门，全部约50名员工都将被裁掉。统计数据显示，迪士尼目前在全球有约22万名员工，这次裁员人数约占员工总数的3%。另外，据美媒综合报道，漫威影业董事长威娱乐董事长艾萨克·珀尔马特(Isaac Ike Perlmutter)已遭到辞退。

记者|文巧李孟林谭玉涵

编辑|谭玉涵卢祥勇杜恒峰

校对|何小桃

｜每日经济新闻 nbdnews 原创文章｜

未经许可禁止转载、摘编、复制及镜像等使用

如需转载请向本公众号后台申请并获得授权

【大盘震荡，结构行情机会凸显！报名倒计时，参赛挑战更高收益率！】每日经济新闻APP举办的掘金投资大赛第七期正式赛从本周一开赛以来，大盘持续震荡，结构行情机会凸显。各位高手的操作让人大开眼界，精彩不断上演！比如半程冠军“每经网友34432”，在周三成为第一后持续领先，周五又及时调仓人工智能，收益率再次攀升！各路高手抓住震荡行情中的结构投资机会，交易手感保持火热！现在报名进入倒计时，下载安装每日经济新闻APP报名参赛，一起挑战更高的收益率！

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章