智能周报｜英伟达市值破万亿，圈内顶流权威联名警告AI风险

2023-06-03 10:06

用一句话来总结本周的智能领域，那就是基础设施从幕后走到台前，政府监管从水下浮出水面。

过去几周，Google、微软、OpenAI等等轮番上阵表演，各自都拿出了堪称杀手级别的产品争奇斗妍来吸引用户。但本周黄仁勋在COMPUTEX大会上一番军备展示后，所有人才发现，原来不论是Google还是微软，背后都站着同一家公司——英伟达，当它说GPU面临短缺，全球的人工智能都要变笨。而OpenAI CEO Sam Altman坦言，当前AI发展的最大瓶颈就是GPU。

AI头上的紧箍咒不只是GPU，还有来自政府的监管。有趣的是，很少有哪个行业像人工智能这样，自己先嚷嚷着“来监管我”。一个合理的推测是，AI或许真的危险到，需要提前作出某种免责声明。5月30日，人工智能圈半数以上的大佬们联名签署了警告信，信中将AI视作与瘟疫和核武器风险等级相同的东西。

讲点轻松的，下周二（6月6日），苹果就要召开它的年度开发者大会了，传言已久的混合现实设备终于要来了。这是过去十年引领着移动互联网浪潮的公司，想看看它在这场最新AI之战中有什么表现，可以关注《第一财经》YiMagzine的最新IP「新皮层NewNewThing」。以下过去一周最值得关注的智能新闻，由该新IP为大家整理，请享用。

撰文：新皮层小组

编辑：王杰夫

Key Points

全球篇

英伟达要为游戏厂商生成（而非设计）游戏角色，市值随后过万亿；

英国政府对AI态度转向，首相苏纳克首提AI风险；

这封联名信汇集了AI圈顶级权威，警告提防AI灭绝人类；

趁着GPU产能紧张，英伟达扶持新的AI云公司；

Google投资AI初创公司Runway，以期从AWS手中抢走云业务。

‍中国篇

时隔3年，Elon Musk再度访华；

小冰首批网红明星「克隆人」已上线；

阿里云AI新产品「通义听悟」启动公测。

全球篇

英伟达要为游戏厂商生成（而非设计）游戏角色，市值随后过万亿

5月29日在台北举办的COMPUTEX大会上，英伟达CEO黄仁勋用长达两个小时的演讲，全面展示了英伟达在AI时代的野心。

他反复提到生成式AI的出现意味人工智能的转折点已经到来，未来社会对于算力的需求将会更加巨大，而英伟达要做的事情就是成为这一切的基础设施。

5月29日的演讲中，黄仁勋宣布GH200 Grace Hopper已经正式投产，这是一个CPU与GPU封装在一起的超级芯片。过去，CPU是核心处理器，GPU是协处理器，而随着GPU逐渐成为AI基础设置，现在需要CPU担任协处理器的角色。

除了硬件外，5月29日，英伟达还推出了一款名为Avatar Cloud Engine (ACE)的游戏角色生成软件。黄仁勋现场演示了一段游戏画面，主角进入到一家赛博朋克风格的拉面店询问老板最近生意如何，而这位老板表示最近不太平，周围有黑帮骚扰。

5月29日的演讲结束后，5月30日，英伟达市值首次超过万亿美元，成为继苹果、微软、亚马逊和Alphabet之后，第5个市值过万亿的公司（Facebook也曾在这个名单上，不过已经滑落很久了）。

（注：此新闻为节选，阅读这场发布会的完整报道，请点击：大公司｜英伟达要用GPU反向整合CPU，还要为游戏厂商生成（而非设计）游戏角色）

英国政府对AI态度转向，首相苏纳克首提AI风险

当地时间5月24日，英国首相苏纳克与OpenAI首席执行官萨姆·阿尔特曼（Sam Altman）、DeepMind首席执行官戴密斯·哈萨比斯（Demis Hassabis）和Anthropic首席执行官达里奥·阿莫代(Dario Amodei)举行会晤。会后，苏纳克首次公开表示AI存在风险，而在此之前英国政府在AI开发上一直展现较为积极且宽松的态度。

英国政府过往对于AI开发的态度都很积极

2022年6月，英国计划调整现有法律，允许“出于任何目的”的挖掘文本和数据，该表态引发了音乐、图书等出版行业人员对于版权的担忧。今年2月，英国政府在广泛的争议中表示将取消该计划。
2023年3月13日，英国政府发布了2023年的《综合评估更新》（Integrated Review Refresh2023，IR23），在“技术与数字承诺”部分，首次提出将建立一个政府—产业工作小组，以提高英国在大模型等AI领域的能力。
3月29日，英国政府发布首份针对人工智能产业监管的白皮书，提出了针对ChatGPT等AI技术治理的五项原则，但未提及具体的监管措施。
4月24日，英国政府宣布为新成立的“基础模型工作组”拨款1亿英镑（约合8.6亿元人民币），资金将用于确保英国的AI主权能力，广泛应用安全可靠的基础模型，帮助英国在2030年成为技术超级大国。

为何出现态度转变？

之前，在AI开发上抢占先机更加重要；但随着越来越多关于AI监管的讨论被搬到台前，当AI监管逐渐成为一种不可避免的趋势时，抢占AI监管的话语权又变得尤为重要。近期英国所在的七国集团（G7）对AI监管也有诸多表态。4月30日，七国集团技术部长共同声明，需要促进负责任地使用ChatGPT等人工智能工具，同意对AI采取“基于风险”的监管措施。

科技巨头从未如此希望被监管，但这其实是他们说给公众听的免责声明。最初是OpenAI CEO萨姆·阿尔特曼在美国国会参与听证会时主动要求政府监管。而上周这些科技巨头的CEO们又一起跑到欧洲与大国政府会谈。在伦敦大学学院（UCL）发表演讲时，阿尔特曼提出AI监管路径应介于“传统欧洲方法”和“传统美国方法”之间，此外，他还呼吁全球各国领导人建立一个类似于国际原子能机构的组织来监管AI的发展。Google CEO桑达尔·皮查伊本周在《金融时报》上指出，针对AI的监管非常必要，但需要平衡创新及其潜在危害。

中国政府对AI的监管动向

4月11日，国家互联网信息办公室正式发布《生成式人工智能服务管理办法（征求意见稿）》，其中指出，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。
5月9日，参照《互联网信息服务深度合成管理规定》等法律法规，抖音推出11条平台规范与行业倡议，要求标识人工智能生成内容、使用虚拟人技术须实名认证等。

总之，越来越多的政府都声称要加强AI监管，但政府监管常常是落后于市场，各国都不希望在制定监管政策时失去话语权，但又不清楚应该如何监管，这个时候提前表明态度总是没错的。

参考链接

https://www.theguardian.com/technology/2023/may/25/no-10-acknowledges-existential-risk-ai-first-time-rishi-sunak

这封联名信汇集了AI圈顶级权威，警告提防AI灭绝人类

5月30日，非营利组织「人工智能安全中心」（Center for AI Safety）在官网发布了一封联名公开信。包括OpenAI、DeepMind、Anthropic等AI企业的首席执行官在内，超过370名AI科学家与公众人物联名签署了这份警告AI灭绝人类风险的声明。

图片来源：官方网站

联名信说了什么？

这封联名信只有一句话：降低人工智能导致的灭绝风险应与其他全球性重大风险（如大型疫情和核战争）一样，成为全球首要关注的问题。

谁签署了这封联名信？

签署人包括公认的深度学习领域先驱Geoffrey Hinton（杰弗里·辛顿）和Yoshua Bengio（约书亚·本吉奥），4家技术领先的AI公司的高管：OpenAI首席执行官Sam Altman（萨姆·阿尔特曼）、DeepMind首席执行官Demis Hassabis（戴密斯·哈撒比斯）、Anthropic首席执行官Dario Amodei(达里奥·阿莫代)、微软首席技术官Kevin Scott（凯文·斯科特）。

此外，中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤，中国科学院自动化研究所人工智能伦理与治理研究中心主任曾毅等人也签署了这份声明。

谁没有签署这封联名信？

Meta副总裁Yann LeCun（杨立昆）是反对者中地位最高的，他在国内AI圈常常与Hinton、Bengio一起被称深度学习三巨头。LeCun对于AI的态度一以贯之，认为应该加快发展AI，让AI更好地帮助人类；而时下AI的智能远远不如人类，甚至比不上狗，谈论AI灭绝人类有些杞人忧天了。

此外，吴恩达也表达了类似的观点，他认为人类面临的生存风险有很多，加快针对AI的研究是寻找解决这些风险的好途径，AI本身不应该成为需要警惕的对象。

不断讨论中的AI治理议题

值得一提的是，自ChatGPT走红以来，AI治理议题不断得到讨论。今年3月，生命未来研究所（Future of Life Institute）曾公布一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。当时Hinton与特斯拉CEO Elon Musk（伊隆·马斯克）等人签署了这封公开信。不过当时，Altman是持反对意见的，他曾回应，称这封公开信遗漏了关于需要暂停的大部分技术细节，可能无法解决AI技术发展带来的安全问题。

但不久前Altman的态度发生了转变，在出席美国国会听证会时他主动要求加强AI监管，在之后访问英国与欧盟的旅途中也多次强调了成立AI监管组织的重要性。

声明地址

https://www.safe.ai/statement-on-ai-risk#open-letter

趁着GPU产能紧张，英伟达扶持新的AI云公司

AI发展热潮下，芯片公司英伟达的业绩突飞猛进。然而，其大客户——包括微软、Google和AWS在内的云计算服务商正在自研AI芯片，以减少对英伟达的依赖。

6月1日，据The information报道，英伟达会为两家云计算服务商CoreWeave和Lambda Labs提供最新的H100GPU。据悉，这两家初创公司没有自制AI芯片的打算。

英伟达这么做意味着什么？

大语言模型的研究需要强大算力支撑，现在行业内GPU严重短缺。半导体研究和咨询公司SemiAnalysis的分析师Dylan Patel指出，微软与OpenAI正消耗大量GPU用于AI推理，光是之前GPT-3的训练便已花费了1万个英伟达GPU。

OpenAI的CEO Sam Altman更是直言，目前OpenAI在GPU方面受到的限制非常严重，以致于很多新计划被迫延迟。大公司还在苦恼芯片短缺，英伟达却向两家初创企业提供最新的H100 GPU，此举无疑是在扶持新的、对自身业务没有威胁的AI云公司。

英伟达为什么要这么做？

英伟达和大客户的关系有些微妙。

为解决算力短缺问题，微软、Google等大公司都在尝试自制芯片，并采用各种方式推广。包括AWS和Google Cloud在内的主要云服务提供商正在敦促客户使用他们自己开发的芯片而不是英伟达的GPU来训练大模型。例如AWS建议一些公司在英伟达GPU短缺时，租用由AWS芯片Trainium提供支持的服务器。

这样看来，英伟达出手扶持初创公司就不难理解了。尽管目前英伟达是「AI算力王者」，一旦AI云市场被Google、AWS垄断，它们就有可能用自制芯片替代英伟达。

这些公司都在做自己的AI芯片

微软：Athena、Cascade，预计2024年发布。
Google：Tensor（TPU），2017年发布；Maple、Cypress，预计2025年发布。
AWS：Graviton，2018年发布；Inferentia，2019年发布；Trainium，2022年发布。
Meta：MTIA，预计2025年发布。

参考链接

https://www.theinformation.com/articles/why-nvidia-aids-cloud-rivals-of-aws-

google-and-microsoft?rc=sjcmfl

Google投资AI初创公司Runway，以期从AWS手中抢走云业务

5月31日，The Information援引知情人士消息称，Google正在投资AI初创公司Runway，后者的估值约为15亿美元。Runway的AI技术可以将文本生成为视频，并且已在电影《瞬息全宇宙》等作品中使用。不过，这轮投资却招致了Google竞争对手的批评。

Google的这笔投资为何会招致批评？

今年3月，Runway宣布与AWS建立多年战略合作伙伴关系，AWS成为其「首选云提供商」。而据知情人士透露，在与Runway的交易中，Google要求Runway选择Google Cloud作为首选云服务供应商，因此这笔投资相当于变相地「购买客户」，目的就是从AWS手中抢走云业务。

这已经不是Google第一次通过这种方法「拉新」。今年年初它就曾投资3亿美元给OpenAI的有力竞争对手Anthropic，并且在不久前Antoropic4.5亿美元的C轮融资中再次领投。当微软阵营拥有OpenAI、Google阵营拥有Anthropic和Runway，作为云服务行业的老大，亚马逊会如何应对呢？

参考链接

https://www.theinformation.com/articles/google-invests-in-ai-startup-runway-to-wrest-cloud-business-from-aws?rc=sjcmf

国内篇

时隔3年，Elon Musk再度访华

自2020年年初到访上海超级工厂后，特斯拉首席执行官Elon Musk（伊隆·马斯克）于5月30日正式来华访问。访问首日，Musk乘坐私人飞机降落北京首都机场，附近是特斯拉在亚洲单体面积最大的交付中心。Musk本次访问延续了他一贯的「工作狂」模式，行程爆满。

行程速览

5月30日：国务委员兼外长秦刚在北京会见Musk。Musk明确说，特斯拉反对「脱钩断链」，并打了一个形象的比方，「美中利益交融，如同连体婴儿彼此密不可分」。
5月31日：工业和信息化部部长金壮龙会见Musk，双方就新能源汽车和智能网联汽车发展等交换意见。商务部部长王文涛会见Musk，双方就中美经贸合作、特斯拉在华发展等议题展开交流。中国贸促会会长任鸿斌会见Musk，双方就中美新能源产业合作、加强中美工商界交流合作、举办首届中国国际供应链促进博览会等议题深入交换意见。
5月31日：深夜，Musk到访上海超级工厂。
6月1日：凌晨，特斯拉全球副总裁陶琳通过微博发布两张Musk和员工的大合影，配文「感谢所有的支持！收获满满的一天！」
6月1日：中午，Musk离开了上海，飞往美国得克萨斯州奥斯汀，那里是特斯拉总部所在地。

本次访华想要做什么？

推出改款车型：面对竞争激烈的中国新能源车市场，特斯拉许久没有推出改款车型了。此前，特斯拉上海工厂的Model 3生产线暂停制造，正在升级为改款做准备。本次Musk探访工厂，改款Model 3或许会传来好消息。
上海工厂扩建：上海超级工厂是特斯拉全球最大的生产工厂，其扩建问题也是Musk访华的重点。工厂产能既要保证中国国内市场供应，还要承担出口任务。为提升产能，特斯拉已提出扩建申请，希望将上海工厂的总产能由每年125万台扩大至175万台，但有关部门对批准新产能扩建一直持谨慎态度。
新建储能工厂：Musk也会关注上海储能超级工厂，该工厂是特斯拉在美国本土以外的首个储能超级工厂，用于生产超大型商用储能电池Megapack。预计其初期规划年产商用储能电池可达1万台，储能规模近40GWh，工厂计划于今年第三季度开工，2024年第二季度投产，产品将面向全球市场。
落地全自动驾驶：Musk还希望在中国推动全自动驾驶业务。在5月中旬的特斯拉2023年股东大会上，Musk曾指出：「特斯拉FSD（完全自动驾驶能力）将比人类驾驶安全10倍，它比人类驾驶员更好、更安全。」此前，上海市经信委智能制造推进处副处长陈可乐表示，上海将进一步深化与特斯拉的合作，推动自动驾驶、机器人等功能板块在沪的布局。FSD要实现全球范围内的普及，中国市场必不可少。

Elon Musk 10年10次的中国之旅

图片来源：公开资料整理

3年来的首次正式访问，意味着什么？

过去10年Musk来华10次，接待的规格一次比一次高。至少在中国政府眼里，Musk在商业领袖的身份之外，更承担着一份政治任务，中国政府希望讲述一个「美国企业家在中国收获成功」的故事，以展示中国的商业吸引力，这在「中美脱钩」的大背景下显得尤为重要。而Musk也非常擅长利用中国政府的「特殊待遇」。中国是特斯拉第一大生产地，也是仅次于美国的第二大市场，无论是扩增产能，还是新技术落地，这里都是他的最优选择。

小冰首批网红明星「克隆人」已上线

6月1日，小冰公司首批网红明星克隆人上线，通过小冰「X Eva」App即可与他们交流。小冰公司前身为微软小冰人工智能团队，于2020年独立分拆。

什么是「克隆人计划」？

小冰依托小冰框架大模型、声音及神经网络渲染技术等，推出「克隆人计划」。最短只需个人采集3分钟数据，即可为真人创造源于本人性格、技能、声音、外貌的AI克隆人，并提供专有平台，以便本人将认证克隆人有偿或无偿提供给受众。

你可以在哪里使用它？

在手机应用商店搜索小冰「X Eva」App，会看到其slogan是「克隆人的平行世界」。用户在App中可以点击任意一位克隆人，与之展开对话、语音等互动。

图片来源：应用内截屏

此外，用户还可以在App中克隆自己或真实世界的其他人类。为避免安全隐患，小冰公司并不开放技术接口，而是限制克隆人只能在「X Eva」App中与用户交流。训练数据时，平台仅使用用户本人小样本数据，并声称会在训练后清除，避免过多采集本人数据及造成数据滥用。

矛盾的是，尽管平台方作出安全承诺，倘若克隆人太像真人，用户依然会担忧数据安全；若克隆人太不像真人，又失去了产品本身的乐趣。

小冰公司期待的盈利模式

「X Eva」App中的充值价位在1元至298元不等。用户付费后，可以体验克隆人的情感模式、超级模式等升级版功能。例如，在超级模式下，用户可与克隆人实现「随时随地视频通话」。

小冰公司称，其产品可以成为「大模型+AIGC+AI Being」在C端场景变现的有趣例子。这和此前美国Forever Voices公司孵化的网红CarynAI有些类似。23岁的网红Caryn Marjorie推出了基于GPT-4 API技术开发的AI聊天机器人CarynAI，粉丝们只需花费每分钟1美元，就可以拥有「沉浸式AI体验」，和CarynAI的交流几乎像和Marjorie本人交谈一样。该产品推出第一周就赚了10万多美元，而且还有几千人正在等待获得使用权限。

这项AI克隆人计划，你有兴趣试一试吗？

试用链接

https://xeva-h5.xiaoice.com/Content/Landing

阿里云AI新产品「通义听悟」启动公测

距「通义千问」发布不到两个月，6月1日阿里云又宣布了通义大模型的新进展：聚焦音视频内容的AI新产品「通义听悟」正式上线，成为国内首个开放公测的大模型应用产品。

通义听悟接入了通义千问大模型的理解与摘要能力，可完成对音视频内容的转写、检索、摘要和整理。在公测期间，用户通过每日打卡可领取100小时以上的免费转写时长。

它可以用来做什么？