智能周报|有报道称GitHub Copilot亏损严重,但遭前CEO否认;苹果和Meta规划下一代头显…
撰文 | 新皮层小组
编辑 | 王杰夫
生成式AI到底有没有赚钱?这个问题在本周迎来一些小小的争吵。
本周初,《华尔街日报》引用了知情人士的说法称,今年上半年,每位用户每月给GitHub Copilot带来了20美元的亏损。GitHub是全球最大的代码托管平台,深受广大程序员的喜爱,甚至被戏称程序员的交友平台,公司于2018年被微软收购。而GitHub Copilot则是微软为这个平台专门推出的AI助手,可以帮助程序员创建、修改代码。
GitHub Copilot定价为每月10美元,倘若报道为真,再加上每月20美元的亏损,那么每个用户每月的成本就高达30美元。这对于生成式AI的商业估值无疑是个重大打击,毕竟微软作为OpenAI的独家合作伙伴,如果连它都无法控制成本,那么其它第三方AI产品就更加盈利无望。不过就在周四,GitHub前首席执行官Nat Friedman在社交平台X上否认了亏损的说法,他表示AI助手的定价高于成本,但他并没有更详细的解释这个成本是单纯指基础设施成本(如电力、芯片损耗)还是同时计入了研发费用。
虽然Friedman的表态让人们松了口气,但这还不能完全祛除笼罩在生成式AI商业前景上方的乌云。相比于传统软件开发完毕后几乎可以零成本的复制销售,生成式AI作为一项服务,每次使用都需要耗费电力和算力。用它来总结一封电子邮件就像是用兰博基尼送披萨,《华尔街日报》记者如此比喻。为此,产业链下游的公司和开发者们需要比较不同生成式AI供应商的价格——「简单问题让便宜的模型处理,复杂的问题采用强大的模型」已经成为一种常见的降低成本的手段。
在生成式AI的成本构成中,算力或者用更具体的说法——AI芯片是其中最重要的部分,英伟达正是得益于此才在今年实现市值突破万亿美元关口。当然,这也是大公司们竞争最为激烈的领域,10月底,有报道称Google、微软,甚至OpenAI都在准备研发AI芯片以降低成本。
作为英伟达在PC时代的老对手,AMD在本周收购了AI初创公司Nod.ai,这是一家为大型数据中心提供AI解决方案、帮助它们更容易部署AI模型的公司。AMD想借此机会向更多数据中心兜售自己的AI芯片。去年AMD发布了AI加速处理器MI300A,预计今年年底前正式开售。据知名分析人士郭明琪消息,2024年AMD的AI芯片出货量约为英伟达的10%,其中出货量主体即MI300A。
对于中国公司来说,生成式AI的门槛除了算力外,还有政策壁垒。本周有消息称,美国政府正在考虑堵住中国企业通过海外分公司获得美国AI芯片的「漏洞」。去年10月美国发布了对华芯片禁令,其中阻止了中国大陆的公司获取AI芯片,但这些公司的海外分子公司还是可以获得芯片,现在美国把科技的围栏修得更密了。
下周二,中国最早All in AI的科技公司百度将围绕生成式AI召开发布会。在生成式AI上中国顶尖公司与美国同行的距离还有多远,届时新皮层将为大家带来特别报道。
可以关注《第一财经》YiMagzine的最新IP「新皮层NewNewThing」。以下过去一周最值得关注的智能新闻,由该新IP为大家整理,请享用。
Key Points
模型与硬件篇
GitHub Copilot每人每月亏损20美元;
微软否认GitHub Copilot亏损;
OpenAI计划降低开发者使用模型的成本;
百度文心大模型4.0或将在10月17日发布;
苹果和Meta正推进研发下一代头显设备。
芯片与政策篇
AMD收购初创公司Nod.ai,拟在AI芯片领域加速追赶英伟达;
高通推出下一代PC芯片骁龙X;
Arm中国主要员工辞职创立本土芯片设计公司;
美国批准三星、SK海力士向其中国工厂供应芯片制造设备;
美国延长台积电豁免,但考虑限制海外中国企业获得AI芯片。
模型与硬件篇
GitHub Copilot每人每月亏损20美元
竞相把AI助手加入到自己的产品中以后,技术公司们逐渐意识到这样一个事实:这门生意并不像它们过去赖以为生的业务,如搜索引擎或是办公软件那样,有着很强的规模化效益。生成式AI的边际成本曲线与传统软件完全不同,多卖一份软件对于技术公司来说几乎没有额外成本,但用户多使用一次生成式AI它们就需要额外花费算力与电力。
生成式AI的成本高达每月30美元
10月9日《华尔街日报》报道称微软为旗下代码托管平台GitHub推出的Copilot助手一直处于严重亏损中。GitHub Copilot是一项帮助程序员创建、修复代码的AI服务,2021年6月推出预览版,2022年6月正式推出付费版本,每月订阅费10美元。这个价格已经不低于很多按月付费的知名软件服务,如2.99美元的1Password、5.99美元的Ulysses、10.99美元的Spotify等等。
但据知情人士说,今年头几个月,GitHub Copilot的每个用户每月为微软带来超过20美元的亏损(相当于每人每月成本为30美元),部分用户造成的亏损甚至高达80美元。而这也被认为是微软为Microsoft 365办公套件的Copilot定价每月30美元的原因之一,该Copilot能够帮助用户撰写文档与电子邮件、创建演示文稿、搭建电子表格。作为对比,不包含Copilot的Microsoft 365基础价格仅为每月12.5美元。Google为自己8月29日发布的Duet AI办公套件同样定价每月30美元。
这些公司都在降成本
除了微软、Google有信心为自己的AI助手定下如此昂贵的价格,其余提供AI助手服务的公司只能用其他方式省钱。
Zoom采用为不同任务使用不同模型的方案,只有最复杂的问题才会用到最强的模型,大部分简单的问题则交给成本比较低的模型来处理。Zoom产品主管Smita Hashim表示,他们不会对总结会议记录、撰写聊天消息这些AI服务收取额外的费用,因为这些服务采用比较便宜的解决方案。
Adobe则使用积分系统控制用户对其AI图像生成器Firefly的使用量,一旦用户用光了每月的基础额度,Adobe就会降低服务速度以防止亏损。
AI耗电量几乎等于一个中等国家
10月10日,曾发布加密货币能源消耗指数的数据公司Digiconomist发文表示:2027年,英伟达一年可以售出150万台AI服务器,而这些服务器将消耗85.4亿至134亿度电,约占全球当前用电量的0.5%。如果将这些服务器看作一个国家,当前其用电量大约排在全球30名左右,约等于阿根廷、荷兰等国的用电量。
就在几天前,美国加利福利亚州州长加文·纽森(Gavin Newsom)签署了一项新法案,要求加州的大企业披露碳排放量:2026年起披露本公司运营中的碳排放量,2027年起披露供应链的碳排放量。这意味着届时我们将知道Google、OpenAI等AI公司每年要消耗多少电力。
参考链接
https://www.wsj.com/tech/ai/ais-costly-buildup-could-make-early-products-a-hard-sell-bdd29b9f
https://www.cell.com/joule/fulltext/S2542-4351(23)00365-3
微软否认GitHub Copilot亏损
10月12日,GitHub前任首席执行官Nat Friedman在社交平台X(前身为Twitter)上回应,称微软GitHub Copilot服务亏损是假消息。Nat Friedman并没有回应GitHub的实际成本究竟是多少,仅表示比订阅价格低。此前有报道称,微软的AI编程助手GitHub Copilot在今年前几个月一直处于亏损状态,平均每个用户让微软每月亏损超过20美元,部分用户给微软造成的亏损甚至高达80美元。
OpenAI计划降低开发者使用模型的成本
10月12日,据报道,OpenAI计划下个月推出重大更新,以便开发者可以更便宜、更快速地构建基于其模型的应用程序。这些新功能预计将于11月6日在旧金山举行的OpenAI首届开发者大会上推出。此外,该公司还计划推出视觉功能等新工具,使开发人员能够构建具有分析和描述图像能力的应用程序,应用于从娱乐到医学的广泛领域。消息人士称,这些新功能旨在鼓励开发者使用OpenAI的技术构建AI驱动的聊天机器人(ChatBot)和自主智能体(Agent),使它们可以在无需人工干预的情况下执行任务。
参考链接:
https://www.reuters.com/technology/openai-plans-major-updates-lure-developers-with-lower-costs-sources-2023-10-11/
百度文心大模型4.0或将在10月17日发布
10月8日,有知情人士透露,百度正在加紧训练文心大模型4.0,或将在百度世界大会上发布。百度世界大会将于10月17日在北京首钢园举办,主题为「生成未来」(PROMPT THE WORLD)。
消息称,文心大模型4.0的进展比预期快很多,将是基础模型的大升级,理解、生成、逻辑、记忆四大核心能力都将提升,尤其在逻辑推理、代码和数学等方面提升最明显。今年5月,百度发布了文心大模型3.5版本,实现了基础模型升级、精调技术创新、知识点增强、逻辑推理增强等,在模型效果、训练速度和推理速度上有较大提升。
苹果和Meta正推进研发下一代头显设备
10月8日Mark Gurman在其科技专栏《Power On》中称,苹果Vision Pro和Meta Quest 3这两款混合现实头戴式设备目前都尚未开售,但这两家公司已经在规划下一代产品。
苹果的首款头显产品Vision Pro于今年6月在苹果开发者大会上发布,预计明年年初正式开售,目前还在招募开发者丰富应用生态,产品起售价3499美元。Meta Quest 3和其苹果竞品同月发布,是Meta的第三代头戴式产品,预计本周开售,起售价499.99美元。
苹果想做得更轻、更舒适
轻便本就是苹果头显设备的一大卖点。Vision Pro重约450克,比Quest 3轻12%。但苹果仍试图将下一代产品的体积和重量都压到更低水平,以缓减佩戴可能导致的颈部疲劳。
另一个优化方向则是改善设备与戴眼镜人士的兼容性。苹果此前的做法是和眼镜厂商合作开发与头显产品适配的磁吸式眼镜,以压缩头显设备上放眼镜的部分的尺寸,降低头显的整体尺寸和重量。但这需要提供数千种不同的镜片组合,增加了业务复杂度,目前苹果的新思路是从工厂发货时就预装符合消费者需求的定制镜片。但这种定制也可能造成新问题,比如设备将难以转售等。
考虑到Vision Pro本身定价已经较贵,苹果目前还未最终决定下一代产品的开发方向,推出一款低端型号或一款性能更强的版本都是候选项。
Meta想做得更便宜、让受众更广
Quest 3比Vision Pro便宜,但仍然比前代产品Quest 2贵,Meta正在努力将价格降低40%,回到此前300美元的水平,使其能触及更多受众。Meta计划明年就推出一款外观类似Quest 3但价格更低的产品。
Meta考虑降低入门级头戴设备成本的另一方法是将其与手柄解绑。用户必须单独购买这些配件或使用手势操作头戴设备,以完成复杂操作。
此外Meta还在研发真正的AR眼镜,以取代之前只能完成拍照、听歌等普通功能的眼镜产品。而苹果已经暂停了这方面的研发。
生成式AI加剧头显设备竞争
在9月27日的Meta Connect 2023发布会上,马克·扎克伯格展示了最新头显设备与多模态的Meta AI智能助手结合后的惊人效果。例如,设备可以实时翻译日常对话并将翻译后的内容展示在头显屏幕上;当你到陌生景点旅行,头显内的智能助手可以帮你识别建筑物并提供相应的信息;甚至水龙头坏掉,你可以直接向助手提问如何维修,Meta AI会根据搜索到的视频内容生成维修方案。
相比智能手机,头显设备提供了更加沉浸式的交互体验,它见你所见,听你所说,并且一切反馈都能迅速且直接地展示在你的眼前,但这些体验都需要一个聪明的「大脑」来处理,过去的AI无法提供足够的支撑。而多模态的生成式AI有可能带来改变,它能够实现文本、图像、语音等不同内容的输入与输出,与头显设备完美契合,让后者不再只是一个昂贵的玩具。
Mark Gurman称,苹果Vision Pro让Meta感受到2007年iPhone发布时的压力。这是一款可能引领行业发展方向的设备,对此马克·扎克伯格调整了对Quest设备的定位——一款游戏和生产力工具,而不再是进入元宇宙的钥匙。这个战略更脚踏实地,也更像苹果。
参考链接
https://www.bloomberg.com/news/newsletters/2023-10-08/apple-plans-smaller-lighter-vision-headset-meta-works-on-cheaper-quest-3-ar-lnhh1ulx?srnd=undefined&sref=ExbtjcSG
芯片与政策篇
AMD收购初创公司Nod.ai,拟在AI芯片领域加速追赶英伟达
10月10日,芯片巨头AMD宣布将收购AI初创公司Nod.ai,以此增强软件能力。为了在AI领域追赶竞争对手英伟达,AMD计划大举投资AI芯片所适用的关键软件。
Nod.ai是谁?AMD为什么要收购它?
Nod.ai是一家硅谷软件公司,成立于2013年,主营业务是为大型数据中心和其他客户提供高效的AI解决方案,以便企业能够更容易地部署AI模型。据PitchBook数据,该公司此前的融资额约为3650万美元。
AMD的业务中数据中心占很大一块,在今年第一季度营收中的占比接近1/4。为引导企业客户在数据中心部署适用于AMD芯片的AI模型,开发相关的软件生态非常必要,收购Nod.ai正是其中一环。
AMD此前声称要构建一个统一的软件集,以驱动该公司制造的各种芯片,具体手段包括内部投资和外部收购。为此今年公司已成立了AI部门,新部门目前约有1500名工程师,其中绝大多数从事与软件相关的工作,今年年底计划再增加300名员工。该部门将管理Nod.ai被收购之后的业务。
AMD的AI芯片现在咋样了?
去年AMD发布了AI加速处理器MI300A,预计今年年底前正式开售。据知名分析人士郭明錤消息,2024年AMD的AI芯片出货量约为英伟达的10%,其中出货量主体即MI300A。
AMD的AI芯片主要面向云服务商,因为云服务商通常有较强的软件能力,可以弥补AMD软件方面的不足。AMD芯片最大的采购客户是微软,占到其总出货量的一半以上。亚马逊、Meta、Google也正在测试AMD的产品,Meta已倾向在其云服务中使用AMD的AI芯片。如果AMD顺利拿下上述各家的订单,其出货量到2025年可能飙升至英伟达的30%甚至更高。
参考链接
https://www.amd.com/en/newsroom/press-releases/2023-10-10-amd-to-acquire-open-source-ai-software-expert-nod-.html
高通推出下一代PC芯片骁龙X
10月11日,高通宣布推出骁龙X系列(Snapdragon X),该系列将采用定制的Oryon CPU内核芯片,主要用在笔记本电脑上,目标是向搭载M系芯片的苹果电脑发起竞争。Oryon CPU内核建立在高通收购Nuvia后所获得的技术上,而Nuvia是由多位苹果前芯片设计师共同创立的公司。
目前高通并没有透露骁龙X系列芯片的具体细节,该系统芯片上将会有新的标识和logo,由此与其他骁龙产品区分开来。今年10月24日至26日高通将在夏威夷举行首届Snapdragon峰会,届时会公布骁龙X系列芯片的参数信息。
骁龙X将对标苹果M系芯片
高通称骁龙X系列芯片具有强大的性能和功效,并具有神经网络处理功能,这也意味着该系列将直接对标苹果的M系列芯片。如果骁龙X系列真的应用了与M系芯片类似的技术,那意味着Windows笔记本在性能和功效方面将实现「质的飞跃」。
与M1芯片相似,骁龙X采用了神经处理单元,为设备端AI处理提供更高的工作效率。此外,骁龙X也将继续之前系列的5G连接功能,这一技术也被应用在了苹果的笔记本电脑和iPad设备上。
此前据传闻,高通正在开发3款Snapdragon X系列处理器,其中名为SC8380的CPU处理器对标苹果M2 Max芯片,具有8个性能核心和4个效率核心——后者已集成在最新的MacBook Pro 14和MacBook Pro 16中。
核心技术来自Nuvia,高通为了它与ARM打官司
骁龙X的技术主要来自于Nuvia公司,该公司于2021年被高通以14亿美元收购,但这笔交易引起了ARM的不满。
ARM的授权模式有两种,分别是架构许可协议(Architecture License Agreement,ALA)和技术许可协议(Technology License Agreement,TLA)。打个比方,前者类似于购买木材自己造家具,后者就是买现成的家具。可想而知,对于ARM来说后者的溢价更高。
在过去,高通缺少自研能力,所以一直与ARM签订技术许可协议,相当于高通直接从ARM那里买家具,再在上面小修小改一番。但Nuvia是一家由多位苹果原芯片设计师创立的初创公司。苹果从自研芯片第一天起与ARM签订的一直是架构许可协议,因此Nuvia成立后也与ARM签订了与苹果相似的授权许可。
Nuvia公司创始人Gerard Williams是ARM和苹果资深架构师,在苹果任职时主持研发了从A7到A14的大部分芯片;副总裁Manu Gulati曾是Google的架构师,也曾经在苹果担任架构师长达8年时间,负责过A5X、A9、A11、A12X等芯片的设计。
当Nuvia被高通收购后,高通自然也就有了像苹果那样用木材自制家具的能力,因此不想继续向ARM「买家具」(TLA),而希望直接「买木材」(ALA)。但ARM认为高通并不能延用之前ARM与Nuvia签订的协议,双方应该重新签订协议,为此它起诉了高通。该诉讼将于2024年9月进入审判阶段。
高通一直是ARM的大客户之一,ARM目前无非是想索取更高的授权费,双方暂时还谁也离不开谁。ARM 9月刚刚在纳斯达克挂牌上市,当前市值约为570亿美元。
参考链接
https://www.theverge.com/2023/10/10/23911431/qualcomm-snapdragon-x-platform-oryon-cpu-windows-pc-apple-silicon
Arm中国主要员工辞职创立本土芯片设计公司
10月12日,据报道,Arm在中国的合资公司(安谋中国)的主要员工已离职,并创立本土芯片设计公司「博瑞晶芯」,这家初创公司成立于2021年。
知情人士称,从Arm中国离职的员工包括研发主管、一名地区销售主管和一名政府关系员工,后者现任新公司博瑞晶芯的CEO。
博瑞晶芯的主营业务
博瑞晶芯是一家主要从事处理器芯片设计与销售的初创公司,也是Arm新的主要授权商,为「云计算和边缘控制器」设计芯片。
博瑞晶芯的一位代表在一封电子邮件中表示,该公司是安谋中国的客户,不与安谋中国竞争,双方也没有任何利益冲突。
安谋中国与Arm的关系
Arm的芯片设计为全球大多数移动设备提供支持,其中包括苹果公司的iPhone。日本软银于2016年收购Arm后,将其在中国的多数股权转让给了中国本土投资者,中资占股约51%。随后,软银和Arm与中国业务首席执行官发生了长达数年的纠纷。2020年,安谋中国原董事长兼CEO吴雄昂被解雇,但他拒绝离开。软银和Arm最终在去年罢免了吴雄昂,但他仍然通过自己控制的实体持有安谋中国的股份。
今年8月,Arm的招股书显示,2023财年其24%的收入来自中国,安谋中国是Arm的最大客户。但是Arm仅间接持有安谋中国4.8%的股份,对该企业并没有控制权。知情人士称,安谋中国在2月解雇了约100名员工,大部分来自研发团队,其中一些人已加入博瑞晶芯。
参考链接
https://www.bloomberg.com/news/articles/2023-10-12/senior-arm-china-staff-quit-to-create-government-backed-startup?srnd=technology-vp#xj4y7vzkg
美国批准三星、SK海力士向其中国工厂供应芯片制造设备
10月9日韩国总统办公室称,韩国芯片巨头三星电子和SK海力士获得了美国政府的无限期豁免,允许它们无需额外的美国批准,长期向其在中国的工厂供应含美国技术的半导体设备。美国的新决定旨在减轻韩国半导体公司在中国运营和投资方面的不确定性,将有助于稳定全球半导体供应链。
韩国企业在存储芯片领域处于全球领先水平,上述两家公司合计供应了全球近70%的DRAM产品和50%的NAND闪存产品,而其产能很大一部分位于中国:三星西安工厂承载了其NAND闪存芯片全部产能的约40%,而SK海力士在无锡制造公司约40%的DRAM芯片,在大连制造其约20%的NAND闪存芯片。
美国延长台积电豁免,但考虑限制海外中国企业获得AI芯片
10月13日,有报道称,台积电已获得美国对中国内地贸易制裁豁免的延期,使其能够继续为在华业务采购先进的芯片设备,豁免期为「一年」。3天前,三星和SK海力士等韩国公司已获得美国「无限期」豁免。
台积电的豁免预计将延期一年
去年10月,美国颁布规定,禁止美国企业向中国半导体生产企业出口部分尖端半导体生产设备。三星电子、SK海力士和台积电等半导体制造厂商需获得美国商务部的豁免,才能将半导体生产设备运往各自的中国工厂完成生产。该豁免权有效期为一年,于今年10月11日到期。
新皮层此前报道,韩国芯片公司三星和SK海力士已经获得了美国政府的无限期豁免,允许它们无需额外的美国批准,长期向它们在中国的工厂供应美国芯片制造设备。
台积电称,公司也在申请与三星和SK海力士一样的「无限期」豁免。
拜登考虑对海外中国企业施加AI芯片限制
一边给三星、SK海力士、台积电等美国企业放宽限制,另一边,美国政府也在考虑禁止中国公司在海外设置的机构获取美国的AI芯片。
据知情人士透露,美国政府正在考虑堵住中国企业通过海外分公司获得美国AI芯片的「漏洞」。在去年10月发布的对华芯片禁令中,美国并没有对中国公司的海外子公司获取半导体加以限制,这意味着美国芯片可以被走私到中国或被中国用户远程访问。
美国在努力堵上AI芯片进入中国的各种「漏洞」
3月,美国商务部发布了《芯片和科学法》,其中「护栏规则」禁止获得美国补贴的半导体制造商在中国大幅提升半导体制造能力。
7月,新皮层曾报道,美国政府准备限制亚马逊、微软等美国云服务提供商向中国客户提供使用先进制程AI芯片的云计算服务(注:目前尚未发布)。
8月,美国将对英伟达和AMD人工智能芯片的出口限制扩大到中国以外的其他地区,包括中东一些国家。消息人士称,预计本月发布的人工智能芯片新规定可能会让这些限制更广泛地适用于市场上的所有公司。
参考链接
https://www.bloomberg.com/news/articles/2023-10-13/us-extends-tsmc-s-waiver-for-advanced-chipmaking-gear-in-china?srnd=technology-vp
https://www.reuters.com/technology/biden-eyes-adding-ai-chip-curbs-chinese-companies-abroad-2023-10-13/
-END-
我们是一个诞生于GPT浪潮、由《第一财经》YiMagazine孵化的全新内容IP。
和每一位关心技术、关注人类命运的读者一样,我们希望在这个充满不确定性的时代,更好地理解快速变化的科技世界,也更好地理解生而为「高级智能」的我们自己。
在这个目标下,我们计划从学术、商业、伦理、监管等多个角度报道和讨论与“智能”相关的议题。请注意,我们说的智能,不只是 AI。
若想了解更多本周资讯,请点击阅读往期智能周报:
智能周报|OpenAI推多模态模型,计划开发AI硬件和芯片;从亚马逊融40亿美元后,Anthropic想再从Google融20亿
与记者交流,可添加微信(请备注公司名称和姓名):
王杰夫 微信号: wjfsty
张司钰 微信号: helianthus351
吴洋洋 微信号: qitianjiuye
识别下图二维码,
即可购买《第一财经》杂志2023年10月刊
微信扫码关注该文公众号作者