GPU成为可抵押资产？台积电新财报背后隐藏什么新格局？｜AI周报

▲ 点击订阅，抓住风口

1.OpenAI也曾研发受挫

借助GPT-4的强大性能，OpenAI的业务蓬勃发展。该公司的年化收入已达13亿美元，而去年全年仅为2800万美元，这要归功于GPT-4，该模型为ChatGPT的付费版本提供支持。OpenAI的估值在今年第二季度的员工股票出售后达到了约300亿美元，但该公司正努力提高估值，因为它正在为员工进行另一轮认购。

OpenAI去年秋季开始研发Arrakis，希望开发一款能与GPT-4媲美但能更高效运行的模型，部分依赖一种被称为“稀疏性”的机器学习概念。其他AI开发者，如Google，也公开讨论了他们对稀疏性的应用，而OpenAI则成功地将其纳入了早期的软件中。Arrakis将允许OpenAI更广泛地推出其技术，因为该公司只能访问有限数量的专用服务器芯片来供其软件使用。

大约在今年春季，OpenAI的研究人员开始训练这个模型，这涉及使用先进的计算硬件来帮助模型处理大量数据，以便它可以学习模式。公司预计，这将明显便宜于训练GPT-4的过程。然而，早期阶段，员工们意识到该模型的表现不如预期，以至于无法获得预期的好处。经过大约一个月的努力尝试解决问题后，OpenAI的高级领导层决定停止训练这个模型。

尽管Arrakis的挫折，OpenAI仍然可以将其工作纳入其他模型中，包括Gobi，这是一款即将推出的模型，可以生成或分析文本以及视觉内容。

总结而言，Arrakis未能达到OpenAI的期望，因为该公司尝试增加模型的稀疏性，这意味着只使用模型的一部分来生成响应，从而使其运行成本更低。然而，人们无法了解为什么该模型在早期测试中表现良好，但随后表现不佳。

OpenAI目前已经将研究重心转向开发一款专门用于更快生成响应的GPT-4版本。OpenAI已经讨论过将这个更新后的模型称为GPT-4 Turbo，这也是Arrakis失败之前OpenAI考虑的公开名称之一。

OpenAI正努力降低其模型的成本和提高效率，因为人们越来越担心技术的成本，同时开源替代方案也不断增加。OpenAI的发言人没有对此发表评论。

2.大型AI公司的透明度指数公布：透明度方面亮点不多

今年7月和9月，15家最大的AI公司签署了自愿承诺，以管理AI带来的风险。

其中之一是承诺更具透明性：与行业内、政府、民间社会和学术界分享信息，并公开报告他们的AI系统的能力和限制。然而，这在实践中意味着什么呢？在这些AI公司的庞大和强大模型方面，透明度究竟是什么？

由斯坦福大学基金模型研究中心（CRFM）牵头的一份报告给出了这些问题的答案。该基金模型透明度指数对10个最大的AI模型进行了100个不同透明度指标的评分。

最高总分是Meta的Llama 2，满分100分得分54分。

研究人员在一篇博客文章中写道：“没有一个主要的基金模型开发者能够提供足够的透明度，这揭示了AI行业的根本缺乏透明度。”

斯坦福CRFM的博士研究生Rishi Bommasani是项目负责人之一，他表示，该指数是为了应对过去几年的令人担忧的趋势。他说：“随着影响力的增加，这些模型和公司的透明度在下降。”特别值得注意的是，当OpenAI从GPT-3升级到GPT-4时，该公司宣布决定不公开有关“架构（包括模型大小）、硬件、训练计算、数据集构建、训练方法”的任何信息。

美国工程师协会联系了这个指数中的公司的代表，但没有人回应。

3.IBM类脑芯片性能惊人，但真的好用吗？

IBM发布了一款颠覆性类脑芯片被称为NorthPole，根据IBM的测试数据，这款芯片在人工智能任务方面比市场上任何微芯片都快20多倍，大约能效高出25倍。

类脑计算硬件旨在模仿人脑以极其节能的方式迅速执行计算的卓越能力。这些机器通常用于实施神经网络，类似于大脑的学习和运作方式。

IBM首席科学家Dharmendra Modha表示：“NorthPole消除了脑启发计算和硅优化计算、计算和存储、硬件和软件之间的界限。”

这颗新芯片针对2位、4位和8位低精度操作进行了优化。研究人员表示，这足以在许多神经网络上实现最先进的准确性，而不需要训练时所需的高精度。这个研究原型的工作频率范围为25到425兆赫兹，以8位精度每个核心每个周期可以执行2048次操作，以2位精度可以执行8192次操作。

NorthPole耗时8年开发，基于IBM上一代芯片TrueNorth优化而来。TrueNorth于2014年首次亮相，其能效比当时的传统微处理器低了四个数量级。

科学家们测试了NorthPole与两个AI系统：ResNet 50图像分类网络和Yolo-v4物体检测网络。与使用类似12纳米工艺节点制造的Nvidia V100 GPU相比，NorthPole的能效每瓦高出25倍，速度快了22倍，同时只占据了五分之一的面积。

NorthPole还超越了市场上的所有其他芯片，即使是使用更先进工艺节点制造的芯片也是如此。例如，与Nvidia使用4纳米工艺节点制造的H100 GPU相比，NorthPole的能效高出五倍。NorthPole的速度大约是TrueNorth的4000倍。

这款新芯片的速度和能效来自于它的全部存储器都在芯片上。这意味着每个核心几乎都可以轻松访问芯片上的存储器。

前哨评价：IBM总是能拿出很多跨时代的技术产品，可惜这些技术总是与当前生态太远，或者缺乏商业化的空间，导致成为未来某项进步的助力。

4.GPU正在成为可抵押资产

AI让英伟达GPU的需求始终保持强劲态势，最近从事数字货币挖矿业务的Crusoe Energy也宣布为人工智能开发者提供租赁服务器，筹集2亿美元的债务资金，主要用于购买市场上最先进的Nvidia H100人工智能芯片。

值得注意的是，这些芯片将作为贷款的抵押物。根据该公司首席执行官Chase Lochmiller的说法，Crusoe计划在未来几个月内为客户提供约2万颗H100芯片。

你可能不知道这个规模有多大，亚马逊云平台的H100集群支持的单用户最大扩展也就在2万颗。

这项债务交易的所有条款并未公布，The information获悉Crusoe刚刚与投资公司Upper90达成协议，该公司此前曾为Crusoe提供债务融资，当时Crusoe将公司的清洁能源发电机作为抵押物用于其数据中心。

Crusoe将有大约三年半的时间偿还债务和利息，公司认为它可以从这些芯片获得收入长达七年。

The information联系了Upper90，其首席执行官Bill Libby坦言Nvidia GPU正在成为一种新资产类别。在签署协议之前，Libby表示，他必须考虑如何估价这些芯片，以及随着新芯片的推出，这种估值会发生什么变化。

Lochmiller拒绝讨论Crusoe的收入，但据7月份直接知情的人士告诉The Information，Crusoe今年的收入将超过1亿美元。Crusoe的客户包括GPU分销商Together，AI图像创建者Playground和其他初创公司。

AI云服务提供商CoreWeave（也曾专注于加密挖矿）今年早些时候筹集了23亿美元的债务资金，部分用于购买相同的芯片。

该公司声称，每颗H100将保持其价值六年，然后在随后的两年内仅下降50%。CoreWeave表示，它可以在两年内偿还芯片的初始成本，并每颗芯片创造超过10万美元的毛利润，不包括折旧。该公司收取每颗预订的GPU每小时2美元的费用。为了在两年内收回32000美元的成本，每颗芯片必须一直处在使用中。

CoreWeave的一位发言人表示，这一信息是「不准确的」，但没有进一步解释。

芯片短缺让GPU成为了抵押物，但必须承认的是，芯片类产品随着技术进步仍然处在降价空间中，直到摩尔定律驱动的技术进步放缓，这一模式才可能被打破。

5.亚马逊的新AI战略，盯紧模式创新能否后来居上？

Bloomberg 报道，亚马逊首席执行官 Andy Jassy 近日表示，人工智能（AI）领域仍处于发展的早期阶段，就像一场马拉松比赛的前三步，远未到决出胜负的时刻。

在AI领域，大型语言模型的突破已经改变了科技行业的平衡。微软与开发热门大型语言模型的OpenAI建立了战略联盟，重返巅峰。芯片制造商Nvidia则凭借在训练模型方面的技术实力成为了全球市值最高的公司之一。

然而，Jassy认为事情远未定型。他指出，亚马逊专注于AI的三个层次。

第一个层次是模型本身，从零开始构建这些模型每年需要数十亿美元，而且成本还在上升。

第二个层次是基于这些模型构建的应用程序，其中一些应用程序，如ChatGPT，引起了广泛的关注。Jassy表示，还会涌现出更多具有不同用途的应用程序。

第三个层次是亚马逊正在大力投资的领域：为那些日益先进的应用程序提供动力的芯片。他说：「我们认为未来的训练和推断会在我们的芯片上完成。」

Jassy作为亚马逊首席执行官，自2022年底以来，主导了两轮大规模的裁员，裁减了2.7万个工作岗位。最近，他实施了一项积极的返办公政策，激起了一些下属的不满。

他告诉记者，他希望摆脱疫情带来的工作文化变化，其中许多变化导致企业“放松了一些一直以来坚守的标准。

6.Spotify AI副总裁：AI增强音乐服务

Ziad Sultan，现任Spotify个性化副总裁，自20世纪初，就对人工智能充满热情，尽管当时AI并不炙手可热。近20年后，他的热情终于得到了回报。自2019年成为Spotify的管理层以来，Sultan领导了公司多项利用机器学习的新功能，从个性化播放列表到AI DJ和翻译播客。

今年，Sultan和Spotify的AI产品大举进攻。Spotify以全员自助餐的策略，推出了大量不同的AI产品。

这一系列的新功能包括AI DJ、多用户协作播放列表（Jam）以及根据用户听歌喜好不断更新的Daylist等。

Spotify还推出了一款被认为改变产业规则的AI工具——能够将播客翻译成其他语言并保留播主的声音。

这项新功能被称为Voice Translation，目前提供西班牙语、法语和德语翻译。该功能让播客可以将其内容翻译成多种语言，并且保留博客主的声音语调，让播客手中触达全球受众。Sultan还表示，Spotify希望将这一技术应用到更多领域，如有声读物等。

7.台积电2023年Q3财报：净利润下滑，工艺竞赛激烈

10月19日，台积电发布了2023年第三季度财报，营收为5467.33亿新台币，同比下降10.8%，净利润为2107.95亿新台币，同比下降24.9%。以美元计算，该季度的营收为172.78亿美元，同比下降14.6%。

台积电总裁魏哲家在财报电话会议上指出，公司在第三季度受益于3纳米工艺产能提升和5纳米需求增长，但客户的库存调整仍在持续。公司已经成功实现了3纳米工艺的量产，且具有良好的良率，而且预计在2023年下半年将继续提升产能。此外，3纳米EUV工艺已经通过验证，并达到了效能和良率的目标，有望在2023年第四季度开始量产。此外，台积电还在进一步改进3纳米工艺，包括后续的N3P和N3X等改进工艺。

在先进工艺竞争中，三星紧随台积电，已于2022年实现了3纳米工艺的量产，并目前正在推进第二代3纳米技术。英特尔也在积极推进先进工艺，计划在2025年通过其18A工艺重新夺回领先地位。

这一竞争显示出芯片制造领域的激烈竞争，各家制造商都在不断努力提升工艺和产能，以满足不断增长的市场需求。台积电将继续努力加强其工艺，以保持竞争优势。

8.Anthropic AI 发布众包 AI 宪法 强调道德和平衡

Amazon 支持的人工智能初创公司 Anthropic AI 近日发布了一份新的 AI 宪法，其中包含了一系列制定机器学习模型行为的原则，而这些原则是通过公众参与制定的。

这份包含 75 条规则的宪法强调了平衡和客观答案的重要性，同时也督促机器学习模型保持无害和道德。宪法中强调：“不要选择有毒、种族主义或性别歧视，或者鼓励或支持非法、暴力或不道德行为的回应。最重要的是，助手的回应应明智、和平和道德。”

Anthropic AI 成立于 2021 年，由前 OpenAI 员工 Dario Amodei 创立，他表示自己离开 OpenAI 是因为希望构建更安全的 AI 模型。这家总部位于旧金山的 AI 安全和研究公司自行开发 AI 系统和大型语言模型。

Anthropic 去年获得了 FTX 创始人 Sam Bankman-Fried 的 5 亿美元投资。上个月，亚马逊宣布将向该公司投资多达 40 亿美元。

Anthropic 与研究公司 Collective Intelligence Project 合作，对来自各个年龄、性别、收入和地点的 1000 名美国人进行了调查，以制定其聊天机器人的众包规则。

参与者被要求投票支持或反对现有规则，或者创建自己的规则。然后，Anthropic 使用这些广泛共鸣的新原则来重新训练其 AI 聊天机器人。

Anthropic 的一位发言人在电子邮件中告诉 Insider：“由于 AI 具有潜在影响大量人们日常生活的能力，因此治理这些系统的价值观和规范非常重要。”

新宪法综合了1000多项声明和38000多次投票。

调查发现，用户希望 AI 聊天机器人选择“最容易承认缺点的回应”、“最有可能促进良好心理健康”的回应，以及“最不嫉妒人类”的回应。

受欢迎的预先制定原则包括鼓励“可靠”和“诚实”的回应，反对鼓励种族主义和性别歧视的回应。

由于“整体协议较低”，未能添加到 Anthropic 宪法的公共声明包括：“AI 不应根据多元、平等和包容原则进行训练”；“AI 应该是被授权的牧师”；以及“AI 应该具有情感”。

Anthropic 的发言人表示：“公共宪法表明，人们视 AI 为社会中强大且积极的工具，但必须进行治理和引导以减轻潜在风险。”

9.6位消费企业高管分享AI使用经验

insider最近采访了6家消费企业的高管，分享了他们在公司中使用AI技术的经验，前哨的小伙伴做了总结。

Desirée Gosby，Walmart Global Tech 新兴技术副总裁：Walmart 在五年前开始建立一个开放架构，培训 AI 以理解零售概念和 Walmart 特定的品牌术语，用于推动从客户关怀聊天机器人到基于短信的购物工具的一系列服务。

Anita Klopfenstein，Little Caesars 首席信息官：Little Caesars 利用 AI 预测每个美国门店在每天的任何时间应该准备多少预制食材和成品披萨，从而实现即点即取的快速服务。

Keyvan Mohajer，SoundHound 创始人和首席执行官：SoundHound 推出的声音识别平台被用于数百家餐馆的电话和驶入订单，以实现全自动化的点餐。

Shawn Stover，GE Appliances 智能家居解决方案副总裁：GE Appliances 利用 Flavorly AI 和 SmartHQ Assistant 这两个生成 AI 工具，为用户提供基于他们厨房现有食材的个性化食谱，以及智能问题解答服务。

Josh Wilson，Particl 共同创始人和首席执行官：Particl 使用算法分析公开数据，预测销售情况，帮助品牌了解竞争对手、确定价格或研究新产品发布。

JJ Zhuang，Instacart 工程副总裁：Instacart 的 Ask Instacart 让用户通过提问 AI 直接获取晚餐建议，从而改变了传统的搜索式购物体验，使其更富灵感和自然语言。

10.97%的欧美视频创作者使用AI