Redian新闻
>
英伟达赢麻了!马斯克xAI超级算力工厂曝光,10万块H100、数十亿美元

英伟达赢麻了!马斯克xAI超级算力工厂曝光,10万块H100、数十亿美元

公众号新闻
机器之心报道
编辑:杜伟

英伟达:尽管建,用的还是我的芯片,

最近几年,随着大语言模型的飞速发展与迭代,科技巨头们都竞相投入巨额财力打造超级计算机(或大规模 GPU 集群)。他们认为,更强大的计算能力是实现更强大 AI 的关键。


早在 2022 年,Meta 即宣布与英伟达共同打造大型 AI 研究超级计算机「AI Research SuperCluster」(RSC),它由 760 个英伟达 DGX A100 系统组成,共有 6080 块 GPU,性能非常强大。


如今,马斯克旗下人工智能初创公司 xAI 传出了打造超级计算机的消息。


据外媒 The Information 报道,最近马斯克向投资者透露,xAI 计划建造超级算力工厂「Gigafactory of Compute」,为 AI 聊天机器人 Grok 的下一个版本提供算力支持。



据悉,xAI 计划将 10 万块 H100 专用 GPU 串联一台超级计算机,其规模至少是当前最大 AI 集群的四倍。如果 xAI 的计划能够顺利完成,这台超级计算机将耗费数十亿美元和大量电力。


不过,马斯克似乎很有信心,他的目标是在 2025 年秋季之前让这台超级计算机「跑」起来,并亲自负责按时交付。


当然,xAI 不想单打独斗, 其有望与甲骨文公司(Oracle)合作建造超级计算机。我们知道,xAI 是 Oracle 最大的 H100 服务器芯片租赁客户,已经使用了后者超过 1.5 万块 H100 芯片。


届时,xAI 超级算力工厂建成之后,10 万块 GPU 芯片集群将加速 Grok 聊天机器人的开发,减少语音限制。目前,Grok 的最新版本为 Grok 1.5,该版本实现了长上下文理解和高级推理能力,可以处理 128K token 的长上下文窗口。


而据马斯克此前透露,xAI 正在训练的 Grok 2 已经耗费了约 2 万块 H100 GPU,未来进阶版本 Grok 3 可能需要高达 10 万块 H100 GPU。看来,马斯克已经在为 Grok 3 未雨绸缪了。



最后,对于超级算力工厂而言,最关键的找到一个电力充沛(可能需要 100MW)的位置。因此,AI 数据中心位置的选择非常重要。


至于建成的意义是什么?这个规模庞大的超级算力工厂将帮助 xAI 追赶 OpenAI、微软等资金更为雄厚的竞争对手。


此前同样据 The Information 报道,微软和 OpenAI 拟投入超 1000 亿美元打造一个数据中心项目,其中包括一台「星际之门」(Stargate)的 AI 超级计算机,配备了数百万个专用服务器芯片,旨在为 OpenAI 实现 AGI 提供动力。



其实,这也不是马斯克第一次投入超算项目。此前,特斯拉就被曝出到 2024 年底,投入远超 10 亿美元打造一台「Dojo 项目」的内部超级计算机,用于处理数据和视频,提高自动驾驶能力并最终实现完全自动驾驶。


此次, 马斯克又在大语言模型领域斥巨资建造超级计算机。有人表示,如果消息属实的话,这将成为游戏改变者。当然,英伟达是最大的赢家。


参考链接:

https://www.theinformation.com/articles/musk-plans-xai-supercomputer-dubbed-gigafactory-of-compute?rc=ks2jbm


亚马逊云科技中国峰会是由全球云计算的开创者和引领者亚马逊云科技(Amazon Web services)举办的一年一度的科技盛会。本次峰会将围绕行业创新、技术革新等热点话题进行分享和探讨,展示亚马逊云科技生成式AI在增强客户体验,优化流程业务,提升经营能效三大方面的优势价值及场景解决方案。

© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:[email protected]

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
传苹果正洽谈 Apple TV+ 入华;马斯克调整1万块 H100 给 xAI;瑞士公司研发生物活体处理器 | 极客早知道Wealth | 美国人在“不知不觉”中服用了数十亿美元的无效药物联邦严打礼品卡诈骗,已有80华人被捕,涉案数十亿美元美国新法案将限制中国人在美从事AI相关工作;iOS18将搭载ChatGPT;马斯克xAI获60亿美元B轮融资丨AI情报局国产手机制造厂曝光马斯克烧几十亿美元造最大超算中心,10万块H100训练Grok追赶GPT-4o面对“性能墙”、“存储墙”双墙阻碍,四大新型存储升级算力均价300万美元?英伟达GH200超级芯片落地9个超算中心,每秒两百亿亿次flop马斯克xAI估值240亿美元,LeCun隔空开怼,竟上升到人身攻击!快快快!佐治亚州数十亿美元等待您来认领!有钱买卡还不够,10万卡H100集群有多难搭?一文解析算力集群技术要点华为悬红200万全球求解难题引热议,网友:虽然不会,但是感觉自己亏了;马斯克的超级算力愿景:xAI将建计算超级工厂训练Grok1个芯片顶英伟达3个?这个偏爱印度的创始人爆肝8年,终于等来抢英伟达泼天富贵的一天!黑神话:悟空定价268起,马斯克再次招募脑机接口患者,微软面临数十亿美元罚款,香港将设立半导体研发中心,这就是今天的其他大新闻!什么原因?这两个神股再次暴涨,市值飙升数十亿美元!HP 65W CC/LG HDMI/英伟达MicroUSB/小米3A线/得力工具箱/杀蟑胶饵/冈本马斯克xAI疯狂融资,两周内将揽60亿美元,估值飙至180亿被控运营“全球最大僵尸网络”,华男涉嫌窃数十亿美元,面临65年监禁《只留清香春来报》&《今生我在修佛缘》至少80名华人被捕!来美捞了数十亿美元?华人“发财门路”已被美政府盯上!游民搬进洛杉矶高级公寓,内部曝光超级豪华!中国数十亿货物被卡在美国海关不让进!Oscar马后炮,电影\'留校联盟( The Holdovers)\'市值狂飙,3.34万亿美元!英伟达一举超越微软、苹果,登顶“世界股王” !分析师看好上攻5万亿美元黄仁勋自曝英伟达最强Rubin架构;优必选人形机器人进入东风柳汽开展造车工作;马斯克称将购买30万块AI芯片丨AI情报局再回首 (三十)英伟达成全球市值第一公司/华为高管称昇腾 AI 算力已超英伟达 A100/马斯克称未来人形机器人普及程度将是汽车10倍又有人搞事!仨华人入侵美国网络,酿数十亿美元损失,还发炸弹威胁。【行业日报】英伟达市值超越苹果!马斯克将建造超级计算机!马斯克 xAI 获 60 亿美元融资,要造一个「超级算力工厂」马斯克 xAI 最新融资估值 1300 亿美元,要造一个「超级算力工厂」个人感慨之124 真没钱了英伟达交付OpenAI全球首块H200;月之暗面否认创始人套现数千万美元;苹果发布设备端开源AI模型|AIGC周观察第四十一期47、长篇家庭伦理小说《嫁接 下》第十六章 千里姻缘(2)LVMH集团增持西班牙制革厂 Riba Guixà 股份至 80%435亿!马斯克xAI官宣B轮融资,估值突破1300亿
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。