Redian新闻
>
英特尔公布1万亿参数AI模型,比ChatGPT大570%

英特尔公布1万亿参数AI模型,比ChatGPT大570%

公众号新闻
出品 | OSC开源社区(ID:oschina2013)
在 ChatGPT 的推动下,如今有越来越多的公司开始参与生成式 AI 的开发了,大模型领域也 “越来越卷”。英特尔是最新参与进来的玩家,并在近日公布了一个名为 Aurora genAI 的产品,它是一个主要用于科学领域的生成式 AI 模型。
英特尔 Aurora genAI 模型以 Megatron 和 DeepSpeed 为基础,其规模达到了 1 万亿个参数(1 Trillion Parameters,上图中有对应描述),相比之下 ChatGPT 的规模仅为 1750 亿参数,Aurora genAI 在参数规模上增长了约 570%。
Aurora genAI 模型将在通用文本、科学文本、科学数据和与该领域相关的代码上进行训练。这将是一个纯粹以科学为重点的生成式 AI 模型,其潜在的应用范围是:
  • 推动清洁能源聚变研究

  • 催化剂研究

  • 癌症研究

  • 航空航天研究

  • 神经科学研究

  • 宇宙学研究

拥有这么大的规模,那么驱动 Aurora genAI 模型背后的算力肯定也不容小觑。英特尔透露,他们使用的是名为 Aurora(欧若拉)的超级计算机,这是英特尔与阿贡国家实验室和 HPE 合作开发的百万兆级超级计算机。
Aurora 超级计算机采用了 21248 个 Sapphire Rapids 至强 CPU、63744 个 Xe 架构的 Ponte Vecchio GPU(英特尔表示 Ponte Vecchio GPU 的性能要优于英伟达的 H100)。Aurora 超级计算机还使用了 1024 个 DAOS 节点和 10.9 PB 的 DDR5 傲腾持久内存,所有这些组件通过 oneAPI 互相链接,实现了百万兆级性能。
Aurora 超级计算机的浮点运算能力达到了 2 exaFLOPS,而目前 TOP 500 排名第一的超级计算机 Frontier 其浮点运算能力也才 1 exaFLOPS,Aurora 实现了性能翻倍,未来 Aurora 将存放于美国阿贡国家实验室。
相关链接:https://www.intel.com/content/www/us/en/newsroom/news/intel-delivers-ai-accelerated-hpc-performance.html#gs.ywqfxl


END



2023 GOTC 全球开源技术峰会圆满结束



这里有最新开源资讯、软件更新、技术干货等内容

点这里 ↓↓↓ 记得 关注✔ 标星⭐ 哦

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
雷军入局ChatGPT大战/ AutoGPT星标超PyTorch/ 马斯克星舰今晚发射…今日更多新鲜事在此300美元复刻ChatGPT九成功力,GPT-4亲自监考,130亿参数开源模型「小羊驼」来了【城事】巴黎市长将重修Châtelet 广场以方便行人我在iPhone上装了70亿参数大模型,来自陈天奇团队最新成果用ChatGPT「指挥」数百个模型,HuggingGPT让专业模型干专业事商汤版ChatGPT「商量」来了!开放API,基于千亿参数大模型,体验实录在此大羊驼、羊驼、小羊驼和ChatGPT比差在哪儿?CMU副教授测评了7个类ChatGPT大模型归来(五)650亿参数,8块GPU就能全参数微调:邱锡鹏团队把大模型门槛打下来了商务部部长王文涛会见英特尔公司首席执行官基辛格OpenAI对ChatGPT进行更新;百川智能正式推出70亿参数开源中英文大模型|AIGC周观察第六期最新RLHF拯救语言模型「胡说八道」!微调效果比ChatGPT更好,两名华人共同一作参数是 ChatGPT 的近 6 倍!英特尔公布 AI 大模型 Aurora genAI,具备 1 万亿参数ChatGPT-5相比ChatGPT-4,将会有哪些变化?高达3.6万亿token!PaLM 2训练数据翻5倍,全新Bard对比ChatGPT有8个优势HuggingChat叫板ChatGPT!300亿参数大模型免费用,网友:真香微软开源DeepSpeed Chat,人人可快速训练百亿、千亿级ChatGPT大模型云从大模型现场真机演示!考中考堪比ChatGPT,还秀了一波代码能力,创始人周曦:三种递进方式颠覆传统交互「模仿学习」只会套话?解释微调+130亿参数Orca:推理能力打平ChatGPT英特尔Gaudi2加速卡GPT-4详细参数分析GPT-4参数最新爆料!1.76万亿参数,8个2200亿MoE模型,PyTorch创始人深信不疑雷军宣布进军ChatGPT大战!国内ChatGPT赛道一触即发!300美元平替ChatGPT!斯坦福130亿参数「小羊驼」诞生,暴杀「草泥马」叫板ChatGPT?Stability AI 开源语言大模型 StableLM,参数仅为GPT-3百分之四,却能实现超高性能清华第二代60亿参数ChatGLM2开源!中文榜居首,碾压GPT-4,推理提速42%2023回国——总统套房,上海城隍庙小吃(多图)巴黎市长将重修Châtelet 广场以方便行人刚刚!商汤版ChatGPT「商量」来了!开放API,基于千亿参数大模型,体验实录在此南加勒比岛国风情我参加过的public hearing (4) - 现场发言阿里GPT 15天训出「鸟鸟」嘴替,比ChatGPT+Siri刺激多了!650亿参数,8块GPU就能全参数微调!邱锡鹏团队把大模型门槛打下来了!参数是ChaGPT的近6倍!英特尔公布AI大模型Aurora genAI,具备1万亿参数ChatGPT平替「小羊驼」Mac可跑!2行代码单GPU,UC伯克利再发70亿参数开源模型血溅星巴克:上周日温哥华鸡毛蒜皮小事引发的命案
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。