Redian新闻
>
英特尔公布1万亿参数AI模型,比ChatGPT大570%

英特尔公布1万亿参数AI模型,比ChatGPT大570%

公众号新闻
出品 | OSC开源社区(ID:oschina2013)
在 ChatGPT 的推动下,如今有越来越多的公司开始参与生成式 AI 的开发了,大模型领域也 “越来越卷”。英特尔是最新参与进来的玩家,并在近日公布了一个名为 Aurora genAI 的产品,它是一个主要用于科学领域的生成式 AI 模型。
英特尔 Aurora genAI 模型以 Megatron 和 DeepSpeed 为基础,其规模达到了 1 万亿个参数(1 Trillion Parameters,上图中有对应描述),相比之下 ChatGPT 的规模仅为 1750 亿参数,Aurora genAI 在参数规模上增长了约 570%。
Aurora genAI 模型将在通用文本、科学文本、科学数据和与该领域相关的代码上进行训练。这将是一个纯粹以科学为重点的生成式 AI 模型,其潜在的应用范围是:
  • 推动清洁能源聚变研究

  • 催化剂研究

  • 癌症研究

  • 航空航天研究

  • 神经科学研究

  • 宇宙学研究

拥有这么大的规模,那么驱动 Aurora genAI 模型背后的算力肯定也不容小觑。英特尔透露,他们使用的是名为 Aurora(欧若拉)的超级计算机,这是英特尔与阿贡国家实验室和 HPE 合作开发的百万兆级超级计算机。
Aurora 超级计算机采用了 21248 个 Sapphire Rapids 至强 CPU、63744 个 Xe 架构的 Ponte Vecchio GPU(英特尔表示 Ponte Vecchio GPU 的性能要优于英伟达的 H100)。Aurora 超级计算机还使用了 1024 个 DAOS 节点和 10.9 PB 的 DDR5 傲腾持久内存,所有这些组件通过 oneAPI 互相链接,实现了百万兆级性能。
Aurora 超级计算机的浮点运算能力达到了 2 exaFLOPS,而目前 TOP 500 排名第一的超级计算机 Frontier 其浮点运算能力也才 1 exaFLOPS,Aurora 实现了性能翻倍,未来 Aurora 将存放于美国阿贡国家实验室。
相关链接:https://www.intel.com/content/www/us/en/newsroom/news/intel-delivers-ai-accelerated-hpc-performance.html#gs.ywqfxl


END



2023 GOTC 全球开源技术峰会圆满结束



这里有最新开源资讯、软件更新、技术干货等内容

点这里 ↓↓↓ 记得 关注✔ 标星⭐ 哦

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
商务部部长王文涛会见英特尔公司首席执行官基辛格参数是ChaGPT的近6倍!英特尔公布AI大模型Aurora genAI,具备1万亿参数商汤版ChatGPT「商量」来了!开放API,基于千亿参数大模型,体验实录在此2023回国——总统套房,上海城隍庙小吃(多图)雷军宣布进军ChatGPT大战!国内ChatGPT赛道一触即发!300美元平替ChatGPT!斯坦福130亿参数「小羊驼」诞生,暴杀「草泥马」ChatGPT平替「小羊驼」Mac可跑!2行代码单GPU,UC伯克利再发70亿参数开源模型清华第二代60亿参数ChatGLM2开源!中文榜居首,碾压GPT-4,推理提速42%微软开源DeepSpeed Chat,人人可快速训练百亿、千亿级ChatGPT大模型用ChatGPT「指挥」数百个模型,HuggingGPT让专业模型干专业事高达3.6万亿token!PaLM 2训练数据翻5倍,全新Bard对比ChatGPT有8个优势雷军入局ChatGPT大战/ AutoGPT星标超PyTorch/ 马斯克星舰今晚发射…今日更多新鲜事在此刚刚!商汤版ChatGPT「商量」来了!开放API,基于千亿参数大模型,体验实录在此归来(五)血溅星巴克:上周日温哥华鸡毛蒜皮小事引发的命案650亿参数,8块GPU就能全参数微调!邱锡鹏团队把大模型门槛打下来了!GPT-4参数最新爆料!1.76万亿参数,8个2200亿MoE模型,PyTorch创始人深信不疑300美元复刻ChatGPT九成功力,GPT-4亲自监考,130亿参数开源模型「小羊驼」来了【城事】巴黎市长将重修Châtelet 广场以方便行人大羊驼、羊驼、小羊驼和ChatGPT比差在哪儿?CMU副教授测评了7个类ChatGPT大模型我参加过的public hearing (4) - 现场发言我在iPhone上装了70亿参数大模型,来自陈天奇团队最新成果650亿参数,8块GPU就能全参数微调:邱锡鹏团队把大模型门槛打下来了南加勒比岛国风情「模仿学习」只会套话?解释微调+130亿参数Orca:推理能力打平ChatGPTHuggingChat叫板ChatGPT!300亿参数大模型免费用,网友:真香叫板ChatGPT?Stability AI 开源语言大模型 StableLM,参数仅为GPT-3百分之四,却能实现超高性能OpenAI对ChatGPT进行更新;百川智能正式推出70亿参数开源中英文大模型|AIGC周观察第六期参数是 ChatGPT 的近 6 倍!英特尔公布 AI 大模型 Aurora genAI,具备 1 万亿参数英特尔Gaudi2加速卡GPT-4详细参数分析云从大模型现场真机演示!考中考堪比ChatGPT,还秀了一波代码能力,创始人周曦:三种递进方式颠覆传统交互阿里GPT 15天训出「鸟鸟」嘴替,比ChatGPT+Siri刺激多了!ChatGPT-5相比ChatGPT-4,将会有哪些变化?最新RLHF拯救语言模型「胡说八道」!微调效果比ChatGPT更好,两名华人共同一作巴黎市长将重修Châtelet 广场以方便行人
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。