Redian新闻
>
使能算力:锐捷网络发布AIGC智算中心网络整体方案

使能算力:锐捷网络发布AIGC智算中心网络整体方案

公众号新闻

9月13日至14日,2023开放数据中心大会在北京市隆重开幕。锐捷网络在网络分论坛上发布了AIGC智算中心网络整体方案,为AIGC大模型的发展提供了全方位的网络解法。

大模型发展趋势以及网络通信诉求

随着AIGC技术赋能产业持续升级,业务对大模型的需求也日益旺盛,更多的训练参数量以及更高的算力成为大语言模型的迭代目标。为了支撑多元化的行业应用,数据中心需要更大规模的集群来承载大语言模型的分布式训练。大语言模型运算效率与网络转发带宽存在密不可分的联系,网络带宽接入能力与网络带宽利用率是影响GPU利用率的关键指标。

基于以上需求和痛点,锐捷网络解决方案经理刘洋在2023开放数据中心大会(ODCC 2023)上,通过主题演讲《面向AIGC的智算中心网络建设思考》,阐述了AIGC大模型的发展趋势及关键诉求,正式发布了AIGC智算中心网络整体方案。方案采用统一标准化的以太网络技术,具体提出两种AIGC智算中心网络解决方案。

锐捷网络解决方案经理刘洋

现场观众






高性能以太网络

解决方案



高性能以太网络解决方案通过三级组网的方式可以满足3.2万个400G端口接入需求,支撑32K块GPU卡的集群规模。在网络性能层面,部署实施时关注RDMA无损网络中PFC、ECN等水线的设置,进行负载均衡模式及算法优化提升网络的带宽利用率(详细技术可参考文章《解决数据中心网络拥塞,锐捷RALB负载均衡技术助力高效数据传输》)。运维优化阶段,该方案强调对网络关键指标的实时监控,应用智能运维平台根据现网状况进行动态调整以实现更佳的网络性能,该解决方案已获得市场的广泛认可。

高性能以太网络解决方案

网络宽带接入层面,锐捷网络发布的RG-S6980-64QC数据中心交换机支持64*400G通信端口,可以同时应用在Tor、Leaf、Spine三个层级,该设备已经批量交付了很多互联网的客户。

数据中心盒式核心交换机RG-S6980-64QC







AI-Fabric智算中心

网络解决方案


AI-Fabric智算中心网络解决方案是锐捷网络针对AIGC业务场景发布的另一套解决方案。采用NCP+NCF为基础模块横向扩展的三级网络架构,可以支撑17K~32K的大规模GPU卡集群。基于高性能芯片技术,通过将数据流切分成等长的Cell并负载到所有链路,提升网络带宽利用率;基于VOQ+Credit的端到端流控机制实现与业务无关的无损自闭环网络,助力业务算力提升。(详细技术可参考文章《锐捷网络高性能网络方案,为AIGC打通 “任督二脉”》)

AI-Fabric方案组网架构

网络宽带接入层面,AI-Fabric智算中心网络解决方案由400G NCP 交换机和200G NCF 交换机组成。NCP设备为RG-S6930-18QC40F1,支持18口400G的业务口,并支持40口200G的Fabric内联口。NCF设备为RG-X56-96F1,支持96口200G的Fabric内联口。该解决方案可满足不同业务需求,具有可扩展性和灵活性。

AI-Fabric 400G高带宽产品接入方案




在全球互联网流量不断增长和数据应用需求日益多样化的背景下,锐捷网络致力于推动网络技术的进步和发展,AIGC智算中心网络整体方案的推出正是其不断探索和创新的有力证明。通过持续的技术研发和产品创新,锐捷网络将继续为全球的数据中心提供更加高效、可靠、智能的网络解决方案,在AIGC时代,助力互联网企业及各行各业的快速发展。

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
AMD引领智能算力,携AI解决方案亮相进博会走“晋”看!锐捷网络亮相第十三届农村金融机构信息化发展创新座谈会智算在网 | 锐捷网络AIGC网络方案深度解读动物世界,镜头前的它助力亚运会,锐捷网络为五大场景全面护航市经济和信息化局印发《人工智能算力券实施方案(2023—2025年)》1个月完成1000家门店网络升级 “对症”老百姓大药房规模化门店网改痛点 锐捷网络出“奇药”【非洲天空下的凝视】 【Gazes Under African Sky】拥抱AI变革,锐捷网络抢占“智算网络建设”高台,多项业务硕果夯实根基聚焦政务云|锐捷网络再次亮相2023年政务外网CIO高级研修班长沙超算中心:为新型工业化夯实算力“底座”AIGC日报丨雷军王小川牵手,小米大模型投资布局首次曝光;总算力达400P,武汉人工智能计算中心完成三期扩容三七、世纪华通、完美世界、巨人网络发布上半年财报:喜忧参半算力风云突变,智算中心何以蜕变? | 另类投资观点第190期阳狮集团Q2有机增长超过7%,与Q1的表现持平;吕海媛担任CAAC智能大屏营销工作委员会常务副秘书长(广告狂人日报)大模型需要什么样的智算中心?7位大咖谈AIGC时代算力挑战与风口丨GACS 2023智算中心网络架构设计实践(2023)十年如一日,锐捷网络为全国职业院校技能大赛“网络系统管理”赛项保驾护航AI驱动的算力变革:如何突破智能算力瓶颈?|直播预约智算中心网络架构选型及对比锐捷网络新能源电场风光无线解决方案!为智能化安全生产保驾护航锐捷网络股份有限公司关于预防求职诈骗的声明动辄几十亿!智算中心连出大单,华为阿里寒武纪壁仞抢滩锐捷网络亮相2023山东教育装备展,“三大”创新方案备受瞩目!【老键曲库】Landscape in the mist themeAIGC算力全景与趋势报告发布!一文解读AIGC算力构成、产业链条,还有五新趋势判断特别关注 | 锐捷网络亮相2023中国算力大会创新成果展邀请函|锐捷网络与您相约2023中国国际数字经济博览会总体方案|国务院印发《中国(新疆)自由贸易试验区总体方案》相聚银川|锐捷网络诚邀您参加2023中国算力大会!北汽研究总院数字化研究院(蓝谷信息)与锐捷网络深化业务合作,共创数字化办公新方案锐捷网络荣获“2023年度科技行业上市公司卓越表现奖”如何减肥希腊圣德米特里圣教堂(Holy Church of Saint Demetrius),列入世界遗产蚂蚁集团已建设万卡异构算力集群;长安汽车泰国制造基地正式动工;腾讯联合松江落地国内最大规模GPU智算中心丨智能制造日报
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。