内修昇思MindSpore AI框架,外重行业汇聚,华为大模型的不平凡之路
机器之心原创
今天,我们来讲一讲昇思 MindSpore AI 框架与大模型的故事。
业界领先的全自动并行能力,提供 6 维混合并行算法,即数据并行、模型并行、流水并行、优化器并行等,一行代码实现模型自动切分、分布式并行计算,开发并行代码量降低 80%、系统调优时间下降 60%; 极致的全局内存复用能力,在开发者无感知的情况下,自动实现 NPU 内存 / CPU 内存 / NVMe 硬盘存储的多级存储优化,512 卡就可训练 10 万亿规模的参数模型,极大降低大模型训练成本; 极简的断点续训能力,可解决大集群训练故障导致的任务中断问题,实现自动恢复、继承性训练,开发者无需从头开始,千亿参数模型在分钟级就可无损恢复。
昇思大模型体验平台:https://xihe.mindspore.cn
第一阶:首次注册,赠送 1 小时算力 第二阶:下载首个模型,赠送 1 小时算力 第三阶:邀请新用户成功注册,邀请最多新用户的前三名老用户,赠送价值 5000 元、3000 元、1000 元京东卡 第四阶:下载模型最多用户,前三位赠送价值 3000 元、2000 元、1000 元京东卡 第五阶:创建可运行项目最多的前三位赠送 2000 元、1000 元 、500 元的算力
© THE END
转载请联系本公众号获得授权
投稿或寻求报道:[email protected]
微信扫码关注该文公众号作者
戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章