昇思MindSpore 2.3全新发布

您当前的位置:首页 > 新闻资讯
2024-03-28    人浏览 加入收藏 (0)   

3月22日,以“为智而昇,思创之源”为主题的昇思人工智能框架峰会2024在北京举办。会上,昇思MindSpore 2.3全新发布,使得大模型开发训推更简单、更稳定、更高效。

近两年包括昇思MindSpore在内的开源框架产品不断发展,IDC的研究显示,昇思MindSpore在生态建设方面取得优异成绩。中国工程院院士、中国人工智能学会副理事长何友在致辞中表示:中国人工智能学会与昇思MindSpore紧密合作,携手鹏城实验室、昇思MindSpore开展学术基金2.0项目,加速推动基于昇思的原生学术创新及论文成果发表,发挥学术人才的原生力,结合昇思的技术原创力,以学术创新支撑人工智能产业繁荣。

华为ICT Marketing总裁周军表示:AI框架的并行计算能力、简洁编程能力、便捷部署能力等,逐渐成为大模型训练的关键成功要素。昇思将持续创新探索,聚焦根技术,以更开放的技术体系让伙伴和开发者更灵活地实现大模型创新,加速大模型应用规模化落地。

2021年图灵奖获得者、田纳西大学计算机科学杰出教授Jack Dongarra分享了计算和框架的发展趋势,他指出开源本质上有很多优点,能切实地为未来提供更好的软件基础,开发MindSpore开源框架推动了软件性能提升。

昇思MindSpore积极探索前沿技术,支撑大模型原生高效训练。原创的多副本、多流水交织等8种并行技术使集群线性度达到90%(业界不足60%),整图优化及下沉执行等使得算力利用率达到55%(业界不足40%);针对集群故障率高、恢复时间长的普遍问题,通过编译快照,确定性CKPT技术实现20分钟完成故障修复。

在大模型部署上,昇思MindSpore 2.3通过训推一体的架构升级实现脚本、分布式策略运行时的统一,Baichuan2-13B的推理部署只需1天。在大模型推理上,通过LLM Serving实现推理吞吐量提升两倍多。 

来源:人民邮电报

内容简介

3月22日,以“为智而昇,思创之源”为主题的昇思人工智能框架峰会2024在北京举办。会上,昇思MindSpore 2.3全新发布,使得大模型开发训推更简单、更稳定、更
  • 浏览量统计人浏览
  • 更多优质内容,敬请关注