蚂蚁开源分布式训练扩展库ATorch

快讯零壹财经零壹财经 2024-01-13 阅读：463

关键词：分布式 蚂蚁 开源

1月9日，近日，宣布开源大模型分布式训练加速扩展库ATorch，可针对不同模型和硬件资源，实现深度学习自动资源动态优化和分布式训练稳定性提升，帮助提升深度学习的智能性。据了解，在大模型训练中，ATorch千亿模型千卡级别训练的算力利用率可达60%。目前，ATorch已集成到蚂蚁集团大模型训练开源产品DLRover中，这是蚂蚁集团基于云原生技术打造的智能分布式深度学习系统。（科创板日报）

上一篇>买卖虚拟货币要缴税，有何影响？

下一篇>商汤科技：前海深港人工智能算力中心正式启动