AdaptDNN:一个自适应可伸缩的大模型分布式训练系统
随着深度学习模型参数量的不断增加,训练成本也在不断上升.为了减少训练成本,使用云服务厂商提供的弹性实例训练模型成为了一个可行的解决方案.弹性实例的价格仅为正常实例的30%,可以有效降低训练成本.虽然弹性实例价格低廉,但随时都有被回收的风险,对模型训练...
计算机研究与发展
网络首发
立即查看 >
图书推荐
相关工具书