昇腾NPU动态显存调度成国产化算力落地瓶颈
随着企业加速国产化算力布局,昇腾NPU的应用日益普及,但其软件生态短板逐渐显现。有开发者指出,昇腾NPU官方文档主要支持静态显存配置,缺乏动态显存调度机制。这导致在多机多卡环境下,无法有效监测模型波动和卡负载情况,严重影响了资源利用率和运维...
标签索引
这个标签下有 1 篇文章。按时间回看相关判断与实践记录。
标签精选
随着企业加速国产化算力布局,昇腾NPU的应用日益普及,但其软件生态短板逐渐显现。有开发者指出,昇腾NPU官方文档主要支持静态显存配置,缺乏动态显存调度机制。这导致在多机多卡环境下,无法有效监测模型波动和卡负载情况,严重影响了资源利用率和运维...