AI芯片算力

超越Newton-Schulz：新型极分解算法实现更快的矩阵逆平方根计算

这项研究提出了一种利用极分解来计算矩阵逆平方根的新型算法，在性能上超越了目前广泛使用的Newton-Schulz迭代法。矩阵逆平方根是深度学习中二阶优化器（如K-FAC、Shampoo）及数据白化的核心算子。新方法通过改进底层数学逻辑，显著...