AI-Optimized Kernels Beat NVIDIA cuBLAS with Reinforcement Learning

CUDA-L2是一个创新系统，结合大语言模型（LLM）和强化学习（RL）自动优化半精度矩阵乘法（HGEMM）CUDA内核。在A100 GPU上测试的1000个配置中，它显著超越了torch.matmul以及NVIDIA的专有库cuBLAS、cuBLASLt-heuristic和cuBLASLt-AutoT的性能。项目开源于GitHub，提供详细安装指南、环境配置、评估脚本和FAQ，支持离线和服务器模式执行。其核心价值在于利用AI技术提升计算效率，对AI开发者、研究人员和芯片行业具有重要参考价值，特别是在加速大语言模型训练和推理方面。未来计划扩展到更多GPU架构和配置。