AVX-512深度实战:为何显式SIMD比CUDA更契合LLM时代?
本文深入探讨了AVX-512的性能与可编程性,通过K-Means算法对比了手动向量化、编译器自动优化及CUDA的差异。实测显示,手动AVX-512代码虽繁琐,但实现了接近理论极限的性能,大幅领先自动向量化。文章指出,相比CUDA的抽象,显式...
本文深入探讨了AVX-512的性能与可编程性,通过K-Means算法对比了手动向量化、编译器自动优化及CUDA的差异。实测显示,手动AVX-512代码虽繁琐,但实现了接近理论极限的性能,大幅领先自动向量化。文章指出,相比CUDA的抽象,显式...
本文提出了一种在浮点运算环境下高效计算大有限域矩阵乘法的新方法。现有技术因浮点尾数限制,通常只能处理较小的素数位宽。该研究创新性地采用多字分解技术,成功将双精度算力支持的素数位宽上限从26位提升至52位。在CPU和GPU上的实验表明,该方法...

ECS / OSS / CDN / 云数据库一站采购,常用云资源集中选配;新用户与续费均有专场优惠,适合个人开发者与小团队长期使用。
在2025年OpenZFS开发者峰会上,Zettalane展示了objbacker.io,这是一种用于对象存储的原生ZFS VDEV实现。该方案通过内核级集成完全绕过了FUSE层,消除了传统方案中内核与用户空间频繁切换的开销。测试显示,其通...
本文探讨了3D图形编程中轴对齐包围盒(AABB)的内存布局优化策略。相比传统的分别存储最小值和最大值,采用交错存储坐标的方式能显著提升数据局部性。这种结构设计更利于SIMD指令集并行处理,允许同时加载并检查三个维度的坐标,从而大幅提升碰撞检...
本文详细记录了为 SCION 协会构建一台 25 Gbit/s 高性能工作站的完整过程。作者选用了 Intel Xeon W5-2455X CPU 和三块 NVIDIA BlueField-2 智能网卡,旨在利用 Linux 原生 AF_X...
Zen-C 是一项致力于革新系统编程体验的技术。它允许开发者使用高级语言的语法和抽象进行编程,但最终生成的代码却能保持与 C 语言相媲美的极致运行效率。该项目特别针对 NPU(神经网络处理器)等前沿硬件进行了优化,旨在降低底层系统开发的门槛...
高性能GPU布谷鸟过滤器是一个开源项目,利用GPU并行计算能力优化数据结构性能。布谷鸟过滤器作为高效的数据检索工具,通过GPU加速显著提升处理速度,适用于AI、大数据处理和自动驾驶等领域。该项目在GitHub上提供完整代码,开发者可快速集成...
这是一款专为C++23设计的高性能x86-64容器库,由AI辅助开发完成。该库通过结合SIMD指令集加速、hugepage内存分配和可调节点大小等技术,在大型树结构操作中实现了比行业标准库2-5倍的性能提升。库中包含B+Tree、Dense...
本文是一篇关于内存子系统优化的综合性指南,涵盖了18个关键优化主题,旨在帮助开发者通过更高效地利用内存子系统来提升软件性能。文章详细探讨了减少内存访问次数、优化数据布局和访问模式、增加指令级并行性、减少TLB缓存缺失、节省内存带宽等实用技术...
BusterMQ是一款基于Zig语言和io_uring构建的高性能NATS服务器,采用线程每核心设计。基准测试显示,在AMD Ryzen 9 9950X处理器上,其发布速率高达6.30M消息/秒,交付速率达58.74M消息/秒,带宽达8.2...