经典重温:从CPU到GPU,每个程序员都应熟记的系统延迟数据
Hacker News 社区正在热议“每个程序员都应知道的延迟数字”这一经典技术话题。讨论并未止步于 Jeff Dean 早年总结的基础数据,而是深入到了现代硬件的性能对比与验证。社区成员不仅探讨了原始数据的误差范围,更将关注点延伸至当今 ...
标签索引
这个标签下有 2 篇文章。按时间回看相关判断与实践记录。
标签精选
Hacker News 社区正在热议“每个程序员都应知道的延迟数字”这一经典技术话题。讨论并未止步于 Jeff Dean 早年总结的基础数据,而是深入到了现代硬件的性能对比与验证。社区成员不仅探讨了原始数据的误差范围,更将关注点延伸至当今 ...
本文深入探讨了作者如何使用Triton语言重新实现FlashAttention算法,以揭示其性能优化背后的技术细节。文章从第一原理出发,实现FlashAttention v1,并通过Nsight Compute分析性能瓶颈,如内存访问模式和...