80MHz 实现每秒 5.6 万 tokens：工程师将纯数字 Transformer 烧录至 FPGA

近日，一项名为“GateGPT”的硬件加速项目在 Hacker News 上引发热议。该项目展示了在不依赖传统 CPU 或 GPU 的情况下，仅通过纯数字硅芯片实现 Transformer 模型推理的惊人效率。开发者 Felipe Guzman 通过门级设计，将包含 KV Cache 的完整 Transformer 架构烧录进了一块 FPGA（现场可编程门阵列）芯片中。测试数据显示，在仅 80 MHz 的低时钟频率下，该原型机实现了超过 56,000 tokens per second 的处理速度。为了验证功能，开发者在硬件上成功运行了 Andrej Karpathy 开发的 microGPT 开源模型，并能完成字符拼写等任务。这一架构完全抛弃了冯·诺依曼架构中常见的通用处理器，转而采用专用数字电路直接处理矩阵运算，极大减少了指令解码和内存访问的开销。这一突破性尝试为 AI 推理的硬件优化提供了全新思路，证明了专用集成电路在特定算力任务上的巨大潜力。

事件分析

💡 核心观点：软件算法硬化为纯硅基逻辑，以极低频率实现极高吞吐，预示着边缘端 AI 硬件定制化时代的到来。