极限挑战：在25KB内存的BBC Micro上运行Mamba语言模型

一名开发者成功在1975年发布的MOS 6502八位处理器上运行了基于Mamba架构的自回归语言模型，实现了现代AI技术与复古硬件的跨界融合。该项目面临极其苛刻的硬件限制：处理器仅有32KB RAM，用户可用空间仅25KB，且指令集缺乏乘法运算。为克服这些挑战，开发者采用了BitNet量化技术，将模型权重限制为-1、0、+1的三元集合，从而将昂贵的乘法运算转化为高效的加减法运算，并利用查表法实现了Top-K采样。在架构选择上，项目放弃了内存消耗随上下文增长的Transformer架构，转而使用状态空间模型（Mamba），因其固定大小的状态向量更适合内存受限的环境。该系统最终被移植到其父亲的BBC Micro计算机上，能够在数分钟内生成简单的文本，这不仅是复古计算的一项壮举，也为边缘设备上的AI推理提供了极具价值的参考案例。

事件分析

💡 核心观点：极致的硬件约束反向证明了架构选择的重要性，Mamba与BitNet的结合打破了Transformer对显存的依赖，为端侧AI的轻量化落地提供了全新范式。