量化训练

复古CPU上的微型AI：40KB对话模型

Z80-μLM是一个微型语言模型，专为1976年的Z80处理器设计，仅需40KB内存即可运行对话式AI。它采用量化感知训练，支持短文本生成，具有三哈希编码和2位权重量化等特点。模型通过16位整数推理实现，可在4MHz处理器上流畅交互。尽管无...