硬核极客:开发者成功在任天堂N64上运行nano-GPT大模型,4MB内存实现AI推理
该项目名为“Legend of Elya”,成功将一个nano-GPT语言模型部署至1996年的任天堂N64主机上。在仅有93MHz主频VR4300 CPU和4MB内存的极端硬件限制下,开发者通过Q4量化、Q8.7定点运算及禁用FPU等技术...
标签索引
这个标签下有 1 篇文章。按时间回看相关判断与实践记录。
标签精选
该项目名为“Legend of Elya”,成功将一个nano-GPT语言模型部署至1996年的任天堂N64主机上。在仅有93MHz主频VR4300 CPU和4MB内存的极端硬件限制下,开发者通过Q4量化、Q8.7定点运算及禁用FPU等技术...