无需 H100 集群:开发者开源 Tiny LLM Studio,支持 MacBook 全流程训练 0.1B 模型
针对普通开发者难以接触大模型底层训练的痛点,该项目开源了名为 Tiny LLM Studio 的工具,实现了在 MacBook 上单机完成从 Tokenizer 训练、预训练、SFT 到 DPO 的全流程。项目采用类 LLaMA 架构与 P...
标签索引
这个标签下有 1 篇文章。按时间回看相关判断与实践记录。
标签精选
针对普通开发者难以接触大模型底层训练的痛点,该项目开源了名为 Tiny LLM Studio 的工具,实现了在 MacBook 上单机完成从 Tokenizer 训练、预训练、SFT 到 DPO 的全流程。项目采用类 LLaMA 架构与 P...