跳到主要内容
赞助推荐 Claude Team 合租,少折腾账号
>80aj_
前沿哨所

仅26M参数!Needle模型将Gemini工具调用能力蒸馏至极致,支持本地PC微调

1 分钟阅读阅读(252)
赞助推荐 团队协作里的 AI 办公工作台

Cactus Compute团队推出了名为Needle的超微型语言模型,参数量仅为2600万(26M)。该模型通过知识蒸馏技术从Gemini 3.1中提取核心能力,专注于高效的“工具调用”场景。尽管体积极小,Needle在单次函数调用任务中的表现超越了FunctionGemma-270m和Qwen-0.6B等规模更大的模型。其架构为“简单注意力网络”(SAN),推理速度极快(预填充6000 toks/s),且专为手机、手表等消费级设备设计。目前该项目已完全开源模型权重与数据集生成流程,用户甚至可以在普通的Mac或PC上通过Web UI对模型进行本地微调。

原文链接:Hacker News

赞助推荐 一人公司 · 创业装备库
赞助推荐 一人公司 · 创业装备库
赞助推荐 一键部署 AI 大模型
赞助推荐 一键部署 AI 大模型
赞(0)
未经允许不得转载:80aj » 仅26M参数!Needle模型将Gemini工具调用能力蒸馏至极致,支持本地PC微调
赞助推荐 低成本上手 Claude Code 的中转选择
赞助推荐 低成本上手 Claude Code 的中转选择
赞助推荐 一键部署 AI 大模型
赞助推荐 一键部署 AI 大模型