跳到主要内容
赞助推荐 Claude Team 合租,少折腾账号
>80aj_
前沿哨所

MDST引擎发布:利用WebGPU在浏览器端直接运行GGUF大模型

1 分钟阅读阅读(161)
赞助推荐 团队协作里的 AI 办公工作台

MDST引擎展示了基于WebGPU和WASM技术在浏览器端直接运行GGUF大模型的能力,标志着本地化AI推理的进一步普及。虽然该项目承诺最终将开源,但当前强制要求账户登录(仅支持Google和GitHub)引发了社区对数据隐私的担忧。开发者回应称,利用WebGPU调用用户本地算力,是摆脱对昂贵服务器依赖、提供真正免费AI服务的可持续路径。

原文链接:Hacker News

赞助推荐 一人公司 · 创业装备库
赞助推荐 一人公司 · 创业装备库
赞助推荐 一键部署 AI 大模型
赞助推荐 一键部署 AI 大模型
赞(0)
未经允许不得转载:80aj » MDST引擎发布:利用WebGPU在浏览器端直接运行GGUF大模型
赞助推荐 低成本上手 Claude Code 的中转选择
赞助推荐 低成本上手 Claude Code 的中转选择
赞助推荐 一键部署 AI 大模型
赞助推荐 一键部署 AI 大模型