跳到主要内容
赞助推荐 Claude Team 合租,少折腾账号
>80aj_
赞助推荐 开放可编程的智能路由
赞助推荐 开放可编程的智能路由

标签索引 / 第 8 页

边缘计算

这个标签下有 100 篇文章。按时间回看相关判断与实践记录。

标签精选

相关内容

前沿哨所

Taalas新架构实现每秒1.7万Tokens推理,推动AI走向普及

AI芯片初创公司Taalas发布了一项技术突破,声称其新型架构能够实现每秒17000个Tokens的推理速度,远超当前通用GPU水平。该公司致力于解决大模型部署的高能耗和高成本问题,通过创新的数据流架构打破“内存墙”,将计算与存储深度融合。...

1 分钟阅读197 阅读
前沿哨所

MDST引擎发布:利用WebGPU在浏览器端直接运行GGUF大模型

MDST引擎展示了基于WebGPU和WASM技术在浏览器端直接运行GGUF大模型的能力,标志着本地化AI推理的进一步普及。虽然该项目承诺最终将开源,但当前强制要求账户登录(仅支持Google和GitHub)引发了社区对数据隐私的担忧。开发者...

1 分钟阅读160 阅读