WebGPU赋能浏览器AI：ONNX运行时在客户端的落地前景
随着WebGPU技术的成熟，业界开始探索利用ONNX Runtime Web等方案，在浏览器端直接运行AI小模型。这一思路旨在利用客户端GPU算力，将AI推理从云端下沉，从而降低延迟并提升隐私保护。社区讨论表明，虽然相关项目仍处于发展阶段，...
标签索引
ONNX
这个标签下有 2 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
AI框架静默转换模型为FP16，引发精度担忧
近日，技术文章揭示，ONNX Runtime和CoreML等AI框架在模型部署过程中，可能会自动将模型转换为FP16半精度格式，而未明确告知用户。这种转换旨在提升推理速度，但可能导致模型精度下降，尤其在复杂任务如自动驾驶或医疗AI中，影响预...