标签索引

实时推理

这个标签下有 3 篇文章。按时间回看相关判断与实践记录。

标签精选

无需云端，M3 Pro 本地实现实时多模态 AI 对话：开源项目 Parlor 详解

开发者 Fikri Karim 在 GitHub 上开源了 Parlor 项目，展示了在 M3 Pro 芯片上运行完全本地化的实时多模态 AI 能力。该项目利用 Google 最新的 Gemma 4 E2B 模型处理视觉和语音输入，结合 K...

2026-04-061 分钟阅读104 阅读

开发者For-The-Zero在GitHub发布了一款名为“Kaomera”的趣味AI相机项目。该工具利用vLLM技术，能够实时捕获摄像头画面，并将其转化为富有表现力的颜文字。该项目不仅展示了vLLM在多模态推理上的低延迟性能，也为AI交互...

2026-02-231 分钟阅读146 阅读

Black Forest Lab 发布 FLUX.2 [klein] 模型家族，号称迄今为止最快的图像模型。该架构统一了生成与编辑功能，实现亚秒级端到端推理，最高画质下仅需0.5秒。模型专为实时交互设计，支持消费级显卡（约13GB显存），并...

2026-01-171 分钟阅读221 阅读