基于 Fable 5 与 MLX，开发者打造 macOS 本地实时转录翻译 CLI 工具

一款名为 livecaption 的开源命令行工具近日在 GitHub 发布，旨在为 Apple Silicon 芯片的 macOS 设备提供完全本地化的实时音频转录与翻译服务。该项目由开发者利用 Fable 5（一种将 F# 代码编译为 JavaScript 或 Python 的工具）构建，其核心亮点在于实现了无 UI 交互、纯本地模型运行以及低延迟的实时处理。在技术实现层面，livecaption 深度结合了苹果的 MLX 机器学习框架，充分利用 Apple GPU 的算力。具体而言，其 ASR（自动语音识别）模块选用了 NVIDIA Nemotron-3.5-asr-streaming-0.6b-8bit 流式模型，而翻译模块则采用了混元 Hy-MT2-7B-4bit 模型。通过 4bit 和 8bit 的量化技术，这些大模型得以在端侧设备上高效运行，无需依赖云端服务。功能特性方面，该工具不仅支持麦克风输入，还支持系统音频捕获或两者同时进行，非常适合会议记录等双向字幕生成场景。此外，工具集成了 VAD（语音活动检测）、说话人分离以及 two-pass 纠偏等算法细节，确保了输出文本的准确性与可读性。据实测，其效果显著优于 macOS 系统自带的实时字幕。尽管 Fable 编译过程耗时较长，但最终成品展现了极高的运行效率，为端侧 AI 应用的开发提供了新的参考范式。

事件分析

💡 核心观点：端侧 AI 推理能力的飞跃正推动 CLI 工具智能化，基于 MLX 的本地化多模态处理方案将成为隐私敏感场景下的主流选择。