本文通过详实的数据分析,对比了在本地 Apple Silicon 硬件上运行大模型与使用云服务 OpenRouter 的经济成本。作者以配备 M5 Max 芯片和 64GB 内存的 MacBook Pro(售价 4299 美元)为测试对象,模拟运行 Gemma 4 31b 等高性能模型。分析表明,尽管本地推理的电费成本极低(约每小时 0.02 美元),但高昂的硬件购置价格导致设备折旧成为主要开销。结合 10 至 40 tokens per second 的实际推理速度,在假设设备使用寿命为 3 至 5 年的情况下,本地推理每百万 Token 的综合成本约为 1.50 至 4.79 美元。相比之下,OpenRouter 提供的同类模型服务价格仅为每百万 Token 0.38 至 0.50 美元,且云端推理速度(60-70 tokens/s)是本地实测速度的两倍以上。文章进一步指出,对于从事 AI 编程的专业人士而言,其时间成本远高于算力节省的费用,云端服务在性价比和响应速度上均占据绝对优势,只有在极端的设备寿命或极低的电力价格假设下,本地部署才具备成本竞争力。
事件分析
💡 核心观点:打破“本地 AI 更省钱”的迷思:硬件折旧导致端侧推理成本反超云服务,云端算力的规模经济仍是当前最优解。
原文链接:Hacker News





