Artificial Analysis 宣布推出开源测试工具 AA-AgentPerf-Local,用于衡量本地设备运行 AI 智能体的性能。该工具通过回放录制的 Agent 工作负载,测试桌面级系统完成任务的推理速度,首批测试覆盖 NVIDIA DGX Spark(128 GB)、AMD Ryzen AI Halo(128 GB)、MacBook Pro M5 Pro(64 GB)和 NVIDIA GeForce RTX 5090(32 GB)四类硬件,以及四款开源权重模型。官方结果显示,在 27B 模型条件下,RTX 5090 的性能遥遥领先于其他参评硬件,包括价格更昂贵的 DGX Spark 与 Ryzen AI Halo,表明消费级显卡在本地 Agent 推理场景下具备极高的性价比。由于硬件价格波动较大,官方还上线了可视化网页,用户可自行输入当地售价,直观比较不同设备的单位价格性能,评估投入资金能换来的时间节省。相关工具与测试数据已发布于 Artificial Analysis 官网,同期推出笔记本电脑与工作站推理系统基准页面。对于关注本地部署大模型、搭建个人 AI 工作站的开发者而言,这份数据提供了直接的硬件选型参考。
事件分析
技术看点:AA-AgentPerf-Local 的差异化在于以真实 Agent 工作负载为测试对象,而非单纯追求 token 吞吐速度,更贴近实际开发场景。测试结果打破了“统一内存越大越适合本地推理”的直觉——DGX Spark 与 Ryzen AI Halo 虽配备 128 GB 内存,仍败给仅 32 GB 的 RTX 5090,凸显内存带宽与 CUDA 软件生态在推理性能中的决定性作用。产业影响:随着 27B 级开源权重模型能力提升,本地部署门槛持续下降,消费级显卡有望成为个人开发者与小团队的首选算力载体,同时为硬件厂商的定价策略提供了第三方锚点。后续走向:AMD ROCm 与 Apple MLX 生态若加速成熟,竞争格局或将改变,此类基准也有望成为 AI 硬件采购的标准参考。
核心观点:本地推理的胜负手不是内存容量而是带宽与生态,RTX 5090 以低配碾压旗舰,宣告消费级显卡仍是 Agent 时代性价比之王。
原文链接:Linux.do