Ollama 宣布支持 Apple MLX 框架,Mac 设备本地 AI 推理性能实现飞跃
大语言模型运行工具 Ollama 近日发布重要更新,宣布正式支持 Apple 的机器学习框架 MLX。此次更新针对 Apple Silicon 芯片进行了深度底层优化,显著解锁了更快的运行速度,旨在加速 macOS 上的高负载 AI 任务。...
标签索引
这个标签下有 1 篇文章。按时间回看相关判断与实践记录。
标签精选
大语言模型运行工具 Ollama 近日发布重要更新,宣布正式支持 Apple 的机器学习框架 MLX。此次更新针对 Apple Silicon 芯片进行了深度底层优化,显著解锁了更快的运行速度,旨在加速 macOS 上的高负载 AI 任务。...