智谱GLM-5正式接入Ollama：744B参数MoE模型支持本地运行
知名大模型本地运行工具Ollama现已正式支持Z.ai（智谱AI）发布的GLM-5模型。作为拥有744B总参数量（40B激活）的超大规模混合专家（MoE）模型，GLM-5专为复杂系统推理及长视界Agent任务设计，具备强大的工程能力。开发者...
标签索引 / 第 11 页
本地部署
这个标签下有 130 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
开源AI同事Rowboat：构建本地知识图谱，打造能“长期记忆”的智能工作流代理
Rowboat 是一款开源的“本地优先”型 AI 智能体，致力于解决大模型缺乏持久记忆与上下文丢失的痛点。它能连接用户的邮件、日历及会议记录，在本地构建一个基于 Markdown 的 Obsidian 兼容知识图谱，使 AI 能够积累关于人...
开源工具 Codex-Listener：打通本地 Agent 与即时通讯，实现 AI 远程调度
针对 AI Agent 难以在本地运行时向用户实时反馈进度的痛点，开发者推出了开源工具 Codex-Listener。该项目不仅能让 Nanobot 等 AI Agent 调用 Codex 完成任务，还能通过飞书 Bot 推送实时状态通知。...
Qwen3-Coder-Next实战：Docker本地化部署与4卡4090D性能初探
社区第一时间分享了Qwen3-Coder-Next模型的本地部署方案。该教程基于Windows环境和4张Nvidia 4090D显卡，利用vLLM的Docker镜像完成了FP8精度模型的配置。作者提供了详细的docker-compose.y...
OpenClaw 本地模型与部署策略：成本、隐私、性能三角
“OpenClaw 要不要上本地模型？”这个问题看起来像技术选型，实际上是业务选型。你要解决的不是“哪个模型最强”，而是“在你的场景里，成本、隐私、性能怎么平衡”。 这篇给你一套可执行判断框架，不做模型口水战。 先明确：三角关系不可能同时拉...
打破 AI 记忆局限：开源项目 task_scheduler 赋能助手实现自然语言定时提醒
针对现有 AI 助手缺乏长期记忆和主动触发能力的痛点，开发者推出了开源项目 task_scheduler。该工具通过“对话即引擎”的设计，支持自然语言指令，能自动探测本地 Python 环境、启动 FastAPI 服务，并通过邮件和 Web...
拒绝API背刺！教你修复OpenClaw“失忆”症，本地化Embedding实现零成本记忆
OpenClaw（龙虾）AI Agent 在移除 Gemini API Key 后频现“失忆”与报错，根源在于其默认依赖 OpenAI 或 Gemini 的云端付费 Embedding 模型。本文提供了一套低成本技术解决方案，通过修改配置文...
Qwen3-Coder-Next 发布：80B 总参数仅需激活 3B，极致性能适配本地 Coding Agent
通义千问团队发布了全新 Qwen3-Coder-Next 模型。该模型虽然拥有 80B 的总参数量，但采用了高效的架构设计，推理时仅需激活 3B 参数。这意味着它在保留千亿级模型知识容量的同时，极大降低了推理开销，非常适合在本地运行 Cod...
宣称“类脑架构”且单张3090可跑，社区热议多模态模型实测
一款宣称采用“类脑架构”的多模态大模型即将接受测试，引发行业关注。该模型据称具备类似豆包的语音对话及视觉能力，且硬件门槛极低，仅需一张本地RTX 3090显卡即可运行。鉴于“类脑计算”通常依赖专用硬件，此次其在通用消费级显卡上的表现引发热议...
开源Word插件WriteBot更新：Bun提速，打造注重隐私的本地AI写作助手
开源Word写作插件WriteBot发布了周末更新日志。作者将项目完全迁移至Bun进行打包，显著提升了构建效率，并新增了“智能需求”功能，通过结合Office API与LLM工具调用，实现一键搜索、替换及段落调整。作者强调，与Copilot...