Molta：轻量级网关，让本地 AI 机器人兼容 OpenAI 接口
Molta 是一款轻量级 HTTP 网关工具，旨在解决现有客户端与本地 AI 机器人（如 MoltBot/ClawdBot）的连接难题。它通过将标准的 OpenAI v1/chat/completions 请求转换为 WebSocket 协...
标签索引 / 第 12 页
本地部署
这个标签下有 130 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
开源实测：Qwen3-ASR本地部署生成电影字幕
一位开发者在GitHub分享了基于Qwen3-ASR-1.7B和Qwen3-ForcedAligner-0.6B模型的本地脚本，旨在生成高质量电影字幕。该方案经过20分钟中文视频实测，表现稳定且效果良好。这不仅验证了Qwen3开源模型在语音...
Python单文件实现轻量级本地RAG语义检索
本文介绍了一种极简的本地 RAG 语义检索方案。作者受限于老旧 Windows 7 系统及 512MB 内存的 VPS，无法运行现有的重型 RAG 项目，因此编写了一个 Python 单文件脚本。该脚本支持代码语义搜索与自定义嵌入式模型 A...
LM Studio 0.4.0 发布：新增无头部署与并行推理能力
LM Studio 发布 0.4.0 版本，引入全新无 GUI 守护进程“llmster”，支持在云端服务器及 CI 环境中部署核心功能。新版本基于 llama.cpp 2.0 引擎实现了并行请求与连续批处理，大幅提升推理吞吐量。同时，发布...
轻量级AI部署新参考：clawdbot内存占用仅300MB
社区数据显示，AI机器人clawdbot在运行中表现出极高的资源效率，仅占用约300MB内存和5GB硬盘空间，CPU负载极低。尽管其底层模型不支持联网，但Bot实现了联网功能，引发了开发者对其实现机制的技术探讨。这为寻找低成本、本地化AI解...
不等 Cursor 企业版：Codex CLI 本地部署完整实战（含权限控制秘籍）
TL;DR OpenAI Codex CLI 让你在本地安全驾驭 GPT-5.2 算力，无需上传代码到云端。本文揭秘 sandbox 三境界（只读→工作区→YOLO）、config.toml 武器库、exec 自动化实战，以及 90% 的人...
开源全能AI助手Clawdbot：本地运行，打通多平台通讯
Clawdbot 是一个强调本地优先和隐私保护的开源个人 AI 助手。它支持 WhatsApp、Telegram、Slack 等十多种主流通讯渠道，并能在 macOS、iOS、Android 和 Linux 设备上无缝运行。该工具集成了语音...
拒绝API封装：开发者推出本地GPU加速的AI视频流水线
开发者推出了名为AutoShorts的本地化AI视频生成流水线，旨在解决现有AI工具过度依赖昂贵API、高延迟及隐私泄露的问题。该工具充分利用GPU加速，利用PyTorch进行场景分析，结合本地TTS技术实现零成本音频生成，并使用NVENC...
告别人工“点点点”：探索本地大模型结合计算机视觉的UI测试新方案
针对传统UI测试中重复繁琐的痛点，行业正积极探索利用本地部署的大模型结合计算机视觉技术来革新测试流程。该方案旨在解决跨区测试的视觉识别难题，并通过本地化运行确保数据安全。用户希望能通过大模型自动生成并执行如登录验证等复杂测试步骤，这一趋势预...
复刻微信UI，好友全是AI：打造本地虚拟社交沙盒
开发者推出了 WeAgentChat，这是一个高度还原微信 UI 的 AI 社交应用。它不仅复刻了经典交互，更内置了具备独特性格和长期记忆的 AI 好友。应用采用本地优先架构，利用 RAG 和双轨记忆系统实现深度对话，支持按话题匹配角色及接...