拒绝云端上传，用户探讨家用摄像头的本地AI部署方案
近日，有用户发起关于“无需联网 AI 摄像头”的技术讨论，旨在解决家庭安防中的隐私痛点。该需求重点在于寻找支持本地算力的硬件，能够直接在设备端运行人形检测和动作识别模型，避免视频流上传至云端。讨论范围涵盖了具备本地 AI 能力的成品摄像头，...
标签索引 / 第 8 页
本地部署
这个标签下有 130 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
何时能像装 NAS 一样部署家用 LLM？成本与性能的双重博弈
V2EX 社区近期引发了关于“家用 LLM 部署”的讨论，用户展望未来能像搭建 NAS 一样，在家庭环境中轻松运行私有化大模型。这一愿景的实现取决于两大关键变量：硬件成本的显著降低（如高显存芯片普及）以及开源模型能力的全面跃升（媲美顶尖闭源...
腾讯混元1.8B翻译模型实测：本地部署指南与Prompt调优技巧
本文深入测评了腾讯混元HY-MT1.5-1.8B翻译模型，详细介绍了利用llama.cpp和Ollama在本地部署该模型的具体步骤。文章不仅提供了基于官方报告的最佳参数配置（如temperature 0.7、top_p 0.6），还指出了一...
无需代理解决 GitHub 连接问题：GrokSearch 本地部署与 MCP 配置指南
针对国内开发者无法直接连接 GitHub 下载资源的痛点，本文提供了一种将 GrokSearch 项目进行本地配置的实用方案。该工具集成了 xAI 的 Grok 模型与 Tavily 搜索能力。文章详细列出了在 CC-Switch 和 Ch...
本地AI翻译大横评：Qwen 3.5-9B准确率夺冠，社区黑话成全行业死穴
本报告基于M4 Mac Mini环境，对5个本地小模型与GPT、Claude等顶尖API进行了中英社区语料翻译实测。结果显示，Qwen 3.5-9B以78.2分领跑小模型榜，准确率逼近GPT-5.4，而Qwen 3-4B则在速度与质量上实现...
本地大模型翻译谁最强？M4 Mac Mini 横评 Qwen、Llama 等七款小模型
本文基于 M4 Mac Mini 通过 Ollama 对 7 款 7B 以下参数模型进行了严谨的翻译能力实测，涵盖 5 种目标语言及 1155 条真实论坛语料。测试结果显示，3B 及以下模型响应均在 1 秒以内，足以满足实时交互需求；而腾讯...
实战测评：Mac本地部署AI翻译模型，专用小模型表现力压DeepSeek
针对个人用户在Mac mini M4（16G内存）上本地部署翻译模型的需求，本文提供了详尽的测评报告。作者筛选了Mistral、Qwen、DeepSeek及GLM等主流开源的小参数模型（14B以下），通过自动化脚本对社区长文本进行翻译测试，...
硬核玩家自研AI修图工作流：结合Claude推理与本地生图，实现照片级修改
近日有开发者分享了一款自研的本地AI修图工作站，旨在解决现有云端平台资源占用高或指令执行不精准的问题。该方案创造性地结合了大模型Claude的逻辑推理能力与本地图像生成模型（nanobanana），支持通过自然语言对话进行手动标注、局部重绘...
声称吊打Whisper？Handy集成Qwen3-ASR模型，发布Mac M系专用版本
开源语音转文字工具Handy发布0.7.9版本，重点集成了Qwen3-ASR（0.6B及1.7B）模型，并利用MLX框架针对Mac M系列芯片进行了8bit量化优化。该版本完全支持离线运行，开发者实测显示其在中英混合及粤语场景下的转换速度和...
开源AI图像编辑器Indraw发布：支持多模型接入，主打本地化隐私保护
一款名为Indraw Editor的跨平台桌面图像编辑器近日亮相，致力于成为“集成AI能力的精简版Photoshop”。该工具基于Wails2和React开发，支持Windows、macOS和Linux。其核心亮点在于集成了OpenAI、G...