Qwen Coder 自建模型工具调用受阻，兼容性问题引热议
一位开发者尝试使用 vllm 自建 Qwen Coder 模型，通过 OpenAI 协议暴露接口。然而，在对接 Codex、Claude Code 等主流 CLI 工具时，出现了工具调用无法被识别的问题。模型输出的 “ 标签格式...
标签索引
AI模型部署
这个标签下有 4 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
Claude代理方案：kiro与antigravity的最稳技术解析
本文聚焦于Linux社区中，针对使用kiro和antigravity工具代理Claude AI模型给用户(cc)的技术探讨。多种解决方案被提出，用户核心诉求是寻求最稳定可靠的部署方法。讨论涵盖网络优化、模型性能调校和稳定性保障，为AI模型在...
本地AI模型部署全攻略：论文写作与文档分析解决方案
本文详细介绍了如何在本地部署AI模型，满足论文撰写、总结等功能。作者结合个人电脑配置（AMD Ryzen Threadripper PRO 3955WX处理器、64GB内存、NVIDIA RTX 2080 Ti显卡），采用docker+ol...
8核8GB纯CPU服务器运行指南：中文能力强、低幻觉的AI模型推荐
本文介绍了在8核心8GB内存的纯CPU服务器环境下，如何选择和部署适合的AI模型。针对中文能力强、幻觉低、逻辑性能优异的需求，文章提供了使用ollama一键拉取模型的具体建议。对于资源有限但仍希望部署高性能AI模型的开发者来说，这是一份实用...