企业AI落地实战:自研RAG遇阻,为何最终选定DeepSeek-Qwen蒸馏版模型?
一位技术负责人分享了公司AI模型落地的实战经历。在尝试自研基于RAG架构的POC(概念验证)后,发现全流程自研涉及向量库维护与数据清洗,工作量过于庞大。随后考察了成熟开源方案MaxKB,虽功能完善但存在付费墙限制。在经过多轮测试至凌晨3点后...
标签索引
这个标签下有 2 篇文章。按时间回看相关判断与实践记录。
标签精选
一位技术负责人分享了公司AI模型落地的实战经历。在尝试自研基于RAG架构的POC(概念验证)后,发现全流程自研涉及向量库维护与数据清洗,工作量过于庞大。随后考察了成熟开源方案MaxKB,虽功能完善但存在付费墙限制。在经过多轮测试至凌晨3点后...
本文系统拆解大模型选型的核心技术参数,涵盖模型系列、架构类型、参数规模、后训练方式、量化精度和上下文长度。作者基于两年AI应用开发经验,详细解析了如Qwen3、VL、MoE等专业概念,并提供了量化精度选择策略和显存估算方法。文章强调理解这些...