大模型时代：为何AI需要如此庞大的参数？

本文探讨当前大型语言模型(LLM)规模过大的问题，指出即使是号称’小型’的模型也拥有27亿参数，这对特定应用场景而言过于庞大。作者分析了LLM在通用对话场景下需要大模型的合理性，但同时强调在如SQL自动完成、结构化提取等特定任务中，小模型完全可以胜任。文章重点讨论了大模型推理的高昂成本和基础设施复杂性，指出每次用户交互都需要大量计算资源。展望未来，作者预测行业将朝着更多小型专用模型方向发展，这些模型可能仅需1500万参数，甚至可以在浏览器中运行，为AI应用带来更高效的部署方案。这一观点对理解AI模型发展趋势和优化资源利用具有重要参考价值。