大模型选型全解析:型号、架构、量化与上下文
本文系统拆解大模型选型的核心技术参数,涵盖模型系列、架构类型、参数规模、后训练方式、量化精度和上下文长度。作者基于两年AI应用开发经验,详细解析了如Qwen3、VL、MoE等专业概念,并提供了量化精度选择策略和显存估算方法。文章强调理解这些...
标签索引 / 第 213 页
这个标签下有 2417 篇文章。按时间回看相关判断与实践记录。
标签精选
本文系统拆解大模型选型的核心技术参数,涵盖模型系列、架构类型、参数规模、后训练方式、量化精度和上下文长度。作者基于两年AI应用开发经验,详细解析了如Qwen3、VL、MoE等专业概念,并提供了量化精度选择策略和显存估算方法。文章强调理解这些...
本文全面介绍了Fun-CosyVoice3-0.5B-2512语音合成模型在Linux环境下的简化部署方案,旨在帮助开发者快速实现语音合成服务。方案集成vLLM加速技术,支持流式音频输出、多种采样率选择、多音色复刻、GPU加速重采样和Spe...
本文分享了作者从对AI编程工具的偏见到全面拥抱的转变历程。通过对比传统编程与AI Coding的工作流程、BUG解决方式和功能开发效率,文章展示了AI作为能力放大器的强大作用。作者详细介绍了AI如何帮助开发者拓宽知识广度、解放时间和降低错误...
Linux社区宣布H800公益服务回归,提供高性能GPT-OSS-120B模型免费使用。该模型部署在两张NVIDIA H800 GPU上,在用户较少时可达200tps的吞吐量。服务设有合理并发限制,并配有手动监控机制,对异常行为进行封禁处理...
近日,有用户在Linux.do论坛上分享了一个关于ChatGPT降智问题的讨论。用户在使用ChatGPT时,注意到GPT-5.2的响应质量下降,经常拒绝回答问题。通过导出聊天记录的JSON文件,发现其中包含mode_slug等字段,这提示可...
Gemini CLI发布了v0.22.0版本,宣布所有免费版用户现在可以免费使用Gemini 3 AI模型。用户只需在设置中将“预览功能”切换为启用即可访问这一先进技术。这是Gemini CLI每周更新的重要内容,还包括对Google Co...
近日,一位开发者在调用Qwen-code-plus API进行辅助开发时,仅15次提问就产生82.01元欠费。次日,他接到QWen推广人员的电话推销,对方推荐购买1000元消费包并优惠至920元。在对话中,推销人员表示QWen的能力与豆包、...
本文基于实际项目测试,深入分析了GLM-4.7模型相对于4.6版本的性能变化。作者发现,4.7在命令执行和文字理解方面显著提升,Prompt响应更严格,能更细致地执行用户指令。然而,分析能力存在逻辑问题,如对输入权重过大,导致错误分析(如端...
Space Math Academy是一个创新项目,将NASA的Space Math课程从静态PDF重新设计为沉浸式游戏。它利用谷歌的Gemini AI进行故事叙述和文本转语音(TTS),部署在Google Cloud Run上。学生通过互...
本文探讨了AI Agent工具设计中一个关键问题:如何处理SaaS产品中用户配置的预定义过滤器。作者提出了两种主流方案:一是将预定义过滤器直接嵌入提示词中,让大模型基于此进行扩充,但这种方法可靠性较低;二是工具入参支持双过滤器设计,分别接收...