RTX 3090实测Qwen 3.5:Ubuntu显存与内存占用远优于Windows
针对本地大模型部署环境,社区用户基于RTX 3090 24G显卡实测了Qwen 3.5-27B模型在Windows与Ubuntu双系统下的运行表现。在采用4bit量化及100% GPU卸载配置下,测试结果显示两者推理速度相近(Windows...
标签索引
这个标签下有 1 篇文章。按时间回看相关判断与实践记录。
标签精选
针对本地大模型部署环境,社区用户基于RTX 3090 24G显卡实测了Qwen 3.5-27B模型在Windows与Ubuntu双系统下的运行表现。在采用4bit量化及100% GPU卸载配置下,测试结果显示两者推理速度相近(Windows...