消费级显卡的逆袭：开源框架 RoundPipe 突破 PCIe 瓶颈，4090 多卡训练提速 25 倍
针对消费级显卡（如 RTX 4090）在多卡并行训练大模型时受限于 PCIe 带宽导致效率低下的问题，一项名为 RoundPipe 的开源框架方案应运而生。该框架无需昂贵的 NVLink 支持，通过优化算法克服通信瓶颈，显著提升了多卡并行效...
标签索引
消费级显卡
这个标签下有 4 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
实测 12G 显存流畅运行 26B 大模型，本地部署门槛再降
一位技术爱好者在社区分享称，其使用 Ollama 框架在 12GB 显存、32GB 内存的硬件配置下，成功流畅运行了 26B 参数规模的大模型（原文标注为 Gemma4:26B，可能指代基于 Gemma 2 的相关版本）。这一实测案例表明，...
硬核实践：用“古董级”RTX 2060成功训练迈克尔·杰克逊AI音乐LoRA
一位开发者在V2EX分享了使用ACE Step训练迈克尔·杰克逊风格AI音乐模型的硬核案例。令人惊叹的是，整个训练过程仅在一块被称为“清朝古董”的RTX 2060显卡上耗时一天完成。生成的歌曲融合了工业流行与硬放克风格，生动还原了MJ标志性...
Z-Image Omni Base：AI生成编辑全能模型即将发布
Z-Image Omni Base AI模型即将正式登场，统一生成与编辑功能于一体，一个模型即可完成图像生成与编辑任务，无需切换模型。该模型采用60亿参数S3-DiT架构，支持消费级显卡（6GB-8GB），实现电影级质感输出。全能预训练打破...