挑战 nvidia-smi：开源工具 Utilyze 揭露 GPU 真实算力利用率
当前主流的 GPU 监控工具（如 nvidia-smi、nvtop 及云厂商监控面板）存在严重的误导性缺陷：它们仅报告“内核运行时间占比”，导致即便 GPU 实际算力仅被利用了 1%，仪表盘也可能显示 100% 利用率。这种“伪饱和”现象极...
标签索引
算力优化
这个标签下有 8 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
MoQ Boy：利用新协议实现算力“按需启停”，重新定义云游戏与机器人交互架构
本文介绍了基于Media over QUIC (MoQ)协议构建的云游戏演示项目“MoQ Boy”。其核心技术亮点在于极致的“按需计算”：云端模拟器、视频和音频编码器仅在观众订阅时才启动工作，无人观看时自动休眠，从而大幅降低CPU和GPU的...
AI研究核心争论：提升模型性能究竟是靠“堆参数”还是“堆算力”？
这篇文章源自2021年的关键讨论，深入分析了大型语言模型（LLM）训练中的核心权衡：在固定计算预算下，是应该增加模型参数量，还是增加训练步数和数据量？研究表明，单纯追求参数规模并非最优解，通过更长时间的计算和更多数据训练较小的模型，往往能获...
Codex展现“元智能”？自主调配子代理模型与思考深度引发热议
在最近一次复杂任务的处理中，AI系统Codex展现出了令人瞩目的自主调度能力。后台监控数据显示，Codex不仅将任务拆解给多个Subagent（子代理）协作完成，更令人惊讶的是，它自主选择了不同的底层大模型，并对不同的子代理设定了差异化的“...
拯救 Claude Code “降智”危机：启用最大算力与固定思考预算的配置指南
针对近期开发者社区热议的 Claude Code 出现能力波动或“降智”现象，有用户发现了通过修改环境变量来强制提升模型表现的解决方案。具体配置包括将 `CLAUDE_CODE_EFFORT_LEVEL` 设置为 “max...
Cursor 推出 Warp Decode 技术，将 MoE 模型推理速度提升 1.8 倍
针对AI领域日益突出的“算力供需矛盾”，AI代码编辑器Cursor推出“Warp Decode”技术，成功攻克了混合专家模型的推理瓶颈。通过翻转并行性轴，该技术不仅将MoE模型推理速度提升了1.8倍，还同步提高了模型精度。这一创新恰逢小米A...
Claude用户福利：非企业账户离峰时段用量额度翻倍
据社区用户反馈，Anthropic近期针对Claude的非企业级用户推出了一项优化措施，在离峰时间段提供加倍的使用额度。这一策略旨在通过激励手段引导用户错峰使用，以平衡服务器负载与GPU算力资源。对于开发者和个人重度用户而言，灵活利用离峰时...
印度首个全栈自研开源大模型：Sarvam AI 发布 30B 与 105B 推理模型
印度AI初创公司Sarvam AI正式发布了Sarvam 30B与Sarvam 105B两款开源大语言模型。作为推理模型，它们完全基于高质量数据集从零开始训练，并利用印度本土的“IndiaAI”算力任务完成了全流程训练。除了模型本身，团队还...