从GFlops到TFlops:详解如何在Apple Silicon上用Swift极速训练大模型
文章详细记录了作者在 Apple Silicon 芯片上重写 Andrej Karpathy 的 llm.c 项目,并尝试使用 Swift 进行高性能 LLM 训练的完整过程。针对初始 Swift 代码性能远低于 C 语言的问题,作者通过一...
文章详细记录了作者在 Apple Silicon 芯片上重写 Andrej Karpathy 的 llm.c 项目,并尝试使用 Swift 进行高性能 LLM 训练的完整过程。针对初始 Swift 代码性能远低于 C 语言的问题,作者通过一...
近日有开发者反馈,流行的 AI 命令行工具 Codex CLI 在更新至 0.116.0 版本后出现严重的性能倒退,启动时间长达半分钟且常卡在截图状态。尽管后续版本尝试修复,但效果有限。经源码分析,问题核心直指新引入的 apps MCP(模...

ECS / OSS / CDN / 云数据库一站采购,常用云资源集中选配;新用户与续费均有专场优惠,适合个人开发者与小团队长期使用。
针对大模型训练资源昂贵的问题,AI 框架 Unsloth 与英伟达展开技术合作,成功将大语言模型(LLM)在消费级 GPU 上的训练速度提升了 25%。这一突破主要针对本地开发者和小型团队,通过优化 CUDA 内核和 Triton 内核,显...
一位开发者反馈,在使用AI编程工具Cursor时遭遇严重的内存管理问题,导致32GB内存的设备在运行半天后“虚空”占用十几个G,最终引发内存溢出,唯有重启才能解决。相比之下,VSCode和Codex的情况相对较好,但CPU占用极低的现象表明...
这是一个名为《Modern C++ Programming》的高质量开源课程,专为希望掌握现代C++的开发者设计。课程包含29讲和2000多页幻灯片,内容不仅全面覆盖了从C++03到最新C++26的语言标准,更深入剖析了高性能计算、编译器优...
本文深入分析了Linux 7.0移除`PREEMPT_NONE`抢占模式后,导致PostgreSQL在高并发场景下吞吐量暴跌50%的深层原因。问题的核心在于:当进程持有自旋锁期间触发缺页中断,新的`PREEMPT_LAZY`调度模式可能抢占...
最近两个数据点让我坐下来重新思考我们如何构建和评估 AI 系统。 第一个:Physical Intelligence 的 pi-zero 论文被广泛解读为”14 Hz 神经网络运行在人形机器人上”。这是错的。pi-z...
近日社区实测发现,Multi-Token Prediction (MTP) 技术能显著提升 Dense 模型的推理效率。在 vLLM 框架下,开启 MTP 的 Qwen3.6-27B 推理速度(TPS)实现了翻倍,达到 50-55 toke...
这篇文章深入探讨了Rust语言的核心竞争力——内存安全机制,对比了“所有权与借用”模型与“引用计数”的区别。文章指出,前者利用编译期检查实现零成本抽象,保证内存安全且无GC停顿,适合追求极致性能的场景;而后者通过运行时计数器解决了多所有权的...
近期多名 Windows 用户反馈系统出现 CPU 占用过高及搜索性能显著下降的问题。经排查,罪魁祸首是 Windows Codex 应用在用户目录下生成的 .cache 文件夹。该文件夹包含大量 node_modules 小文件,触发了 ...