DeepSeek 推理过程为何“默认英文”?国产模型训练语料引发行业深思
近日,社区有开发者发现一个值得深思的现象:在相同工具和项目环境下,当 GLM、MiniMax、Qwen 等国产大模型均能流畅使用中文进行逻辑推理时,DeepSeek 模型(特指其 Flash 推理版本)的思维链过程却几乎全部呈现为英文。这一...
近日,社区有开发者发现一个值得深思的现象:在相同工具和项目环境下,当 GLM、MiniMax、Qwen 等国产大模型均能流畅使用中文进行逻辑推理时,DeepSeek 模型(特指其 Flash 推理版本)的思维链过程却几乎全部呈现为英文。这一...
文章详细记录了作者在 Apple Silicon 芯片上重写 Andrej Karpathy 的 llm.c 项目,并尝试使用 Swift 进行高性能 LLM 训练的完整过程。针对初始 Swift 代码性能远低于 C 语言的问题,作者通过一...

ECS / OSS / CDN / 云数据库一站采购,常用云资源集中选配;新用户与续费均有专场优惠,适合个人开发者与小团队长期使用。
针对普通开发者难以接触大模型底层训练的痛点,该项目开源了名为 Tiny LLM Studio 的工具,实现了在 MacBook 上单机完成从 Tokenizer 训练、预训练、SFT 到 DPO 的全流程。项目采用类 LLaMA 架构与 P...
针对大模型训练资源昂贵的问题,AI 框架 Unsloth 与英伟达展开技术合作,成功将大语言模型(LLM)在消费级 GPU 上的训练速度提升了 25%。这一突破主要针对本地开发者和小型团队,通过优化 CUDA 内核和 Triton 内核,显...
五家出版商及著名作家斯科特·特罗联合起诉Meta及其CEO扎克伯格,指控其为赢得AI竞赛,“亲自授权并积极鼓励”实施了历史上最大规模的版权侵犯行为。诉讼指出,Meta不仅从知名盗版网站非法获取数百万册书籍和期刊文章,还未经授权抓取全网数据用...
DeepMind 推出了 Decoupled DiLoCo 算法,旨在解决大规模 AI 训练中常见的通信拥堵和硬件故障问题。该技术允许训练节点在本地独立计算更长时间,大幅减少同步频率,从而显著降低对高带宽、低延迟网络的依赖。这意味着开发者可...
一位AI开发者在社区发帖,咨询是否值得入手搭载AMD RyzenAI MAX+ 395处理器、配备128G内存的铭凡迷你主机。该用户计划将其用于本地大模型微调、Agent开发及AI辅助编程,并将其与同价位的Mac Studio和英伟达设备进...
本文深入剖析了 Cursor 官方发布的 Composer-2 论文,揭示其代码生成能力大幅跃升的核心在于“持续预训练”与“真实环境强化学习”。文章详细拆解了 Composer 2 如何通过大量代码数据喂养和长任务自我总结机制,解决上下文遗...
一位开发者在测试ReAct循环提示词时发现,AI在Linux环境下执行编程任务比Windows更加顺畅。核心差异在于Windows PowerShell对`&&`等命令连接符的处理存在兼容性问题,导致AI生成的指令常报错,而...
Moonshot AI(Kimi 团队)发布了一种名为“Attention Residuals”的新型架构,旨在改进标准 Transformer 的残差连接机制。传统连接采用固定权重累加,容易导致深层网络中特征的稀释;而 AttnRes 引...