纯C语言实现Gemma 3推理，大模型无需GPU也能跑
开发者发布了名为 `gemma3.c` 的项目，成功用纯 C 语言实现了 Google Gemma 3 4B IT 模型的推理引擎。该项目完全不依赖 Python、PyTorch 或 GPU，展示了现代大模型在低资源环境下的运行能力。该引擎...
标签索引 / 第 168 页
大模型
这个标签下有 2417 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
LM Studio 0.4.0 发布：新增无头部署与并行推理能力
LM Studio 发布 0.4.0 版本，引入全新无 GUI 守护进程“llmster”，支持在云端服务器及 CI 环境中部署核心功能。新版本基于 llama.cpp 2.0 引擎实现了并行请求与连续批处理，大幅提升推理吞吐量。同时，发布...
AI会终结人类历史吗？Wolfram：这很复杂
Stephen Wolfram深入探讨ChatGPT等AI对人类未来的影响。他提出“计算不可约性”概念，指出自动化无法穷尽所有可能性。文章认为，尽管AI能替代重复性工作，但人类在定义目标和赋予意义方面依然不可或缺。人类将从具体任务的执行者，...
告别收藏吃灰：利用LLM智能整理GitHub Star列表
本文介绍了一套利用脚本与大模型（LLM）智能整理GitHub Star列表的完整流程。方案包含三个步骤：首先通过脚本导出Star仓库列表及Readme；其次利用基于LLM的工具进行自动分类与归纳优化；最后通过脚本将整理好的列表批量导入Git...
2026年DIY指南：本地部署LLM，AMD还是Intel更香？
随着5080显卡的普及，2026年本地部署大模型成为DIY玩家关注焦点。在CPU选择上，AMD凭借AVX-512指令集和Linux环境下的驱动调度优势受到推崇；Intel虽支持更高内存频率，但市场现状复杂。针对主要面向LLM适配的装机需求，...
字节跳动发布KEEL架构：首次实现超千层大模型稳定训练
字节跳动Seed团队推出KEEL新架构，解决了大模型深度扩展的技术瓶颈。该架构通过引入高速公路式连接改进Post-LN结构，在不依赖复杂优化技巧的情况下，首次成功实现了超过1000层超深层神经网络的稳定训练。这一突破证明深度扩展比单纯加宽更...
如何用详细提示词挖掘 Claude Sonnet 潜能，替代昂贵 Opus？
面对 Claude Opus 的高昂成本，用户探索使用 Sonnet 作为替代方案。实践发现，通过长篇大论地详述任务背景、目标及动机，即提供高质量的上下文，Sonnet 能显著提升表现，快速满足需求。这不仅节省了 Token 费用，还能反向...
上下文是AI最大瓶颈：深度解析RAG、Memory与Skills设计哲学
在大模型时代，上下文是稀缺资源。受限于Transformer架构的二次方计算复杂度，单纯扩大窗口无法解决问题。本文深入剖析了业界的三大解决方案：通过外部检索的RAG、分层存储的记忆系统，以及分而治之的子代理架构。文章重点解读了“Skills...
Kimi搜索能力大爆发，大模型“大一统”时代终结
科技社区热议Kimi-k2.5的搜索能力，认为其直追GPT-5.2-pro，表现亮眼。相比之下，通义千问Qwen3因成本、知识量及多模态缺失而显得平庸，陷入应用困境。分析指出，大模型“大一统”时代已结束，行业将走向垂直分化。目前，DeepS...
用“法庭”架构重塑LLM决策：多智能体协作的实战突破
针对代码频繁变更导致文档过时的难题，Falconer公司提出“LLM-as-a-Courtroom”新架构，利用多智能体协作解决LLM决策不可靠的问题。该系统模拟法庭审判流程：公诉人负责构建证据链，辩护律师进行反驳，陪审团独立投票，法官最终...