深入解析GGUF：不仅是权重，本地大模型标准化还缺什么？
GGUF格式因将模型权重、词表、聊天模板及采样参数封装于“单文件”中，已成为本地大模型部署的首选标准，极大优化了开发体验。文章详细解读了GGUF如何利用Jinja2模板处理复杂对话逻辑，并支持自定义采样链以提升生成质量。然而，作者指出了该格...
标签索引 / 第 11 页
大模型
这个标签下有 2410 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
为AI买单：二手iPhone成国内用户订阅海外大模型的‘硬通货’
近期科技社区热议，许多用户为了通过App Store订阅ChatGPT、Claude等海外大模型服务，专门在二手市场寻找合适的iPhone。由于这些主流AI服务暂未对中国大陆开放直接支付，且部分功能依赖iOS客户端，用户不得不利用苹果美区账...
打破“AI辅助”的隐形外衣：EditLens可精准量化文本中的AI编辑痕迹
针对大语言模型在“文本编辑”而非“从头生成”场景的应用，研究团队推出了EditLens系统。与以往只关注全文是否由AI生成的检测工具不同，EditLens首次提出量化AI对原文的修改幅度。研究表明，AI编辑过的文本具有独特的可区分特征，该模...
while 循环谁都会写，差距全在你喂给 LLM 的那串文字
作者：toy 先把两个词分清楚：Context 和 Context Window 不是一回事 这两个词被混着用太久了，写代码的时候迟早会踩坑。 上下文（Context），指的是 Agent 在执行任务时，实际拥有的所有信息。系统提示词、对话...
Arize 怎么解决 Agent 的上下文管理：系统为什么会被 Context 拖垮
这篇文章讲的是一个很容易被低估、但几乎所有 Agent 产品都会撞上的问题：上下文管理。Sally-Ann Delucia 这场分享的价值很直接，她没有泛泛谈“长上下文很重要”，直接把团队在真实产品里踩过的坑讲清楚了，尤其是为什么截断不行、...
从静态 benchmark 到活的 eval：Vincent Koc 这场分享，真正戳中的不是评测，而是 agent 软件的变形速度
很多人现在一提 eval，脑子里冒出来的还是老三样：题库、benchmark、离线跑分、回归测试。这个思路在过去不是错的。问题是，今天的 agent 系统已经越来越不像“一个发布后基本不动的程序”了。它会接工具、会吃上下文、会随着用户习惯漂...
开发者厌倦GPT代码过度工程化，尝试转用DeepSeek V4
一位开发者在社区反馈，长期使用 OpenAI 的 Codex 编写代码，发现其生成的代码风格往往存在“过度工程化”的问题，函数嵌套层级过深，即使通过提示词限制也难以改善。为了优化代码质量，该开发者计划借鉴 Cursor 的编排思路（CCG）...
遭遇ChatGPT“废话文学”？用户寻求提示词调教以解决AI输出冗余痛点
随着大模型应用的深入，AI回答“车轱辘话”多、输出冗长的问题日益凸显。近日在技术社区Linux.do，有用户吐槽ChatGPT回答重复且篇幅过长，导致难以快速捕捉核心信息。这一话题引发了广泛共鸣，反映出用户对AI交互效率的焦虑。目前，通过优...
揭秘 AI 模型的“暗中削弱”：一张图看懂大模型性能退化史
随着大模型频繁更新，用户常怀疑模型变“笨”或受到更多限制。该项目通过可视化图表记录了各大 AI 模型的 ELO 评分历史，旨在揭露潜在的“暗中削弱”现象。文章指出，模型更新可能引入过度审查、过度量化以节省算力或行为退化。此外，项目还区分了 ...
企业LLM监控引发争议：当AI助手变成职场“数字监工”
近日，有社区用户爆料，其公司通过监控“llm-proxy”代理服务，实现了对员工AI交互记录的实时抓取。该系统能够详细记录每一条Prompt指令、生成的代码量以及具体的操作时间段。这种“全景式”的监控手段被批评为“数字监工”，引发了职场人对...