while 循环谁都会写，差距全在你喂给 LLM 的那串文字
作者：toy 先把两个词分清楚：Context 和 Context Window 不是一回事 这两个词被混着用太久了，写代码的时候迟早会踩坑。 上下文（Context），指的是 Agent 在执行任务时，实际拥有的所有信息。系统提示词、对话...
标签索引 / 第 12 页
大模型
这个标签下有 2417 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
Arize 怎么解决 Agent 的上下文管理：系统为什么会被 Context 拖垮
这篇文章讲的是一个很容易被低估、但几乎所有 Agent 产品都会撞上的问题：上下文管理。Sally-Ann Delucia 这场分享的价值很直接，她没有泛泛谈“长上下文很重要”，直接把团队在真实产品里踩过的坑讲清楚了，尤其是为什么截断不行、...
从静态 benchmark 到活的 eval：Vincent Koc 这场分享，真正戳中的不是评测，而是 agent 软件的变形速度
很多人现在一提 eval，脑子里冒出来的还是老三样：题库、benchmark、离线跑分、回归测试。这个思路在过去不是错的。问题是，今天的 agent 系统已经越来越不像“一个发布后基本不动的程序”了。它会接工具、会吃上下文、会随着用户习惯漂...
开发者厌倦GPT代码过度工程化，尝试转用DeepSeek V4
一位开发者在社区反馈，长期使用 OpenAI 的 Codex 编写代码，发现其生成的代码风格往往存在“过度工程化”的问题，函数嵌套层级过深，即使通过提示词限制也难以改善。为了优化代码质量，该开发者计划借鉴 Cursor 的编排思路（CCG）...
遭遇ChatGPT“废话文学”？用户寻求提示词调教以解决AI输出冗余痛点
随着大模型应用的深入，AI回答“车轱辘话”多、输出冗长的问题日益凸显。近日在技术社区Linux.do，有用户吐槽ChatGPT回答重复且篇幅过长，导致难以快速捕捉核心信息。这一话题引发了广泛共鸣，反映出用户对AI交互效率的焦虑。目前，通过优...
揭秘 AI 模型的“暗中削弱”：一张图看懂大模型性能退化史
随着大模型频繁更新，用户常怀疑模型变“笨”或受到更多限制。该项目通过可视化图表记录了各大 AI 模型的 ELO 评分历史，旨在揭露潜在的“暗中削弱”现象。文章指出，模型更新可能引入过度审查、过度量化以节省算力或行为退化。此外，项目还区分了 ...
企业LLM监控引发争议：当AI助手变成职场“数字监工”
近日，有社区用户爆料，其公司通过监控“llm-proxy”代理服务，实现了对员工AI交互记录的实时抓取。该系统能够详细记录每一条Prompt指令、生成的代码量以及具体的操作时间段。这种“全景式”的监控手段被批评为“数字监工”，引发了职场人对...
AI Agent开发隐忧：大量MCP插件致Token消耗激增
一位开发者在测试中发现，启用MCP（模型上下文协议）及大量Skills后，仅一句简单的“你好”初始对话就消耗了近5万个Token。经分析，消耗“大头”主要来自固定的系统提示词、上百个技能描述、30多个工具的JSON Schema定义以及复杂...
专为小团队打造：CPA-Helper 开源，轻量级 LLM API 多用户管理利器
针对 NewAPI 等现有工具对于小团队或个人共享场景过于臃肿的问题，开发者推出了开源项目 CPA-Helper。这是一款基于 CLIProxyAPI (CPA) 的轻量级管理面板，采用 FastAPI 与 Vue 3 构建。它支持多用户 ...
AI挑战极限：开发者利用LLM复刻RAR压缩算法，5周完成数年工作量
一位开发者通过协调OpenAI Codex和Claude，仅用5周时间和约40英镑的成本，成功复刻了原本需耗时数年的RAR压缩算法（Rust版）。该项目展示了AI在处理复杂逆向工程、文档生成及大规模代码编写（5.5万行）上的惊人能力。尽管最...