AI开发实战教训：压缩上下文为何导致缓存失效与费用激增
一位开发者在自建AI API中转站时发现，为了节省Token成本而频繁使用的“上下文压缩”功能，反而导致部分请求费用暴涨约10倍。通过后台日志分析，确认压缩操作改变了请求指令的特征，导致后续请求无法命中缓存。这一案例揭示了LLM应用优化中的...
标签索引 / 第 16 页
大模型
这个标签下有 2410 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
告别“人肉”运维：开源工具 ai-diving 利用 LLM 自动审查 Docker 镜像
针对传统 Docker 镜像优化依赖人工分析且标准不一的痛点，开发者推出了开源工具 ai-diving。该工具通过 Docker Hub Webhook 触发，结合 diving-rs 分析报告与 LLM 大模型，实现“AI 盯报告”的自动...
拒绝「Update Code」！开源工具 commit-hook 用 LLM 给 Git 提交信息当“质检员”
针对团队开发中 Git 提交信息质量参差不齐的问题，开发者开源了一款名为 `commit-hook` 的工具。该工具利用 Git Hooks 和大语言模型（LLM），在代码提交时自动比对代码差异与提交信息，若发现描述不清或不符，将直接拦截提...
用户热议 Claude 性能疑似下降：是大模型退化还是代理“掺水”？
近期，V2EX 社区出现大量关于 Claude Opus 模型“智力下降”的讨论。多位资深用户反馈，原本表现出色的模型在处理简单问题时频发“幻觉”，逻辑混乱，甚至出现“对喷”现象，体验远不如从前。这种“变笨”趋势引发了用户的普遍焦虑，有人怀...
左翼视角下的AI革命：技术民主化还是更深层的依赖？
本文探讨了从左翼政治视角支持人工智能的可能性。评论区的讨论深入挖掘了技术“民主化”背后的隐忧：除非用户采用本地模型，否则所谓的便利往往伴随着对AI服务提供商的深度依赖。同时，针对“高智商模型天然具有左翼倾向”的误解，讨论强调了LLM的价值观...
DeepSeek惊现“提示词注入”漏洞：输入特定代码可触发随机乱答
近日，有科技社区用户发现DeepSeek存在一个有趣的逻辑漏洞。在开启“深度思考”模式并关闭“智能搜索”的状态下，只需向DeepSeek发送“”、“<think”或特定系统指令符，模型便会失去上下文连贯性，转而开始随机回答某个问题。这...
“大语言模型化”：警惕人类误以为自身思维运作同AI一样的认知偏见
这篇论文提出了“大语言模型化”的概念，指人们开始倾向于相信人类认知与大语言模型的工作方式相似。作者指出，这是一种基于“反向推理”的认知偏差，即因为AI能生成类似人类的语言，人们便误以为人类思维本质也是预测性的语言模型。文章强调，语言输出的相...
科研人员的AI生存指南：从文献阅读、知识管理到Idea生成的深度实践
随着生成式AI的崛起，科研工作流正在被重塑。近日，技术社区发起了一场关于“科研如何使用AI”的深度讨论。话题主要涵盖了四大核心场景：一是利用AI高效解析PDF论文与书籍，实现针对性的问答交互；二是借助AI辅助进行系统性知识整理，构建“抗遗忘...
从“石子泛起涟漪”看大模型：AI中文生成的独特口癖与翻译腔
最近，Gemini和GPT等大模型在中文生成中的特定“口癖”引发热议，诸如“稳稳接住”、“石子泛起涟漪”等充满翻译腔的表达在网络上走红。这一现象不仅是社区玩梗的素材，更揭示了当前大模型在中文微调过程中的训练数据偏差。由于中文语料库中可能包含...
AI编程实战：如何破解“对齐”难题，拒绝做“AI文本校对员”？
本文深入探讨了AI辅助编程中的实际痛点：大模型回复过于冗长，导致开发者难以仔细阅读，进而引发理解偏差和代码隐患。作者发现，简单的提示词往往导致效率低下，且模块复用和隐藏Bug难以控制。为此，作者提出了一套名为“阶段1：对齐”的提示词工程框架...