无需Docker，Open WebUI 桌面版正式发布：降低本地AI运行门槛
开源AI聊天界面项目 Open WebUI 正式推出了 v0.9.0 版本，核心亮点在于发布了适用于 Mac、Windows 和 Linux 的原生桌面应用。该应用彻底摆脱了对 Docker 和终端命令的依赖，让普通用户无需复杂的服务器配置...
标签索引 / 第 43 页
大模型
这个标签下有 2415 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
LLM架构变革：新研究实现KVCache跨数据中心传输
针对大规模LLM服务中Prefill（预填充）与Decode（解码）阶段因KVCache传输而受限的现状，这篇论文提出了“Prefill-as-a-Service”架构。利用下一代混合注意力模型KVCache体积减小的趋势，该架构将长上下文...
上下文即软件，权重即硬件：为何单纯扩大上下文无法取代模型微调
文章深入探讨了AI领域中“长上下文”与“模型微调”的争论。作者提出，通过 KV Cache 实现的上下文学习本质上是在固定的“硬件”（权重）上运行临时的“软件”，虽然灵活但受限于预训练分布的“元学习天花板”。相比之下，权重更新（微调）相当于...
疑似 DeepSeek API 悄然更新：用户反馈回答风格出现突变
据社区用户反馈，近期在使用 DeepSeek API 时察觉输出内容的回答风格发生了显著变化，经查询后台信息，疑似官方已在不发布公告的情况下切换了新的模型版本。虽然 DeepSeek 此前以高性能低成本著称，但这种“静默更新”让部分开发者感...
Agent框架热背后的冷思考：在Claude Code等强模型面前，OpenClaw们是否只是过度封装？
本文深入探讨了OpenClaw、Hermes Agent等热门Agent框架的实际开发价值。作者指出，尽管这些框架强调记忆、工具调用和自动化等特性，但在核心的开发场景（如读代码、修Bug、工程执行）中，以Claude Code为代表的通用编...
解耦决策与执行：开源项目Spice更新，让AI决策过程首次变得“人类可读”
开发者通过与另一位Agent的深度对话，重新审视并大幅优化了开源项目Spice。此次更新旨在解决AI“黑盒”问题，不再局限于生成建议，而是将Agent内部的决策逻辑抽离出来，转化为人类可读、系统可追踪的显式对象。新版本实现了“Human-r...
DeepSeek API悄然升级：模型已切换，专家模式推理能力显著增强
据社区最新反馈，DeepSeek API后台模型已悄然完成切换。此次更新后，模型的世界知识库已与官网版本保持高度一致，但在部分复杂问题的处理上仍存在细微差异。观察发现，新版本中的“专家模式”在直觉判断和逻辑推理方面表现更为出色，回答准确度有...
开发者实战指南：市面上主流AI模型Token计费与性能实测汇总
面对日益碎片化的AI模型市场，该文档通过社区协作系统整理了主流大模型的Token计费方案，并包含关键的TPS（生成速度）与TTFT（首字延迟）实测数据。它填补了单纯价格对比与实际应用体验之间的信息差，为开发者在不同场景下进行模型选型、优化成...
狂砸上万元后的冷思考：对顶级 AI 模型“祛魅”，Agent 落地关键在流程而非智商
一位资深开发者在花费上万元使用 Claude Opus 等顶级模型后，总结了关于 AI Agent 应用的五点实战感悟。他指出，在具体场景中很难界定何时必须使用“顶配”模型，且即便是 Opus 在处理复杂工程和寻找灵感时也会频繁出错。更重要...
DeepSeek API 悄然升级：上下文窗口扩展至 1M，推理速度显著提升
据开发者社区反馈，DeepSeek API 模型近日已进行重要更新。新版模型将上下文窗口大幅扩展至 100 万 token，足以处理长篇小说或复杂的代码库分析任务。同时，用户实测发现新版本的吞吐量（TPS）极高，运行速度明显加快。尽管官方尚...