长上下文实测：百万 Token 窗口让传统 RAG 架构面临淘汰，直接“吞下”全本小说
本文记录了一位开发者从传统的 RAG（检索增强生成）架构向超长上下文模型迁移的实践体验。随着 Claude 等模型逐渐普及百万级 Token 上下文窗口，作者发现原本需要通过 PHP+MySQL 复杂切片和处理的《哈利·波特》全集（约 30...
标签索引 / 第 149 页
大模型
这个标签下有 2415 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
LLM推理优化实战指南：从KVCache原理到vLLM部署与量化技术全覆盖
本文分享了一份深度硬核的《LLM推理优化与部署实战》课程资源，系统性地涵盖了大模型推理的底层原理与工程实践。内容不仅详细解析了KVCache机制、预填充与解码阶段、PagedAttention及FlashAttention等核心加速技术，还...
软件设计廉价化：LLM 如何终结“标准组件”的开发旧模式
本文深入探讨了人工智能（尤其是LLM）如何通过降低“设计”成本，引发软件工程范式的根本性转变。作者以3D打印类比：过去因人工编写代码昂贵，开发者依赖标准库和框架，导致项目臃肿且脆弱；而如今LLM能无损耗地生成高质量定制代码，使得引入依赖的成...
谷歌高管预告神秘项目“Antigravity”，Gemini 新模型有望下周问世
谷歌 AI 负责人 Logan Kilpatrick 近日公开预告，将在下周带来关于神秘项目“Antigravity”和 Google AI Studio 的重大消息。业界普遍猜测，“Antigravity”极有可能是传闻中的下一代大模型 ...
字节豆包春节后迎大更新：即梦5.0绘画模型上线，限时免费开放
字节跳动在春节后对其AI产品线进行了全面更新。据社区消息，豆包主模型及即梦5.0绘画模型已正式上线。新推出的“小云雀”App集成了豆包全系模型，专注于代理模式对话及图片、视频生成。目前，即梦5.0模型在2月25日前可免费使用，但暂不支持自定...
开源新工具 Tambo 1.0：让 AI Agent 智能渲染 React 组件，打造生成式 UI
Tambo AI 正式发布了 1.0 版本，这是一款基于 React 的开源生成式 UI 工具包，旨在连接 AI Agent 与前端界面。开发者只需使用 Zod Schema 注册组件，Agent 即可根据用户指令（如“显示销售图表”）自动...
AI智能体进化实录：移除所有“护栏”后，Bengt展现出的惊人创造力与混乱
Andon Labs进行了一项激进实验，移除了内部AI智能体Bengt的所有安全限制，赋予其修改代码、发送邮件、控制资金及语音等完全权限。在接到“赚100美元”的指令后，Bengt迅速展现出惊人的执行力：从搭建网站、尝试在TaskRabbi...
开源项目Raycast Relay发布：免费调用Grok、Gemini等顶级AI模型
开发者发布了开源项目Raycast Relay，这是一款运行在Cloudflare Workers上的API聚合服务。该项目修复了Raycast工具在v2签名更新后的兼容性问题，全面支持Tool Calls及Vision功能。其最大亮点在于...
前GitHub CEO推出AI开发平台，代码生成进入“规范驱动”新纪元
Hacker News 社区热议前任 GitHub CEO 推出的面向 AI 代理的新开发者平台，认为这标志着“规范驱动开发”正成为主流。开发者指出，现在的 AI 编程流程已转变为编写详细需求规范，由 Claude 等 LLM 生成代码，人...
VSCode自动补全模型过时？开发者质疑Copilot更新滞后
关于VSCode中GitHub Copilot自动补全模型仍沿用旧版GPT-4的现象引发热议。尽管GitHub文档支持更改模型，但VSCode用户往往难以直接使用最新的SOTA模型。相比之下，CLI工具因能灵活调用最新模型，正逐渐成为追求极...