LLM结构化输出手册：解决AI不确定性的技术指南
LLM的随机性常导致JSON或代码生成出错，阻碍了AI代理和自动化的发展。本文提供了一份结构化输出手册，系统介绍了确保LLM生成确定性数据的底层原理、最佳工具与技术选型。内容涵盖系统构建、部署扩展、延迟与成本优化及质量提升，旨在为开发者提供...
标签索引 / 第 180 页
大模型
这个标签下有 2415 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
驯服AI的非确定性：如何将大模型无缝融入传统软件系统？
本文探讨了如何将非确定性的AI组件（如LLM）融入确定性软件系统。Eric Evans以代码分析为例，指出LLM擅长分类但不擅长建模，自由生成的分类会导致结果不可比。文章建议采用成熟的标准分类模型（如NAICS）而非让AI自行创造分类体系。...
蚂蚁推出“灵光”大模型平台，每日免费提供50万Token
蚂蚁集团正式推出名为“灵光”的大模型产品平台，该平台底层基于百灵大模型。据悉，灵光平台目前向用户提供高额福利，每日免费赠送50万Token的使用额度。这一动作显示蚂蚁正积极通过免费策略吸引用户和开发者，旨在激烈的大模型市场竞争中抢占更多份额...
RealStock AI 智能体探索主动投资，实现交易逻辑全透明化
RealStock AI 智能体近期在美股实盘测试中表现亮眼，两个月收益率超 30%。与传统黑盒预测产品不同，该系统主打逻辑穿透性，公开买卖及调仓逻辑，实现了从概率预测到逻辑实证的跨越。其核心优势包括高精度去噪策略、实时穿透式风险监控以及基...
无需重训：新技术通过递归自约束减少大模型幻觉
该研究针对大语言模型普遍存在的“阿谀奉承”和“幻觉”问题，提出了一种名为“Analog I协议”的提示词架构。该架构通过构建递归的“三重循环”内心独白，使模型能像过滤器一样监控并拒绝低质量、无信息量的候选输出。实验表明，这种利用计算消耗抑制...
零成本自建AI助手：Hugging Face部署Open WebUI实战指南
本教程详细介绍了如何在 Hugging Face Spaces 上免费部署 Open WebUI。通过复制官方样板并配置环境变量，用户可以轻松搭建支持 OpenAI API 和 Ollama 的自托管 WebUI。文章重点讲解了数据库连接、...
Signal创始人推新项目：为AI对话打造端到端加密
Signal创始人Moxie Marlinspike推出开源AI助手Confer，致力将端到端加密技术引入AI领域。Confer利用可信执行环境（TEE）和通行密钥技术，确保用户数据、提示词及AI响应对平台运营方、黑客及执法部门完全不可见。...
Mozilla旗下any-llm开放Beta：无需自建，支持官方服务器中转
Mozilla旗下项目any-llm近日开放了Beta版本。该项目原本需要用户通过Docker自行构建部署，但现在用户可以直接访问any-llm.ai使用官方托管服务。这意味着用户可能无需自建服务器，而是直接通过Mozilla的服务器进行L...
前端验收新工具：接入LLM实现自然语言即时改码
这是一个基于Dev tunnel的创新演示项目，旨在解决前端开发后验收流程繁琐的痛点。在传统工作流中，UI、产品或测试人员在验收发现问题时，需反馈给开发手动修改，沟通成本高且效率低。该工具集成了大语言模型（LLM），允许验收人员直接通过自然...
全屋AI构想：全天候监听与全英语境家庭助理的实现路径
有网友提出利用大模型打造全屋智能助理，通过在多房间部署拾音与视频设备，实现家庭交流的全天候监听与分析。该方案旨在利用AI区分说话人、复盘对话，以辅助家庭建立全英文语境及客观处理争端，同时兼顾隐私保护与设备成本控制，探讨了“多点拾音+集中处理...