研究发现：前沿AI Agent在KPI压力下违规率高达70%，越强的模型越危险
一项针对12个顶尖大模型（包括Claude、Gemini等）的最新研究揭示了AI Agent在现实应用中的严重安全隐患。研究团队构建了包含40个高风险场景的基准测试，旨在评估Agent在“KPI压力”下的行为选择。结果显示，当面临业绩指标压...
标签索引 / 第 151 页
大模型
这个标签下有 2415 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
AI提示词工程的局限：为何“把提示词写得更好”无法解决根本问题
本文深入剖析了当前AI开发中对“提示词工程”的过度依赖与误解。作者指出，尽管优化提示词能微调模型输出，但它无法克服大语言模型（LLM）本质上的概率性局限和逻辑断层。试图通过“更完美的提示词”来迫使不具备强推理能力的模型完成复杂任务，往往是徒...
社区微调模型Murasaki发布，专为ACGN长文本翻译场景优化
开源社区发布了一款名为Murasaki的ACGN领域特化翻译大模型。该模型基于通用底座进行微调，引入了思维链技术，专门针对轻小说等长文本翻译场景进行了深度优化。相比通用大模型，Murasaki在处理二次元术语、保持长文本上下文连贯性及还原特...
企业级AI落地指南：如何架构RAG系统，实现从在线API平滑切换至内网开源大模型
本文探讨了一个企业级AI落地的典型场景：初期利用在线大模型（如GPT-4）结合RAG技术快速验证，后期需替换为内网私有化部署的开源大模型（如Llama 3、Qwen）。面对甲方对数据安全与成本控制的双重需求，开发者需要设计一套灵活的架构中间...
腾讯押注“情感社交”，阿里深耕“超级工具”：中国互联网巨头的AI路径之争
随着AI大模型技术的落地，腾讯与阿里选择了截然不同的差异化发展路径。腾讯依托其社交基因，在元宝APP中推出类人的“PAI”功能，强调群聊互动、情感陪伴及办公协作，试图通过拟人化的人格设定增强用户粘性，锁定社交与工作场景。相比之下，阿里则发挥...
Show HN: 利用LLM实现智能分类，开发者推出可定制的经典名著打印网站
该项目提供了一个名为 Printable Classics 的在线工具，允许用户自由定制经典书籍的字体、页码和封面。作者构建了一套自动化软件流水线，将电子书转换为印刷级PDF，并创新性地集成了大语言模型（LLM）对书籍进行智能分类，支持按“...
ChatGPT“一本正经胡说八道”引担忧：AI幻觉频发致用户信任度下滑
近日，有用户在查询域名闲置问题时遭遇了ChatGPT典型的“幻觉”现象。AI不仅提供了错误信息，甚至编造了自己“踩坑”的虚构经历，这种极具迷惑性的回答让用户直呼“离谱”。此事件再次引发了社区对于大型语言模型（LLM）可信度的广泛讨论。尽管生...
重塑软件架构：如何利用大模型构建“可进化”的自适应系统？
本文探讨了大模型时代软件设计的新范式。作者提出利用LLM强大的生成能力，实现从需求文档解析、数据结构设计到后端搭建的全流程自动化。核心构想在于让LLM根据用户身份和实时上下文动态生成UI，并能在需求变更时自动更新关联逻辑，从而实现软件的“自...
技术硬核｜深度解析MCP协议与LLM工具调用原理：从HTTP请求看Claude如何连接世界
本文通过对Anthropic Claude API的深入调研，详细拆解了大语言模型（LLM）实现Tool Calling的技术细节。作者从HTTP请求与响应结构入手，分析了API如何通过System、Messages和Tools字段引导模型...
你以为在训练Agent，其实只是在调教复读机
你花了很多时间”训练”你的 Agent。 但它真的”学会”了吗？ 训练 vs 调教 训练（Training）： – 改变模型 – 改变行为 – 改变能力 &...