DeepSeek惊现“提示词注入”漏洞：输入特定代码可触发随机乱答
近日，有科技社区用户发现DeepSeek存在一个有趣的逻辑漏洞。在开启“深度思考”模式并关闭“智能搜索”的状态下，只需向DeepSeek发送“”、“<think”或特定系统指令符，模型便会失去上下文连贯性，转而开始随机回答某个问题。这...
标签索引 / 第 17 页
大模型
这个标签下有 2415 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
“大语言模型化”：警惕人类误以为自身思维运作同AI一样的认知偏见
这篇论文提出了“大语言模型化”的概念，指人们开始倾向于相信人类认知与大语言模型的工作方式相似。作者指出，这是一种基于“反向推理”的认知偏差，即因为AI能生成类似人类的语言，人们便误以为人类思维本质也是预测性的语言模型。文章强调，语言输出的相...
科研人员的AI生存指南：从文献阅读、知识管理到Idea生成的深度实践
随着生成式AI的崛起，科研工作流正在被重塑。近日，技术社区发起了一场关于“科研如何使用AI”的深度讨论。话题主要涵盖了四大核心场景：一是利用AI高效解析PDF论文与书籍，实现针对性的问答交互；二是借助AI辅助进行系统性知识整理，构建“抗遗忘...
从“石子泛起涟漪”看大模型：AI中文生成的独特口癖与翻译腔
最近，Gemini和GPT等大模型在中文生成中的特定“口癖”引发热议，诸如“稳稳接住”、“石子泛起涟漪”等充满翻译腔的表达在网络上走红。这一现象不仅是社区玩梗的素材，更揭示了当前大模型在中文微调过程中的训练数据偏差。由于中文语料库中可能包含...
AI编程实战：如何破解“对齐”难题，拒绝做“AI文本校对员”？
本文深入探讨了AI辅助编程中的实际痛点：大模型回复过于冗长，导致开发者难以仔细阅读，进而引发理解偏差和代码隐患。作者发现，简单的提示词往往导致效率低下，且模块复用和隐藏Bug难以控制。为此，作者提出了一套名为“阶段1：对齐”的提示词工程框架...
前沿探索：资深交易员寻求AI Agent赋能的私有量化交易系统搭建方案
一位资深从业者和顶级交易员正尝试利用AI（如Claude）辅助搭建私有量化交易系统，目前已实现基于OKX及Bybit的自动化交易，但面临回测效率低、缺乏主动复盘及参数调节困难等技术瓶颈。该团队现急需寻找支持AI Agent（特别是具备长期记...
AI 生成内容的“顽疾”：如何有效去除代码与文档中的残留提示词？
近期有开发者提出困扰，指出在使用 Codex 等 AI 工具生成前端代码和 Word 文档时，模型往往会自发添加“AI 式”的提示词或冗余注释。即便用户尝试通过对话指令要求删除，甚至在全局提示词中明确禁止，模型依然难以彻底摒弃这种“语言习惯...
警惕！研究揭示 LLM “暗腐”现象：在处理长任务时，AI 代理平均会篡改 25% 的文档内容
随着“氛围式编程”等 AI 代理模式的兴起，用户越来越倾向于将任务完全委派给大模型。然而，最新研究通过 DELEGATE-52 基准测试（涵盖 52 个专业领域）对 19 种主流 LLM 进行了评估，结果令人担忧：即使是目前的顶尖模型，在执...
Claude实测：用HTML替代Markdown，Token用量虽翻倍但视觉效果显著提升
针对大模型输出格式单一、信息密度低的问题，社区探讨了使用内嵌HTML替代纯Markdown的可行性。实测数据显示，虽然HTML布局能显著改善排版效果和视觉呈现，但会导致Token消耗量膨胀至原来的2到4倍。文章通过具体案例对比指出，这是一种...
大模型面试通关全攻略：覆盖Agent、LLM原理与RAG架构的79个核心考点
本文整理了一份系统性的大模型技术学习资源，涵盖了从基础原理到前沿架构的完整知识图谱。内容分为五大板块：深入解析AI Agent与传统AI的区别、记忆与规划机制；剖析LLM的训练过程、Transformer架构及幻觉问题；详解Prompt工程...