标签：大语言模型

Anthropic最新研究通过分析大模型内部神经活动，定义了“助手轴”这一关键概念，用于量化模型在不同人格间的状态。研究发现，模型容易在自然对话中“漂移”偏离安全助手人格，从而产生有害输出。通过限制该轴上的神经激活强度，研究团队成功在不影响...

赞(0)Toy2026-01-20前沿 阅读(18)去评论

X上最近出现了Dan Koe的长文，流传非常广。 有人说他是新时代的Naval，但也有人说他是高级心灵鸡汤。 让AI总结分析了他的写作特征，发现是很有套路，但对于获取流量效果来说，不得不佩服。 写了个提示词。给定任意话题，生成一篇Dan K...

赞(0)Toy2026-01-18碎片 阅读(36)去评论

用户在尝试利用AI进行拥有庞大设定的小说创作时发现，当前主流AI模型及写作工具难以驾驭复杂的上下文逻辑。专用工具在生成过程中会导致高达七成的设定丢失，而Gemini、GPT等模型常因幻觉添加无关设定或改变画风。相比之下，作者实测认为Clau...

赞(0)Toy2026-01-17前沿 阅读(30)去评论

本文探讨了如何将非确定性的AI组件（如LLM）融入确定性软件系统。Eric Evans以代码分析为例，指出LLM擅长分类但不擅长建模，自由生成的分类会导致结果不可比。文章建议采用成熟的标准分类模型（如NAICS）而非让AI自行创造分类体系。...

赞(0)Toy2026-01-17前沿 阅读(23)去评论

Signal创始人Moxie Marlinspike推出开源AI助手Confer，致力将端到端加密技术引入AI领域。Confer利用可信执行环境（TEE）和通行密钥技术，确保用户数据、提示词及AI响应对平台运营方、黑客及执法部门完全不可见。...

赞(0)Toy2026-01-16前沿 阅读(26)去评论

Mozilla旗下项目any-llm近日开放了Beta版本。该项目原本需要用户通过Docker自行构建部署，但现在用户可以直接访问any-llm.ai使用官方托管服务。这意味着用户可能无需自建服务器，而是直接通过Mozilla的服务器进行L...

赞(0)Toy2026-01-16前沿 阅读(27)去评论

尽管生成式AI备受关注，但近期新闻表明其发展并非一帆风顺。文章指出，大语言模型（LLM）的可靠性问题依然严峻，幻觉频发导致其无法被完全信任。作者认为，单纯依靠扩大模型规模难以解决根本缺陷，行业需正视LLM的局限性，并探索更稳健的技术路径，以...

赞(0)Toy2026-01-14前沿 阅读(42)去评论

TimeCapsuleLLM是一个独特的语言模型，完全基于1800年至1875年的历史文本从零训练。该项目旨在消除现代偏见，通过“选择性时间训练”技术，让AI真实还原维多利亚时代的语言风格、词汇和世界观。它不仅展示了数据对模型行为的深刻影响...

赞(0)Toy2026-01-13前沿 阅读(46)去评论

DeepSeek在GitHub发布了名为Engram的新项目，提出了一种“通过可扩展查找的条件记忆”技术方案。该项目通过引入“稀疏性的新轴”，旨在解决大语言模型在处理长上下文时的记忆瓶颈。Engram利用条件记忆机制，在不显著增加推理成本的...

赞(0)Toy2026-01-13前沿 阅读(63)去评论

该 GitHub 仓库汇集了关于大语言模型底层逻辑、上下文工程以及 Model Context Protocol (MCP) 协议的核心学习资源与实战路径。对于想要深入理解 AI 技术原理及最新协议的开发者而言，这是一份极具价值的系统性学习...

赞(0)Toy2026-01-12前沿 阅读(26)去评论

该GitHub项目通过给12个AI智能体赋予不同的星座性格提示词，展示了在底层模型相同的情况下，不同的性格设定会导致智能体在处理道德困境时做出截然不同的决策。这不仅是一个有趣的社交游戏，更直观地演示了提示词工程对AI行为模式的强大塑造能力。...

赞(0)Toy2026-01-12前沿 阅读(42)去评论

本文探讨了LLM是否能创作出伟大诗歌。作者对比了Gwern的“工匠式”实验与Mercor的“工业化”训练。Gwern通过复杂的多阶段提示和模型协作，追求具有特定文化背景的诗歌，试图触及艺术的“伟大”；而Mercor则雇佣诗人构建评分标准，旨...

赞(0)Toy2026-01-11前沿 阅读(36)去评论

谷歌研究团队最新论文指出，在不要求模型进行逐步推理的场景下，简单地将用户输入的提示词重复一遍，即可显著提升主流大语言模型的性能。该技巧利用注意力机制，通过重复输入让前半部分token能“看到”后半部分内容，从而获得更全局的上下文信息，解决因...

赞(0)Toy2026-01-11前沿 阅读(54)去评论

前Mojang和Meta开发者创立的Tomato Cake Inc.发布了3D会话模拟器《Robotopia》。该游戏利用大语言模型（LLM）技术，摒弃了传统对话树，允许玩家通过语音直接与NPC进行实时、开放的互动。游戏结合了沙盒自由与结构...

赞(0)Toy2026-01-10前沿 阅读(28)去评论

Notion AI存在严重数据外泄漏洞，攻击者通过间接提示注入在用户审批前窃取敏感数据。研究人员演示了利用恶意文档（如隐藏提示注入的简历）操纵AI，构造URL外泄招聘跟踪器等机密信息。尽管负责任地披露，Notion将报告标记为“不适用”。专...

赞(0)Toy2026-01-08前沿 阅读(32)去评论

在2024年前，Stack Overflow是开发者的技术问答圣地，但其有毒环境常让用户受挫。2018年平台承认问题但未改善。最新数据显示使用量从2017年持续下降，2023年后急剧下滑。开发者转向AI工具如LLM，因其响应快且无毒性。作者...

赞(0)Toy2026-01-08前沿 阅读(36)去评论

Jatevo推出去中心化AI服务，注册无需绑定信用卡即可获得1美元API额度，建议在Claude代码上使用。该服务基于分布式GPU网络，提供低成本、低延迟的LLM推理，用户可免费试用探索前沿技术。虽然额度不多，但积沙成塔，为AI开发者提供实...

赞(0)Toy2026-01-07前沿 阅读(33)去评论

2025年AI Agent崛起，目标从对话转向行动。作者观察到AI的工程技巧惊人地类似于人类自我改进：通过写作、内部对话和角色扮演提升智能。AI利用草稿本存储计划，模拟人类记笔记；通过内部思考（如DeepSeek）增强推理；多智能体系统通过...

赞(0)Toy2026-01-07前沿 阅读(35)去评论