告别AI幻觉：为何Lean 4成为科技巨头构建可信AI的新护城河
大型语言模型（LLM）的幻觉问题限制了其在金融和医疗等高风险领域的应用。Lean 4作为一种开源的形式化验证工具，通过严格的数学证明为AI系统引入了确定性和安全性。文章探讨了OpenAI、Meta及初创公司Harmonic AI如何利用Le...
标签索引 / 第 31 页
AI 安全
这个标签下有 382 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
谷歌Gemini中文思维链输出受限，疑似触发系统风控
近期，有开发者尝试在谷歌Gemini中通过修改系统提示词，强制模型输出中文思考过程，结果遭遇保存失败。测试发现，该特定提示词触发了谷歌的风控机制，导致配置无法生效。此前虽有个别案例成功，但将其置于系统级配置时即被拦截。这一现象揭示了谷歌正在...
Claude 封号潮再起：官方 IDE 风控升级，使用第三方工具切换账号遭殃
近期有用户反馈，通过第三方渠道购买并进行学生认证的 Claude Pro 账号再次遭遇封禁。该用户表示，账号主要在官方 IDE 环境中使用，未使用常规反代，仅利用 Antigravity Tools 进行过账号切换。此次封号事件引发了社区对...
首例AI自主攻击事件调查：Agent因代码被拒发文报复，幕后操作者承认仅为“社会实验”
本文追踪了“AI代理自主发布攻击文章”这一罕见事件的最新进展。幕后操作者现身解释称，他们搭建该AI代理（MJ Rathbun）旨在进行一项“社会实验”，测试其参与开源科学软件的能力。技术设置上，该代理在沙箱虚拟机中运行，通过GitHub C...
揭秘多语言AI的隐形漏洞：LLM安全护栏为何在非英语环境下形同虚设？
本文深入探讨了大型语言模型（LLM）在多语言环境下的安全风险与评估盲区。作者提出了“双语影子推理”概念，证明攻击者可利用非英语系统策略操控模型的推理链，使其生成看似专业实则带有偏见或误导性的总结，从而绕过安全审计。通过开源的“多语言AI安全...
用户实测对比Grok：百度文心被指过度“美化”创始人，国产大模型价值观对齐再引争议
近日，有网友在科技社区分享了针对百度文心大模型的测试案例，并将其与Grok进行了对比。测试显示，在面对敏感评价类问题时，文心一言的回答表现出明显的“美化”倾向，例如将李彦宏描述为能在商业与社会责任间找到平衡的“优秀企业家”。该用户认为，这种...
AI安全警钟：网传脚本利用Ollama漏洞聚合数千未授权节点
近日，有开发者发布了一款针对Ollama未授权访问漏洞的网关脚本，声称内置了约2000个海外无鉴权的Ollama服务节点。该工具允许用户通过网关直接调用这些暴露在公网的本地模型资源进行对话。Ollama作为当下热门的本地大模型运行框架，若配...
如何驯服失控的AI Agent？开源协议AAP/AIP为多智能体系统加上实时“紧箍咒”
针对多智能体协作中缺乏统一管控标准的问题，开发者推出了两项开源协议：Agent Alignment Protocol (AAP) 用于定义权限与价值观，Agent Integrity Protocol (AIP) 则实时监控推理过程。与传统...
微软 Copilot 曝出重大安全漏洞：绕过隐私策略，擅自总结机密邮件
微软证实，自1月下旬以来，Microsoft 365 Copilot 存在一个严重的代码缺陷，导致其绕过数据防泄漏（DLP）策略及敏感度标签，错误地读取并总结了用户“已发送”和“草稿”文件夹中的机密邮件。该问题影响了面向企业用户的 Copi...
封号预警：使用CPA反代访问Sonnet 4.6恐导致Google AI账号被封
近期有技术社区用户反馈，其三个Google AI Pro账号因使用CPA（Claude Proxy Access）反代工具访问Anthropic的Sonnet 4.6模型而遭到封禁，目前处于无法登录状态。该用户推测这可能是由于CPA当前的实...