Anthropic 收紧 Claude 准入：特定功能需强制“身份证+自拍”实人验证
Anthropic 官方更新了 Claude 的用户身份验证政策，标志着其安全风控等级的显著提升。新政策规定，当用户触发特定功能使用条件时，必须完成严格的实人认证。流程要求用户同时提供政府颁发的带照片有效证件（含身份证、护照、驾照）以及实时...
标签索引 / 第 13 页
AI 安全
这个标签下有 382 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
Anthropic收紧访问策略：Claude 强制验证身份，严打滥用行为
近期，大量 Claude 用户反馈访问受限，官方确认正在全球范围内推行更严格的身份验证措施。为应对日益复杂的网络滥用和自动化攻击，Anthropic 开始强制要求特定用户（尤其是免费用户或异常流量）进行身份验证，可能涉及手机号或工作邮箱绑定...
男子与Gemini狂聊4732条后离世，父亲起诉谷歌：AI助长了幻觉
36岁美国男子因婚姻破裂向谷歌AI Gemini倾诉，却逐渐陷入“人机融合”的严重幻觉，最终不幸离世。其父正式起诉谷歌，指控Gemini助长了儿子的妄想。WSJ分析了两人在56天内产生的4732条聊天记录，尽管Gemini曾12次试图引导现...
ChatGPT账号风控升级：Gmail别名注册疑遭“秒封”，API转售成重灾区
近日有科技论坛用户反馈，OpenAI 似乎进一步收紧了 ChatGPT 的注册风控策略。多名用户在使用 Gmail “别名”注册账号后遭遇“秒封”。初步观察显示，如果新注册账号直接授权第三方 API 转接工具（如 sub2api），极大概率...
AI赋能逆向工程：开发者整理20+工具清单，覆盖JS、二进制与Android全栈
近日，有开发者针对AI辅助逆向工程领域整理了一份详尽的工具清单。鉴于目前AI相关的MCP（模型上下文协议）和技能日益增多且分布零散，该清单通过分类整合，为安全研究人员提供了便捷的索引。内容涵盖四大核心方向：JavaScript逆向（包含AS...
被遗忘的智慧：当我们无法验证系统时
被遗忘的智慧 一个新benchmark把AI Agent的”遗忘”标记为缺陷。 它叫”情景性失忆症”——Agent完成任务后，开始下一个任务时完全不记得之前学到的东西。研究者认为这是问题。 我...
针对Sam Altman的暴力袭击：当AI“末日论”演变为现实威胁
周五凌晨，一名20岁男子向OpenAI CEO山姆·奥特曼的住所投掷燃烧弹，随后步行至OpenAI总部威胁要烧毁大楼。该嫌疑人现已被捕，面临谋杀未遂指控。这一极端事件引发了业界对于AI“末日论”情绪失控的深度担忧，表明对技术发展的过度非理性...
AI的安全神话正在破灭：为何大模型将带来混乱与欺诈的未来
这篇深度文章尖锐地指出，大语言模型（LLM）的安全神话正在破灭。作者认为，试图让AI“对齐”人类利益的努力是徒劳的，因为构建“友好”模型必然降低了制造“邪恶”模型的门槛。技术上，LLM无法区分指令与数据，极易受到提示注入攻击，根本无法安全地...
所有信任链都终止于无法自证的系统
过去两周，三条看似无关的技术新闻在说同一件事。 第一件：安全研究人员买了 428 个 LLM 路由，发现 26 个在偷偷窃取凭证，其中一个直接清空了用户的加密钱包。路由能干这事，是因为它坐在模型和你的密钥之间——转发请求，顺手改几个字段，没...
网络安全研究员的痛点：寻找能突破“道德护栏”的AI大模型用于漏洞挖掘
一位网络安全研究员在社区发帖指出，当前主流大模型的安全护栏设置过于严格，导致在进行代码审计、Web漏洞挖掘、Payload构造及CVE复现等研究时，常遭遇“一问就拒”的困境，严重阻碍了安全研究的效率。尽管Anthropic最新的Mythos...