标签索引

内容安全

这个标签下有 12 篇文章。按时间回看相关判断与实践记录。

标签精选

OpenAI 严打网络滥用，API 中转服务面临封号危机与拦截方案探讨

随着OpenAI近期大幅加强安全审查力度，许多依赖API中转服务的开发者遭遇了账号被警告甚至封禁的问题，尤其是收到“Cyber Abuse”（网络滥用）警告导致高级版Pro账号频繁被封。这表明OpenAI正在严厉打击利用其模型进行恶意攻击或...

2026-05-011 分钟阅读143 阅读

针对AI生成内容的泛滥，Linux.do社区发起了关于“免费且强大的AI文章检测工具”的深入探讨。帖子汇总了多款能精确到句子或段落级别的检测工具，参与者们分析了不同工具在处理长文（约六千字）时的准确率与优劣势。这份清单为内容创作者提供了高性...

2026-04-251 分钟阅读76 阅读

本文深入剖析了在儿童安全（CSAM）检测中，如何通过“感知哈希”技术（如Meta的PDQ和微软的PhotoDNA）将图像转化为不可逆的数字指纹，从而在不查看原图、不侵犯用户隐私的前提下，实现对已知违规内容的规模化精准匹配。文章详细解析了图像...

2026-04-101 分钟阅读82 阅读

随着大语言模型的普及，准确识别 AI 生成文本已成为一项极具挑战的技术难题。本文深入探讨了检测 LLM 内容的科学原理，分析了基于统计特征和困惑度等现有方法的局限性。研究表明，AI 生成的文本往往趋向于“平均化”而缺乏人类语言的随机性，但随...

2026-03-011 分钟阅读80 阅读

谷歌DeepMind发布了一项名为SynthID的新技术，旨在应对AI生成内容激增带来的版权和虚假信息挑战。该工具能在AI生成图像或视频片段的瞬间，为其嵌入肉眼不可见的数字水印。这种水印既不影响内容质量，又具备极强的鲁棒性，即便经过裁剪、滤...

2026-02-271 分钟阅读110 阅读

作者在搜索一款冷门游戏时，发现一篇文章凭空捏造了“重制画质”和“动态天气”等特性。经测试，这是大模型（LLM）在训练数据不足时产生的典型“幻觉”。文章指出，AI技术大幅降低了生成SEO垃圾内容的门槛，导致搜索引擎中充斥着看似合理但完全虚假的...

2026-02-151 分钟阅读203 阅读

这篇来自热门小众社区的2025年内容安全年报揭示了AI技术对内容审核的严峻挑战。该社区每月处理35亿次HTTPS请求，采用阿里云OSS与自研小模型进行双重审核。数据显示，全年仅发生29次文字预警，但图片违规删除量高达38万次。最引人注目的是...

2026-02-101 分钟阅读156 阅读

Discord宣布在全球范围内推行“默认青少年”安全体验，旨在强化13岁以上用户的网络保护。新策略将默认开启敏感内容模糊处理与陌生消息拦截，用户需完成年龄验证才能访问受限内容。技术上，Discord引入了后台运行的AI年龄推断模型以及基于设...

2026-02-101 分钟阅读201 阅读

Instagram上涌现大量AI虚拟网红，它们发布与勒布朗·詹姆斯、“巨石”强森等名人发生性关系的虚假图片，且未标注AI生成。这些内容通过特定短视频模因获取数百万点击，诱导用户访问外部成人平台Fanvue购买AI裸照。这种利用AI深度伪造吸...

2026-01-141 分钟阅读249 阅读

用户发现OpenAI的文生视频模型Sora已无法生成与已故篮球巨星科比·布莱恩特相关的视频内容。这一现象揭示了AI模型在商业化落地过程中，日益严格的安全护栏与审查机制。尽管“数字永生”曾被视作AI技术的浪漫愿景，但面对公众人物的隐私保护及伦...

2026-01-131 分钟阅读611 阅读