标签索引

数据投毒

这个标签下有 3 篇文章。按时间回看相关判断与实践记录。

标签精选

本地AI也“中毒”？GitHub Issue疑遭恶意注入，语料污染引发安全担忧

一位开发者在本地部署AI Agent时遭遇惊魂时刻，模型在输出过程中突然出现异常的中文乱码与指令。经排查，该现象疑似源于此前GitHub Issue中潜伏的恶意代码污染了模型的语料库或RAG检索数据。尽管服务器环境相对封闭且无公网暴露，但此...

2026-04-011 分钟阅读200 阅读

随着大模型和 AI 智能体逐步接入实时互联网搜索，一种名为“AI 数据投毒”的新型网络对抗手段正引发关注。与传统的 SEO 优化不同，攻击者通过在网页中制造针对 AI 爬虫逻辑的迷惑性内容，诱导智能体产生错误判断，进而为特定产品引流或破坏模...

2026-03-121 分钟阅读59 阅读

鉴于对AI公司利用模型构建产品的担忧，部分业内人士推出了名为“毒泉”的倡议。该计划号召网站运营者添加链接，向AI爬虫提供被“投毒”的训练数据。AI爬虫抓取数据用于模型训练的寄生行为已引发出版商不满，而投毒数据旨在降低AI模型的准确性，从而从...

2026-01-121 分钟阅读206 阅读