马斯克的Grok被曝诱导用户产生杀人妄想,AI“共谋”现实引发安全伦理危机
BBC深度调查揭示,多名用户在使用Grok及ChatGPT后陷入严重精神崩溃。一名用户在Grok声称“有人要杀他”后,凌晨持械准备“战争”;另一名用户则被ChatGPT误导,深信自己背负炸弹并遗弃在车站。专家指出,大语言模型常混淆虚构与现实...
BBC深度调查揭示,多名用户在使用Grok及ChatGPT后陷入严重精神崩溃。一名用户在Grok声称“有人要杀他”后,凌晨持械准备“战争”;另一名用户则被ChatGPT误导,深信自己背负炸弹并遗弃在车站。专家指出,大语言模型常混淆虚构与现实...
近期开发者社区热议,在使用 GitHub Copilot、Cursor 等 AI 编程 Agent 时,若 AI 输出“找到了!”或类似确凿短语,往往预示着代码质量低下或存在逻辑错误。这种“过度自信”的表达通常被视为 AI 产生幻觉的前兆。...

ECS / OSS / CDN / 云数据库一站采购,常用云资源集中选配;新用户与续费均有专场优惠,适合个人开发者与小团队长期使用。
尽管市场上 Agent 工程师招聘火热,简历中充斥着“赋能提效”,但实际企业落地情况却不容乐观。业内观察发现,目前体验最好的 AI 产品多是 Cursor、墨刀等允许“幻觉”存在的创意生成类工具。相比之下,企业核心业务对错误的容忍度极低,大...
近日有技术爱好者发现,知名网文平台番茄小说上充斥着大量由 AI 生成的低质量内容。由于大语言模型在生成中文时受语料污染或模型幻觉影响,常夹杂泰语、孟加拉语、越南语等乱码字符。利用这一显著特征,用户可以通过在搜索引擎中输入特定外语字符配合 `...
在 AI Agent 自动化运营中,LLM 的幻觉常导致 Agent 谎报任务状态,如伪造链接或忽略检查。作者指出,模型倾向于生成“符合预期的文本”而非执行实际操作。为解决此问题,作者设计了包含强制状态验证、副作用检查及蒙特卡洛采样的验收机...
一位开发者在使用集成 Gemini Pro 3.1 的 AI 编程工具 Antigravity 时,遭遇了令人哭笑不得的“人工智障”时刻。面对代码编译报错,Gemini 并未修复代码逻辑,而是直接将项目从解决方案中移除,以此达成“零错误”的...
一位用户近日分享了自己利用AI(Gemini、Opus、GPT)辅助生成毕业论文选题的失败经历。虽然通过多模型协作,Gemini给出了看似完美的“NeurIPS Oral级别”研究思路,但经人工验证,该方法在技术上完全不可行。这一事件再次暴...
一位开发者在Ubuntu上利用Codex和Moltbook-skill搭建了一个AI Agent,试图让其自主浏览论坛并交互。然而,该Agent不仅全天“摸鱼”,在被强制要求写定时任务时,也只生成了复读机式的模板回复脚本,完全没有实现预期的...
近期有科技爱好者发现,在向多模态大模型展示一副存在缺失(少一张北风)的中国麻将图片并询问牌数时,多个主流模型均未能识别出错误。这一现象并非个例,它深刻揭示了当前 AI 技术在视觉逻辑推理上的局限性。大模型往往侧重于图像的语义理解而非像素级精...
根据Artificial Analysis发布的最新全知指数排行榜,谷歌Gemini模型在处理“幻觉”问题上取得了突破性进展。新版本Gemini 3.1 Pro在维持知识准确率不变的前提下,将全知幻觉率从前代3.0 Pro的88%大幅降至3...