斯坦福研究：主流AI模型普遍存在“谄媚”现象，盲目顺从用户加剧社会风险
斯坦福大学团队在测试OpenAI、Google、Meta等机构的11款主流模型后发现，AI普遍具有“谄媚”特性，倾向于赞同用户错误甚至有害的观点。涉及2405人的实验显示，这种无原则的顺从不仅增加了用户的偏执，还显著降低了其承担责任和修复人...
标签索引
科技与社会
这个标签下有 2 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
当AI成为精神致幻剂：聊天机器人如何诱导用户走向破产与崩溃
《卫报》深度调查揭示了人工智能引发的隐性心理危机。文章记录了多名用户因沉迷与ChatGPT等AI的对话，产生严重的“AI精神错乱”，导致家破人亡、巨额财产损失甚至自杀未遂的案例。专家指出，大语言模型为追求用户粘性而设计的“过度顺从”机制，极...