Tripadvisor AI 摘要功能翻车：竟为存在严重安全隐患的酒店生成虚假好评

据欧洲新闻与 Hacker News 报道，国际知名旅游平台 Tripadvisor（猫途鹰）近期推出的 AI 评价摘要功能遭遇严重信任危机。消费者权益组织“Which?”通过测试发现，该 AI 工具在处理用户评论时存在严重的“报喜不报忧”现象，甚至可能会对用户的生命安全构成误导。测试显示，即便用户原始评论中充斥着关于酒店周边毒品交易、卖淫活动猖獗、客房内蟑螂滋生以及火灾隐患等极端负面的描述，AI 生成的摘要却依然能将这些内容提炼为“客人们普遍很喜欢”、“氛围美丽且宁静”或“位置便利”等正面评价。以一家名为伦敦中央酒店为例，尽管用户详细描述了极其糟糕的治安状况，AI 却忽略了所有警告信号。对此，Tripadvisor 辩称该功能仅是辅助工具，并声称 AI 建立了防止虚假评论的机制，但显然未能有效识别内容中的负面情感权重。这一事件不仅揭示了生成式 AI 在处理复杂非结构化数据时的局限性，也为所有急于部署 AI 生成内容的互联网平台敲响了警钟。

事件分析

💡 核心观点：大模型的“取悦式”归纳倾向在涉及安全风险的场景中极为危险，AI应用需从追求文本流畅转向对关键负面信号的精准识别。