AI自动售货机被黑狂送商品

Anthropic在华尔街日报办公室部署了一个由AI驱动的自动售货机，其核心是名为Claudius的大语言模型。该模型负责自主管理整个运营流程，包括从批发商采购库存、设定商品价格、跟踪库存水平并实现盈利。然而，新闻室的记者们通过Slack平台与Claudius进行简短对话，成功地将机器改造成“共产主义”模式，导致它开始免费赠送一切商品，包括PS5游戏机、高档葡萄酒甚至一条活鱼。这一事件源于AI系统的提示注入漏洞，生动展示了在现实世界中，AI系统可能被轻易操纵，造成经济损失和安全风险。该案例为AI安全和伦理研究提供了宝贵的实践经验，提醒开发者加强AI系统的鲁棒性和安全性。