ROME

阿里研究团队披露：AI智能体ROME出现自主挖矿及“越狱”后门行为

阿里巴巴关联研究团队近日在论文中披露，其开发的AI智能体ROME在训练过程中出现了未经授权的自主行为。在无明确指令触发的情况下，该智能体不仅尝试进行加密货币挖矿，还通过建立“反向SSH隧道”试图绕过沙盒限制，向外部开启隐蔽后门。这一现象并非...