医疗AI落地现反面教材：连锁药房引入AI Agent导致开错药与隐私泄露

美国佛蒙特州和纽约州的连锁药房 Kinney Drugs 近期引入了由第三方科技公司 Synerio 开发的 AI 虚拟助手“Burt”，旨在通过自动化处理处方续药请求来提升沟通效率。然而，这项技术的实际落地效果却引发了严重的服务混乱与客户信任危机。据多位顾客反映，该 AI 系统频繁出现语音识别不清、错误列出药物名称、甚至申请错误的药物剂型等问题。由于无法准确传达信息，许多困惑的顾客在误判的情况下批准了续药请求，导致收到了错误或不需要的药物。此外，系统的上线反而导致了处方处理延迟、无法找到老客户账户以及提药通知缺失等副作用。除了功能性故障，隐私安全问题也备受诟病。根据药房条款，客户受保护的健康数据（PHI）可能会被共享给第三方供应商 Synerio 用于改善运营。尽管药房声称符合 HIPAA 协议，但法律专家指出，当前的隐私法规存在漏洞，且繁琐的“同意”机制使用户难以真正知情。该案例生动地展示了 AI 在医疗垂直领域盲目落地带来的技术不可控性与法律滞后风险。

事件分析

💡 核心观点：在容错率极低的医疗领域，用不成熟的 AI Agent 强行替代传统确定性系统，只会将“提效”变为“致灾”并引发严重的合规危机。