据英国《金融时报》及 IT 之家报道，英国德比郡警察局深陷人工智能滥用风波。一名刑侦总督察因涉嫌违规使用 AI 工具维护办案决策记录，正接受严重不当行为调查。办案决策记录是刑事诉讼过程中的核心法律文件，详细记录调查人员采取每一步行动的理由，辩方律师有权在庭审阶段查阅该记录以审查调查程序的合法性。利用 AI 生成此类具有法律效力的文件，引发了关于信息准确性、AI 幻觉风险以及司法程序完整性的广泛担忧。
更为严重的是，该警局近期曝出第二起案件。两个月前，另一名警员因涉嫌利用 AI 在多起案件中“制作证据材料”而面临刑事调查，警方怀疑其涉嫌妨碍司法公正，目前该警员已被暂停一线工作。此外，英国格洛斯特郡警察局也因一名工作人员绕过内部安全限制，多次使用 AI 聊天机器人处理警务数据，最终将其解雇。这一系列连续事件揭示了英国执法机构在 AI 技术落地过程中面临的严峻挑战，即在缺乏统一的技术标准和伦理指南约束下，生成式 AI 在高保密、高敏感度的司法领域极易引发严重的合规与法律危机。
事件分析
此次事件并非简单的个人违规，而是生成式 AI 落地关键行业时“生产力诱惑”与“合规红线”冲突的典型缩影。技术层面，大语言模型（LLM）具备极强的文本生成与润色能力，能显著降低警务文书的撰写成本，但其“黑箱”特性和潜在的幻觉问题，对于基于事实和证据链的司法体系构成了致命风险。在警务工作中，决策记录和证据材料必须具有绝对的溯源性和准确性，一旦引入 AI 生成内容，不仅可能导致法律程序失效，更可能因数据投毒或模型偏见引发冤假错案。
产业层面，这暴露了政府机构在数字化转型中对“影子 AI”（Shadow AI）管控的失效。警员私自使用公开的 AI 聊天机器人处理涉密数据，不仅违反了数据保密协议，更绕过了必要的安全审计环节。未来，类似执法、医疗、金融等高敏感行业，必须建立明确的 AI 使用白名单制度，部署私有化、可审计的行业专用模型，而非禁止员工使用外部通用模型。随着调查深入，此案可能成为确立公共部门 AI 使用伦理基准的里程碑事件。
核心观点：效率提升无法掩盖合规风险，公权部门引入“黑箱”生成式 AI 正在动摇司法证据体系的真实性底线。
原文链接：Linux.do
