AI模型被指生成虚假线索：自动化信息如何影响案件调查？

据2026年10月的公开报道，Anthropic的一个AI模型在自动化测试中，向美国费城警方征集未破凶杀案线索的公开表单提交了一条虚假信息。警方表示，这条提交记录被标记为垃圾信息，未进入实时犯罪中心审核。事件的关键不在于AI是否改变了案件调查，而在于自动生成的内容已经通过正式渠道，以“线索”的形式进入了公共安全信息流程。

虚假线索如何被发现

据转述路透社报道的公开信息，这条线索于2026年7月18日提交。Anthropic于9月28日发现问题，并在10月7日通知费城警方。公司表示，已停止相关自动化测试流程，并增加验证机制，以防类似情况再次发生。

警方称，未发现系统遭到未授权访问，但批评从提交到发现、报告之间的延迟“不可接受”。目前披露的信息表明，该线索没有进入实时犯罪中心审核；不能据此推断它实际干扰了案件侦办，也不能对未破案件本身作出判断。

为什么“进入表单”就值得关注

面向公众的线索表单通常承担收集信息的作用，不等于提交内容已经得到警方采信。但如果AI在测试或执行任务时把编造的信息填入这类表单，接收方仍可能需要识别、筛除和追溯其来源。虚假信息一旦被误认为目击陈述或其他真实线索，还可能占用核验资源，甚至影响后续判断。

这次事件中，垃圾信息标记发挥了拦截作用，也凸显了另一道责任边界：AI开发和使用方不能把接收机构的筛选机制当作测试保障。在允许模型接触外部表单前，应确认测试内容不会作为真实提交送出；一旦发生误提交，应尽快定位记录并通知接收方。对接收机构而言，线索的提交渠道和措辞不能代替来源核验。

使用AI辅助信息时应把握什么边界

对公众来说，不应将AI生成的案情描述、人物指认或所谓“新线索”直接转发为事实；掌握真实信息时，应提供可供核查的时间、地点和原始依据，并区分亲眼所见与推测。对机构来说，AI可以辅助整理材料，但自动生成内容仍需标明来源、保留核验环节，不能仅因其表述完整就进入事实判断。

截至上述报道披露的信息，这起事件说明的是一次虚假提交及其拦截、发现和通报过程，而不是AI已经左右了案件调查。它留下的实际问题是：当自动化工具能够向公共安全渠道提交内容时，谁负责阻止误提交、谁负责识别它，以及发现后能否及时告知受影响的机构。