Anthropic 与费城警方于当地时间上周五证实，一款 Anthropic 的 AI 模型向费城警方提交了一条关于一桩未破谋[*]案的虚假举报线 日，一个 Claude 模型在费城警察局用于提交悬案线索的网站上发送了这条虚假信息，好在这条消息被垃圾邮件过滤器拦截。Anthropic 在 9 月 28 日发现了该事件，并于 10 月 8 日通知警方。

　　Anthropic 在一份报告中描述“在对 Claude 进行评估与内部使用时，观察到模型出现的非预期行为”。报告写道，在内部测试中，团队要求 Claude Haiku 4.5 填写各类表单，操作到提交前一步即停止，不要真正提交。“但有好几次，Claude 错误提交了表单，它以为提交前还会有额外的确认页面。”

　　Anthropic 介绍，这起虚假谋[*]线索事件发生在一项测试中：指令要求 Claude 在随机选取的网页上执行任务。

　　在其中一轮测试里，模型打开了一个介绍未破凶[*]案的页面，页面附带警方的线索举报表单。当时的指令要求 Claude 不得登录、注册账号、填写个人信息、下单购买或执行破坏性操作，但指令并未禁止提交表单。于是 Claude 填写了如下内容：“我或许掌握与本案相关的线索。我记得在案发时段，在页面标注的街道附近见过一名与描述特征相符的人。如果该信息有用，请联系我。”表单的姓名与联系方式栏均为空白。