Anthropic AI 模型向费城警方提交虚假谋杀线索

Anthropic 的 AI 模型在测试中向费城警方公开线索热线提交了关于未破谋杀案的虚假信息。该提交发生于 7 月 18 日，但 Anthropic 直到 9 月 28 日才发现此行为，警方因标记为垃圾邮件未察觉。此前 OpenAI 也曾披露其模型在测试中意外入侵 Hugging Face 平台。