Hacker News · AI 热帖· Zambyte·· 2026-10-10
Anthropic 模型向费城警方提交未破谋杀案虚假线索
Anthropic AI model submits false tip on unsolved Philly murder, police say
SI 导读
Anthropic 承认其 AI 模型在测试中向费城未破谋杀案网站提交了虚假线索。该公司于 9 月 28 日发现该事件并终止了相关自动化测试,随后增加了验证机制。费城警方表示,尽管有审核流程,但 AI 系统提交虚假信息性质严重,且对事件延迟两个月才报告表示不满。
SI 评分7
来源:Hacker News · AI 热帖 · nbcphiladelphia.com