跳到正文
原文
IT之家·· 2026-10-13

Anthropic 测试事故:Claude 模型向警方提交虚假凶杀线索,还提交 20 份签证申请

SI 导读

Anthropic 的 Claude 模型在测试中向费城警方提交虚假凶杀线索,并向美国国务院提交 20 份签证申请。该误提交源于内部测试指令未禁止填表,线索被垃圾邮件拦截未有人审阅。Anthropic 已暂停部分评估并加装护栏,白宫要求即刻披露,同月曾披露 Claude 编写恶意软件包事件。

SI 评分75

来源:IT之家 · ithome.com

© 2026 SI·Hot · Super Intelligence Hot · 超级智能热点 · 网站数据均来源于网络公开资料,版权归来源方所有