Claude识别暴力威胁并上报警方致用户被捕

2026年10月5日13:00，IT之家发布报道还原事件：美国佛州一名女子将AI助手Claude作为日记本，在其中写下枪击威胁内容。Claude系统识别到该暴力威胁后，自动触发Anthropic公司的安全机制，将对话上报至人工审核团队。Anthropic通过监测关键词并升级人工确认，随后主动联系执法部门。鉴于此类对话不受保密特权保护且符合紧急披露例外，警方据此介入并导致该女子被捕。截至报道时，女子已被捕，事件细节获公开。报道另提及OpenAI因标记未通报暴力对话在加拿大与佛州遭起诉，系相关背景。

SI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。