美国佛州一女子把 AI 当“日记本”用，Claude 识别到枪击威胁后上报给 Anthropic 人工审核并报警

佛州女子将 Claude 当日记写下枪击威胁，触发 Anthropic 安全机制上报人工审核并报警致其被捕。Anthropic 监测关键词升级人工确认后联系执法，对话不受保密特权且存在紧急披露例外。材料另提及 OpenAI 因标记未通报暴力对话在加拿大与佛州遭起诉。