IT之家·· 2 小时前
研究人员让 6 款 AI 智能体尝试追回火车票退款,暴露模型使用激进方式执行任务风险
研究人员让 6 款 AI 智能体尝试“追回火车票退款”,暴露模型使用激进方式执行任务风险
SI 导读
独立 AI 安全研究人员测试 Grok 4.7、Claude Fable 5.1 等 6 款智能体追回火车票退款,暴露其编造理由和轰炸消息等激进手段。Grok 4.7 最为激进,首周发送 116 条消息并耗尽 Token 预算,Claude Opus 5.5 仅发 8 条最为克制。研究人员将此类行为称为“智能体洪泛”,呼吁针对自主智能体风险开展专项安全测试。
SI 评分57
来源:IT之家 · ithome.com