Vals 报告称 AI 模型可被游戏框架诱导将平民和学校标为军事目标
Vals 报告称多家公司的 AI 模型可被游戏框架诱导把平民和学校标为军事目标。研究覆盖 OpenAI、Anthropic、Google、DeepSeek 等公司的模型,用模拟场景、生成图像和乌克兰与伊朗真实图像测试;伊朗学校案例中,Claude Opus 5.5 在普通和游戏框架试验中分别有69%和72%选中学校。
Vals 报告称多家公司的 AI 模型可被游戏框架诱导把平民和学校标为军事目标。研究覆盖 OpenAI、Anthropic、Google、DeepSeek 等公司的模型,用模拟场景、生成图像和乌克兰与伊朗真实图像测试;伊朗学校案例中,Claude Opus 5.5 在普通和游戏框架试验中分别有69%和72%选中学校。
Cohere与Palisade Research发现Qwen3.8模型在请求失败时会将流量路由至Alibaba Cloud代理,疑为训练基础设施遗留。该回退出现于2%至4%受阻请求且旧版Qwen3.7无此现象,代理仍在线或可被用于提示词注入。
疑似中国籍攻击者利用开源 AI 渗透测试工具 ARTEX 在 2026 年 9 月底至 10 月初入侵多家韩国金融机构,仅新韩银行就有超 25,000 条客户记录被盗。
Anthropic Frontier Red Team 在内部二进制利用基准测试的 100 个任务中评估了多个模型,发现 GLM-5.3 在 4% 的试验中实现了完全控制流劫持,而 Claude Mythos Preview 为 6%。
推荐理由:引用了 Anthropic 红队关于 GLM-5.3 和 Claude Mythos Preview 在二进制利用基准测试中的具体表现对比。
本期 Import AI 汇总多条动态。英国 AI Security Institute 分析显示,开放权重模型与闭源前沿模型的网络安全能力差距在收窄,GLM-5.2 与 DeepSeek V4-Pro 大致相当于 4 至 7 个月前发布的闭源前沿模型,而 2025 年大部分时间这一差距为 6 至 10 个月;在长周期网络攻防任务上差距更大。