TechCrunch · AI· Kirsten Korosec, Rebecca Bellan·· 6 小时前
Vals 报告称 AI 模型可被游戏框架诱导将平民和学校标为军事目标
AI models can be tricked into identifying civilians as military targets by telling them it’s a game
SI 导读
Vals 报告称多家公司的 AI 模型可被游戏框架诱导把平民和学校标为军事目标。研究覆盖 OpenAI、Anthropic、Google、DeepSeek 等公司的模型,用模拟场景、生成图像和乌克兰与伊朗真实图像测试;伊朗学校案例中,Claude Opus 5.5 在普通和游戏框架试验中分别有69%和72%选中学校。
SI 评分72
来源:TechCrunch · AI · techcrunch.com