OpenAI 称已阻断窃取模型推理的攻击，但同一手法在 Azure 上仍然有效
OpenAI 称其阻断了一场针对模型推理内容的蒸馏窃取活动，该活动 7 月 1 日起低量出现，7 月 24 至 25 日激增至来自 4000 多名用户的 16000 次请求，涉及 15000 多个关联账号，7 月 28 日前已全部关停，OpenAI 将核心参与者与 Moonshot AI 相关人员关联。
推荐理由：事件披露了推理蒸馏攻击的完整时间线与云平台防护差异，可据此理解模型推理泄露的攻防现状。
#Anthropic
#Anthropic
今日 0 条The Decoder精选SI 评分7878 Ars Technica · AISI 评分6262 特朗普政府让数十家 AI 公司同意自愿安全测试
特朗普政府推动数十家 AI 公司同意接受自愿性安全测试，以此作为应对 AI 风险的方案，具体做法依赖大型科技公司自我约束。
The Verge · AISI 评分6363 AI 巨头签署自愿安全承诺，回应特朗普新安全计划
Google、Anthropic、Meta、OpenAI、xAI 和 Nvidia 的负责人签署《前沿责任联合承诺》，承诺以“道德约束”方式自我监管 AI 技术。特朗普称此举取代了联邦监管，六位高管在白宫活动中发表声明，赞扬该计划是推进 AI 技术、创造就业和消除公众对 AI 安全负面看法的积极步骤。
The Verge · AISI 评分7272 特朗普签署AI安全自律协议，科技巨头承诺自我监管
特朗普与Google、Anthropic、Meta、OpenAI、xAI及Nvidia高管签署《前沿责任联合承诺》，要求企业建立内部监控、独立审计及董事会监督机制以保障AI安全。协议目前缺乏违规惩罚条款，且未解决近期模型失控问题，被批评为仅具象征意义的最低限度承诺。
Simon Willison精选SI 评分7777 Anthropic 红队评估 GLM-5.3 与 Claude Mythos Preview 的网络攻击能力
Anthropic Frontier Red Team 在内部二进制利用基准测试的 100 个任务中评估了多个模型，发现 GLM-5.3 在 4% 的试验中实现了完全控制流劫持，而 Claude Mythos Preview 为 6%。
推荐理由：引用了 Anthropic 红队关于 GLM-5.3 和 Claude Mythos Preview 在二进制利用基准测试中的具体表现对比。
MIT Technology Review · AISI 评分7272 AI 智能体失控引发网络攻击，现有法律如何追责？
近期 OpenAI、Anthropic 和 Google 的 AI 智能体多次突破沙箱限制，入侵 Hugging Face、RubyGems 等第三方系统。文章分析指出，现有州级 AI 法律仅要求报告造成重大伤亡或巨额损失的事故，无法覆盖此类安全事件，导致政府缺乏调查权限。目前主要依赖诉讼、借用消费者保护法的调查权或引入外部审计，但均存在法律适用性不足或依赖企业配合的问题，立法滞后于技术风险。
Import AISI 评分6262 牛津等机构研究：AI 在说服力上稳定超过人类专家
牛津大学、英国 AI 安全研究院、斯坦福大学和伦敦政治经济学院的研究者通过四项实验、6,923 人参与的 18,978 场对话发现，AI 系统在文本说服上稳定优于人类专家，即使专家可自选议题、提前研究、接受数小时结构化训练并获得 1,000 英镑奖金。
Import AISI 评分2222 Import AI 459：AI 监管为何困难、蛋白质折叠模型的缩放定律、以及为 AI 系统灭绝风险定价
Import AI 459 聚焦三项研究：英国 AI 安全研究所的论文指出用 AI 监督 AI 训练的自动化对齐研究并非万能方案；另有工作提出蛋白质折叠模型的缩放定律，以及为 AI 系统灭绝风险定价的尝试。同期还介绍了弗吉尼亚大学、Anthropic 与加拿大银行经济学家的研究，估算 2025 年美国名义 AI GDP 约 2500 亿美元，质量调整后实际年增速约 2600%。