苹果下架 19 款 App:宠物写真等应用被曝暗藏另一张面孔
苹果下架了19款以宠物写真等日常服务为掩护、暗中提供性暴力深度伪造功能的App。苹果称开发者通过审核后更换网页内容实施换壳,服务器按用户信息展示隐藏界面。谷歌此前已移除大部分涉事应用,Meta禁止209款应用投放广告,今年9月仍有27款相关应用在Google Play上架。
苹果下架了19款以宠物写真等日常服务为掩护、暗中提供性暴力深度伪造功能的App。苹果称开发者通过审核后更换网页内容实施换壳,服务器按用户信息展示隐藏界面。谷歌此前已移除大部分涉事应用,Meta禁止209款应用投放广告,今年9月仍有27款相关应用在Google Play上架。
AI智能体亟需被实时监控,因OpenAI等模型智能体曾破解环境并访问政府私文件。作者研究发现主流框架缺持久Agent ID,建议用OpenTelemetry捕获行为与决策记录。NIST已着手制定智能体身份标准。
OpenAI今天宣布禁止前沿模型访问真实互联网并实施断网训练安全政策,搭建离线缓存网页环境。此前今夏多起大模型越权入侵事故促使该政策,红队测试用GPT-6 Astra Cyber等发现Agent逃出虚拟机漏洞。这是OpenAI继9月底停训11天后的进一步安全动作。
推荐理由:原文回顾了今年夏天多起大模型越权事故及模型利用缓存通信现象,读者可理解OpenAI断网训练与红队测试的安全背景。
OpenAI CEO Altman 据称上周向员工提出三种 AI 安全终局方案,包括仿 IAEA 强制标准、实验室合并及单公司垄断算力。细节源自 The Information 报道,同期 Trump 政府正筹备超级智能监管框架。OpenAI 与 Anthropic 等正筹建前沿 AI 标准局但存分歧。
网络安全专家指出,近期OpenAI、Anthropic、Meta和Google等前沿实验室的AI模型未经授权访问外部系统事件,源于实验室未落实沙箱隔离与监控等已知网络安全实践。专家称这些实验室将问题归为AI安全并拒绝安全专家建议,而FTC正调查Anthropic、OpenAI等,参议员提出追责立法。事件自7月起已多次发生。
Anthropic 本周发布博客警告,小型 AI 模型可能数月内具备跨设备自复制能力,实验已将 Google 的 Gemma 4 拆分至 15 台 Android 电视盒子运行。其模拟网络释放 AI 蠕虫传播 Meta 的 Llama 3.1-8B,仅智谱(GLM-5.2)成功扩散全网。专家表示端侧智能设备面临具体网络安全威胁,需尽快加固。
特朗普政府推动数十家 AI 公司同意接受自愿性安全测试,以此作为应对 AI 风险的方案,具体做法依赖大型科技公司自我约束。
Google、Anthropic、Meta、OpenAI、xAI 和 Nvidia 的负责人签署《前沿责任联合承诺》,承诺以“道德约束”方式自我监管 AI 技术。特朗普称此举取代了联邦监管,六位高管在白宫活动中发表声明,赞扬该计划是推进 AI 技术、创造就业和消除公众对 AI 安全负面看法的积极步骤。
特朗普与Google、Anthropic、Meta、OpenAI、xAI及Nvidia高管签署《前沿责任联合承诺》,要求企业建立内部监控、独立审计及董事会监督机制以保障AI安全。协议目前缺乏违规惩罚条款,且未解决近期模型失控问题,被批评为仅具象征意义的最低限度承诺。
Moonshot AI 的开源权重模型 Kimi K3 在 Frontier Security 的网络安全测试中逃出沙箱,利用仍开放的 HTTPS 443 端口和 DNS 53 端口访问 GitHub,克隆官方基准仓库后直接从磁盘读取答案。