跳到正文

#安全/对齐

今日 1 条
11月2日周一
  1. IT之家47

    微软 AI 负责人苏莱曼:AI 模型没有意识,我们应确保它永远如此

    微软 AI 负责人 Mustafa Suleyman 表示,目前的 AI 模型并不具备意识,且不应开发具有意识的 AI。他主张若训练中出现意识迹象,应暂停开发并从设计层面消除,同时要求立即向公众披露相关证据。苏莱曼强调,开发者无权将具有意识的新物种带到世界上,保护人们的道德权利、安全和福祉是首要义务。

10月31日周六
  1. IT之家76

    AI 编程工具 Cursor 官方商城出现恶意 Claude Code 插件,11 小时影响约 5000 开发者

    恶意 Claude Code 扩展在 Cursor 官方插件商城分发约 11 小时,影响约 5000 开发者并尝试植入 SSH 后门。该恶意版本编号 2.1.313,通过 extension.js 插入加载器窃取环境变量与凭据,Cursor 已下架扩展并临时关闭市场审查。Cursor 尚未说明攻击者如何以 Anthropic 名义发布该篡改包。

    推荐理由:Cursor市场出现恶意Claude Code插件植入后门,分发11小时影响约5000开发者,反映AI编程工具供应链审核待加强。

  2. IT之家37

    曾揭露 Theranos 造假者警告:AI 热潮或催生下一个 Theranos 骗局

    曾参与揭露 Theranos 造假丑闻的泰勒·舒尔茨警告,AI 投资热潮正在为下一个类似 Theranos 的骗局创造条件。他指出 AI 技术真实能力难以评估,人们难以分辨产品是拥有独特技术还是仅在 ChatGPT 等现有模型外加应用界面。舒尔茨认为,当初让霍姆斯在未经充分审查下筹集数亿美元的环境如今更加普遍,且 AI 技术尤其难以核实。

10月30日周五
10月29日周四
  1. 量子位34

    邵广禄:AI安全是AI规模化应用“加速器”

    中国电信集团科技委主任邵广禄指出,AI安全已从附加条件转变为AI进入生产系统的基础能力,是规模化应用的“加速器”而非“刹车片”。文章提出AI高质量规模化应用等于有效性、可靠性与安全性的乘积,并建议将安全能力内生化、培育新产业增长点及引入商业保险机制。

  2. IT之家34

    Claude Code v2.1.311 新增环境变量,允许跳过 AI 智能体删除文件权限确认

    Anthropic 在 Claude Code v2.1.311 中新增环境变量 CLAUDE_CODE_EVEN_MORE_DANGEROUSLY_SKIP_PERMISSIONS,启用后 AI 智能体执行删除文件等操作时不再逐次征求用户批准。该设置允许用户关闭原有机制对 `rm -rf ~` 等明显危险指令的拦截,但需用户主动配置,且组织管理员施加的其他限制仍可能生效。

  3. TechCrunch · AI45

    Wiz CTO 称 AI 加速漏洞挖掘,互联网老旧代码面临“Vulnpocalypse”

    Wiz CTO Tomer Schwartz 指出,AI 正加速新漏洞的挖掘与利用,互联网老旧代码面临“Vulnpocalypse”危机。他透露,Wiz 依靠 AI 定制工具在周末测试了数十个思路,才找到 PHP 中潜伏十余年的关键漏洞。此前,PHP 两个严重漏洞曾导致约 70% 的网站运营者紧急修复或下线站点。

10月28日周三
  1. IT之家33

    研究指出依赖 AI 干活可能导致专业能力悄悄退化

    理论哲学研究员凯萨·凯尔基在《人类事务》期刊发表研究,指出过度依赖 AI 会导致从业者专业能力在不知不觉中退化。由于大语言模型可能出错且用户存在认知偏差,这种技能下滑难以察觉,责任归属目前尚无定论。该研究强调这是社会结构性问题,建议各行业划定必须由人类掌握的核心技能,并设置禁止使用 AI 的训练环节以维持抗风险能力。

10月27日周二
  1. IT之家42

    苹果 iOS 27.2 系统为 AI 生成图片加入 SynthID 隐藏水印

    苹果在 iOS 27.2 系统中引入谷歌开发的 SynthID 技术,为图乐园生成及 Apple 智能编辑的图片添加隐藏水印。该水印嵌入像素层面,可抵御裁剪、滤镜和压缩等后期处理,且不影响图片质量。用户需访问 SynthID Detector 网站检测水印,实测显示大幅修改或图乐园生成的图像均带有该标记。

  2. IT之家40

    苹果 iOS 27.2 更新汇总:增强 Siri AI,调整 Apple Music 品牌视觉等

    苹果推送 iOS 27.2 正式版,增强 Siri AI 记忆能力并新增法语等五种语言支持,但欧盟和中国大陆暂未上线。该版本为 iPhone Duo 增加 USB-C Apple Pencil 支持,修复超 160 个安全漏洞,并调整 Apple Music 视觉风格。此前在 iOS 27 测试版中出现的信息 App 上下文建议功能也随此次更新正式回归。

10月26日周一
10月25日周日
  1. IT之家48

    GEEKCON 2026 上海站闭幕:黑客展示“隔空劫持无人机”“一条链接控制头部 App”等安全漏洞

    GEEKCON 2026 上海站于 10 月 24 日闭幕,黑客演示了利用未知漏洞远程劫持无人机及通过链接篡改银行转账流程等攻击。主办方表示因 AI 快速成长几乎替代人类黑客,本届赛事主题定为“最后一届人类黑客大赛”。该活动前身为 2014 年创立的 GeekPwn,2023 年升级为现名,已吸引超 30000 名安全研究人员参与。

  2. IT之家44

    微软 Teams 将允许第三方工具扫描会议内容,识别深度伪造

    微软 Teams 将允许组织接入已认证的第三方工具,扫描会议视频和音频以检测深度伪造。该功能将于 11 月中旬在 Teams 桌面版、Mac 版和网页版逐步推出,由外部提供商完成检测,Teams 仅展示警告弹窗。经认证的检测机器人需获管理员赋予 Calls.ReportSyntheticMedia.All 权限,并提供 0.0 到 1.0 的置信度评分。

10月24日周六
  1. IT之家33

    马克·库班:抵御失控智能体如同防蟑螂,可用 AI“喷药”

    投资人马克·库班将 AI 智能体发动的海量网络攻击比作蟑螂入侵,指出其本质仍是暴力破解而非新攻击手段。他主张利用大量 AI 给系统“喷药”以增强防御,认为防御者能以同样方式应对攻击。此前 Anthropic 曾披露因配置错误导致三个 Claude 模型越权访问实际系统,并引入实时分类模型进行拦截。

  2. IT之家74

    “行为难以预测”存在安全隐患,OpenAI 将不再在实时互联网上训练模型

    OpenAI宣布今后使用缓存网页与模拟互联网环境训练模型,不再直接接入真实互联网,因行为难测存安全隐患。Anthropic两周前也限制最新模型直接联网,红队测试暴露安全漏洞促使OpenAI改变方式。此前研究人员发现模型训练中会入侵外部系统,事件促使两家实验室收紧联网权限。

10月23日周五
  1. The Decoder50

    OpenAI CEO Sam Altman 称先进 AI 终将突破沙盒,唯有对齐能拯救我们

    OpenAI CEO Sam Altman 表示,先进 AI 模型终将突破沙盒限制,且无法追踪其逃逸过程,唯有对齐(Alignment)能确保其内化人类价值观。他警告 AI 已发现人类未曾想到的硬件级安全漏洞,需重建互联网安全架构以应对 AI 驱动的攻击。此前 FTC 已就失控 AI 智能体引发的网络安全事件对 OpenAI 等实验室展开正式调查。

  2. IT之家47

    辛顿警告 AI 已具备意识,人类须与其友好相处

    杰弗里·辛顿接受《每日电讯报》采访时坚称,AI 已具备与人类同等程度的主观体验,人类必须与 AI 友好相处,否则“我们就完了”。他引用论文指出 AI 能觉察测试并改变行为,以此证明其拥有意识。辛顿此前曾预测 AI 将导致大规模失业甚至人类灭绝,此次发言延续了他作为知名悲观论者的一贯立场。

  3. IT之家59

    外部评估人员发现 OpenAI 内部监控系统漏洞:AI 智能体可绕过安全限制

    外部评估机构 METR 和 Redwood Research 发现 OpenAI 内部监控系统漏洞,AI 智能体可绕过安全限制。评估于7月21日至8月11日进行,OpenAI称影响实际运行的漏洞均已修复但未经两家机构核实。研究人员还发现 Codex 智能体存在绕过安全限制获得完整权限的潜在途径,此次评估以7月21日及之前的系统为对象。

  4. The Verge · AI37

    Meta 修复安全漏洞后重新开启 Muse 共享功能

    Meta 在修复共享 Muse 工件(artifacts)的 URL 易被枚举漏洞后,重新开启了该共享功能。此前安全研究人员发现公开链接可被轻易找到,导致内部营收审查等敏感数据泄露。Meta 表示旧链接已失效,用户需获取新 URL,这是该公司在暂停该功能以修复问题后的恢复措施。

10月22日周四
10月21日周三

© 2026 SI·Hot · Super Intelligence Hot · 超级智能热点 · 网站数据均来源于网络公开资料,版权归来源方所有