跳到正文
热点事件持续更新

OpenAI推出组合工具应对儿童性虐待材料

4 篇报道4 个报道来源21 小时前更新

先了解这件事

SI 综述

OpenAI发布了新图像分类器、ChatGPT警示与临时封禁机制等工具,旨在打击儿童性虐待材料(CSAM)。OpenAI称,该分类器可识别包括AI生成在内的CSAM图像,早期测试中标记图像量减少48%,发现相同数量滥用图像时命中率翻倍。 该工具通过OpenAI API向通过审核的机构免费开放,可帮助审核团队优先处理潜在内容。ChatGPT将新增相关产品警告,并在用户提出相关请求后暂时停用账号24小时。The Verge援引NCMEC数据称,2025年生成式AI相关举报达40万条,远高于2024年的6.7万条。

SI 根据报道生成 · 21 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. IT之家
    OpenAI 推出儿童性虐待内容检测工具,加强儿童网络安全防护

    OpenAI 推出儿童性虐待内容检测工具,并通过 OpenAI API 向经过审核的机构免费开放。该工具包含新的图像分类器,可寻找虐待行为的视觉特征并为图像评分,帮助审核团队优先处理潜在内容。OpenAI 称该工具相比现有保护措施可减少 48% 误标记图像数量,ChatGPT 也将新增产品警告,并在相关请求后暂时停用账号 24 小时。

  2. The Verge · AI
    OpenAI 发布儿童性虐待图像分类器以应对深度伪造举报激增

    OpenAI 宣布推出儿童性虐待图像分类器,用于检测虐待图像并判断是否由 AI 生成,并向通过审核的机构免费开放。OpenAI 称该分类器减少 48 percent 误报,被识别图像含虐待材料的可能性翻倍。NCMEC CyberTipline 在 2025 年收到 400,000 条生成式 AI 相关举报,高于 2024 年的 67,000 条。

  3. TechCrunch · AI
    OpenAI 发布新图像分类器和 ChatGPT 警示应对儿童性虐待材料(CSAM)

    OpenAI 发布新图像分类器、ChatGPT 警示与临时封禁机制、开发者指南和执法工具,用于打击儿童性虐待材料(CSAM)。图像分类器可识别包括 AI 生成图片在内的 CSAM 图像,早期测试中标记图像减少 48%,发现相同数量的滥用图像,被标记图像属于滥用图像的可能性为两倍。

  4. OpenAI News
    OpenAI 推出新工具与支持以加强打击在线儿童性虐待

    OpenAI 推出新工具、实用指南及合作伙伴关系,旨在帮助预防、检测和应对在线儿童性剥削与虐待。

本事件热度走势

当前热度 19·可比范围峰值 34(11月17日 10:00)·近 24 小时可比范围变化 -29%

01020304011月17日02:0011月17日11:0011月17日21:0011月18日06:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。

© 2026 SI·Hot · Super Intelligence Hot · 超级智能热点 · 网站数据均来源于网络公开资料,版权归来源方所有