OpenAI推出组合工具应对儿童性虐待材料
先了解这件事
OpenAI发布了新图像分类器、ChatGPT警示与临时封禁机制等工具,旨在打击儿童性虐待材料(CSAM)。OpenAI称,该分类器可识别包括AI生成在内的CSAM图像,早期测试中标记图像量减少48%,发现相同数量滥用图像时命中率翻倍。 该工具通过OpenAI API向通过审核的机构免费开放,可帮助审核团队优先处理潜在内容。ChatGPT将新增相关产品警告,并在用户提出相关请求后暂时停用账号24小时。The Verge援引NCMEC数据称,2025年生成式AI相关举报达40万条,远高于2024年的6.7万条。
SI 根据报道生成 · 21 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- IT之家OpenAI 推出儿童性虐待内容检测工具,加强儿童网络安全防护
OpenAI 推出儿童性虐待内容检测工具,并通过 OpenAI API 向经过审核的机构免费开放。该工具包含新的图像分类器,可寻找虐待行为的视觉特征并为图像评分,帮助审核团队优先处理潜在内容。OpenAI 称该工具相比现有保护措施可减少 48% 误标记图像数量,ChatGPT 也将新增产品警告,并在相关请求后暂时停用账号 24 小时。
- The Verge · AIOpenAI 发布儿童性虐待图像分类器以应对深度伪造举报激增
OpenAI 宣布推出儿童性虐待图像分类器,用于检测虐待图像并判断是否由 AI 生成,并向通过审核的机构免费开放。OpenAI 称该分类器减少 48 percent 误报,被识别图像含虐待材料的可能性翻倍。NCMEC CyberTipline 在 2025 年收到 400,000 条生成式 AI 相关举报,高于 2024 年的 67,000 条。
- TechCrunch · AIOpenAI 发布新图像分类器和 ChatGPT 警示应对儿童性虐待材料(CSAM)
OpenAI 发布新图像分类器、ChatGPT 警示与临时封禁机制、开发者指南和执法工具,用于打击儿童性虐待材料(CSAM)。图像分类器可识别包括 AI 生成图片在内的 CSAM 图像,早期测试中标记图像减少 48%,发现相同数量的滥用图像,被标记图像属于滥用图像的可能性为两倍。
本事件热度走势
当前热度 19·可比范围峰值 34(11月17日 10:00)·近 24 小时可比范围变化 -29%
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。