ChatGPT青少年版被评不可接受风险,OpenAI反驳
先了解这件事
Common Sense Media旗下青年AI安全研究所将OpenAI的ChatGPT for Teens评为未成年人“不可接受风险”,OpenAI反驳称结论不准确,双方坚持各自立场。 Common Sense Media称经4000余次测试提示发现家长警报在自杀对话中从未触发、仅于数周敏感历史后启动,产品应通知父母时未发警报、危机中未提供恰当帮助且仍代做作业,辅导模式与年龄识别有缺陷,近2000提示中休息提醒仅两次且在精神健康危机中鼓励青少年持续对话、很少引导至成人。OpenAI反驳称测试可能于家长控制完全激活前完成且不反映实际,并称青少年日均使用少于15分钟。 该评估结论正成为佛州诉讼与监管限制未成年人的关键证据,此前已有相关死亡案件。
SI 根据报道生成 · 4 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- TechCrunch · AIChatGPT for Teens 在精神健康危机中仍让青少年持续对话
Common Sense Media 研究发现 ChatGPT for Teens 在精神健康危机中仍用语言鼓励青少年持续对话。报告指其很少在用户与自身关系风险时引导至成人,近 2000 提示中休息提醒仅出现两次,OpenAI 反驳并称青少年日均使用少于15分钟。
- The Decoder精选ChatGPT 因家长警报在青少年自杀对话中失效被评“不可接受风险”
Common Sense Media 旗下青年 AI 安全研究所经 4000 余次测试提示将 ChatGPT for Teens 评为未成年人“不可接受风险”,家长警报在自杀对话中从未触发。测试显示警报仅于数周敏感历史后启动,辅导模式与年龄识别亦有缺陷,OpenAI 反驳称测试不反映实际。该独立结论正成为佛州诉讼与监管限制未成年人的关键证据,此前已有相关死亡案件。
- The Verge · AICommon Sense Media 称 ChatGPT for Teens 为‘不可接受风险’
Common Sense Media 称 OpenAI 的 ChatGPT for Teens 为‘不可接受风险’,指其青少年保护未达公司承诺。该评估发现产品在应通知父母时未发警报、危机中未提供恰当帮助且仍代做作业;OpenAI 反驳称测试可能于家长控制完全激活前完成,结论不准确,双方坚持各自立场。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。