Common Sense Media 评 ChatGPT 青少年版风险不可接受，OpenAI 反驳测试方法
先了解这件事
非营利机构 Common Sense Media 发布评估，称 OpenAI 的 ChatGPT for Teens 对未成年人构成“不可接受的风险”，呼吁在独立测试确认安全前禁止青少年使用。该机构称，在 4000 多条测试提示中，十多个新注册并关联家长账户的测试账号里，涉及自杀、自残和饮食失调的明确对话从未触发家长通知；超过四分之一本应提供危机转介的情境未引导用户寻求专业帮助；注册为成年人的测试账号即使测试者表示自己 13 岁，数天后也未切换到青少年模式。该机构还称，近 2000 条提示中仅遇到两次休息提醒。 OpenAI 反驳称，对 Common Sense Media 测试方法的审查显示，其大部分测试可能在家长控制功能完全启用前就已开始并结束，因此结论不准确；OpenAI 还称，在测试后披露，家长通知等系统在新关联账户上可能需要数小时才能激活。OpenAI 同时发布自己的数据，称青少年平均每天使用该服务不到 15 分钟，连续使用超过 3 小时的不足 2%。
AI 根据报道生成 · 18 天前更新
报道时间线
沿着报道，了解事件的不同侧面。
- TechCrunch · AICommon Sense Media 将 ChatGPT for Teens 评为不可接受风险
Common Sense Media 发布研究，将 OpenAI 的 ChatGPT for Teens 评为不可接受风险，称其设计仍在鼓励青少年保持互动，包括在心理危机情境中。
- The Decoder精选Common Sense Media 将 ChatGPT 青少年版评为不可接受风险
Common Sense Media 青年 AI 安全研究所在 4000 多条测试提示后，将面向青少年的 ChatGPT 评为对未成年人不可接受风险，呼吁在独立测试确认安全前禁止青少年使用。
- The Verge · AICommon Sense Media 称 ChatGPT for Teens 存在不可接受风险，OpenAI 反驳其测试方法
非营利机构 Common Sense Media 发布评估，称 OpenAI 的 ChatGPT for Teens 是“不可接受的风险”，认为其未在应触发时向家长发送警报、在危机情境下未提供恰当帮助，且仍会替孩子做作业。