OpenAI推出青少年版ChatGPT遭安全专家质疑

IT时代网8月23日消息，OpenAI本周推出了ChatGPT青少年版，专门面向年轻用户，并通过年龄识别机制限制部分功能。对此，有外媒采访了多名儿童安全专家，他们对这款产品的评价并不一致，但所有人都认为，在向家长和年轻人推荐之前，这套系统还需要接受大量独立测试，OpenAI也必须更透明地说明安全机制究竟如何运作。

为家庭提供娱乐和科技产品建议的机构AI与数字评估负责人罗比·托尼认为，OpenAI这次做出了一些非常重要的承诺，但必须拿出证据，证明这些安全承诺和功能真的有效。儿童网络安全倡议组织执行董事乔什·戈林态度更加严厉：从纸面上看，OpenAI公布的一些措施确实像是在朝正确方向前进，但继续深挖后，仍然有很多值得担忧的地方，其中就包括没有问责机制。社交媒体已经证明，在保护儿童的问题上，仅仅相信企业并不管用，OpenAI此前也出现过类似问题。

两人都怀疑，OpenAI的自动年龄识别系统能否稳定识别青少年，并切换到ChatGPT青少年版。托尼指出，OpenAI没有公布这套系统的效果数据，误报率和漏报率都不为人知，自动系统远不可能识别平台上的所有青少年。回想OpenAI此前计划推出部分成人内容功能时，当时有报道称，最终没有推出的一个原因，就是年龄估算技术无法准确识别足够多的青少年。

托尼还认为，青少年几乎肯定会尝试绕过年龄识别，寻找更加出人意料的规避办法。OpenAI做出的最具体承诺，恰恰也是专家最怀疑能否落实的一项。OpenAI青少年与家庭事务负责人劳伦·乔纳斯曾回应称，所有被标记的内容都会先由OpenAI全职员工审核，之后才会通知家长，目标是在用户发出提示后一小时内通知家长。她明确表示，OpenAI确实拥有足够的人手和处理能力，可以保证所有被标记内容经过人工审核，并在一小时内通知家长。

托尼对此提出质疑：这道工序仍然依赖自动化决策，那么负责筛选内容、再把内容交给人工审核员的自动分类器，到底值不值得信任？戈林也表示，他希望看到一些硬数据，比如每天到底有多少对话被标记和审核、负责审核的人有多少，以及每次审核平均花多长时间。

三名专家还一致认为，必须由家长和孩子主动绑定ChatGPT账户的机制，削弱了这项功能的实际效果。戈林指出，绝大多数家长根本不会去使用家长监督工具，其中一个原因，就是这些工具往往被设计得很难找到，也很难操作。他认为更有效的办法是默认开启，并在产品设计阶段就把保护机制做进去：一开始就采用最严格的保护设置，例如默认设置使用时间限制，再让家长决定是否修改，而不是把责任交给家长，要求他们自己去设置限制。

注：本文综合自IT之家等，文中包含AI辅助创作的内容。