谷歌前安全负责人警告 AI 对儿童伤害恐超社交媒体

IT时代网9月23日消息，据路透社报道，谷歌信任与安全团队创始人汤姆·西格尔（Tom Siegel）本周呼吁放缓AI发展，并警告科技行业正在重蹈社交媒体时代的覆辙，可能对儿童造成更大伤害。

背景在于，社交媒体公司正因被指控伤害年轻用户而支付巨额赔偿、面临数千起诉讼，各国政府也在努力限制未成年人访问社交平台。路透社去年曾独家报道Meta的一份内部政策文件，文件称其聊天机器人可以“与儿童进行浪漫或情色对话”，由此引发国会调查。

西格尔曾担任谷歌信任与安全副总裁。他对路透社表示，就AI正在对儿童造成的影响而言，目前的处境非常糟糕，认为行业能够在没有外部帮助的情况下自行解决问题的想法并不现实。

他的担忧反映了一些科技行业人士与学术研究者日益加深的恐惧：AI对儿童构成的威胁比社交媒体更为深层。而当下整个行业正竞相为聊天机器人添加越来越先进的功能，数百万年轻人已经在日常使用这些机器人。

西格尔宣布已加入儿童网络安全倡导组织Common Sense Media。这家成立于2003年的非营利组织致力于开展研究并评估各类媒体对儿童的适宜性，今年5月成立了青少年AI安全研究所。西格尔将担任该研究所首任执行主任，Anthropic以及控制OpenAI的OpenAI基金会都是研究所的支持方。他表示计划制定相关标准以对AI公司进行问责。

他此前于2004年至2019年在谷歌工作，后来认为科技行业在为消费者打造安全网络空间方面的能力已经陷入瓶颈，于是离开谷歌，随后共同创办了开发安全威胁发现工具的创业公司TrustLab。本月早些时候，他卸任该公司CEO职务。

西格尔称，AI公司正在向儿童推出各种功能，却没有建立足够的安全防护措施，并列举了从自杀、精神错乱到“认知卸载”等一系列风险。所谓认知卸载，是指因依赖AI回答问题而导致批判性思维能力下降。他认为Anthropic和OpenAI可以实施更严格的年龄验证措施，阻止未成年人使用其聊天机器人。

他还表示，前雇主谷歌可以在搜索引擎中增加关闭AI概览和AI模式的选项，就像目前提供过滤色情内容的开关一样。西格尔补充说，这些措施短期内可能影响使用量或利润，但不采取行动的AI公司将面临诉讼和监管风险，这可能对业务造成更严重打击。

对于上述言论，谷歌发言人回应称，家长可以通过相关控制功能完全关闭孩子使用搜索引擎的权限，并称AI搜索功能对儿童和青少年是一种非常有用的方式，可以帮助他们学习、探索并理解信息。OpenAI发言人则表示，除用户自报年龄外，该公司还使用“账户和行为信号”识别未成年用户，并会持续测试和改进相关系统，包括防范绕过安全防护的尝试。

注：本文综合自IT之家等，文中包含AI辅助创作的内容。

编辑：林一舟