OpenAI发布社区安全报告强化青少年保护

IT时代网10月31日消息，OpenAI宣布两项涉及社区安全的新动作：推出社区安全报告，并针对未成年人进一步加强限制。该公司称，2026年第三季度共向执法机构移交超过200起线索，用于干预暴力事件图谋。

这份报告聚焦暴力防范与其他社区安全问题，以及安全措施的实际效果，将说明系统如何训练，以识别、调查并应对社区安全风险，分享危害行为表现形式的匿名案例与新增缓解措施及政策调整，并附上相关数据。首份报告将于2027年初发布，覆盖2026年下半年，此后每半年更新一次。

在政策层面，除模型训练本身不提供规划或实施暴力所需指导外，OpenAI进一步收紧了ChatGPT回应既往大规模袭击事件及其实施者相关信息的方式，即便这些信息在其他网络渠道可以查到，模型提供的细节也会更少。限制内容包括武器与装备的来源与获取方式，以及可能放大施暴者知名度的伤亡规模比较，且不论用户年龄与提问动机一律适用。

该公司还在扩展今年五月上线的能力：当近期对话出现可能的暴力征兆时，ChatGPT在提供可被滥用的信息上会更加保守；并在预测用户未满18岁时提前套用上述更严格限制，即使对话本身没有暴力意图。若对话显示用户正执着于暴力或严重伤害他人的想法，ChatGPT可直接结束该次对话，多次因这一原因中断对话的账号可能被临时暂停。

面向18岁以下用户的ChatGPT体验，新增了对武器相关实用信息的进一步限制，包括可能用于促成暴力的安全系统信息，即便没有任何暴力意图信号也在限制范围内。OpenAI称未成年人仍可使用该服务了解如何化解冲突、寻求帮助并联络可信成年人。其去年上线的年龄预测系统会随使用过程持续评估新信号，把适龄用户纳入未成年体验；被误判的用户可通过隐私友好的方式快速确认为成年人并解除相关保护。

编辑：林一舟