OpenAI更新模型规范围绕五项价值

IT时代网10月30日消息，OpenAI宣布更新模型规范。这份公开文件描述公司希望模型如何行事，此次改版把其中的指引重新组织到五项底层价值之下：忠于人类意图、最小化伤害、诚实与透明、人类自主性、关怀。

按官方说明，随着模型能力增强、在现实世界中承担更多具有后果的行动，模型不仅要理解收到的具体指令，还需要理解人的意图与价值，在指令未明确覆盖的情形下做出良好判断，同时保持对人类意图与监督的忠实。

这五项价值分别对应服务人类目的、保持真实、把伤害降到最低、尊重人们自主形成看法的自由，以及认真对待使用者的处境。把它们集中表述，是为了解释规范为何要求模型如此行事，并在原先表述不够充分的地方形成更清晰的指引。

除对既有原则给出更清楚的解释外，本次修订新增了关于上下文、监督与自主性的指引，调整了部分行为默认值，并移除了大量细致的文风指引。

OpenAI表示，规范由公司制定边界并训练模型遵守，开发者在边界内主导应用，用户在约束范围内主导模型的工作。此次更新是其通过研究、部署经验、公开反馈以及与用户和外部专家讨论持续打磨规范过程中的又一步。

注：本文配图由AI生成。

编辑：林一舟