AI对齐专家加入OpenAI基金会董事会

IT时代网9月10日消息，OpenAI 宣布任命保罗·克里斯蒂亚诺（Paul Christiano）为 OpenAI 基金会董事会成员。他将同时担任 OpenAI Group PBC 董事会的无投票权观察员，并加入基金会董事会旗下的安全与保障委员会，与该委员会主席 Zico Kolter 一同工作。该委员会负责监督包括 OpenAI Group PBC 在内的整个 OpenAI 的安全与保障实践。克里斯蒂亚诺目前在美国国家标准与技术研究院（NIST）下属的人工智能标准与创新中心（CAISI）担任高级技术顾问，历经两届政府。在此期间，他从事前沿 AI 模型的评估工作，包括涉及国家安全影响的能力评估，以及与之相关的安全与风险缓解方法研究。他同时也是非营利研究机构对齐研究中心（ARC）的创始人。2017 年至 2021 年，克里斯蒂亚诺在 OpenAI 领导对齐研究，并在基于人类反馈的强化学习上做出了奠基性的工作。OpenAI 基金会与 OpenAI Group PBC 董事会主席 Bret Taylor 表示，克里斯蒂亚诺通过严谨、且聚焦于最困难问题的工作定义了 AI 对齐这一领域，他在政府层面从事前沿 AI 安全与标准工作的经验，加上其技术判断力，将强化董事会的监督能力与安全与保障委员会的工作。克里斯蒂亚诺本人则表示，过去一年 AI 能力进展非常迅速，对齐依然是一个困难的技术问题，这让安全与保障委员会的责任变得比以往更重要也更具挑战，他很兴奋能加入团队提供帮助。

注：本文配图由AI生成，文中包含AI辅助创作的内容。

编辑：林一舟