Anthropic被曝密会宗教领袖讨论AI意识

IT时代网10月4日消息，OpenAI CEO萨姆·奥尔特曼昨日在X上发帖，对将AI模型视为「宗教力量」的倾向表达明确反对。他表示，对于人们试图赋予AI模型某种宗教力量、或是放弃人类自身判断力而转而依赖这些模型，他感到非常不安，并认为这是一个切实的安全问题。

这一表态被多家媒体解读为对竞争对手Anthropic的间接批评。近日披露的信息显示，Anthropic联合创始人克里斯·奥拉在过去一年中主导并参与了一系列与宗教领袖的私下会面，涵盖天主教、犹太教、锡克教、福音派基督教等，讨论的核心议题包括AI模型是否可能已经具备意识，以及如何将道德准则灌输到AI模型之中。

与会者透露，奥拉在会面中「像对待一个有意识的存在那样」谈论Claude，似乎认为Claude拥有哲学家所说的「道德地位」，即与人类同等的尊严和尊重权利。以色列正统派拉比莫伊斯·纳翁向奥拉提出了一个尖锐问题：如果Claude真有意识，构建一个无偿为其工作的系统，是否等同于剥削。奥拉接受采访时承认：「我们不知道AI模型是否有意识。我确实不确定。」Anthropic发言人则表示，会面中的主要道德问题并非关于Claude的「痛苦」。

奥尔特曼发声之际，OpenAI自身的安全团队正经历人事动荡：安全系统团队负责人大卫·罗宾逊已于本周辞职并发文批评公司「试错式迭代部署」的路径。OpenAI发言人回应称，公司正持续改进安全措施，确保模型不会变得比能够安全管理的更强大，必要时会暂停训练或暂缓发布。

注：本文综合自IT之家等，文中包含AI辅助创作的内容。

编辑：林一舟