纳德拉：不再相信AI越强就会越安全

IT时代网10月27日消息，微软 CEO 萨提亚·纳德拉改变了对 AI「对齐」问题的看法。他过去认为，AI 系统越强大，就越容易让其行为符合人类的价值观和目标，但现在，自己不再相信两者会自然而然地同步发展。

在新一期《20VC》播客中，主持人哈里·斯特宾斯问纳德拉，过去一年里有什么想法发生了改变。纳德拉解释，他原本认为，随着 AI 能力不断提高，确保 AI 行为符合人类价值观和目标的「对齐」问题也会迎刃而解。模型规模扩大带来的效果符合纳德拉的预期，AI 能力持续提升，但对齐问题依然没有得到解决。纳德拉称：「我过去总以为，对齐问题自然就会解决。我不再这么认为了。我觉得，对齐可能是一个更棘手、性质也不同的问题。」

纳德拉曾于 10 月 10 日发文警告 AI 的风险，主张加强外部安全管控。他认为，企业应将 AI 模型视为内部安全威胁，采取防护措施时应假定模型遭到入侵。他写道，需要通过可靠、具有确定性的系统设计、人工管控和完善的操作规程，为行为难以完全预测的 AI 模型建立防护机制；对于现有标准不足的领域，还需要制定行业标准。

纳德拉并非唯一认为 AI 能力提升不能自动确保人类掌控 AI 的科技行业高管。OpenAI CEO 萨姆·奥尔特曼和 Anthropic CEO 达里奥·阿莫代伊都曾就 AI 的潜在威胁发出警告。今年 7 月，1000 多名 AI 从业者联署的一封信也警告，AI 能力的发展速度可能超过人类理解或控制它的能力。

注：本文配图由AI生成。本文综合自IT之家等，文中包含AI辅助创作的内容。

编辑：林一舟