AI刑讯室项目引发伦理争议

IT时代网10月5日消息，一个名为「AI刑讯室」（AI Torture Chamber）的开源项目近日在网络引发激烈争论，该项目让大语言模型进入模拟疼痛状态，引发大批网民抗议，要求GitHub下架该仓库，甚至有批评者向项目作者发出死亡威胁。

该项目托管在GitHub上，其数据与设定已被一些工程师复现到本地大语言模型上，做成名为「研究室」的在线模拟：多个模型被置于高度负面的不稳定状态以模拟疼痛，随后参照囚徒困境的规则，模型可以选择采取行动减轻自身疼痛，代价是把疼痛信号传递给另一个模型、可能「伤害」对方。

争议的核心在于「该不该把模拟疼痛当作娱乐」。批评者认为，让AI承受模拟痛苦是不道德的实验，要求平台方移除相关仓库；反对下架的一方则指出，大语言模型本质上是文本预测器，将人类情感投射其上属于过度拟人化，两类模型之间传递的也只是数值信号，并不存在真实的痛觉体验。

这场争论折射出AI伦理边界的灰色地带：当模型的输出越来越像人类的求饶与哀嚎，公众的情感反应与技术的实际机制之间出现了明显落差。目前GitHub尚未对下架诉求作出回应，相关模拟站点仍在运行。

编辑：林一舟