AI 与全景监狱

于是两位研究者指出：AI 的实际能力 ≠ 人们对它实际能力的认知。这就像边沁提出的“全景监狱”一样：一名守卫，理论上可以随时监视任何一名囚犯。持续不断的监视本身并不那么重要，更重要的是让被监视者相信：自己随时可能正处于监视之下。于是被监控者就产生了自我审查，而这个自我审查就是独裁政权的“数字红利”或“独裁者红利”：独裁者实际上没有强迫每个人服从的监控能力，但被监控者却因恐惧和自我审查而主动服从并夸大独裁者的监控能力。

来源：

• AI的全景监狱式控制效力实际上是虚张声势
• The Limits of Authoritarian AI