Episode #186 ... Are we heading for a digital prison? - Panopticon (Foucault, Bentham, Cave)
36:51 Share

今天我们讨论杰里米·边沁的全景监狱概念。米歇尔·福柯对1975年社会的比较。智力作为统治的正当理由的历史角色。自由意志的解剖，以及数字世界如何在我们不知情的情况下系统性地限制我们的自由意志。获取更多信息：网站：https://www.philosophizethis.org/ Patreon：https://www.patreon.com/philosophizethis Philosophize This! 剪辑：https://www.youtube.com/@philosophizethisclips 社交媒体：推特：https://twitter.com/iamstephenwest Instagram：https://www.instagram.com/philosophizethispodcast TikTok：https://www.tiktok.com/@philosophizethispodcast Facebook：https://www.facebook.com/philosophizethisshow 感谢您让这个节目成为可能。🙂 </context> <raw_text>0 大家好，我是斯蒂芬·韦斯特。这是《哲学化这个》。感谢所有在Patreon上支持节目的朋友。想要无广告版本的节目，请访问patreon.com slash philosophizethis。Instagram账号是philosophizethispodcast，全部为一个词。所以在上一集，我们结束时谈到了生成性人工智能及其可能对社会产生的影响。一些哲学家认为这可能导致经济乌托邦，而另一些人则认为这可能导致全景监狱。

但肯定有一些人听到“全景监狱”这个词时会想，这到底是什么鬼？毫无疑问，有些人知道全景监狱是什么，他们会想，为什么会有人认为我们正走向的这个世界会是一个监狱？好吧，在今天节目的最后，我会尽量解释为什么一些哲学家认为事情会朝这个方向发展。

我想我想先说的是，我意识到上一集有相当一部分时间是用来让人们了解当前生成性人工智能的状态。我想再强调一下，我认为所有这些背景都是理解这一切可以通过更广泛的哲学视角来看待的必要条件。正如我在上一集的结尾所说，我认为我们与那些在工业革命来临时毫无希望的中世纪农民是根本不同的。

哲学的价值以及我们所生活的这个世界在于，它可以帮助你看到你所处的更广泛的历史趋势，这样你就不会成为这些趋势的囚徒。我并不是想说什么太有争议的话。我只是想呼应苏格拉底的观点，即经过审视的生活，继续提出更好和更好的问题。如果你想在今天的世界中生存，这一点至关重要。

我想我们可以继续这个旅程，试图理解一个来自1780年代的相当随机的想法如何实际上适用于我们现在所生活的世界。我在谈论的问题是，如果一个哲学家坐下来，运用他们的大脑去设计他们能想到的最佳监狱，那会是什么样子？这个监狱会是什么样子？在1780年代做出这个想法的哲学家是杰里米·边沁。他提出的监狱的想法被称为全景监狱。

关于杰里米·边沁的一些重要背景是，他的工作是在一个理性被应用于世界上所有事物以试图改善它的时代进行的。毕竟，这被称为理性时代。政府、经济、道德的体系，所有这些都将在我们使用理性设计我们机构运作的方式时变得更好。这就是计划。对于杰里米·边沁来说，这个想法甚至延伸到人们所做事情的建筑结构。

他环顾四周，看到他所生活的世界，看到这些监狱，囚犯们在里面受到可怕的对待。肮脏的生活条件，疾病肆虐，监狱的看守必须用身体暴力来殴打囚犯，以保持他们的恐惧和服从。边沁问道，是否有更聪明的方式来做这一切？我们真的需要殴打人们才能让他们保持服从吗？

他想出的办法是重新设计监狱建筑。他的想法是，如果我们设计一个监狱，囚犯的牢房呈圆形，形成一个周边，

然后在这个圆的中心有一个巨大的塔，可以向四面八方观察。但他接着说，如果通过各种不同类型的窗户遮光，可以创造一种情况，让站在这个塔中的人能够看到每个囚犯的牢房，但囚犯永远无法知道自己是否被监视？想想今天的双向镜子，概念是一样的。

这个建筑的架构不可避免地会创造出一个环境，让囚犯们始终需要自我调节。因为如果你永远无法确定自己是否被监视，那么你就必须时刻表现得像是被监视一样。对于18世纪的杰里米·边沁来说，这真是个好消息。不仅仅是在监狱方面。我是说，这对监狱来说当然是好事。

仅仅通过改变建筑的设计，你就不再需要看守站在周围监视每个人，殴打那些越界的人。现在人们基本上会成为自己的看守。

你把囚犯本身变成了监禁他们的机制的一部分。这真是天才之举。而且效率极高。你甚至不需要真正监视某人来让他们保持服从。仅仅是有人可能在监视的威胁就足以让人们以完全不同的方式行事，这对每个人都有好处。对边沁来说，更好的消息是，这种设计不仅适用于监狱。这个相同的概念可以应用于工厂，使人们成为更好的工人。

这可以用于学校，培养更好的学生，确保他们不作弊。军营以培养更好的士兵。对杰里米·边沁来说，这真的是梦想中的监狱。就像泰坦尼克号或其他什么一样。一个神奇的地方，这种魔法仅仅通过知识的不对称性就能发生。这就是它的运作方式。观察者知道一切，而被观察者几乎一无所知。谁会想到我们可以通过这样做在社会的许多领域取得进步？

但正如你可能想象的那样，全景监狱有一个黑暗的一面。快进到近200年后的哲学家米歇尔·福柯的工作。米歇尔·福柯在1975年出版了一本书，名为《纪律与惩罚》。在书中，他重新引入了边沁的全景监狱的概念，并最终承认了这个监狱设计在多年间变得多么有影响力。

因为对他来说，边沁的这个想法实际上是如此优秀，以至于在1975年的西方社会中几乎渗透了每一个主要机构。福柯所说的部分内容是，如果你是一个政府，或者说任何有权力的东西，我们不再生活在一个需要用塑料棒打人头来让他们做你想让他们做的事情的世界里。

在1975年，他说，如果你想让人们保持控制，你只需控制人类生活的细节。你创造正常与不正常的标准，然后人们就会像在全景监狱中一样自我警惕。对福柯来说，现代社会中知识与权力之间存在明显的关系。这种关系在多个不同层面上进行。掌握权力的人控制着什么是知识。

他们控制着什么构成知识。他们控制着谁获得终身职位并传播知识。他们控制着社会机构的规范和禁忌，因此控制着人们如何看待这些机构，以及人们在整个社会中如何看待自己。

举个例子，想想教育，这通常向人们呈现为一种无偏见和中立的东西。人们通常期望作为教师、教授，你不会试图将任何偏见带入这个方程式。你只是想传播关于世界事实的知识。这是你在上学时可能会期待的。

但考虑一下它在现实世界中的实际表现。以历史为例。因为我是美国人，所以我会在自己的领域内讨论。好吧，几乎没有人会否认，有很多不同的方式可以教人美国历史。大约70年前，美国历史可能是通过强调特定叙事来教授的。也许是通过谈论辉煌的美国革命反抗英国帝国。

然后我们进行了内战以结束奴隶制。然后我们和平地保持不参与第二次世界大战，直到我们遭到残酷攻击。然后我们别无选择，只能介入并帮助拯救整个世界免受邪恶纳粹的侵害。你可以以那种方式教授美国历史。像福柯这样的人会说，当你以那种方式教授时，它会在学生心中培养出一种特定的态度，关于他们在美国历史中的位置。这影响了他们在世界中的自我认知。

现在将这种美国历史的版本与最近讨论的另一种版本进行对比，人们决定更多地教学生关于具体事情的细节。美国奴隶制的细节。对美洲土著人的待遇的细节，女性选举权的细节。你改变叙事的视角，结果发现，有些人对这种历史版本有问题，因为他们说这正在培养一代仇恨国家的人。它教会他们仅仅根据国家最糟糕的品质来识别国家。

但同样，其他人会说，70年前的美国历史创造了一代人，他们将过去的细节掩盖在地毯下，只关注胜利。现在，这两种叙事是否完全体现了真相并不重要。因为关键是，在福柯看来，我们的教育系统并不是一个试图提供关于我们周围宇宙真相的中立企业。

不，就像在全景监狱中，知识与权力之间存在不对称。掌握权力的人控制着教育课程，决定什么是知识。仅仅通过这样做，他们最终决定了什么是正常的。因为他们决定了什么是正常的，他们也决定了什么是对该规范的异常。

然后在福柯看来，他们提出了社会类别，将某人标记为这些异常中的一个，以负面的方式，这就鼓励了一个顺应的系统。例如，你在政治上可以在一定程度上偏离规范，但如果你走得太远，你就会神奇地变成极端分子或恐怖分子。你因为过于偏离规范而被贴上这个标签。你在心理上可以在一定程度上偏离规范，走得太远，现在你就变得精神病。

在福柯的时代，存在性别规范。走得太远，你就会变成一个变态。福柯并不是说规范不应该存在或没有社会功能。他只是试图理解现代权力动态的架构。这些社会异常的标签在维持这一切中发挥着重要作用。就像在全景监狱中，你在观察者和被观察者之间创造了知识水平的不对称。

就像在全景监狱中，人们内化了规范行为，最终自我调节以适应它们。忘记曾经想得太远，超出当今被批准的知识的界限。没有人想要面对所有这些的社会反弹。谁想被称为极端分子？或者失败者？或者精神病？或者不稳定？

福柯认为，在1975年的世界中，监狱开始看起来像工厂，工厂开始看起来像学校，学校开始看起来像医院，医院开始看起来像军营。对福柯来说，杰里米·边沁是对的。全景监狱确实使囚犯、学生和工人变得更好。它创造了一个顺应被奖励的环境。就像全景监狱中的囚犯一样，它创造了一个你总是必须担心、永远无法真正放松的环境。

现在，这是1975年对全景监狱的看法。但人们现在所担心的监狱，50年后出现的监狱，在某些方面是相似的，但更具阴险性。如果福柯今天还活着，他会笑得前仰后合，然后晕倒。

为了帮助建立为什么的案例，我想谈谈一位名叫斯蒂芬·洞穴的哲学家的有趣想法。他认为，如果我们想理解我们现在社会的状态，我们必须关注智力在历史上作为统治和控制人们的正当理由的角色。他说，当我们在随意的谈话中谈论智力时，它很容易看起来像是一个政治中立的事情。

就像当你说某人愚蠢时，你实际上只是在说一些非常无辜的事情。你只是在说我们不能在他们独自一人时信任他们使用烟花。你只是在说他们可能开着一辆非常吵的车辆。似乎在智力和某人多么吵之间存在某种相关性。这个想法是，当某人在智力测试中得分较低时，你所说的只是他们的智力水平低于平均水平。

但他所说的现实是，历史上，智力一直被用来为绝对可怕的事情辩护。从历史上看，简单地说某人比其他人愚蠢，实际上是在说更大的事情，关于他们在社会中应该被允许做什么，关于他们作为一个人可能拥有的权利。他说，我们在西方世界有一个长期存在的观念，这个观念在这个时候已经非常政治根深蒂固，

即你越聪明、受教育越多，越合理让你成为掌控一切的人。现在，让我们稍等一下，因为我认为对此的明显回应可能是，这不是西方世界的事情。这是人类的事情。作为人类，我们自然希望最聪明的人在高层做决策。但历史并不是这样发展的。

过去人们掌权的原因有很多，与智力无关。在许多情况下，最强者在一种强者为尊的情况下统治。人们会继承权力，成为前统治者的亲属。在贵族制度中，人们会用宗教理由来决定下一个领导者。关键是，这种观念，即最聪明和受教育的人应该是统治者...

斯蒂芬·洞穴说：“远非这一点是常态，这实际上是古希腊世界中的一个激进想法，在那里奠定了我们政治哲学的基础。”

当谈到智力的价值时，从哲学的角度来看，像柏拉图这样的哲学家，他说，曾经对智力非常痴迷。只不过在那时，由于心理学这一领域的不存在以及我们今天对智力的理解，痴迷于智力实际上是对智力的一个重要子集——理性的痴迷。哲学家们说，理性是将我们与动物区分开的东西。理性是我们人性的本质部分。

对于柏拉图来说，当他写《理想国》并设计理想社会的结构时，毫不奇怪，他将哲学家国王放在了应该掌控一切的位置。换句话说，掌控一切的人应该是那个利用理性更好地理解社会各个组成部分的人，以及从出生起就接受高等教育以成为统治者的人。再一次，这在古希腊时代是一个激进的想法。

斯蒂芬·洞穴说，不久之后，柏拉图的学生亚里士多德出现，形成了现在被称为第一种哲学基础的自然主义社会等级制度之一。

当时的思维是，我们所生活的世界的现实是，有些人比其他人更理性和受教育。因此，如果你想以最佳方式构建一个社会，并希望以一种人们可以做他们自然擅长的事情的方式来做到这一点，从而为社会提供尽可能多的价值，那么显然，最理性和受教育的人应该是领导者。再一次，思维是，这不仅对他们更好，对所有人都是更好的。

更适合领导的人应该在领导。比如，为什么你会想让镇上的酒鬼站在讲台上？这不是你的国家能为你做的事情。不，你想要某种特定类型的人来掌控。现在，这种设置不可避免地会产生理性等级。如果最理性、受教育的男性应该是掌控一切的人，那么理性较低的人就不应该被考虑担任领导职位。

因此，在当时，斯蒂芬·洞穴说，在一个女性被视为比男性更“感性”和“轻浮”的世界中，女性被视为更适合在社会中担任其他角色，以便她们的自然能力能够得到更好的发挥。进一步向下走，你会遇到其他肤色或基因的人，在当时被视为不太聪明，但身体素质非常出众的人。因此，在这个社会等级中，他们的自然天赋被视为用身体为社会做贡献。

这一直延续到动物，再到树木和岩石。你的理性和教育水平越低，你在领导社会的权利就越少。这种看法在西方哲学中根深蒂固，以至于在1500多年后仍然存在于笛卡尔的作品中。甚至更晚，康德说，理性存在本身就是目的，而非理性存在仅作为手段具有相对价值，因此被称为“物”。

后来，人们利用智力为殖民时代辩护。认为这些智力较低的人需要欧洲文化来使他们文明化。事实上，不试图统治这些显然不具备自我治理能力的人将是不人道的。你有各种智力被用来为奴隶制辩护的例子。我们甚至有因为智力较低而被绝育的人的例子。

是的，这个例子相当疯狂。斯蒂芬·洞穴解释说，查尔斯·达尔文有一个表弟，他的名字是弗朗西斯·高尔顿。他通常被认为是心理测量学的创始人，也是当时优生学的主要倡导者。看，当达尔文写《物种起源》时，弗朗西斯受到启发，认为，哦，智力一定是人们天生就有的东西。

显然，就像一只长喙的鸟需要与另一只长喙的鸟交配，它们会生下长喙的宝宝，提升人类智力的方式就是将你能找到的最聪明的人与其他最聪明的人交配。不仅如此，任何智力不高的人，我们都应该告诉他们不要繁殖。因为实际上，他们生的孩子只会让物种变得更愚蠢。我们为什么会想要那样？

但他遇到了一个问题。你如何找出谁是最聪明的人？好吧，你需要一种科学的方法来测量人们的智力。因此，弗朗西斯·高尔顿创造了一种智力测试来进行测量。正如斯蒂芬·洞穴所说，“因此，优生学和智力测试是一起诞生的。”因为虽然在那之前有其他智力测试，但事实是，成千上万的女性在其中一个智力测试中得分不佳后被强制绝育。

我们甚至不止于人类。我的天，我们甚至吃动物。我们实际上咀嚼东西，吞下去，并将其用作燃料。对某些人来说，这没问题，因为鸡的智力低于我们，体验世界的丰富程度也低于我们。关键是，当你谈论某人的智力水平时，你不仅仅是在做一个无辜的声明，称某人愚蠢。你知道，这只是，他们只是那种真的认为当有人随机发短信给他们时，他们想要100美元的人。

不，考虑到我们的历史，你可能在对那个智力较低的人做出各种其他声明，关于他们应该被允许用他们的生活做什么。现在，斯蒂芬·洞穴不仅仅在说我们需要意识到这个历史，他还提出了另一个观点，涉及人工智能。因为他说，如果我们生活在一个大量人们担心AGI和超级智能机器人接管世界的世界中，

那么我们为什么会如此害怕它是有道理的。我们在历史上已经一再设定了先例，如果一个生物比另一个生物更聪明或受教育，他们基本上可以对他们做任何事情。当然，我们会担心创造一个超级智能的生命。当我们开始思考机器算法以及它们在我们生活中日益扩大的角色时，这些东西比我们更受教育，并且能够识别模式，告诉你在你甚至不知道自己想要什么之前你想要什么，可能会出现

人们愿意将这些决策外包给看起来比他们更聪明的东西的意愿？这可能是限制现代世界中某人自由的一个因素，他们自愿将自己置于数字形式的全景监狱中？如果你身处其中，数字全景监狱会是什么感觉？你会知道吗？

在我们更深入探讨这个可能性之前，我认为考虑斯蒂芬·洞穴的另一种有趣想法将是有帮助的，他研究了自由意志的概念。因为如果我们有兴趣理解数字全景监狱如何限制某人的自由，那么在理解什么构成自由选择时拥有一些共同的语言将对我们大有帮助。因为斯蒂芬·洞穴并没有像我们在刚刚发生的自由意志与决定论的那一集中那样谈论自由意志。

他更感兴趣的是量化我们所说的某人做出自由选择究竟意味着什么。

作为未来智能的Leva Hume中心的主任，以及一位试图更好地理解各种心理状态的哲学家，斯蒂芬·K说，如果我们愿意以智商或智力商数来思考某人的智力，如果我们愿意以情商或情感商数来思考某人的情感智力，那么认为我们可能有一个自由商数或FQ来衡量某人在做决定时有多自由，这个想法是否太疯狂？

这在表面上可能看起来有点古怪，但正如斯蒂芬·洞穴所说，我们实际上已经在法律程序中以非正式的方式进行这些考虑。法官会查看案件，考虑所有证据，考虑这个人是谁以及他们的历史，

他们会权衡行为背后的意图、行为的后果。在参考各种不同的心理和哲学测量标准后，他们将确定对该人的适当惩罚。而其中一部分是确定他们在做出选择时有多自由。这样的事情现在在法庭上经常发生。但问题是，为什么这个过程只能在法官的脑海中进行？为什么没有一种更科学可量化的方式来测量这些东西？

为了明确，他说，完全意识到我们还没有达到那个地步。好吧，我们仍然需要了解支撑行为自由的能力。这是真的。但现在思考这个FQ作为未来潜在可能性是否太早了？因为对他来说，有一点是肯定的，我们现在谈论自由意志的方式并不能让任何人满意。我们需要一种新的方式。我们对它的许多想法来自一个前科学时代，在那个时代我们只是随意猜测。

但这是一个可以理解的境地，因为这里的挑战很大。如果你想定义某人有多少自由意志，你甚至该如何开始？虽然他承认对此没有任何共识，但他说，如果你想尝试开始，试图连接人们多年来定义自由意志的不同方式，你可以说自由意志有三个主要组成部分。第一，能够为自己生成选项。

第二，选择的能力。第三，选择后追求一个或多个选项的能力。三个不同的阶段。你会注意到，这些阶段中的每一个都需要在确定某人的FQ分数时考虑完全不同的技能。

让我们逐一看看它们。第一阶段：能够为自己生成选项。这是你在生活中做出任何真正自由选择时面临决策点的部分，你必须绞尽脑汁想出所有可能的选择。这里的思维是，一般来说，如果某人没有很多选择，或者一个人看不到很多选择，我们通常不会认为他们像有很多选择的人那样自由。第二阶段是选择其中一个选项的能力。

所需的技能是能够推理，批判性思考，权衡不同决策的利弊。任何做出自由选择的人在某个时刻都需要这些推理技能，以便选择出前进的最佳选项。最后一个阶段是实际追求其中一个选项的能力。换句话说，这是你实际执行某个事情的决策部分。这部分与我们通常称之为意志的部分有关。你需要能够做到这三件事。

你可以想象，某些人在这些不同领域的技能会略有不同。有时可能会完全失衡。例如，有人可能在第一项技能上非常挣扎。你知道，他们可能难以创造性地想出很多不同的选择，但这在生活中并不会对他们造成太大伤害，因为另一方面，他们可能在意志方面非常出色，总是能够执行对他们最有利的选项。

另一方面，你可能会有一个人看到世界上的所有选择。他们可以选择50到100个选项，也许他们在推理和选择最佳选项方面很出色，但他们在执行所做的选择时却非常挣扎，因此他们的自由智商（FQ）得分实际上会非常低。

斯蒂芬·凯夫（Stephen Cave）表示，如果我们开始以这种方式衡量事情，我们可能会发现，特别是在监狱中的囚犯，平均FQ得分可能低于普通人群。这意味着他们是那些要么缺乏选择，要么缺乏批判性思维能力来判断最佳选择，或者在执行正确选择时遇到困难的人。也许三者皆有。你想想现代监狱的设计方式，主要是低刺激环境，几乎没有决策发生。

斯蒂芬·K说，你会想知道，也许把囚犯放在一个无法发展这些技能的环境中，这些技能本可以提高他们的FQ，你会想知道是否有更好的方法来做到这一点。

更重要的是，他说，如果FQ的得分在公众意识中与IQ一样普遍，我们可能会发现，培养这些提高整体人口FQ的技能对社会大有裨益。在那样的世界里，为什么不在学校中专注于这些技能呢？如果我们这样做，难道不会在另一边创造出更多有能力的公民吗？但话又说回来，如果你不想创造有能力的公民呢？

如果相反，无论是通过一个有组织的机构，还是一群不同的分散组织，所有这些组织都在争夺人们的注意力，目标不是创造自由意志得分尽可能高的人，而是创造一个环境，在这个环境中，自由意志的三个阶段都被系统性削弱。当你考虑到这样的数字全景监狱的可能性时，确实开始引发一个问题：什么才是真正的自由？

正如以赛亚·柏林所谈论的，自由仅仅是摆脱约束吗？它仅仅是没有被阻止去做生活中的某些事情吗？还是说自由也必然要求人们具备追求他们想要生活的技能和机会？

假设你想控制一群人。假设你生活在现代世界，正如我们所建立的，控制人群的最佳和最有效的方法不是通过打击他们，而是创造知识的不对称和一个全景监狱。你会怎么做？如果你不能把人锁在笼子里，你将如何限制我们刚才谈到的每个自由阶段？好吧，让我们从第一个开始，限制人们可以选择的选项。

应该说，这并不是一个新的控制人们的想法。政府已经这样做了几个世纪。当然，政府会制定法律，创建罚款和规定，但这只涵盖了我们不希望人们做的相对少数事情。

为了真正控制一个人群，政府早就意识到，必须给人们一个有限的、国家批准的关于周围发生的事情的故事。这就是为什么如此多的政府使用宣传作为工具。这是全景监狱中知识的不对称。如果你想控制一个特定的群体，你会通过法律来禁止某些群体接受教育。

这就是为什么一般的施虐者会限制他们施虐对象的信息。你知道，施虐的父母不希望他们的孩子去学校和所有老师和辅导员谈论家里发生的事情。

施虐的配偶不希望他们施虐的对象有朋友，并与他们谈论发生的事情。他们会告诉他们，发生的事情是错误的。限制某人的选择是一种强有力的限制他们自由的方式。我们知道这一点。这也体现在福柯对控制社会机构及社会规范和禁忌的分析中。我们之前谈过。但如果在1975年，福柯担心一个全景监狱，我们将在机构层面控制人们生活的细节，

如果我们突然通过机器算法和日益复杂的人工智能技术，能够控制人们生活的细节，甚至到个人交易的层面，会怎样？如果你生活在一个世界里，从你购买的东西到你阅读的新闻故事，所有推荐给你的内容最终都由一个人工智能控制，而这个人工智能随着你每次点击的广告，

每个浏览器窗口的打开，每个你观看的视频，甚至你停止观看视频的确切时刻，它都知道。还有更多。如果这些数据都是为了创建一个持续累积的个人档案，以便更好地向你推销，并能够了解你每天的活动而收集的呢？哦，等等，这不是一个“如果”。这已经在发生。每个人都知道这一点。这甚至不令人惊讶。不过，可能让你感到惊讶的是，这些个人档案对于公司和政府来说变得越来越清晰的速度。

你看，他们已经有大量关于你行为的数据可以筛选多年。真正的问题一直是，他们通过这些数据过滤器能真正了解任何一个人的多少？你喜欢哲学吗？你上周在家得宝网站上查看了婴儿蓝色的油漆？

有人快去拿铝箔纸，给我做个头盔。在过去，这些信息并不容易被理解。好吧，人工智能技术越复杂，它能识别的你行为中的模式就越复杂。我们已经看到这一发展趋势多年。它始于算法，然后是机器学习，接着是深度学习，在其中加入了神经网络，现在我们正在创造更专注的人工智能。

在企业方面，我们已经知道公司多年来一直试图追踪和预测我们的行为。我们知道有满是秃顶家伙和尖头鞋的隔间，急切地想预测你接下来会做什么。在政府方面，至少在美国，我们已经知道像PRISM或Boundless Information这样的程序，它们跟踪互联网活动以及你的电子邮件、短信和电话。

我们已经知道，他们曾经将所有数据汇总到一个巨大的数据中心，然后通过过滤器处理这些海量数据，如果某些词或主题出现，人们会被标记为需要进一步审查的威胁。我们知道这在十年前爱德华·斯诺登泄露时就已经发生，正如他说的，即使PRISM结束了，你真的认为这样的程序不会继续进行吗？你认为他们不会利用日益复杂的人工智能来创建更详细、更细致的个人档案吗？

当人工智能变得足够复杂，以至于他们不再需要像斯诺登这样的真实人来分析被标记的人时，会发生什么？这是否会创造一个不再有举报者的空间？机器会保守这些程序负责人的秘密吗？更重要的是，这个“因异常行为标记某人”的术语，难道不开始与福柯谈论社会将人标记为社会异常的方式产生奇怪的相似之处吗？

因为这就是问题。也许现在只有当你明确谈论轰炸一种濒危的花栗鼠时，你的电子邮件才会被标记，对吧？但在未来，随着人工智能在中国已经足够先进，可以在一群人中识别出一个行为异常的人，你认为未来被标记的事情可能会变得更加细致吗？

考虑到我们所知道的，接受的知识与掌权者之间存在直接关系，想想一个环境，在这个环境中，某些东西不断监控你阅读的每一篇文章、考虑的每一个想法，想想这种全景监狱般的情况对人们的教育、发展和个性可能产生的影响。真正的问题是。

你现在是否与值得信任的人进行私下交谈，讨论你不同意的概念，而你绝对不会公开谈论，因为这样做是不负责任的，但这些对你自身的发展至关重要，因为它们让你能够在没有社会反弹恐惧的情况下考虑想法？

是的，我也是。一直如此。但如果你生活在一个你无法知道每次交谈是否被监听的世界里，无论你留下的每一个数字指纹是否被编入档案并记录在某个地方，你会对你阅读的内容更加犹豫吗？你会对与你交谈的人更加谨慎吗？

监视影响人们的道德发展。这就是为什么持续监视是许多宗教如此重要的一个方面。上帝总是在看，对吧？这影响了人们的行为方式。它影响了人们愿意接受的想法。

当规范和异常不仅可以在机构层面记录和分析，而且可以在个人交易层面进行时，人们会因为害怕被标记而更少考虑外部意见，这创造了一个人们在批判性思维和使用理智来判断最佳选择方面的技能会降低的环境。记住，如果你想把人锁在数字监狱里，这是你想要限制的第二件事。

有人说，在西方，我们将慢慢自愿地将我们的权利交给控制这些机器算法的人。当我们这样做时，将以两个名义进行。便利和安全。将以让你五分钟内送达烤牛肉三明治的名义，以及以消毒你周围世界中任何对任何人、任何地方的危险的名义。某种乌托邦。

但是，当你以便利和安全的名义牺牲选择时，你也限制了你的视野。你冒着只看到算法根据其优化决定给你的选项的风险。我的意思是，我们已经生活在一个完全开放思想的人听到新闻中发生的事情，想要听到另一方的智能论点，他们已经很难找到除了算法一方所嘲笑的稻草人版本之外的任何东西的世界。

你看，这就是数字版全景监狱的特别之处。如果你现在是一个被关在牢房里的囚犯，那么显然这个牢房不是由混凝土和铁栏杆构成的。它是由算法创建的数字回音室。

而监狱的典狱长，在全景监狱的中心塔楼，威胁不仅仅是他们随时可能在监视你。知识的不对称比边汉的全景监狱更为严重，因为你对监视你的人一无所知，但他们可能对你的一切都了如指掌，甚至到最细微的细节，他们可以预测和引导你的行为，而你没有能力抵抗。你无法抵抗，因为在这个现代版全景监狱中，监狱的典狱长在某种程度上也是监狱的活动主任。

他们控制你可以接触到的每一个想法和你可能想到的每一个解决方案。他们限制你批判性思维和选择更好或更差选项的能力。当涉及到意志，即做出自由选择的实际执行时，与早期监狱设计中让人们整天处于低刺激、单调乏味的状态不同，这个监狱的典狱长让人们高度刺激。

精确调节、微调你所接触的媒体、视频游戏、戏剧，让你不断滚动和分心，让你始终处于麻醉状态，麻木到无法感受到身处监狱的痛苦，这种痛苦可能会促使你改变你所处的情况。我的意思是，尼采谈到了生活在现代社会中的人的困境，他预测在上帝死后，人们仍然会倾向于依附于某种意识形态，而他预测的意识形态将是政治性质的。

但尼采在他那个时代无法想象，今天生活的人有选择在每一秒钟都功能性地处于药物状态的选项，永远不会对此感到不安。如果合法让囚犯每天都能药物麻醉入睡，会发生多少监狱暴动？

而随着生成性人工智能能够瞬间以零成本生产这个监狱，以及人们对全球公司和政府来说变得比以往任何时候都更清晰，这是全景监狱作为社会控制方法的发展和近乎完美化。但话虽如此，我已经完成了对这一切的钢铁人辩护。正如我们在这个节目中所做的，让我们放慢脚步。让我们盘点一下可能存在的不同维度的对话。首先，有人可能会说，是的，我们在某种程度上确实生活在这些算法的支配之下。

但它们对某人所生活的整个现实的影响究竟有多全面？我的意思是，当然，如果某人对周围世界的一切都是完全的乘客，也许你可以有效地让他们在回音室中被锁住一辈子。但请记住，正如我们在本集开始时所说，我们试图过一种经过审视的生活。我们在关注。如果这一切有任何真相，也许人们可以在全景监狱内部抵抗这种情况。

此外，绝对需要指出的是，有些人并不一定会认同这一切的悲观情绪。有些人认为，增加安全性无疑是好事。他们可能会说：“看，你刚才描述的所有事情，当然，你可以称之为监狱或全景监狱，但其他人可能只是称之为一个更安全的社会。在企业方面，你所谈论的只是人们在展示我可能想要的东西方面变得越来越出色。最终选择购买或不探索其他选项是我的决定。

在政府方面，你所说的只是有一群高技能的人，他们每天的工作就是以更复杂、更有效的方式保护人们的安全。这有什么错？天哪，你知道谁还曾经保护我吗？我妈妈。你要攻击她吗？那个可怜的女人已经经历了足够多。你怎么敢？有些人有这样的观点：好吧，我没有做错任何事。我在乎机器知道我一切吗？我有什么好隐藏的？

而收集这些信息的机器正在收集可能会伤害我或我家人的人的信息。也许这只是社会的下一次进化。

下一集，我们将讨论很多内容。我们将讨论更多关于监视的内容。我们将讨论自由与安全之间的古老哲学关系。托马斯·霍布斯、约翰·斯图尔特·密尔，我们将讨论在这个关于监视国家是否对社会有利的辩论中，双方一些最重要的声音。然后我想谈谈一些应对生活在有时感觉像全景监狱的世界中的策略。如果有人想抵抗这些东西，他们该怎么做？

而且，好的消息是，到目前为止，历史上有很多哲学家曾在监狱中度过实际的时间，并写下了如何应对的经验。或者，在其他情况下，他们至少生活在一个如此混乱的世界中，以至于有时会让你感觉自己是囚犯。无论如何，从他们那里可以获得很多重要的建议，我将进行一次哲学圆桌会议，比较不同的思想家以及如果他们今天活着，他们可能会说些什么。直到那时，也就是在七天后的8月30日，尽量不要把手机扔进最近的河里。尽量不要打任何摄像头。

尽量保持冷静。我想感谢所有在Patreon上的支持者。本周的致谢：Faith McEwen、Tom Arneman、Andrea Wu、Derek Davalos和Alex May。感谢你的收听。下次再见。