The limits of the surveillance state
47:31 Share

纽约市警察局表示，它拥有世界上最大的摄像头、车牌识别器和放射性传感器网络。

<raw_text>0 这是《On Point》节目。我是梅格纳·查克拉巴蒂。12月4日，联合健康集团首席执行官布莱恩·汤普森在纽约市被枪杀，安全摄像头捕捉到了整个凶杀案的发生过程。这段录像随后被纽约市警察局公布。枪手戴着连帽衫、面具和背包，从一辆停着的车后走出来，平静地将枪指向汤普森的后背，开了两枪。

如您所知，此后，执法官员认定26岁的路易吉·曼吉奥内为嫌疑凶手，并在宾夕法尼亚州将其逮捕。但最初的安全摄像头录像并非纽约市警察局掌握的唯一关于枪手的监控录像。

上周晚些时候，警方公布了他们认为他如何逃离纽约市的新信息。调查人员认为，路易吉·曼吉奥内在据称杀害布莱恩·汤普森后骑自行车穿过中央公园，然后乘坐出租车前往曼哈顿上城的一个主要巴士总站，然后返回市中心，可能乘坐地铁前往纽约宾夕法尼亚车站。从那里，调查人员质疑曼吉奥内是否乘火车逃往宾夕法尼亚州。

这是哥伦比亚广播公司新闻记者贾里德·希尔的报道。有趣的是，希尔所指出的每一个地点，包括自行车、出租车、宾夕法尼亚车站，都有曼吉奥内的监控图像。

这完全说得通，因为纽约市是地球上监控最严密的城市之一。事实上，以下是纽约市警察局自己对部分监控系统的描述。引述如下：“纽约市警察局拥有一款与微软合作开发的工具，它利用世界上最大的摄像头、车牌识别器和放射性传感器网络。”引述结束。

然而，即使有了这个始终开启、始终监控的技术网络，曼吉奥内还是设法到达了宾夕法尼亚州奥尔图纳，直到汤普森被谋杀五天后，一位眼尖的麦当劳顾客认出了他，告诉了一名员工，该员工拨打了911，他才被逮捕。

那么，纽约市所有这些大规模监控的目的是什么？它的优势是什么？它什么时候有效？它的局限性是什么？正如对路易吉·曼吉奥内的为期五天的追捕所显示的那样。

法伊扎·帕特尔现在加入我们的讨论。她是布伦南司法中心自由与国家安全项目的高级主管。法伊扎·帕特尔，欢迎来到《On Point》节目。你好，梅格纳。谢谢你邀请我。首先，你能否就纽约市警察局表示通过监控在过去一周左右收集到的关于曼吉奥内信息中，你认为最相关或最显著的内容向我介绍一下吗？

我认为这里真正重要的是让人们明白，技术不是魔法。有时它有效，有时它无效，而且技术的使用方式以及它在特定情况下运行的效率，其中包含很大的人为因素。

让我们以媒体上流传的路易吉·曼吉奥内的图像为例。你有一张星巴克的照片。你有一张他在出租车进进出出的照片。你有一张旅馆的照片。然后你还有许多这种模糊的图像……

似乎是从街道摄像头拍摄的，可能是纽约市警察局的摄像头。因此，你有很多不同类型的曼吉奥内照片。

如果你将这些照片与例如你拍摄个人照片的方式进行比较，如果你在拍照，你会正面拍照，对吧？你不会——有时你会从侧面拍，但通常你会试图拍到一个人的全脸。你知道，这些图像并非如此，对吧？我认为，这让我们想到了人脸识别技术的第一个局限性，那就是——

你知道，警方识别未知嫌疑人的方式，对吧？所以在这里，他们会拍摄照片，然后将其输入纽约市警察局的数据库，我认为，

它包含数百万张图像，这些是逮捕照片和假释照片。现在，你这里有两个故障点，对吧？一个是，图像质量是否足够好，能够与数据库或库匹配？第二个限定条件是，该库中是否包含这个家伙的照片？如果他未在纽约被捕，也未被假释，那么数据库中就不会有他的照片，所以他们将无法匹配。

但这并不是警方唯一的办法。他们还有另外两种选择。一种是至少在2018年、2019年左右，那个时间段，纽约市警察局正在测试与Clearview AI的合同，你可能还记得，这是一家著名的公司，它受到了批评，并在多个国家被处以罚款甚至被禁止，它从摄像头中抓取图像。

互联网，任何人的图像，你的，我的，你知道，完全是私人人物的图像，并创建了一个据称包含500亿张图像的数据库。这是一个巨大的图像数量，对吧？所以至少在某个时候，纽约市警察局可以将他的图像输入Clearview AI的数据库。

纽约市警察局的另一个选择是，它可以请求联邦调查局。联邦调查局拥有一个非常非常庞大的图像数据库，这些图像来自驾驶执照，你知道，各种来源。截至2020年，

这是我看到的最后一个数字，他们大约有6.4亿张图像。仍然不是Clearview AI，但它是一个相当大的数据库。所以这些是纽约市警察局可以采取的三个选择。我可以在这里插一句吗？因为我想能够逐一验证

非常精确地逐一检查你为我们列出的每一个选项。但在这样做之前，我想向听众明确一点，我们确实联系了纽约市警察局，看看是否有人可以与我们交谈，或者他们是否有评论或声明要就我们在本小时提出的问题发表。纽约市警察局没有回应我们的请求，他们有，但他们没有。

所以首先，法伊扎，让我先退一步，因为你说的第一件事非常重要，那就是技术不等同于魔法。对。

对。我认为学习这方面的具体细节之所以如此引人入胜，是因为我认为公众已经习惯于认为技术，尤其是在执法部门使用时，是一种魔法。对。因为我当时正在回忆……

大约15年前的《法律与秩序：特别受害者单元》的一集，其中发生了一起可怕的犯罪，但他们都聚集在电脑旁。他们只有一块车牌和一张脸。通过某种神奇的系统，他们能够追踪到一张信用卡。然后这张信用卡与一张地铁卡相连。然后这张地铁卡在不同的地方发出信号。然后，当然，信用卡也与……

嫌疑人汽车中的收费机制相连，大约半天时间他们就抓到了这个人。现在这是好莱坞。

但我认为很多人确实觉得应该这么快，这就是为什么逮捕曼吉奥内滞后了五天，而且只有在某人，一个真正的普通人认出他之后才逮捕他，这似乎让人质疑，如果最终你依赖一位正直的公民说，“我认为那个人就是我在电视上看到的那个人”，那么所有这些监控有什么用呢？对。

对。我的意思是，我认为这也是这其中的第三个部分，对吧？你必须识别某人，但你也必须找到他们，对吧？如果某人很聪明，不使用他们的信用卡，也不驾驶一辆你可以识别车牌的汽车，而是，你知道，使用公共交通工具，或者在这种情况下，我想，是一辆出租车和某种公共交通工具，你仍然可以用现金支付。

在大多数这些地方。所以有一些方法可以避免被发现。所以我认为这也是其中一部分，对吧？有图像，有你是否拥有与该图像匹配的数字图像。然后还有，即使你确定了个人，也要找到这个人。所以这些是三个独立的阶段

而且每一个阶段都有故障点。我认为我们已经看到了这些，至少从外部看来，我们已经看到这些在故事中也上演了。你认为这些现在暴露出来的故障点，正如你所说，在曼吉奥内案中，是否会让人质疑有多少资金投入到这种非常高科技的执法监控中？

我认为纽约市警察局和其他警察部门使用的系统的有效性从未得到过适当的测试，对吧？所以你会听到，而且我觉得这必须是真的，人脸识别帮助纽约市警察局和其他警察部门以及联邦调查局调查犯罪，甚至逮捕嫌疑人。与此同时，你知道，

问题是，这项技术的成本是多少？说实话，我们不知道纽约市警察局在这项技术上花费了多少钱，对吧？纽约市警察局的预算非常不透明。所以你不能把数据列出来说，好吧，你知道，在2022年，纽约市警察局在监控技术上花费了1

亿美元。你无法从纽约市警察局获得这种详细的信息。你从警察部门获得的关于其监控技术的透明度也非常有限。现在，在2021年，纽约市议会通过了一项名为

《监控技术公共监督法案》（POST法案），该法案要求纽约市警察局每年披露其监控技术，并包括关于这项技术最影响谁的评估报告。因为围绕许多监控技术（包括人脸识别）的一个主要担忧是偏见问题，对吧？我的意思是，人们一直担心，好吧，有文件表明，

人脸识别算法对白人或高加索人的面孔以及男性的识别效果比对有色人种，尤其是黑人的识别效果更好。所以，你知道，如果你看看过去几年中基于人脸识别技术而做出的错误逮捕，这些逮捕受到了很多媒体的关注，据报道有六起逮捕案

得到支持，而这六起案件中的嫌疑人都是黑人。所以你也有这种种族因素在起作用。所以法伊扎·帕特尔，请稍等片刻。回来后，我想做的是深入研究你提到的纽约市警察局目前拥有或曾经拥有的每一种已知技术。所以我们一会儿就做这个。这是《On Point》节目。Indeed对《On Point》播客的支持。

你在招聘吗？有了Indeed，你的搜索就结束了。Indeed不仅能帮助你更快地招聘。93%的雇主认为，与其他招聘网站相比，Indeed提供的匹配质量最高。听众可以获得75美元的赞助职位积分，让你的职位在Indeed.com/onpoint上获得更多关注。这是Indeed.com/onpoint。适用条款和条件。需要招聘？你需要Indeed。

你回到了《On Point》节目。我是梅格纳·查克拉巴蒂。今天，法伊扎·帕特尔加入了我们的讨论。她是布伦南司法中心自由与国家安全项目的高级主管。我们正在讨论纽约市警察局在纽约市实施的大规模监控系统或系统，以及它们的有效性和局限性，正如对路易吉·曼吉奥内的为期五天的追捕所显示的那样。

顺便说一下，这是据称凶手曼吉奥内12月4日上午联合健康集团首席执行官布莱恩·汤普森被谋杀当天所走的路线的简要总结。这是根据美国有线电视新闻网获得的安全图像汇编的路线。上午6点17分，警方称，附近一家星巴克的摄像头显示嫌疑人正在购买一瓶水和两根能量棒。

两分钟后，6点19分，西55街一家熟食店附近的一个监控摄像头似乎显示嫌疑人正在行走，并在垃圾堆旁短暂停留。11分钟后，上午6点30分，监控摄像头捕捉到似乎是枪手在打电话的画面。你可以看到一个潜在的目击者正走在他的身后。上午6点44分，悲剧时刻。

联合健康集团首席执行官布莱恩·汤普森离开他的酒店，穿过街道。他朝希尔顿中城酒店走去。你可以看到嫌疑人背着背包走到他的身后。警方称，枪手向汤普森的后背和腿部开枪。然后几秒钟后，嫌疑人穿过街道，走过54街和55街之间的一条小巷。警方称，他随后骑上了一辆电动自行车，向北行驶在第六大道上。四分钟后，警方称，一个摄像头发现了一个被认为是嫌疑人的骑着电动自行车的人

在中央公园。12分钟后，上午7点，距离一个Nest摄像头约30个街区，更多视频似乎显示嫌疑人骑车经过西85街，但现在没有背包了。

再次强调，这是来自美国有线电视新闻网，来自谋杀当天安全摄像头的录像。好的，让我们回到过去，因为，法伊扎，正如你所说，纽约市已经安装了许多不同类型的大规模监控系统。你特别提到过一个。

在2012年提到。所以这里有一段关于它的录音。这是2012年8月8日。当时的市长迈克尔·布隆伯格宣布启动一项新的，“实时犯罪预防和反恐技术解决方案”。

今天，我们宣布全面启动“领域感知系统”。这个新系统利用强大的新型警务软件，使警官和其他人员能够更快地访问从现有技术收集的相关信息，并帮助他们更有效地做出反应。换句话说，我们正在寻找新的方法来利用现有的摄像头

犯罪数据和其他工具来支持调查人员的工作，使他们更容易确定一起犯罪是否属于持续发生的模式。它将使纽约市警察局能够更好地部署警力。2012年，当时的市长迈克尔·布隆伯格说，

宣传“领域感知系统”，据我了解，当时该系统耗资纽约市警察局4000万美元。所以，法伊扎，你稍微提到了它。请详细告诉我们。什么是“领域感知系统”？纽约市警察局与谁签订合同或合作安装它？它的预期用例是什么？

我认为“领域感知系统”是与微软合作开发的。它的作用是整合不同类型的信息，对吧？它将整合逮捕数据。它将整合传票数据。它将整合未结逮捕令。

然后，如果有人打电话给911，对吧，这些报告也会被整合进来。它有时会整合这些电话的位置。然后它还会为个人整合任何车牌信息，对吧？如果你被发现穿过必须付费的桥梁或隧道之一，

任何相关的地址信息、电话号码、出生日期、你是否有持枪许可证。所以所有这些信息都被整合在一起。现在，

这里的理论是，当你将所有这些信息整合在一起时，你将能够做两件事，对吧？一个是，当然还有摄像头画面，这至关重要，对吧？这一切都始于9·11袭击事件后在曼哈顿市中心，当时一个主要在私人企业等地的摄像头网络被输入纽约市警察局的DAS系统。所以你所有的这些信息都进来了。理论是，你知道，这可以用来做两件事。一个是，它可以用来预防恐怖主义。所以，你知道，如果一名纽约市警察局警官正在监控系统，

并且他或她看到了一些引起警报的事情，他们就可以调取额外的资料，如果他们能够识别出正在做一些令人担忧的事情的个人，并且能够迅速地，你知道，找出他们是谁以及如果他们在系统中做了什么，对吧？它应该做的第二件事是帮助破案。其想法是，你知道，如果你有，你知道，如果你有一个潜在的嫌疑人，比如说你有一个

例如照片，对吧？然后你可以，你知道，如果你能找到那个人的身份，或者你可以将他们与犯罪投诉等联系起来。所以其想法是，所有这些数据都将帮助你破案，你知道，当你不知道是谁犯了罪或涉嫌犯罪时。这就是这个理论。

我们可以在此暂停一下吗？也许你正要回答我将要问的问题。因为，好的，所以关键是，你说的理论上，这就是“领域感知系统”应该如何工作，对吧？为了强调并确保我正确理解了你的意思，是为了在你不确定是谁犯案的情况下帮助破案。

对吗？是的。好的。这就是我的意思，我没有看到它在运行。所以纽约市警察局没有派人来实际上是很不幸的，因为他们可能比我解释得更好，因为我正在查看文件和报告。百分之百。再次强调，他们只是根本没有。为了完全透明地向听众说明，他们确实如此。纽约市警察局没有回应我们的请求。但是在这个案例中，我想说的是。

你之前说过，这些系统的有效性从未得到过适当的测试。好吧……

所以，我认为当你考虑有效性时，对吧，这是一个非常复杂的问题，对吧？你如何测试有效性？所以，你知道，系统有效性得到最多测试的地方是人脸识别软件。对。所以，位于商务部，并且是主要机构的国家标准与技术研究院，

美国测试场所进行了一系列人脸识别技术的测试，我认为他们从2013年开始就做了一份大型报告。他们在2019年又做了一份，然后在2022年和2024年做了一些后续工作。

这系统地表明，尤其是在2013年到2019年之间，人脸识别技术得到了显著的改进，对吧？所以你正在寻找的错误率，对于最好的算法，对吧，对于市场上最好的工具，是低于1%或2%。所以随着时间的推移，它变得越来越准确。

与此同时，你知道，你必须——你必须承认，你知道，NIST进行的测试的局限性，对吧？一方面，它是自愿测试，对吧？所以你作为一家公司决定是否要测试你的算法。据报道，纽约市警察局使用的系统，我认为叫做DataWorks，不在测试系统的列表中。

我不能坐在这里告诉你，你知道，纽约市警察局是否拥有最先进的人脸识别系统，或者它是否没有，对吧？供应商之间的准确性差异很大。是的。所以我认为这是一件事。关于这一点，我们不知道的原因之一，这就是我想和你谈谈关于后

对。根据密切关注监控、电子监控，特别是纽约监控的监控技术监督项目。他们基本上收集了很多信息自由法案数据，并表示纽约市警察局截至2020年购买了近30亿美元的秘密监控设备，他们说这些设备以前一直被公众隐瞒，因为纽约市警察局——

将这些费用或这些采购列入所谓的“特别费用项目”下，从而避免了审查。这是《监控技术公共监督法案》改变的事情之一。

不，我认为《POST法案》不关注财务披露。《POST法案》是一种基本的透明度措施，它说，你知道，告诉我们你正在使用什么技术。你知道，告诉我们你的标准是什么。告诉我们你有什么规定。

以确保技术不被滥用，并告诉我们，它实际上也要求有效性，但我认为纽约市警察局从未真正对此做出回应，以及影响，对吧？比如它影响了谁？因为种族偏见是监控技术的一个巨大担忧，就像它通常对警务一样。

好的。那么在这种情况下，《POST法案》要求进行一定程度的监督，但明确地说，你是在说纽约市警察局根本没有遵守这一规定吗？我认为有两件事正在发生，对吧？所以纽约市警察局……

它正在发布其《POST法案》要求的声明等，但声明本身往往不足，对吧？它们不足以允许对这项技术进行任何真正的监督。例如，纽约市警察局监察长，我认为这是去年，你知道，进行了一次审计，他们发现，你知道，实际上纽约市警察局没有

没有，没有提供他们需要的数据来评估其技术的使用情况。所以你这里有一个巨大的透明度差距。现在，你知道，在通过《POST法案》时，我记得纽约市警察局，我不认为是警察局长，我认为是他们的反恐负责人，去了

MSNBC并说，好吧，你知道，有了这个《POST法案》，你只会给恐怖分子提供避免监控的工具，这有点可笑，因为你知道，根据《POST法案》，我们从纽约市警察局获得的透明度非常有限。我们对他们使用的技术类型有大致的了解，而且有一些——我必须说这里有一些重要的事情。

但是，你知道，对于技术来说，魔鬼在于细节，正如我们对人脸识别所讨论的那样，对吧？当你看到它在电视上时，听起来一切都很容易，但现实要混乱得多。因此，如果没有更好地了解例如纽约市警察局在特定情况下使用的确切技术，就很难评估其有效性，或者，你知道，警察局是否有足够的

保障措施来防止其滥用，以及三，它的种族影响是什么。所以所有这些事情都归结为深入研究技术的细节。我是梅格纳·查克拉巴蒂。这是《On Point》节目。

现在，法伊扎，你实际上指出了一些非常重要的事情，那就是纽约市，对吧？它是世界上最充满活力、最大、最活跃、最多元化的城市之一，对吧？而且它也是……

它也是美国历史上最严重的恐怖袭击事件的目标。因此，反恐也是纽约市警察局必须努力预防恐怖袭击工作的重要组成部分。为此，据我了解，许多正在使用的技术，例如，其中一些技术是为伊拉克和阿富汗开发的。所以我想知道是否……

有人可能会争辩说，这些技术的有效性已经过测试，只是没有在美国本土进行测试。我认为我会提出相反的观点，实际上，那就是，你知道，可能适用于战场的技术并不适用于垃圾填埋场。

对于美国城市来说。这是因为战场上的标准通常要低得多。所以，你知道，例如，使用武力，对吧？你知道，警察和民用警察部门对使用武力的门槛要高得多，至少在理论上是这样，而不是军队，对吧？所以你没有同样的限制。在战场上，你不会……

你不会在一个宪法的框架内运作，对吧，人们的隐私权，人们的集会权，以及不被以参与抗议为由逮捕和瞄准的权利。你有……

你有特定的法律适用，对吧？例如民权法。所以你有一个适用于美国的框架，而这个框架并不适用于

你知道，在战争的背景下。你在那种情况下有适用的战争法，但它们远不如适用于国内领土的法律框架那样具有约束力。所以我会说。第二，这与你的有效性观点有关，因为你正在特定环境中寻找有效性，对吧？你并不是在寻找广义的有效性。我认为这实际上是关于

甚至关于NIST对人脸识别技术的研究所关注的一个大问题。美国民权委员会今年早些时候发布的一份报告指出，NIST进行了这些试验，但NIST没有

以任何方式复制人脸识别技术部署的现实世界条件，对吧，这些条件非常多样化。所以，你知道，如果你使用嫌疑人照片测试人脸识别算法，对吧，正面照片，对吧，就像你在路易吉·曼吉奥内的报纸上看到的那样，对吧，这是一回事，对吧？该算法将对这些类型的照片更好

更好。同样，你知道，如果你看看，你知道，当你尝试使用人脸识别技术打开你的手机时，那将非常准确。它只是试图进行一对一的匹配。

但是警察部门通常的做法是拍摄质量不太好的照片，无论它们是从自动取款机、星巴克还是酒店摄像头拍摄的，对吧？它们不是你看到的正面照片。因此，必须在算法将被使用的环境中测试有效性，才能真正地，你知道，

有用于评估技术。好的。在我们进入下一个休息时间时，还有一段来自纽约布隆伯格政府时期的情况，他谈到了领域感知系统。这是前市长迈克尔·布隆伯格。

这些系统包括一个摄像头网络，许多摄像头由金融、银行、电信和其他行业的私营企业提供，这些摄像头被编程为如果发现任何可疑情况（例如建筑物入口处无人看管的包裹）就会发出警报。大多数摄像头位于曼哈顿下城和曼哈顿中城。

该中心还包括 2600 个辐射探测器，这些探测器已分发给巡逻中的纽约警察局警官，以及 100 多个安装在桥梁、隧道和街道上的车牌识别器。数十个移动车牌识别器也部署在该市的警车上，允许实时追踪可疑车辆。我们稍后回来。这是《论点》。

欢迎回到《论点》。我是梅格纳·查克拉巴蒂。今天，我们邀请到了费扎·帕特尔，她是布伦南司法中心自由与国家安全项目的高级主管。我们正在讨论卢伊吉·曼吉奥的追捕和逮捕，以及这个案例如何表明

纽约市警察局在纽约市运行的大规模监控系统的局限性。需要再次重申的是，我们确实联系了纽约警察局，看看该部门的某人是否可以加入我们，或者他们是否会回答我们的问题，甚至发表声明。我们没有收到纽约警察局的回复。

费萨尔，我想多谈谈。我们谈到了 2012 年的领域感知系统。但随着时间的推移，你提到了 Clearview，对吧？因为面部识别在这个对话中经常出现。我想花一分钟详细谈谈 Clearview。所以，提醒一下，Clearview AI 本质上是一家其技术在多个领域被执法机构广泛采用的公司。

正如你所说，他们只是从互联网上的任何地方抓取人们的图像。

是的，差不多。Venmo，我甚至不知道 Venmo 有照片，但 Facebook、Instagram，所有社交媒体平台，他们基本上是在未经其图像被放入其数据库的个人同意的前提下抓取图像的。他们的数据库在过去几年中发展得非常迅速，对吧？我记得……

我相信《纽约时报》上有一篇文章在三、四年前首次谈到了它，他们有 30 亿张图像。然后我看到的下一个数字是 300 亿张图像。现在我看到的最新数字是他们的数据库中有 500 亿张图像。根据 Clearview 的说法，我认为大约有 3000 人。

警察部门使用其技术。这大约是美国所有警察部门的六分之一。因此，它在这个国家拥有非常大的影响力。这项技术的承诺或所谓的承诺是，如果你正在寻找一个特定的人，比如说，监控摄像头在犯罪现场抓拍到的人，

但你还没有将该人的面部信息存档。联邦调查局及其微不足道的 6.4 亿张图像也没有。你可以使用 Clearview 快速搜索，瞧，就能识别出这个人。嗯哼。

是的，这就是承诺。好的。为了向听众描述这有多么成问题，针对 Clearview 提起了重大诉讼，对吧？我相信就在今年夏天，针对

6 月份公布了一项拟议的和解方案，该方案将向集体诉讼中的成员支付损害赔偿，该诉讼称他们的隐私基本上受到了侵犯。但就在几天前，我在这里看到，路透社在 12 月 13 日报道说，22 个美国州和哥伦比亚特区正在告诉法官，他们反对这项和解方案，并且认为这项和解方案并没有解决隐私问题。所以这件事还在继续。

关于 Clearview AI，我们知道纽约警察局是否仍在使用它吗？纽约警察局公开表示，它不使用 Clearview AI。另一方面，你知道，有一些公开发布的《信息自由法》文件显示，纽约警察局肯定试用了 Clearview。

Clearview AI 在 2018 年和 2019 年，甚至让警官在他们的手机上安装了它，他们可以将某人的脸通过它进行处理。我认为他们进行了大约 5000 次搜索。所以据我们所知，根据他们的公开声明，

他们没有 Clearview AI，但联邦调查局可以访问 Clearview AI。因此，理论上，他们可以通过联邦调查局访问该数据库。所以我认为有很多方法可以绕过他们无法访问 Clearview AI 的事实。但我认为还有一件事很有趣，也许对你的观众来说也很容易理解，那就是当你将某人的脸与

数据库进行比对时，对吧？它不会给你答案，对吧？它会给你一个选项列表。所以，你知道，例如，联邦调查局的系统会生成 50 个选项。然后，警官必须实际查看这些选项，并决定哪个是正确的。所以，再说一次，这不是魔法。它总是有这个人的因素。但我们确实知道，纽约警察局已经使用了，你知道，

就像其他警察部门一样，也使用了面部识别技术和无人机来监控抗议活动等等。我认为，这确实值得思考，因为我们花了所有时间讨论面部识别技术的局限性是什么，我认为联合健康保险的案例很好地说明了这一点。但随后，我认为，整个

我认为在某些情况下，甚至更可怕的问题是，如果面部识别技术一直都能很好地工作，而且我们到处都有它怎么办？我认为这部分内容也确实非常重要，需要我们思考。但同样，我们不知道，因为在纽约警察局如何、为什么、何时以及以何种效果使用这些技术方面，透明度仍然有限。

没错，但我们确实知道面部识别技术越来越好，对吧？我们知道它变得越来越普遍。越来越多的警察部门正在使用它。我们也知道它在美国没有受到监管。你知道，有一些司法管辖区已经禁止了它。

没有联邦法律规定面部识别技术的使用方式、时间和地点。纽约肯定也没有任何法律会限制警察部门。所以基本上，你拥有一个面部识别技术的不受约束的领域，你拥有一个极其强大和有效的技术，它可以用来破案，但也可以用来做一些与民主社会背道而驰的事情。

我能回到警察部门发现自己身处的一个可以被认为是“22 陷阱”的情况吗？我们继续关注纽约警察局的反恐部分？我的意思是，你之前有点轻描淡写了纽约警察局提出的论点，即如果我们过多地谈论这些东西的效果如何，这将使潜在的恐怖分子洞悉如何规避系统。我实际上并不认为这是一个夸大的说法。

对。因为这是这样一种情况。

单一的失败就是一个灾难性的失败，对吧，正如我们在 9·11 事件中看到的那样。因此，执法部门不愿向立法者或公众提供太多关于这些技术如何工作以及何时以及如何使用的信息，这似乎是完全可以理解的。我的意思是，这个说法有一定的道理。

我的意思是，是也不是，对吧？我的意思是，当然，你不需要知道纽约警察局的行动细节，对吧？所以你不一定需要知道他们是如何进行行动的。但我认为，在一个民主社会中，你需要了解能力。而且你更重要的是需要了解保障措施，对吧？所以

你知道，当我们谈论面部识别技术时，我提到过，你知道，这不仅仅是一个问题，你把东西输入电脑，你得到答案，你得到一系列选项，然后警官必须评估这些选项，对吧？因此，例如，重要的是警官要接受如何实际利用面部识别结果的专门培训，并接受如何避免

众所周知的自动化偏差现象，在这种现象中，你知道，你就像，“哦，电脑说的，一定是对的”。所有这些事情都非常重要。然后，你知道，纽约警察局说它确实有专门训练过的人员来查看 FRT 结果，对不起，面部识别结果。但 Clearview AI 的文件显示，你知道，

这些警官只是在使用它，而不仅仅是经过专门训练的警官。他们，你知道，人们只是在他们的手机上安装了它。所以你确实需要了解它是如何被使用的。我认为当我们思考时，这真的很重要，当我们思考对这项技术的理由时，也要花一些时间思考，好吧，什么是某种，你知道，

这项技术的用例，这些用例显然是具有滥用性质的，我们作为一个社会不希望

看到发生，以及我们如何阻止它们？所以，你知道，我之前提到过，你知道，抗议活动，对吧？使用无人机和面部识别技术来识别抗议活动中的人。纽约警察局、其他警察部门以及至少六个联邦机构都这样做过。现在执法部门会说，好吧，我们这样做是因为有时在抗议活动中，有，有，

犯罪活动发生，对吧？1 月 6 日是另一个例子。所以我们用它来识别嫌疑人，这

你知道，这似乎是合理的。与此同时，书面上没有任何东西可以阻止同样的机构使用这项技术来仅仅识别参加抗议活动的人，然后监视他们或此后骚扰他们。你可以很容易地想象这种情况发生，对吧？同样，对吧，你知道，我们知道，你

例如，中国使用声称能够识别维吾尔族人的面部识别技术。我们都知道中国人对待维吾尔族人的方式。

想象一下，某个科技公司首席执行官会说，哇，这个政府将要进行大规模驱逐出境行动。为什么我不卖给他们一个可以识别看起来像西班牙裔的人的软件，因为他们可能是非法移民？你必须考虑一下，好吧，这项技术的规则是什么？我们该如何阻止这种情况发生？而现在我们没有任何这些规则。对。

你知道，你刚才列举的场景，让我们为此添加一个小的思想实验，对吧？让我们暂时假设一下，这些技术实际上非常擅长你所说的，对吧？识别抗议活动中的人，或者，你知道，维护关于这样的人的数据库等等。但至少，你知道，在这里，我们有一个非常引人注目的犯罪案例，就我们所知，

在帮助执法部门快速追踪这起引人注目的谋杀案的凶手方面，这些监控系统并不擅长。你知道，我……

我坐在那里这么说。我们的家庭工作室位于马萨诸塞州波士顿。你知道，在 2013 年，发生了那次可怕的波士顿马拉松爆炸案。好吧，那已经是十多年前的事了。所以从那以后，技术有了很大的进步。但在那之后很快，在炸弹爆炸的地点，就有爆炸犯的监控录像。但仍然花了整整一周的时间。

你知道，他们的身份被公布于众等等。直到他们枪杀了另一个城镇后，才找到他们。好吧。然后执法部门和州官员仍然自行决定封锁马萨诸塞州东部一百万人。

为了找到这些人。他们在封锁解除后，在当天早上发生枪战的同一个城镇的一位房主找到了他们。

吉哈尔·西尔纳耶夫在他的船上流血。好吧，不是那样。所以我之所以提出这个例子，是因为对我来说，这是一个非常直观的例子，我经历过它，当时可用的执法部门的整个机构和监控系统对该地区最引人注目的案件完全无效。它确实让人质疑，即使是 11 年后，所有这些东西在，你知道，法庭上。

快速追踪罪犯或所谓的罪犯，更不用说预防犯罪了？我的意思是，我认为这些都是合理的问题。而且这确实需要，你知道，需要研究。不幸的是，这里发生的事情是，执法部门往往相当……

抵制以任何独立的方式对其系统进行评估。这就是为什么我认为，例如，纽约警察局的总监察长是我们监督系统中如此宝贵的一部分，因为他们，至少在理论上，确实有能力深入研究这些系统，并公布某种，你知道，

好坏等等。但我认为，我们也必须在某种程度上认识到，我们想要多少监控，对吧？例如，你知道，你谈到了波士顿马拉松爆炸案，对吧？一方面，我认为这在曼吉奥的案例中也是如此，从某种意义上说，

一些技术运行良好，对吧？我们很快就得到了这个家伙的照片，对吧？所以我们有照片，到处都是。你不可能错过它。我们有很多照片。这是其中一部分。第二件事是，能够持续追踪某人。好吧，你知道，如果你是警察，你知道，你接到一个电话，对吧，例如关于曼吉奥的电话，说有一个

希尔顿酒店外中城发生枪击事件。这个人。这就是描述。你知道，他背着背包，等等，等等。现在你正在查看该区域的所有监控摄像头，并试图识别，找出这个人。费扎，请稍等一下。我必须快速地说，我是梅格纳·查克拉巴蒂。这是《论点》。但请继续。所以你必须在纽约市找出一个人背着背包。好的。

对。对。我的意思是，你知道，技术可以帮助你做到这一点。对。但它不会为你做所有事情。所以我认为必须有一些，你知道，我是一个终生都在批评监控技术和执法部门使用监控技术的人。但我认为我认为期望值有时也过高了。

比需要的要高，因为，再说一次，这不是魔法。它也需要大量的实地工作和大量的粗活。所以我认为记住这一点很重要。我们还剩大约一分钟的时间。我想知道，鉴于人工智能本身作为一个技术领域，正在以几乎每分钟都突飞猛进的速度发展，

这些执法技术还能变得多么，我不知道合适的词是什么，更全面，甚至更具侵入性？

我认为，特别是对于面部识别来说，令人恐惧的部分是实时面部识别，对吧？所以现在他们可以像对待卢伊吉·曼吉奥那样，基本上追踪你穿过城市，但他们没有实时面部识别。所以不像中国那样，摄像头看到你，摄像头识别你，摄像头知道你是谁。

一分钟，你知道。现在，这在这样的案件中可能非常有用，对吧？但与此同时，我认为这真的是一个反乌托邦的未来，它将过多的权力掌握在政府手中，以追踪我们日常的行动，看看我们是否去清真寺或犹太教堂，我们是否去看堕胎医生，我们是否去枪店，当政府持续不断地追踪你时，每个人的公民自由都岌岌可危。

好吧，费扎·帕特尔，布伦南司法中心自由与国家安全项目的高级主管，非常感谢你与我们在一起。感谢你的邀请。我是梅格纳·查克拉巴蒂。这是《论点》。