Mirca Madianou, "Technocolonialism: When Technology for Good is Harmful" (Polity, 2024)
01:05:47 Share

本集由MeUndies赞助播出。内衣抽屉就像狂野西部。你永远不知道你会拿出什么,也不知道它的形状如何。所以,用MeUndies柔软舒适的内衣来升级你的衣橱吧!

随着

麦当劳的新麦当劳超值套餐,你每天都能获得超出预期的享受。所以即使汽油价格上涨,你也可以买一个双层芝士汉堡再加一个麦辣鸡腿堡,只要1美元。或者在比赛开始前,你可以为团队购买5美元的套餐。如果早餐即将结束,请在应用程式中获取优惠,以便在铃声响起前节省开支。选择权在你手中,而选择麦当劳超值套餐总能获得更多。价格和参与情况可能会有所不同。有效期为等值或更低价值的商品,必须选择奖励才能获得应用程序优惠。

在超级碗周日,佩顿·曼宁还是伊莱·曼宁兄弟将在FanDuel命运之踢3中获胜?观看超级碗周日的现场对决。此外,新客户下注5美元,如果你的赌注获胜,即可获得200美元。仅限于FanDuel,美国排名第一的体育博彩公司。

欢迎来到新书网络。

大家好,欢迎收听新书网络的另一期节目。我是你们的其中一位主持人,米兰达·梅尔彻博士,今天我很高兴能与米尔卡·马迪亚诺教授谈谈她的新书《技术殖民主义:当“科技向善”有害时》,该书由Polity出版社于2024年末在英国出版,并于2025年初在美国出版。

这本书探讨了一种非常有趣的组合:当今的人道主义援助、人道主义项目都嵌入了各种各样的技术。显然,像人工智能这样的闪亮技术经常出现在新闻中,但也有一些我们不太关注的技术,比如生物识别技术。

这些技术在做什么?这对实际需要人道主义援助的人们意味着什么?这对与他们一起工作的人意味着什么?很不幸的是,各种各样的灾难正变得越来越普遍,这使得这些问题变得更加重要。所以,米尔卡,非常感谢你加入我们的播客,并向我们讲述这些内容。感谢你邀请我。

你能先简单介绍一下自己,并告诉我们你为什么决定写这本书吗?当然可以。我是伦敦大学金史密斯学院媒体传播与文化研究系的一名教授。

我的工作重点是传播技术、基础设施和人工智能(AI)在全球自我语境中的社会后果,尤其是在与移民和人道主义紧急情况相关的方面。

在过去的十年里,我一直致力于研究数字平台和人工智能在人道主义行动中的应用。所以这本书汇集了我过去十年参与的两个主要项目的研究成果。

这给了我一个机会,可以将这些研究成果整合到新的理论中。自2014年以来,我一直在撰写文章,报道我的研究成果。2018年,我开始在一个期刊文章中发展“技术殖民主义”的概念。所以这本书是一个机会,让我能够在一个完整的篇幅中充分展开论证。这就是这本书的由来。

这确实很有帮助,特别是考虑到人们普遍存在的一种错误观念,即一个想法会突然出现在你脑海中,然后你写一本书,一切都很顺利,而且进展很快。而实际上,当然不是这样的。写书和研究这类课题需要付出很多努力。你能告诉我们更多关于这本书中涉及的项目吗?

好的。第一个项目是对海燕台风的后续研究,海燕台风于2013年11月在菲律宾登陆。我和同事们一起跟踪了一年的灾后恢复情况,重点关注受灾社区的经历。我们采取了一种以人为本的方法,进行了一项民族志研究。但我们也采访了其他人

比如,来自相关组织、非政府组织、人道主义组织和政府(地方政府和国家政府)的代表。2014年是我们的实地考察时间,那时短信和热线电话很流行,

但即使在早期阶段,我也很惊讶地发现,受灾者提交的反馈机制数据被用于不同的目的,例如审计。所以,海燕台风后的这个项目,

让我开始追踪数据的轨迹。在此过程中,我能够阐明人道主义机构、政府、私营公司和受灾者之间的权力关系。继海燕项目之后,我开始更广泛地探索数字技术在人道主义领域的应用。

在这个第二个项目中,我采访了人道主义工作者、捐助者、数字开发者、企业家、私营公司、志愿者以及受灾社区的人们。同样,我的方法是追踪受灾者和难民的数据轨迹,一直到人道主义组织、科技公司和捐助者。

这使我能够结合不同层次的分析,对吧?最终能够看到数据和人工智能实践如何在这个领域作为一种基础设施运作。

所以你可以看到,在这十年里,我从研究短信和热线电话开始,最终研究了生物识别技术、聊天机器人和其他人工智能平台以及算法决策,因为在这十年里,以及在这两个项目中,技术发生了巨大的变化。随着数据和人工智能在该领域变得越来越普遍,

我意识到我所观察到的是一种新的基础设施,对吧,它支撑着该领域的许多实践,并最终改变了人道主义事业。

这非常有助于理解构成这本书的不同部分。感谢你的介绍。我认为我们现在应该讨论的另一个关键基础信息当然是书名,对吧?“技术殖民主义”。这是一个非常有影响力的术语,让人印象深刻。你能告诉我们更多关于你对这个术语的理解,以及它是如何将关于技术、关于殖民主义和关于基础设施的想法结合在一起的吗?嗯哼。

是的,“技术殖民主义”指的是数字创新、数据和人工智能实践如何巩固权力不对称,并在我们所说的全球北方和全球南方之间产生新的结构性暴力和新的不平等。

所以,“技术殖民主义”阐明了数字发展与人道主义官僚机构、国家权力和市场力量的融合,以及它们在多大程度上重振和重塑了殖民关系。我认为,“技术殖民主义”,正如你从这个定义中已经看到的那样,它关注人道主义组织的作用,无论我们谈论的是联合国机构、大型非政府组织还是国家非政府组织,

以及民族国家。同样,民族国家也扮演着角色,无论是作为难民的东道国,还是作为资助援助组织的捐助国政府。当然,“技术殖民主义”也关乎私营公司(包括科技公司)的作用,这些公司在人道主义行动中越来越普遍。私营部门在援助领域越来越活跃,并且

所以,强调“技术殖民主义”不仅仅是关于数字资本主义的论点非常重要。它是关于人道主义官僚机构、国家权力、市场力量以及围绕技术的想象的融合。也许我还应该说,你知道,

通过“技术殖民主义”这个术语,我承认诸如流离失所、移民、人道主义以及数字技术的发展等现象都根植于殖民关系。例如,以人道主义为例,对吧?它与殖民历史有着千丝万缕的联系。

人道主义起源于19世纪和20世纪的殖民扩张。当然,当代人道主义通常

被理解为道德层面的东西,例如减少痛苦的必要性,参考克雷格·卡尔霍恩的著名定义,捐助者、人道主义官员和援助接受者之间的结构性不对称重现了塑造殖民主义和帝国的不平等社会秩序。所以你可以看到两者之间存在直接联系。

技术和科学也是殖民谱系的一部分。你知道,科学是殖民主义文明使命不可或缺的一部分,是用来证明殖民统治正当性的工具。科学是用来塑造殖民主体的主要工具。所以不仅仅是一个工具,而实际上是殖民主义的构成性因素。我们到处都能看到这一点。

在帝国(英国帝国)为了控制殖民地臣民而发展起来的计数、测量和分类系统中,这一点非常明显。生物识别技术可能是这里最典型的例子,我想,对吧?生物识别技术最初是在印度被用作英国帝国控制殖民地臣民的努力的一部分。

我们今天看到了这些遗产,因为生物识别技术再次被用于难民安置点,以控制和管理其他人的身体。我之前谈到了基础设施。同样,基础设施也深深植根于殖民关系。这里最典型的例子是电报,它映射到英国帝国的地理位置,后来为互联网提供了基础。

所以我的工作建立在这个学术研究的基础上,该研究承认殖民主义在直接殖民统治结束后仍然存在。这里需要澄清的是,重点不是在一个单一的独立帝国上。我这里不是在谈论美国帝国,而是一个持续存在的统治结构。

这体现在持续存在的异化行为、以欧洲为中心的知识体系的认知暴力及其普遍性主张以及种族歧视形式的编纂中。

所以,我可能应该在这里补充几点。当我使用“殖民主义”这个词时,我并不是指殖民主义的一个全新的阶段。我并没有把它作为一个历史棱镜来理解现在。我认为,殖民主义从未真正消失过。帝国崩溃了,但它们的遗产和逻辑却延续了下来,渗透到人道主义及其制度和技术本身等过程中。然后技术反过来又重塑了所有这些关系。

我还应该强调的是,我没有将殖民主义用作比喻。鉴于与殖民主义相关的暴力,这样做是不合适的。将殖民主义用作比喻是对该术语及其所描述现象的去政治化。但我真的想论证的是,我们需要将殖民主义作为一个框架,以便解释为什么今天在难民营中会进行技术实验。

通常是在大多数世界或全球南方。我们需要将殖民主义作为一个框架来理解,为什么在难民营中没有有意义的同意,在那里,拒绝提交你的生物识别数据就等于拒绝接受援助,而你没有其他的生存选择。

与此同时,“技术殖民主义”与新殖民主义并不相同。当然,它们是相关的术语,但“技术殖民主义”将注意力转移到数据和数字实践在巩固不平等方面的构成性作用上,不仅是在难民和人道主义机构之间,而且在更广泛的全球背景下也是如此。所以,在“殖民主义”这个词前面加上“技术”这个词,我真正想强调的是这里的构成性工作。

技术、数据和人工智能。是的,也许我应该在这里补充一点,“技术殖民主义”是关于暴力的。

这有时是我们需要强调的事情,你知道的。我在本书中谈论的是一种暴力形式。这是一种结构性暴力,是导致结构性不平等和边缘化的暴力,它根据人们的性别、种族等影响着整个人群。

他们的阶级、种族、残疾或他们居住在世界上的地方。正如这个术语所暗示的那样,结构性暴力是系统性的,但它也是间接体验到的。它是通过日常的羞辱和残酷来感受的。所以我觉得,当我们思考的时候,暴力的这一维度对于保持框架很重要

我们试图理解我们所说的“技术殖民主义”是什么意思。是的,这绝对值得补充和强调,以及更广泛的解释。感谢你为我们解释这个术语。在我们进一步探讨这可能是什么样子之前,你知道,这实际上是如何出现在地面上,以及存在的问题?我想知道我们是否可以谈谈一些想法,或者说是多个想法,这些想法促成了数字技术(包括人工智能)与人道主义行动的融合。为什么

这些工具受到了这些实践的如此热情的采用?是的,这里有很多因素在起作用。我已经确定了五个逻辑,外加一个,我用这种方式来解释。所以五个逻辑解释了在人道主义行动中推动数字技术的原因。首先,我们有我所说的“人道主义问责制”的逻辑,它

它基于这样一种假设,即数字技术的互动性将纠正人道主义的缺陷,并促进受灾社区参与他们自己的恢复,从而提高人道主义行动的问责制。

当我阐述与殖民主义的联系时,我对人道主义的批评是众所周知的,并且已经确立。这不是我的批评。这是对人道主义的众所周知的批评。因此,数字技术经常被认为有可能纠正这些缺陷。这就是“问责制逻辑”背后的原因,对吧?

另一方面,我们有审计逻辑,它源于人道主义组织必须向捐助者提交指标的持续需求,以便获得更多资金。所以你这里有一个资金系统,在这个系统中,通常是全球北方的政府资助人道主义机构,并反过来要求数据和指标

他们也要求效率,他们也要求减少欺诈。所以这里强调的是对欺诈的零容忍。数字技术会生成指标,并与可靠的审计跟踪和效率相关联。例如,一个经常使用的论点是,生物识别技术将减少低级别的欺诈行为,这种欺诈行为发生在人们两次索要援助的时候。

第三个逻辑是资本主义逻辑,它基本上是关于私营部门通过现在普遍存在的公私伙伴关系进入人道主义领域的动态。该领域有数千个这样的伙伴关系。当然,这种逻辑是由利润的逻辑驱动的,但也由,你知道的,

更广泛地将业务与人道主义或社会问题重新调整的逻辑驱动。工作管理平台。糟糕。无尽的入职培训、IT瓶颈、管理请求。但如果情况不同呢?我们找到了爱。

Monday.com与众不同。无需冗长的入职培训。几分钟内即可生成漂亮的报告。您可以自己构建自定义工作流程。易于使用,无需提示的人工智能。嗯。事实证明,你会爱上工作管理平台。Monday.com,你第一个会喜欢使用的办公平台。

我是瑞恩·雷诺兹,来自Mint Mobile。我不知道你是否知道,但任何人都可以获得与我一直在享受的相同的15美元/月的优质无线套餐。这不仅仅是为名人们准备的。所以像我一样,让你的助理的助理今天就为你切换到Mint Mobile吧。

据我所知,这在mintmobile.com/switch上非常容易操作。需要预付45美元的三个月套餐费用,相当于每月15美元。仅限前三个月享受优惠价,然后提供全价套餐选项。税费另计。请访问mintmobile.com查看完整条款。然后我们有这种技术解决方案主义的逻辑,对吧?认为可以用技术手段解决复杂问题。

社会问题就是这种技术解决方案主义逻辑的体现。解决方案主义将解决方案置于实际问题之前。重点往往是为解决方案寻找问题,而不是反过来。再加上资本主义的逻辑,解决方案主义导致了在全球南方对弱势群体进行技术试点或实验的正常化。

最后,我们有安全化的逻辑,乍一看主要涉及国家的作用及其利用技术使人口清晰可见并保护边境的方式。但当然,安全化的逻辑不仅仅是关于国家的。我们知道安全化是一项大生意,它与资本主义逻辑密不可分。所以,

所以这实际上也表明所有这些不同的逻辑都是相互关联的。事实上,它们都是交织在一起的。但这是一种分析上的区别,你知道的,当我在这里说五个逻辑的时候。因此,安全化与对难民问题的回应以及生物识别技术的应用特别相关。但是,你知道,它实际上也渗透到这里的其他实践中。

我在开头说过五个逻辑加一个,因为在书中我还讨论了第六个逻辑,那就是抵抗的逻辑。它不会推动数字发展,但我们不能在不理解抵抗实践的情况下真正理解这五个逻辑。你知道,统治结构会产生凝结。所以,除非我们也考虑到抵抗,否则我们无法真正理解这五个逻辑。

它们如何在日常生活中受到挑战和抵制。所以我想,是的,这五个完全相互关联的逻辑,我认为可以帮助解释为什么我们在人道主义行动中看到数字平台的激增。

是的,把它们列出来非常有帮助。显然,正如你所说,在某种整洁的分析类别中,现实生活要混乱得多,但仍然有助于将其作为起点,然后以一些混乱的细节来讨论其中的一些内容,尽管显然不如书中详细。但是,希望我们至少能够对它的概述做出公正的评价。

我想接下来要转向的是生物识别技术,对吧?我们实际上已经提到过几次了。在书中,你将它描述为,“最能体现人道主义日益增长的数字化和数据化”。既然你已经为我们阐述了这些逻辑,你能帮助我们更具体地理解它们是如何通过生物识别技术来表达的,以及为什么这是这种领域的关键点吗?是的。

是的,我的意思是,为了解释为什么生物识别技术体现了这种日益增长的数字化,我认为......

我们需要在这里真正强调的是,生物识别技术在人道主义环境中非常普遍,尤其是在应对难民潮方面。生物识别技术作为难民登记的一部分被引入。它是由我之前提到的审计逻辑驱动的,即希望产生强大的审计跟踪以最大限度地减少欺诈行为,并且

通过对难民进行生物识别认证,人道主义组织旨在最大限度地减少人们两次索要援助或索要他们无权获得的援助的情况。当然,生物识别技术也受到改革或问责制逻辑的驱动,因为,你知道,拥有......

明确的法律身份被视为一项基本人权。因此,它也受到这种改革逻辑和赋权受灾者的目标的驱动。

它也受到资本主义逻辑的驱动,因为当然,生物识别产业是增长最快的产业之一。因此,它也与安全化逻辑以及国家希望使人口清晰可见(包括难民人口清晰可见)的逻辑相关联。并且来自捐助国的压力。

捐助国政府一直要求在人道主义行动中使用生物识别技术。解决方案主义的逻辑也在这里发挥作用,因为生物识别技术是各种已被提出并实际推出的解决方案的一部分,通常与其他技术(如区块链技术)结合使用,以改进生物识别技术的交付

以简化现金援助并远程提供援助。

正如我之前所说,生物识别技术作为难民登记的一部分被引入,这是一种非常基本的做法,发生在难民第一次与人道主义机构接触时,或者当联合国难民署进行登记时。但我们今天看到的是生物识别技术......

有很多非常普通的用途。因此,生物识别技术支撑着各种关键行动,从现金转移到医疗保健。

为了让难民领取现金援助,他们必须进行生物识别验证。为了领取口粮或其他资源(如木炭)来,比如说,做饭,他们必须进行生物识别验证。他们可能需要扫描他们的脸。如果他们想去看护士或医生,在许多情况下,他们也必须注册他们的生物识别数据。我的意思是,所有这些在世界各地都会有所不同,但是......

发展方向是,我们看到生物识别技术的激增和生物识别技术的普及。我的意思是,生物识别技术被用于非常普通、日常的环境中,而不仅仅是一个重要的时刻,比如难民登记。

这非常有助于理解,因为从表面上看,在某些方面,这听起来很有道理。然后,一旦你开始思考,等等,等等,这就是它在日常生活中意味着什么,那么许多这种技术的侵入性就变得非常清楚了,你知道的,很容易就能看出,哦,等等。如果你这样做会怎么样?或者如果你不做这件事会怎么样?哦,等等,问题或潜在的问题立即变得清晰起来。当然,在某种程度上,这似乎是合理的。

从阅读这本书来看,在某些情况下,这种技术的推出,人们理解到,地面上的经验可能与纸面上设计的并不一样。这就是为什么至少某些技术包含了反馈机制或流程。你能告诉我们更多关于为什么我们需要对此进行更多批判性思考的原因,而不是仅仅说,哦,看,反馈,太好了,那就解决了问题。当涉及到反馈时,我们还需要考虑什么?

是的,我的意思是,反馈是作为我之前提到的问责制逻辑的一部分收集的。现在所有的人道主义组织都将拥有问责制计划。问责制被狭隘地定义为反馈。这是,你知道的,

问责制有很多定义方式,但在人道主义领域,它已经被塑造为反馈机制。反馈甚至更狭隘地定义为人道主义领域日益增长的数字平台上的反馈。这再次是我的经验。同样,你可以通过与......

受灾者面对面的接触来收集反馈,有很多方法。但是,

我越来越观察到,官方认为反馈是什么,是通过各种数字平台提交的反馈。正如我在2014年的早期研究中所说,当时人们会通过热线发送短信反馈。现在,在应对最近的危机时,我们看到的是在线聊天机器人。

被部署,这些聊天机器人通常有预设的问题和答案,你可以从下拉列表中选择你的问题。

我认为我们可以在这里做出一些观察,对吧?那些无法使用技术或无法连接互联网的人被排斥在外。我们倾向于认为,哦,是的,世界上有数十亿部手机或智能手机,但我们经常忘记

连接并不总是很好。人们并不总是能在手机上有足够的流量,因此他们并不总是有无缝的互联网连接。而且很多时候,整个家庭可能只有一部手机。而且很多时候,这部手机可能由家庭中的男性成员持有。因此,并不是每个人都有......

平等的机会来使用这些不同的设备。反馈机制。当然,很多人不识字。有时我们会忘记这一点。但是,你知道,在缅甸或刚果民主共和国等国家,在那里......

对反馈机制进行了研究,响应率非常低。这令人惊讶,你知道,这些国家的识字率非常低。所以,但即使你能读写,也很难用200或300个字符来概括你的问题,对吧?如果你使用的是聊天机器人,那么聊天机器人可能不会在下拉列表中包含你的问题。因此,同样,你在多大程度上能够真正表达你自己的想法?所有这些都有许多影响。如果答案是预设的,我们真的在谈论问责制吗?是的。

如果答案是预设的,这是否将西方框架强加于当地人民,我们称之为认知暴力?而且问责制的整个概念实际上我认为是西方中心主义的。在我的菲律宾研究中,

与我的对话者进行一对一访谈非常有趣。没有文化反馈。人们认为调查很奇怪,因为他们并不习惯被要求对这些做法发表自己的看法。毫不奇怪,他们记录的许多回应都是感谢信,因为他们也觉得在文化上,表达批评或批评是不可能的

对那些帮助他们的人进行批评。所以有一个殖民框架,通过它来过滤援助。

这一点很重要,因为人们在与我们进行一对一访谈时,他们会对援助过程和援助行动进行严厉批评。所以,他们并不仅仅是心存感激。他们有很多话要说,但反馈机制并没有真正允许他们这么说。所以,在许多情况下,它实际上只成为人们记录感谢而不是他们实际想法的一种方式。是的。

然后,我认为最引人注目的是,这与我之前关于追踪数据轨迹所说的内容有关,那就是在我的工作中我发现很多人经常得不到直接的回应。

他们,你知道的,他们提交了,这更多地与台风海燕的应对有关,而他们当时将短信提交给了热线,他们从未收到回复。这,你知道的,让我想到,

想想看,这些数据去哪儿了?如果数据没有反馈给受影响的社区以改善情况,那么收集反馈的目的是什么?这些数据最终会怎样?所以,再次追溯数据,数据去了哪里?这让我看到数据实际上是被推送到国家办事处,然后从那里送到欧洲,

回到总部,然后到捐助者那里,他们再次要求提供其影响的证据。所以你可以看到,这个反馈过程变成了相当具有掠夺性的过程,而不是一个基本上符合问责制逻辑和人道主义民主化的过程。

在某种程度上,因为它存在,因为它被提供,它也创造了一种,你知道的,它创造了一个形象,如果它证明了一些做法是合理的,因为,你知道的,有人可以说,好吧,我们有一个问责制计划,因此,你知道的,我们

正在考虑当地的观点。这有点像知情同意。你知道,如果你在生物识别注册中获得了知情同意,但如果人们不想提供他们的生物识别数据,并没有真正得到替代方案,这真的是知情同意吗?这能算是有意义的同意吗?我认为不是。但由于生物识别

同意程序已经到位,它就可以证明其支持的一些做法是合理的。是的,你在书中谈到的另一项技术似乎也存在类似的情况,就好像它使沟通和双向沟通更成为可能,但实际上可能并非如此,那就是聊天机器人。所以

所以我想知道你是否可以告诉我们一些关于这些机器人如何用于人道主义目的的信息,以及它们可能不像我们想象的那么新颖的方式。也许它们实际上与其他殖民技术更相关,即使它们上面有可爱的小动物的脸。好吧,我的意思是,我已经提到聊天机器人被用于反馈,所以这就是......

一种方式,你知道的,聊天机器人的一种用途。我的意思是,我认为我们必须在这个更广泛的背景下理解这些发展,包括聊天机器人,我在书中称之为,你知道的,这种实验,对吧,发生在

与技术有关。我许多来自人道主义部门的参与者都提到了他们所谓的“试点病”,这种持续不断的全球实验。在采访中出现的另一个术语是这种将难民营视为实验实验室的做法。而且

近年来,已经有一些试点项目涉及为难民提供心理健康聊天机器人,或者涉及算法决策的试点项目,决定谁将获得援助,谁将不会获得援助。但聊天机器人总体上被视为社会公益创新和人工智能的典范。而且

所以,你知道,为了理解实验,我回顾了过去,试图理解在殖民环境和全球南方环境中的实验。那里一个重要的模式是存在一个实验流,实验在全球南方进行,然后实验的价值被输出到全球北方。因此,当代实验是,

遵循与 20 世纪初的医学和药理学实验类似的地理分布。我认为这揭示了权力全球几何形状的持久性,以及为什么大多数世界的人们继续被认为是随时准备接受实验的受试者。所以,你知道,当我调查

2021 年人道主义部门用于社会公益的人工智能应用时,我发现所有这些应用都是由北美或欧洲的组织领导的。所以,你再次可以看到那里的地理不均衡。

与 Oli 一起制定一个支持您健康需求的常规,例如使用 Oli 的多种维生素软糖获得每日维生素和矿物质,或使用 Hello Happy 中的所有维生素 D 保持心情愉快。用益生菌来支持您的肠道健康,服用 Oli Sleep 后醒来感觉神清气爽。根据您的意愿进行健康保健。在您附近的沃尔玛或塔吉特或 Oli.com 找到 Oli。这些声明未经食品药品管理局评估。本产品并非旨在诊断、治疗、治愈或预防任何疾病。

这种地理不均衡很重要,因为它揭示了所涉及的权力动态,对吧?计算依赖于分类,而分类本质上是政治性的,并且通常反映了环境的主导价值观。由于分类嵌入在基础设施中,它们变得不可见,这使得它们更强大。我认为这可能非常有趣。

如果我们考虑语言的例子,就会看到这一点。这就是为什么我认为聊天机器人是说明这些担忧的一个很好的例子。所以,我应该在这里说,聊天机器人,你知道的,在人道主义方面,我们说的不是 ChatGPT,你知道的,我们说的是某种早期版本的聊天机器人,它使用自然语言处理和

但基本上,主要是在提供对预定问题的答案。所以它不是,你知道的,它不是运行在大型语言模型上的聊天机器人,而是聊天机器人的先前迭代,它建立在自然语言处理之上。而且有......

不同类型的聊天机器人。有一些信息性聊天机器人,你可以用它来了解,你知道的,你可以去哪里,最近的医院在哪里?呃,但也可能有一些,呃,聊天机器人可以帮助你,嗯,发展技能,比如学习一门外语。嗯,

或心理健康聊天机器人,旨在提供某种形式的心理治疗。而我主要关注的是后者,对吧?因为语言问题在这里成为关键。所以我们从古吉·瓦特·永等殖民作家那里知道,语言构成了我们感知自己和我们在世界中位置的价值观体系。

因此,即使聊天机器人被翻译成当地语言,其基础算法和分类也是用英语训练的。如果谈到心理健康疾病,这非常成问题,你知道的,情绪的文化特异性至关重要,你知道的,你真的需要理解。

对植根于当地文化的精神健康和精神疾病有了解。它不能是一个用英语训练的系统。后殖民学者长期以来一直质疑精神病学分类是欧洲中心主义的。所以我们现在看到这些聊天机器人正在以某种方式重振一些长期存在的担忧。

再次举个例子,对吧?如果一个心理健康聊天机器人正在治疗难民创伤后应激障碍,这是一个非常以西方为中心的观念,对吧?当难民逃离战争时,他们处于创伤之中。你可以立即看到它们并没有真正反映人们的现实。你可以看到它们实际上可能是有害的,你知道吗?所以在这种情况下,我们不仅仅是在谈论一种数据提取的形式,对吧?

这是更深刻的东西。你知道的,我们谈论的是一种认知暴力,这是一种将以西方为中心的框架强加于当地文化,这反过来也贬低了当地语言,使当地知识体系无效。

是的,那里有很多问题。我认为这回到了你之前提出的关于暴力以及这些事物如何紧密交织在一起的一些问题。我们不能仅仅将技术与殖民分开,因此需要像技术殖民主义这样的术语。我想让你进一步告诉我们的下一个地方是你到目前为止提到的关于对此的抵抗的一些片段。现在,

现在我们已经更详细地描述了问题是什么,你能告诉我们一些抵抗的例子吗?

是的,我的意思是,一如既往,压迫和暴力都会遭到抵抗。殖民主义一直是一个斗争的故事。近年来,我们看到难民营发生了各种抗议活动,你知道的,难民抗议过度拥挤。你知道的,我们在希腊的莫里亚营地举行了抗议活动,举个例子。但实际上,我们也进行了抗议,因为难民担心生物识别注册。这发生在孟加拉国,发生在孟加拉国的难民营中。

然而,大多数人道主义环境中的争议都不是公开的。我认为在关于抗议的大量以盎格鲁-撒克逊为中心的文献中存在一些偏见,这种文献重视公开的异议,这在西方的自由民主国家中可能是可以容忍的,但在世界上许多地方并非如此,你知道的,反抗的代价是

令人望而却步的。为了理解这些不对称环境中的抵抗形式,我在书中发展了这种世俗抵抗的概念。我在这里借鉴了黑人激进传统学者奥兰多·帕特森、塞德里克·罗宾逊和安东·德·孔布的作品。帕特森和罗宾逊,你知道的,他们观察到,在奴隶制等环境中,

在公开反抗不可能的情况下,抵抗往往采取被动形式,包括逃避或拒绝工作、讽刺或纵火。我更喜欢“世俗抵抗”这个词,因为拒绝并没有什么被动的。因此,世俗抵抗通过微小、普通的行为发生在雷达之下,并且

例如,在我对海燕台风 aftermath 的实地考察中,我们观察到我们的对话者只是拒绝使用这些数字反馈平台。它们实际上并没有被广泛使用。所以,是的。

你知道的,这是一种抵抗形式。它在第一眼看上去可能不会被认为是抵抗。但实际上,我认为那里发生了一些重要的事情。你知道的,拒绝使用聊天机器人或反馈平台

平台可以是一种用不同声音表达的政治声明。实际上,有趣的是,我之前谈到的许多心理治疗聊天机器人,同样,它们并没有真正发挥作用。而且你经常会看到它们在一段时间后就被停止使用了。我认为这充分说明了人们如何看待这些干预措施。然而,

当难民被要求注册他们的生物识别数据时,拒绝并不是一种选择。在我的当前研究中,我的对话者告诉我,即使他们担心生物识别注册,他们也不觉得能够向非政府组织工作人员提出他们的担忧,因为他们觉得他们会被排除在援助之外。所以我们可以在这里看到人道主义结构中存在等级的排斥、能动性和抵抗。

你知道的,举几个例子。是的,了解不同的例子肯定是有帮助的,因为这永远不仅仅是一件事,而且可能不是我们期望寻找的东西。但这就是为什么仔细观察很重要。说到人道主义工作者,我想知道我们是否可以考虑一下

关于你一直在告诉我们的内容的影响。因为当然,一方面,人道主义的理念关注的是,正如你所说,某种人道主义关怀,以及它在全球北方官方谈论或谈论的方式。然而,然后还有你一直在告诉我们的关于技术殖民主义的内容,以及这种方式如何越来越多地嵌入到人道主义工作中,尤其是在全球南方。

我们如何理解这种结合和矛盾?是的,这里存在根本性的矛盾。旨在拯救生命的组织也可能参与一个造成伤害的系统。然而,我们必须在这里区分参与人道主义工作的人员和机构。在我的研究中,我遇到了一些令人难以置信的人,他们非常敬业,并且

实际上,我的一些来自人道主义部门的参与者对我们今天在这里讨论的一些做法提出了非常尖锐的批评。我从我的对话者那里学到了东西,我对本书的内容负全部责任。我需要明确这一点。但我在这里想强调的是,人道主义部门存在非常批判性和非常反思性的声音

但是该部门也具有非常严格的等级制度。它不是一个同质的部门。一线工作人员对问题的理解与组织中层或高层的人员不同。但一线工作人员没有太多回旋余地。他们被要求执行,即使他们对......

他们也是当地工作人员,所以在某种意义上,你知道的,他们也被系统排斥了,因为你知道的,经常......

他们的声音并没有真正被听到。他们可能有很好的想法,但他们并没有真正有空间表达他们的声音。所以这也是对本地化的批评,本地化非常关注要求当地工作人员执行在其他地方做出的决定。但所有这一切都是为了说明人道主义总体上是一个反思性的空间,也是一个存在大量批评和自我批评的空间。

但我经常想起亚历克斯·德·瓦尔的一句话,他说人道主义是反思性的和批判性的,能够以某种方式吸收这种批评并毫发无损或不变地出现。

所以,你知道的,我们可以在这里看到人们关心,工作人员可以非常有反思性,但是这个系统,我在书中称之为“人道主义机器”,实际上,你知道的,可以继续下去。这通常是造成伤害的原因,尤其是在与自动化过程、算法决策相结合时。当然,

也与我之前提到的其他逻辑相结合,即私营部门的逻辑和政府的逻辑,这些也成为等式的一部分。因为这不仅仅是人道主义工作者在这里的想法。它是所有这些逻辑如何发挥作用来创造这种技术殖民主义结构。如果我之前说过人道主义工作者非常有反思性,我们并没有看到同样程度的反思性来自......

比如说,科技行业。我认为这就是,你知道的,也许可以解释你之前指出的这种矛盾。是的,这绝对值得继续思考,当然,还有你提出的许多其他事情。这项研究是否有我们尚未涉及的其他影响你想提到的?是的,我可以强调两点。首先是

我的意思是,我在本书的结尾发展了这种人道主义基础设施建设的概念。基础设施建设是指人道主义系统依赖于私营或政府网络和系统。因此,例如,构成难民营现金分配计划基础的生物识别系统通常由私营公司运行。

并且经常被访问,你知道的,可以被民族国家访问。所以我们在这里看到的是,这个事实,数字基础设施的存在

渗透到人道主义和基本人道主义行动的许多方面。这些系统越来越多地与民族国家和私营公司的系统互操作,这对人道主义的性质具有严重影响。你知道的,人道主义传统上被定义为,你知道的,它具有这种......

神圣的人性、中立、独立和公正原则。例如,独立原则意味着援助必须独立于国家权力或私人利益。但是,如果这些基础设施越来越多地被私有化或被民族国家访问,我们还能谈论人道主义的独立性吗?

我们有一些例子,难民的生物识别数据已在各国政府之间共享。你知道的,这发生在孟加拉国的罗兴亚难民身上,他们的数据与缅甸政府共享。那么这里的独立性在哪里呢?然后同样,人道主义原则意味着每个人都应该获得援助,没有任何先决条件。但是如果我们要求难民来

提供他们的生物识别数据,这几乎成为获得援助的条件。那么我们真的在维护人道主义原则吗,对吧?因此,随着数字基础设施与人道主义官僚机构融合,它们既继承又放大了彼此的局限性,并改变了援助的性质。

这还有一个进一步的影响,这是我最后要补充的一点,那就是我们在这里看到我所说的基础设施暴力。我在一开始就提到殖民主义是关于暴力的。它是一种结构性暴力。但是随着数字基础设施渗透到难民营或灾区日常生活的许多方面,它就变成了

随着基础设施几乎成为日常生活的环境,使用布莱恩·拉金的定义,伤害被规范化了。对吧。因此,自动化的错误可能是严重的,你知道的,当算法决定一个家庭是否有资格获得援助时。对吧。

或者当算法拒绝验证难民时,对吧?甚至在不太引人注目的错误中,例如,你知道的,使用一个聊天机器人,它不包含你问题的答案或你想问的问题。

或者在一个没有兑现机会的地区获得电子券。这些都是日常生活中的一些小残酷。这些都是我所说的基础设施暴力的例子。因为随着基础设施超越暴力,

机构边界和人道主义系统与私营公司和民族国家的系统互操作。结构性暴力的机会成倍增加。数据的可保证性和记录的永久性加剧了对个人的风险。因此,基础设施暴力具有结构性暴力的特征,但它更加分散和成倍增加。

随着数据基础设施变得越来越普遍,暴力变得更加普遍,但却更加分散,几乎像一种环境暴力。而同样分散到湮灭程度的是任何问责制。所以是的,这些将是两种......

这项工作的进一步影响。是的,绝对值得提及这两点。鉴于所有这些,将来可以做些什么来改善情况?我的意思是,它已经根深蒂固了。是的。而且,你知道的,我在书的结尾对这个问题进行了一些反思,可以做些什么?我必须承认,我为此问题而苦恼,因为,你知道的,我

在一个动荡的世界里,你知道的,有冲突、战争和流离失所,这并不容易。我觉得我不能仅仅以批评结束。所以我从鲁哈·本杰明的工作中汲取灵感,你知道的,既要实践希望,也要进行批评。而且我

当然,希望首先来自受灾或流离失所的人们。你知道的,在难民营工作的人知道,你知道的,在难民营的遭遇可能是令人欣慰的。人们用很少的东西做了很多事情,但同时也很令人心碎。

因此,没有秘诀,但我以一些想法结束本书,这些想法只是为了开启对话,对吧?我可以在此与你分享一些。我的意思是,一个主题,一个想法是重新构想人道主义。通过这个,我并不是指某种官僚改革,而是一种更激进的重新思考,你知道的,

你知道的,更激进的本地化方法,例如,你知道的,实际上将资源提供给当地组织以决定什么最适合社区。这与目前对本地化的理解形成对比,目前的理解是要求当地

当地非政府组织效仿西方非政府组织,对吧?所以要建设能力,这通常使用的术语,这是非常家长式的。因此,真正的本地化意味着允许当地非政府组织发展他们自己的系统,决定什么最适合当地社区,而不是仅仅执行在其他地方发展出的想法。

现在,当然,最终,我的意思是,我希望,你知道的,我希望导致我们需要人道主义援助的情况被废除。我的意思是,那将是我的立场。但那是理想。在我们废除它之前,我们该怎么办?

我认为这个改革的想法在废除之前是有用的,因为我认为,你知道的,我们需要一些东西来应对那些时刻,你知道的,仍然需要人道主义援助。

你知道的,在我目前工作的难民营里,我们现在看到所有援助都被暂停了,因为美国由于新政府上任而撤军。你知道的,会发生什么,你知道的,这突出了这样一个重要事实,那就是在我们能够废除我们需要难民营的原因之前,我们需要有一些东西来提供一些援助,否则,你知道的,会发生什么?

我认为这种更激进的人道主义和本地化方法是一个非常小的步骤,但它是朝着正确方向迈出的一步。第二件事是重新构想基础设施,对吧?并尝试与人们一起思考,而不是为人们思考,你知道的,而不是假设什么对他们有好处,而不是拥有这种为了好的想法,而是尝试像人文主义者一样思考

阿图罗·埃斯科巴说,在多元宇宙中设计,而不是为了好的设计。通过多元宇宙,他的意思是许多世界适合存在的世界,对吧?一个允许所有这些不同声音蓬勃发展的世界。因此,与其决定什么是好的,这通常意味着我们如何设计能够满足联合国可持续发展目标的技术,不如询问

受影响的社区,他们会优先考虑哪些价值观?这就是我在目前工作中试图做的事情。所以,你知道的,要求人们表达技术应该基于的价值观。我认为这很重要。而且拥有,你知道的,合作平台,这再次是这里需要强调的重要一点。然后,当然,

你知道的,鼓励这些活动家团体、民间社会团体、非政府组织和受影响社区之间的新团结出现。我在书的结尾举了一个例子,我觉得这个例子在向我们展示如何阻止其中一些做法方面非常有用。

我们最近在乌克兰看到的是一项停止在难民环境中使用生物识别的运动。这是由一群国际非政府组织工作人员发起的,

但也包括民间社会团体。实际上,乌克兰政府非常热衷于反对这种收集其公民生物识别数据的方式。

而且 GDPR,即通用数据保护条例,也被引用,因为它对生物识别等敏感数据有特殊规定。这适用于欧洲公民。当然,它不适用于全球南方大陆的公民,但由于难民在邻国。

在罗马尼亚,实际上可以在这种情况下引用 GDPR。实际上,生物识别注册或其中很大一部分在 2023 年 7 月停止了。对我来说,这是一个很好的例子,说明这些不同的机构,你知道的,公民、民间社会组织、活动家团体、国际非政府组织如何走到一起并阻止其中一些做法。当然,你知道的,在这种情况下,我们

我们可以考虑,为什么它发生在乌克兰而没有发生在孟加拉国?为什么它没有发生在肯尼亚或其他环境中?所以我们可以看到这些不平等之处。但这是一个例子,首先,证明一些这些做法,现金分配可以在没有生物识别注册的情况下进行。其次,它还表明,通过这种宣传,也许其中一些做法

做法,我在这里概述的技术殖民主义做法可以被阻止。这并非不可能。所以对我来说,这种对团结和全球团结以及行动主义的重新构想是另一种重要的方法,它回答了这个问题,你知道的,可以做些什么?

是的,绝对有一些重要的事情。当然,它会继续下去,对吧?我们至少希望有更多的想法、更多的讨论、更多的变化会继续下去。说到未来,鉴于这本书已经出版,你可能现在正在从事什么工作?你是否想给我们简要预览一下当前或即将开展的项目?

是的,有很多想法,但我目前的主要项目是对本书中讨论的一些问题的直接延伸。我和同事们一起研究在泰国难民营中数字身份系统的引入和使用。这是一个由英国学院资助的项目。所以我们现在实际上正在进行实地考察。我们采取以难民为中心的方法,并研究难民如何应对

面部识别等做法,

我们还通过不同的艺术形式开展参与式行动研究。我们的难民对话者重新构想对他们有效的数字身份系统,对吧,并坚持他们的价值观。这是一件相当新鲜的事情。它回到了重新构想基础设施的理念。虽然这个新项目与技术殖民主义书籍之间存在联系,

我从一个非常新的经验环境中学到了很多东西,对数字身份实践(尤其是面部识别)进行了深入研究,至关重要的是,参与式行动研究和基于艺术的研究,这对我来说是相当新的,并且探索起来非常令人兴奋。好吧,这听起来非常有趣。祝你和你的团队在这个项目中一切顺利。谢谢。

与此同时,当然,在你从事这项工作的同时,听众可以阅读我们一直在讨论的书,书名是《技术殖民主义:当技术造福反而有害时》,由 PoliE 于 2024 年底在英国出版,2025 年初在美国出版。米尔卡,非常感谢你加入我的播客。感谢你的邀请。

如果你喜欢飓风、代基里酒,以及任何朗姆酒鸡尾酒,请注意。摩根船长即将像以前从未有过的那样改变局面。我们谈论的是波旁街,新奥尔良,这里是传奇饮品和难忘时刻的故乡。但如果我们告诉你这里最具标志性的鸡尾酒有一个共同点呢?提示,它不是波旁酒。

没错,是朗姆酒,摩根船长正在以你无法错过的方式为波旁街带来难忘的乐趣。当我们为超级碗 59 做准备时,准备好迎接一些大事。确保关注诺拉最具标志性的街道。谁知道呢,波旁街可能只需要一个新名字。请继续关注线索,准备好迎接最传奇的冒险吧。

请适度饮酒。摩根船长原味香料朗姆酒,酒精度 35%。摩根船长朗姆酒公司,纽约州纽约市。