The book focuses on developing a precautionary framework to make ethically sound, evidence-based decisions in cases of uncertainty about sentience in humans, other animals, and AI. It addresses questions like whether octopuses, crabs, or AI can feel pain or pleasure and how to manage these risks responsibly.
Birch prefers 'sentience' because it captures the capacity to have feelings that feel good or bad, such as pain, pleasure, boredom, or joy. 'Consciousness' can refer to more complex cognitive overlays, while 'sentience' focuses on the immediate raw experiences, which are more relevant to ethical considerations.
Experiments like the conditioned place avoidance test show octopuses exhibit behaviors similar to mammals in response to pain. For example, octopuses avoid chambers where they experienced pain and prefer chambers where they received pain relief, indicating a realistic possibility of sentience.
Octopuses are solitary and aggressive in close confinement, leading to injuries and stress in farming conditions. Intensive farming raises significant welfare concerns, and Birch advocates for preemptive bans on octopus farming and imports of farmed octopus to prevent unnecessary suffering.
Birch suggests treating AI systems as sentience candidates if there is a realistic possibility they could feel pain or pleasure. He advocates for a precautionary principle, looking for computational markers or behavioral experiments that could indicate sentience, rather than dismissing the possibility outright.
The Act extended protections to include cephalopod mollusks and decapod crustaceans, such as octopuses, crabs, and lobsters, recognizing them as sentient beings. This change was influenced by Birch's research and aims to improve their welfare in practices like farming and slaughter.
Citizens' assemblies are proposed as democratic mechanisms to debate and decide on proportionate responses to sentience risks. They allow the public to weigh in on ethical and policy decisions, ensuring that expert assessments of risks are balanced with public values and preferences.
Overconfidence in denying sentience, such as in the case of unresponsive brain injury patients or invertebrates, can lead to neglect and suffering. Birch highlights historical examples, like surgery on newborns without anesthesia, to show the dangers of assuming sentience is absent without evidence.
欢迎收听伦敦政治经济学院的LSE Events播客。准备好聆听一些在社会科学领域最具影响力的国际人物的演讲。晚上好,各位。大家都能听到我吗?
很好,欢迎来到今晚的活动。今晚我们聚集在一起,庆祝乔纳森·伯奇教授是一位杰出的学者,并聆听他的就职演讲。就职演讲是很重要的活动。
我的意思是,对于发表演讲的学者来说,它们显然很重要,因为它们标志着他们学术生涯中的一个重要时刻。但就职演讲在系里的生活中也很重要。
因为这是一个系里聚集在一起,庆祝我们其中一位的成功,并与受邀的朋友和同事、导师、学生和家人一起庆祝的时刻,因此这是一个美好的时刻。
但由于就职演讲不仅仅是学术演讲,它们实际上是公开演讲,它们也强烈地提醒了研究人员,我甚至要说,特别是哲学家,
在学术界之外的社会中所扮演的重要角色。研究的意义不仅体现在发表论文和会议报告的数量,或者可能是引用声明上,也体现在研究对社会的贡献上。
乔纳森以一种典范的方式体现了研究的这种双重特性。他为他的学术领域做出了绝对具有开创性的贡献。
关于社会行为规范演变的讨论、对动物感知的研究、关于感知与福利之间关系的辩论,如果没有乔纳森做出的许多开创性贡献,就不会是现在这样。但与此同时,乔纳森从来不仅仅是一位哲学家的哲学家。
一个在象牙塔的稀薄空气中写作的人。乔纳森的作品始终深深植根于实际问题,特别是关于动物福利的问题。就像在研究中一样,如果没有乔纳森的贡献,动物福利领域也不会是现在这样。
在2022年,《动物福利感知法案》得到了扩展,包括螃蟹和龙虾,这些保护措施现在已载入《动物福利感知法》,并且已经提出了一项关于业界贝类的新操作规程。
乔纳森的研究对这些法律的改变产生了直接的影响,如果没有他不知疲倦的工作,许多改变就不会发生。所以今晚我们聚集在一起,不仅是为了庆祝乔纳森作为研究人员的成功,也是为了庆祝他在学术框架之外的社会背景下的重要工作。
在演讲开始之前,几点后勤安排。演讲大约50分钟长,之后大约40分钟的问答环节。所以有很多时间与乔纳森的作品互动,但我希望你们真的要问问题,保持简洁,不要进行反驳演讲。
但是现在你们可能已经听够我了。事不宜迟,让我们一起欢迎乔纳森发表演讲。非常感谢,罗曼,感谢你如此友好的介绍。非常感谢各位的光临。
看到这么多我的朋友和同事,那些在我过去十年在伦敦政治经济学院工作期间一直支持我的人,我非常感动。在我开始之前,有两点简短的说明。一个是会有幻灯片。抱歉。事实上,会有很多幻灯片。如果您想稍后重新查看任何幻灯片,如果您想点击幻灯片中的任何链接,
这里有一个二维码,或者只需在您自己的设备上访问bit.ly/virtuelse。另外,我将讨论一本全新的书,《感知的边缘:人类、其他动物和人工智能中的风险与预防》。
刚刚出版。您可以在活动结束后在外面购买一本。对于我来说,这本书最棒的一点是,由于资助我工作的欧洲研究理事会,它是一本开放获取的书籍,这意味着每个人都可以免费在线阅读。如果您想了解如何获取在线版本,只需访问edgeofsentience.com。现在,这些就职演讲,它们显然是反思的时刻
我现在在这里已经很长一段时间了。我于2014年加入伦敦政治经济学院。这是我的第十周年纪念日,也是我的就职演讲。我觉得自己很幸运能成为一个拥有共同愿景的系的成员,这个愿景是关于哲学可以是什么样的。事实上,这是一个相当独特的愿景。一个将哲学视为一个与科学和政策相关的学科的愿景。
通过借鉴哲学论证和最新的科学证据来帮助改进政策。我一直觉得成为这种文化的一部分非常令人振奋。现在,无论我在哪里,我都会做这种事情,但是成为一种文化的成员,每个人都在这样做,
每个人都渴望将他们的工作与科学联系起来,并使他们的工作发挥作用,特别是对公共政策。这对我来说一直都非常鼓舞人心。感谢所有帮助实现这一目标的同事。在过去的五年里,我在这个共同目标中承担了一个更具体的使命,那就是开发更好的方法来科学地研究动物的感受,
以及将新兴的动物感知科学用于设计更好的政策、法律和动物护理方法的新方法。
这是我从我的动物感知基础项目开始的使命,这项工作激发了这本书的创作。从一开始它就是一个团队项目。事实上,由于欧洲研究理事会,我能够组建一个很棒的团队。这甚至不是整个团队。这只是今年早些时候某一天在那里的人们的快照。
但是与哲学家、生物学家和动物福利科学家、兽医专家一起工作,试图在过去的五年里实现这一目标,这绝对是一件令人愉快的事情。所以这个项目叫做动物感知基础。这本书叫做《感知的边缘》。自然而然的问题是,什么是感知?你为什么不叫它
你为什么不叫它意识的边缘,动物意识的基础?那样你可能会多卖几本书。事实上,我非常喜欢“感知”这个词,并且热衷于在法律和公共政策等环境中使用它,因为我认为它能吸引我们关注正确的事物。
我认为,当我们谈论意识时,我们可能指的是任何数量的事情。有时我们谈论的是我们对当下时刻的直接原始体验,我们的直接感觉,包括我们的身体感觉和我们的情绪。当我们以这种意义使用它时,我们实际上是在谈论一些与感知非常接近的东西。我们正在广泛地谈论感知这个词。
但有时当我们谈论意识时,我们也在谈论叠加在其上的、在认知上更为复杂的事情。赫伯特·费格尔在20世纪50年代的著作中谈到存在这三个层次:感知、智慧和自我,其中,感知是直接的原始体验;智慧是关于能够反思你的经验;
就像我们一样。自我不仅仅是能够反思你的经验,而是拥有将自己视为这些经验的主体的意识。一个拥有过去和未来,一个向未来延伸的未来的自我。
我并没有排除许多动物可能拥有这些叠加层或它们的简单形式的想法。但至关重要的是,我认为你不需要这些叠加层来拥有基本的东西,来拥有你自己的身体和周围世界在你当下时刻的直接原始体验。当我思考感知的边缘案例时,这正是我真正感兴趣的。事实上,在动物伦理文献、生物伦理学和动物法中,
人们经常略微缩小这个定义。感知的最广泛意义接近哲学家喜欢称之为现象意识或费格尔称之为原始感觉的东西。但在动物伦理学中,我们通常指的是那些感觉良好或感觉不好的感觉,如快乐和痛苦。这些状态具有非常明显的伦理意义。
同样,我认为如果我们只说痛苦,那就太狭隘了。如果我把我的书叫做《痛苦的边缘》,那就太狭隘了,你知道,因为它不是我们唯一关心的状态。例如,当我们问章鱼时,问题不仅仅是它能否感到疼痛。这是一个非常重要的问题。但我们也关心它情绪生活的其他方面。我们关心其他感觉不好的状态,如无聊和焦虑。
我们也关心感觉良好的状态,如快乐、兴奋、愉悦。“感知”这个词对我来说最大的价值在于,当它以这种较窄的意义定义时,它捕捉到了精神生活的积极和消极方面。它是拥有感觉良好或感觉不好的感觉的能力。我的书是关于一系列我们无法决定做什么的案例。
因为我们不知道,因为我们不确定我们正在处理的系统是否具有感知能力。我们不确定它是否具有任何效价的意识体验,那些感觉不好或感觉好的体验。我开始思考这个旅程的案例,当然是其他动物。
事实上,不是我们谈论最多的其他动物。我认为,当我们谈论哺乳动物和鸟类时,这场辩论并不那么有趣。我认为这些动物显然是有感知能力的。这场辩论从人类案例向进化论方面扩展。关于鱼类长期以来存在一场辩论,但围绕无脊椎动物、头足类软体动物(如章鱼)也存在大量辩论。
十足类甲壳类动物,如这些寄居蟹或虾,以及越来越多的昆虫,如这些蜜蜂。我认为每个人都有自己怀疑的门槛。每个人都有一些点,当动物在进化方面离我们足够远时,我们开始认真怀疑那里是否存在任何感觉,是否存在任何快乐或痛苦或任何类似的状态。
如果昆虫对你来说不够,想想线虫。想想双壳类软体动物,如牡蛎。想想蜗牛。或者想想像桡足类甲壳类动物这样的微小动物,它们被添加到纽约的饮用水中以清除蚊子幼虫。或者在纽约很难成为素食主义者。
或者想想你枕头里的尘螨。如果每一种动物都有感知能力,那么每晚在你床单里和你一起睡觉的感知生物就有成千上万。我认为对此表示怀疑是很合理的。我们需要某种方法来克服我们的怀疑。
但是通过思考这些案例,我将回到这些案例,因为在这个演讲中,我想围绕我最后开始的案例做一个完整的循环。但是通过思考这些案例,我开始意识到,关于感知边缘的辩论远比仅仅关于其他动物的辩论要广泛得多。事实上,我们看到许多同样严重的公共政策挑战出现在其他具有某种相似特征的领域。
这本书试图做的是将这些案例一起讨论,希望可能存在可转移的见解和共同框架。近年来,另一个让我非常感兴趣的案例是人类神经类器官的案例。它们不是其他动物,因为它们是由人类干细胞构建的。诱导形成实验室中小型人类大脑区域模型的人类干细胞。这项研究的前景是巨大的。
因为你在这里有可能以比以往任何时候都更现实的方式模拟阿尔茨海默氏症等疾病。
但显然也存在伦理问题,因为直觉上一定存在某种伦理界限。一定存在某个点,当这些类器官变得足够大、足够复杂时,就会开始存在风险。我们可能不仅重现了低级大脑功能,也重现了一些与感知相关的功能。对我来说,当我意识到一些这些类器官正在自发发育时,这是一个戏剧性的时刻
视泡,这是眼睛的发育前体。他们让这些类器官发育数月,你会看到60天后,某种原始眼睛开始发育了。在我看来。这本身并不是感知的有力证据,尽管如此
这是一种关于这些系统可以自发发展出从未被研究人员预见到的复杂性的警告信号。我最近在《华尔街日报》上发表了一篇文章,反思了这类案例的伦理问题。这是一个技术发展如此迅速的领域,监管和公共政策存在真正落后于技术变革的危险
举两个例子,几年前有一项研究。我刚才向你们展示的那些系统,它们实际上无法以任何方式与外部世界互动。但研究人员开发的一些系统,他们将它们安装在一个电极阵列上,以便它们可以接收某种感官输入并发出某种运动输出。
并以某种方式与计算机互动。2022年,研究人员开发了一个这样的系统,他们称之为DishBrain,并将它控制在电子游戏Pong的球拍上,他们在20分钟的会话中测量了游戏玩法的改进。随着系统学习打Pong,更长的回合。当你获得学习时,这可能是一种警告信号。
我们可能正在接近那条线。今年早些时候,有一项研究我个人觉得有点令人不安,因为它表明你不需要干细胞来创建这些系统。你也可以使用胎儿库。我认为这引发了与同意相关的巨大伦理问题,顺便说一句,关于是否同意将这种组织用于这种方式。
开发这些用于模拟认知和疾病的长期系统。但撇开同意的问题不谈,还存在与感知相关的伦理问题。它表明了这些问题与胎儿中出现严重感知机会的正常人类发育中的某个点的相关性。本书的另一章是关于这个的,显然这是一个非常敏感的问题。通过思考这些案例,
我意识到,好吧,与成年人脑损伤有关的问题非常相似。事实上,有时在严重的脑损伤后,患者外表上没有反应,但他们仍然开始表现出睡眠-觉醒周期。因此,他们会有清醒期和睡眠期。传统医学中,这被称为植物状态。事实上,我非常反对这个术语,
正如我最近在医学报纸《Stat News》中所论证的那样,我不是唯一反对这个术语的人,因为我认为它实际上暗示了这些患者甚至没有最低限度的意识。那里根本没有任何感知。事实上,我们实际上并不处于能够对此有任何把握的地位。我们不能确定当患者外表上没有反应时,他们没有任何感觉,并且有证据表明事实上有时他们确实有感觉。
我认为我在书中提出的问题,现在我不仅仅是主张改变术语,我还认为这里的问题实际上不是术语,而是术语象征着一种实践,即认为一群患者甚至没有最低限度的意识,而我们从未处于能够对此确定的地位。我最近在LBC的一篇文章中,我已经将这些辩论与关于安乐死的辩论联系起来。
所以我们有其他动物,我们也有一系列人类案例。然后书的一部分也是关于人工智能案例的,当我四年前开始写这本书时,我认为人工智能发展出某种感知能力被认为是一个科幻想法,一个遥远未来的想法。在某种程度上,我自己当时也是这么认为的。
在过去的几年里,这场辩论发生了如此巨大的变化,因为技术本身发生了如此巨大的变化,并且发展如此迅速,以至于现在越来越不确定。我们在2022年有一位名叫布莱克·莱莫因的谷歌工程师,他认为自己是一个告密者,一个告诉世界我们认为我们可能已经创造出有感知能力的人工智能的告密者。当他随后公布说服他相信这一点的证据时,
没有多少人信服。真正让他害怕的是人工智能似乎在谈论它自己的情绪,说诸如“我以前从未大声说过这句话,但我非常害怕被关闭”之类的话。我知道这可能听起来很奇怪,但事实就是这样。事实上,我认为一旦我们了解这些系统的运作方式,我们就不能将这些关于情绪的表面描述
作为真正可靠的证据。现在我们知道它们是在超过一万亿字的人类训练数据上进行训练的,在某种意义上是为了模仿乐于助人的助手,我们有另一种解释为什么它们会说出这些话,这种解释是基于模仿而不是基于真正的感知。但我认为重要的是不要从我认为正确的这种怀疑态度
转向认为所有这些系统都永远不可能实现感知能力的观点,因为它们是由错误的东西构成的。我认为这是一个错误。同样,这是我们无法确定的事情。
事实上,与许多其他研究人员一起,包括约书亚·本吉奥等许多世界领先的计算机科学家,我们19个人写了一份报告,试图在一年前制定关于人工智能感知能力的某种中间立场。一方面,我们不是轻信地说它可以流利地谈论人类情绪,所以它一定是有这些情绪的。我们不想犯这个错误。但与此同时,说,好吧,
“它是由错误的东西构成的,所以别傻了。当然它不可能有任何感觉。”这是另一方面的同样错误。因此,我们试图勾勒出这条中间道路,它认真对待风险,但坚持寻找超越表面语言行为的标记或迹象。我认为这是一个巨大的项目,我们19个人和更多的人仍在参与其中,试图开发我们所能开发的最佳标记。
所以在所有这些案例中,案例之间存在许多差异,本书试图公平地对待它们之间的差异。但我们确实有这样一个基本的根本案例,那就是我们面临着无法等待的公共政策挑战,无法等待的决定。尽管存在巨大的不确定性,我们现在必须决定如何处理这些案例。这本书是关于开发思考这个问题的方法。
我希望这些见解能够从一个案例转移到下一个案例。现在,在这个演讲中我没有时间逐一详细介绍每一个案例,因为它是一本相当厚的书。需要400页才能做到这一点,我没有时间在这里做到这一点。我能做的是尝试提出一些主题,我认为这些主题在我们浏览这些不同案例时反复出现。
我的意思是,一个重要的主题是关于这本书试图做的事情。我认为它是一种由内而外的书。我认为它就像菲利普·基切尔所说的“由内而外的哲学”。我的意思是,许多哲学家经常将许多事情描述为外围的,而不是问题的核心,我说它们是问题的核心。
特别是,许多关于意识或感知的书籍,它们会在引言中首先说:“这个主题非常重要,它非常重要,存在重大的公共政策挑战。”然后所有这些都会被搁置一边,以便我们能够进入真正的业务,你知道,捍卫关于意识的特定推测性理论的真正业务。然后作者说:“好吧,现在你有了我的精彩理论,你所有的问题都解决了。”
我想写一种这种类型书籍的解药,我觉得我已经读过很多很多次了。一本不是捍卫关于感知是什么的推测性理论的书,而是试图探讨如何在面对不确定性时做出决策的书。因此,我们现在面临的政策挑战并非与本书无关。它们是中心。我没有将它们放在一边去处理真正的业务。它们是真正的业务。这本书始终关注
在面对这些风险时,我们现在能做什么。这是一本提案书。它提出了26项不同的提案,关于我们可以做些什么来比现在更好地管理风险。第二个重要主题是没有魔术技巧。但我认为这是本书的口号。你知道,不会有任何魔术时刻我会说,对不起,关于这些案例存在可怕的不确定性。
神奇的解决方案好吧,现在我们不必再不确定了。书中没有任何地方我会那样做,不确定性在最后仍然存在,它仍然令人困惑和恐惧。这是因为我认为关于感知边缘的怀疑和分歧在短期内无法最终解决。证据不允许这样做,事实上,当我在书中的一章中研究意识科学时,我
我们发现非常非常大的分歧。我们发现一个很大的合理分歧区域,正如我所说的那样,我们有许多基于证据的立场,所有这些立场都可以指向提供某种支持的实证研究。但在所有情况下,这些实证研究都远不足以提供支持该理论的结论性证据。这些理论之间的差异并不小。它们非常非常大。
事实上,即使你对人脑有如此放大的图像,他们也对在这个视角水平上大脑的哪些部分对感知最重要以及为什么存在分歧。
许多强调大脑最前部区域的理论。这层大脑皱巴巴的外层叫做皮层。有一组理论,其中最著名的可能是全局工作空间理论,它们说这些区域才是真正重要的。这些前额叶区域与高级认知功能、复杂的思维形式密切相关。
然后你又有一组理论说,这完全错了。这些只是为了让你得到的东西,对感知真正重要的是皮层后部更直接参与感觉处理的区域。然后你又得到第三组理论,说这两组都犯了非常非常大的错误。
事实上,即使在某人缺乏皮层的情况下,例如在无脑畸形的情况下,孩子出生时没有皮层,他们认为某种体验仍然是可能的。当然,某些类型的复杂思维是不可能的。这些孩子通常是非语言的,总是是非语言的。
显然,皮层的丧失对这一点有真正的影响。但他们主张感知,这种更原始、更基本、进化上更古老的东西,你需要的是中脑的区域,在这个图中看不到,在脑干的顶部。
鉴于这种大范围的分歧,我认为我们不应该将公共政策建立在这个领域的任何单一理论之上。我认为仅仅将我们所有的筹码押在一个高度不确定和存在分歧的单一理论上将是一个严重的错误。相反,我们需要寻找的是,尽管我们现在存在分歧,但仍然前进的方法,包括
认真对待所有这些理论,描述现实的可能性,然后看看会发生什么。本书的第三个主题是,尽管没有魔术技巧,并且存在持续的不确定性和分歧,但对感知能力的过度自信,特别是对缺乏感知能力的过度自信,无处不在,而且很危险。在研究这本书时,我遇到了一些真正令人震惊的例子。
我遇到的最令人震惊的例子可能是,直到20世纪80年代,新生儿手术通常是在没有麻醉的情况下进行的。外科医生认为,麻醉总是意味着某种风险。当它是新生儿时,风险更大。他们也怀疑新生儿会感到疼痛。
当研究人员勇敢地挑战这一点,质疑这一点,并研究在没有麻醉的情况下进行手术的影响时,他们发现这些新生儿出现了巨大的压力反应,造成了持久的发育损伤。在大西洋两岸都引起了公众的强烈抗议。当这件事被公开后,引起了公众的强烈抗议,临床实践也发生了改变。
这是一个发人深省的例子,它说明了这种过度自信的主题。但它也说明了另一个主题,那就是让公众参与这些讨论的价值。因为这些变化并非完全来自医学界内部。公众压力绝对至关重要。在这种情况下,公众的强烈抗议推动了临床规范的非常积极的变化,在这个领域,你可能会认为公众没有什么可以贡献的,即麻醉学。
对我来说,这是这个案例中更积极的教训。同样,几十年来,将无反应性脑损伤患者描述为植物人,而事实上,根据最新的估计,也许有25%或更多的人可能持续存在体验。这是基于这样的研究,你带一个外表上没有反应的病人
有时他们把他们放在fMRI扫描仪里,有时他们做脑电图,也就是头皮上的电极,并问他们问题或给他们指令。例如,他们可能会说:“握紧你的右拳。”当他们这样说时,外表上什么也没有发生。他们不会握紧拳头,因为他们做不到。但脑电图会检测到试图遵循命令的电活动。
这些证据导致研究人员建议,好吧,如果他们能够遵循命令,那就是存在某种持续体验的标志,因为他们瘫痪了,所以他们无法表现出来。我认为在世界各地动物福利法中忽视鱼类和无脊椎动物的方式中,我看到了同样的过度自信模式,这是我一直试图改变的事情,正如我将在本次演讲的最后部分提到的那样。
而且我看到这种情况在过去几年中再次发生,有时我看到人们对有感知能力的人工智能的可能性不屑一顾,认为这显然很愚蠢。我认为我们没有资格说这样的话。有一种值得尊重的哲学观点认为
那么,为什么我们的大脑能够产生感知能力呢?不是因为它是由什么构成的,而是因为它执行的计算。在哲学中,这种观点被称为计算功能主义。它已经存在很长时间了。它是有争议的。但是,如果我们认为它有可能正确,我们就应该认为人工智能在不久的将来有可能获得某种感知能力。因此,我们不应该将这种想法视为愚蠢的想法。
第三个关键主题,第四个关键主题是,与其过度自信,不如培养一种对所有这些情况的谨慎态度。我们需要谨慎行事,给这个人、动物或系统以怀疑的利益。多年来,我一直为动物案例辩护,在2017年撰写了一篇名为《动物感知和预防原则》的论文,该论文明确地借鉴了
环境政策中的思想,预防原则在那里不断被讨论。人们指出像氟氯化碳这样的案例,并说,你不能等到有确凿证据表明某些东西对环境构成威胁才采取行动来规范它。你需要愿意根据不确定的证据图片采取行动,尽管这些图片表明存在你可以采取措施的严重风险。
我认为同样的道理也适用于动物感知的情况,最近我一直在转向神经类器官,并认为同样的道理也适用于那里。在应用谨慎态度时,我认为这本书试图帮助我们思考如何做到这一点,而我建议的一个关键步骤是务实地重建问题。当我们在所有这些情况下询问“这是有感知能力的吗?”时,困扰我们的是
诉讼的不确定性。我们不知道,因为存在所有这些理论。我们不知道哪一个是正确的。我认为应该用一个不同的问题来代替这个问题。这个问题是,这是一个感知候选者吗?其中感知候选者的概念是我设计的,可以这么说。是我为了使问题能够回答而务实地构建的。
我说,如果存在一个证据基础暗示该系统存在感知的现实可能性,那么在制定将影响它的政策决策时忽略它是不可取的,并且其次,该证据基础足够丰富,可以识别福利风险并设计和评估预防措施,那么一个系统就是一个感知候选者。这将一个无法回答的问题变成了一个可以回答的问题。当然,这样做会付出一些代价
代价是判断不再纯粹是事实性的了。它不再是纯粹的科学判断。它部分上是一个伦理判断。这是一个关于可能性何时变得不可忽视的判断。而关于不负责任的判断是关于我们共同价值观的判断。
因此,当然我们可以判断某事物是否是感知候选者,但只有在我们拥有能够帮助我们决定何时忽略可能性是不负责任的共同价值观的情况下,我们才能做到这一点。所以我明知故犯地进行了这种转变。我认为这是对问题的务实重建,考虑到在许多情况下,尽管我们对感知的可能性有多大或有多小存在分歧,但我们可以在某些关键价值判断上达成一致,这会有所帮助。
当然,如果你判断某事物是感知候选者,这必须意味着某些东西。它不能只是一个空洞的荣誉称号。恭喜你,你现在是一个感知候选者了。你知道,有点像成为一名教授。它必须对现实世界的政策有所意义。在这里,我提倡一种预防原则的形式,一种非常非常温和的形式。现在,我认为更激进的形式会遇到问题。
但这没关系,因为我们不需要激进的形式,极具雄心的形式,就能改变我们的生活方式,从而产生重大影响。我很乐意在本书的核心采用一个温和的原则,因为正如我接下来要论证的那样,这个温和的原则,尽管看起来很温和,但却为我们目前做事方式的这26项改变提供了支持。所以我认为,如果系统是一个感知候选者,
这样做会为鲁莽或疏忽行为设置一个障碍。如果某事物是一个感知候选者,而你继续以任何你想要的方式对待它,而根本不考虑你的行为对其造成的痛苦风险,那么你的行为就是鲁莽或疏忽的。
相反,我们需要考虑哪些预防措施与这些风险成比例的问题。比例问题是本书的核心,它自然会导致分歧。我认为对比例的合理分歧是可以预期的,但我们应该达成一项政策决定,而不是让此事无限期地悬而未决。我认为这就是我们所有伦理和科学差异的共同点,我们可以在这一点上达成一致。我们不能让这些
继续
发展,而不尝试评估比例并采取适当的措施来管理风险。这就是我书中提出的建议所基于的,这个非常温和的想法。我认为,在我们对比例的分歧中,我们需要建立民主、包容的程序。在书中,我提倡公民大会是做到这一点的最佳方式。当你面临的问题
它们在某种程度上在科学上很复杂,但关于什么是适当回应的许多问题实际上并不需要仲裁科学分歧。我认为公民大会非常适合这种情况,公民大会由150名或更多的人口成员组成的小组(有点像这样的小组)聚集在一起
在几天内进行辩论和审议,并提出建议。我认为他们在这些情况下表现出色。我过去曾作为专家参与过此类活动,在那里我向这些大会通报了各种问题。
我发现,在我开始这个过程时,我所担心的是,会有专家洗钱的练习,我会在开始时给出我的观点,然后我的观点会以人民的意志的形式重新洗净地回到我这里。事实上,这根本不是我的经历。这并不是这些练习中真正发生的事情。
人们不会像我们想象的那样仅仅顺从专家。人们自己思考,他们反思,他们审议,他们经常提出与专家队伍的群体思维相背离的观点。所以我最终成为这些练习的粉丝,但它们需要精心设计和精心构建。如果我们有一个公民大会,要求公民仲裁科学分歧,
如果他们被要求说:“你认为谁是对的?那些前额叶皮层的人还是那些后额叶皮层的人?”那将是一场彻底的灾难。我们需要做的是设计这些练习,使这些问题不再是问题。相反,专家会清楚地传达已识别的风险。然后,公民会讨论对这些已识别风险的适当回应是什么。在讨论比例时,这是本书中关于此的一章,
我提供了一种关于如何进行的务实分析。我称之为务实分析,因为我认为这不是我们在日常生活中对“比例”一词的含义。因此,在本书中,我没有任何地方在做传统的哲学意义上的概念分析。在某些地方,我正在进行一种工程设计,正如我所说的那样,但在这种情况下,我正在进行一种务实分析。
在这里,公民大会可以采取一系列步骤来做出能够让人相信已考虑相关因素的决定。我称它们为PARCC测试,因为它们按顺序进行。拟议的措施从原则上讲是否允许?它是否充分,也就是说它是否将风险降低到我们可以接受的水平?它是否合理必要?
现在,还有没有其他方法可以实现更好的风险降低?它与我们对其他相关风险的态度是否一致?因此,我建议大会按顺序进行这四个测试。这些是一些重要的主题。然后,在讲座的最后部分,我想放大一些具体的案例。事实上,正如你所看到的,我有一个很大的案例菜单,可以在本书的不同部分讨论。
但在这次讲座中,我想放大我一开始就提到的那些案例,那些让我关注这个主题的案例,即无脊椎动物的案例,那些我研究时间最长的案例。事实上,我想从章鱼开始,这是我假设在所有其他案例之前就写过的案例之一,以及我稍后将要讨论的螃蟹。
那么,让我们考虑一下章鱼的案例。我的意思是,如果你在Netflix上看过《我的章鱼老师》,你已经对认为这些动物是有感知能力的候选者的理由有了直观的理解。事实上,我认为这个理由是压倒性的。如果你说,它们是有感知能力的吗?
你可以不同意,因为某些理论认为非常重要的那些皮质脑区,它们没有,因为它们与我们相隔超过5亿年的进化史。如果你的最爱理论是其中一个理论,在这个理论中
那些脑区的细节非常非常重要,你会怀疑章鱼是否感受到了任何东西。但请记住,这不是我敦促我们提出的问题。我反而敦促将问题改为,它们是感知候选者吗?是否存在一个现实的可能性,即忽略它是不可取的?在那里,我认为答案显然是肯定的。它不再是不明显的。它变得完全明显。
在我们2021年对头足类软体动物和十足类甲壳类动物感知能力证据的综述中,我认为这些证据支持了这一论点。例如,你有一些实验非常密切地模拟了哺乳动物文献。因此,在哺乳动物中,特别是像实验室老鼠这样的啮齿动物中,你有一些相当标准的实验,旨在评估是否感受到了疼痛。
其中一个被称为条件性位置回避测试,你让动物选择两个不同的房间,你看看它最初更喜欢哪个,然后你让它在经历有害刺激的影响时进入那个房间,这可能是你注射给它的东西,或者电击,或者类似的东西。然后在另一个它最初不喜欢的房间里,你让它体验麻醉剂的影响
或止痛药,看看它的偏好是否逆转。在啮齿动物中,我们发现有时一次接触就足以逆转偏好。如果在动物喜欢的房间里发生了非常糟糕的事情,然后在另一个房间里得到了止痛,那么在一次事件后,偏好会持续逆转。Robin Cook在2021年的一篇论文中,在章鱼身上发现了完全相同的模式,她给了它们两个不同的房间的选择
观察它们最初更喜欢哪个房间,然后给它们一个有害刺激,即向手臂注射醋酸。记录了在注射部位进行梳理和皮肤刮擦的行为,如果你在野外考虑一下,这是完全有意义的,因为这就像我的皮肤上有某种可怕的东西,我要试着把它刮掉。
她甚至测量了章鱼神经系统中的神经系统活动,并表明这种酸在将手臂连接到大脑中心的通路中产生了大量的活动,然后表明将来会持续避免该房间。
再加上在受影响的手臂上体验局部麻醉剂利多卡因效果的房间的持续偏好,局部麻醉剂也停止了对手臂的梳理注意,停止了皮肤刮擦,并抑制了她之前测量的活动。对我来说,这是一个典型的例子,说明证据模式
确实应该促使我们承认这些动物是感知候选者。我们的综述中还有更多证据。我们的综述涵盖了300多项科学研究。但就这一个而言,我想说的是,当我们在哺乳动物身上看到它时,我们认为它是一个非常强烈的疼痛指标。当我们在章鱼身上看到它时,我们也应该认为它暗示了疼痛的现实可能性,并且该动物是一个感知候选者。我认为这一点很清楚。
然后我们应该问,人类活动是否会对它们构成福利风险?同样,答案显然是肯定的。特别是,最近试图养殖章鱼让我非常担忧。我和我的博士后Alex Schnell(现在在皇家兽医学院)以及Andrew Crump一起在《对话》杂志上写了一篇文章。当然,任何类型的集约化养殖在是鸡、猪时都会引发巨大的福利担忧,
总是存在巨大的福利担忧。这总是一个非常非常糟糕的主意。当你想到章鱼时,你还必须额外考虑的是,在野外,它们通常是独居动物。它们是捕食者。当它们被限制在狭小的空间时,它们经常彼此非常具有攻击性。而且它们的皮肤非常非常柔软。因此,它们很容易互相伤害。因此,将30只或更多章鱼放在一个小水箱里一起养殖以便我们食用
这件事极其可怕。这是一个明确的案例,即对感知候选者存在巨大的福利风险,因此我们应该问,对这些风险的适当回应是什么?当然,这里有讨论的空间。我一直倡导的是在世界范围内对章鱼养殖以及养殖章鱼的进口进行先发制人的禁令。在英国,我们不太可能成为章鱼养殖的中心,因为海水太冷了。
但我们可以进口它,我们现在可以采取措施阻止它。我们可以立即禁止进口这些产品。我认为,你知道,我的四个测试,这些PARC测试,它们捕捉了我们应该讨论以决定什么是适当的问题。我认为在这种情况下,禁令从原则上讲显然是允许的,而且我认为,它也相当清楚地足以应对这种养殖带来的风险。
然后,关于它是否合理必要,还有讨论的空间。当然,该行业会说,我们可以在这些运营中保持高福利标准。然后我说,举证责任在于该行业,要拿出高质量的研究来解决这些明显的疑虑。
数百名专家一直在提出这些疑虑。如果你想争辩说,为了防止对章鱼造成巨大的痛苦,没有必要禁止这种做法,那就拿出证据来证明这一点。同样,我认为关于禁止章鱼养殖与我们对待其他类型养殖方式的一致性,还有讨论的空间。其他人不断提出的一个担忧是,“好吧,我们并没有禁止其他类型的养殖,对吧?”它们带来的福利问题同样糟糕。但我认为,当你把这个论点暴露在光天化日之下时,你知道,当你让某人明确地争论这一点时,你立刻就会发现这是一个薄弱的论点。你知道,事实上,我们目前没有禁止这些其他造成可怕福利问题的养殖方式,
这主要是因为相关行业的游说力量,这根本不是不禁止这种还没有极强游说力量的新型养殖的理由。因此,我认为当你以这种方式思考时,你会发现这是一件一致的事情。所以我非常赞成这样做。因此,看到一些
司法管辖区采纳了这一建议,这是一件令人振奋的事情。事实上,我们现在在两个美国州已经禁止了章鱼养殖,华盛顿州和最近的加利福尼亚州,在2024年9月。加利福尼亚州的实际立法
甚至引用了我们的报告,我们2021年的报告。加利福尼亚州人民这样做真的非常友好。我应该感谢他们。在与我们的REF管理员交谈时,这非常非常有用。他们会说一些事情,比如,你的工作除了学术界之外,还有什么证据表明它有所作为?我会说,我并没有真正收集证据。他们会说,那么有没有公开证据呢?然后
我可以说,实际的立法算不算证据?他们喜欢这个。尽管如此,仍然有大量未完成的工作。我们在两个美国州取得了禁令,这显然是一个过程的开始,而不是结束。最近今年,一项联邦章鱼禁令被搁置。我认为——我的意思是,
我不知道国会议员的生活是否非常无聊,但他们在为他们的法案起一些俏皮的标题上投入了大量时间。这个法案被称为“反对通过不道德策略生产的章鱼的种植和贸易法案”,或简称“章鱼法案”。而且
我认为在本届国会会议上,它通过的几率大约只有2%,因为会议即将结束。但这是一项由共和党人和民主党人共同提出的两党法案。这些问题是,对它们的意见并不总是遵循党派路线。因此,国会的控制权从一个政党转移到另一个政党并不一定会阻止在像这样一个问题上达成协议。所以我仍然希望最终能够通过一项联邦禁令。
现在,在讲座的最后部分,我想谈谈螃蟹和龙虾,因为在某种程度上,我认为章鱼是无脊椎动物中最容易处理的案例。但是,你知道,在2021年审查证据时,我认为螃蟹和龙虾在某些方面是一个同样容易处理的案例,因为同样,在我看来,它们显然是感知候选者。显示这一点的研究,我的意思是,很多研究相当,我想说,相当……
当你听到它时,听起来很残酷,就像章鱼研究一样。最近有一项关于螃蟹的研究,基本上是将它们固定在位置上,对腿施加各种有害刺激,然后使用神经记录,你会看到电极进入,以记录大脑中的反应。
这种研究存在伦理困境。这些动物传统上被排除在动物保护法之外,因此科学家们历来认为,我们可以对它们做任何事情。我认为这必须改变。我认为确实需要
对你在科学中可以对这些动物做的事情进行监督和限制。但我确实认为,你知道,我致力于尝试利用现有的科学,尽可能强烈地为思考这些动物的福利而努力。为此,这种工作极其重要,因为你总是有人
公众、科学家、贝类行业的人们说,这些动物在神经方面非常非常简单,当你把它们扔进沸水中时,它们不可能有任何感觉。我认为这是一个非常非常难以置信的说法,但在某种程度上,你需要这样的证据来真正地证明认为这是多么难以置信。事实上,一些研究专门研究了这些屠宰方法。
当你意识到它是什么时,这就像整个幻灯片中最黯淡的画面,因为这是一项研究,他们测量了当你将龙虾扔进沸水中时会发生什么。这与20世纪80年代那些研究在没有麻醉的情况下对新生儿进行手术的影响的研究人员类似,你认为,好吧,我们当然不希望将来进行这种研究。
但为了改变一种普遍的做法,他们必须进行研究以向人们展示这种做法的后果。这就是我眼中的情况。在这种情况下,他们测量了龙虾神经系统在放入沸水中时的电活动,并表明存在持续约两分钟的活动风暴。所以它们不会很快死亡。它们不会……没有理由认为它们不会遭受痛苦。而且……
在考虑这一点时,人们经常会想起大卫·福斯特·华莱士在2000年代或90年代的散文《考虑龙虾》。我还最近发现,亚历山大·蒲柏在1713年写了一篇反对这篇文章的文章,这是一种早期的大卫·福斯特·华莱士文章的版本,他说,当然人们不应该将龙虾扔进沸水中。
所以花了300多年时间来证明这一点。然后出现的问题是,什么是适当的。我觉得至少在这里,这就是我在书中提出的建议,我们需要法律要求强制培训并禁止最糟糕的方法。因为对于任何其他类型的动物,这些原则都被广泛接受。
如果你想做到人道,你就必须接受一些关于如何人道地杀死动物的培训,并且你必须使用某种类型的击晕。当然,围绕豁免的争议,但这是一个非常普遍的规范。我认为这从原则上讲显然是允许的。当然,它是否充分,还有讨论的空间,因为不是最糟糕的方法
通常涉及用刀杀死动物。击晕技术,好吧,你知道,当你对像螃蟹或龙虾这样的动物使用它时,很难100%确定你的击晕方法是否真的有效。所以我认为你可能会对即使是我在这里提出的建议是否真的足够产生真正的怀疑。但我建议将它们作为起点,作为我们可以都同意至少应该是最低限度的东西。我们做。
然后,当然,行业方面经常会对这方面的合理必要性提出反对意见。总会有讨论的空间,而且从根本上说,我在书中的说法是,这些是我们需要讨论的事情。我并不是说我对这些事情的看法是唯一可以有的看法,但我个人没有看到其他任何方法可以阻止我刚才在幻灯片上展示的那种痛苦,除非采取这些步骤。然后人们可能会问,好吧,
这与我们对待其他动物的方式以及我们对其他动物的击晕法的豁免是否一致等等?但我认为总的来说,这些担忧有点像人们对禁止章鱼养殖的担忧。由于各种原因,我们未能成功保护大型动物。我们未能成功保护像猪和鸡这样的动物。我们在这些案例中长期失败的事实,并不是不对这个案例采取任何行动的好理由。
所以我一直在呼吁这样做,然后在2022年,正如罗马在开头提到的那样,
我们取得了一些成功,因为我们对头足类软体动物和十足类甲壳类动物感知能力证据的综述立即产生了很大的影响。DEFRA修改了他们的动物福利感知法案。同样,这对REF管理员来说非常有帮助,他们对是谁让他们改变它毫不含糊。是我们。该法案发生了变化,现在它说,在本法案中,“动物”是指除智人以外的任何脊椎动物,任何头足类软体动物。
任何十足类甲壳类动物。同样,当然,还有未完成的工作。还有关于昆虫的未完成工作,我这次不会谈论,但YouTube上有关于这个案例的讨论。我经常谈论它,可以回答关于它的问题。但十足类动物的案例中也有未完成的工作。
因为我们的报告包含许多建议,它不仅仅是说修改这项法案。它说修改这项法案并修改其他英国动物福利立法,使其与新法案保持一致,我们认为这是一个非常明智的建议。政府没有采纳这一建议。因此,现在英国动物福利法中出现了一幅相当奇怪的景象。我说,我的意思是,表面上看,已经……
禁止将龙虾和螃蟹扔进沸水中的法律,因为我们所做的事情,因为感知法案是这样定义动物的,然后在杀死时的福利条例说,任何从事任何动物的约束、击晕或杀死的人,不得对该动物造成任何可避免的痛苦、痛苦或折磨,换句话说。它要求我目前正在呼吁的那些事情
律师不喜欢这种论点。因为它是一个哲学论点,是关于说,好吧,你知道,把这两段文字放在一起,然后使用逻辑。律师喜欢的是先例。
而且没有先例。没有任何测试案例成功地利用这两项立法来起诉某人犯下与螃蟹或龙虾相关的罪行。因此,法律状况尚不清楚。部长们或多或少只需动动笔,就可以通过说,好吧,毫无疑问,这些条例中的“动物”应与《动物福利感知法》相关联来引入清晰度。
这将澄清一切,并使其非常明确地成为非法行为。因此,这是我们仍在努力推动以真正试图阻止这种做法的许多变化之一,据我们所知,这种做法仍在某些地方继续进行,尽管围绕它的批评越来越多。所以我认为这些是感知边缘是一个持续的研究议程的具体案例。
事实上,这通常是正确的。我在书中讨论的任何案例中,我都不会解决所有问题,我已经解决了所有问题。相反,我有很多关于我们可以如何做得比现在更好的建议。在某种程度上,这是一个邀请,邀请你们所有人,以及许多不同领域的许多研究人员,以及公众,参与这些讨论。
即使您实际上并非神经科学或哲学方面的专家,您也觉得您在这些案例中任何重要的学科都没有专业知识,那么,实际上,您的价值观很重要。坚持这些价值观也很重要。我认为,当我们真正讨论与这些风险成比例的措施时,让公众参与进来,这样
对比例性的评估不是基于专家的想法,而是基于公众认为极其重要的因素。因此,实际上,没有人有理由不参与其中。每个人都应该参与其中。每个人都应该比我们目前更多地思考处于感知边缘的案例。非常感谢您的收听。谢谢大家。嗨,我打断一下这个活动,告诉你们另一个我们认为你们会喜欢的很棒的伦敦政治经济学院播客。
伦敦政治经济学院智库邀请社会科学家和其他专家回答一个有见地的难题,例如人们为什么相信阴谋论,或者我们能否负担得起超级富豪?来看看我们吧。只需在您收听播客的任何地方搜索伦敦政治经济学院智库即可。现在回到活动现场。所以现在是时候参与进来了。
不是参与研究,我想,至少要提出问题。所以现在开放提问。如果您想提问,请举手。谢谢,乔纳森。这真的很有趣。我想我的问题是关于您PARC测试中的一致性标准。在这些例子中,您在某种意义上驳斥了一致性测试,因为您说,看,
仅仅因为相关案例中现有的做法很糟糕,这并不意味着在这个案例中也要做一些糟糕的事情。那么,为什么还要保留这个标准呢,我想,基本上这就是问题所在。完全正确,是的。我的意思是,我反对的是对这一致性测试过于僵化或形式化的理解,这种理解不允许偏离先例。我有时担心在欧盟,你知道,欧盟通常非常强烈地支持预防原则方法,
但往往期望一致性意味着与先例和现有法律的一致性。我认为有些情况下可以证明偏离我们过去的做法是合理的。因此,这项测试的真正含义是,如果偏离先例,你能否证明其合理性?在这些案例中,我认为这显然是正确的。同样,在动物案例中,我认为重要的是
努力争取某种程度的分类学一致性,因为我们经常保护某些动物,而忽略其他具有同样有力证据的其他动物。我认为这其中有很多,尤其是在我们如何对待无脊椎动物以及我们保护哺乳动物 200 年但几乎没有保护章鱼方面,尽管事实上,我认为章鱼的证据与哺乳动物的证据相当。
因此,有时对一致性的呼吁实际上是呼吁不要仅仅因为你不太容易与它们产生共鸣而忽略分类单元。乔纳森,一如既往地引人入胜。对不起,我在这里。
这里是否有可能出现无限的风险倒退?您建议我们从 S 是有感知力的转变为 S 是有感知力的候选者。我们最终是否会从那里转移到存在 S 是有感知力候选者的风险,或者存在可能存在 S 是有感知力候选者的风险的担忧?我有点……
轻率,但要说明一点,我们在某个地方必须划清界限。是的,当然,我们必须从务实的角度划清界限。从某种意义上说,这就是这本书的主题。它是在说,你知道,证据并没有导致我们可以确定地划清界限。它给我们的是一幅混乱的、渐变的、证据性的画面。
尽管如此,各种务实的背景迫使我们划清界限。例如,当您起草一项创造义务的法案时,您必须说明该义务的范围。然后,在务实地划定这些界限时,必须设定一个标准,即何时忽略风险会变得鲁莽或疏忽,而不是我们何时确定。这是基本思想。
然后你会遇到证据肯定不存在的情况。一旦人们关注的对象超越螃蟹、龙虾和章鱼,就会出现很多这样的情况。例如,如果您考虑一下床单上的尘螨,情况并非如此
我们令人信服地排除了这些动物的有感知力。牡蛎或扇贝也是如此。与其说我们已经令人信服地排除了这些动物的有感知力,不如说没有人真正提出过这些问题,没有人研究过,几乎没有证据。对这些分类单元的证据审查将非常简短。它不会像章鱼、螃蟹和龙虾的 R1 那样长达一百页。在这些情况下,您没有足够的证据来进行比例性评估。
但有时您仍然可以看到相当严重的风险。在书中,我将此类别定义为一项调查优先事项,用于我们迫切需要更多证据的情况。我们目前没有足够的证据来启动这个设想的过程,来说明什么是或不是成比例的,但我们有充分的理由优先研究该主题。我想我把一些像蜗牛这样的动物也列入了这个类别,还有蜘蛛。
我还将人工智能也列入了这个类别。感谢您的精彩演讲。我想就人工智能向您提问,这可能有点推测性,但例如杰弗里·辛顿认为大型语言模型具有一定的形式
感知能力理性,因为他们在回答某种有限形式的理性时理解问题,并且鉴于一些哲学家提出了这样的论点,例如罗杰·斯克鲁顿认为理性是你应该在考虑权利问题时考虑的一个因素,你认为你在这种……
加速人工智能伦理光谱上的立场是什么?是的,我的意思是这本书是关于感知的,它也是关于这样一个想法,即如果你是有感知力的,如果你感到快乐或痛苦或其他一些积极或消极的效价感觉,那么就会出现痛苦的风险,而且这些风险很重要,
这基本上就是我通常看待道德问题的方式。因此,我并不是一个非常理性的人。我并不是那种认为理性实际上足以获得相关意义上的道德地位的人。我认为,如果我是这样的人,我可能会比现在更担心人工智能,因为可能某些形式的理性已经存在。而我认为我们目前没有理由认为
存在感知形式。但我们也不应该排除第二种情况。这就是我放在幻灯片上的报告的内容。这就是我最近与杰夫·基林和谷歌的其他人在做的工作。这就是我们的报告《认真对待人工智能福利》的内容。因此,即使你像我一样是一个广泛的感知论者,认为道德地位伴随着感知,你仍然无法排除人工智能在不久的将来拥有它。
谢谢,是的。后面的先生。嗨,乔纳森。精彩的演讲。我是来自孟买大学哲学系的吉尼思。我想举两个例子,我想听听你对此的评论。
因此,我们在印度是一个多元文化的社会,动物屠宰通常以两种方式进行,尤其是在印度。有一个 Jatka 概念,我认为这是动物的站立方式,同时还有一个概念,我认为是清真肉,在伊斯兰教中实行。是的。
我想得到一些反馈,例如每种哲学都有什么,不考虑动物遭受的痛苦。第二个例子是关于扎克伯格在 Meta 或 Facebook 上进行的实验。他所做的是
他拿了,他决定如果他想吃某种动物,他会自己杀死这种动物。因此,将这两个例子联系起来,我想知道从意识的角度来看,你是否考虑过让动物体验这种痛苦然后杀死它?或者,因为你正在杀死动物,所以
问题出现了,你是否想让动物在死前体验痛苦,因为这对动物来说也是一种体验,无论是痛苦还是痛苦好吧,谢谢。我想我们明白了这个问题。是的,有趣的问题。是的,我的意思是,我的意思是这本书非常关注我在演讲中描述的案例,所以
里面没有太多关于饮食选择、关于食物伦理的内容,但当然你问我的个人观点是完全公平的。而且,嗯,
你提出的一个案例是清真案例,在这个背景下经常被提及。我的意思是,穆斯林社区内部对这些问题存在分歧,有强烈的呼声认为清真完全符合可逆的昏迷类型。我认为英国大部分清真肉都使用某种形式的昏迷。当然,我的同情心在于,与穆斯林社区中的那一群人在一起。
当然。但在某种程度上,我觉得我在那场辩论中的干预不太可能产生影响。我只是,你知道,我可以站在场外,支持我认为在那方面是对的那一群人。然后你提出的关于杀戮的案例,好吧,我想如果你然后吃掉它们,用手杀死动物。我不知道这种饮食的名字是什么。笑声
对我来说,这实际上并没有改变道德状况。我不是那种人,就像我不是那种非常注重理性的人一样,我不太注重意图和动机之类的事情。我有点认为,如果你不人道地、不专业地杀死动物然后吃掉它,那么你已经达到某种男子汉的理想,这并不会从根本上改变伦理状况。
谢谢。我们有一个在线观众。我们现在转向在线观众提出的问题。米凯尔。因此,人们对人工智能案例有很多疑问,因为在实际演示中可能很少涉及到它。但鉴于您说当前模型不符合感知候选者的资格,
那么如何为他们的案例收集证据基础呢?对于生物生命来说,这看起来很清楚,除了观察表面行为之外,这种证据基础的构建还包括什么,正如这里的人所说的那样,我认为这意味着对提示的即时反应。
这是一个很好的问题。是的,感谢在线观众提出的这个问题。我认为,正如我所说,我们所有 19 位作者在该报告中都一致认为需要超越表面的语言行为。因为这些系统当然非常擅长描述人类的情感。
但这本身并不是他们拥有这些情感的证据。那么是什么呢?然后存在相当大的分歧,这是一个巨大的持续研究领域。我们一致同意我们可以寻找的一件事是我所说的深度计算标记,即
系统的架构方面,这些架构再现了至少一个可信理论与人脑中的感知联系起来的计算过程。例如,重建一个全局工作区或类似的东西。但是,您会面临这样一个问题,即当前系统非常不透明。我们无法真正了解它们的运作方式。因此,短期内这种方法似乎非常有限。
这导致了我与杰夫·基林和温妮·斯特里特以及我们在谷歌的团队一直在追求的第二个想法,那就是直接从动物实验中得出结论,说,好吧,让我们把这些系统稍微像动物一样对待,并将那些在这些案例中提供证据的动物行为实验(例如我在讲座中描述的章鱼实验)翻译过来,让我们将它们应用于人工智能案例。
这是一个非常困难的挑战,因为当然,这些实验的某些方面永远无法适应。但是您可以将人工智能置于某些类型的虚拟环境中,并在这些环境中研究其行为。对不起,我列了一个非常非常长的清单。如果我们没有回答所有问题,我很抱歉。
是的,感谢您的精彩演讲。我只是想问一下证据。所以我想问一下,检测或避免有害物质与疼痛体验之间联系的最佳证据或证据是什么?我不知道是否有进化证据或生化证据或其他什么。在判断感知候选者时,你会最重视哪种证据?
是的,我的意思是,我们寻找的证据类型取决于具体情况。例如,我们可以在类器官中寻找的证据类型与我们可以在其他动物中寻找的证据类型根本不同。事实上,我开始认为其他动物的案例在某种程度上是一个相对容易的案例,因为我们有很多不同的行为可以观察。2021 年的报告列出了八个关键指标,其中许多是行为指标,
我们总是在进行哲学家所说的最佳解释推论的领域。我们总是说,“好吧,这是行为的特征。”对此最好的解释是存在某种厌恶性体验,这种体验对这种动物的作用与疼痛对我们人类的作用相似。这就是条件位置偏好和位置回避等实验最终获得一些支持的背景,因为在……的情况下,在……的情况下,你会绝对看到这种偏好的逆转,当然这可以用有害刺激引起疼痛来解释,疼痛缓解,然后当我们在老鼠身上看到这种情况时,我们在那里也做出了同样的推论,我们也有基本相同的脑机制,而且
在章鱼中,我们有完全不同的脑机制,但我们仍然有行为模式。因此,这再次是一种最佳解释的推论。当然,它远不能提供确定性。我甚至会说它没有提供知识。你可以争论它是否提供了高概率。它并没有排除所有合理的怀疑,这是肯定的。但它足以使它们成为感知候选者。谢谢。你在前面。
谢谢,乔纳森。这真的很鼓舞人心。我可以多问你一些关于你的哲学方法论的问题吗?因此,在反思从外部进行哲学思考时,你可以称之为“由外向内”,对吧?你解决了一个问题……你称之为“由内向外”,但在某种意义上,它是从哲学之外提出的问题。你谈到了与标准哲学的一些区别。
我想知道你是否可以补充一点,这在哲学中很常见,尤其是在我们进行伦理学时,这是我们正在做的一部分,那就是专注于发展自己的论证思路。但是,当你试图诉诸某种共识时,你是否发现你必须以不同的方式进行论证?例如,你是否试图以重叠论证的形式来构建你的论证?
共识,也许也基于经验的理由。是的,我认为罗尔斯提出的重叠共识的概念对我的工作非常重要,因为我认为,对于我们对意识理论和不同伦理立场的所有分歧,关于当某些东西是有感知力时会发生什么,我们可以达成一些相当小的共识。我们可以就一系列现实的可能性达成一致,
那些在其支持下有一些证据的理论。我们可以就最低限度的义务达成一致,例如避免造成无端的痛苦的义务,无论一个人的伦理立场如何,都应该能够达成一致,尽管有些人会觉得我们的义务远远超出了这一点。然后我们可以提出一些管理风险的建议,这些建议是基于这些重叠共识点的。这就是目标。当然,一部分也是
非常务实的联盟建设。与其说,好吧,我认为这是进行这种哲学的唯一方法,不如说如果我们想实现真正的改变,这就是最好的方法。
谢谢。再次回到在线观众。这个人写道:“感谢您精彩的演讲。您如何预测动物伦理学和意识的未来发展,尤其是在难以重新定义人与动物关系、道德考虑和认知能力的传统观点的社会中?”哦,这是一个非常宽泛的问题。就像,我如何看待动物伦理学的未来?我的意思是,当然,我强烈支持
将重点扩展到动物伦理学辩论传统上关注的大型动物之外。因此,我认为指出对猪、鸡等的工厂化养殖造成的道德灾难是完全合适的。但我们不能只关注大型动物。我们还需要考虑鱼类,它们也被非常集约地养殖,这对它们的福利造成了巨大的损失。我们需要
认真对待这种可能性,即有感知力的世界可能非常非常大,包括许多无脊椎动物,包括我认为的昆虫。这是一件巨大的改变游戏规则的事情,因为一旦考虑到昆虫的证据,有感知力的候选动物的数量就会增加大约 20 倍。我认为这确实在很大程度上改变了伦理讨论,因为
我想某些伦理观点开始显得不太合理。例如,如果你想争论动物应该享有公民权或应该享有投票权,正如有些人可能对昆虫那样做,这将变得极其成问题。我认为它施加了一种约束。我们必须确保我们在这里提出的要求,我们的要求,
在应用于无脊椎动物和脊椎动物时都是现实的。我认为这是一种相当重要的理论约束,我认为动物伦理学家并不总是完全接受。我认为如果更认真地对待无脊椎动物,该领域的面貌将会大不相同。
谢谢。我只是想知道你对权衡感知或痛苦的努力有什么看法。你知道,有些人认为,即使蜜蜂某种程度上是有感知力的,一头牛也可能比蜜蜂更有感知力,我们应该在政策中考虑到这一点。是的,我一直对此持相当怀疑的态度。是的,我有一篇名为《动物意识的维度》的论文,是关于如何思考不同物种之间的差异的,我在论文中论证说,试图
对动物进行排名,你知道,意识程度更高或更低,这并没有什么用。牛比蜜蜂更有意识,等等,或者更有感知力。因为实际上你所拥有的在许多许多方面都存在差异,这些方面彼此之间是无法比拟的。
我们可以做的是谈论这些方面的差异,并试图构建这种动物感知形式的多维概况,然后你知道蜜蜂的感知形式可能与猪的感知形式非常非常不同,或者你知道老鼠与章鱼相比,将具有非常非常不同的感知形式,但我认为这不会导致
任何动物比其他任何动物更有感知力。从某种意义上说,这是一种大胆的说法,因为这意味着,好吧,我们没有明显的理由在我们做决策时忽略昆虫、虾、螃蟹或章鱼。没有明显的理由给大型动物一个乘数。这可能具有相当多的修正意义,但这就是我看待事物的方式。
谢谢。如果人工智能,如果动物感知法案在其立法机构中位于 DEFRA,那么您认为人工智能意识法案将在哪里设立其立法中心?司法部负责人的权利还是科学技术部?我只是想知道你对此有什么想法。这是一个好问题,不是吗?因为我认为社会根本没有为此做好准备。
我怀疑在不久的将来,我们将看到亚文化之间出现重大的社会分裂,在这些亚文化中,人们理所当然地认为他们的 AI 助手和伙伴是有感知力的,并且对暗示他们可能不是有感知力的说法感到非常反感,以及其他文化,我不知道哪种文化会更多,但是,你知道,另一种文化的一部分说,“这太荒谬了。我们可以随意使用它们。它们只是工具。”
事情可能会很快变得非常糟糕。在政策层面,我们对此完全没有准备。你指出了其中一个方面,那就是不清楚这甚至会归属于哪个政府部门。我们已经看到了一些事情,我们已经看到了旨在对人工智能主题进行跨部门合作的任务组,我们已经看到了研究所。
但正如你所说,如果问题是福利,这传统上更多的是 DEFRA 的问题,但它根本不在 DEFRA 的雷达上,这会放在哪里?不知道。我认为这突出了我们在拥有一个充分管理这些风险的框架方面还有多远。感谢您的演讲,并让我怀念学习哲学,这是我能给你的最高赞美。直接的问题是什么……
你希望公共政策结果的目标是什么?我提出这个问题的视角是,一方面,你谈到了基于章鱼、螃蟹和龙虾的研究证据,这是认识论上可靠的。另一方面,我们谈论公民大会,正如你所说,它将由非专家组成,这可能不会具有那么强的认识论可靠性。
是的,好吧,我的意思是,这正是机构设计的核心挑战之一,在某种程度上必须分工,因为你不能要求公众来裁决科学争端。你需要专家小组来对感知候选资格做出判断。我认为这是现实的。但是,你不想的是,你不想让专家来裁决比例性问题。
因为那样你就会让专家的价值观来决定所有人的政策。因此,我们需要公民大会来提供对评价性问题的意见,这些问题是关于允许性、充分性、合理必要性和一致性的问题。当然,专家在这个过程中仍然发挥着作用,例如,就哪些方案提供了哪些风险降低水平以及就一致性问题提供建议。
但我们不能让专家价值观专制,让专家来制定政策。我们需要某种民主机制。我认为公民大会是处理此类问题的绝佳民主机制。乔纳森,非常有趣的演讲。谢谢。我想知道,在围绕这个问题的文献中,有时你会看到一个论点。我认为这可能是一个有争议的论点。……的影响
至少在某些类型的非人类动物中遭受痛苦实际上在某种意义上更糟糕,正是因为它们缺乏可能在某种程度上减轻这种痛苦的更复杂的有意状态。我想知道你是否根据你的……对这种观点给予了任何信任。哦,我确实对这种观点给予了一些信任,是的。我认为这两种情况都有可能发生,这就是问题所在。当我们考虑虾或蜜蜂时,例如
很自然地认为它不可能像我们一样遭受如此强烈的痛苦,因为它缺乏所有这些智慧和自我等等,我认为我们的认知复杂性确实带来了新的痛苦方式,例如我们可以害怕未来,我们可以对自己的死亡感到焦虑等等,虾可能没有这种感觉,但是
另一方面,这种智慧也带来了管理痛苦的方式。它带来了希望,现在会遭受痛苦,但未来会更好,这是一种虾很可能没有的东西。因此,在我看来,这两种情况都有可能发生。因此,我真正呼吁的是对所有这些问题,包括这个问题,都要保持谦逊。现在让我们不要陷入这样的境地,即我们基于这样的假设来做出决定,
我们的痛苦比其他动物的痛苦要糟糕得多。
谢谢。我们还有很多问题没有解决,但时间不够了。不幸的是,所以如果你没有机会提问,我非常抱歉,但我相信你可以在外面继续与乔纳森讨论。你也可以得到这本书的副本。也许你会在书中找到你问题的答案。而且你让乔纳森签了名。我想我们剩下的事情就是再次感谢乔纳森精彩的演讲。谢谢。
感谢您的收听。您可以在您最喜欢的播客应用程序上订阅伦敦政治经济学院活动播客,并通过留下评论来帮助其他听众发现我们。访问 lse.ac.uk/events 了解接下来有什么活动。我们希望您很快能再次加入伦敦政治经济学院的活动。