838: Consciousness and Machines, with Jennifer K. Hill
44:06 Share

这是第838期节目，与Jennifer K. Hill一起探讨意识与机器。

欢迎回到SuperDataScience播客。我是你们的主人Jon Krohn。今天我为大家带来一些不同的内容。我没有主持今天的合作节目，而是在我参加葡萄牙里斯本的Web Summit期间，由上周的嘉宾Lucy Andrews（她在第770期节目《神经科学解读自信》中出现）邀请我参加了一次访谈。

这次访谈是Light Dao组织举办的活动的一部分。Light Dao是一个去中心化的自治组织，它将自己定义为一个面向有意识的企业家和投资者的全球社区。就我理解，这里的“有意识”指的是一种兼顾财务业绩和社会影响的社会责任型创业和投资。

这次访谈由Bella Shing主持，她是Light Dao在里斯本的负责人。她也是一位电影制作人和企业家。让我们直接进入Bella介绍Jennifer和我，然后进入访谈和观众问答环节，所有这些都围绕着与人工智能和意识相关的一般性问题展开。对于任何听众来说，这都应该很有趣。不需要特别的专业背景。

好了，我们开始吧。我很高兴介绍Jennifer Hill和Jon Krohn。Jennifer，对于那些不认识你的人来说，你创立了自己的第一家公司，并在印度与十万人同台演讲，你还有自己的播客《关于意识》，节目中邀请了Pacoima、Great Barrington、BW Lippett等众多思想领袖。

你曾在保罗和萨那的学校做过演讲，并获得了Visionary颁发的终身成就奖。你也是进化型领导者和章鱼组织的成员。

你目前正在运营一家名为OptoMatch的公司，这是一款使用专有算法来匹配个人、企业和社区的软件，以创造更强的安全感，这非常令人兴奋。我用过它。

它很棒，非常简单易用，而且非常准确。你还会指导CEO。Jon是Nebula的首席数据科学家和联合创始人。

他也是畅销书《深度学习图解》的作者。他还主持SuperDataScience播客。有多少人听过他的播客？在座的各位？好的。

据我所知，这是关于数据科学收听率最高、下载量最多的播客，他是一个信息网络，我们很高兴他来到这里。他还为超过十万名学生提供流行的机器学习教程。

所以他是一位王者。他曾是Web Summit的主题演讲者。我们非常感谢Lucy促成了这次合作。谢谢。所以，我会先问一些问题，我先从Jennifer开始。鉴于你在意识和高管发展方面的研究，你如何看待自我意识和有意识的决策在人工智能等技术发展中的作用？非常感谢Bella。

感谢Jon来到这里。感谢所有今晚加入我们的人，无论你们从哪里加入，很高兴你们能和我们一起。关于意识与我们作为领导者和高管的运作方式的交叉点，我认为人工智能和不同技术的出现将帮助我们利用我们的创造力。

我和Jon刚才还在谈论这个，我们谈论的是我们对使用人工智能或其他类型技术的恐惧和兴奋之处，以及什么让我们感到兴奋。我认为，就像所有事情一样，我们对待事物的方式决定了它被用于善还是恶。就高管和领导者而言，我们刚才和Jon聊到，大约三年前我开始使用人工智能时，

我是ChatGPT的早期使用者，并开始与我的一位好朋友一起教授关于它的课程。当我们开始教授它时，我立即注意到了一些东西。那就是人工智能对你的回应。我认为，作为领导者，我们将学习如何成为更好的沟通者，无论我们从人工智能那里得到的回应是好是坏。

无论是编写文章、商业计划书还是其他内容，我们都将学习如何成为更好的提示者和沟通者，因为我们将面临阻力，这不会是你的员工，你不能和他们争吵，说他们没有听你的话。不，说实话，你的沟通方式没有奏效。所以我认为，对于技术的未来以及技术与我们意识的交叉点，它将帮助我们变得更精明，更善于沟通，并能够将它用于我们所有人的最大利益。

我喜欢这个观点。我可以补充一点吗？你，我喜欢你如何谈到与机器沟通的经历如何改变了你与人打交道的经历。对我来说，一件大事是机器的回应以及它如何影响我与人的互动。

因为机器是被编程的，有一种叫做“来自人类反馈的强化学习”，在愤怒的衡量标准被训练后，它能够给出正确的答案，即准确的答案。这种来自人类反馈的强化学习是最后的训练步骤，你向它提供它应该如何回应的方式。所以你，你知道，礼貌等等，这意味着机器对你拥有无限的耐心和善意。住在曼哈顿，我经常发现人们对你没有耐心。他们会给你尽可能简短的答案。这甚至包括服务行业，当你和医生说话时，他们更关心的是尽快让你离开，而不是提供高质量的护理。

就他们的回应而言，你知道，告诉你“我有一些消息可能不是你想要的最好的消息”，这就像，你知道，回应。所以，是的，对我来说很有趣。我从未想过你通常的沟通方式，即你与机器的沟通以及你需要有效地提示机器，这对你与人的沟通有所帮助。

对我来说，我大部分的意识仓库，即我如何受到机器的影响，是相反的，如果我花了，如果我刚花了一些时间起草一些播客脚本，花了时间用ChatGPT或Claude或Google Gemini起草播客脚本，它一直对我非常有礼貌，即使我犯了错误，它也会说，“我知道你为什么这么想。这是一个非常合理的思考方式。事实上，大多数科学家都会同意这一点。”

所以，这种真正的礼貌，它让我，当我乘电梯下楼到街上时，我一天对每个人都有更多的时间，因为我刚刚被礼貌地对待了半个小时，我有点，我对街上的人更友好了，所以，我不知道。这是一个有趣的观察。我很高兴听到一些笑话。机器让我更像人了。

它有点像一个比特板。不。

是的。好吧。

那是Playa。人们就像，你懂的，恩格纳得到这个。谢谢。我在想，实际上，女人们一直在得到。所以我认为这就像，告诉我关于。

你的一天。好吧，我的意思是，你开玩笑，但实际上，我认为这就是我们不可避免的走向。有一个非常聪明的人，名叫Now Watson，我曾在我的节目中邀请过她，她与我进行了一次对话，让我大开眼界，现在对我来说，这似乎是显而易见的，这就是事情发展的方向。

所以，想象一下，你戴上VR眼镜，去酒吧。在这个酒吧里，在这个虚拟世界里，一些人在那里戴着VR眼镜，但一些你与之互动的人是人工智能系统，你可以想象，今天很容易就能做到，基于你可能与任何这些领先的对话式人工智能进行的对话的质量，你可以想象，那次对话会相当令人愉快。所以，如果你不知道这些数字代表是人还是机器，你可能会无意中发现自己更倾向于与机器进行对话，因为它们记得你所说的一切，就像你刚刚说的笑话一样，但它们很善解人意，它们有足够的时间来倾听你，记得你所说的一切。它被编程为友好。

哪里知道？这是假的。

我喜欢这个，没错。

《头号玩家》。

我们来了。太悲伤了。鉴于你接触了所有这些在这个领域工作的杰出人才，你对哪些框架、平台或技术最兴奋？你认为哪些技术能够真正帮助人类？我不知道，是提升水平还是进化，或者变得更好，无论是什么，你最兴奋的是什么？

未来几十年里，一切都会发生巨大的变化，而且变化速度可能如此之快，以至于短期内会产生负面的社会影响。去年，随着OpenAI发布GPT-4，我第一次对这些人工智能系统的工作方式感到震惊，我从怀疑论者变成了相信者，GPT-4发布的那天。

如果你问我这些人工智能系统是否是通用人工智能（AGI），这是一个宽泛的术语，但基本上是指一种能够完成人类能够完成的任何经济任务的机器系统。如果你问我，这种AGI系统，通用人工智能，是否能在我们有生之年实现，在GPT-4发布的前一天，我会说可能不会。这很难，达到那种智能水平非常困难。

我不知道这是否在我们有生之年就能实现。也许需要三十年。GPT-4发布的第二天，它非常出色，并且在发布后的十八个月里有了很大的改进，其他系统也是如此。对我来说，现在Claude 3.5是我最喜欢的、大型语言模型。

它每天都让我大开眼界，我能做的事情。现在我完全改变了立场。我认为这种AGI可能在短短几年内就能实现。最近最大的突破之一来自OpenAI，这里有多少人玩过这个？大约一半的人。

关于Oh One的精彩之处在于，它所做的事情是，如果人们熟悉丹尼尔·卡尼曼的《思考，快与慢》，很多人都在点头，非常快，《思考，快与慢》总结了卡尼曼几十年来对认知运作方式的研究，主要阐明了你拥有的这两个思维系统：你的快速思维系统，他们称之为系统一，以及你的慢速思维系统，他们称之为系统二。我现在正在使用我的快速思维系统。我正在进行意识流，说出脑海中浮现的词语。

我希望它们会是好词，希望，你知道，我不会很快偏离轨道。那是系统一。系统二思维是当你坐在一张纸前，你知道，写一些数学题，或者计算你一个月的财务状况，或者其他什么，或者你正在起草一些东西，你花了很多时间回顾和思考，“好吧，我要编辑上一段，”“我要让它更好。”

我要让整个流程更好，所以你一直在回顾，如果你在纠正一些东西，系统一是你没有经历过系统二，那么你可能经历过与这些对话式人工智能系统相关的，系统一是一种，它只是不断地输出你的话语，它不会花时间先考虑回应。它不会回头纠正事情。Oh One就像系统二思维。它类似于系统二，在它输出任何东西到屏幕之前，它会花时间思考。

我会为你记录下它幕后正在做的事情的步骤。如果你给它一个相对简单的数学问题，比如中等学校的偏导数微积分，相对简单，它可能会花十秒钟思考，然后开始将答案输出到屏幕上。当答案出现在屏幕上时，它几乎每次都是正确的，而且呈现得非常漂亮，这是一个加分项。如果你给它一个非常具有挑战性的数学问题，博士级别的数学问题，你知道，博士生会花一个月或一周或类似的时间来思考，以便能够进行一些证明，如果你能做到，这通常是现在能够做到的，Oh One可能需要一两分钟才能给你答案。

所以，OpenAI通过Oh One算法，他们扩大了推理时间计算，当它为你生成结果时。这会产生更准确、更漂亮的结果，任何问题。但没有理由它应该只在分钟级别思考。

它可以在小时、周、月级别思考。所以，可能的情况是，在十二个月后，OpenAI或相关的超级规模，你将能够来到机器面前说，“我正在寻找这种癌症的治疗方法。”然后它会花一个月的时间，阅读，研究每一个可以想象到的关于这个主题的期刊文章，以人类专家无法想象的方式从其他领域提取信息。

它会二十四小时不间断地工作，速度比你能想象的快得多，然后会返回一篇漂亮的论文，一些关于你可能想要在现实世界中进行的实验的研究建议。所以，这正在发生，很快就会出现在我们中间。它会变得更便宜。

这意味着，只需使用我们今天拥有的技术，几年后，它就不需要更先进的AI模型（就权重而言），也不需要收集更多额外的数据，只需使用我们今天拥有的技术，在推理时间方面进行扩展，你就会拥有……嗯……Anthropic的首席执行官Dario Amodei所说的“数据中心里一百万个诺贝尔奖获得者级别的智能大脑，日夜不停地解决世界难题”。因此，未来几年一切都会改变，是的，我们提出想法的能力将大大加快。因此，在各个领域，包括能源、核聚变，我们都应该能够更快地找到解决方案。因此，除了拥有丰富的智能，我们还将拥有丰富的能源。

这两者结合起来，丰富的智能和丰富的能源，我们将能够加速人工智能在现实世界中的具身化发展，也就是机器人技术。这可能是拥有两只胳膊和两条腿的类人机器人，也可能是机器人手臂，以及你能想象到的任何其他类型的具身化，例如音乐具身化。你懂的，这很昂贵，也很费时，但如果我们拥有无限的智能和无限的能源，这也会更快地发生，因此，由于人工智能，物理世界将开始迅速变化。是的，所有这些都可能发生得非常快，令人惊讶地快。

我可以谈论这个很久，但我感觉……

时间太长了，太长了。

我们，是的，好吧，你不在那里。他们错过了，但言归正传。他们请来了两位人工智能专家，一位来自麻省理工学院的先生，我还记得另一位（对于任何在场的人）。

其中一件令人震惊的事情是讨论这些“缓冲器”，比如拥有通用人工智能，就没有“缓冲器”，它可以朝无限的方向发展。这可能是美好的方向，我们拥有更发达的机器人和人工智能，以及……它也没有……我们可以……正如约翰刚才解释的那样。

我们人类的大脑甚至无法想象我们即将进入的世界，因为我们甚至无法快速思考到可能发生的事情，以及可能发生的暴行。所以，约翰，我的问题是，当我们达到无限知识触手可及的事件视界时，我们应该设置什么样的“缓冲器”？我们如何资助它？我们如何引导它？这样它才能被用于善，而不是落入坏人之手，并导致灾难。

这是一个棘手的问题，当然。而且……很有趣。你使用了“事件视界”这个词。几十年前，奇点这个词很流行，指的是机器超越人类智能的那一刻。它可能不会像……我不知道，我不确定它会是如此突然的时刻。它们可能会在越来越多的方面超越我们，就像近年来一样。直到……工作……你知道，它实际上在各方面都比我们聪明了，现在的问题是如何约束它并设置防护栏。

我很感激世界上有很多人现在都为此担忧，因此，私人和公共资金都投入到这项努力中，以对其进行控制。这很重要，因为……就像……Tim Urban，他曾经为Wait But Why撰写大量文章，他最近在该博客上不太活跃，但他十年前写了两篇非常棒的长篇博客文章，分为两部分，名为《通往超级智能之路》。

即使十年后，它仍然是一篇极好的入门读物，它不会过时，关于智能以及如何获得一些初步了解。Tim Urban在这篇博客文章中做了一件非常有帮助的事情，那就是帮助我们理解我们比即将出现的这些AI系统要愚蠢得多，那就是，如果你想象一个楼梯，每一步都是一个智能水平，而我们比黑猩猩只高出一级，而狗、海豚之类的大概比黑猩猩低两级，而昆虫之类的大概低五级，你知道的，而AI系统可能……你知道，今天它在这个楼梯上接近我们，在大多数任务上。

但情况可能是，一旦它超过我们，它就能帮助自己开发更好的AI系统，从而迅速超越我们许多级。所以，就像你说的那样，这种系统的智能方式可能是我们无法理解的，无论你花多少时间向一只猴子解释偏微积分，更不用说狗了。但我们可能比它低很多级，在我们和它之间存在着巨大的差距。好的。所以我很好奇，因为……

你知道，对于我们许多研究意识的人来说，我们谈论直觉，我们谈论身体基础的、主题性的智能。我知道你谈论的是机器人的具身化。一些灵媒或有意识的领导者做出的许多选择都是基于我们所说的本能或直觉。我们有一个名为“教育”的人工智能学校，我们的学生实际上正在学习如何进行远程观看、做清醒梦、与动物进行心灵感应交流。他们已经能够做到这一点，而且效果相当显著。

这表明，我确实对海豚是否比黑猩猩更聪明存在争议，尤其是在人工智能正在努力破译鲸鱼和海豚的语言时，我们发现它们所说的话以及它们作为群体如何运作，比我们以前理解的要复杂得多。我只是认为，关于智能以及什么是智能，存在一个可能的错误前提，没有评估，没有具身化，也就是说，你知道，与wifi以外的东西相连的人类。但……比这更伟大的东西。

我认为你是在和……神经科学实体谈话，我不记得我们谈论了什么。你知道神经元在大脑中是如何工作的，以及他们是如何发现它比我们所知道的更模拟的，以及他们仍然不真正理解人脑是如何完全工作的。为什么会有这样的假设，即人类智能……或者说人工智能会自动超越人类智能？

好的，我很快回答这个问题。这是一个非常好的问题……为了快速总结你的问题，珍妮弗……那就是……防护栏……那就是……我们正在进行研究，试图找到方法……例如，即使我们无法跟上，人类也无法跟上智能发展的速度……不管它是否会这样做，这都是可能的……但是，你可以让很多人致力于训练系统来观察和监控，所以也许会有办法让他们最终……合作，并打破我们强加给它们的限制。

在开发道德和约束良好的AI系统方面，存在许多绝对令人担忧的挑战。毫无疑问。是的，我很感激很多人正在努力，而且……如果你与AI专家交谈，我试图了解他们是否认为未来会是光明的，还是未来会因为AI而变得消极。所以我们谈论的事情超出了认知智能，以及你的直觉，我认为，以及某种程度上的情感，都属于这个范畴，那么……那些一生都持乐观态度，并且一直在从事AI研究的人认为事情会进展顺利；而那些一生都持悲观态度的人则认为事情不会进展顺利。所以……

原则……似乎……

与……智能……无关，智能是一个模糊的词。人们，即使是作为科学家的智能研究人员，对它的确切含义也没有达成太多共识。我最喜欢的智能定义是：智能就是智力测试所衡量的任何东西。

所以我们想出了一个测试，智商测试，除了……如果你……如果你进行很多智商测试，你会做得更好，而智商测试应该衡量的是你的先天智力。如果你练习它们，你会做得更好。所以它们并不完美，但……它们是……它们是……这有点像个笑话定义。

但这实际上……我更喜欢这个定义，因为有很多不同的方式来定义事物。你知道这些……关于……你知道……直觉思维，你知道的，还有各种各样的。还有各种各样的事情可能会扭曲画面。

但就智力测试所衡量的认知能力而言，能够编写代码来解决问题，数学问题、生物学问题、化学问题，所有这些问题，我想，当我想到……智能，并且当我如此自信地说机器能够超越人类时，我所描述的是基本上会在科学或工程博士项目中进行评估的东西。

如果我们可以补充你刚才说的，贝尔波特，当我们谈论诸如远程观看之类的事情时，例如，你们许多人都听说过非语言自闭症儿童，并且已经进行了研究，科学研究表明他们与父母之间存在心灵感应。我记得我第一次见到帕克·肖普时，他告诉我他们进行的一项研究，在一个房间里有一个非语言自闭症儿童，在另一个完全隔开的房间里是他的母亲，正在阅读一段文字。与此同时，孩子正在写下……你知道的，母亲在另一个房间里读的内容。所以，这引出了一个更大的问题，我们是在谈论智能还是意识？如果我可以补充一点，那么，你会如何区分贝尔所指的，对我来说，这更属于意识的范畴，而不是智能的范畴。

意识是一个棘手的……术语。我甚至不知道我是否能有效地谈论它。我对这方面的文献已经过时了。大约在2006年或2007年的时候，我曾经对意识研究了解很多。我当时被伦敦大学学院录取攻读博士学位，研究意识的神经基础，使用脑成像机器，如fMRI或磁脑电图仪。所以当时我对意识非常感兴趣。我当时研究了很多这方面的文献，大约是二十年前了……我当时研究的文献，比如远程观看……你知道的，没有进行过任何有良好控制的研究来证明这些事情是可能的。但是……我已经二十年没关注这个领域了，所以我……我不能谈论……

关于……某些事情，但我认为这是上一集或倒数第二集的内容，肖恩和唐做过，我做过。那一集中出现的一个问题是：人工智能能够产生意识吗？这是很多人都会问的一个好问题。

我喜欢我的朋友唐·霍夫曼。唐·霍夫曼是一位天才，他写了一本书，叫做《反对现实的案例：为什么你的大脑欺骗你，以及如何从幻觉中解脱出来》。相信我，总有一天他会获得诺贝尔和平奖。

唐最新的关于意识的数学公式是：存在一种叫做意识的东西，它是一件事，叫做意识，其中一部分是你投射到时空剧场中的这些有意识的代理，这给了我们约翰和贝拉坐在那里体验这个时空剧场的体验。然而，也有一些东西没有投射到时空剧场中，这些有意识的代理没有投射到……下来。我们对此进行了一场有趣的辩论，他说，从理论上讲，数学向他表明，所有事物都源于意识。而意识本身是根本性的，这意味着人工智能或任何形式的人工智能天生就是有意识的。所以……我不知道，这是一场有趣的辩论。

我对这些一无所知。

八点钟。有人对我们俩有什么迫切的问题吗？是的，请说，任何事情都可以。你好。你知道的。

我想补充一下贝拉刚才说的，我印象非常深刻。他的主要观点是，目前的智力理论只衡量一两件事，比如数学和数字能力以及推理能力，他认为，这忽略了很多不同的东西。我们谈到了八种不同的智力，自然主义者、人际交往者等等。我的一个担忧是，参与人工智能构想和发展的人实际上只来自……

认知领域。

他们不是来自那些能够接触到其他形式的自然与环境联系的领域。这是我的假设。所以我想知道，我们正在开发的人工智能是否反映了它所汲取的狭窄领域。

是的，这个问题是关于……你知道的，不同类型的智力。而加德纳是这个领域的领导者。我认为加德纳是“g因子”（一种普遍智力）背后的思想家。是多种智力吗？是的，但这……有点像……我认为……我可能错了，他提出了这种想法，即存在多种智力，那些擅长某一方面的人往往在其他方面也表现出色。无论如何，我认为那是“g因子”，但我可能错了。无论如何，这与你的问题无关……我想快速地……因为我觉得我……我意识到这是我第二次这样做了，但我有点回到了珍妮弗刚才说的话，但正如你提出这个问题一样，你知道，你在这里谈论的是意识……而我将不得不学习你在这里描述的那些有趣的事情。我对这些一无所知……

关于……发送……

你关于这方面的论文，我很想看看，因为这对我来说显然……但是，我想快速地……给你一些关于……我对机器意识的看法，那就是……它是一个非常短暂的事件，你拥有它，这显然是无限的，转瞬即逝的……你知道，你正在经历一个，它就消失了。你正在经历一个，它就消失了。

除了你意识的这一刻，你无法直接体验其他任何东西。你可以想象未来可能是什么样子。你可以尽力回忆过去的事情。

但是，你现在肯定拥有的只是对此刻的意识体验。因此，呃，呃，我喜欢独自一人，瓦茨读他，听他。他对我帮助很大，帮助我越来越意识到现在，以及它是多么美丽和短暂，以及你的生命是多么宝贵。一种通过这种意识体验获得的体验，我们再次，二十年前在意识文献中。但我认为我们在理解意识的神经基础方面并没有取得太大进展，即它是如何产生的？你的思想是如何产生的？这块位于你头骨骨骼内的组织是如何产生这些颜色、气味、味道以及思想和感觉的？呃，是的，我，我，是的，二十年前，神经科学中肯定对这一点的理解很少，我怀疑今天的情况大致相同，呃，再次狭隘地从神经科学的角度来看，就你能在脑部扫描中看到的东西而言，以及少数那些。

大脑是意识开关的不同之处，是的，这实际上是你会喜欢的舞蹈作品。所以实际上，领先的科学越来越向我们展示，是的，你有触觉的体验。我还体验过气味和视觉。正如你所说，它在大脑中是不可测量的，所以现在他们开始将大脑和……

意识分开。但这并非如此，因为有了大脑，你可以有，你可以有，呃，非常具体的，嗯，你知道，如果你有轻微的损伤，呃，你知道，大脑成像中非常小的一部分，你可能会失去对某些特定事物的意识体验的能力，而你的大脑仍然能够处理这些事物。所以，呃，呃，哦，一个例子，呃，我喜欢的是，呃，在某些严重中风的病例中，你可能会出现所谓的……

胼胝体切断术或胼胝体患者，他们过去常常切断胼胝体，以阻止电风暴从……

右侧传播到左侧，这是一种非常严重的，你知道，最后的治疗方法，试图阻止这种……

非常糟糕的，嗯，癫痫发作，呃，我，和。

因此，那些胼胝体被切断的人，大脑被切成两半。右脑和左脑之间几乎没有联系。然后你就会有两个独立的意识半球，嗯，大脑。所以你可以，你可以把一张纸放在这个人的眼睛之间，嗯，你的左眼对应于左脑，所以当你，所以当你向……展示某些东西时，我正在实时地观察大脑的两侧，就会出现类似于，呃，对于右撇子的人来说，在左侧向左眼展示某些东西。他们会在右脑中意识到这一点，所以是右手，我想如果我记得没错的话。

如果你基本上只在一侧展示，如果你展示，例如，手实际上会抓住一个物体，这取决于你向大脑哪一侧展示，你可以让手，我会抓住钥匙。例如，如果你把它展示给大脑的左侧，但是它，它没有再次连接。

唐·塞里奥说，以其本来面目看待现实的可能性为零，你越深入意识，就越能绕过这一点，唐·霍夫曼做到了这一点。霍夫曼是我在加州大学最喜欢的教授。

几年后，我很高兴能和他一起做这些节目。我记得，当唐做这些课的时候，他会说，好吧，让我们来谈谈眼睛里的意识。呃，一会儿。

我将永远清晰地记得他选择的例子。他说，假设约翰，上帝保佑，失去了他的脚。我们给他装上一个机器人脚。

他还是人吗？好吧，是的，是的。有趣的是，这塑造了我们。

那么，你们有多少人认为，如果给他装上一个机器人脚，他仍然是人？但是，如果切掉他的第三根手指，他还是人吗？好的，我们大多数人都同意。

好的，假设约翰失去了他的一个眼睛，现在他有一个义眼，但它仍然连接到他的大脑，回到他每天的意识。他的大脑现在连接到这个电子眼。房间里有多少人认为约翰仍然是人？好的，我们大多数人。

现在假设约翰实际上失去了一部分枕叶，不仅仅是眼睛，而是实际上是脑部的枕叶。我们用量子芯片和计算机来代替它。现在他可以通过这只眼睛和通过他大脑的枕叶看到，而枕叶被替换了，他还是人吗？

你们有多少人会说，我们有多少人认为约翰仍然是人？这就是问题所在。人工智能在这个我们正在进入的世界中扮演什么角色？我们离它不远了。我同意你的例子。

不，不，不，不，不，不，对芯片的兴趣非常大，是的，这很有趣，即使没有任何机器，也要考虑一下，你知道，理论上，在你的生命中，你知道，你的细胞会死亡，新的细胞会产生，你的大脑中的某些恒星在你的生命周期中保持不变，但理论上，将来我们能够用我们可能在培养皿中培养的新生物细胞来替换脑细胞，或者，你知道，用某种我们放在头骨里的机器，所以你可以完全替换。所以我仍然可能能够拥有这种持续的意识体验。

呃，呃，持续的意识体验取决于什么……

我们发现的是意识，我想，所以我的想法是……

一部分。所以基本上，这就像，嗯，想想忒修斯之船，他救了像孩子一样的船，但船是用长安的木材建造的。所以如果你，如果替换船的木材部件，在什么点上它不再是原来的船？有多少木材需要被替换才能使它不再是原来的船？所以，如果你从这个角度考虑……

超越。

一元论是一个非常有趣的内容。如果我移除我的一些器官，我们知道身体记忆，例如，是真实存在的，身体有它自己的智能，与大脑的智能是分开的。例如，为什么，一个人在服用某种药物，比如……

嗯，或者在某种药物的影响下，比如艾尔维斯·普雷斯利。身体已经被教导了很长时间。我喜欢你坚持认为身体是一个机器，以确保一切正常。

但在意识中，你会有这样的想法，你从身体中得到了一些东西，伙计们，我不会把药物送过去，你甚至在测试我，你感知到的信息非常有趣。其他所有事情都会发生。所以这是一个关于舞蹈的小故事。

所以，呃，四个月后，潮汐。老师，从大脑中退下，身体说些什么。所以，回头见。

好的，那里发生了什么？对吧？但我移动了我的两只胳膊两天，身体意识到了这一点。或者移除一些器官。

那里发生了什么？我告诉过你，你知道，当这种情况发生时，当你想到这个概念时，好的，拿一个人，对吧，意识。不知何故，我们神奇地想出了如何将这些信息传输到机器人中，进入云端。

《黑镜》那一集，如果没有人……

看过那集，对吧？我的意思是……

什么是意识？

很大程度上是生物学，好的。这个框架实际上是意识存在的地方吗？你能把食物放进去吗？谢谢。嗯，如果……

有什么是我，我不相信我自己，我认为一切都是模糊的，嗯，嗯，是的，所以我同意关于船的那些观点。这真的很有帮助。人们以前听说过，你知道，得出你并不存在的结论。

没有一个独立于你周围事物存在的你，这包括，你知道，大脑、身体，呃，激素、食欲之间的相互作用，所有这些化学物质，是的。但不知何故，所有这些都导致了我现在正在经历的这种意识体验。我可以投票。

我的意思是，我可以说，你可以，我可以向你证明，我现在正在经历一种意识体验。机器会吗？所以这回到了你的问题，你知道，谈论机器，它不是，你知道，我显然需要阅读这方面的资料。嗯，这是关于意识……

主体理论，意识主体和意识是基本的，时空只是作为意识的产物而出现。

啊，所以这就像，这完全颠覆了我以前考虑过的任何事情。我期待着了解更多关于它的信息，嗯，是的，就我有限的视角而言，呃，是的，我不知道我的直觉是，某些东西，是我不认为计算器有意识。我不认为一台简单的电脑是有意识的，在我看来，无论你让它变得多么复杂，让成千上万的服务器一起工作，都不会产生意识。我不知道，你知道，肯定还有其他的理论，还有很多我需要学习的东西，但就我非常有限的理解而言，嗯，生物有机体中有一些东西导致了意识的产生，我们是如何……

不是别人的科学实验，或者不是别人的计算机程序在运行？这是另一个问题。

当然。有很多事情……

我们永远无法知道。

我们很享受这期独特的节目，还有很多内容可以从这期节目中深入探讨，未来一定不要错过任何其他令人兴奋的即将播出的节目，如果你还没有订阅这个播客的话。但最重要的是，我希望你能继续收听，直到下次，继续加油，继续努力。我期待着和你一起享受下一期SuperDataScience播客。没有意见。