We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode Episode 11: The Turing Principle and Artificial General Intelligence

Episode 11: The Turing Principle and Artificial General Intelligence

2020/12/27
logo of podcast The Theory of Anything

The Theory of Anything

AI Deep Dive AI Chapters Transcript
People
B
Bruce
C
Cameo
Topics
Bruce: 本集探讨了图灵原理及其在人工通用智能(AGI)中的意义。图灵原理认为物理现实中的所有事物都可以在图灵机上计算,这意味着任何物理上可能存在的物体所能执行的任何计算,都可以在一种抽象的通用计算机上模拟。这一原理是许多科学理论的基础,包括量子力学。虽然量子计算机可以比图灵机更快地执行某些计算,但这并不意味着它能执行图灵机无法执行的计算。Penrose 认为图灵原理不成立,AGI不可能实现,但他的一些论点基于对量子力学的错误理解。即使发现新的物理现象允许非计算操作,这也不会完全否定图灵原理,只会导致构建新的计算机和新的丘奇-图灵论题。 Bruce 认为,科学研究的本质是寻找规律和数学描述,而这与可计算性密切相关。如果发现某种现象无法用数学描述,将对科学产生重大影响。即使是达尔文的自然选择理论,其本质上也是算法化的。Bruce 认为,即使意识的某些方面不可计算,这也不会推翻整个科学体系。他认为,人类的普遍智能是一个简单的算法,一旦发现它就会变得显而易见。AGI 的研究重点是理解人类大脑中产生思维的算法,而机器学习虽然不是 AGI,但可以帮助理解可计算性。 Cameo: Cameo 主要与 Bruce 讨论了宗教信仰与科学理论(特别是图灵原理和 AGI)之间的关系。Cameo 指出,虽然过去一些宗教团体对达尔文进化论持反对态度,但如今,特别是年轻一代,对科学理论的接受度越来越高。Cameo 认为,即使在宗教人士中,对 AGI 的接受度也很高,很少有人会单纯地基于宗教信仰而否定 AGI 的可能性。Cameo 还探讨了人们对意识的理解,以及宗教信仰与科学解释之间的复杂关系。

Deep Dive

Chapters
The episode discusses the possibility of achieving Artificial General Intelligence (AGI) through the Turing Principle, which asserts that all computational processes are simulatable on a Turing machine.

Shownotes Transcript

任何理论播客都需要您的帮助。我们拥有一小群忠实的听众,我们希望向其他人宣传播客,以便其他人也能享受它。据我们所知,我们是唯一一个涵盖戴维·杜伊奇哲学所有四个方面以及其他有趣主题的播客。如果您喜欢这个播客,请在 Apple Podcasts 上给我们五星好评。这通常可以在您的播客播放器中直接完成,或者您可以搜索“任何理论播客 Apple”之类的关键词。

有些播放器有自己的评分系统,在任何评分系统上给我们五星好评都会有所帮助。如果您喜欢某一集,请考虑发推文或在 Facebook 或其他社交媒体上链接到我们,以帮助宣传。

如果您有兴趣在经济上支持播客,我们有两种方法可以做到这一点。第一种是通过我们的播客托管网站 Anchor。只需访问 anchor.fm/four-strands,F-O-U-R-S-T-R-A-N-D-S。有一个支持按钮,允许您进行定期捐赠。如果您想进行一次性捐赠,请访问我们的博客 fourstrands.org。那里有一个使用 PayPal 的捐赠按钮。

谢谢。好的,欢迎收听任何理论播客。卡梅奥,你好吗?我很好,布鲁斯。你好吗?很好。在我们之前的关于计算理论的剧集中,之前的两集关于计算理论的剧集中,我先描述了什么是计算理论,

然后我开始讨论,人们如何运用计算理论?我谈到了计算的类别,NPP,诸如此类,MP 难题。那一集有点技术性,但是我们已经,我已经谈到了图灵原理,但我现在要详细介绍,因为我觉得这是

科学中最重要的事情之一,许多科学家都不知道。老实说,这只是出于兴趣。正是这件事让我接触到戴维·杜伊奇的著作的四个方面,彭罗斯的著作等等,那就是发现了图灵原理及其含义。所以我想把这个讲清楚,这是一个关键的事情。这也是我开始研究 AGI 的原因,因为图灵原理。

所以,也是我重返学校,开始学习机器学习等等的原因。所以……世界各地的机器人。是的。好的。这里有很多幻灯片。对于那些可以看到幻灯片的人来说,这更像是我的笔记,我记得。我有大量的引言等等。幻灯片并不重要,我不会逐字逐句地阅读所有引言。它们只是为了提醒我从哪里得到这些引言以及参考文献是什么。所以……

让我们开始吧。我们上次讲到的是,这是我们之前展示的幻灯片之一。什么是丘奇-图灵论题?我说,好吧,它可以被认为是不可能提出任何类型的计算机器,它能够执行一个普通的图灵机无法执行的逻辑程序。

或者你可以说,图灵机及其等价物是最强大的计算机器,我们还不知道有比这更强大的机器。这就是丘奇-图灵论题。这是一个科学理论。它不是数学证明。它只是一个理论。目前还没有已知的反例。好吗?

好的。好的。然后我说,好吧,这意味着所有计算机器在功能上都是等价的。所以,如果你知道图灵机执行计算需要多少次计算或比较,那么在任何你能制造的机器上都需要这么多计算或比较,因为物理定律要求它进行这么多计算或比较。

对。好的。这意味着算法的速度与任何特定的计算设备无关。好的。所以竞争设备可能会更快或更慢。你有更快的计算机和更慢的计算机,但是算法本身是,

如果有的话,具有速度,即比较次数。这就是我们讨论 P 类的地方,多项式时间比 NP 类快。NP 类包含 P 类,但是 NP 类中任何不是 P 类的都将是指数级的。指数级只是难以处理的。你根本无法用算法做太多事情。如果你试图处理的输入大小太大,那么它将永远运行下去。你知道,太阳会在计算完成之前爆炸。

所以,我还提到我对人工智能的兴趣是因为它是研究当你遇到一个棘手的问题时该怎么做。你如何尽最大努力去解决这个问题。好的。所以,所以这些都是让我兴奋、让我感兴趣、让我重返学校的事情。

现在,我将简要介绍图灵原理的历史。这实际上很有趣,因为戴维·杜伊奇在他的书《现实的结构》中,我发现了“图灵原理”这个术语。在他的书中,他将此术语归功于罗杰·彭罗斯。但正如我们从这些引言中看到的那样,彭罗斯并没有创造这个术语。戴维·杜伊奇创造了它。彭罗斯称之为其他东西。

他确实创造了这个想法。他称之为什麽?他称之为图灵论题。哦,有趣。所以彭罗斯,我这里有一些引言,供那些可以看到屏幕的人参考。第一个,我不会读,基本上是彭罗斯。现在,《皇帝的新脑》是我从中获得这部分内容的书。彭罗斯与戴维·杜伊奇相反。他认为 AGI 是不可能的。他认为

他不接受图灵原理。他的书是为了让你相信这些不是真正的科学理论。读了他的书,这些书非常复杂和技术性很强,我最终相信戴维·杜伊奇是对的。好的。

而且在真正理解完整的论点以及为什么它必须是真的之前,有一个非常聪明的人提出反驳论点确实很有帮助,对吧?所以彭罗斯在这个第一个引言中首先说的是,他说道,看,很容易证明图灵机能够执行任何机械操作,对吧?所以他接受了这一点……

任何你能想到的机械操作,图灵机都是一台通用的机器,能够执行相同的机械操作。为此有一个应用程序。为此有一个图灵机应用程序。哦,真的吗?我在开玩笑。所以计算机实际上是图灵机,对吧?是的,当然。所以,我的意思是,有,为此有一个应用程序。我的家人有一个持续不断的笑话,关于计算机,

有人需要钉子或锤子,另一个人说,哦,我认为为此有一个应用程序。任何你能想到的事情,可能在某个地方都有一个应用程序。我认为,好吧,对不起。这个笑话实际上与重点非常相关,对吧?计算机的普遍性,计算机能够执行任何机械操作的事实,这就是它们完全通用的原因。你可以为所有事情制作一个应用程序。

对。对。所以,这正是我们对图灵原理的论述方向。这是普遍性的概念,计算机可以计算任何计算机可以计算的东西。这就是物理定律允许的。对。那里没有其他任何东西。所以现在罗杰·彭罗斯的第二个引言,他说,一些注意力已经转向进化的问题,

一个实际的物理系统,大概包括人脑,这就是它与 AGI 相关的地方,因为它们受精确的物理定律支配,是否能够执行比图灵机多、少或完全相同的逻辑和数学运算。所以用简单的英语来说,他在这里说的是,我们正在关注物理定律,物理定律是精确的数学定律。那么这意味着物理定律是否与

图灵机所做的相匹配。你可以在图灵机上模拟所有物理定律吗?由于图灵机使用物理定律来运行,那么你就有,就像我在之前的剧集中向你展示的那样,一个等价于这个,这个等价于那个,他问的是,物理定律是否等价于图灵机,图灵机是否等价于物理定律?对。对,对,对。好的。现在彭罗斯的答案是

不。我会解释他为什么这么说以及他为什么可能错了。但无论如何,所以他接着说,这就是他创造图灵论题(他称之为)或图灵原理(杜伊奇称之为)这个想法的地方。他说,最初的真理

丘奇论题现在被简单地认为是断言数学算法正是理想化计算机可以执行的东西,根据现在通常采用的算法定义,这变成了纯粹的同义反复。所以他说丘奇是,所以你有丘奇-图灵论题,他把它们分开。他说有丘奇论题和图灵论题,它们并不完全相同,丘奇和图灵对丘奇-图灵论题的看法略有不同。丘奇的是纯粹的同义反复。他说,看,图灵机或丘奇λ演算就是他的版本。这就是你如何定义算法。他并非一定说物理定律不能做与算法不同的某些事情,物理定律是算法式的。好的。他没有那样说。图灵做了。好的。

好的,所以彭罗斯说,然而,很可能图灵本人还有进一步的想法,即任何物理设备的计算能力必须在理想化的情况下等同于图灵机的动作。也许应该把这个物理断言称为图灵论题,以便将其与丘奇论题最初纯粹的数学断言区分开来。好的。好的。所以这是罗杰·彭罗斯发明图灵的时刻。

图灵原理这个术语。事实上,他没有,但是,但是这是这个想法,从概念上讲,这是相同的概念性想法。他碰巧称之为图灵论题。好的。现在杜伊奇在《现实的结构》中说,数学家罗杰·彭罗斯建议应该称之为图灵原理。所以他在那里使用了错误的术语,但这就是杜伊奇如何定义图灵原理。所以,

与我的定义略有不同。有多种定义方式。它们都差不多。它们是等价的,但他说道,对于模拟物理对象的抽象计算机,存在一个抽象的通用计算机,其功能包括任何物理上可能的物体可以执行的任何计算。好的。他把它推到了逻辑的结论。你可以建造一台可以模拟任何东西的计算机,对吧?没有什么东西是无法模拟的。对。好的。嗯,

所以基于此,那么什么是图灵原理?它是指物理现实中的所有事物都可以在图灵机上计算。我们稍后会看到,我们实际上必须采纳这个想法,不仅仅是图灵机,而是计算图灵机,这实际上是不同的,但我们经常简化它并说图灵机,即使我们不是这个意思。图灵原理等同于丘奇-图灵论题。它只是将其推到了逻辑的结论。而且,呃,

现在,你可以采取这样的立场,有比图灵机更强大的计算机,我们只是还没有发现它们。好的。事实上,我将向你展示如何采取这个立场以及人们是如何采取这个立场的。好的。然而,这确实违反了我们在过去的节目中同意的波普尔的认识论。因为现在我们正在将一个解释与一个非解释进行比较。

对。我们说,嘿,我们有一个非解释,它使所有这些都失效了。对。这可能是真的。我们并不是说非解释因此是错误的。这不是我们所说的。对。我们说的是,你必须看到这两者之间存在巨大的差异。对。我们有这个解释。它是图灵原理。它是指所有事物都可以在计算机上模拟。这是一个科学现实。

经过充分检验的科学理论,它实际上构成了,老实说,我将展示所有科学的基础。好的。但事实上,没有办法明确地知道它是真的,你总是可以认为它不是真的。

但是那样你实际上只是走进了我们无法解释的事情,对吧?你正在编造一个很容易变化的非解释,就是这样。这就是你所做的,好的?此时你已经超出了科学的范围,对吧?现在,这可能是一个很好的研究项目,将来可能会被纳入科学,我很快就会向你展示一个例子。但是这是,在接受图灵原理,说,好吧,看,这是我们最好的科学理论,因此我将暂时接受它,直到有人提出更好的理论让我接受,以及仅仅采取一个根本没有任何支持的立场之间存在很大的区别。好的。嗯,

所以我们可以根据尝试检验它以及我们未能证伪它来暂时假设图灵原理是正确的。好的,这将遵循波普尔的认识论。同样,这就是丘奇-图灵论题,但出于同样的原因,我们可以接受图灵原理,对吧?我们可以推测,物理科学所发现的绝对一切事物都可以分解成计算。好的。

我们不知道有任何例外。这是一个非常好的、可靠的科学理论。好的。这就是图灵原理。这是一个科学理论,原因与丘奇-图灵论题是一个科学原理的原因相同。当然。但我们在这里真正做的是,我们正在断言现实的计算性质。好的。这是一个想法,即使你有一些科学家会说他们不同意这一点,他们几乎总是只是假设它,对吧?这似乎是科学背景中一个隐含的想法,科学家们只是假设它。我的意思是,当你发表一篇物理学论文时,人们期望对物理学有一个数学解释,对吧?当然。所以,然后,然后……我们用数学来证明

这就是我们目前使用它的方式。对。所以图灵原理在某种程度上构成了我们思考科学的方式的基础,无论你是否明确接受这个想法。好的。现在我声称它是在过去的节目中经过最佳检验的理论。我将快速介绍一下,因为我觉得它与这里有一些关联。有时我听到有人声称量子力学是科学中经过最佳检验的理论。好的。现在,我的意思是,

我的意思是,在科学中,什么是经过最佳检验的理论?我不知道。它可能,它可能是一个毫无意义的陈述。好的。它可能有点主观,取决于你碰巧是什么意思。对。好吧,是的,测试意味着什么?我会说万有引力是科学中经过最佳检验的理论,因为一直如此。所以,

所以我要说明的是,即使使用你的万有引力例子,我们也可以认为图灵原理是科学中经过最佳检验的理论。好的。所以量子力学——

已经测试到了第九和第十位小数点。我的意思是,这是一个概率论。所以这可能有点令人惊讶,你可以把它测试到第九和第十位小数点。不像广义相对论,我们知道黑洞违反了这个理论并打破了这个理论,没有已知的反例。我们真的不知道量子力学在哪些地方失效,除了它显然没有包含万有引力之外。

出于某种原因。但是没有,我们不能出去进行测试并找到观察结果,然后说,哦,是的,这是一个理论失效的情况,对吧?我们不知道量子力学有任何这样的情况。而且它已经被,没有其他理论真正如此,对吧?从这个意义上说,它只是经过最佳检验的理论。我可以理解为什么人们可能会这样称呼它。

好的。在杜伊奇的开创性论文《量子理论、丘奇-图灵原理和通用量子计算机》中,他证明了量子力学在量子计算机上是完全可模拟的。所以基本上他证明了量子计算机(我们目前还不知道如何很好地设计它们),但量子计算机等同于量子力学,两者是一回事。对。这似乎是对图灵原理的科学证明,但是

你不能真正证明科学中的任何东西,所以从这个意义上说它不是一个证明。但它是……它比我目前解释的更有力的科学基础。他实际上已经阐述了,看,所有现实都是量子力学。这就是理论。如果这是真的,那么图灵原理就是真的,句号,故事结束。好的。是的。现在,

罗杰·彭罗斯的这段引言中说道,根据杜伊奇的分析,量子计算机不能用于执行非算法操作,即超出图灵机能力的事情,但可以实现比标准图灵机更高的速度。现在,我在我们过去的播客中说了一些错误的话。我需要在这里纠正它。哦,好的。我说量子计算机可以做图灵机做不到的事情。

这是真的。语言是宽松的。而且我误解了一些东西,当我把这个放在一起的时候,我又在看那篇论文,我误解了杜伊奇在那篇论文中说的一些东西。而且

他确实说量子计算机可以做图灵机做不到的事情,但他真正想说的是速度更快。它什么也做不了。图灵机理论上仍然可以做量子计算机可以做的任何事情。只是有些事情,对于图灵机来说是难以处理的,而对于量子计算机来说是可处理的。我相信在过去的播客中,我声称有相反的情况,即有一些深奥的例外。根据我现在对这篇论文的阅读,没有。

我认为这更有意义。因为如果我们相信图灵机之外没有任何东西,那么图灵机之外就不应该有任何东西。正确。

然而,这确实意味着图灵原理存在某种例外。因为我之前说过的一件事是,图灵机所需的比较次数对于你能制造的任何计算设备来说都是相同的。这是不正确的。这已经被量子计算机违反了。好的。好的。现在……

过一会儿,我会解释为什么这并不那么有意义,但是让我们暂时记住这一点。但是,我刚才读到的彭罗斯的引言,他实际上承认彭罗斯承认杜伊奇的分析拒绝了量子力学作为一种可能的物理学方法。

嗯,图灵原理。好的。彭罗斯在他的书中,这是他真正关注的事情之一,是他完全拒绝了量子力学。他认为图灵原理不成立,你无法构建 AGI 的信念的一部分假设,我的意思是,你必须假设量子力学的理论是错误的。如果你假设量子力学是正确的,

那么图灵原理就成立,而彭罗斯也承认这一点。好的。所以,我认为人们对此感到困惑。在过去的播客中,我谈到过一个试图与我争论彭罗斯和彭罗斯关于你无法构建 AGI 的说法的人。他甚至没有把这个说对。他甚至没有理解彭罗斯的论点是基于量子力学是错误的假设。好的。这是……

彭罗斯论点的一个重要部分。所以你不能用现有的量子理论对意识进行量子论证,对吧?你真正做的是,你正在指向一些我们一无所知的未来理论,这是一个非解释,回到波普尔的认识论。所以他们所做的是,他们将丘奇-图灵论题改编为现在被称为丘奇-图灵-杜伊奇论题,现在这包括量子计算机。

这就是为什么,我之所以说他们稍微违反图灵原理并不重要,原因之一。因为事实证明,只要,如果你能发现一种物理现象,而且它仍然是数学的,对吧,那么你就可以用这种物理现象来建造一台计算机。是的,它将能够做图灵机做不到的事情。是的,这将违反,对吧,

丘奇-图灵论题的某种形式,但它只会产生一个新的丘奇-图灵论题,一个更强大的论题,对吧?有趣。好的。好的。所以如果这就是你所谈论的全部内容

这仍然意味着我们可以构建 AGI,例如,对吧?它,它不会,你可能无法在实际的当前图灵机风格的计算机上做到这一点,因为它可能是,它是难以处理的,但你会建造一台量子计算机,然后我们会构建 AGI,对吧?彭罗斯确实相信这一点。他确实相信,即使他否认计算机可以构建 AGI,

他仍然相信我们最终能够在物理上构建它们,对吧?因为他仍然是一个顽固的科学家。当然,当然。科学家们相信未来的潜力,并不断寻找构建它的方法。对,对。

然而,重要的是要注意,从这段引言中,彭罗斯承认量子力学等同于图灵原理。他只是接受了这一点。好的。他接受杜伊奇对此的分析,这就是我认为彭罗斯最终会出错的原因之一。嗯,他真的走进了非解释,而他的整本书实际上是在为非解释辩护。嗯,

现在我已经解释了这一点,但是如果我们发现了例外,杜伊奇在他的论文中指出,你可以找到例外。他说,原则上我们可以证伪图灵原理。这将完全按照我刚才解释的方式进行。我们会发现一个例外,即物理上可以做的事情,而图灵论题说你做不到。

但是如果我们这样做,我们会做的是,我们会使用这种新的物理现象来构建一种新型的计算机。这将成为丘奇-图灵论题的新版本。我们会继续快乐地前进。事实上,这就是量子计算机发生的事情。我们现在有了丘奇-图灵-杜伊奇论题。我通常只是

称之为丘奇-图灵论题。即使杜伊奇通常也称之为丘奇-图灵论题,即使他的名字现在已经被插入到结尾。这样称呼更容易。但是,所以,很多人会这么说,他们会说类似的话,好吧,你知道,人类可以有意识,因为他们是生物的,而计算机不是生物的,所以他们不能。

这种说法背后的假设是,生物学以某种方式遵循我们目前不了解的物理定律。对。是的。如果这是真的,我的意思是,让我们说实话,生物学仍然是原子。对。计算机也是。所以没有真正的理由相信会是这样。好的。但如果真是这样,

那么这意味着我们可以使用等同于生物学的化学过程来构建 AGI。这不会阻止我们构建 AGI,也不会真正使图灵原理的核心失效。它只会使现有图灵原理的技术细节失效。它会创造一个更强大的新图灵原理。好的。所以,嗯,不,我必须告诉你,这是有史以来最酷的事情之一。所以,嗯,

彭罗斯试图支持他的论点。他使用杜伊奇的一篇论文来解释当他谈论非可计算设备时,他心里想的是什么。

物理学中的非可计算效应。他实际上给出了杜伊奇的一个例子,这个例子可能确实存在,并且可能有一天会导致丘奇-图灵论题的修改,就像量子计算那样。现在,不幸的是,他使用的例子,我认为它并没有为他其余的论点带来任何好处,但这是一个非常酷的例子。这将表明如何

是的,我们暂时接受图灵原理,但我们确实需要对将来可能出现新的图灵原理持开放态度。这将是一件好事,而不是坏事,对吧?所以让我读完这整段话,然后我会翻译一下,因为它可能有点技术性。虽然确实似乎有理由排除具有闭合类时线型时空几何。现在记住我们,在过去的播客中,我们谈到了杜伊奇关于闭合类时线的论文。那就是时间旅行。

我们正在谈论。是的,对。作为经典宇宙的描述,可以认为不应将其排除为可能参与量子叠加的潜在事件。这确实是杜伊奇的观点。记住,这是彭罗斯在《心灵的阴影》中,他的另一本书,反对 AGI。然后他继续说道,虽然贡献……所以让我快速解释一下,因为这可能不太容易理解。它

空间,所以闭合类时线时空几何将是一系列倾斜的光锥,它们成一个圆圈,这意味着时间是一个循环,好吗?因为这就是广义相对论的工作方式。所以你最终会进行时间旅行。你最终会到达空间中的某个点,在那里你旅行到那里,你的时间与你当时不同,你回到了过去,但当你到达那里时,由于时间旅行,由于这些闭合类时循环,好吗?什么,

彭罗斯说,引用德意志的话,他声称德意志声称。这里的问题是,我从未听说过德意志这样说过。我只听说过彭罗斯这样说过。在脚注中,彭罗斯说,我从我读过的德意志关于闭合类时线的论文的早期草稿中得到了这个。而且

这个论点从他的最终论文中删除了。虽然我问过他,我问过德意志,是因为你认为它不对吗?他声称德意志说,不,我仍然认为它是正确的。它只是与我在这篇论文中提出的论点无关。哦,好吧。

好的。所以,但我从未听说过德意志提起这件事,但这真是一个有趣的想法。所以他说,虽然这种几何对总状态向量的贡献可能非常微小,但根据德意志的说法,它们的潜在存在具有惊人的影响。如果我们现在考虑在这种情况下执行量子计算意味着什么,换句话说,使用闭合类时循环,

我们显然得出结论,可以执行不可计算的操作。这源于这样一个事实:在具有闭合类时线的时空几何中,

图灵机操作可以无限期地利用自身的输出运行。因此,关于该计算是否停止的问题的答案,对量子计算的最终结果有实际影响。德意志得出结论,在他的量子引力方案中,量子预言机是可能的,

据我所知,他的论点也适用于更高阶的预言机。现在,你不知道预言机是什么,所以我将简要解释一下。这用简单的英语来说就是,量子力学的某个未来版本,特别是量子引力,“万物之理”理论(错误命名的万物之理理论),他们正在寻找将广义相对论与量子力学结合起来的理论。

对。德意志认为,当我们拥有该理论时,我们很可能能够构建跨部门

在这种理论下,而不是现有的理论下,使用这些时间循环的量子计算机,无限的时间。它将使我们能够解决这个计算是否停止的问题?如果你还记得我们上一集的内容,这就是停机问题,这是一个可证明的不可计算问题。好的。现在,在计算理论中,我们有一些叫做预言机的东西,它们在物理上是不可能构建的,因为它们违反了物理定律。好的。好的。

预言机,它们所做的是说,如果我有一个可以连接到这台计算机的预言机,而这个预言机可以告诉我任何事情。然后你指定预言机可以告诉你什么,这个不可计算的东西。最明显的一个是它可以解决停机问题。它可以说,这个算法会停止吗?

我们知道在图灵机下这是一个不可计算的问题。如果我有一个可以连接的预言机,它可以解决这个问题。然后其余部分就像一台普通的图灵机一样工作,但它可以查询预言机以获得该问题的答案。好的。就像一个小小的神。是的。如果你能做到这一点,他们就能计算出来。

这台计算机可以计算什么与图灵机可以计算的不同。他们根据预言机的概念知道,哦,这台计算机可以计算这个,这台计算机。它的计算范围比图灵机大得多。

因为它可以解决停机问题。好的。他说的是,在量子引力下,很可能能够构建一个量子预言机,就像这些假设的机器一样,它们将成为现实,我们将能够解决停机问题。我们将能够拥有一个超越地形机的计算范围。然而,这一切都是基于一个不存在的理论。而且,而且,

所以我们必须等待并看看那个理论是什么。此时这仅仅是推测。好的。

但这确实是一个很酷的想法。即物理学中可能存在一些东西,使我们能够在未来的某个时间点扩展我们认为可计算的东西。然后我们将利用物理学中的这些现象来构建能够进行这些计算的计算机。好的。好的。你在这里可以真正看到物理学和可计算性之间的关系。这就是德意志真正试图阐明的。物理定律是,

决定了什么可以计算。这就是可计算性。这就是为什么计算理论不是数学。它是物理学的一个分支。它是对物理学允许你计算什么的学习。

好的。对。现在彭罗斯的论点存在以下问题。我喜欢这个论点。我希望我知道德意志是否仍然相信这一点,或者他是否放弃了这个想法。我无法相信他没有继续写另一篇关于它的论文。但是彭罗斯,他,他,他正在说明。看,有可能提出一个,你知道,发现一些未来的物理定律,使我们能够进行不可计算的操作。好的。而且,

但这并没有真正为他想要的东西买单,对吧?他试图以某种方式解决哥德尔不完备定理。停机问题与哥德尔不完备定理相同。所以这甚至可能看起来像解决了那个不完备定理。但实际上,哥德尔定理会采用那种类型的计算机,然后你可以将哥德尔定理重新附加到那种类型的计算机上。结果你会发现你有一个新的停机问题

在那里,是的,它可以解决标准图灵机的停机问题,但它不能解决这种新型机器的停机问题,对吧?所以没有办法避免这种情况。所以彭罗斯,

这个论点,即使你完全照单全收,即使你只是接受它是正确的,它也根本没有为他想要的东西买单,对吧?在书中的其他地方,他承认了这一点。但他真正希望的是某种比这更强的意义上的不可计算性,因为这种类型的不可计算性是良性的,因为它只是意味着你可以制造一种新型的计算机,然后它就变得可计算了。

他正在寻找某种更强意义上的不可计算性。有趣。现在,很难想象科学不是从对数学和可计算性的假设开始的。你能想象有一天科学家宣布,我们发现这种奇怪的现象显然无法用数学来描述吗?

它闭合了类时循环,彭罗斯在过去的事情中解释的所有内容,这些都可以用数学来描述,对吧,我们理解物理定律,我们可以阐述它们的解释,进一步解释彭罗斯想要的东西。看起来它实际上要说的是,哦,我们发现了这种现象,根本没有办法用数学来描述它,对吧,因为它在这种意义上是不可计算的。

那将是一个很大的,那将不是一个良性的说法,对吧?那将是一种截然不同的说法。事实上,我们实际上认为科学的成熟度,比如社会科学,我们并不认为像物理学那样强有力,对吧?原因是社会科学远不如科学可计算。

嗯,物理学就在那里,它们不是一个强大的数学理论,所以它们实际上对我们来说感觉不那么科学,事实上也不那么科学,是的,部分原因是它们没有很好的数学阐述,它们还不可计算,我们不知道它们的部分内容,也许是,但我们不知道如何计算它们,因此它们更加含糊不清,对吧

我们不理解它们,这就是它的真正含义。如果你不能编写一个模拟相关现象的程序,它实际上被认为不那么科学。这意味着我们还没有完全理解它。当然,当然。好的,现在非数学理论怎么样?所以达尔文的理论

自然选择是一种典型的非数学理论。是的,当然。但没有人会怀疑它是算法的,这实际上仍然使它成为数学的,对吧?这是一系列步骤。你有了,你知道,你有了,嗯,

以其目前的形态与新达尔文主义一起,你有了这些复制者,它们试图复制,它们与其他复制者竞争。那些最擅长淘汰其他复制者并复制自身的复制者,是那些在池中生存下来的复制者,其余的消失了。而且,你知道,这实际上都是某些步骤,它是算法的。

所以你可以看到,即使是非数学理论也具有算法性质。事实上,当发现DNA时,这最终成为达尔文理论的一个巨大组成部分,你知道,未来修改后的理论正在将DNA融入其中。DNA上的基因,它们是数字信息。事实上,基因就像图灵带,对吧?我的意思是,典型的非数学理论DNA

我们已经知道这是一个可计算的理论。我们只是不完全了解可计算算法是什么,对吧?它,我们还没有完全理解它,但我们知道这是一个可计算的理论,对吧?所以我认为你不能把它用作科学的反例。我同意这一点。

那么,那么我喜欢彭罗斯的这句话。这是来自一个播客,他在播客中接受了莱克斯·弗里德曼的采访,莱克斯·弗里德曼是一位人工智能教授,他有一个非常酷的播客。彭罗斯在其中说,如果意识不可计算,那么它到底是什么?发生了什么?正在发生什么物理过程?所以这是彭罗斯提出的问题。这也是一个很好的问题,真的吗?是的。

正如我解释的那样,如果它是良性的非计算性,那么我们将构建一种新型的计算机,对吧?它不会解决停机问题。它最终不会解决停机问题。它可能会为某种类型的计算机解决它,但它最终不会解决它,对吧?为了使他的论点有意义,你必须拥有,

量子力学以某种方式一劳永逸地解决了哥德尔不完备定理,我认为没有人相信这是可能的,对吧?而且,你甚至无法弄清楚量子力学的未来版本将如何做到这一点,除非它有一些完全不可计算的,而且你甚至无法从中构建一台计算机,对吧?所以假设我们确实发现某种不可计算的过程,而且你无法从中构建一台计算机,嗯

我想我的第一个问题是,科学家首先是如何知道他们发现的东西是不可计算的呢?对他们来说这不会只是一个谜吗?对。他们要发表什么?说真的,对吧?谁会接受这篇论文,它说,我发现这个过程是不可计算的,而且你无法从中构建一台计算机。而且,你知道,根本没有办法处理它。每个人都会说,不,这只是一个谜。让我们继续努力弄清楚它。

对。而且,你知道,他们将如何,他们将如何甚至描述它?对。我的意思是,你真的必须考虑,

当人们走得这么远时,他们在想什么?他们是否在想什么并不清楚。大卫·查默斯,他以提出硬问题而闻名,硬问题是,硬问题是可计算程序如何感受疼痛,对吧?和质量。

对。好的,这是一个难题。这绝对是一个很大的谜。他的解决方案,他那种试探性的、非常推测性的提出的解决方案是某种泛心论。他认为,在未来,科学家们将接受意识是某种物理原子单位。好的。如果那是真的,那么你怎么知道呢?对。好吧,

你会发表什么?你会想出什么?对。我的意思是,它只会,它看起来真的只是一个谜,科学家们会继续快乐地努力弄清楚意识。当我们永远想知道意识是什么时,很难看出科学会突然接受,哦,泛心论是真的。然后你会用这个理论做什么?你会从那里走向何方?它仍然无法回答你如何,你如何,人们如何拥有意识的问题?你如何构建意识?

一个人工版本的人,对吧?所以根据所有这些论点,我相信我们在这里所说的,嗯,

我会这样说,科学研究像法律一样,对吧?他们试图将事物置于某种可解释的合法方式中。这就像,这就是,这就是科学所假设的他们将要发现的东西。对。如果是这样的话,那么就有一种假设,即它将用数学来描述,因此根据定义,它将在某种计算机上可计算。如果意识的某些方面实际上是

在任何意义上都不能计算,甚至不是良性意义上的可计算。你真正做的是你完全推翻了科学。你已经证明科学永远无法弄清楚这种现象。它将永远是一个谜。好的。如果你,如果你要接受这是现实的一个方面的真实情况,那么你必须,那么你怎么解释为什么现实的其余部分是可计算的和科学的呢?嗯哼。

你已经毁掉了科学背后的所有解释。如果你要接受这一点,你已经完全毁掉了所有科学。我不想毁掉科学,布鲁斯。这就是为什么科学家永远不会接受大卫·查默斯的泛心论。是的,我同意这一点。因为他们将继续相信科学。

这实际上是我认为图灵原理的最强形式。即使我们试图接受可能存在图灵原理的未来版本,计算理论的未来版本,可计算的未来定义与我们今天所拥有的不同。好的。最终,我们仍然在说计算将等同于物理学,将由物理学定义。它们将是什么术语,它们将彼此可简化为。而且,

它们将是同一件事。物理学中的所有内容都将在计算机上进行模拟,而计算机将使用物理定律来做到这一点。它们实际上是一回事。好的。所以我们曾经发现的所有现实的解释都是

可以通过计算来描述,因为所有功能齐全的计算机器都是等效的,包括自然进行的任何类型的计算。对。现在我们正在进入图灵原理的最强版本。好的。由于自然界的所有事物都可以用数学来描述,这意味着我们永远不会遇到无法在计算机上模拟的自然现象。我们的大脑能够进行这种数学运算。我们的大脑能够进行相同的模拟。好的。

这是一个相信因此一切对我们来说都是可以理解的充分理由。这个论点并不完全正确。人们会这样争论,而且是正确的。你可以拥有一个仍然难以理解的可计算宇宙。你可以想象这种情况是真实的。但这当然是一个最低限度的论点。

你必须拥有这个。宇宙必须是可计算的,科学才能发挥作用。它必须是可计算的,解释才能发挥作用。可能比这更多,但不会比这更少。

好的。这有意义吗?有趣。好的。现在,我们快完成了。我只想花一点时间来探索一下。一个完全不可计算的世界会是什么样子?好的。我们实际上可以想象那是什么样子。好的。事实上,我们的祖先相信他们生活在这样一个世界里。

好的,想想古代异教徒,对他们来说,天气不是一个合法的可计算过程,对吧,它可以得到充分的解释。它只是,它是一个活生生的东西,他们认为是一个活生生的东西。我们知道生物仍然遵循物理定律,但他们不知道物理定律。所以生物只是……

拥有他们自己的代理。他们可以随心所欲。所以风是一个反复无常的神。你可以向它祈祷。你可以向它献祭,但谁知道它最终会做什么,对吧?没有可能的解释。它对人类理性来说是完全不可理解的。好的。嗯,

这是一个,异教徒的世界就是一个非科学的、不可计算的、非图灵原理的世界的样子。至少这是它的一种可能的体现。它将是一个完全难以理解的世界。神做他们做的事情。他们的理由是不可理解的。

好的。这是一个非法的现实,没有任何意义。没有理由相信它甚至应该有意义。好的。洛根·奇普金是我的一个在线朋友。他最近写了一篇有趣的文章,声称天主教会实际上是导致科学革命的部分原因。你必须阅读这篇文章才能听到他的论点。我不会详细介绍。

但让我们假设一些宗教可能比其他宗教更开放地接受一个有规律的宇宙的想法。因此,那些是更开放于科学革命、解释和诸如此类事情的文化,以理性的解释。

所以这是他的论点。他实际上是从写了一本书的其他人那里获得他的论点的。所以这不是他的个人论点,但他的文章提出了这个论点。你在这里可以看出这一点,对吧?古代异教徒看待世界的方式,它实际上并不适合解释的概念。你必须拥有接受事物确实有解释并且世界是理性且合法的观念的文化信仰。

好的。继续。当,当我们之前谈到,嗯,你知道,真的我们,我认为当,当我们试图找到非数学的,呃,意识的解释或,嗯,我认为上帝总是,你知道,你有没有人用过这样的论点,即意识的原因仅仅是上帝?

是的,我有。但我认为你会惊讶于这是多么罕见。好的。对。我的意思是,我不能代表世界上每一个宗教,而且有很多宗教我几乎一无所知。但是摩门教,他们不再这样称呼自己了,这就是我的宗教。一般来说,基督教,摩门教是基督教的一部分,两者都有如此漫长的理性历史。没有,那里,

在文化上有一种潜在的假设,即我们应该期待科学解释。事实上,他们甚至有一些他们称之为“上帝是科学家”的东西,这个想法实际上是即使上帝也在使用科学知识,而且它,它们非常赞同这个想法。正因为如此,我通常没有看到人们提出这个论点。

对我来说。有趣。现在,我有时,我提到了在线提出该论点的人,试图使用彭罗斯作为他的基础,他属于某种基督教宗教。确实有一些宗教会提出这样的论点。他们会说,好吧,你知道,解释是上帝。

而且没有其他解释。这就是意识。对。但是,你知道,我的意思是,你想想,我们现在都了解神经科学。事实上,你可以,你知道,对一个人的大脑做一些事情,他们的个性就会改变。所以我们,我们,我们都在期待至少大部分,嗯,

对意识的科学解释。正因为如此,我的意思是,就像每当我向非常虔诚的宗教人士提起我对 AGI 的兴趣时,我甚至无法告诉你,除了在线上你可以找到任何你想要的古怪想法之外。我想不出任何例子有人说,哦,这是不可能的,因为上帝。我有很多人都反对图灵原理,他们只是,他们根本不,

相信他们认为它在某种程度上是有限制的,但他们并不一定是因为他们反对 AGI 而这样说,对吧?所以我认为即使是宗教人士也

通常都非常开明。我们仍然生活在西方文化中,对吧?也许在非西方文化中有所不同。我不知道。但即使是今天的非西方文化也如此西化。他们仍然必须依靠科学理论来建设社会等等。我

我只是认为人们普遍接受它,对吧?他们知道 AGI 即将来临。据我所知,几乎没有人完全否认它。现在,我认为有一些有趣的事情。我确实有一些人与我争论过,好吧,也许大脑更像一个发射器,而实际的意识存在于灵魂中。但随后我通常会指出这样的人,好吧,你不是真的只是移动计算……

然后是灵魂的本质。他们通常会接受这一点。他们说,哦,是的,好的,我明白了。所以,你知道,我说的是心灵在灵魂中,但这仍然是在发生某种科学过程。耶稣基督后期圣徒教会(以前称为摩门教徒)的成员实际上认为不存在非物质物质,这使他们对科学有了更深入的理解

他们确实相信某种叫做智能的东西,这可能与我在这里所说的某些内容相矛盾,但它的定义非常模糊,以至于他们中的大多数人没有任何真正的问题将其与我所说的那种科学调和起来。

所以我发现真的没有零阻力。我只是,我觉得很舒服地谈论这些事情,无论一个人多么虔诚。而且,我很难想象有人会反对我,说实话。所以。有趣。好的。我只是很好奇。你的,你的经历不同吗?是的。我的意思是,我,好吧,而且我,

作为一名认同为非基督徒的人,也许带着在 LDS 长大的一些偏见,

我通常会看到,也许在文化上更像这样。我的意思是,我们总是听到很多炒作,甚至有人否认达尔文主义并想要教授创造论。感觉上有一种文化上的推动,要远离理性。所以当你看到像意识这样的东西时,如果我们甚至不能就我们拥有的东西达成一致

我,证明不是正确的词,但证据很强,我很难想象看不到对像这样的事情的阻力,这几乎更多的是概念上的,我们距离拥有良好的证据还有很长的路要走,你知道,数学上或我们认为科学上的。你知道吗?你当场抓住了我。我必须对我刚才说的一切进行一些回溯。

所以当我,当我年轻的时候,我在 LDS 教会长大,嗯,我仍然是 LDS 教会的虔诚信徒。收听节目的朋友们都知道我这一点。这也是我如此宗教友好的原因之一。嗯,LDS 教会实际上对其他宗教非常友好。我认为人们不知道他们有点以传教士而闻名。他们对其他宗教的看法非常非常积极。我同意这一点。是的。嗯,

所以在 LDS 教会长大,过去确实有一种几乎是期望你不同意达尔文进化论的期望。是的。

这直到我上大学才成立。然后发生了一次转变。那就像 80 年代后期。是的。我记得,布鲁斯。那大约是在开始喝可乐几乎是边际的时候。所以它们可能相互交织在一起。我不知道。达尔文主义和可乐肯定交织在一起。一点咖啡因和一些达尔文主义。而且

今天,和我同龄的人和更年轻的人几乎都接受进化论,对吧?现在,他们可能会接受某种修改后的版本,对吧?或者诸如此类的事情。但他们接受了足够多的内容,你可以与他们一起讨论进化论,而且没有任何阻力。是的,我同意。我同意。LDS 教会里比我年长的人仍然对此有困难。他们中的许多人。是的,我认为有,你知道……

在美国,基督教的福音派分支倾向于超级反达尔文主义和某种反科学。一些,真的,一些新教徒……是的。

你肯定会在基督教中看到分支。天主教会有点像尖峰,然后他们似乎会缩回并有点回到原处。我们可以做一个关于天主教会对进化论的立场的整集节目。这与 LDS 教会的立场非常相似。他们现在对此非常开放。他们最终确实否认它是一个完整的理论。

但这可能是大多数宗教的真实情况,但他们现在接受了这么多内容,以至于他们或多或少地接受了它。对。嗯,天主教会反对进化论已经有一段时间了。他们中的一位,嗯,僧侣,嗯,

塔利亚·德·查尔登是发现许多早期新石器时代人类等等的人之一。正是天主教会发现了与进化论相关的许多事情,即使在官方反对它的同时。当然。我认为这就是他们随着时间的推移而改变的部分原因,因为他们自己的僧侣正在对此进行研究,并发现有关它的东西,并取得进展等等。

当然,你付钱给伽利略做研究,然后你把他关起来的时候……对了,你知道吗?伽利略是一位虔诚的天主教徒。当然他是。他是一个天主教狂热分子。是的。我的意思是……

所以这很复杂,对吧?我认为宗教在与科学的关系上很复杂。它远不像媒体所表现的那样简单,对吧?媒体之所以这样表现,是因为有一个分支,特别是福音派,对这个问题的看法是如此的原教旨主义和简单化,以至于在我看来,它甚至不能代表新教。但他们是媒体上最有趣的人物,对吧?当然,当然。

现在,这很复杂。所以,耶稣基督后期圣徒教会与福音派有关系,而这种关系本身就很复杂。耶稣基督后期圣徒教会定期从福音派那里吸收教义,然后在一段时间内将其抛弃。其中之一是达尔文,它反对达尔文主义的立场。这实际上是耶稣基督后期圣徒教会吸收了

福音派的教义,然后最终将其抛弃的结果。甚至还有一个短暂的运动认为龙与地下城是撒旦的,这个运动在福音派中仍然存在,摩门教也接受了它几年,然后就抛弃了它。我也记得那个时期。这实际上非常有趣,因为它可以解释为什么宗教会

互相借鉴,并以有趣的方式交织在一起。我实际上非常满意耶稣基督后期圣徒教会抛弃一些这些毫无意义的疯狂福音派教义的速度之快,对吧?进化论的观点持续了相当长的一段时间。

但它被抛弃了,对吧?我的意思是,它从未成为官方教义,从某种意义上说,确实存在一种文化,即你不应该相信进化论。但我记得在我成长的教会,我的教区里,有一个人是进化论者。我还记得读过

奥森·斯科特·卡德,一位著名的摩门教作家,他相信进化论。我想不出什么时候耶稣基督后期圣徒教会内部没有强大的力量

相信进化论并支持它,对吧?他们可能一度是少数派,而现在他们有点成为多数派了。但从来没有,它从未达到那种观点在教义上被扼杀的地步。它总是让你自己形成自己的观点,对吧?是的。好的,这就是我的……

那将是,我的意思是,可能有一些年纪较大的教会成员会因为你提出的原因而对AGI有意见。他们不是我经常会互动的人。他们不会在我的朋友圈里,对吧?因为他们不是我的年龄。当然。我想这就是为什么我觉得我谈论这些事情没有任何问题。我认为这完全被接受了。进行这方面的研究被认为是完全合法的。

目前对此没有任何宗教上的担忧。

好了,让我总结一下。我还有几张幻灯片,这将与AGI联系起来,因为我们接下来要讨论它。我带你偏离了主题。是的。不过这是一个有趣的题外话。是的。所以彭罗斯在他的《皇帝的新脑》中说,我将强烈地论证,意识的作用中必须存在一个本质上非算法的元素。好的?这是他的观点。然后他继续论证,我已经向你们展示了他的一些论点,但他继续论证意识无法用经典物理学来描述。好的?

意识无法用量子力学来描述。他甚至认为意识无法用量子引力来描述。好的。在他与莱克斯·弗里德曼的采访中,他公开承认,实际上量子引力也不行。就像量子引力一样,我们现在对它了解得足够多了,我们知道它不会是我正在寻找的东西。

对。他举了量子引力可能允许某些不可计算的东西的例子,但这也不是他真正想要的东西。他只是试图通过证明物理学中确实存在不可计算的东西来加强他的论点。这不是一个愚蠢的想法,但不幸的是,对于他来说,这是错误类型的不可计算。对。

这是他所描述的良性类型。他说会有……他相信未来的理论中会有一些非计算的元素,它将使用这些非计算的元素来解决意识问题。好的?好的。而这个非计算元素将违反哥德尔不完备定理。他的整个论点是计算机无法违反哥德尔不完备定理,因此它们……

它们不应该能够做到人类,他认为人类可以违反目标和完备性定理。事实上,他们做不到。人类根本无法违反目标和完备性定理。他的整个论点建立在一个有缺陷的基础上。好的。但由于他相信人类可以,而他相信计算机不能,所以他正在寻找这个

量子物理学的未来理论,它超越了量子引力,它将以某种最终的方式解决哥德尔不完备定理,即使是闭合时间环的例子也不行。好的。很难看出,即使他们找到了这个,他将如何写一篇论文来描述它。对。这是,他正在寻找最终会证明所有科学都是错误的东西。这就是为什么它让我觉得只是浪费时间。对。

对吧?在我看来,他走错了路。现在,我们是否需要量子力学、量子计算机甚至量子引力计算机来构建意识?是的,这是可能的。不过,也有理由认为它不太可能。我们对量子物理学的了解足以让我们知道量子现象是

不能真正存在于大脑中,对吧?至少根据我们目前对如何设计量子现象的最佳理解。现在,彭罗斯费了很大的力气来谈论大脑中的微管以及他认为那里存在某种量子现象的事实。但它们只是,这甚至还不是一个很好的初步理论。他现在距离提出一个真正值得仔细研究的解释还有很长的路要走。好的。

好的,他实际上只是在掷骰子说,我认为可能会有某些东西,并且他提出了非常模糊的可能性。这就是他现在关于意识的非计算理论的现状。

这就是为什么我不太认真对待他的观点的原因之一,对吧?大脑,它的运作方式,我们对它运作方式的理解,它在图灵机上都是可计算的。因此,我认为正确的理论是AGI只需要一台图灵机,这意味着AGI……

可以在一台计算机上,将在这台我正在运行的计算机上运行。好的。所以教会论题,道格拉斯·霍夫施塔特,他是普利策奖获奖作品《哥德尔、埃舍尔、巴赫——集异璧之大成》的作者。这本书是一本很棒的书。很有趣。它教你一些小小的数学游戏。它没有告诉你这本书的内容。到书的结尾,你意识到他教你的是图灵原理。他没这么说。他教你的是丘奇-图灵论题。他,

然后他给出了丘奇-图灵论题的版本,这个版本让他兴奋不已。他是一位AGI研究人员。那就是所有大脑过程都源于可计算的基质。我们有充分的理由相信这对人脑来说是正确的。这就是AGI可能的原因。而且,它将会实现。我相信在一台普通的计算机上,我们甚至不需要等待量子计算机。

所以虽然我不介意结果证明我们需要量子计算机或类似的东西,但这仍然非常酷。但是,而且你知道,这是有道理的。进化并没有真正找到超级复杂的算法,对吧?这是一个盲目的过程。所以,智能过程,无论人脑正在做什么,使我们能够具有普遍的智能。好的。

好的。它将证明是一个简单的算法,而且很粗糙。好的。而且,它不会非常复杂,一旦我们知道了它是什么,它就会很明显。这就是让我对

AGI感到兴奋的原因,对吧?我认为它被以一种非常神秘的方式对待。回到你关于宗教的问题。即使是无神论者,即使是科学家,它也被以一种非常神秘的方式对待。真正的真相是,我们还没有发现它,而且它会很简单。好的。

好的。这就是让我兴奋地尝试研究AGI的原因。现在,我承认,我实际上并不知道从哪个方向开始研究。这就是为什么,这就是为什么我回到学校并开始学习机器学习的原因。机器学习,正如我们可能在下一集中看到的,并不是

不是AGI。它甚至不是通往AGI的道路。是的。对。但它是理解可计算性的一条道路。它是我学习编程的一条道路。我相信,我知道这对一些真正追随戴维·杜伊奇的人来说是异端邪说。我相信它实际上确实做了一种非常有限的知识创造。好的。它非常有限。而且,

因此,它甚至可能给我们提供一些关于AGI的非常基本的提示,但是有很多,在很多方面,它们只是完全不同的研究分支。

我决定进入这个领域的部分原因是我想在这个领域找一份工作。我认为这会很有趣。但我真正的兴趣是试图弄清楚什么是智能?什么是通用智能?人脑在做什么才能将心灵作为软件实例化?是什么算法使我们能够学习任何东西,成为一个通用的学习者?这就是AGI,即人工通用智能,对吧?我们可能不是人工的,但我们是通用智能。

在下一集中,如果一切按我的希望进行,我们将邀请我的两位朋友,他们正在研究AGI,并且可能比我更了解它。我们将向他们提问,我们将讨论杜伊奇称之为“通用解释器”的东西,这是通用智能能够解释任何事物这一想法。

好的,就像计算机可以是通用的,你有一些非通用的计算机无法执行每种算法。然后你有一台通用的计算机,它可以执行每种类型的算法。

有一种叫做通用解释器的东西,它能够解释任何事物。这就是通用智能,是一个通用解释器。好的。在某个时候,人类实现了从人类祖先到进化的飞跃。他们最初是动物。没有人怀疑这一点。在某个时候,

发生了一些事情,某种通向普遍性的飞跃发生了,这就是我们正在寻找的算法,无论那次飞跃是什么,这就是为什么你突然看到,突然看到人类出现在场景中,他们几乎立即开始拥有文化,他们就像我们一样,你有没有看过电影《遗忘的洞穴》?没有

你需要来我家,我必须用3D给你看。所以你必须来我家,因为它是这样的,他们发现了一个3万年前的洞穴,上面有3万年前人类的古代艺术品。而且,

人类非常聪明,因为他们像我们一样拥有文化。他们就像我们一样是通用的解释者,对吧?他们利用洞穴的表面,洞穴的3D表面作为他们艺术品的一部分。而且这幅艺术品很漂亮。它不是,你知道的,当你想到洞穴壁画时,你会想到一些小木偶之类的东西。它不像那样。这是一幅非常非常美丽的艺术品。

你必须以3D观看它,这样你才能看到他们如何利用洞穴的表面来绘制艺术品等等,对吧?真正令人惊叹的事情之一是这种联系,你知道的,我与这些生活在3万年前的人们之间的联系。事实上,他们像我一样是人类,他们能够和我一样思考。他们没有

我们对世界的理解。他们显然没有我们的科学世界观,但他们是我们的同类,对吧?我认为那一群人类大约在10万年前突然出现。顺便说一句,他们差点灭绝,非常接近人类的灭绝事件。而且,是的,

由于他们是通用的解释者,所以他们生活在一个与动物世界截然不同的世界中。而我真正想要研究的是什么算法?是什么使他们与他们的动物祖先如此不同?

是的。

他们的信仰,但它并没有,对吧?就像我说的,人们在这个时候只是接受了这一点。他们对这部电影很着迷。他们认为它太酷了。而且,你知道,这是另一个例子,说明宗教人士,至少我认识的那些人,今天似乎对科学没有任何问题。好的。非常感谢你,卡梅奥。很高兴见到你,布鲁斯。