The Simulation Within with Karl Friston
58:07 Share

发现一种更好的理财方式？这是每个人的追求。无论你有什么目标，西北互助顾问都能帮你发现其他人可能忽略的机会。让我们从NM.com开始吧，西北互助人寿保险公司，威斯康星州密尔沃基。

Nordstrom Rack商店现在有高达70%的折扣。从新款运动鞋到完美的礼物，总能找到你想要的。Levi's、Paige、Frame，所有最好的牛仔裤。我为什么去Rack？因为看看这些靴子。我总是在Rack找到好货。前往Nordstrom Rack商店，寻找所有冬季商品的超值优惠。大牌，好价。这就是你选择Rack的原因。

所以，伙计们，我很高兴了解到物理学的原理是如何被神经科学家借鉴来试图理解我们大脑的工作方式的。因为归根结底，只有物理学，其他的一切都只是观点。如果你自己也这么说的话。我喜欢你能这么说。

但这是智能的物理学。神经科学的物理学才是真正重要的。正如你教育我们的那样，物理学存在于一切之中。是的。你只是不认为它存在于神经科学中。是的，因为我们把人们作为专业科学家所做的事情划分开了

他们有自己的教科书、自己的期刊和自己大学里的系，但最终，我们是一体的。都是物理学，人们。最后，这就是我们学到的教训。接下来，StarTalk特别版将带来更多精彩内容。欢迎来到StarTalk，你探索宇宙的场所，在这里科学和流行文化碰撞交融。StarTalk现在开始。

这是StarTalk特别版。我是尼尔·德格拉斯·泰森，你的私人天体物理学家。如果这是特别版，你就知道这意味着我们不仅有查克·奈斯。查克，你好吗，伙计？嘿，老兄。很高兴你一直是我的联合主持人。我们还有加里·奥赖利，前足球运动员，体育评论员。怎么了，人群？为他欢呼。是的，那是托特纳姆的人群。托特纳姆，是的。水晶宫，他们都是……

无论何时你在这间屋子里提到我的名字，都会产生人群效应。加里，你知道，有了特别版，你帮助StarTalk的这个分支所做的事情是关注人类状况以及与之相关的一切。身心灵魂。这将包括人工智能、对我们是谁以及我们是什么的机械增强。机器人技术。所以这很合适。

符合这个主题。所以带我们去本集需要的地方。在人工智能和机器学习时代，我们作为一个社会，自然而然地作为StarTalk，正在问各种关于人脑的问题，它是如何工作的，以及我们如何将其应用于机器。

其中一个重要的问题是感知。你如何得到一堆神经元？我认为这是一个专业术语。是的，绝对是专业术语。在你头骨里理解外部世界。我们的嘉宾卡尔·弗里斯顿是世界领先的神经科学家之一，也是神经影像学、理论神经科学方面的权威，以及自由能原理的架构师。

他利用物理学启发的统计方法对神经影像数据进行建模，这是他的一个重大成功，他也受到机器学习领域人士的追捧。现在，让我简单介绍一下卡尔，他是伦敦大学学院的神经科学家和理论家，在那里他是一位教授，曾在英国剑桥大学学习物理学和心理学。

以及统计参数映射的发明者，该映射在世界各地的神经影像学中得到应用，以及许多其他令人着迷的事情。他拥有令人印象深刻的

荣誉和奖项，我们没有时间一一介绍。他会说英国英语。是的，所以他已经平衡了这一点。不再取笑英国人了，因为只有一个。好的。卡尔·弗里斯顿，欢迎来到StarTalk。非常感谢你们的邀请。我应该指出，我也会说美式英语。请别这么说。卡尔，这需要一定的文盲程度，我相信……

你并不具备。是的，请不要降低到我们的水平。让我们从一些事情开始吧。这是你开创的一个领域、一个原理还是一个想法，在我们笔记中被称为自由能原理？我作为一名物理学家来到这里，有很多类似物理学的词语围绕着你的工作。而且

在物理学中，它们的定义非常精确。我需要知道你如何使用这些术语以及它们以何种方式适用。所以让我们从这里开始吧。什么是自由能原理？正如其名，它是一个原理。而且，嗯，

本着物理学的精神，它因此是一种方法。就像哈密顿最小作用量原理一样。它只是一个处方，一个关于事物行为方式的形式化数学处方。

然后你可以用它来模拟、复制或解释事物的行为。例如，你可以应用最小作用量原理来描述足球的运动。自由能原理有一个特殊的应用领域。它讨论的是事物的自组织。

事物可以是粒子，可以是人，可以是群体。所以它实际上是一种描述事物自身组织成特征状态的方法。哇。

非常酷。

所以球从桌子上滚到地上。它不会从地上滚到桌子上。所以它寻求最低的地方。我最喜欢的一个例子是早上早餐麦片的盒子。

它总是会说内容物可能已经发生了一些沉降。是的。你打开一看，里面只有三分之二满。是的，三分之二的粉末。三分之二压碎的玉米片碎片。所以它正在寻找地球引力势能中的最低点。那么为什么需要这个新术语呢？

这是一个旧术语。我想，再次遵循美国主题，你可以将这种自由能追溯到理查德·费曼，可能是他的博士论文。所以他试图处理描述小粒子行为的问题，并发明了这种自由能作为一种代理，使他能够评估粒子走这条路径或那条路径的概率。

所以现在完全相同的数学方法已经被移植并应用于，不是粒子的运动，而是我们所说的信念更新。所以你应该介绍这个概念，即自然找到其首选状态，这可以被描述为滚下山坡到那些自由能最小值。这正是自由能原理背后的目标，但这里首选的状态是

是关于某个事物（比如你或我）存在的世界中的信念或表征的状态。所以这是与机器学习和人工智能的接触点。所以自由能不是热力学自由能。

它是一种自由能，它对你的大脑中对世界的解释是正确解释的概率进行评分。你现在可以考虑我们的存在，我们理解世界的方式以及我们的行为，我们采样世界的方式。

有效地像滚下山坡，沉淀到谷底，但以一种极其反复无常的方式，以一种漫游的方式，当我们以不同的时间尺度度过我们的日常生活时。所有这些都可以有效地描述为凝结在我们首选状态下的麦片盒底部。

哇。所以你，再次，我不想说一些不属于你的话。这只是我试图解释和理解你刚才描述的内容。你还没有提到神经元，它们是所有这些的载体，或者说是所有这些思想、记忆和对世界的解释的传递者。所以当你谈到世界理解的路径形成时，

这些路径是否追踪我们大脑中神经元的近乎无限的连接？你是在寻找神经元面对一种刺激与另一种刺激时会自然做什么？完全正确。事实上，从技术上讲，你可以用神经元动力学来描述神经元的轨迹或路径

神经细胞的放电恰好是在这个变分自由能上执行梯度下降。所以这确实是正确的，但我认为更直观的想法实际上是你刚才表达的想法，它可以追溯到控制论早期的良好调节器定理。这里的想法是，为了很好地适应你的环境，你必须成为那个环境的模型。

换句话说，为了通过你的感觉与你的世界互动，你必须拥有那个世界中因果结构的模型。而这种因果结构被认为是字面意义上嵌入在你大脑中神经元之间的连接中的。我最喜欢的例子是，

是某物在哪里和某物是什么之间的区别。在我们宇宙中，某个物体可以位于不同的位置。所以如果你告诉我某物是什么，我就不知道它在哪里。

同样，如果你告诉我某物在哪里，我就不知道它是什么。如果你愿意的话，这种统计上的分离实际上安装在我们的解剖结构中。所以，你知道，大脑后部有两个屏幕，一个处理事物在哪里，一个连接流处理事物是什么。然而，我们也足够灵活。当然，我不是在反驳。我只是试图进一步理解。

我们也足够灵活，如果你说，去帮我拿那个东西，你

好的。然后你给我那个东西非常具体的坐标。我不需要知道那是什么东西，我就能找到它，即使那里还有其他东西。是的。这说明了我们自身相当显著的一点，即我们实际上拥有我们所生活世界的模型，这个模型具有可以导航的几何形状，因为我们的前提是你拥有自己的模型，

在一个世界中移动，并且你知道你的身体是如何工作的。我这里很想提到腹股沟，但我不知道为什么。查克几天前伤到了腹股沟。这就是他一直在谈论这个的原因。我们自从那以后就都听说了。卡尔，

我听到“主动推理”这个词，然后我听到“贝叶斯主动推理”这个词。让我们从主动推理开始吧。它是什么？它在认知神经科学中扮演什么角色？主动推理，我认为最简单的说法是，它是我们正在讨论的这个自由能原理的应用。所以它是一种描述或应用数学来理解我们如何思考

以一种有感知的方式行事。所以主动推理旨在强调感知（本着亥姆霍兹的精神，读作无意识推理）

取决于我们主动从环境中获取的数据。所以我看到的东西取决于我目前正在看的地方。所以这说明了主动感知的概念。你讲得太快了。对不起，伙计。我正努力跟上呢。但是你刚才讲得太快了，卡尔。你谈到了感知，感知，

是一种以某种方式与潜意识相关的推理。但是当你，你能再说一遍吗，拜托？为了明确起见，他讲得很慢。没错。不是他讲得快。不。是你跟不上。好吧，听着，我没有问题。好的。我不介意跟不上，这就是为什么我从未被落下，顺便说一句。我不介意跟上，因为我会说，等等。所以无论如何，你能为我分解一下吗？

当然。我试图以纽约的速度说话。我道歉。我将恢复伦敦速度。好的。让我们从头开始。意义建构，感知。我们如何理解世界？我们被锁在里面。我们的大脑被锁在头骨里。里面很黑。除了你的眼睛、耳朵或皮肤、你的感觉器官所传达的信息之外，你什么也看不到。

所以你必须理解从你的感觉器官、你的感觉上皮细胞传来的这些非结构化数据。

你可能会怎么做呢？对此的答案，或对此的一个答案，可以追溯到柏拉图时代，通过康德和亥姆霍兹。所以亥姆霍兹提出了无意识推理的概念。这听起来非常辉煌，但非常非常简单地说，如果你的大脑里有一个模型，说明你的感觉是如何产生的，

那么你可以使用这个模型来预测，如果这是正确的起因，如果你得到了正确的假设，你会感觉到什么。如果你的预测与你实际感知到的相符，那么你可以证实你的假设。

所以这就是推理进入游戏的地方。这非常像一位科学家，她必须使用科学仪器，比如显微镜或望远镜，才能获得正确的数据来检验她关于宇宙结构的假设，关于通过她的仪器测量出的外部事务的状态。

所以这可以被描述为，这种假设检验，将你关于外部事务状态的幻想、假设、信念通过采样数据和检验假设来检验。这只是推理。所以这就是推理进入游戏的地方。这些是在建立客观现实的过程中微小的步骤。

有些人，他们的模型与他们可能对外部世界做出的预测不符。他们将生活在一个你无法认同客观真理的虚幻世界中。这将是精神错乱或其他神经系统脱节的客观衡量标准。真的吗？我的意思是……

真的是吗？好吧，如果你将你自己的幻想世界投射到现实中，并且你知道它不合适，但这是你想要的，那么这就是一种功能障碍。你没有与之合作，你是在对抗。但我们现在生活在一个幻想功能障碍的时代……

实际上有其地位，与詹姆斯·卡梅隆聊一会儿，你就会看到这种快速的幻想功能障碍创造了一个世界，我们现在将其视为一系列电影，所以它真的那么异常，以至于你知道它是一种功能障碍，还是仅仅不同

我认为他试图创造艺术而不是强加。是的，所以卡尔，如果每个人都始终客观地看待世界，那么艺术还有存在的空间吗？哦，这是一个好问题。是的，真的。干得好，先生。我要说我认为我是这个问题的灵感来源。是的，查克启发了这个问题。所以这个问题的每一方面都有其作用。

感知现实正确，绝对正确，所以只是为了拾起其中几个主题，但最后一点我认为非常关键，主动推理的一个应用的一个用途当然是理解精神疾病，所以当人们对他们所生活世界的模型并不完全适合他们所处的境地时，你是绝对正确的

假设某些事情发生了变化，比如你失去了一位挚爱，所以你的世界发生了变化，所以你的预测和你处理日常生活的方式（无论是社交上还是身体上）现在都发生了变化。所以你的模型不再适合这个世界了。

正如查克之前所说，大脑具有令人难以置信的可塑性和适应性。所以你可以做的是，你可以利用你预测将会发生的事情和你实际感知到的东西之间的错配来更新你对世界的模型。在我之前说这是个模型之前……

能够生成你将在特定假设或幻想下看到的预测。为了与人工智能建立联系，这是生成式人工智能。它是在一个生成模型下进行的智能预测，该模型正是由我们之前谈到的脑中的连接所包含的。当您重新适应变化时，它就是自由能原理的体现。它正在寻找新的根源。

这些大概更准确

你对世界的理解越深刻，自由能状态就越低，还是越高还是越低？是什么？它更低。是的，这是绝对正确的。所以实际上，从技术上讲，你知道，如果你进入认知神经科学领域，你会发现过去十年中朝着预测处理和预测编码这一概念的大规模转变，这再次仅仅依赖于这种重新想象

这意味着我们的大脑是建设性器官，从内到外产生感觉的预测，然后错配现在是一个预测误差，预测误差然后被用来驱动神经动力学，然后允许这种修正更新我的信念，这样我的预测现在是

准确的，因此预测误差被最小化。关键是，为了技术性地回答你的问题，驱动你下坡的自由能梯度只是预测误差。所以当你最小化你的自由能时，你就消除了预测误差。绝对的。优秀的。除非你的环境发生其他变化，否则你不会上坡。与朋友们一起前往轻松的马里兰海岸。

谢谢。

本集由欧宝赞助播出，欧宝是美国首款非处方每日口服避孕药。欧宝获得FDA批准，具有完整的处方药强度，并且不含雌激素。此外，无需处方。最后，需要处方才能获得避孕药的日子结束了。欧宝可在网上和大多数大型零售商处购买。使用欧宝掌控您的健康和生育之旅。掌控您的避孕。在opel.com上使用代码birthcontrol享受首月欧宝25%的折扣。

我们都希望看到我们所爱的人过着最好的生活，但当他们正在与毒品和酒精作斗争时，这很难。近70年来，卡伦使许多人能够想象超越成瘾的生活。我们将先进的神经科学与改变人生的护理相结合。访问CARON.org。卡伦，治疗的科学与关爱的核心相结合。现在大多数保险公司都在网络内。那就是CARON.org。

我是来自孟加拉国的凯斯，我在Patreon上支持StarTalk。这是尼尔·德格拉斯·泰森主持的StarTalk。所以如果我们回顾早期人类和可预测性。所以我正在走，我看到一只狮子在高高的草丛中。我开始预测什么？如果我爬到足够高的树上，那只狮子就抓不到我。但如果我沿着地面跑，那只狮子可能会抓住我。这是我们为了生存而产生的进化吗？

是的。或者我完全误解了这一点？不，不，我认为这是一个很好的观点。好吧，让我们想想能够准确预测你在特定情况下会感知到什么，从而也预测接下来会发生什么意味着什么。

如果你能用你的环境做到这一点，并且你已经到达了麦片盒的底部，并且你已经最小化了你的自由能，最小化了你的预测误差，那么你现在就可以适应世界了。你可以以准确的方式对世界进行建模。这正是适应性。

所以如果你现在将这个过程视为在进化过程中展开，那么你现在可以将变分自由能或其负值解读为适应性。所以这立即告诉你，进化本身就是这些最小化自由能的过程之一。如果你愿意的话，它也在检验关于其环境居民的假设。

哪种生物体将非常适合这个特定环境。所以你实际上可以将自然选择解读为，在统计学中被称为贝叶斯模型选择。所以你实际上是在继承推理或学习

跨代地以一种最小化你的自由能、最小化你的预测误差的方式。所以被狮子吃掉的东西没有能力将自己传播到下一代，所以最终所有东西都位于麦片盒的底部，避免狮子，因为只有它们才能在那里，因为其他的东西没有最小化它们的自由能。

是的，除非，加里，在你这么说之前你已经生了孩子，“我想知道那是不是灌木丛中的狮子”。但如果他们有我的基因，那么就有一只狮子带着他们的名字。完全正确。卡尔，我想和你分享一个观察结果，然后我想把话筒交给加里，因为我知道他想深入探讨人工智能方面的内容。我记得道格拉斯·霍夫施塔特的一本书。可能是《哥德尔、埃舍尔、巴赫》，或者……

或者他还有几本非常精彩地探索身心关系的书。在他的一本书的结尾，有一个附录，我不记得了，与爱因斯坦的大脑进行了一次谈话。我对自己说，这太愚蠢了。这到底是什么意思？然后他进去描述了这样一个事实：想象一下，爱因斯坦的大脑在他死的那一刻被保存下来。所有神经突触元素都还在原位。

它就坐在一个罐子里。你问一个问题。这个问题进入他的耳朵，转化为触发神经突触放电的声音。它只是在大脑中移动。然后爱因斯坦回答了这个问题。这种设置方式很有趣。

就像，是的，我可以想象在遥远的未来某个时候会发生这种情况。现在，也许这个的现代版本是你上传你的意识，然后你问你罐子里的脑子，但那时它不是生物的。它在硅中。但我问的是进入爱因斯坦大脑的信息，在这个思想实验中，大概是

触发他的想法，然后他需要回答这个问题，因为它被提为一个问题。你能评论一下这个练习吗，探测一个坐在那里等待你问它问题的大脑的练习？我的意思是，这是一个非常具体且有趣的预测处理的例子，因为我们在这里谈论的是语言和交流。

并且请注意，你提出这个问题的方式为大型语言模型提供了一个很好的过渡。但也要注意，它不是我们在主动推理中谈到的那种具体化智能，因为大脑在身体中，大脑是具体化的。大脑实际上负责的大部分工作是移动身体。

或分泌。事实上，这是你改变宇宙的唯一两种方式。你可以移动肌肉或分泌某些东西。你没有其他方法可以影响宇宙。所以这意味着你必须以某种方式部署你的身体，以采样正确的信息，使你的模型尽可能地适应或适应。所以查克，你听到他说的了吗？这意味着你不能用你的大脑来弯曲勺子。

对。告诉尤里·盖勒去。对。为了澄清。好的。所以我试图暗示，因为我怀疑它会在以后的谈话中出现，我认为，大脑和瓦塔（大型语言模型）之间存在差异，它是大量知识的具体化。所以人们可以想象，比如，大型语言模型有点像爱因斯坦的大脑，但爱因斯坦加上100个单词。

可能是数百万其他人的历史以及所有已写内容的历史。你可以通过向它提问来探测。事实上，有一些人的整个职业生涯现在都是提示工程师。人工智能提示。有趣的是，那些……

编写人工智能程序的人，然后离开那份工作成为提示工程师。负责创建最佳提示以从人工智能中获取更多信息的人。所以这是一个相当迷人的行业，他们创造了自己的反馈循环，使自己受益。现在你可以开始争论，智能在哪里？它在提示工程师那里吗？

作为一名科学家，我会说智能就在那里。这就是感知行为发生的地方。是提出问题，而不是产生答案。这是简单的一点。

它当然是在以正确的方式质疑世界。并且请注意，我们都在做什么？你的工作是什么？是提出正确的问题吗？卡尔，我可以问你这个问题吗？主动推理会导致我们错过确实发生的事情吗？其次，似曾相识现象是否符合这一点？是的，是的。从某种意义上说，主动推理……

实际上是关于以正确的方式错过可测量或可观察的事物。所以关于自然智能和成为一名优秀科学家的另一个关键点

只是指出，发现红外线是一种创造行为。那是艺术。那么它从哪里来呢？来自某人关于电磁辐射结构的模型。所以我认为……

为了拾起我们之前错过的一点，创造力和洞察力是这种问答的涌现属性，是为了改进我们对特定世界的模型。回到错过的事情上来，我总是很着迷于我们能够移动的方式取决于忽略我们没有移动的事实。

所以我现在谈论的是认知科学中的一种现象，称为感觉衰减。而这是一种相当矛盾或至少违反直觉的现象

为了开始运动，我们必须忽略并关闭并抑制任何关于我们目前没有移动的感觉证据。我最喜欢的例子是移动你的眼睛。所以如果我让你跟踪我的手指，当我把它移过屏幕时，你移动你的眼睛非常非常快，

当你的眼睛在移动时，你实际上并没有看到正在产生的视动，因为你正在使用一种叫做扫视抑制的东西。这是大脑非常巧妙地知道我引起的特定视动是假新闻的反映。

所以忽略假新闻的能力对于我们对世界的良好导航和移动绝对是必不可少的。是假的还是与当下无关？如果是《纽约时报》，那绝对是假的。假新闻。但这与其说是假的，不如说是与手头的任务无关。这不是不同的……

为了谈话的简单性，这是一个微妙的问题。然后我将“假”解读为无关紧要、不精确。所以就像它不可用一样。所以你大脑基本上只是把它扔掉了。就像，这里没什么好看的。所以把它扔掉。所以，尼尔，这更像是你的后院，而不是我的。但这不是矩阵的先决条件适合的地方吗？

我们的感知可能与实际存在的事物不同，然后感知可以被操纵或重新创造？好吧，我认为卡尔的子孙们会把我们都放在罐子里。他说话的方式。卡尔……

科尔，你的实验室是什么样的？全是罐子。是的。嗯，有好几个培养舱，我们有一个在等你。是的，在1999年上映的电影《黑客帝国》中，大约25年前，四分之一个世纪前，这很难让人相信。什么？这非常坦率地表明，你大脑中的现实是你认为和理解的现实，它没有接收外部输入。

你大脑构建的一切都与外部事物脱节。

如果你有足够的亲身经历，或者也许在他们描述的未来，大脑可以植入记忆。这让我想起，阿诺德·施瓦辛格演的那部关于火星的电影是什么？《全面回忆》。《全面回忆》，谢谢。滚去火星。与其花数千美元去度假，他们不如在你脑中植入度假的记忆。绕过感觉管道

进入你的大脑。当然，这些都是电影，是故事，是科幻小说。它到底有多科幻？好吧，我当然认为背后的哲学，我认为，可能既有《全面回忆》，特别是《黑客帝国》，

我认为这是非常真实和非常现实的。回到我们对患有精神疾病的人或可能具有奇特观点、世界观的人的理解

你理解世界的方式可能与我理解世界的方式大相径庭，这取决于我的历史、我的倾向和我的奖赏，我到目前为止学到了什么，以及我选择关注的信息。所以继续这个主题

忽略99%的所有感觉。例如，查克，你现在在想你的腹股沟吗？我敢保证你没有，然而它正在从神经末梢产生感觉冲动。

但是，在此时此刻，你并没有选择它。因此，选择的能力我认为是智力和能动性的一个基本部分。因为选择意味着你没有关注或选择你能选择的事情中的99%。所以我认为选择的概念

是真正智能行为的标志。你是否将其比作大型语言模型，因为它可以给你胡言乱语，它可以在线找到世界上任何地方的垃圾，但因为你精确地提示了它，它只会找到必要的信息并忽略其他所有信息？

是也不是，但这是一个很好的例子。所以，“是”的部分是使大型语言模型工作的特征架构位，特别是那些使用转换器架构实现的模型，被称为注意力机制。

所以它与我们之前谈到的注意力选择方面的机制、基本机制完全相同，这就是转换器的工作原理。所以它们选择最近的过去来预测下一个词。这就是它们工作的原因，选择性地挑选过去的东西，忽略其他一切。

使它们工作。当你谈到LLM中的概率时，该概率是一个数学方程，对于该模型输出的每一个字母都会发生。所以它实际上只是给你下一个词出现的最佳概率。

好的。而当我们感知事物时，我们是从世界观出发的。对于LLM来说，如果你向它展示一个带有红色条纹的球的图片，它旁边是一所房子，好的，并说，这是一个球，然后向它展示一个女孩手里拿着球并正在弹跳的图片，

它会说，好吧，那可能是一个球。那可能不是一个球。而如果你即使向一个两岁的孩子展示，这是一个球，然后把这个球放在任何情况下，婴儿都会看着它说，球，球。所以我们在这里谈论的智能类型是有区别的。

是的，我认为这是恰当的。绝对正确。这就是为什么我说“是也不是”。所以在大型语言模型中看到的这种流畅性非常引人注目，很容易让人产生这些东西具有一定的理解或智能的错觉，但它们没有正确的生成模型理解。

在下面能够像我们一样在不同的环境中概括和识别球。好吧，如果设置正确的话。而这种设置与你阅读场景没有什么不同。我的意思是，警察闯入房间就是这样做的。你知道，谁是罪犯，谁不是，在你开枪之前。你必须从外部刺激中提取一种即时的意识因素。所以……

因为，你知道，我在这里想起了，卡尔，我看到一个这种纽约客风格的漫画，其中有两条海豚在一个水，你知道，公园里游泳，对吧？所以它们被圈养了。但是这两条海豚正在游泳，一条对另一条说，关于沿着泳池边缘走的人，那些人类，他们面对面发出声音，但并不清楚他们是否真的在交流。不清楚。

那么，如果我们无法分辨出差异，我们凭什么说AI大型语言模型不智能呢？谁在乎它是如何生成它的呢？如果它得到了你想要的结果，你会说，哦，好吧，我们很聪明，它不是？有多少只是人类的自负在作祟？好吧，我肯定这是人类的自负在作祟，但在技术意义上。我认为……

好的，你说有一个漏洞，因为我不会说蜜蜂不聪明，当它们跳着摆动舞告诉其他蜜蜂蜂蜜在哪里时。我不会说白蚁不聪明，当它们建造的东西比它们大一千倍时，当它们建造白蚁丘时，它们都合作。我厌倦了人类

试图说我们与世界上其他拥有大脑并做事情的生物相比有多么特殊我们做不到让我问你。那么，白蚁、蜜蜂和警察阅读场景之间有什么共同点呢？这三者都有什么共同点？所有这三者都移动并

而大型语言模型不会。不会。所以这又回到了这个行动，主动推理的主动部分。所以关于大型语言模型和注意力的问题的要点是，大型语言模型只是被赋予了一切。

它们被赋予了所有数据。它们不需要选择哪些数据对学习最有用。因此，它们不必构建表达性、适合目的的世界模型或生成模型。而你女儿，那个两岁的女儿玩沙滩球，必须通过移动和选择性地阅读场景，通过移动她的眼睛，

通过观察她的身体，通过在不同的环境中观察球，建立一个更深层次、更合适的世界的或老年痴呆症模型，这将使她能够在这个环境和那个环境中识别球，并最终告诉她父亲，我正在玩球。和朋友们一起前往轻松的马里兰海岸，在那里你们可以在抛锚时赶上进度，在闲逛时尽情享受。

在那里，一天的航行从不无聊，全速前进是乐趣的一半。在那里，你可以推杆进洞，举杯庆祝，总有空间再玩一轮。马里兰州大西洋城。值得微笑的地方。在ococean.com上预订您的行程。

本集由欧宝赞助播出，欧宝是美国首款非处方每日口服避孕药。欧宝获得FDA批准，具有完整的处方药强度，并且不含雌激素。此外，无需处方。最后，需要避孕药处方的日子结束了。欧宝可在网上和大多数大型零售商处购买。使用欧宝掌控您的健康和生育之旅。掌控您的避孕。在opel.com上使用代码birthcontrol享受首月欧宝25%的折扣。

我爸爸从事B2B营销工作。他来我的学校参加职业日，说他是一个ROAS高手。然后他告诉大家他多么喜欢计算他的广告支出回报率。我的朋友至今仍在嘲笑我。并非每个人都了解B2B，但有了LinkedIn，你就能接触到那些了解的人。在您的下一个广告活动中获得100美元的信用额度。访问linkedin.com/results领取您的信用额度。网址是linkedin.com/results。适用条款和条件。LinkedIn.com/results。

LinkedIn，最佳去处。

所以我们与布雷特·卡根进行了一场精彩的节目，他提到了你的自由能原理。在他的工作中，用神经元创造计算机芯片，人们称之为类器官智能，他称之为合成生物智能。这在我们档案馆里。在我们最近的档案中，实际上。最近的档案，是的。你认为AGI的答案是生物解决方案、机械解决方案还是两者的混合？并提醒人们AGI是什么。

人工通用智能。我知道这就是这些词的含义，但它是什么？你没有问我答案。也不要问我。说真的，我被告知不要再使用这个缩写了，因为它定义不明确，人们对它的解读也大相径庭。所以OpenAI对它有非常具体的含义。如果你与其他理论家交谈，他们会代表它。

我认为人们正在寻找的是自然智能。它是自然的。

查克，回到你之前的主题，请注意我们正在谈论的是行为系统，能够行动、移动、选择并以聪明的方式进行自身数据挖掘的系统，而不是仅仅摄取所有数据。所以我认为人们谈论超级智能或通用人工智能或人工智能时，他们的意思只是自然智能。

他们真正指的是我们。是我们的头脑。我们的头脑，如果你想知道AGI是什么，那就是我们的头脑。如果它真的是我们的头脑，那将是自然的愚蠢。好吧，也是。没有愚蠢的我们的大脑。这才是它真正的样子。所以在2022年12月，你发布了一篇题为《从第一性原理设计智能生态系统》的白皮书。

现在，这是未来10年或更长时间的路线图，还是通往终结者的最终目的地？然后在某个时候，你讨论了从AI转向IA的想法，IA代表智能代理。

这似乎非常像朝着感知行为的架构发展。我是否误读了这一点？不，你读得完全正确。所以这篇白皮书是与业界同事一起撰写的，特别是与AI公司一起，作为一个路线图，对于那些致力于人工智能未来的公司

更可持续的，明确致力于转向自然智能以及你想要进行的所有仿生运动，包括在神经形态硬件上的实现、量子计算的光子学，所有这些高效的方法

在气候变化方面将是可持续的，例如。但也要谈到查克关于效率的概念，效率也是，如果你愿意的话，自然智能的诱饵，因为如果你可以将

智能行为描述为这种下坡运动，追求自由能梯度，最小化自由能，到达串行包的底部。你通过最小的行动路径来做到这一点。这是最有效的方法。不仅在信息方面，

而且在使用的电力量和留下的碳足迹方面也是如此。因此，从可持续性的角度来看，我们必须正确地做到这一点非常重要。因此，这篇白皮书的主题部分是说，还有另一种前进方向。远离大型语言模型，大型就在标题中。它很诱人，但也非常危险。它不应该很大。它应该像蜜蜂一样大小。所以要生物地去做……

你应该能够更有效地做到这一点。当然，这里的梗是，我们的大脑工作功率是20瓦，而不是20千瓦。我们比任何大型语言模型做得更多。我们拥有低能耗智能。我们做到了。高效。我想这是表达它的方式。我看到你被引用过，卡尔，说我们正在走出信息时代。

并进入智能时代。如果是这样的话，智能时代会是什么样子？或者我们已经讨论过了吗？好吧，我认为我们现在正处于它的初始阶段，仅仅是因为我们周围发生的所有美好的事情以及我们正在讨论的事情。我们正在问一些关于正在发生的事情以及未来十年将会发生的事情的非常大的问题。

我认为对这个问题的部分答案在于你之前对AI和IA之间转换的暗示。所以IA将能动性纳入其中。所以一个深刻的问题是，当前的生成式AI是否是

能动的？它是一个代理吗？大型语言模型是一个代理吗？如果不是，那么它就不能是智能的，当然也不能具有通用智能。那么，作为代理的决定性因素是什么？我把它作为一个问题提出来，一半期待一个笑话。我的脑海里浮现出史密斯探员，如果有人能抓住这一点并继续下去的话。就是这样。现在你听到人们评论一个决定的道德性。

以及一个决定是否对文明有益。每个人都害怕人工智能获得意识，并宣布没有人类的世界会更好。我认为我们害怕这一点，因为我们知道这是真的。是的，我本来想说，我们已经得出这个结论了。这就是问题所在。好的，卡尔，意识与自我意识相同吗？

是的，有很多你可以向他们提出这个问题并得到更好答案的人。我会说，这次谈话的目的，可能不是，不。我认为要有意识，当然要有感知能力并以感知的方式行事，并不一定意味着你知道自己是一个自我。我很确定蜜蜂没有自我意识，但它仍然有感知能力。它仍然有经验和计划，

并以一种智能的方式进行交流和行为。

你也可以争辩说，某些人并没有完全发展起来的自我意识。我说的是非常严重的精神疾病。所以我认为自我意识是一种特殊、非常复杂、非常深刻的生成模型的馈赠，它不仅能理解我的行为的后果，而且

还能理解我是一个代理的幻想或假设，我是一个自我，并且能够以一种元认知的方式进行自我反思。所以我认为我会区分自我意识和仅仅能够感知行为。哇，这太棒了。让我在这里扮演一下怀疑论者。

温和的怀疑论者。你已经描述了，你已经用一个模型解释了人类的决策和行为，该模型将我们的感觉、大脑外部与我们对进入我们大脑的信息所做的处理之间的感觉管道联系起来。你已经应用了这个自由能梯度，这个信息遵循这个梯度。听起来不错。一切都听起来很好。

我不会与你争论这一点，但以这种方式思考事物对我们有什么好处？或者它只是在我们已经知道的事情之上事后添加的装饰，但现在你用更花哨的词语来表达它？这个模型有预测价值吗？或者你的预测能力是因为当你假设这是真的时，你实际上可以在人工智能市场上实现它？

是的，我认为这是关键。所以，我的意思是，当我被问到这个问题时，或者当我问自己这个问题时，我将其应用于像汉密尔顿最小作用量原理这样的东西。

为什么这有用？好吧，当你真正建造东西时，它就变得非常有用。当你模拟事物时，它就变得非常有用。当某些东西不符合汉密尔顿最小作用量原理时，它就变得有用。所以只是为了解开这些在应用自由能原理方面的旅行方向，这意味着你可以写下

运动方程，现在你可以模拟具有这种自然智能、这种自然感知行为的自组织。你可以在机器人、人工制品、终结者中模拟它，尽管严格来说，这将不符合能量原理。但你也可以在计算机中模拟它，并制作人和物体的数字孪生体

选择、决策和意义建构。一旦你可以模拟，你就可以将其用作真实人工制品的观察模型，并开始对成瘾者、非常有创造力的人或精神分裂症患者进行表型分析。

所以，如果你可以将异常推理或错误推理（相信存在不存在的东西，反之亦然）视为一个推理问题，并且你知道意义建构和推理的原理，并且你可以在计算机中建模，那么你现在就可以得到一个印章，你现在就可以

不仅可以通过调整模型以匹配某人的观察行为来进行表型分析，现在你还可以进行计算机模拟的合成药物或脑部手术。所以了解事物如何运作有很多实际应用。当我说明事物如何运作时，事物如何行为。这假定你的模型是正确的。例如，就在几十年前，人们认为，而且我认为现在不再这样认为，我们的大脑通过神经网络运作。

神经网络，它是一棵决策树，你沿着树向下滑动以做出越来越精确的决策。基于这个假设，我们随后在我们的软件中镜像了这一点

在我的领域，在天体物理学中调用神经网络决策。我们如何决定哪些星系值得研究，而其他数百万个星系在数据集中呢？你只需将所有内容都放入一个神经网络中，该网络具有参数，可以选择我们最终可能在该努力结束时

确定为有趣的特征。我们仍然调用它，但我认为这不再是我们大脑工作方式的模型了。但这没关系。它对我们仍然有帮助。你是对的。老实说，这就是人工智能现在围绕我们看待大脑工作的新方式进行组织的方式。是的。为什么大脑是应该模仿的模型？

我的意思是，人类生理系统充满了包袱，进化包袱。其中大部分对我们今天没有用处，除了坐在那里等待被广告商或其他人利用，他们将利用我们3万年前生存时具有的某些特征。而今天，它只是悬在那里等待被利用。所以……

直接回答你的问题。自由能原理实际上是对具有特定首选或特征状态的事物自组织的描述或配方，回到我们开始的地方，也就是麦片盒的底部。如果这就是我居住的地方，如果我想在那里，那就是我感到舒适的地方，那么我可以给你一个微积分，它将针对任何给定情况，

规定动态、行为、意义建构和选择，以让你到达那个点。它不是对最佳位置或该存在最佳体现形式的规定。它是在说，如果你存在，并且你想以可持续的方式存在，

它可以是演讲，也可以是模因。在给定的环境中，是的，在给定的环境中。是的，这都是关于关系的。这是一个非常关键的点。所以我们一直在谈论的变分自由能，预测误差，是衡量某物与其宇宙或其世界耦合方式的一种度量。它不是关于孤立事物的陈述。它是契合。

它，你知道，再次，如果你只考虑预测误差的概念，那么就有一些东西在预测，也有一些东西被预测。所以这一切都是相关的。这一切都是观察性的。它是适应性适应性的度量。这是一个重要的澄清。是的。卡尔，你能用几句话来解释贝叶斯推理吗？对于那些甚至声称了解一些统计学的人来说，这是一个新词。这是一种使用……

你已经知道是真实的东西来帮助你决定接下来会发生什么。贝叶斯推理除了这一点之外还有什么更微妙之处吗？我认为你刚才说的抓住了关键点。这一切都是关于更新的。所以这是一种描述

推理的方法，人们只是意味着概率地估计最佳解释，这是一个持续进行的推理过程。所以有时这被称为贝叶斯信念更新，在面对新数据时更新一个人的信念。你如何以数学上最佳的方式进行这种更新？你只需取

新的证据，新的数据。你使用贝叶斯规则将其与你在看到这些新数据之前建立的先前信念结合起来，以给你一个事后的信念，有时称为后验信念。因为否则你只会提出一个假设，假设你对系统一无所知，而这并不总是获得

答案的最快方法。是的，你可以争辩说这并不重要。你不能那样做。它必须是一个过程。它必须是通过某个下方空间的路径。你总是在更新，无论是在进化尺度上，还是在这次谈话期间。你不能从头开始。你使用“信念”这个词的方式

在这里，在美国，我们可能会使用“证据支持”这个词。所以这并不是说我相信某事是真的。通常，“信念”这个词只是，好吧，我相信耶稣，或者耶稣是我的救世主，或者穆罕默德。所以信念就是无论你告诉我什么，我都会相信，因为那是我的信念。我的信念受宪法保护。

基于这些理由，当你通过数据进行科学研究，并且更多数据来支持它时，我将赋予结果以信心。

由支持它的证据来衡量。所以这是一个证据支持的信念。是的。我想如果我们必须说信念，你的信念有多强？它是由支持它的证据的强度来衡量的。是的，我们必须这样说。所以加里，在我们着陆这架飞机之前，你还有什么问题吗？是的，我有。因为如果我认为我们是人类，我们有……

可悲的是，我们中的一些人经历了精神病发作，精神分裂症。如果有人出现幻觉，那么他们的脑海中就会出现神经系统问题。然而，我们被告知人工智能也会出现幻觉。

我不知道。人工智能会患上精神疾病吗？人工智能只是学会了说谎。就是这样。你知道，你问它一个问题，它不知道答案，它就像，好吧，这个怎么样？这就是我们在学校所做的，对吧？你不知道答案。你编造一些东西，它可能是对的。对，没错。答案是什么？啊，火箭？哦，是的。

好的。是的，几个月前我与加里·马库斯在达沃斯交谈过，他告诉我他发明了这个词，或者在他的语境中使用了“幻觉”这个词。我认为它成为了一些圈子里的年度词汇。

我认为他现在后悔了，因为他使用它的精神在技术上与人们出现幻觉的方式大相径庭。我认为这是一个非常重要的问题，你知道，理论家和神经科学家必须考虑理解大脑中的错误推理。并且只是为了继续……

尼尔的观点，当我们谈论信念时，我们谈论的是你无法表达的次个人、非命题贝叶斯信念。这是大脑概率地编码其感觉原因的方式。当然，如果你把这个推理过程搞错了，你就会容易推断出不存在的东西存在，

这基本上就是幻觉和妄想，或者推断出存在的东西不存在。这也会发生在我们一些人身上，例如忽视综合征、分离综合征、歇斯底里综合征。这些可能是毁灭性的疾病，你只是推理错了。所以理解这种失败推理的机制。我认为，例如，幻觉绝对至关重要。它通常可以追溯到我们之前谈到的关于选择事物的能力

与忽略不同部分数据的能力。所以，如果你失去了忽略事物的能力，那么你往往会排除理解它的能力，因为你总是关注感觉的表面结构。例如，严重的孤独症。你可能无法克服情感的轰炸

所有感官的所有部分场景的所有感官模式的感官输入。一切都活着，对吧？伙计们，一切都活着。我想我们必须在这里结束。卡尔，这非常有启发性。是的，好东西。有趣的是，尽管你到目前为止已经取得了如此多的成就，但我们内心深处都知道这仅仅是一个开始，谁知道未来一年，更不用说五年了，会把这一切带到哪里。

检查一下你，看看你在你的地下室里做了什么，这将很有趣。和布里特一起，尼尔，是车库。哦，车库。你们没有地下室。地下室更像是车库。我们出去创造很多美好的事物。没错。没错。

好的，卡尔教授，感谢您的加入。好吧，非常感谢你们的谈话，特别是笑话，这些是我做过最痛苦的笑话。感谢您从伦敦加入我们。谢谢。从我们美国这边的时间来看，时间发生了变化。再次，我们很高兴您能在这个StarTalk特别版中与我们分享您的专业知识。

好的，查克，很高兴能有你，伙计。一直很荣幸。好的，加里。荣幸，尼尔。谢谢。我是尼尔·德格拉斯·泰森。你是一位私人天体物理学家，一如既往地祝你抬头仰望。和朋友们一起前往轻松的马里兰海岸，在那里你们可以在抛锚时赶上进度，在闲逛时尽情享受，在那里一天的航行从不无聊，全速前进是乐趣的一半。

在那里，你可以推杆进洞，举杯庆祝，总有空间再玩一轮。马里兰州大西洋城。值得微笑的地方。在ococean.com上预订您的行程。