Are We Making AI Too Human?, with James Evans
31:18 Share

想象一下，一种如此复杂的AI预测算法，它不仅能预测下一个重大科学突破，还能预测是谁会发现它。

你知道，模拟集体结果的能力正在显著提高。就像《少数派报告》一样，但我们不是阻止犯罪，而是发现科学天才。事实上，我正在尝试为实验室构建一个小型AI人类学家来构建一个实验室，你知道，构建一个实验室模型来采访人们。它会参加实验室会议。它会查看人们正在阅读的内容。那是芝加哥大学的社会学家詹姆斯·埃文斯，

数据科学家和谷歌研究员。

早在ChatGPT出现之前，他就已经在预测科学突破以及究竟是谁会在背后推动这些突破。我确实在我知道的大学里预测过人们正在研究的事情，而这些事情都沉浸在可能的、可组合元素的空间中。所以，这对于他们来说似乎是完全自然的事情。他们会说，“哦，是的，那是，是的，我的意思是，这是我们正在研究的50件事之一。”而我在心里想，好吧，那是，

那就是将会……

但最近，埃文斯的想法更大。他不仅使用AI来研究我们如何进行科学研究，还在研究AI如何改变科学研究的实际方式。我认为我们已经从科学研究中看到了机器学习以及最近基于转换器的模型和聊天如何对科学产生积极和消极的影响

提前进行科学讨论。埃文斯在这里触及到了至关重要的问题。AI在科学领域的潜力巨大，但也存在风险。最让他夜不能寐的一件事是，由于对AI应该是什么样的危险假设，我们错过了扩展思维的可能性。

我认为，约翰·麦卡锡创造的，并受到艾伦·图灵启发的“人工智能”这一整个概念，是建立在一种智力概念之上的，这种智力概念就是人类主体，或者是作为对话者，或者是作为共同思考者。因此，我们真的要尝试去做一个智能生物所做的事情。我们都同意什么是智能生物。我们将尝试复制和捕捉它。看看我们如何评价AI的成功。

我们奖励那些行为像人类的AI。几乎每个基准测试都促使它们像人一样思考，以类似人类的智力来执行任务。但如果这是错误的目标呢？

如果我们需要的是一种完全不同类型的智力呢？你知道，工业革命不是关于复制人类的能力，而是关于巨大的互补性，创造人类无法做到、无法想象的事情。而这正是埃文斯现在正在做的。新颖的智力，根本不像我们那样思考。我认为是认知外星人，你知道，它们拥有

记忆、认知和感觉，你知道，这会扩展或跨越我们没有体验也无法体验的分析层面。我认为这些都是有可能以新颖的方式真正补充人类发现的东西。当然，构建这些外星人的思维方式意味着完全重新思考我们向AI提供的数据类型。因为现在，我们基本上被困住了。一切都是语言。人类语言。

我认为大型语言模型正是那些没有新颖感官能力的模型。所以我认为未来的模型将会更加广泛。它们将同时具有增强的感官能力和增强的表达能力。来自芝加哥大学播客网络，欢迎收听《Big Brains》，我们将探索正在改变我们世界的突破性研究和发现。我是你的主持人保罗·兰德。

加入我，让我们一起认识突破背后的思想。在今天的节目中，我们将重新思考我们如何构建AI科学家。芝加哥大学社会领导力倡议指导经验丰富的执行领导者从他们长期的职业生涯过渡到为社会服务的更有意义的领导力后续篇章。

该倡议目前正在接受其下一批研究员的候选人申请。你的下一章对你和社会都很重要。了解更多关于这种独特的奖学金经验的信息，请访问leadforsociety.uchicago.edu。

在过去的几十年里，詹姆斯·埃文斯一直在追踪一种令人不安的趋势。当他和他的团队使用来自大约9000万篇学术论文的18亿次引用设计了一个模型时，他们发现，尽管研究的总量在增加，但新颖突破性发现的数量实际上却在减少。

科学是由学科组成的。你知道，学科是问题或机遇集合与方法集合的结合，我们相信这些方法是追求这些机遇最有效的方式。它通常由这些部门中最资深的研究人员组织，他们基本上是在宣称未来是什么。

最有效的方法将是解决问题，但这些方法在过去是有效的，你知道吗？因此，这些方法对这些学科来说，存在着制度化的边际收益递减。为什么？因为当人们选择这些方法时，他们通常会将它们指向最有效的地方。因此，他们用这些方法解决的下一个问题，平均而言，他们就无法做得那么好了。所以你

你面临着系统可能减速的情况。我们也可以从人口统计学上看到这一点。随着科学的发展，随着科学家在他们的出版生涯中达到大约第10年，他们就开始系统地批评他们引用的作品。而他们批评的作品不成比例地是由年轻科学家创作的。所以有些事情

同事在一篇精彩的论文中将其识别出来，这篇论文名为《科学一次葬礼后前进》。他们研究了，在他们唯一能够研究这个领域的领域，因为这是唯一一个足够大的领域可以研究它，但在生物医学领域，他们研究了

意外死亡，例如车祸、侵袭性癌症等意外死亡。当人们在他们所识别的生物医学领域的子领域中死亡时，这些死亡与这些领域内的创新爆发有关。那么我们如何解决科学进步的减速问题呢？

AI登场。因此，可以设计AI不受这些人口统计和职业力量的压力和控制。但是我们如何设计AI至关重要。在一项最近的研究中，埃文斯的团队表明，我们目前使用AI的方式实际上可能会缩小科学领域，而不是扩展它们。

所以我们团队做的一件事就是，我们在自然科学中观察了AI在……

你知道，过去25年中的使用情况。我们系统地看到的一件事是，在他们的工作中明显使用AI的研究人员，他们的表现更好。因此，他们的职业生涯更好。他们提前2.3年获得终身教职。他们获得了更多引用。但是如果你看看最终被认可的学科，它实际上正在缩小。今天的AI只和我们提供给它们的数据一样好。

它们。因此，想要使用AI的科学家会自然而然地倾向于那些我们有足够数据来构建有用AI的领域。我们倾向于那些已经存在大量数据的地方。现在，我们历史上是如何生成这些数据的呢？好吧，因为我们相信理解它并预测它的功能，我们可以做得更好。我们可以更好地控制世界，更好地理解世界。所以这些已经是

我们最好的选择，即使没有AI。现在我们已经加入了AI，因为深度神经网络需要大量数据来学习所有这些参数，它需要我们拥有的最大、最好的数据。这就是为什么我们需要整个网络来学习一个看似合理的聊天机器人，你知道的。这意味着我们有点像是在扼杀或终结已经存在的领域。

而我们还没有使用AI来创造新的领域。所以有很多地方存在，例如在分析尺度上，例如低级粒子相互作用与高级生化相互作用之间的关系，甚至，我是一个社会科学家，高级社会学或生态学或宇宙学相互作用在高级实体之间。

而这些问题，你知道，我们还没有深入探讨过，因为低级信号相对于高级问题来说似乎非常稀疏，你知道的。我们甚至还没有收集数据。人们倾向于做的是将AI带到他们已经在关注的地方，它加速了该领域的科学发展。然后我们过度耕种了这个地区。是的，很好的比喻。是的。我们需要继续前进。这种缩小使科学更具可预测性。是的。

而且不一定是好事情。事实上，埃文斯的AI模型已经变得非常擅长预测不仅即将出现的新的发现，而且实际上是谁会做出这些发现。所以我们构建了这些关于

过去科学文献中思想是如何结合起来的以及是谁将它们结合起来的图景。我们通过基本上创建这些在文献中移动的随机游走来做到这一点。它们从属性跳转到具有该属性的论文，到撰写该论文的人，到该人撰写的其他论文，到这些新论文上的材料，到具有该材料的其他论文。如果你运行这些随机游走，它们最终会模拟信息的分布

根据我的经验做出的发现，我已经研究过A，我已经研究过B，所以我可以将它们结合起来，或者我研究过A，我与你一起工作过，你研究过B，所以A和B可以这样结合起来。因此，如果你运行这些随机游走，并且你有效地将它们嵌入或用这些大型转换器风格的模型学习它们，那么你就可以很好地预测未来人们会发现什么以及谁会发现它。

作为个人和实验室。当你谈到这一点时，这显然有一些令人兴奋的地方和好处，但也许回到这个想法，这实际上是有问题的吗？

如果它是有问题的，是因为真正会发生的突破不会发生在预测模型上吗？它们将是那些没有预料到会被发现或创造的东西，而这些东西实际上创造了最大的见解。是的，好吧，需要明确的是，我们构建这个，我称之为科学景观的数字双胞胎的原因，是为了避免它。那么我们如何避免它呢？

埃文斯认为答案在于创造以与人类完全不同的方式思考的AI。但是你如何构建这样的AI呢？例如，由于这些关于人们将要发现什么的模型，我们用它来构建其他AI，我认为它们是文化外星人。如果你可以构建一个AI来如此完整地理解整个科学景观，以至于它可以预测未来的发现……

那么你也可以训练该模型来避免所有这些预测的路径。在我们拥有对实际科学家和实际科学系统进行建模之前，我们无法构建外星人。就像如果我们不知道这个科学系统的庞然大物是什么样子，我们就不知道外星人是什么样子一样。

这些避免人类的外星人模型在物理能量相关材料、健康相关材料领域产生的预测，最终与甚至是一阶

这些空间内部属性的原理模型非常吻合。所以现在我们也正在与实验室合作进行测试。原因是由于理论的边际收益递减。如果你在一个空间区域有很多人的话，那么他们

然后他们发表成功的事情，他们不发表不成功的事情，所以有很多我称之为负面知识的东西隐藏在那里，这些空旷的空间，这些边界地带，很少有人知道，科学家不想独自一人在森林里死去，如果他们不成功的话，所以有很多低垂的果实

可以通过这些避免人类的模型来收获。好的，这真是太棒了。我喜欢这个解释。所以在某些方面，外星模型有助于跳过人类可能自己发现的东西

即使只是及时，或者在您刚才给出的例子中，让它来得更快，或者实际上将一些组合放在一起，根据目前的思维方式，这些组合很可能不会被创造出来。他们将不同的模型、不同的领域、不同的发现放在一起，得出一个可能从未被发现的东西。是的。是的。是的。什么是……

帮助我们推动该领域向前发展？以及哪些因素限制了我们向前发展的可能性？

这要求我们将AI不仅视为一种认知设备，而且还视为一种感觉设备。就像我们需要让AI在那里生成新的数据，搜索新的空间，以便它构建解释。它们不仅与现有的解释竞争，而且是在我们没有解释的地方生成解释。但是将AI视为感觉设备而不是认知设备究竟意味着什么？好吧，休息后再说。

我们如何改进工作中的沟通？麦肯锡前首席执行官为何入狱？

我们到底有多不理性？根据芝加哥布斯商学院的理查德·塞勒和哈佛大学的史蒂文·平克的说法。股票市场实际上有效吗？芝加哥布斯评论播客以世界领先的学术研究人员的见解，探讨了商业、政策和市场中的重大问题。我们以清晰直接的方式为您带来突破性研究。

无论您在哪里收听播客，都可以找到芝加哥布斯评论播客。为了创造真正外星人的AI，埃文斯说，我们需要设计关于我们使用哪种类型的数据以及如何将这些数据输入AI的新颖想法。最大的转变将是转向新的感官数据形式。

当他说AI需要新的感官时，他的意思是字面意义上超越人类局限性的感知世界的新方法。我认为这归结于von Uxel的想法，他是一位20世纪初的德国生理学家，他描述了umwelt。

所以这就像某种生命世界，动物的感觉世界。他的例子是壁虱。你知道，壁虱基本上测量的是哺乳动物释放出的某种酸，哺乳动物皮肤上毛发的存在与否。

以及与它们喜欢吸食血液的哺乳动物类型相对应的某种程度的热量。这个想法是，这就是感觉，这就是它们的感觉世界。这就是它们需要行动的感觉。而且，

每种动物基本上都有一个感觉世界，一个感觉器官，就像一个视觉、听觉、嗅觉和本体感觉的世界，在那里我们了解我们的内在自我，这使我们能够在该领域智能地行动。想象一下超人般的感官，对吧？例如，想想狗可以在人类其他测试诊断出来之前数年就闻到帕金森氏症的发现，对吧？所以有一个……

我们感觉器官中没有，但仍然存在的感觉能力的空间。生物可以检测到我们无法检测到的东西。振动感，电感。这些是我们进化谱系中可能拥有的，但由于我们已被其他事物所取代而失去的历史感官。我会说这类似于

扬·勒丘恩，他批评过那种语言AI只能让我们走这么远。在放射学领域的例子是，我们在过去100年中为人类的解释和消费创造了这些放射学伪影，从X射线到MRI。

它能从人类关注的这些世代或伪影中挤出什么，而人类过去没有发现呢？事实证明，它们可以，是的，它们可以识别和看到我们看不到的东西。但我们产生了这些伪影。我们使这些伪影扁平化。我们为了人类的理解和能力而降低了这些伪影的维度。你知道，所以我们如何……

我们如何开始再次打开它们？我们如何开始利用生物物理学来探索可能的表示空间，从而最大限度地提高这些新颖的智能、这些替代智能进行诊断、治疗、提供未来事件有效预后的能力？

治疗潜力等。所以现在我们有越来越灵活的智能认知，但我们只是插入了一个数据源，你知道吗？所以这就像我们基本上只是插入，你知道，我们从某个完全不同的空间为某个完全不同的目的生成的视频。我们不会让它们进化以最大限度地提高它们在一个特定空间中行动的能力，就像进化那样。

因此，如果我们观察科学进化史，我们会系统地看到理解上的重大进步来自新的感觉技术，对吧？所以对以前无法访问的波长、你知道的，或者

粒子大小或其他任何东西的新测量，这种判别能力。因此，如果我们真的希望AI让科学看得更远，我们就不能仅仅将它密集地应用于我们已经获得的感官数据。如果我们希望它与科学进步的任何进化相对应，我们将不得不利用它来主动学习寻找什么，来构建新的望远镜、显微镜和跨空间的感官设备。

好的，那么这是否促使我们认为我们可以拥有一个未来，在这个未来中，科学不一定是由人类完成的，但思考，也许这回到了科学哲学的互补性，将是人类发挥作用的地方，而科学发现工作将更多地由一些大型语言模型来完成？我认为这些模型将使我们能够做到的是，当模型以与整个人群的分布相同的方式来观察科学前沿时。

当令人惊讶的论文、专利或产品出现时，令人惊讶的是，你知道，我们没有预料到它们会到来。它们是由于感觉和理论的一些意想不到的结合而发生的，你知道，这使得这个东西或这个东西可见。然后我们可以将它们放入模型中。由于模型丰富的内部几何结构，我们可以说，好的，这个不太可能的事情变得非常可能。模型几何结构中五分钟前不太可能的事情，现在变得更有可能的事情还有哪些？我认为这将是政府、工业技术资助的一种独特而新颖的能力。所以这有点像，如果这个特定材料具有这个能量水平，如果这个，你知道，如果这个特定疗法对这种无法治疗的癌症有效，那么由于这件事

是真的，那么现在很可能为真的其他事情还有哪些？我认为这将是，是的，我认为构建超人的认知外星思想伙伴的潜力。我认为这些思想伙伴是

我个人希望被它们扩展，但我同时也希望整个社会科学、自然科学系统被它们扩展。那么，对于AI来说，彻底改变社会科学意味着什么呢？很容易想象STEM领域的AI突破。例如，DeepMind的AlphaFold可以预测新的蛋白质结构。

但是人类社会也隐藏着力量。AI可能会帮助我们发现那些驱动我们社会世界的无形模式。就像当它看到我们参与讨论或活动时，你知道，很可能有很多事情正在发生。竞争性的事情，令人兴奋的事情，连接性的事情，这些事情只是隐形的，实际上是驱动社会的方式

与我们对这些模式的体验方式无关的谈话。因此，你知道，人类的智力能力，其中很大一部分是社会性的。我的意思是，从拥有清晰的眼白开始，你知道，许多其他动物都没有这种能力，这使我们能够看到谁在看着谁，在说什么，谁在关注谁。我的意思是，我们有很多东西可以让我们意识到群体，你知道，集体在想什么。而且

这正是为什么AI不应该局限于纯粹的人类观点。如果我们只训练它们注意到我们已经知道的东西，它们就永远不会向我们展示我们不知道的东西。换句话说，一个只以人类的方式看待世界的AI将没有能力揭示我们还无法感知的事物。

以及这对我们之间经常发生的困难互动（伴侣、朋友、政治分歧和国际冲突）可能意味着什么。我认为，仅仅考虑AI和STEM领域所忽略的一点是，我们正在观察和提高我们控制外部世界的能力。但真正的人类能力不是控制世界，而是控制彼此。它实际上是建立庞大的国家，以促进

人口增长和保留，并通过集体行动减少暴力和疾病。因此，如果我们能够释放出不发动战争，而是发动和平，发动更大规模的合作的能力，当然，会有一些代理人试图利用这些工具来制造分裂，你知道，在混乱中获得权力。我的意思是，这将是，但与此同时，因为这些事情必然会发生，我们必须建立

我们的人文和社会科学能力来发动合作，来识别并变得不那么容易受到坏的、你知道的、自私的人的传染性影响。

另一个行动，例如，让我们能够在此刻获得对科学进步的集体承诺。你知道，去年秋天有一篇有趣的论文表明，AI如何降低人们相信各种类型阴谋论的可能性，以及这些新的信念或对这些理论的新不确定性实际上会持续一段时间，所以我认为，尤其因为人们会以自我为中心的方式使用这些，他们实际上在两极分化的群体之间建立跨对话，以及……

参与并最大限度地减少冲突的影响绝对至关重要。对和平建设和维和感兴趣的政府和其他机构必须参与红皇后竞赛，我们利用它来发动和平而不是战争。绝对的。我认为一件令人兴奋的事情

关于人工智能对社会学、政治学、经济学、历史学、人类学的影响，是在这个空间内启动人类代理的数字双胞胎的能力。从历史上看，我认为

好吧，我们将——首先我们需要找到——我们需要从这些系统中构建一个代理，一个与个人相对应的人物。然后，也许如果我们能做到90%的准确性，也许如果让他们相互互动，也许我们会得到这些互动预测的准确性。

你知道，像75%的时间。然后，也许如果他们作为群体互动，我们将以50%的准确率预测它们，即在我们预测他们的观点时，从我们预测单个代理的完整性到预测整个相互作用代理领域，会有一些退化。并且随着越来越多的工作

我的团队和其他团队，这可能被逆转了。这是我们在生态学和进化生态学中看到的东西。更稳定的预测来自组件之间更复杂的相互作用。所以我实际上认为，在

在这个系统中模拟人类的数字双胞胎中观察集体行为具有巨大的潜力。我认为这正越来越多地被科技公司以及计算社会科学家用来构建，在某些情况下，模拟成千上万的代理，并且还在增长。

那么你是否认为这实际上在潜在的政策影响中发挥着作用？绝对的。是的。绝对的。是的。如果你考虑一下，你知道，这项或那项政策对投票、对社区隔离、对两极分化或对政府或非政府支持作用的影响是什么？我的意思是，这使我们能够创造出我们可以用非常高分辨率测试事物的世界，而不仅仅是政治性的，

再次，单个代理，而是实际上可能比我们对单个代理的模型更强大的代理系统。所以，是的，这令人兴奋。

这也危险，因为谁还会这样做呢？你知道，专制政府将播放和重播他们的信息。我的意思是，所有种类，我的意思是，这些技术有可能被用于善恶。好吧，这真的很吸引人。即使在我的所在的沟通领域，也有一些团体正在研究他们所谓的合成受众，他们可以在其中进行编程并说，看看不同的信息是如何被不同的受众接收的。如果你说X、Y或Z，这很可能就是它的共鸣方式。

因此，在许多、许多、许多不同的领域中，这种能力正在塑造我们所做选择的含义。例如，我们看到……

当我们将具有例如我们在整个社会中观察到的政治偏好分布的代理放在一起时，我们看到它们以与我们看到的几乎相同的速率发生两极分化。而且原因大致相同。例如，精英偏见、自我确认，你知道，偏见，所有这些不同的事情。所以我认为……

我认为，代理在未来可能如何使用？好吧，个人将有代表他们工作的代理，对吧？这是一种方式。当然，你知道，更富有的公司和个人将拥有更多为他们签订合同的代理，这些代理正在为他们寻找相关信息，正在代表他们达成交易等等。所以我认为，你知道，一个担忧，你知道，关于

基本上人类的偏见被构建到这些模型中的方式是，它可能会加速个人聚集并聚集到隔离群体中的方式。所以我认为这是，这是一个很大的担忧。我认为，你知道，思考平台如何构建，你知道，

促进更广泛合作和对话的系统，而不是个人不受限制地访问构建对他们自己来说值得信赖的代理，但随后又加速了他们过滤信息的程度，这是有问题的。

几个月前，我们在《自然通讯》上发表了一篇论文，我们证明了像Twitter的社区笔记（现在是X的社区笔记）这样的在线系统，逐渐向用户提供关于其他人是否感知的信息

芝加哥大学社会学家和数据科学家詹姆斯·埃文斯教授认为，我们正在训练人工智能过于像人类思考——而这阻碍了科学发展。在本期节目中，埃文斯分享了我们目前的模型如何有可能缩小而不是扩展科学探索，并解释了他为什么推动人工智能以与我们不同的方式思考——他称之为“认知外星人”。这些“外星思维”能否帮助我们取得突破性的进展？构建它们需要什么？ </context> <raw_text>0 将他们的信息认定为错误信息或虚假信息实际上比仅仅让个人充当治安人员，你知道，在网上互相攻击信息要成功得多，因为个人不仅粗鲁，有时还错误，而且导致那些受到谴责的人进一步退缩到信息泡沫中。因此，当他们基本上被认定为传播错误信息时，他们实际上正在探索新的政治和

不文明的信息。所以我认为这将是一种红皇后竞赛，个人正在以可能导致更大的回声室的方式使用代理，并且

以及被歧视和隔离的群体。我认为平台将承担促进交流、套利和对话的责任，从而将公民广场重新聚集在一起。我认为这两种力量都将发挥作用。大脑袋是芝加哥大学播客网络的制作。

我们的赞助商是格雷厄姆学院。你是一位终身学习者，拥有永不满足的好奇心吗？每个季度都可以访问 50 多门开放注册课程。了解更多信息，请访问 graham.uchicago.edu/bigbrains。如果您喜欢我们在播客中听到的内容，请给我们留下评分和评论。该节目由 Paul M. Rand 主持，由 Leah Cesarine 和我 Matt Hodap 制作。感谢收听。