How to Fight AI Doomers with Gill Verdon
59:19 Share

加入阿特拉斯学会首席执行官珍妮弗·格罗斯曼，收听客观地说话（前身为阿特拉斯学会提问）的第255集，她采访了 Extropic 创始人纪尧姆·沃登。 纪尧姆·沃登，或吉尔·沃登，是 Extropic 的创始人，Extropic 是一家 AI 硬件初创公司，旨在满足生成式 AI 对强大算力和计算能力的需求。作为物理学家、应用数学家和量子机器学习研究员，吉尔也以其在线角色 @BasedBeffJezos 而闻名，并因其创建的有效加速主义 (e/acc) 而闻名，该主义提倡快速的技术进步作为人类进步在伦理上更优选的道路，强调乐观主义和积极主动地努力塑造更美好的未来。</context> <raw_text>0 大家好，欢迎收听客观地说话的第255集。我是贾格，我是阿特拉斯学会的首席执行官。我很高兴今天能邀请吉尔·沃登加入我们。他是 Xtropic 的创始人。

一家从事新型计算机芯片的科技初创公司，旨在使人工智能处理速度更快、能效更高。同时，作为 X 上的 Based Beth Jesus，吉尔也是有效加速主义或 EAC 运动的创始人，该运动提倡快速不受监管的加速。

技术进步，尤其是在人工智能方面，以最大限度地发挥人的潜力和经济增长。我还非常高兴地宣布，他将是下周在奥斯汀举行的 GALT 大会的主旨演讲者。吉尔，感谢你加入我们。是的，感谢你们的邀请。很高兴来到这里。

你在加拿大长大，历史上加拿大人在客观主义者中所占比例过高。你认为在充满平等主义伦理和拥抱更大政府角色的地方长大，是否影响了你后来对监管和官僚主义的看法，或者这些看法是随着时间的推移而发展起来的？

当然。我想说的是，我是在加拿大蒙特利尔魁北克省长大的，那里有

我想说是世界上语言法密度最高的地方之一。例如，你应该去，你不应该太早学习英语。他们想，他们想让你一辈子都纳税。所以他们制定了所有这些额外的法律来规范你，字面上的意思是，你如何说话或写作，比如你可以在菜单上放什么，在你的

你知道，你的包装等等。而且，你知道，这只是冰山一角，就好像你只是感觉所有这些政府过度干预和官僚主义的压力压在你头上一样。这就是一种

最终会产生一种反作用，我想阿特拉斯耸耸肩，是的，没错，没错，嗯，所以在我的情况下，那就是，你知道，我一生中都感觉自己更属于美国，你知道，在意识形态上，渴望向南走，而我就在这里

但最终，至少试图逃脱加拿大那里的陷阱。我还想说，这不仅仅是自上而下的强制执行。最终，一旦人们士气低落，就无法获得无限的优势。有一种高调的综合症

潜入其中，你知道，如果你试图过于雄心勃勃等等，人们就会说：“你不快乐吗？你为什么不找一份中等的工作呢？”或者，“你为什么这么雄心勃勃？不要摇晃小船。”这种心态绝对不适合我。所以这是一种自我选择，你知道，那些

加拿大人对此感到满意，他们就留在了那里。而那些更有雄心壮志、想要最大限度地获得自由、能够获得他们为世界创造的价值的人，他们往往会搬到美国，美国是自由的旗舰，我们应该保持这种状态。

是的，同意。你知道，事实上，彼得·科普西斯，他是我们阿特拉斯学会的受托人之一，他是阿波罗基金的联合创始人之一。他和他的妻子都非常有雄心壮志。他们不想过平庸的生活。在阅读了《阿特拉斯耸耸肩》之后，他们才决定也耸耸肩来到美国。

让我们谈谈量子计算。你是如何进入这个领域的，甚至在我们大多数人甚至不知道它是什么之前就超越了它？——是的，这是一段相当长的旅程。最初我试图理解宇宙，试图，你知道，我从来没有，你知道，在我成长过程中，我是，你知道，我想，像

在魁北克，有一种天主教权威主义的回声。总的来说，他们会告诉你应该如何说话，应该如何思考。对我来说，我认为这是一个很大的反作用。我不相信权威人士的答案，我必须从第一性原理重新思考一切。我想学习第一性原理，并重建宇宙是如何运作的

我自己，对吧，这样我才能相信我的第一性原理推理。所以，这是一种，再说一次，我想说的是，由于我成长的地方和对我这种权威主义思想的反作用，我想了解宇宙是如何运作的。所以我成了

一位理论物理学家。我研究黑洞和量子信息、量子宇宙学。宇宙是如何开始的？它可能如何结束？物理学的极限是什么？时空的极限是什么？自然而然地，我开始试图理解自然是如何计算的，并将宇宙视为一台计算机。

对我来说，这是通过单一视角理解所有物理学的最有希望的途径。它是来自比特的思想学派，现在被称为来自量子比特的思想学派。嗯，而且，

我认为，自然而然地，就有一种桥梁来尝试反向工程自然，并使用以物理学为基础进行计算的计算机。所以量子计算机是一种利用量子力学进行某些运算的计算机。

并且基本上允许我们理解以量子力学方式运行的自然片段。所以它们不是确定性的，它们不是状态上的概率，它们处于叠加状态。你可以把它想象成平行宇宙。

所以对我来说，更准确地说，我有点像量子人工智能或量子机器学习的专家，可以说是该领域的先驱之一。我做了一些最早的算法，后来让我被谷歌注意到。在那里，我们的想法是借鉴黑洞如何压缩信息的灵感。它们是世界上最有效的压缩方式。

在宇宙中，并且基本上我们可以从算法中获得灵感，我们可以运行在量子力学计算机上，以获得最佳压缩算法。而人工智能的另一个名称是机器学习。

你可以将大部分机器学习描述为学习压缩，即对世界的压缩表示，对吧？如果你安装了 Chad GPT 或 Grok 之类的模型，也许，你知道，它会填满你的硬盘，但基本上你会有整个互联网的近似备份，对吧？所以这让我走上了

在量子计算机上开创人工智能的道路，并最终被谷歌聘用，在那里开发现在被称为 TensorFlow Quantum 的产品，后来又为谢尔盖·布林从事各种特殊项目，包括量子传感器和量子互联网。随着时间的推移，我意识到量子技术有点像

有点像核聚变技术，你知道，我们有一个所谓的容错的盈亏平衡点，你得到的比你投入的多。

在计算方面。我看到了实现这一目标的途径，但这对于我这个缺乏耐心的人来说，时间尺度太长了。如果可以的话，我最终转向了检测到核裂变与核聚变之间存在机会，这是我们现在就可以做的事情，可以说是更具直接可扩展性。

并让我们获得类似于从TNT到核弹的能量效率和密度增益的能量密度增益。这就是我三年前开始做的事情。

大约三年前。现在我们有了第一个结果，并且正在使用我的公司 Extropic 的方法扩展我们所说的热力学计算。

我相信我们会更详细地讨论。我们一会儿会详细讨论这个问题，但我不想离开谷歌，因为你是在2019年加入谷歌的。大约一年后，詹姆斯·达莫尔成为取消文化中第一个非常高调的受害者之一。

在他因撰写题为《谷歌的意识形态回音室》的具有决定性意义的谷歌备忘录而被解雇后。你熟悉那件事吗？它与你在谷歌的经历如何相符？是的，我的意思是，你知道，谷歌是一个伟大的组织。我不认为它在意识形态上是同质的，但当然，让一名工程师试图指出

嗯，统计数据中的某些东西，并发表意见，而他却被完全取消了，这对于任何试图表达与组织内部人口的中位数或众数不同的意见的人来说，都是一种警告。我想说的是，这只是创造了一种类似于，嗯，工程师的影子网络，他们有点像，

有些事情说不通。一些自上而下规定的东西说不通。我认为这不仅仅是大科技公司。我认为在2010年代中期，我们看到了全面的意识形态俘获。再说一次，这似乎并不像

对我来说，每当有一种文化占据一切并自我强化，并且没有能力讨论想法时，这总是次优的。我个人更感兴趣的是内部和外部的讨论，例如，大型科技公司和世界上顶级的人工智能机构是否应该与政府和国防部门合作

将正确的技术掌握在正确的人手中，以便我们拥有国家安全。这也是组织内部存在不均匀性的事情。有 Project Maven 1.0，谷歌试图为国防开发人工智能。

有，你知道，那种取消人们的阵营，我想说，试图取消谷歌本身，我想，然后走开了。对我来说，我认为非常不幸的是，世界上首屈一指的人工智能研究组织，我想说，2010年代中后期，

是谷歌的黄金时代。所有重要的人都来这里进行研究，这就是我来到这里的原因。我在研究方面度过了美好的时光。他们发明了 Transformer，这导致了我们今天看到的繁荣，以及其他许多事情。但对我来说，事实上存在一种意识形态上的回音室，例如，它融合在一起，我们无法讨论

你知道各种社会问题或各种，嗯，你知道国家安全利益，我们还不够成熟，无法进行公开讨论，内部没有思想的自由市场，我认为这对公司的发展是不利的，对吧？而这只是，你知道，外部的事情，我认为内部，你知道，总的来说，我的意思是，这种情况经常发生，意见在允许的意见中结晶，它也可能涉及技术意见

我想说的是，大型组织往往会大规模地压制想法，因为如果他们聘用的每位优秀的工程师，他们有10万多名工程师，他们都采纳了每个人的想法，他们会朝着各种方向发展，但有时他们做得太过火了，对吧？有时他们甚至错过了

像 AI 编码这样的大好机会，谷歌发明了 Transformer，他们本来可以占据市场，但他们没有，这是某种意见泡沫的产物。所以这不仅仅是社会方面的缺点，还有实际的股东价值影响。

拥有回音室。所以对我来说，这只是一个教训，实际上拥有思想的自由市场，非常开放，鼓励各种想法蓬勃发展并被考虑，对于任何社会或大型组织的运作至关重要，对吧？谷歌本身就是一个巨大的组织，它是一种缩影，它本身就是一个泡沫。

但为了使其良好运作，它需要内部的自由市场。所以当然，那件事和我的一些经历，再次，更多的是在国防方面，我认为让我明白了文化的重要性。这就是导致我

开始最初匿名表达意见或想法并对其进行原型设计，并最终开始这种为思想自由市场和言论自由、思想自由而奋斗的运动。

自由，我们也会谈到人工智能方面。但这就是 EAC 运动，你知道，我几乎是在离开 Alphabet 后才开始的。是的。所以我们去年秋天在 XPRIZE Visioneering 峰会上见过面。当然，彼得·G·埃尔南德斯是本播客的嘉宾，也是我们之前晚会的获奖者，他

读过五遍《阿特拉斯耸耸肩》，并认为它是他的圣经。在峰会上，你正在争取一个奖项，以解决提高计算效率的挑战，以满足即将到来的 AI 能量需求。所以，请告诉我们一些关于你对这方面的愿景以及最终结果的信息。是的，我的意思是最初

再说一次，我认为即使对于技术进步来说，陷入

权威人士或机构规定的局部思维模式是一个坏主意。我认为我们已经基于硅以确定性方式运行了几十年的所有这些技术。因此，存在很大的惯性和怀疑论，认为任何大规模的破坏都可能让我们大吃一惊，并且即将到来。

所以对我来说，这是一个拥有极其反传统论点的练习，但同样是从物理学的第一性原理推导出来的。然后，你知道，因为有这样一个反传统论点而承受了很多压力，然后现在开始证明我们是正确的。这非常令人欣慰，而且，你知道，好处……

对社会来说将是巨大的，只要我们继续扩展规模。所以在我们的例子中，我们基本上研究的是，最终什么是计算？这是一个热力学过程。你有一些输入分布，然后你有一些输出分布。你可以用这种方式表达互联网上运行的许多算法，包括 AI 算法，对吧？

因为这个过程是在概率性的东西（不是确定性的输入）和确定性的输出之间进行的，所以你可以以概率的方式运行计算。如果你看看

电子和物质的物理学，你知道，当你足够小的时候，事情会有点不稳定，而且是非确定性的。你不知道每个粒子的位置，对吧？通常情况下，这对确定性计算机来说是一个问题。所以我们喜欢滤除这种噪声，这会消耗我们大量的能量。但相反，我们决定开始利用这种噪声来更自然地运行算法。

你获得的能量效率增益和密度，甚至空间密度增益都超过了10,000倍。对。而且这相当，这相当巨大。再说一次，这是从TNT到核弹的量级。所以我想说我们正在进行人工智能的曼哈顿计划。但再说一次，我认为，你知道，

我不认为大型实验室或政府实验室能够足够快地执行这项技术，并决定在私营部门进行。我想我可以展示我们迄今为止的进展。现在已经有几款芯片了，但我们现在已经实现了……哎呀，也许……好了。

我们有一款硅基芯片，可在室温下运行，这是一台计算机，对于构成我们所做工作的基础的这些概率算法来说，其能量效率提高了1000到10000倍。所以对我们来说，这是我们能做的最重要的事情，因为

生产更多能源是一回事，这就是我和 EAC 运动谈论的内容。我们正在攀登卡尔达舍夫等级。我们会谈到这个。但如何使用能源并将能源转化为智能或将能源转化为价值更有效率是另一回事。这就是我们正在解决的问题。所以……如果我们不解决这个问题，就像我记得有一场辩论，你知道，这是一场竞争。有人说我们需要解决……

你知道，卵巢癌，有人说我们需要拯救鲸鱼。而你当时说，基本上，你知道，除非我们把这件事做好，否则我们将受到限制，无法解决美国、世界以及人类的其他重大挑战。实际上，这是一种我们正在解决能够解决其他问题的问题，对吧？如果你拥有真正强大的 AI，并且你拥有

每瓦特有很多智能，那么你就可以利用这种智能来解决你的其他问题。从最大杠杆率的角度来看，

这是我们应该关注的问题，以便解决其他问题。对。这就是我的论点。而且，你知道，我认为我当时在 XPRIZE 上的演讲非常正确，你知道，对人工智能的需求非常强烈，以至于我们将开始建造机器。

为这些 AI 云建造大型核反应堆。情况就是这样。你不断听到新闻说，更多带有大量反应堆的云正在被建造。对我来说，这很好。我们正在创造更多能源，这很好。但与此同时，这不是最节能的方式。再说一次，这不仅仅是关于环境的问题。它也是从

投资回报率的角度来看，投资建设更有意义。如果你要花一万亿美元，你希望它能够持续下去，如果五年后出现一项技术，使你目前的这项技术变得有些无关紧要，那么这是一项风险投资。我认为从慈善的角度来看，

确保智能丰富且廉价，每个人都能获得，但我也会谈到这一点。我认为，为了避免 AI 过度集中，以及 AI 受少数几方控制，然后他们可以规定我们的想法和言论，我认为在硬件层面上，智能的致密化对于维持人工智能时代的个体性是必要的，在

人工智能时代，在我们用外部 AI 代理增强自身认知的时代，我们需要拥有我们个人拥有和控制的个性化 AI，这是我们自身的延伸，而不是运行全世界所有 AI 的一个中心化云。然后，幕后的人可以

你知道，以更微妙的方式倾斜我们的思维分布，这些方式几乎是无法追踪的。对我来说，这会导致某种自上而下的权威主义思维，并可能导致某种，你知道，仅仅从纯粹的权力寻求的角度来看，任何控制这种系统的人都会说服人们

你知道，趋向于某种集体主义的心态。然后，当每个人都在为剩余的东西而争斗时，他们会，你知道，他们会，那些掌握权力的人会拥有大量的权力和财富，而且，你知道，他们会压制自由市场，思想的自由市场，这实际上是反对暴政的纠错机制，所有这些都会消失，对吧？我认为这也是与埃隆产生共鸣的原因。这就是为什么他

他开始开放 IaaS，现在他开始 XAI。我们可以谈谈这个。但是，你知道，我真的很相信我们正在努力解决 AI 去中心化的最难部分，那就是在硬件层面上实现智能的致密化。

是的，所以埃隆·马斯克经常与你的 BaseBeth Jesus 账号互动。我不知道昨天是不是创下了记录，但它非常激烈。然后，我的马里布邻居马克·安德烈森也是经常互动的一个账号。

和你。他也是《阿特拉斯耸耸肩》的忠实粉丝。他描述了他和他同事与拜登政府的 AI 顾问进行的一次令人不寒而栗的会面，后者分享了这样一种愿景：只有少数大型 AI 参与者与政府协调控制该行业的未来。一个

在这种情况下，竞争性 AI 初创公司将受到严格限制。他离开会议后，立即决定支持唐纳德·特朗普。你是否同意安德烈森关于这种过度干预的中心化政府方法在蓬勃发展的 AI 环境中存在的危险的观点？

是的，绝对同意。我想说的是，上一届政府对人工智能的态度是我个人促使我倾向于现任政府的关键问题。我想说的是，是的，我的意思是，这是我一直在与

与 EAC 作斗争的关键问题之一，它本质上是说，我们看到人工智能的中心化以及一些公司想要与政府合并的趋势正在融合。这对我来说非常危险，因为再说一次，如果唯一允许拥有 AI 的人

是政府和一些被纳入其中的公司，那么这就会导致暴政。事实就是这样。这对那些寻求权力的人来说是一个太好的机会了。然后

解决这个问题的方法是保持 AI 权力分散，并且要拥有个人的权力，个人可以购买和控制多少 AI 才足够。所以有一种威慑作用，对吧？类似于第二修正案，暴力没有绝对的垄断。如果人们拥有自己的

武器，他们可以自卫以对抗暴政。但我认为，在我们这个时代，暴力在很大程度上已经智化或虚拟化了，它更多的是你如何控制人们。如果你有能力预测人们的行为，你就可以引导他们。

你可以设计控制信号或你告诉他们的东西来引导他们走向某个结果。如果个人没有 AI 来帮助增强他们的认知和增强他们的个人怀疑态度，而你只是增强了中心化机构和政府颠覆人们的能力，就像如果这些能力被提升到 11，而个人抵抗的能力，

认知能力没有，那么这将导致非常糟糕的结果。我认为马克·安德烈森也意识到了这一点。我想埃隆也意识到了这一点。

他立即创建了一个竞争对手，以确保没有一家公司独占整个市场。看起来，我希望，我认为，希望那些试图在游戏早期加冕为

国王的 AI 公司的这一章已经结束，现在只是一个自由市场，老实说，到目前为止，这非常好，对吧？基本上，我们的论点之一是，并非只有少数公司被允许做 AI。许多公司都被允许这样做，这再次归功于我们的努力。埃隆、马克是那些在政府中带头的人。我只是在更基层的层面。

但基本上，我们已经有了自由市场竞争，你拥有各种具有不同文化偏见的人工智能，这项技术一直在加速发展，并且变得越来越便宜，每个人都可以访问，每个人都从中受益，对吧？而不是只有少数人使用这项技术并将其集中起来以巩固他们的权力。——是的，让我们回到 EAC 和有效加速主义。

你在多大程度上将此视为对萨姆·班克曼·弗里德等人开始推广的有效利他主义运动的反应？是的，有效利他主义是一个有点滑稽的运动。它本质上是……

享乐主义功利主义者。他们试图最大限度地提高享乐主义以及人们感觉有多好，或者说，不仅仅是人，有时还有虾，出于某种原因。但本质上，他们拥有这种奇怪的道德框架，它会产生真正

次优的，比如最优解。如果你试图最大限度地提高享乐主义，你可能会趋向于某种线头，对吧？所以你就像，你知道，在一个虚拟现实世界或模拟中，永远处于这种涅槃状态，你不是一个有生产力的社会成员。但总的来说，我认为像 EA 这样的组织开始寻找各种方法来从自由市场中获取资本。所以他们试图扭曲自由市场。

然后将其重新分配给这些非营利组织。再说一次，这可能是用于蚊帐或虾场或奇怪的东西。但最终，他们最终都集中了，你知道，95% 以上，不要引用我的这个数字，但它非常，非常多，他们的投资组合中的大部分。他们将其集中在 AI 安全和 AI 的监管俘获上，这实际上只是

试图让自己掌权，他们的全部想法是：人工智能很危险。我们需要房间里负责任的成年人来控制它。我们将成为负责任的成年人，让我们掌权，对吧？他们会资助所有这些智库之类的组织，然后这些组织会成为大型实验室的工具，以继续这种

危言耸听，并传播所谓的 AI 末日论，我认为这是 EA，有效利他主义者的一个分支。所以我们看到这个资金充足的复杂体系正在将我们导向一个非常糟糕的结果。所以我们必须开始抵抗这一运动。这就是 EAC 最初开始的方式。在某些方面，它与 EA 相反，但这实际上只是

第一场战斗，对吧？就像这种敌人，如果你愿意的话，总是以不同的名字出现。但本质上，你知道，EOQ 是为了争取自由，言论自由，个性，你知道，个人代理，庆祝个人，并确保没有某种

极度压迫的政府或某种奇怪的复杂体系限制你具有生产力的能力并过度集中权力。所以。是的。那么，你是如何，你知道，这不仅仅是你，这是一个团队和盟友，其中一些人使用化名。我不知道其他人是否像你一样被曝光了。所以你可能想谈谈当时的感觉以及你如何决定接受它。是的。所以，我的意思是，你知道，这个运动获得了相当大的影响力，你知道，在硅谷，它开始在暗中对华盛顿产生一些影响。例如，我认为，你知道，我们反对上一份关于人工智能的行政命令，这份命令将真正扼杀开源人工智能。

嗯，但本质上，出于某种原因，我被记者曝光了，实际上，我认为他们的目标是，因为我，我正在成为一个问题，因为我正在

让大家团结在这个事业周围，这阻碍了权力的过度集中，我被曝光了，本质上，你知道，传统的媒体支柱，你知道，他们会捏造事实，并试图将我与我并不相关的各种运动联系起来。

或歪曲信息或试图点击诱导，比如，你知道，这个人正在建造天网或一些荒谬的东西，嗯，而且，嗯，而且这太多了，对吧？就像，那是我生命中的一大变化，从房间里的一些科学家变成了为各种重要人物提供建议的人，但我通常是，你知道，嗯，

背景中的资产移到最前面和中心位置，我的脸贴满了整个时间线，每月获得一亿次观看。我认为这是一个很大的变化。但现在距离个人信息被泄露已经一年半了。我想我已经习惯了。但本质上，我想……

将这次攻击反击回去。如果你拥有反脆弱的心态，你可以将任何逆境转化为优势。所以我把它作为一个机会，参加播客，传播比以往任何时候都更广泛的信息，并利用它来为我的公司招揽人才，并提高人们对我们与Extropic公司正在努力应对的这一重要挑战的认识。

这帮助我们招聘到了一些最优秀的人才，而且我们在这么短的时间内取得的这些成果证明，有时获得更多关注对于获得最优秀的人才以及推动文明和技术进步是有用的。

所以，在Atlas协会，我们是安德森科技乐观主义宣言的忠实粉丝。好奇你是否参与其中，或者只是间接参与？

你能告诉我们什么吗？是的，我的意思是，马克从一开始，或者说从很早开始就是EAC的忠实粉丝。基本上，我们通信了好几个月，非常积极地融合了我们的

或对世界的看法。当时她正在撰写宣言，而我是最早被提及的影响者之一。所以，更多的是在幕后，但我可以说它非常接近于一种

宣言，也许更少的是宇宙尺度，因为我倾向于像物理学家那样思考，更多的是务实的，比如更直接的政策建议。我完全赞同。我认为自己是一位科技乐观主义者。所以对我来说，我所看到的

意识形态是如何被俘获的，就是你有一个传播的模因或想法，然后它不断地变异，然后它以不同的名字出现，这就是我们正在对抗的。所以，Yak的意图始终是

传播一种中心模因或一系列思想，让它变异成许多分支，然后让这些分支产生影响，那么要摧毁一个有多个头的的东西比只有一个头的东西要困难得多。尽管他们确实试图把我以及中心分支摧毁，但那时它已经分叉了，对吧？所以这是一种对模因品牌风险进行划分的方法。

科技乐观主义就是一个例子，它与EOCH非常相似，也许更专业，不像互联网的某个奇怪角落那样，可以在华盛顿进行营销。现在副总统实际上说他是一位科技乐观主义者。

所以我认为就影响力而言，这真的很好。我想至少本届政府，至少从他们所说的来看，一直非常支持我们

我们对维持美国在人工智能领域竞争力的政策请求，对吧？并保持开放性。说到宇宙尺度，请用通俗易懂的语言解释一下卡尔达肖夫尺度是什么，以及我们如何攀登它。

是的，卡尔达肖夫尺度是一组里程碑，它们处于对数尺度上，所以它们呈指数级地难以达到。它是用来追踪我们文明有多大以及我们正在生产和/或消耗多少能量的里程碑。在这个尺度上有三个主要的标志，然后你可以进行内插

在对数尺度上是一种线性线性插值，卡尔达肖夫一级本质上是说我们生产和利用的能量与地球从太阳接收到的能量一样多

所以这是一个相当巨大的瓦特数。我认为我们只达到了卡尔达肖夫一级（K1）的1%，甚至不到1%，不是在对数尺度上，只是就K1而言。卡尔达肖夫二级将是

我们利用所有能量或相当于太阳辐射的所有能量，对吧？同样，它不是能量，而是瓦特，也就是功率。然后三级将是整个银河系，对吧？所以我看到，在我的热力学研究中，更准确地说是在随机热力学研究中，这是生命本身的物理基础，我看到实际上存在一种

类似达尔文的自然选择作用于所有物质，我称之为热力学选择，它发生在，适应性函数是系统是否消散了更多的热量。

这真的很奇怪。但本质上，它也告诉我们，系统完全死亡，也就是系统波动回零的几率，随着系统规模的扩大而变得越来越小。

这是有道理的。所以对我来说，我看到的是，哦，这是生命的根本。如果我们作为一个文明变得更大，以热力学来衡量，那么我们的能源消耗量是多少，这将确保降低这种物质阶段的破坏或文明灭绝的可能性。所以我感觉我们有责任扩大卡尔达肖夫尺度。对我来说，这是关键问题，也是我们应该努力改进的唯一指标

为了我们的文明，因为不幸的是，GDP和资本很难追踪，对吧？它是不完美的，有时金钱会被通货膨胀冲走或被印出来。它不是一个客观的指标，而能量

你可以……是的，焦耳在宇宙中的任何地方都是焦耳……或者瓦特等等。对我来说，这只是一个比……你知道的，享乐主义更好的优化目标，享乐主义是完全主观的……并导致奇怪的最优解。所以……你知道的，现在我想……

我的意思是，这始终是埃隆的全部目标，但我认为我们融合了模因复合体，现在他非常专注于将攀登卡尔达肖夫尺度作为关键问题。对我来说，加速我们上升的方法是创造一种尽可能高效地将能量转化为价值的方法。这样你就可以获得每单位能量更多的价值，这将增加对能量的需求

从而创造一种向上扩展文明规模的正压力。所以对我来说，创造这种技术，这是将能量转化为智能的最节能方式，一种在热力学效率极限下运行的智能蒸汽机，对我来说是创造这种向上扩展压力的方式，同时也创造了这种社会运动，以提高人们对这是一个我们都应该关注的关键问题的认识。这自然也是自由市场所优化的，对吧？自由市场选择那些以最大化增长的方式利用其资源的组织。对我来说，这就像字面上的

一种导致具有最佳涌现属性的复杂系统自组装的基本算法。所以我们的身体是一种自由市场

细胞，它们之间都有一定的耦合，它们在化学上有一定的交换，对吧？它们有一种化学和能量经济，但涌现的属性是这个功能性有机体，也就是你。我认为资本主义本身是一种类似人工智能或物理学的算法，它在资本配置和增长方面的效率远高于任何自上而下的规定或自上而下的控制。想象一下，一个人试图设计你身体中的每一个细胞，我们不会达到，我们无法做到。我们无法设计我们自己。所以这是一个关于谦逊的教训。我认为任何一个委员会都不能设计一个完整的复杂系统，但是一个复杂系统可以从

自组装中设计自身，它通过不断竞争和拥有探索和优化增长的自由来做到这一点。所以，是的。如果我不回答一些观众的问题，我就会引发一场叛乱。所以让我们尝试几个。我的现代女孩，很高兴见到你，她问，吉尔，你对当今网络上虚假信息和错误信息的风险有什么看法？你认为人工智能是否带来了我们尚未考虑到的新风险，例如人工智能生成的音频或视频？是的，我会说，人工智能生成的音频和视频已经出现了。我会说，同样，你知道的，如果你在生成方和识别方之间在能力方面存在某种对称性，那么，如果你拥有你信任并控制的

人工智能助手，它可以告诉你某件事是真是假，并且可以检测到它，并增强你自己的认知能力，而不是增加你的认知负担，那么就可以了。你只需要在能力方面有对称性。我会说试图压制这些能力并不是前进的方向。我认为还有很多优势

摆在桌面上，实际上，你知道的，一切都在加速。这是一场能力竞赛。同样，只要不是只有政府才能访问这些工具，然后才能生成宣传，然后你甚至无法分辨它是真是假，因为你无法访问人工智能控制。

嗯，那将非常糟糕，那将是我认为的主要风险，但是如果点对点，你知道的，我们有能力生成和识别……你知道的，就像人类一样，一个聪明的人可以告诉你一些完全错误的事情，更新你的世界模型，你或者拥有认知安全，或者你用你可以与之交谈的一群人来增强你的认知能力，就像……这是真的吗？这是正确的吗？

你知道的，有一些点对点的验证信息的方法。我认为融合，如果每个人都能获得更多情报，那么我们将能够在彼此之间以及我们的人工智能或人工智能子群之间进行协作过滤信息，对于你信任并认为他们的价值观与你一致的人，对吧？我认为这是未来。自从文明诞生以来就是这样。我认为能力有所提高，但同样，对于一代人来说，

也有越来越强的辨别真相的能力。好的。M问，你估计什么时候推出或交付产品的第一个商业版本？是的。我刚才展示的这款芯片，我们正在将其打包成开发套件，用于企业和创新型初创公司，以及少数个人。这是一个小批量。这只是我们的测试芯片。

我们的目标是在夏季结束前将其交付给第一批客户，这在时间安排上非常令人兴奋，从概念到原型再到交付给客户的桌面上，三年时间就完成了，这非常棒。明年我们将推出百万概率位芯片，并应该广泛使用。

这款芯片是一款合适的商品，而不仅仅是那些试图领先的人使用的实验性开发套件。但是，取决于组织，已经开始尝试热力学计算是必不可少的，因为中断将在明年到来，他们需要做好准备，了解这将如何影响他们的

他们的算法堆栈，无论你是在金融领域还是国防领域，拥有最先进的能力对你来说都是至关重要的。然后，如果你从事通用人工智能领域，显然那里存在激烈的自由市场竞争。所以，任何你能获得的优势，你都应该抓住。所以

是的，如果有人想尽早使用DevKit，我们有一个注册表格，我们将首先公开发布一些软件。然后硬件是用于……因为我们只是没有生产很多第一批芯片，你知道的，在200到1000个早期客户之间。但是你可以在extropik.ai网站上申请，那里有一个感兴趣的人的注册表格。很好。

是的，我这里还有来自Kingfisher的一条评论。他说他对人工智能持乐观态度，但他认为人们对人工智能目前的能力过于夸大其词。太多人认为它是万能的。你会如何回应？是的，我会说目前的人工智能能力并不是最终目标。我认为，你知道的，我认为……

类人人工智能或人类水平的人工智能，AGI，是非常短视的。我把它比作地心说，但在智能领域。我认为人类智能是我们理解世界复杂性、预测世界和引导世界的里程碑。我从事人工智能物理学工作，这比模拟人类要困难得多。所以理解物质、生物学、物质，我正在研究使用人工智能生成量子物质、超导体和深奥的材料。我认为它会继续发展。我认为目前的系统并非人类水平，它们可以

模拟人类的反应，但它们还没有自主性，它们还没有好奇心、寻求新信息、决定是探索还是利用的能力，它们还没有自主性。所以现在我们只有原始的智能。我们拥有原始的压缩能力来预测序列中的下一个标记，但我们还没有那种自主性。所以现在，任何

利用人工智能并成为人工智能舰队自主性来源的人都可以创造出产生大量收入并真正以积极方式影响世界的产品。我鼓励人们这样做。即使你根本不会编程，你也可以让AI为你编程。所以真的，

现在人类的自主性加上人工智能是一个黄金时期。最终，我们会弄清楚自主性吗？是的，可能对于人工智能来说。我认为我们需要比现在多得多的计算能力，这就是我试图带来的。但是，我的这个计算形式的目标

并不是一个以人为本的目标。我并不仅仅痴迷于试图使人类自动化。那不是我的目标。我的目标是了解物理世界，以便提高我们向星际扩张的能力，对吧？所以我真正瞄准的是，我们能否利用人工智能来理解我们的生物学并控制它、模拟它，并最终帮助我们解决材料科学问题以及

各种科学突破，我认为这将超出任何曾经存在的人类的认知能力。

所以我认为人工智能与人类之间的共生关系将非常重要。但我认为那些对利用人工智能持封闭态度的人将被抛在后面。而那些思想开放并利用它的人将做得非常好。这就是为什么我觉得有责任传播这个信息，你应该

尝试拥抱人工智能，因为这对你和你的后代有很多好处。

所以我们非常高兴能让你在下周成为我们的主题演讲嘉宾，实际上是明天的一周后在奥斯汀的盖尔特峡谷。我知道你一直在忙着改变世界，正如我们现在听到的那样，你的产品将在夏季结束前准备好发货。你有没有机会阅读安·兰德的任何文学作品？因为你描述的很多内容似乎与她的一些观点非常一致。

是的，我确实应该完成我开始的工作。我认为我开始听了一些有声读物，但还没有时间完成。但是，我认为还有一点，那就是来到……我从第一性原理出发，从我自己的道路出发，当然，也可能通过文化，这非常令人欣慰。

显然，我直接或间接地接触过兰德的思想。也许这播下了后来成为EAC的一些想法的种子。很难追溯。再说一次，这回到了我之前关于模因复合体所说的内容。但在我看来，事实上，我从自己的角度出发，融合到了相似的原则上，

旅程……对于客观主义和这套原则来说，这确实令人欣慰，对我来说，它来自于试图理解……世界的物理学、复杂系统的物理学、资本主义的物理学、整个社会的物理学，对我来说，这似乎……坦率地说，是最优的，所以……你知道的，我……

在学术界，大致有两种思想流派，对吧？一种是先进行文献检索，然后感觉一切都已经完成了，然后你可能会被劝退，不再探索一系列想法，另一种方式是你继续前进，构建出这个想法，然后事后看看是否有现有的文献与之高度重叠，我认为有一些关于

只是这种创造性的迸发，如果你觉得这是一个原创的想法，那么你就会更兴奋。我会说，在我所倡导的内容中，可能与兰德有很多重叠之处。但是，我肯定需要连接这些点，可能像回顾过去一样。但我将努力阅读。这肯定会显示出来。或者只是《安提米》，因为那都是关于

她有非常独特的视野。她实际上在乔治·奥威尔的《1984》出版12年前就出版了她的反乌托邦后世界末日小说《安提米》。虽然当时许多反乌托邦作家认为这个……

极权主义的未来将是技术先进的。在兰德的描述中，它实际上变得更中世纪化、更原始化，因为他们不理解个人主义和自由的价值，他们从……正如你在魁北克所经历的那样，控制语言开始。所以“我”这个词已经被废除和遗失，这是为了控制人们的思想。所以

我们还将在会议上进行指导圆桌会议。我不确定你会有多少时间与我们在一起，但也许你现在可以告诉我们，对于那些想要在社会以超光速发生的所有变化中过上成就感、生产力和意义的生活的年轻人，你有什么建议。

是的，我会说，你可以向那些做过事情的人学习，但没有人是所有事情的中心权威。你应该，你知道的，从几个方面选择建议。但你应该理想地从头开始推导出你自己的世界观，推导出你自己的价值观体系，显然，你知道的，你可以从客观主义和我们一直在说的话中获得灵感，但是你知道的，你应该，你应该融合到一套你确信是你自己从头开始推导出的价值观中，理想情况下，因为这对于其他人试图影响你来说非常稳固，对吧？而我认为那些融合到集体主义中的人往往会将他们的认知推迟到群体中

他们没有意识到的是，他们这样做放弃了很多权力、控制和自主性，以及认知安全。如果你只是相信别人规定你相信的东西，那么你很可能不会过上美好的生活。或者如果你这样做，也许你会……

如果你这样做，你不知道自己错过了什么生活。我会说，不要轻易接受“不”的答案。我们在推特上有一句谚语，你可以做事情。这是真的。有些人会告诉你做不到，但你会说，真的吗？为什么不行呢？对吧？然后你继续前进。对吧？对我来说，你知道的，你知道的，我在魁北克。我说，嘿，我想成为一名理论物理学家，对吧？

在美国最好的学校。而且我想要，之后，我想成为一名量子计算机科学家，而物理学家们告诉我，你这是什么意思？你在做什么？然后当我成为一名量子计算机科学家时，我说，我想开始一种新的计算范式。他们说，你疯了。你有一个很棒的事情正在进行中。所以人们会告诉你，你

每当你拥有非常高的自主性时，他们都会说你疯了，或者你承担了过多的风险，但这通常是你想要前进的方向，因为那些想要让你坚持他们的先验知识或让你受到约束的人通常会表明风险较低的梯度，你应该承担更多风险。我认为最大的风险是承担更多。

没有风险。我的意思是，这是常见的建议，但我真的试图以此为准则。无论如何，非常感谢你的邀请。是的，绝对的。这与Atlas协会的开放客观主义方法的理念非常契合，我提醒大家，没有人能替你思考，甚至安·兰德也不行。所以谢谢你，菲尔。下周见。非常期待。

再次亲自见面。感谢大家今天加入我们。请务必在下周加入我们，届时我们将前往奥斯汀。我将采访作家吉米·索尼，讨论他的著作《创始人》，讲述贝宝的故事以及塑造硅谷的企业家们。届时再见。