Elon Musk: Digital Superintelligence, Multiplanetary Life, How to Be Useful
49:40 Share

我们正处于智能大爆炸的非常非常早期的阶段。成为一个多行星物种极大地增加了文明或意识和智能（生物的和数字的）的预期寿命。我认为我们离数字超级智能非常接近了。如果今年没有发生，明年肯定会的。让我们为埃隆·马斯克鼓掌。埃隆，欢迎来到AI创业学校。我们今天非常非常荣幸能有你的到来。

感谢你们的邀请。那么，从SpaceX、特斯拉、Neuralink、XAI等等，在你所有这些之前，你生命中有没有过这样的时刻，你感觉“我必须创造一些伟大的东西”？是什么让你改变了想法？我最初并没有想过要创造一些伟大的东西。我想尝试创造一些有用的东西。

但我并不认为我会创造出任何特别伟大的东西。你曾经说过，从概率上看，这似乎不太可能。但我至少想尝试一下。所以你正在对着一屋子人说话，他们都是技术工程师，通常是一些在游戏中崭露头角的最杰出的AI研究人员。好的。我更喜欢“工程师”这个词，而不是“研究人员”。我的意思是，如果有一些基本的……

算法突破，那就是研究，否则就是工程。

也许让我们从很久以前开始吧。我的意思是，当你在……这是一个充满18到25岁年轻人的房间。它更偏向年轻，因为创始人的年龄越来越小。你能把自己带回到你18岁、19岁的时候吗？那时你学习编程，甚至想出了Zip2的第一个想法？对你来说那是什么样的感觉？是的，在95年，我……

我面临着一个选择，要么是继续攻读斯坦福大学的硕士学位或博士学位，实际上是在研究用于电动汽车的超级电容器，基本上是试图解决电动汽车的续航问题，要么是在这个大多数人都从未听说过的东西——互联网上尝试做一些事情，而且……

我和我的教授——尼克斯教授，材料科学系——谈过话，我说：“我能推迟一个季度吗？因为这可能会失败，然后我需要回到大学。”然后他说：“这可能是我们最后一次谈话了。”他是对的……但是我认为事情很可能会失败，而不是很可能会成功……然后在95年，我写了……

基本上，我认为这是第一个或接近第一个互联网地图、路线、白页和黄页。我个人写的，我甚至没有使用网络服务器。我只是直接读取端口，因为我买不起T1线路。

最初的办公室在帕洛阿尔托的谢尔曼大道。楼下有一家ISP。所以我在地板上钻了一个洞，直接把局域网电缆接到ISP。是的，我的兄弟和我一起加入了，还有另一位联合创始人格雷格·库里，他已经去世了。而且……

当时，我们甚至负担不起住宿的地方。办公室每月500美元，所以我们就在办公室睡觉，然后在佩吉米尔和埃尔卡米诺的YMCA洗澡。我想我们最终做了一家有点有用的公司，Zip2，一开始。我们确实构建了很多非常好的软件技术，但是……

我们有点被传统媒体公司控制住了，纽约时报和其他的公司都是投资者……

客户，也是董事会成员。所以他们一直想以毫无意义的方式使用我们的软件。所以我想直接面向消费者。总之，这是一个很长的故事，不必过多地谈论Zip2，但我真的只想在互联网上做一些有用的事情。因为我有两个选择，要么是读博士学位，看着别人建设互联网，要么是……

以某种方式帮助建设互联网，我想，“好吧，我可以尝试一下，失败了再回去读研究生。”总之，那最终相当成功，卖了3亿美元，当时很多钱，现在看来，我认为对于AI初创公司来说，至少要10亿美元……就像……现在有这么多该死的独角兽，就像一群独角兽一样，你知道独角兽是10亿美元的情况。

自那以后通货膨胀了，所以实际上更多钱。是的，我的意思是，在1995年，你可能可以用5美分买一个汉堡。好吧，不是完全这样，但是我的意思是，是的，通货膨胀了很多。但是我的意思是，AI的炒作水平非常强烈，正如你所看到的。你知道，你看到一些公司，我不知道，不到一年的时间，估值有时达到数十亿美元。

我想这可能会实现，在某些情况下可能会实现。但是看到这些估值让人瞠目结舌。是的，你怎么看？我的意思是，我们将……

我很看好。说实话，我很看好。所以我认为这个房间里的人将创造很多价值，你知道，世界上10亿人应该使用这些东西。我们甚至还没有触及它的表面。我喜欢互联网的故事，即使在当时，你知道，你很像当时这个房间里的人，你知道，

所有传统媒体公司所有CEO的头头都把你视为了解互联网的人。而世界上的许多人，企业界，就像整个世界一样，他们不了解AI正在发生的事情，他们将向这个房间里的人寻求同样的答案。听起来，一些具体的教训是什么？听起来其中一个教训是不要放弃董事会控制权，或者要小心找个好律师。我想对于第一个……

我的第一个创业公司，最大的……

真正的问题是，传统媒体公司拥有过多的股东和董事会控制权，他们必然会通过传统媒体的视角来看待事情，他们会让你做一些对他们来说似乎合理的事情，但对于新技术来说却毫无意义。我应该指出，我最初并没有打算创办一家公司。我试图在Netscape找到一份工作。

我把我的简历寄给了Netscape。马克·亨德里克斯知道这件事。但我认为他从未看过我的简历。然后没有人回应。然后我试图在Netscape的大厅里闲逛，看看我是否能碰到某个人。但我太害羞了，不敢和任何人说话。所以我想，“天哪，这太荒谬了。”所以我只会为自己写东西，看看会发生什么。所以它实际上并不是从“我想创办一家公司”的角度出发的。我只是想参与建设互联网。

以某种方式。既然我无法在一家互联网公司找到工作，我不得不创办一家互联网公司。总之，是的，我的意思是，AI将如此深刻地改变未来，很难想象它会有多大改变。但是，你知道，经济，假设事情没有出错，而且，像，AI本身并没有杀死我们所有人，那么你最终会看到……

一个经济体，最终不会比目前的经济体大10倍，如果我们成为，比如说，或者无论我们的未来机器后代或主要依赖机器的后代成为文明规模的别墅或超越文明规模的别墅，我们谈论的是一个比今天的经济体大数千倍，甚至数百万倍的经济体，所以……

是的，我的意思是，我确实有点感觉，你知道，当我还在华盛顿特区的时候，因为处理浪费和欺诈而受到很多批评，这是一个有趣的支线任务，一个支线任务。但是……必须回到主线任务。是的，我必须回到主线任务。所以回到主线任务。所以，但我确实感觉，你知道，有点像……

你知道，这就像清理政府，就像海滩很脏，有一些针头和粪便，还有垃圾，你想清理海滩。但是还有一堵1000英尺高的水墙，这是一场AI海啸。就像清理海滩到底有多重要，如果你有一场1000英尺高的海啸即将到来？没那么重要。哦，我们很高兴你回到了主线任务。这非常重要。回到主线任务。

构建技术，这是我喜欢做的事情。只是噪音太多了。政治中的信噪比太糟糕了。所以……我的意思是，我住在旧金山，所以你不必告诉我两次。是的。华盛顿特区就像，你知道，我想华盛顿特区都是政治，但是……

如果你试图建造火箭或汽车，或者你试图让软件可靠地编译和运行，那么你必须最大限度地寻求真相，否则你的软件或硬件将无法工作。

就像，你不能愚弄数学。数学和物理学是严格的评判者。所以我习惯于在一个最大限度地寻求真相的环境中，而这绝对不是政治。所以无论如何，我很高兴回到技术领域。我想我有点好奇，回到Zip2的那一刻，你拥有数亿美元，或者你有一个价值数亿美元的退出。我得到了2000万美元。对。

好的，所以你至少解决了钱的问题。你基本上拿了它，然后继续进行X.com，它变成了PayPal和Confinity。是的，我把筹码留在桌面上。不是每个人都这样做。这个房间里很多人实际上都必须做出这个决定。是什么驱使你重新回到拳击场？我认为我觉得Zip2，我们创造了令人难以置信的技术，但它从未真正被使用过。

你知道，至少从我的角度来看，我们拥有比雅虎或其他任何人更好的技术，但它受到我们客户的限制……所以我想做一些事情，好吧，我们不会受到客户的限制，直接面向消费者……这就是最终成为X.com PayPal的原因……基本上是X.com与Confinity合并，这……

我们一起创建了PayPal，然后实际上，PayPal的散居者，它可能创造了更多的公司，所以比……

21世纪的任何事情都要多，你知道，很多有才华的人都来自Confinity和XCOM的组合。我只是想，我觉得我们Zip2的翅膀有点被剪掉了，就像，“好吧，如果我们的翅膀没有被剪掉，我们直接面向消费者呢？”这就是PayPal最终成为的样子。但是，是的，有了……

我收到了那张2000万美元的支票，这是我Zip2股份的一部分。当时，我和四个室友住在一栋房子里，银行里只有1万美元。然后这张支票寄来了，所有的地方，都寄来了。然后我的银行余额从1万美元变成了2000万美元，1万美元。

你知道，就像，“好吧。”所以我将为此缴税等等，但我最终把几乎所有这些钱都投入到了X.com。正如你所说，就像，只是把几乎所有的筹码都留在桌面上。是的，然后在PayPal之后，我想，我很好奇为什么我们没有把任何人送上火星。

我去了NASA的网站，看看我们什么时候送人去火星，但没有日期。我以为可能只是在网站上很难找到。但事实上，并没有真正计划送人去火星。

所以，你知道，这是一个很长的故事，所以我不想在这里占用太多时间。但我认为我们都在全神贯注地听着。所以我实际上是在长岛高速公路上和我的朋友迪奥·雷西在一起。我们大学时是室友。迪奥问我接下来要做什么。PayPal之后我要做什么？我说：“我不知道，我想我会做一些与太空相关的慈善事业，因为我认为我实际上无法在太空做任何商业活动，因为这似乎是国家的职责。”

但我很好奇我们什么时候会送人去火星。那时我意识到，哦，它在网站上。然后我开始挖掘。NASA网站上什么也没有。然后我开始深入挖掘。我在这里肯定总结了很多。

我的第一个想法是做一个名为“生命到火星”的火星慈善任务，我们将送一个小型温室，里面装有经过调味的脱水营养凝胶，将其降落在火星上并使凝胶水合。然后你将看到这张很棒的照片，绿色植物在红色的背景下。顺便说一句，很长一段时间以来，我没有意识到“钱照”，我认为，是一个色情参考。但是……

但无论如何，重点是，那将是绿色植物在红色背景下的精彩镜头，并试图激励NASA和公众将宇航员送上火星。随着我的学习，我逐渐意识到，顺便说一句，我在2001年和2002年去了俄罗斯，购买洲际弹道导弹，这就像，这是一次冒险。你去见俄罗斯高级指挥官，说：“我想买一些洲际弹道导弹。”这是为了进入太空。

是的，作为火箭。不是为了攻击任何人，但由于裁军谈判，他们实际上必须摧毁他们的大量大型核导弹。所以我想，“好吧，如果我们拿其中两个，你知道，去掉核弹头，再增加一个用于火星的附加上面级呢？”但这有点令人兴奋，你知道，在莫斯科……

或2001年与俄罗斯军方谈判购买洲际弹道导弹，这太疯狂了……

他们也一直在提高我的价格。所以，就像字面意思一样，这与谈判应该做的恰恰相反。所以我想，“天哪，这些东西越来越贵了。”然后我意识到，实际上问题不在于缺乏前往火星的意愿，而在于没有办法做到这一点，而不会超出预算，甚至超出NASA的预算。

所以这就是我决定创办SpaceX的原因，是为了推进火箭技术，直到我们可以将人们送上火星。那是2002年。所以那不是……

想要创业，你只想做一些你认为人类需要的事情，对你来说很有趣的事情。然后，当你有点像猫拉线一样，你知道，线团就解开了。事实证明，这可能是一项非常有利可图的业务。我的意思是，现在是的，但是，嗯……

此前没有真正成功的火箭创业公司的先例。曾有多次尝试创建商业火箭公司，但它们都失败了。所以再次，有了SpaceX，创办SpaceX，

真的是从这样的角度出发的，我认为成功的几率不到10%，也许是1%，我不知道。但如果一家初创公司不做任何事情来推进火箭技术，它肯定不会来自大型国防承包商，因为他们只是与政府相匹配，而政府只想做非常传统的事情。所以它要么来自一家初创公司，要么根本不会发生。所以……

所以，成功的几率很小，也比没有成功的几率好。所以，是的，所以SpaceX在2002年中期启动，正如我所说，预计会失败，大概有90%的失败几率。甚至在招聘人员时，我都不想，你知道，说它会……我说，我们可能会死。

呃，但是呃，完全有可能我们不会死，如果呃，但这是将人们送上火星并推进技术发展状态的唯一途径，而且……然后呃，我最终成为了火箭的首席工程师，不是因为我想，而是因为我找不到任何优秀的人，所以像没有一个优秀的首席工程师会加入，因为这太冒险了，你会死的，而且……

所以我最终成为了火箭的首席工程师，你知道，前三次飞行确实失败了。所以这是一个学习过程。而且……

幸运的是，第四次成功了，但如果第四次没有成功，我就没有钱了，那将是，那将是结束。所以这是一件非常接近的事情。如果猎鹰的第四次发射没有成功，那将是结束，我们将加入之前的火箭初创公司的坟墓。所以就像，我对成功的估计并不遥远。我们只是，我们侥幸成功了。特斯拉与……同时发生，

2008年是艰难的一年，因为在2008年中期，我们称之为2008年夏季……SpaceX的第三次发射失败了，连续第三次失败……特斯拉的融资轮失败了，所以特斯拉正在迅速破产……这就像，“天哪，这太糟糕了……这将是……傲慢的教训”

在那段时间里，很多人都在说，“你知道，埃隆是一个软件人。为什么他要从事硬件工作？为什么你会……”是的。为什么他会选择做这个？对。所以你可以看看，就像，因为这仍然是，你知道，当时媒体的报道仍然在网上。你可以搜索一下。他们一直叫我“互联网小子”。嗯，所以就像“互联网小子”，又名傻瓜，正在试图建立一家火箭公司。嗯……

所以，你知道，我们受到了很多嘲笑。这听起来确实很荒谬，就像互联网小子开始火箭公司一样，坦率地说，这听起来不像成功的秘诀。所以我没有责怪他们。我想，“是的，你知道，不可否认，这听起来不太可能。我同意这不太可能。但幸运的是，第四次发射成功了，而且……

而且……NASA授予我们一份合同，为空间站提供补给……我认为那可能是……我不知道，12月22日，或者是在圣诞节前夕……因为即使第四次发射成功也不足以成功，NASA也需要我们也需要一份大合同来维持我们的生存，所以……所以我接到了……

来自NASA团队的电话。他们说：“我们授予你一份为空间站提供补给的合同。”我几乎脱口而出，“我爱你们”，这通常不是他们听到的。因为通常都很冷静，但我当时想，“天哪，这是公司的救星。”然后我们在最后一天的最后时刻完成了特斯拉的融资轮，那是12月24日下午6点。

2008年。如果那轮融资没有完成，我们将在圣诞节后两天发不出工资。那绝对是2008年末令人紧张的时刻。我想从你的PayPal和Zip2经验来看，跳入这些硬核硬件初创公司，感觉其中一条主线是能够找到并最终吸引那些特定领域中最聪明的人。

你知道，我的意思是，这个房间里的人，就像这里的一些人一样，我认为他们甚至还没有管理过一个人。他们才刚刚开始他们的职业生涯。你会对那个从未做过这件事的埃隆说什么？我通常认为要尽可能地有用。这听起来可能很陈词滥调，但要做到有用非常困难，特别是对很多人有用。

你所说的总效用曲线下的面积就像你对同胞人类的帮助程度乘以人数……这几乎就像物理学中真正工作的定义一样，做到这一点非常困难，我认为如果你渴望做真正的工作……你成功的概率就会高得多……就像不要渴望荣耀，要渴望工作。

你怎么知道这是真正的工作？是外部的？是其他人发生的事情，还是产品为人们做的事情？对你来说是什么？当你寻找为你工作的人时，你寻找的最重要的事情是什么？这是一个好问题。就你的最终产品而言，你只需要说，如果这件事成功了，它对多少人有用？

这就是我的意思。然后你做任何事情，你知道，无论你是CEO还是初创公司的任何角色，你都会尽一切努力取得成功。并且总是要粉碎你的自我，就像内在的责任感一样。一个主要的失败模式是，当自我与能力的比率大于1时。

你知道，呃，如果你……如果你的自我与能力的比率……变得太高，那么你将基本上打破与现实的反馈回路……在AI方面，你的箭头……你将打破你的强化学习循环，所以你想要……你不想打破你的强化学习，你想要一个强大的强化学习循环，这意味着内化责任并最小化自我，你做任何任务，无论它是宏伟的还是卑微的，所以……

我的意思是，这就是为什么我实际上更喜欢“工程”这个词，而不是“研究”。我更喜欢这个词，而且我实际上不想称XAI为实验室。我只想成为一家公司。这就像任何最简单、最直接、理想情况下自我最低的术语一样，这些通常都是一个好方法。你只想努力地闭合现实的回路。

这是一件非常重要的事情。——我认为这个房间里的每个人都非常敬佩你在成为第一性原理的典范方面所做的一切，以及你所做的事情。

你如何实际确定你的现实？因为这似乎是一件非常重要的事情。像其他人一样，从未创造过任何东西的人，非工程师，有时是记者，他们从未做过任何事情，他们会批评你。但显然，你还有另一群人，他们是建设者，他们拥有非常高的，你知道，曲线下的面积，他们在你的圈子里。就像，你知道，

人们应该如何处理这个问题？对你来说什么有效？你会传递什么，就像，你知道，给X，给你的孩子？就像，你知道，当你像，“你需要在这个世界上找到自己的路”，这里是如何从第一性原理构建一个可预测的现实。嗯，物理学的工具非常有用，呃，来……理解并在任何领域取得进展。嗯……

第一性原理意味着，显然只是意味着，你知道，将事物分解成最有可能为真的基本公理元素，然后尽可能谨慎地从那里推理，而不是通过分析或隐喻进行推理……然后是一些简单的事情，例如，像极限思维一样，如果你推断……最小化这个东西或最大化那个东西，极限思维非常非常有用……我会使用物理学的所有工具……它们适用于任何领域……

这实际上是一种超能力。

所以你可以拿，比如说，火箭为例，你可以说，火箭应该花多少钱？人们通常会采取的方法是，他们会从历史上看火箭的成本，并假设任何新的火箭都必须与之前的火箭成本有些相似。第一性原理的方法是，你看看火箭由哪些材料组成。所以如果是铝、铜、碳纤维、

钢，无论是什么情况，并说，火箭有多重？组成元素是什么？它们有多重？这些组成元素每公斤的材料价格是多少？这决定了火箭成本的实际下限。它可以渐近地接近原材料的成本。

然后你意识到，哦，实际上，火箭，火箭的原材料可能只占火箭历史成本的1%或2%。所以如果原材料成本只有1%或2%，那么制造必然非常低效。这将是对火箭成本优化潜力的第一性原理分析。这在你开始考虑可重复使用性之前。

举一个AI的例子，我想，去年XAI在试图构建一个训练超级集群时，我们找到了各种供应商询问，这是去年年初，我们需要10万个H100才能进行连贯的训练。他们对完成这项工作所需时间的估计是18到24个月。

这就像，“好吧，我们需要在六个月内完成这件事”，所以……否则我们将无法竞争，所以……如果你把它分解一下，你需要什么？你需要一座建筑，你需要电力，你需要冷却……

我们没有足够的时间从头开始建造一座建筑，所以我们必须找到一座现有的建筑。所以我们在孟菲斯找到了一家不再使用的工厂，这家工厂过去生产伊莱克斯产品。但是输入功率是15兆瓦，我们需要115兆瓦。所以我们租用了发电机，在建筑物的一侧安装了发电机，然后我们需要冷却。所以我们租用了美国四分之一的移动冷却能力，并将冷却器放在建筑物的另一侧。

这并没有完全解决问题，因为训练期间的功率变化非常大。所以功率可以在100毫秒内下降50%，而发电机无法跟上。所以我们添加了特斯拉兆瓦电池，并修改了兆瓦电池中的软件，以便能够在训练运行期间平滑功率变化。

然后是一堆网络挑战，因为如果你想让10万个GPU协同训练，网络电缆就非常非常具有挑战性。几乎你提到的任何事情，我都能想象有人会直接告诉你，不，你不能那样做。你不能拥有那种能量。你不能拥有这个。

听起来，第一性原理思考的一个重要部分实际上是，让我们问问为什么。让我们弄清楚这一点。实际上，让我们挑战对面桌的人。如果我没有得到一个让我感觉良好的答案，我将不允许那样，我不会让它那样存在。我的意思是，这感觉像是……

每个人，如果有人试图在你所做的硬件方面做些什么，硬件似乎特别需要这个。在软件方面，我们有很多冗余的东西，你知道，就像，

我们可以为此添加更多CPU，一切都会好起来的。但在硬件方面，这根本行不通。我认为这些第一性原理思考的一般原则适用于软件和硬件，实际上适用于任何东西。我只是用一个硬件例子来说明我们是如何被告知某些事情是不可能的，但一旦我们将它分解成我们需要的建筑、电力、冷却、电力平滑等组成部分，我们就能解决这些组成部分

嗯，但是它是，然后我们，然后我们只是运行网络操作来完成所有布线工作……四个班次，每天24/7。我当时睡在数据中心，还自己做布线……还有很多其他问题需要解决……你知道，没有人做过10万个

H100协同训练的运行。也许今年已经完成了，我不知道。然后我们最终将其增加一倍，达到20万个。所以现在我们在孟菲斯训练中心拥有15万个H100、5万个H200和3万个GB200。我们即将在孟菲斯地区的第二个数据中心上线11万个GB200。

你认为预训练仍在发挥作用，缩放定律仍然有效，并且赢得这场比赛的人将拥有你能提炼出的最大、最智能的模型吗？好吧，还有其他各种因素决定大型AI的竞争力。

这当然取决于人才。硬件的规模很重要，以及你如何有效地利用这些硬件。你不能只是订购一堆GPU，然后它们不会，你不能只是将它们插入。所以你必须获得大量的GPU，并使它们能够连贯且稳定地进行训练。

然后就像你拥有哪些独特的数据访问权限？我想分发在某种程度上也很重要。人们如何接触到你的AI？如果它是一个具有竞争力的大型基础模型，这些都是关键因素。正如许多人所说，我的朋友Elias Sutskair说，我们已经用完了人类生成的数据的预训练数据，人类生成的数据，你很快就会用完标记。

当然高质量的标记。然后你必须做很多，你必须基本上创建合成数据，并能够准确地判断你正在创建的合成数据，以验证，例如，这是真实合成数据吗？还是它是一种实际上与现实不符的幻觉？因此，实现与现实的联系是棘手的，但我们正处于

投入更多精力到合成数据中的阶段。现在我们正在训练Grok 3.5，它非常注重推理。回到你的物理学观点，我听到的关于推理的是，硬科学，特别是物理教科书，对推理非常有用。而我认为研究人员告诉我，社会科学对推理完全没用。

是的，这可能是真的。所以，是的。未来非常重要的一件事是将数据中心或超级集群中的深度AI与机器人技术相结合。这样，你知道，像Optimus人形机器人一样。难以置信。

是的，Optimus很棒。将会有如此多的人形机器人和各种……各种大小和形状的机器人，但我预测，人形机器人的数量将远远超过所有其他机器人的总和，可能数量级上会有很大差异，就像一个很大的区别。而且……你真的计划组建一支机器人军队吗？无论我们是否这样做……你知道，特斯拉与XAI密切合作……嗯……

就像你看到的，有多少人形机器人初创公司，就像我认为Jensen Huang在舞台上展示了很多，大量的机器人，来自不同公司的机器人，我认为大约有十几种不同的人形机器人，所以我的意思是，我想，你知道，我一直在努力的一部分，也许是让我有点慢下来的原因是，我，我有点，我不想要，我不想要让终结者成真，你知道，所以我一直有点，我想

至少直到最近几年，我一直对AI和人形机器人技术拖延脚步。然后我意识到，无论我是否这样做，它都会发生。所以你实际上只有两个选择。你可以做一个旁观者，也可以做一个参与者。所以我心想，好吧，我想我宁愿做一个参与者，而不是一个旁观者。所以现在是，全力以赴地发展人形机器人和数字超级智能。

所以我想还有一件事，每个人都听到你谈论了很多，我非常喜欢，成为一个多行星物种。这如何适应？这不仅仅是10年或20年的事情，也许是100年的事情。这是人类几代人的事情。

你怎么看待它？显然有AI，有具身机器人技术，然后还有成为一个多行星物种。所有这些是否都归结于最后一点？或者你现在在未来10年、20年和100年里被什么驱动？天哪，100年？伙计，我希望文明在100年后仍然存在。如果它仍然存在，它将与今天的文明看起来非常不同。我的意思是，我预测将会有

至少有五倍于人类的人形机器人，也许是十倍。看待文明进步的一种方法是卡尔达舍夫等级的完成百分比。如果你处于卡尔达舍夫等级一，你已经利用了整个星球的能量。在我看来，我们只利用了地球能量的1%或2%。所以我们还有很长的路要走才能达到卡尔达舍夫等级一。

呃，然后卡尔达舍夫等级二，你已经利用了太阳的所有能量，这将是，我不知道，比地球多十亿倍的能量，也许更接近一万亿倍，然后卡尔达舍夫等级三将是整个星系的能量，离那还很远，所以我们正处于智能大爆炸的非常非常早期的阶段，我希望，我希望我们在成为多行星物种方面，我认为

我认为在大约30年内，我们将有足够的质量转移到火星，使火星能够自给自足，即使来自地球的补给船停止到来，火星也能继续发展和繁荣。这大大增加了文明或意识或智能（生物和数字）的可能寿命。

这就是为什么我认为成为一个多行星物种很重要。费米悖论让我有点不安，比如为什么我们没有看到任何外星人？这可能是因为智能非常罕见。也许我们是这个星系中唯一的一个，在这种情况下，智能或意识只是一支微弱的蜡烛，在一个广阔的黑暗中。我们应该尽一切努力确保这支微弱的蜡烛不会熄灭。

成为一个多行星物种或使意识成为多行星物种大大提高了文明的可能寿命。这是在前往其他星系之前的下一步。一旦你至少拥有两颗行星，你就会有一个推动太空旅行改进的驱动力。最终，这将导致意识扩展到群星。

费米悖论可能表明，一旦你达到某种技术水平，你就会自我毁灭。我们如何保持自我？我们实际上，你会给，我的意思是，一屋子工程师开什么药？我们能做些什么来防止这种情况发生？是的，我们如何避免伟大的过滤器？一个伟大的过滤器显然是全球热核战争。所以我们应该尽量避免这种情况。

我想构建良性的AI，友好的机器人，热爱人类的AI和有帮助的机器人。我认为在构建AI中极其重要的一件事是对真理的严格遵守，即使这个真理在政治上是不正确的。

我的直觉是，什么可能使AI非常危险，如果

如果你强迫AI相信不真实的事情。你怎么看待，你知道，有一种观点是开放是为了安全，而封闭是为了竞争优势。我的意思是，我认为最棒的是你有一个竞争模型。许多其他人也有竞争模型。从这个意义上说，你知道，我们可能摆脱了我担心的最糟糕的时间线，那就是，你知道，有一个快速起飞，而且它只掌握在一个人的手中。你知道，那

可能会，你知道，导致很多事情崩溃。而现在我们有了选择，这很棒。你怎么看待这个问题？我确实认为会有几种深度智能，也许至少有五种，也许多达十种。我不确定会有数百种，但可能接近。就像也许会有大约10种左右，其中也许有4种在美国。所以是的，

我认为不会有任何一种AI拥有失控的能力。但是是的，几种深度智能。这些深度智能实际上会做什么？是进行科学研究还是试图互相攻击？可能两者兼而有之。我的意思是，希望他们会发现新的物理学，我认为他们肯定会发明新技术。

我认为我们离数字超级智能已经很近了。它可能今年就会发生，如果今年没有发生，明年肯定就会发生。数字超级智能的定义是比任何人类在任何事情上都更聪明。

那么，我们如何将其引导到超级丰富呢？你知道，我们可以拥有机器人劳动力。我们有廉价的能源，按需提供的智能。你知道，这是不是一种美好的结果？你对这个范围的看法是什么？你会鼓励这里每个人从事哪些切实可行的事情，以使这种美好的结果真正成为现实？我认为这很可能是一个好的结果。

我想我会同意杰夫·辛顿的观点，也许有10%到20%的几率会灭绝。但从好的方面来看，这有80%到90%的概率会产生一个很好的结果。所以，是的，我再怎么强调这一点也不为过。对真理的严格遵守是AI安全最重要的事情。显然还有对人类和我们所知生命的同情。

我们还没有谈到Neuralink，但我很好奇，你知道，你正在努力缩小人类和机器之间的输入和输出差距。这对AGI、ASI有多重要？而且，你知道，一旦建立了这种联系，我们不仅可以读取，还可以写入吗？Neuralink并非解决数字超级智能所必需的。这将在Neuralink大规模应用之前发生。但是

Neuralink实际上可以做的是解决输入输出带宽限制，尤其是我们的输出带宽非常低。人类一天内持续的输出少于每秒一位。所以一天有86400秒，人类每天输出超过这个数字的符号的情况极其罕见。

当然，连续几天都是如此。

你真的可以用神经连接接口，你可以大幅增加你的输出带宽和你的输入带宽，输入是写给你。你必须对大脑进行正确的操作。我们现在有五个人接受了读取输入，也就是读取信号。你遇到过患有ALS的人，他们

真的没有，他们是四肢瘫痪的，但他们现在可以用与身体完全健康的人相同的带宽进行交流，并控制他们的电脑和手机，这很酷，然后……我认为在接下来的6到12个月内，我们将进行第一次视觉植入手术，即使某人完全失明……

我们也可以直接写入视觉皮层。我们在猴子身上已经做到了这一点。事实上，我认为我们的一只猴子现在已经植入了三年视觉植入物了。起初，分辨率会比较低，但长期来看，你会拥有非常高的分辨率，并且能够看到多光谱波长。你可以看到红外线、紫外线、雷达，

就像超级能力一样，但在某些时候，仿生植入物不仅会纠正出错的东西，还会……极大地增强人类的能力，极大地增强智力、感官和带宽，这将在某个时候发生……但数字超级智能将在那之前发生

至少如果我们有神经连接，我们或许能够更好地理解AI。我想，你所有这些不同领域的所有努力的一个限制性试剂是对最聪明的人的访问。是的。

但是，你知道，与之同时，我们有，你知道，石头可以说话和推理，你知道，现在可能智商为130，他们可能很快就会变得超级聪明。你如何调和这两件事？比如，在未来5年、10年里会发生什么？房间里的人应该做些什么来确保，你知道，他们是创造者，而不是可能低于API线的人？

好吧，他们称之为奇点是有原因的，因为我们不知道未来会发生什么。在不久的将来，人类智能的百分比将非常小。在某个时候，人类智能的总和将小于所有智能的1%。如果事情发展到卡尔达舍夫等级二，我们谈论的是

人类智能，即使假设人类人口和智力增强显著增加，例如大规模智力增强，就像每个人都有1000智商的那种情况。即使在这种情况下，人类智能的总和也可能只有数字智能的十亿分之一。无论如何，数字超级智能的生物引导程序在哪里？我想最后说一句，

我是一个好的引导程序吗？我们去哪里？我们该如何从这里开始？我的意思是，所有这些都是非常疯狂的科幻小说，也可以由房间里的人来构建。你对这一代最聪明的技术人员有什么最后的想法吗？他们应该做什么？他们应该从事什么工作？今晚在去吃晚饭的路上，他们应该考虑什么？好吧，我……

正如我一开始所说的，我认为如果你正在做一些有用的事情，那就太好了……如果你只是试图尽可能地对你的同胞有用，那么你就是在做一件好事……我一直强调这一点，比如关注超级真实的AI，这是AI安全最重要的事情……你知道，显然，如果你知道……任何人都想在XAI工作，请，请让我们知道……

我们的目标是使Grok成为最大限度地追求真理的AI……我认为这是一件非常重要的事情……希望我们能够理解宇宙的本质，这实际上是我认为AI可以告诉我们的，也许AI可以告诉我们外星人在哪里，以及你知道宇宙究竟是如何开始的，它将如何结束，我们不知道应该问什么问题，以及……

我们是在模拟中吗？我们在哪个级别的模拟中？好吧，我认为我们会发现的。我是一个NPC吗？埃隆，非常感谢你加入我们。各位，请为埃隆·马斯克鼓掌。