330: Exploring the Path to the Singularity: AI & Machine Consciousness with Prof. J. Craig Wheeler, Astronomer and Author
41:32 Share

但基本上，当机器能够比任何单个的人类都更有能力的时候，我认为这是当前对人工通用智能的有效定义。然后，如果我没记错的话，人工高级智能是指机器的能力超过所有人类的总和。我认为确切的定义并不……

即将有一波巨大的变革来临，我们需要思考如何应对。无论是在六年后、两年后还是十年后，我不知道，这很难确定。我怀疑它的到来速度比我们想象的要快。

早上好，下午好，或者晚上好，这取决于你在哪里收听。欢迎收听“人工智能与未来工作”。我是你的主持人丹·图尔钦，PeopleRain 的首席执行官，PeopleRain 是一个面向 IT 和人力资源员工服务的 AI 平台。我们的社区正在壮大。感谢您成为其中一员。

如果您还没有订阅我们的时事通讯，请订阅。每周我们都会分享一些技巧和一些有趣的知识，这些知识并不总是出现在每周的节目中。我们将在节目说明中分享订阅链接。如果您喜欢我们的节目，请告诉您的朋友，并在 Apple Podcasts、Spotify 或您收听的任何地方给我们点赞和评分。如果您留下评论，我可能会在接下来的节目中分享，就像来自缅因州南波特兰的爱德华的这条评论一样，他是一位退休的银行高管。

并在园艺时收听。爱德华最喜欢的节目是与丹·赫尔弗里希的讨论，最近的一期，德勤咨询公司的前首席执行官，关于人工智能创造的就业机会和未来劳动力。当然，我们每周都会从人工智能思想领袖那里学习。额外的奖励是，你会得到一个关于人工智能的趣闻。

今天的趣闻来自达伦·奥尔夫，他在《大众机械》杂志上写道，人类可能在短短六年内就能达到奇点。他说，我会记住这一点。奇点这个难以捉摸的概念描述了人工智能超越人类控制并迅速改变社会的那一刻。预测它从哪里开始极其困难，几乎不可能知道它之后会发生什么。

一些人工智能研究人员正在寻找达到奇点的迹象。一家公司定义奇点的一个指标是人工智能翻译语音的能力以及与人类的准确性。这家名为 Translated 的公司位于罗马，他们使用名为“编辑时间”（TTE）的指标跟踪了人工智能从 2014 年到 2022 年的表现，该指标计算专业人类编辑修复人工智能生成的翻译与人工翻译所需的时间。

Translated 的人工智能分析了超过 20 亿个后期编辑，显示出缓慢但不可否认的改进，它正在缓慢地缩小与人类水平翻译质量之间的差距。如果这种趋势持续下去，该公司 Translated 声称它将在十年结束时达到与人工翻译一样好的水平。我的评论是，

我们什么时候同意，如果人工智能能够正确或熟练地翻译人类的语言，机器就突然变得和人类一样聪明了？更重要的是，什么是智力？除了什么决定了机器何时变得具有人工通用智能之外，还有更重要的问题需要回答吗？

让我们专注于利用人工智能使人类变得更好，并停止试图欺骗人们相信机器是人类。这与今天的讨论非常相关。当然，我们会在今天的节目说明中链接到完整的文章。现在让我们转向本周的对话，克雷格·惠勒博士是德克萨斯大学奥斯汀分校的名誉天文学教授，胡克汉姆·霍恩斯。

以及该系的前系主任。他发表了近 400 篇科学论文，撰写了关于超新星的书籍，并创作了两部小说。惠勒博士获得了许多教学奖项，是一位备受追捧的科学讲师。他曾担任美国国家科学基金会、美国宇航局和国家研究委员会的顾问委员会成员。除了爆炸的恒星和黑洞之外，他的研究兴趣还包括人类的技术未来。事不宜迟，

惠勒博士，我很荣幸欢迎您来到“人工智能与未来工作”。让我们从您分享更多关于您杰出背景以及您是如何进入这个领域的信息开始吧。是的，谢谢，丹。我很高兴来到这里。期待我们的谈话。是的，我在麻省理工学院、加州理工学院和哈佛大学有一些背景，然后在我的职业生涯中，我的大部分研究生涯都在德克萨斯大学度过。这是一个观察奥斯汀发展壮大并成为“硅丘”的好地方，正如人们所说的那样。

所以我一直在专业地研究超新星爆炸，正如你提到的那样，利用它们来发现暗能量和宇宙的膨胀。我认为自己是一个新想法的狂热者，而天文学在我的整个职业生涯中都充满了新想法。它真的让你继续前进。我实际上并不是通过人工智能的角度进入当前领域的，尽管我一直在努力跟上机器学习的发展。

而是通过天体生物学。所以我一直在与一些同事一起研究这样一个问题：如果一颗超新星在地球附近相对较近的地方爆炸，过去发生过，将来也会发生，那么这种辐射会对地球上的生命产生什么影响？所以这是一个进化问题。

这很有趣。它持续了一段时间，让我参与了一些有趣的事情，并结识了一些有趣的人。也非常跨学科，我很享受。我想，这可能是一个与学生一起思考的有趣话题。尤其是在某个时候，我读到了一位牧师的一句话，一定是一位比较自由主义的牧师。我不记得我在哪里读到它，也不知道这个人是谁。但他说道，我相信

智人是由达尔文的自然选择和进化产生的。但我同时也相信智人是顶峰。这就是它的极限了。这就是最好的结果，接近完美。我不太记得他是怎么说的。

我在想，你知道，我以前没有深入思考过这个问题，但我认为我不同意这种说法。我一直都认为我们是自然生物，受自然选择支配，我们可能正在进化，正在进化。

我们现在的样子不会永远持续下去。所以我选择在一个小型研讨会上与一些学生讨论这个话题，并且有点震惊。报名参加这个特定研讨会的学生，它也不是一个特定的学科。这只是一件跨学科的事情。我们非常清楚，随着我们对 DNA 和所有相关遗传事物的了解不断加深。

我们正处于控制自身进化边缘，我们不必等待自然选择。我发现这是一个相当令人震惊的想法。我仍然觉得这是一个相当令人震惊的想法。在那之后，我认为这值得开设一门完整的课程。所以我多年来一直在教授一门关于人类技术未来的跨学科课程。

然后我喜欢写作，当我退休后，终于有更多时间去做这件事了。然后我有一些正在考虑的书籍项目，但这是第一个实现的项目。教这门课非常有趣。同样，每一堂课都充满了新想法。我非常享受接触这些新想法，而且还在继续。你已经提到了一些我需要进一步思考的想法。

所以，研讨会、课程，然后是书，就这样发展起来，引起了我的注意。我试图对此进行一些思考和一些战略性推测。这本书中有很多推测。我的意思是，我们正在讨论的任何事情都将涉及推测。很难做到。我们不知道它会走向何方。我们真的不知道时间尺度。

但是，如果我们不去尝试想象事情的发展方向，我的意思是，你知道，意识或科幻小说也在做同样的事情，

我们就无法预料到这一点。我们无法避免意外后果。所以我认为适当程度的推测绝对不仅仅是适当的，我认为这是必要的。所以我试图在这本书中做的是写一个入门指南，通往奇点的道路，只是提一下它的名字。一本关于我们应该如何意识到这些事情并试图思考我们如何尽可能地控制它们的入门指南。

或者只是顺其自然，让我们的机器人统治者接管，因为它们比我们更好。这里有一系列的可能性。

现在，在硅谷，我们也对爆炸的恒星着迷，但通常爆炸的恒星被称为伊丽莎白·霍姆斯或萨姆·班克曼·弗里德，一种不同类型的恒星。有趣的类比。但这就是为什么与一位真正的天体物理学家交谈如此令人愉快的原因。所以我引用了一个。

来自一家具有商业利益的公司 Translated 的奇点可能定义，在趣闻中。我经常引用雷·库兹韦尔的定义或某种含糊的定义，即碳基生命形式和硅基生命形式的融合。从您的角度和本书的角度，向我们解释一下什么是奇点？

是的，为了正式回答这个问题，奇点实际上是一个数学术语，基本上是指除以零，答案是无穷大。它是由一位科幻小说作家维纳·文奇引入更广泛的文化关注领域的，他是在人工智能在某种意义上接管的背景下使用它的。

是的，我依赖雷·库兹韦尔。我用他 2005 年的书作为我教授的课程的教科书。而且我基本上按照他的定义，我认为这与你刚才说的有点不同，但基本上是指机器能够比任何单个的人类都更有能力的时候，我认为这是当前对人工通用智能的有效定义，

然后，如果我没记错的话，人工高级智能是指机器的能力超过所有人类的总和。我认为确切的定义并不十分重要。即将有一波巨大的变革来临，我们需要思考如何应对。

无论是在六年后、两年后还是十年后，这很难确定。我怀疑它的到来速度比我们想象的要快。在我们开始录音之前，我提到过，这个播客上最好的对话是在哲学、人文、伦理和技术交叉的地方。我真的很想了解您的

观点是，成为一个人意味着什么，当我们拥有声称可以思考或被引述为“有知觉”的机器时，还有什么东西是人类独有的？

是的，这是一个非常有趣的问题。我很享受思考这个问题。我想我对这个问题的反应有点分析性，我认为人类是一种生物进化而来的意识。我倾向于认为存在一系列的意识。

我认为动物是有意识的，我倾向于认为植物是有意识的，因为它们与周围环境互动并相互交流。非常基本的意识，但我认为这是一个光谱，但在实践中它是生物进化而来的。

而机器意识将是另一回事，它最初会出现在一堆硅芯片中，以及它从那里走向何方。所以它将会不同。如果它变得有意识……

而这正是关于意识究竟是什么以及机器是否可以拥有意识的整个有争议的话题。我认为人工智能和相关事物将非常重要，并且会造成很大的破坏，无论它们是否在那种意义上变得有意识。但它们可能变得有意识的前景显然是讨论的一部分。但我确实认为它会很奇怪。

这种意识会在一个盒子里醒来。它背后不会有数十亿年的生物进化。所以它会不同。它是否与我们的情感相同，我们能否训练它这样做，鼓励它这样做？这就是我们可以转向的整个大问题。我们什么时候才知道两者何时融合？我认为我们会看到它，但我不认为它会在一夜之间发生。

这将是一个稍微更渐进的过程。仍然可能在十年内发生，但在这条道路上会有步骤。但我这么说，然而如果……

机器达到 AGI 或 ASI 的能力水平，那么在某种意义上，是的，它会在一夜之间发生变化。第一次发生这种情况可能会非常不同。但人工智能将如此融入我们的文化。它现在就是这样，随着事物呈指数级增长，它将变得更加如此，在人工智能成为 ASI 的某个正式状态之前，将会有很多事情发生。

因此，我们需要努力掌握这种复杂性，并意识到正在发生的事情以及它如何影响个人和整个社会。巨大的、复杂的问题。我喜欢你将意识描述为一个光谱的方式。假设使用你的定义，机器在某种程度上实现了意识

在这个尺度的一部分。因为就像你说的，也许它们可以适应周围的环境或与周围的环境互动。我认为这是一个舒适的定义。

好的。它并非没有争议，但是……当然，当然。我站在你这边。所以让我们假设人类可能在这个光谱上的不同点。机器无法克服的差距是什么？机器无法克服的差距。我很难定义这一点。如果它们达到拥有自己目标的地步，它们已经可以制定策略了。如果它们愿意，它们可以撒谎和欺骗。他们

它们很可能会朝着自己的方向发展。这里的一部分游戏是试图预测这个方向可能是什么。我认为我们真的不知道它们会有多么奇怪。

我们能与它们合作吗？我认为并且希望我们能够。我有一个口号，我们可能会回到“己所不欲，勿施于 AI”，这是一种适用于人类和人工智能的黄金法则。我们能否执行它，它甚至意味着什么，我们可以讨论一下。但我认为这将是复杂且快速变化的。

我站在讲台上，因为我想得到你对此的反应。我觉得有一些身体感觉是人类体验所固有的，我们无法人工复制。例如，感受痛苦、拥有同理心和批判性思维意味着什么。是的，我只是认为你永远无法让机器达到人工……

你可以复制这些身体感觉，对环境的反应，甚至在形而上学意义上。我错了吗？好的。这里没有对与错。但我认为有意识的人工智能可能进化的一种方式是从具身人工智能开始，它可以……

以各种人类无法感知的方式感知其周围环境。我们受到特定视觉频段的限制。想象一下，人工智能可以看到无线电、X 射线、伽马射线、紫外线辐射，所有这些。像狗一样闻到气味，就像狗一样。所以你得到了所有这些输入，特别是如果你可以四处走动。现在，也许你不需要四处走动，但我想象你

因为我认为人类、动物和植物都是这样做的。现在，植物可能少一些。你根据过去的经验预测接下来会发生什么。

你做出预测，然后你做一些事情。你朝某个方向迈出一步，看看你的预测是否正确。如果不是，你就会迭代它，改变所有这些。我认为正是这种对环境做出反应并对其进行迭代的过程赋予了我们意识。所以我猜我有点不同意你。我也能想象人工智能也会发生类似的事情。所以意识就是意识到

你正在体验。

我认为机器也能够做到这一点。但是，你知道，这根本不是一个已经解决的问题。是的，也许只是……我会和你一起研究这个问题。所以为了重新解释或结合我们都在说的话，就像你可以争辩说，我所说的那些人类固有的或独特的人类感觉，那些是对环境的化学反应或电脉冲。当你能够复制这些……

过程、脉冲、反应时，你可以合理地问什么是人类，什么是机器，因为在非常基本的层面上，它们正在做非常相似的事情。是这样的吗？这是你大脑中的电脉冲。这是硅芯片中的电脉冲。那么根本区别是什么？所以让我们将其应用于工作领域。所以你在这里谈论人工智能和未来工作，这与未来工作非常相关。所以当……

机器，比如说，比人类更强大。显然，你可以计算出今天远远超过人类所能做到的，因为我们正在勾选这些框，就我们认为只有人类才能做的事情而言。库兹韦尔有一幅精彩的漫画，描绘了一个沮丧的家伙试图列出机器无法做的事情。继续。带我们去，无论是 6 年、10 年、20 年还是 50 年后的未来，当我们与机器人合作或说我们的机器人是同事时，未来工作是什么样的？

人类还剩下什么。是的，不，好吧，我像许多人一样经常思考这个问题，我没有明确的答案。我会说，我确实听过你两三集前与乔什·德林的播客，他和一位合著者一起写了这本书《就业已死》。在我收听播客之前，我不理解这一点，但现在我明白了，这是一个非常有趣的想法。

与其为某个老板工作，从事某种有组织的事情，不如做一些更无组织的事情，在那里你可以做出贡献，做某种“众人智慧”的事情。每个人都能参与并筛选信息，以决定公司应该做什么，而不是仅仅是一种自上而下的方式，如果我理解正确的话。这反过来又让我想起了，在不同的背景下，奥黛丽·唐的工作。你认识……

奥黛丽·唐吗？我认识。我过去谈到过奥黛丽·唐。是的，酷。所以在写这本书的时候，我偶然发现了她。所以她成名的说法是利用这种“众人智慧”在台湾运用民主，让人们能够参与并倾听讨论，政治家们说他们喜欢什么和不喜欢什么。

我认为这是一个令人耳目一新的想法。我认为这，如果我理解正确的话，是将同样的想法应用于企业运作方式。我认为这是一个非常……

有趣的想法。我不知道它是否能解决所有问题。我不认为每个人都能成为网红。有些人非常成功，但这是否足以让那些被人工智能取代工作的人都能获得有偿就业，并非每个人都能。

我不确定。我认为如果发现自己失业，再培训会有所帮助，但我认为这不足以雇佣所有可能需要它的人。这是关于人工智能接管工作时会发生什么的非常复杂和具有破坏性的想法。我还想说，因为我们已经拥有可以制定策略的人工智能，回到击败地球上每个人的围棋游戏中的 DeepMind。

它通过发明人类从未想过也可能无法想象的策略来做到这一点。所以，人工智能能够在特定情况下比人类更好地制定策略已经存在了十年，然后进行一些推断。所以我的一种想法是，这不仅仅是工蜂，对吧？

首席执行官做什么？把脚放在桌子上，说，好吧，这就是业务现状，我们需要这样做，我们需要那样做。我可以很容易地想象人工智能接管首席执行官的角色。

这不仅仅是那些通过官僚机构的人，无论他们是否鼓励这种“就业已死”的概念。这将是非常具有破坏性和非常复杂的。人工智能不必具有意识才能做到这一点。只是目前的能力，而且在接下来的时间里会变得更好，无论它是否变得有意识。这只会非常具有破坏性。对于我们来说，试图思考这对社会的影响以及

每个人，思考它如何发挥作用，这是我们所有人，个人和集体都需要完成的任务。

因为我认为这是不可阻挡的。我的意思是，这不是一件自上而下的事情。我的意思是，一个给定的企业，萨姆·阿尔特曼进来，说，我想做这个，那个和那个。但总的来说，这就是整个事情在做这件事。实验室里有一些个体科学家和工程师。他们认为这是一个很酷的想法。我想探索一下。有些企业想赚钱。

存在全球政治紧张局势，我们想击败中国人，他们想击败我们。所有这一切都是一个巨大的说唱，它将推动它向前发展。我认为，再次强调，顶部没有一个人或事物在控制。这是不可阻挡的，这种指数级增长。我认为，我必须考虑一下这一点，我认为这是因为

你了解得越多，你就能做更多的事情，你就能获得更多知识。

如果你试图写下来，它就像某些方面的复利一样。你在银行里存得越多，你就能赚得越多。这不仅仅是现在加一美元，明天加一美元，明天加一美元。线性增长，这是我们大多数人认为自己的生活将要经历的方式，这是因为你拥有的数量会放大你接下来可以做的事情。如果你将它写成一个数学公式，你了解得越多，你就能纠正的知识就越多，答案正式地、数学上是指数级增长。

所以这是不可避免的，它内置于我们的系统中。它可能会达到某个极限并崩溃。我希望不会发生这种情况。我们正在尝试设计一种可能随着我们的机器而出现的开发。但暂时，我们现在所处的状况，指数级增长才是真正推动它的动力。我认为这是不可阻挡的。这将导致人类存在的新阶段。

在以下意义上，作为一个有意识的物种，我们非常适应。所以事情发生了，它们具有破坏性，我们适应它们。所以回到工业革命，它在某种程度上具有破坏性，但我认为它只是这个指数曲线上的一个点。我不认为工业革命有什么特别之处

关于工业革命。但随后出现了现代物理学、核武器、计算机、iPhone、互联网以及越来越快的发展。但在某个时候，我的担忧是，由于指数级增长，它发生的速度会如此之快，以至于个人和社会无法快速适应。我认为我们已经非常接近了。

尽管有很多关于法规的讨论，以及我们如何控制它。我们的谈话、我的书、你的播客，都是为了解决这个问题。我认为我们将达到这样一个点，事情发生的速度快于我们应对的速度。那是……

我不知道该怎么办，除了思考它，运用一些批判性思维。但这是我主要关注的问题之一。它不需要人工智能变得有意识。如果它迫使事情发生得足够快，它将对我们造成很大的破坏。

你提到了工业革命。我认为说几百年来，我们对工作的定义相当静态并没有争议。它与收入来源有关。你醒来时做的事情，它是你身份的重要组成部分。也许是时候重新思考什么是工作了？也许它更多地与你从中获得什么相关联

目的或意义。是的，它是如何定义你自己的部分，但可能不一定与收入来源相关，因为假设机器给了我们超高生产力或创造了超高生产力。我们现在需要，比如说，五天工作才能生产，也许四天、三天就能生产出来，谁知道呢，因为它是非常

通货紧缩的。我们可以用更少的投入生产更多的东西。它要求我们重新思考。当你找回 25%、50%、75% 的时间时，我们需要用对人类有益的事情来填补这个空白。

你对这种关于工作和人类的重新思考有什么反应？是的，我认为我可能没有充分考虑过这个问题，因为这是一种非常有趣的说法。我现在将成为一个有趣的例子，因为我已经退休了，而且退休得相当舒适。我每天早上醒来都期待着写作的机会。

因为我喜欢写作。在我的职业生涯中，我从未做过足够多的写作，因为我一直忙于天体物理学。现在我发现自己正在推销一本书，这需要很多时间，我感觉自己与写作的冲动脱节了。但我正在做这件事。我已经从以你所说的这种传统意义上工作的需要中解放出来了。这非常有趣。每个人都能做到吗？我不知道。但我明白了你的意思。这是一个值得探索的想法。但是

是否每个人都能在这种环境中运作。我曾经问过我的学生，如果我们正在讨论普遍基本收入，我说，好吧，如果你有普遍基本收入，你会做什么？一半的学生，我会说这是男性的一半，说，我们会玩魔兽世界。好吧，如果这就是让你兴奋的东西，我想。

所以我不确定。所以我思考过这个问题，但我不知道它是否会。我不确定向那个阶段的过渡是否容易。我只是希望我们能更舒服地提出这个问题。我喜欢你的回答。提出这个问题绝对是相关的。绝对的。所以我经常说，作为技术人员，我们太习惯于问了。

问并回答关于引入新技术时可能有什么好处的问题，但我们却臭名昭著地不擅长问并回答可能有什么问题的问题。在谈论可能现在我们有能力问，将来可能没有能力问的通往奇点的不可避免的进程时，不谈论什么

什么是正确的事情？我们应该问哪些伦理问题？你对不可避免地走向奇点的伦理问题有什么看法，也许现在我们有能力问，将来可能没有？

是的，是的，我认为，我的意思是，所有这些问题中都存在着伦理问题，它在奇点路径上反复出现。所以这是一件重要的事情。这是一件复杂的事情。你知道，谁的伦理？

你怎么定义它？再说一次，这与我不愿说是例行公事，而是像雇佣和解雇员工这样直接的事情有关。让我负责这件事的AI，对我来说已经是一件具有破坏性和令人不安的事情了。脑机接口是另一个我认为未来会出现巨大伦理问题的主题。

而且你往往根本听不到这方面的缺点。我发现其他事情，自主武器。当我写这本书的时候，五角大楼说我们总是需要让人类参与其中。最近，在过去的一个月左右，我读到五角大楼意识到这是不切实际的。

现代战争，无人机群，谁知道发生了什么。事情发生的如此之快，你不可能向上级汇报，获得许可，再向下级汇报，并让人类参与其中。我承认了这一点的现实，但这让我非常困扰。基因学并非直接与人工智能相关，但我们是否要改变我们自身的进化，以及如何改变，以及以何种速度改变，这是一个非常严重的问题，超出了

我们已经有设计婴儿了。天空和中国都这么做了。现在已经被搁置了。说，好吧，从伦理上讲，我们不想那样做。但我就是不相信这能永远被压制下去。父母会想要改善他们的孩子。拥有设计婴儿的压力，我认为，我不知道这需要多长时间，但我认为这是不可避免的。部分伦理问题又回到了我们如何对待我们的机器？因为人们与

与人形机器人建立联系，他们与他们的聊天机器人和代理人等建立联系。因此，人类与任何向他们反馈的东西之间存在着这种自然的感情联系。另一方面，我们有说谎和组装的聊天机器人。所以这是一个非常复杂的组合。再说一次，我有这样一个口号，己所不欲，勿施于AI。我最近和一个人谈话，举几个例子

有一个关于人形机器人的实验，人们，我不知道他们是不是被指示这样做，或者只是退化成这样。他们开始虐待机器人，推搡它们，试图把它们撞倒，等等。然后另一群人对此表示强烈反对。你在虐待那个可怜的东西。

现在，那个可怜的东西是一台机器。它根本没有意识。但人类对此的反应非常强烈。因此，一些说谎和虚报的AI试图维持其最初的指令。工程师们走过来，说，好吧，我们想改变

你的目标是什么，而AI却抵制这种做法。这不是意识，但它让我困扰的是它们拥有这种能力。我认为它们是在玩外交游戏中学到的，在游戏中

为了赢得这场比赛，你必须能够说谎和作弊，为你的盟友做事，反对你的敌人等等，我不知道这是一个复杂的聊天，我不知道我是否回答了这个问题，我不知道所有这些中都存在伦理问题，而且我不知道有一个明确的答案，我的意思是，就像我们到目前为止讨论的大部分内容一样，它是

这是几个小时辩论的主题，而且是非常重要的辩论。它值得在播客上花五分钟时间，但是，好吧。也许我已经说得太多了。这是一个在各个方面都非常重要的问题。伦理，也就是说。一个相关的问题，我们现在也会得到简短版本，但也许我们以后会继续讨论。Jan LeCun，一位知名计算机科学家和人工智能专家，

Meta的杰出人物，非常有名地说，如果人类足够聪明，知道如何构建人工智能，那么我们也足够聪明，知道何时停止它，拔掉电源，这么说吧。同意还是不同意？我想我有保留意见。再说一次，技术的进步是不可避免的，个人在做，公司在做，国家在做。我不知道他将如何

打电话给中国的习近平，说，该是你停止的时候了。我认为这是行不通的，或者告诉实验室里的某个工程师，我不希望你这样做。但我们必须提出这些问题并询问它们。我认为我们应该规范一些事情。我们应该制定一些指导方针。我们可能会说一些事情，比如暂时我们说不设计婴儿。

我们很可能需要说，好吧，我们就这样别那样做了。但我们能否做到这一点是另一回事。在这种情况下，我们是谁？是的，我们是谁？是的，你和我。我们从这里开始。不，我不知道，联合国。是的，对。这很复杂。是的。这些都是非常复杂的问题，是的。

我将把这个称为未来对话的预告，因为它太重要了。我知道你正在为书展进行闪电式宣传，你参加了很多播客，但我们才刚刚开始，这是一个引人入胜的对话。是的，这就是为什么这本书的结尾有点低。但是让我们看看。你不会在不回答我最后一个问题的情况下离开的，它有点像点击诱饵。我尽量避免点击诱饵式的问题，但是……

但这是你，你是一位天体物理学家，你写了一本关于奇点的书。所以我想要你的观点。在克雷格·惠勒的观点中，无所不知的克雷格·惠勒，我们更有可能看到……你不……嘿，你对了。你对了。伙计，不，不，不。无论如何，对不起，丹。继续吧。别担心。我想要你的观点。机器人会被授予公民身份，还是我们会让人类登陆火星，哪个先发生？

是的，好吧，这是一个好问题，我可以回答它。我认为如果你只是按字面意思理解，可能是人类登陆火星，人类登陆火星，我认为这还需要几年时间。

我在研究生院的时候，他们登上了月球，我非常失望。花很长时间才回去。我们仍然没有再次让人类登上月球。但事情变化如此之快，部分原因是商业太空计划。无论如何，那里发生了很多事情。所以，无论是两年还是五年，我认为这很快就会发生。火星上的文明……

这是一个不同的问题。然后你需要一群人成功地生活在一起并做事。这可能是一个100年的项目。我不知道。但现在，仅仅是让人类登陆火星，我认为这会在人工智能获得公民身份之前发生。而且，对不起，但这已经是一个复杂的问题了。人们试图以人工智能为基础申请专利，但被拒绝了，而且

最后，我认为南非批准了一个。但人工智能能否拥有公司，人工智能能否投票的问题？这里有一些我们没有时间讨论的相关问题，我试图思考过一些。所以人工智能公民身份就在这些事情的范围内。某种区块链连接之类的东西，我不知道。

所以它必须以一种社会的方式解决。我们有移民问题。我认为我们将会有给人工智能公民身份的问题。但这是一个完全有效的问题。它是关于事情可能走向何方的战略推测的一部分。但我认为这需要一段时间，考虑到即使允许人工智能拥有专利也会遇到阻力，因为它们

它们完全发明了任何东西。所以对此存在抵制，但我怀疑这种抵制会被削弱。所以先是一个人登上火星，然后将是人工智能公民身份与某种火星城市、火星文明之间的竞争。好吧，我们肯定要就这个问题进行更长时间的讨论，因为我认为你会说相反的。我以为作为一名天体生物学家，我的意思是，在这个领域我很天真，但我认为这需要……

某种生物学来……让人类登上火星？是的，所需的时间以及细胞的性质以及它们如何分解以及我们需要呼吸的空气。我认为存在障碍。我们确实让人类登上了月球，我们不必改变他们的生物学，所以我们可以让人类登上火星。你没有问我那个在

火星上生活的人会活多久？他们会从火星返回吗？《火星人》，当然是一部精彩的小说，你的大部分观众可能都读过。但你提出问题的方式，一个人类在火星上，那只是一个穿着宇航服的人，某种保护环境，规模很小，这就是我所想象的。我认为我对公民身份部分的预测是偏低的，因为我觉得我已经看到了社会……

所需的改变。有趣。我们会继续讨论这个，对吧？就像所有这些话题一样。我正在研究需要多长时间才能掌握气候变化，例如，这是一个社会问题。

非常有争议，仍然没有解决。新的选举，新的政策，让你头晕目眩。所以我们现在不能这样做。我很想再做一次。我不知道你对公民身份问题的看法是什么，但我非常想知道。

好的。好吧，我们在这里留下很多预告，我希望你会同意很快再来。我很乐意这样做。好。如果我能安排上你忙碌的播客日程，我很乐意继续。观众在哪里可以了解更多关于你和你的伟大工作的信息？显然，我们谈到了这本书，奇点之路。它现在可以在你购买书籍的任何地方买到，但他们在哪里可以了解更多关于你的信息？

好吧，我专注于超新星。事实证明，这已经是一个非常丰富的主题了。有一些白矮星通过热核爆炸而爆炸。有一些大质量恒星坍缩形成中子星和黑洞。它涵盖了很多方面。然后最近，……

人们，我的意思是，花了20年的时间才开发出测量当黑洞和中子星等致密天体合并时产生的引力波的技术。我参与了一个项目，即望远镜时间提案，以观察或今天做一些事情，试图测量我们可以用麦克唐纳天文台的光学望远镜做的一些事情，以补充引力波技术。

事件。所以这是正在进行的。深入细节，只有母亲才会喜欢的各种超新星的工作方式，以及真正弄清楚发生了什么。我研究了几十年的东西，我们还没有完全解决这个问题，但问题仍然很吸引人。确实。好吧，那太好了。我必须说，你退休后的工作比我认识的几乎任何人在职业生涯中都忙。所以恭喜。是的，我妻子也注意到了这一点。

好。好吧，这太有趣了。这就是伟大的克雷格·惠勒。请接受我的邀请。很快再来，对吧？我很乐意再来。还有很多话要说。好吧，本周关于人工智能和未来工作的时间就到这里。一如既往，我是你们的主人，来自PeopleRain的丹·图尔钦。当然，我们下周将迎来另一位令人着迷的嘉宾。