Sam Altman Speaks Out About What Happened at OpenAI [VIDEO]
01:19:30 Share

萨姆·阿尔特曼不再担任OpenAI的首席执行官。一方是超级明星首席执行官，另一方是不满的董事会。770名员工中有747名员工向董事会发送了一封措辞严厉的公开信。在他意外被解雇五天后，萨姆·阿尔特曼又回来了。这甚至算得上解雇吗？这是一场残酷的……我想我现在不应该谈论这个。♪

这是特雷弗·诺亚主持的《现在是什么？》节目。

Lululemon的新广告活动以奥德尔·贝克汉姆二世和DK·梅特卡夫为主角，穿着他们柔软、透气、舒适的服装。旨在让你跟上节奏或放松身心。访问lululemon.com，获取你明天需要的一切。休息日是最好的一天。本集由大西洋城的博加塔酒店、赌场和水疗中心赞助播出。

你的完美度假胜地。沉浸在大西洋城第一家游戏度假村的风格和精致中，优雅与娱乐在这里相遇，奢华等待着你每一次的到来。如果你准备好享受难忘的体验，请访问theburgata.com立即预订您的住宿。必须年满21岁才能参与赌博。有赌博问题？请致电1-800-GAMBLER。本集由瑞士糖果公司Ricola赞助播出。

我想我们都可以同意，喉咙发炎是最糟糕的感觉之一。谢天谢地，有一个简单的解决方案：Ricola樱桃糖。它能提供你需要的舒缓喉咙的功效，更棒的是，它充满了风味，所以你可以让每一天都更美味，并且感觉很棒。现在就试试Ricola樱桃糖。要了解您附近哪里有售，请访问Ricola.com。嘿，发生了什么事？

很高兴见到你。你好吗？很好。非常荣幸，伙计。我也是。感谢你抽出时间。谢谢。在我感觉像是疯狂的时刻，对吧？

感觉是我经历过的最疯狂的时刻。是的，我的意思是，你身处这一切的中心。所以我想知道那是什么感觉。因为我只是这个领域和这个世界上所有事情的狂热观察者。我觉得你是一个受这一切影响的人。我的意思是，就在现在，我们得到了消息，萨姆·阿尔特曼入围了《时代》杂志年度人物候选名单。很高兴没有获得这个奖项。很高兴没有获得它？是的，当然。为什么？为什么？

今年我得到的关注比我一生中想要的还要多。这是一个很大的问题。我很高兴泰勒·斯威夫特。好的。好的。所以你不喜欢关注？你不想被关注？不，这太残酷了。我的意思是，在某些方面它很有趣，在某些方面它也很有用。但从个人生活、生活质量权衡的角度来看？是的。是的，绝对不是。但是，你知道，现在就是这样。就像我报名参加的一样。对。现在是臭名昭著的时候了。

是的。人们在大街上认出你吗？这是一种非常糟糕的权衡。是的。我只是觉得你永远不会，我相信你也会遇到这种情况，但我再也不能匿名了。是的，但是人们不会问我关于未来的问题。他们不会问你是否会毁灭世界。是的，我相信。没错。这略有不同。人们可能想要和我自拍。这就是它的全部内容。是的，很多自拍。好吧，恭喜你。你是《时代》杂志的年度首席执行官。是的。这可能是最奇怪的时刻之一，对吧？因为我想《时代》杂志现在正在做出这个决定。

几周前，你可能还不是年度首席执行官。我不知道他们是否还能给你颁奖。我想这是为了你之前的工作。是的，我不知道。我不知道它是如何运作的。重新担任首席执行官感觉如何？说实话，我仍在重新整理现实。是吗？我的意思是，在某种意义上感觉很好，因为我在整个过程中学到的一件事就是我多么热爱这家公司、使命和员工。对。而且……

你知道，我在整个过程中有几次经历，感觉我在短时间内经历了所有的人类情感。嗯，对我来说一个非常明确的时刻是，呃，所以这一切都发生在周五下午，周五中午。然后第二天，星期六早上，一些董事会成员打电话给我，说，你知道，你想谈谈回来吗？我对这件事有非常复杂的感觉。嗯，

但在最后，这对我来说非常明确，是的，我的确如此。就像，我真的很喜欢这个地方和我们正在做的事情。我认为这对世界很重要，就像我最关心的事情一样。

在科技界，招聘和解雇似乎是每个人都必须习惯的事情。我的意思是，我知道过去，你知道，你在——那是Y Combinator，对吧？你被解雇了那个职位。每个人都有一个故事——等等，等等，什么——我不想讨论这个。不，不，不，不。告诉我，告诉我。这些事情——你知道，你得到研究结果，然后你从那里开始。哦，我的意思是，我有——

像一年之前，我想来做OpenAI。对。这就像一个复杂的过渡才能来到这里。但是，我喜欢，我一直在从事OpenAI和YC的工作，并且非常决定我想去做OpenAI。好的。我从未后悔过。好吧。那么你从未被解雇过，这是一个作为一个人很难处境的地方。不，

这甚至算得上解雇吗？如果你被解雇了，然后你需要被重新雇用。哦，不，我本来想说的是，不仅……就像这是一场残酷的……我想我现在不应该谈论这个。这是一件非常痛苦的事情。好吧，我……就我个人而言，作为一个普通人，我觉得处理方式非常不公平。是的，是的。我可以想象。你知道，很多人会谈论……

被解雇。我想，尤其是在新冠疫情期间，这成了一种趋势。人们会谈论收到一封电子邮件或一段群发视频，然后成千上万的员工会被解雇。你很少会认为这有可能发生在一个公司的首席执行官身上。然后我认为更重要的是，你不会认为它会发生在一个许多人谈论的首席执行官身上

就像这一代和未来的乔布斯一样。顺便说一句，你不会那样评价自己。当然不会。不，我认为很多人那样评价你，你知道，因为，我的意思是，我一直在思考这个问题，我心想，我认为称你为这一代的乔布斯是不公平的。在我看来，我认为你是这一代的普罗米修斯。不，你真的是。你真的是。在我看来，你似乎是从神那里偷来了火，对吧？

你处于这场运动和我们现在正在经历的时代的 forefront，曾经人工智能只是科幻小说和传说中的东西。你知道，你现在是可能永远改变文明的最前沿的面孔。你认为它会改变未来的所有事情吗？会的。我的意思是，我完全可能对我接下来要说的话是错的。但我的感觉是我们将会创造一些东西

几乎每个人都同意是AGI。定义很难，但我们将创造一些东西，人们会看着它说，好吧，你们做到了。这就是人工通用智能。是的，是的，是的。就像，你知道，人类水平或超越人类水平的系统。在你详细介绍之前，你想说一下人们认为人工智能是什么以及人工通用智能之间最大的区别是什么？

我们已经足够接近了，人们对它的定义很重要，而且存在差异。对某些人来说，这意味着一个系统可以完成当前人类工作的一大部分。当然，我们会找到新的工作。我们会找到新的事情要做。但对其他人来说，这意味着更像是一个可以帮助发现新的科学知识的系统。这些显然是非常不同的里程碑，对世界的影响也大相径庭。但是

我不再喜欢这个术语的原因是，即使我被它困住了，我也无法停止使用它。你不喜欢哪个术语？AGI。好的。我认为它现在对大多数人的真正含义是像非常聪明的人工智能。但除了这一点之外，它变得非常模糊。我认为很大程度上是因为我们越来越接近了。但我本来想说的重点是我们会制造AGI，无论你想称之为什幺。然后至少在短期和中期内，它改变世界的程度将比人们想象的要小得多。

比人们想象的要小得多。是的，短期内。我认为社会——它有很多惯性。经济有很多惯性。人们生活的方式有很多惯性。是的。这可能对我们管理这种转变是有益的。这可能对我们来说是件好事。但是我们都以某种方式做事，我们习惯了。社会是一个超级有机体，以某种方式做事，并且习惯了它。所以——

以GPT-4为例，我认为很有启发性。当我们第一次发布它时，人们经历了真正的恐慌时刻。是的。我说，哇，我没想到会发生这种情况。它出现了。然后他们继续他们的生活。它肯定改变了一些事情。人们肯定在使用它。拥有这项技术比没有它更好。当然，你知道，GPT-4不是很好，5、6、7，无论如何，都会变得更好得多。但是

四是在ChatGPT界面中的时刻，我认为，这是许多人从不认真对待到非常认真对待的时刻。然而生活还在继续。你认为这对我们人类和社会来说是件好事吗？生活应该继续下去吗？我认为。或者作为这个产品之父之一，这个想法的父母之一，你是否希望我们都停下来片刻，我想，评估一下我们身处何处？

我认为人类个体和整个人类的韧性都非常棒。好的。我很高兴我们有这种能力去适应和适应新技术，去适应变化，并让它成为，你知道，世界的一部分。这真是太棒了。这……

我认为新冠疫情是一个最近的例子，我们观察到了这一点。是的。你知道，就像世界很快就适应了，然后它很快就感觉很正常了。我的意思是，另一个以一种不太严肃但有启发性的方式为例是，当所有关于不明飞行物的事情出现时。那是几年前的事了。是的。我的很多朋友都会说类似的话，嗯，

也许那些是真正的不明飞行物或真正的外星人等等。那些是真正的怀疑论者。然而，他们第二天只是去上班，和他们的孩子一起玩耍。是的，因为我的意思是，你能做什么？你能做什么？你能做什么？如果它们飞过，它们就会飞过。你能做什么？所以我是否希望我们花更多时间来评估一下？我们作为一个世界正在这样做。我认为这很好。我坚信迭代部署这些技术非常重要。我们想要……

我们不想秘密地在实验室里建造AGI，让没有人知道它即将到来，然后突然把它扔到世界上，让人们不得不这样说，呃，

我们在这里。你认为我们必须逐渐适应它，并将其作为一种技术一起成长吗？是的，所以现在社会、我们的领导者、我们的机构正在进行的这场对话，人们实际上使用这项技术，对它有什么感觉，它能做什么，它不能做什么，风险在哪里，好处在哪里，我认为这太棒了。我认为，也许在某种意义上，我们为我们的使命所做的最好的事情是，到目前为止，是采用了迭代部署的策略。就像，我们本可以秘密地建造它。

然后再建造几年，然后部署它。那将会很糟糕。

很有趣。今天我们走进OpenAI大楼。它就像一座小堡垒。感觉像是未来的家园。我看到了你的一篇文章。你今天是以客人的身份进来的吗？不再是了。我现在回来了。我在中间的一天是以客人的身份进来的。好吧。我看到你有一篇文章说你作为客人进来了。我想，该死，这太奇怪了。这就像回家，但它不是家，但它又是家。感觉它应该以某种方式……

一个非常奇怪的时刻，就像在这里戴上访客徽章一样。是的。但我就像，每个人都非常疲惫，非常精疲力尽，肾上腺素飙升。是的。它并没有像我猜想的那样具有里程碑意义。它本应该是一个有趣的时刻，你知道，可以反思和讲述故事，那天有一些这样的时刻。就像那天我最自豪的时刻之一是，我，

非常疲惫，非常心不在焉。而且，你知道，我们认为董事会那天会让我重新担任首席执行官，但以防万一他们没有这样做，我接受了L3的采访，这是我们最低级别的软件工程职位，由我们最好的人之一进行面试。而且，你知道，他给了我一个肯定的答复。那是一个非常自豪的时刻。好的。好的。所以你仍然具备技能。但徽章并不像我希望的那样令人心酸。对。

我很想知道你认为自己作为首席执行官做得对的地方，才能获得我们公开看到的OpenAI员工的支持。当这个故事被报道出来时，我不会问你细节，因为我知道你不能评论内部调查的事情。我认为我不会。是的，我的意思是那些事情。但我的意思是，我知道你可以谈论一下感受以及公司整体发生的事情。我们很少会看到这种情况

像OpenAI那样展开。你知道，你拥有这家公司和这个想法，对全球大多数人来说，它在一分钟内不存在。下一分钟，你发布了ChatGPT，这个简单的提示，只是一个小的聊天框。

改变了世界。我认为你以任何科技产品的最快速度获得了100万用户。我认为是五天。是的，五天。然后它飙升到1亿人。它很快，我知道在轶事层面，对我来说，它从世界上没有人知道这是什么东西，我向人们解释它，试图让他们理解它。我必须向他们展示诗歌和他们会理解的简单事物。然后人们告诉我关于它的事情。现在它变成了一个普遍存在的想法，人们试图理解它是什么以及它意味着什么。

但在另一方面，你拥有这家公司，它试图以某种方式、某种形式来驾驭和塑造未来。而人们支持你。你知道，我们看到了这个故事。萨姆·阿尔特曼出局了。

不再是首席执行官了。然后他们把所有事情都搅在一起。我的意思是，我不知道你是否看到了一些谣言。它们太疯狂了。我看到的最疯狂的事情之一是，他们说，就像有人说的那样，这很疯狂也很有趣。他们说，我从可靠的消息来源得知，萨姆因为试图与人工智能发生性关系而被解雇。那是某人……我的意思是，我甚至不知道我该如何回应。

我看到了，我就像……我想鉴于当时的时刻，我应该正式否认这一点，这并没有发生。是的，我认为这不可能发生，因为我认为人们不理解这两件事的结合。但让我感到的是……

事件的耸人听闻似乎让OpenAI进入了不同的聚光灯和不同的时刻。其中一件大事是你从你的团队那里得到了支持。就像人们出来说，“无论发生什么，我们都支持萨姆。”这通常不会发生在公司里。首席执行官及其员工通常在某种程度上、某种形式上是脱节的。但感觉这不仅仅是一个团队。

我接下来要说的话一点也不虚伪。有很多地方我很乐意承担很多责任。但是我认为这一次，除了我作为某种象征性代表之外，与我无关。但我认为我们在这里做得很好的一件事是一个人们真正相信其重要性的使命。这是一个……我认为那里发生的事情就像……

人们意识到，我们如此努力工作并取得如此巨大进展的使命、组织和团队，但还有很多事情要做。就像那受到了真正的威胁。我认为这就是造成这种反应的原因。这真的与我个人无关，尽管希望人们喜欢我并认为我做得很好。这是关于我们所有人共同的忠诚以及完成使命的责任感。

并希望最大限度地提高我们做到这一点的能力。在最高层面，你认为使命是什么？是获得人工通用智能吗？尽可能广泛地获得AGI的好处，并成功应对沿途的所有安全挑战。好的，这是一个有趣的第二行。我很想以后和你聊聊这个，深入了解它的安全性。

当你把OpenAI作为一个组织来看时，OpenAI的起源非常奇怪。如果你错了，你会随时纠正我的，但它似乎是由……

非常注重安全，你知道，你把这个团队的人聚集在一起，你说，我们想创建一个组织、一家公司、一个集体，试图创造最合乎道德的人工智能，以造福社会。你甚至在，我想，利润中看到了这一点，公司定义其投资者如何获得利润的方式等等，

但即使是在OpenAI的某个时候，这也有所改变。你认为你能承受资本主义的力量吗？我的意思是，这里面有很多钱。你认为你真的能够维持一个金钱不会决定你想要做什么以及你为什么要做的事情的世界吗？它必须是某种因素。就像如果你考虑一下仅仅训练这些系统的成本，我们必须找到一些方法……

在资本主义领域发挥作用，缺乏更好的说法，好吧，但我认为它永远不会成为我们的主要动力，顺便说一句，我喜欢资本主义，我认为它有巨大的缺陷，但相对于世界上尝试过的任何其他制度，我认为它仍然是我们想出的最好的东西，但这并不意味着我们不应该努力做得更好，我认为我们会找到方法……

我们需要能够继续推进这项技术前沿的巨大、创纪录的资本数量。这就像我们早期学到的一课，事情比我们想象的要贵得多。就像，我们知道……

我们有点知道我们有这个扩展系统的想法，但我们只是不知道它会走多远。你一直都是规模的忠实粉丝。这是我读到你的一些内容。即使是你的导师之一，我认为现在和你一起投资聚变能源的人之一，他们说，每当你向SAM提出一个问题……

他首先想到的是我们如何解决这个问题？我们如何解决它？第二件事是他立即说的是我们如何扩展解决方案？我不记得了。我对名字很糟糕。但我知道这是你与之共事的人。有趣。不，这是对的，但我以前从未听过有人这样评价我。哦，是的，是的。但它是——我认为它一直是像我一生中对许多不同方面的观察——

像公司，也仅仅是领域，规模往往会产生令人惊讶的结果。所以像扩展这些AI模型一样，导致了非常令人惊讶的结果。扩展聚变发电机使其在所有这些显而易见但一些不显而易见的方式中都变得更好。扩展公司具有不显而易见的好处。扩展像Y Combinator这样的公司群体具有不显而易见的好处。我认为有一些事情……

没有被认真对待。在我们自己的例子中，你知道，在早期，我们知道规模将很重要。如果我们更聪明或更有勇气思考，或者其他什么，我们会从一开始就做得更大。但这就像真的很难说，我想去建造一台价值100亿美元的更大的计算机。所以我们没有。对。我们学习的速度比我们应该慢，但我们确实学习了。

但现在我们看到了我们需要多大的规模。再说一次，我认为资本主义很酷。我对它作为一种制度没有任何反对意见。好吧，不，那是不对的。我对它作为一种制度有很多反对意见。但我对它比我们迄今为止发现的任何其他东西都好没有任何异议。你有没有问过ChatGPT它是否可以设计一个系统？我没有。

也许不是设计一个新系统，而是，你知道，我问过很多关于人工智能和资本主义将如何交叉以及这意味着什么的问题。我们中的一件事，所以我们对我们最初假设中最重要的一点是正确的，那就是人工智能将会发生。深度学习是可能的。顺便说一句，很多人对此嗤之以鼻。完全正确。哦，伙计，我们被无情地嘲笑了。是的。但即使是我们的一些关于如何到达那里的想法，我们也是正确的。但我们在很多细节上是错的，当然，科学就是这样，没关系。你知道，在我们开始使用语言模型之前，我们对如何构建它有非常不同的方法。我们还认为，我认为，对构建AGI将会是什么样子有非常不同的概念。我们不理解这个想法，它将成为越来越好的迭代工具，你可以像与人类交谈一样与之交谈。所以，所以我们的想法对……

好吧，当你构建AGI时，会发生什么？我们把它想成是AGI之前的时刻和AGI的时刻。而且，你知道，然后你需要把它交给其他系统和其他治理。我现在认为它可以是，而且我很高兴这一点，因为我认为这更容易驾驭。我认为它可以是……

我不想说只是一个工具，因为它在所有这些方面都不同，但在某种其他意义上，我们为人类创造了一个新工具。我们为工具箱添加了一些东西。人们将用它来做各种令人难以置信的事情。但是

人们仍然是未来的建筑师，而不是天空中的人工智能。你可以做以前做不到的事情。我可以做以前做不到的事情。我们将能够做更多的事情。从这个意义上说，我可以想象一个世界，我们完成使命的部分方式是我们只是制造真正伟大的工具，这些工具会极大地影响人类的能力以及其他一切。我对这一点非常兴奋。就像，我喜欢我们提供免费的ChatGPT，没有广告。

因为我个人真的认为广告对互联网来说是一个问题。但我们只是把这个工具放在那里。这是资本主义的缺点，对吧？是的，是的。我认为个人来说还有更大的缺点。但我们把这个工具放在那里，人们可以免费使用它。我们并没有试图把他们变成产品。我们并没有试图让他们更多地使用它。我认为这展示了一条有趣的道路，我们可以在这方面做更多的事情。

所以让我们这样做。在我们一起进行这次谈话的过程中，有很多事情我希望我们能够做到，希望如此。我们显然无法回答所有问题，但有一些想法、一些标题和一些空间我想让我们生活在其中。我想首先也是最及时的是……

公司未来的情况如何？你认为它会走向何方？你知道，我发现特别有趣的一件事是新的董事会是什么样的，OpenAI的新董事会是如何组成的，你知道，以前董事会上有女性，现在没有。你知道，以前董事会上有没有经济激励的人，现在有了。我想知道是否……

如果你担心你参与实施的防护栏现在消失了，你知道，你是否有一个董事会现在不专注于保护人们或定义更安全的未来，而是专注于赚钱并使这件事尽可能好或尽可能大？好吧，我认为我们目前的、我们之前的治理结构和董事会

Trevor has a candid and revealing conversation with Sam Altman, who was ousted and then reinstated as CEO of OpenAI just 12 days ago. Sam recounts where he was when he received the brutal phone call, how it all really went down, and its emotional toll. Trevor and Sam also discuss ChatGPT’s explosive release last year, Sam's hopes for AI to better humankind, as well as its potential for evil if not governed properly. Learn more about your ad choices. Visit podcastchoices.com/adchoices</context> <raw_text>0 在某种重要的意义上没有奏效。所以我完全赞成想办法改进这一点，我将支持董事会的工作。显然，董事会需要发展壮大并实现多元化，我认为这很快就会发生。那些将为传统上没有得到倡导的人们发声，并真正认真思考，不仅要考虑人工智能安全，还要考虑

我们可以从过去吸取的教训，关于如何构建这些与社会以各种方式互动的非常复杂的系统，嗯，尽可能地做到最好，这既包括减轻坏处，也包括分享好处，嗯，所有这些都需要体现出来。呃，我很高兴有机会第二次把所有这些事情做好。我们之前显然做错了。嗯，但是，但是，就像，

董事会多元化，确保我们代表这里需要代表的所有主要利益相关者群体，弄清楚我们如何使这件事更民主，继续推动政府做出一些关于管理这项技术的决定，我知道这并不完美，但我认为它比任何其他技术都要好。

到目前为止，我们可以想到的这种方法，更多地与我们的用户群互动，以帮助他们帮助设定这项技术的工作方式的限制，所有这些都非常重要，未来的一件大事就是董事会和扩大董事会和治理，是的，再说一次，就像我知道我们目前的董事会规模很小，但我认为他们非常致力于你刚才谈到的所有事情，然后还有一大类问题，呃

如果你在一周前问我，我会说稳定公司是我的首要任务。但至少在内部，我觉得还不错。我们没有失去一个客户，也没有失去一个员工。我们继续增长。这太令人惊讶了。我们继续发布新产品。我们……

我们的关键合作伙伴关系得到了加强，而不是受到阻碍。那里的事情进展顺利。我认为明年上半年的研究和产品计划比以往任何时候都更好、更专注。但是，显然，我们仍然有很多外部稳定工作要做。除此之外，就像我们真的在面对这样的可能性，我们就像，

我们对成功的规划还不够雄心勃勃。你知道，我们有 ChatGPT Plus。如果你现在想订阅 ChatGPT Plus，你做不到。你一直做不到。我们只是用户太多了。是的。因此，鉴于我们认为我们创造的未来系统将会多么优秀，以及人们似乎多么想使用这些系统，我们今年一直在飞机后面。我们想最终赶上

使用 Apple Card 购买新的 iPhone 15 或 AirPods 时，可获得 3% 的每日现金返还。通过 Apple Card 开设储蓄账户时，您可以选择以 4.40% 的年百分比收益率进行增长。在 iPhone 的 Wallet 应用中申请 Apple Card。

本期节目由 Brad Smith 主持的播客 Tools and Weapons 提供赞助。你知道，我最喜欢讨论的话题之一就是技术。因为当你仔细想想，世界上只有几件事可以改善或毁灭世界，比如人类创造的技术。问题是，我们如何改善世界？

问题是，我们如何找到平衡？好吧，我最喜欢的播客之一旨在找到这些问题的答案，它由我的好朋友 Brad Smith 主持，他是微软的副董事长兼总裁。从人工智能到网络安全，甚至可持续性，每一集都以引人入胜的方式探讨了我们如何最好地利用技术来塑造世界。现在就在 Spotify 上关注并收听 Brad Smith 主持的 Tools and Weapons。

在整个董事会风波发生时，我发现自己一直在不断地想着你这个人。每当有风暴来临的时候，我总是对风暴眼中的情况很感兴趣。是的。你知道，我想知道，当这一切爆发时，你在哪里？你在做什么？在个人层面上，你的世界发生了什么？是的。

我之所以笑是因为人们对我说的话是，我擅长在飓风眼中心，当它在我周围旋转时保持超级冷静。而这一次，结果却并非如此。这次的经历就像是在风暴眼中，而它并不平静。我在拉斯维加斯参加 F1 大奖赛。哦，好吧。是的。你是 F1 粉丝吗？是的，我是。好吧，你的车队是谁？你有车队吗？说实话，我喜欢……

我的意思是维斯塔潘太厉害了，很难说，但我感觉这是每个人都会说的答案，我仍然认为他只是难以置信的，这取决于他们加入这项运动的时间，我是一个舒马赫的粉丝，因为那时我开始观看，好吧，我的意思是奈杰尔·曼塞尔，然后是艾顿·塞纳，你知道我的意思吗？但是，好吧，维斯塔潘，他很精确，我明白为什么

而且就像，它几乎对经常获胜感到厌倦，但这令人难以置信。所以我对此非常兴奋。第一个晚上，我在周四晚上很晚才到达。第一个晚上，有人，他们忘记把一个下水道井盖焊牢了。所以有人在第一圈压了过去，炸毁了法拉利的发动机之一，并停止了练习。所以，

我没有看到它。整个周末我都没有看到任何比赛。我当时在我的酒店房间里，接到了这个电话。我不知道它会是什么，然后被董事会解雇了。这就像，感觉像一场梦。我就像，我很困惑。这很混乱。感觉不真实。就像，显然很沮丧和痛苦，但困惑只是当时的支配性情绪。就像，

它就像在雾中，在朦胧中。我就像……我不明白发生了什么。在我看来，这件事发生的方式是史无前例的、疯狂的。然后在接下来的……

半个小时内，我的手机收到了很多信息，以至于我的 iMessage 坏了。哇。然后……这是谁发来的？员工？每个人。每个人。就像，我的手机根本无法使用，因为它只是不停地收到通知。而 iMessage 遇到了一个问题，导致它停止工作了一段时间。那条消息延迟发送了。然后它把所有东西都标记为红色。所以我甚至无法……

就像，你知道，这太混乱了。我当时正在和这里的团队交谈，试图弄清楚发生了什么。微软正在给其他人打电话。这就像，这真的很令人不安，感觉不真实。然后我有点冷静下来，心想，你知道吗？我可以继续，我真的很想以某种方式继续从事 AGI 的工作。如果我不能在 OpenAI 做这件事，我仍然会去做。

我当时正在考虑最好的方法。格雷格辞职了。其他人也辞职了。开始收到大量来自人们的信息，说他们想和我一起工作，无论结果如何。在那时，回到 OpenAI 完全不在我的考虑范围内。是的，我可以想象。我只是在考虑未来会是什么样子。但我并没有意识到……

这是一场行业事件，因为我并没有真正阅读新闻，我所能告诉的是我收到了很多信息，因为你实际上是在风暴中，是的，我只是试图，你知道，支持 OpenAI，弄清楚我接下来想做什么，试图理解发生了什么，然后飞回加利福尼亚，与一些人会面，并且在那时非常专注于前进，但你也知道，也祝 OpenAI 一切顺利，并且

但是，然后我像那天晚上大部分时间都睡不着觉。同样，只是有很多对话正在进行。然后从那时起，这是一个疯狂的周末。但我肯定仍然没有，就像，我仍然有点震惊，而且只是试图收拾残局。你知道，我相信当我抽出时间来坐下来处理这件事时，我会对它有更多感受。对。是的。

你是否觉得你必须立即投入到所有事情中？因为正如你所说，你肩负着这项使命。你可以从你的眼中看出你非常有动力。而世界现在已经越过了它永远无法返回的悬崖。所以你正在朝着某种目标前进。突然之间，你似乎无法在你所在的领域实现它。但正如你所说，微软介入。萨蒂亚·纳德拉说，来和我们一起工作吧。我们将重建这个团队。

如果人们对萨姆·阿尔特曼说些什么，如果他们与他合作过，他们会说他非常顽强。他是不屈不挠的。如果你有一个目标，并且你相信某件事，他不会相信生活会阻止你。而且看起来你正在朝着那个方向前进。你没有公开谈论 OpenAI 的任何事情。你并没有以任何方式贬低它。但感觉这对你造成了影响。当然。

我的意思是，我认为这不会让我无法恢复过来，但我认为经历这一切而不受影响是不可能的。那真的很奇怪。你是否觉得你失去了自己的一部分？是的。我的意思是，就像，这……我们在 2015 年底创立了 OpenAI。第一天上班是在 2016 年。然后我一直……我在 YC 上工作了一段时间，但我从一开始就一直全职从事这项工作，从 2019 年初开始。而且它已经……

AGI 和我的家人是我关心的两件主要事情。所以失去其中一件就像，再说一次，也许在某种意义上我应该说，哦，你知道，我就像，我必须从事 AGI 的工作，并且更关心这项使命。但是，当然我也关心这个组织、这些人、我们的用户、我们的股东，我们在这里建立的一切。所以，所以是的，我的意思是，这简直是难以置信的痛苦。这，这，

我唯一可比的生活经历，当然，那一次要糟糕得多，就是我父亲去世的时候。哇。那是一件非常突然的事情。但那种困惑和失去的感觉……

而且，你知道，你会得到，在这种情况下，我觉得我有一点时间来真正感受这一切。但随后还有很多事情要做。这太出乎意料了，以至于我最终不得不暂时收拾他生活中的残局。直到一周后，我才真正有时间喘口气，然后说，天哪，我不敢相信这件事发生了。所以，是的，那要糟糕得多。但这里也有同样的回声。我只能想象。

当你展望公司的未来以及你在其中的角色时，你如何才能在推动 OpenAI 向前发展之间找到平衡？

不断地朝着你相信的方向前进，但同时，你知道，你有没有，你公司内部是否仍然有紧急制动？公司内部是否有某种系统，你可以说，如果我们觉得我们正在创造一些会对社会产生不利影响的东西，我们将介入，我们将停止它。你是否有这种能力，它是否已经融入其中？是的，当然。我们过去也有过。就像我们创造了一些我们选择不部署的系统。哦，有趣。我相信将来我们还会这样做。

或者我们创建了一个系统，然后说，嘿，我们需要更长的时间来确保这个系统安全，然后才能部署它。就像 GPT-4，我们在完成训练后花了将近八个月的时间才准备好发布它，以便进行我们想要的所有校准和安全测试。我记得和团队中的一些人谈过这件事。这不是董事会的决定。这只是这里的人在做他们的工作，并致力于这项使命。所以这将继续下去。而我真正为之骄傲的事情之一

这个团队能够在混乱、危机、不确定性和压力下良好运作。我给他们打了 A+。他们做得非常好。随着我们越来越接近更强大、非常强大的系统，我认为我们所建立的文化和团队的能力是……

最重要的因素，你知道，在危机中保持冷静并做出良好、深思熟虑的决定。我认为这里的团队确实证明了他们可以做到这一点。这非常重要。我看到有人说，你知道，我们从 OpenAI 学到的一件事是，萨姆可以在那里没有工作的情况下管理公司。我认为这是完全错误的。我认为这根本不是发生的事情。我认为正确的说法是，公司完全可以在没有我的情况下运作。——这是一种文化——团队已经准备好了，文化已经准备好了。我认为这是，我只是为此感到非常自豪。非常高兴能回来并继续做这件事。但我睡得更香，因为我看着团队

经历了这一切，考虑到未来的挑战。而且会有比这更大的挑战出现。但我认为在某种主观意义上，我希望并相信这是最艰难的一次，因为我们准备不足。现在我们意识到利害关系，我们不仅仅是在某种重要的意义上，我们只是一家普通的公司。哦，是的。远非如此。远非如此。让我们稍微谈谈这个。是的。

ChatGPT、OpenAI，无论最终叫什么名字。因为，我的意思是，你拥有 DALI、Whisper，以及所有这些令人惊叹的产品。你有什么名字创意或品牌架构创意吗？我很乐意。我觉得 ChatGPT 已经做到了。我觉得它现在已经无处不在了。是的，这是一个糟糕的名字，但它可能太普遍了，以至于永远无法更改。你无法更改它。你认为你现在可以更改它吗？我的意思是，我们可以把它简化为 GPT 或只是 chat 吗？我不知道。我不知道。也许不行。有时我觉得一个产品、一个名字或一个想法……

超越了营销人员梦想的空间，然后人们就拥有了它。是的，没有哪个营销人员会选择 ChatGPT 作为这个名字，但我们可能被困住了，这可能也没什么关系。是的。而且现在，我的意思是，它的多模式方面让我着迷。你知道，我记得我第一次看到 DALI 推出的时候。

你知道，它只是一个想法，看到它是如何工作的，看到这个程序可以从除了噪音之外什么都没有的情况下创建一幅图片。我试图向人们解释它，他们说，但是它从哪里得到图片的呢？我说，没有图片。没有源图像。他们说，那不可能。它看到了什么东西。我说，这很难解释其中的一些东西。有时即使对我自己来说也很难理解。但是当我们看待我们目前所生活的这个世界时，你知道，我们把它们称为数字。

GPT 3.5、GPT 4、GPT 5、6、7，无论是什么。我喜欢以这种方式去除技术术语，更多地谈论产品的实际用例。我们在产品之间看到的一件事或我们在产品之间看到的一件事是在 chat GPT 3、3.5 到 4 之间，我们看到了我们所说的推理变化。

在一个更高的层次上。有一点，是的。就像某种创造力。它的第一缕火花。是的，是的，是的，完全正确。当我看到这个产品和你现在正在创造的世界时，你知道，有了大型通用语言模型，现在还有专门的大型语言模型，我想知道，你认为……

用例会发生巨大的变化吗？你认为现在可能只是一个人们喜欢的小聊天机器人，你认为产品会保持这种状态吗？或者你认为它会成为一个世界，在这个世界里，一切都会变成专门的 GPT？你知道，一个世界，特雷弗有他的 GPT 为他做事，或者这家公司有他们的 GPT 为他们做事。你认为它会走向何方？显然，很难预测未来，但你认为它会从我们现在的位置走向何方？

我认为这将是两者的混合。很难预测未来。我可能会在这里出错，但我还是会尝试。我认为这将是你刚才所说的两件事的混合。首先，基础模型将变得如此优秀，以至于我很难确信地说，这就是它无法做到的事情。这需要很长时间，但我认为这就是我们的方向。你的时间范围是多久？你如何衡量它？就像不是在未来几年。好的。

在未来几年中，它每年都会变得更好。但我肯定要说我相信。我认为很有可能，2026 年的模型仍然有很多事情做不到。但是模型不会总是让你感到惊讶吗？你知道，当我与在这个领域工作的工程师交谈时，当我与任何参与人工智能或与人工智能相关的人交谈时，人们说的第一件事，第一个词是惊讶。是的。

人们一直在这么说。他们说，我们很惊讶我们正在教，或者我们认为 chat GPT 正在学习这个领域。突然之间，它开始说一种语言。或者我们认为我们正在教它关于这个，突然之间它知道如何建造桥梁或其他什么东西。就其本身而言，这可能是大多数人在这里的主观体验，也许在……

2019 年到 2022 年之间左右。好的。但现在我认为我们已经学会不要感到惊讶了。现在我们大多数人都相信指数增长。所以 GPT-5 或我们称之为其他的东西将在很多方面都很棒。我们会对它能做和不能做的事情感到惊讶，但没有人会对它很棒感到惊讶。嗯？在这一点上，我认为我们已经深入地内化了这一点。嗯，

你提到的第二件事是这些定制的 GPT。更重要的是，你还提到了个人 GPT，比如 Trevor GPT。我认为这将是未来几年的一个巨大事件，如果你愿意，这些模型将了解你，访问你的个人数据，以你想要的方式回答问题，在你的环境中非常有效地工作。我认为很多人都会想要这个。是的，我的意思是，我可以看到很多人想要这个。这几乎让我怀疑……

新的劳动力是否会成为一个你的 GPT 几乎就是你的简历的世界。你的 GPT 在某种奇怪的方式中几乎比你更有价值。你知道我的意思吗？这就像你所想的一切和你想过的一切的结合，以及你综合想法的方式与你自己的个人 GPT 相结合，成为……我的意思是，这只是我在想一个疯狂的未来，你会……

你真的去上班，他们说，你的 GPT 是什么？你说，这是我的。你知道，我们总是想到这些机构，这些个性化的机构。我会让这个东西为我做事。但有趣的是，你所说的，如果它相反，这就是其他人与你互动的方式。对。就像这是你的印象、你的化身、你的回声等等。我可以看到它会达到那种程度。因为我的意思是，如果不是我们所有……的积累或组合，我们是什么？这是一个奇怪的想法，但我相信它。

我总是对它可能去向和可能做什么感到着迷。你知道为什么吗？当 ChatGPT 第一次爆火时，对，在最初的几周里，我永远不会忘记人们是如何很快意识到机器人革命的，我知道它不是机器人，但只是，你知道，对人们来说，他们就像，哦，机器人革命，机器革命。

并没有取代他们认为它会取代的工作。你知道，人们认为它会取代……卡车司机。是的，卡车司机等等。然而，我们发现，不，那些工作实际上更难取代。是的。

事实上，所有被认为是“思考型”工作。你知道，就像你的白领工作。哦，你是一名律师？哦，当你有了 chat GPT-5、6、7，无论你想要什么时，他们可能不需要那么多律师了。你知道，你是一名工程师。你，就像，你在哪里……人体真的是一件了不起的事情。它真的是，对吧？是的。它真的是。

你是否看到任何进步，你认为它可以取代人体？或者我们仍然处于思维领域？不，我认为我们最终会让机器人工作，就像类人机器人最终会工作一样。但是我们的，你知道，我们也从事过这项工作。在 OpenAI 的早期，我们有一个机器人项目。哦，我不知道。我们做到了。我们制造了这个东西，它可以做一个机器人手，可以用一只手做一个魔方。这需要很多灵活性。我认为其中涉及很多不同的见解。

融入其中。但其中一个是，在比特世界中取得进展比在原子世界中更容易。机器人很难，原因是错误的。它之所以困难，并不是因为它在帮助我们推进困难的研究问题。它之所以困难，是因为机器人一直在损坏，而且它不够精确，模拟器也不好。而像语言模型一样，它就像，你可以在虚拟中完成所有这些工作。你可以取得更快的进展。所以它就像……

专注于认知方面帮助我们更快地解决更有成效的问题。但同样，在非常重要的方面，我认为解决认知任务是更重要的问题。就像，如果你制造一个机器人，它不一定能弄清楚如何帮助你创建一个系统来完成认知任务。是的。但如果你制造了一个完成认知任务的系统，它可以帮助你弄清楚如何制造一个更好的机器人。哦，是的。这说得通。所以我认为，认知……

是我们想要努力的核心。我认为这是一个正确的决定。但我希望我们能回到机器人身上。你对何时认为人工智能通用智能已经实现有什么想法吗？我们怎么知道？我个人？我不觉得任务完成了。因为每个人都在谈论人工智能通用智能。但我心想，我们怎么知道那是什么？

所以这又回到了前面那个点，每个人都有不同的定义。我会告诉你我个人什么时候会很兴奋。当我们有一个系统可以帮助发现新的物理学时，我会非常兴奋。但这感觉已经远远超出了通用智能。这似乎是你……你知道我的意思吗？我认为这超出了大多数人认为的范围。就像也许……因为这就是我有时想到的，当我想到……

我们如何定义通用智能？我们是将其定义为某个领域的才华？还是将其定义为……就像一个孩子是人工智能通用智能。那是肯定的。但你必须不断地编程它。他们出来后，他们不会说话。他们不知道如何行走。他们不知道如何……你不断地编程这个 AGI 以使其达到需要达到的目标。所以……

如果你达到拥有一个四岁孩子版本的 AGI 的程度，你会怎么做。如果我们有一个系统可以，就像，只是弄清楚，你知道，可以在父母的一些帮助下自主行动。是的。像四岁的孩子一样弄清楚这个世界。是的，我们可以称之为 AGI。如果我们真的解决了这个问题

真正普遍的能力是面对一个新问题并解决它。并非完美无缺。四岁的孩子也不总是能完美地解决问题。但是，你知道，然后我们就会清楚地得到它。如果我们不从根本上理解……

和心灵。似乎是这样。你认为我们可以做到吗？我认为可以。或者我们可以到达一个地方……所以你肯定知道这个。我最喜欢的人工智能故事之一是……我认为它实际上是微软正在进行的一个项目。但他们有这个……

试图学习如何区分男性和女性面孔，对吧？在某个时候它相当准确。它的准确率约为 99.9%。然而，它一直无法识别黑人和黑人女性。它

它一直错误地将她们认定为男性。研究人员不断工作，他们想，这是什么？这是什么？这是什么？这是什么？这是什么？这是什么？在某个时刻，我的意思是，我这样讲故事。我的意思是，这可能有点不对，但我发现它很有趣。在某个时刻，他们所谓的，他们把人工智能送到了，我认为是肯尼亚。所以他们把人工智能送到了非洲。然后他们告诉肯尼亚的研究团队，你们可以和这个一起工作一段时间，试着弄清楚它。

然后，当人工智能在世界的那一边使用他们的数据集和非洲人的面孔运行时，它在识别黑人女性方面变得越来越准确。但最终，他们发现人工智能根本无法区分男性面孔和女性面孔。它一直在做的只是在化妆之间建立关联。

所以人工智能认为，涂着红唇、脸颊红润、眼睑可能涂着蓝色的女性，那些是女性。其他的都是男性。因为研究人员说，是的，你是对的。是的，你是对的。它只是找到了一种所谓的“作弊码”，你知道，这其中的运作方式远远超出了我的理解。但它只是找到了一个作弊码。就像，“哦，我明白了你认为男人和女人是什么样的。”然后它就给了他们答案。然后他们意识到，

因为黑人女性在化妆方面通常服务不足，而且她们不化妆，你知道，系统根本不知道。但我们不知道它不知道。所以我很好奇，我们怎么知道AGI不知道或知道某些事情？

或者我们怎么知道它只是在作弊？我们怎么知道？当它与我们生活的许多方面交织在一起时，我们不知道的代价是什么？我相信我们会取得进展的一件事是理解这些系统在做什么。所以现在，可解释性就像……

取得了一些进展，那就是研究这些模型的领域，你可以用不同的方法，你可以做不同的层次，你可以尝试理解系统中每个人工神经元在做什么，或者你可以像系统一步一步地思考一样，哪些是我不同意的，好吧，还会有更多我们会发现的，但是理解这些系统在做什么的能力，希望它们能向我们解释

为什么它们会得出某些结论，并准确而可靠地做到这一点。我认为在我们真正理解这些系统如何能够做到它们所做的事情，以及我们自己的大脑如何能够做到它们所做的事情之前，我们将在这方面取得进展。所以我认为我们最终会理解这一点。我很好奇。我相信你也很好奇。是的，我是。但在我看来，我们将取得更多进展

做我们知道有效的改进这些系统的方法，并让它们帮助我们应对可解释性挑战。而且，我认为随着这些系统变得越来越聪明，它们被愚弄的次数就会越来越少。因此，一个更复杂的系统可能不会做出这种化妆的区分。它可能在更深的层次上学习了。我认为我们看到了一些这样的证据。当你提到不容易被愚弄时，实际上让我想到两件事。一个是安全方面，一个是准确性方面。

我们，首先，我的意思是，媒体对此大肆报道。你还记得吗，他们说，“哦，人工智能在胡说八道，它认为它要杀了我。”它认为，人们喜欢用“思考”这个词来形容大型语言模型，顺便说一句，我觉得这特别有趣。因为我一直认为记者，你知道，他们应该在报道之前先尝试理解它在做什么。

但他们我认为对公众使用“思考”这个词的做法是一种误导。我的意思是，我对此表示同情。就像，我们需要使用熟悉的术语，我们需要拟人化。但我同意你的观点，这是一种误导。是的，因为如果你说它在思考，那么人们就会说，它会考虑杀我吗？这就像，不，但它并没有思考。你知道，它实际上只是在使用这个神奇的转换器。

找出哪些词最有可能彼此相关。你认为你在做什么？我在做什么？是的，这是一个有趣的问题。这就是为什么……现在，这就是我接下来要说的，对吧？是我们一起提出的想法。我们谈论幻觉。让我从第一部分开始。你认为我们能否达到人工智能不会产生幻觉的地步？好吧……

我认为这个问题的更好版本是，我们能否达到人工智能在不希望它产生幻觉时，其产生幻觉的比率与人类相似？对于这个问题，我会说是的。但实际上，人们喜欢这些系统的一个重要原因是它们会做一些新奇的事情。如果它只发生过。

是的，幻觉是这种特性和缺陷。好吧，这就是我接下来要问的。幻觉不是智能生物的一部分吗？完全正确。如果你考虑一下……就像如果我们考虑一下人工智能研究人员的工作方式。好的。他们查看大量数据。他们提出想法。他们阅读大量资料。然后他们开始思考，也许是这样或那样。也许我应该尝试这个实验。现在我得到了这个数据反馈。所以这并没有完全奏效。现在我将提出这个新想法。但这种人类的能力……

提出以前从未存在过的新假设、新解释，其中大部分是错误的，但随后有一个过程和反馈循环来找出哪些可能说得通，然后确实说得通。这就像人类进步的关键因素。是的。

本集由毕马威赞助播出。毕马威的人员为他们的客户创造了差异。才华横溢的团队利用正确的技术来发现能够照亮机遇的见解。毕马威团队与他们的客户一起肩并肩地工作，以帮助他们发展和转型企业。你准备好一起创造差异了吗？请访问

访问.kpmg.us/transformation了解更多信息。本集由大西洋城的博加塔酒店、赌场和水疗中心赞助播出。您的完美度假胜地。沉浸在大西洋城第一家游戏度假村的风格和精致中，优雅与娱乐在这里相遇，奢华等待着您每一次的到来。

如果您准备好享受难忘的体验，请访问thebogata.com立即预订您的住宿。必须年满21岁才能参与赌博。有赌博问题？请致电1-800-GAMBLER。我们如何防止人工智能出现“垃圾进，垃圾出”的输出，就像这种情况一样？我们如何……

现在，人工智能正在使用人类以某种方式、某种形状或某种形式创建的信息。它正在学习我们认为可以学习的材料。随着现在出现的所有内容，你知道，开放式人工智能、人类中心论、兰姆达，等等，你随便说吧。感觉我们可能会进入一个世界，现在人工智能产生的信息比人类产生的信息更多，而且它可能没有得到应有的审查。那么，当人工智能从自身信息中学习时，它会变得更好吗？

以一种可能没有经过审查的方式，就像，你明白我的意思吗？完全明白。我们如何解决这个问题？所以它又回到了如何在不同环境中表现的问题。就像你在创作过程中想要幻觉，但你在试图报告关于某个情况的准确事实时却不想产生幻觉。而现在你拥有这些系统，它们可以生成这些美丽的、在某种重要意义上是幻觉的新图像，但却是好的图像。

但是当你想要它只陈述事实时，它已经变得好多了，但在那方面还有很长的路要走。没关系。我认为如果这些系统正在根据自己生成的数据进行训练，只要有一个……

一个过程，系统学习哪些数据是好的，哪些数据是不好的，这同样不足以说明是幻觉还是不是幻觉，因为如果它提出了新的科学思想，这些思想可能一开始就是幻觉。这是有价值的。但是，你知道，什么是好的，什么是坏的，然后还有足够的人工监督这个过程，我们仍然集体控制着这些事情的发展方向。但有了这些限制，我认为这些系统将要

未来的系统将根据生成的数据进行训练。然后你提醒了我另一件事，那就是我一直想知道，我不知道该如何计算这个，但我希望知道什么时候，比如说，GPT-5或6或其他什么东西生成的单词比人类在特定时间生成的单词多。如果这感觉像是一个重要的里程碑，实际上，我现在大声说出来，也许它不是。以什么方式生成？哦，就像模型产生的单词比人类在一年中产生的单词多。

所以，你知道，有80亿人或其他什么人。是的，这似乎很有趣。说平均每年有多少个单词。你可以算出是多少。

我的意思是，是的。但它给了我们什么，这是另一方面的疑问。这就是为什么我说出来之后又把它收回了。出于某种原因，这对我来说感觉像是一个重要的里程碑，但我无法想到……它感觉像是一个重要的里程碑，就像猴子打字机一样，因为也许人类是，你知道，我们一直在打字机打字，这就是事情……我认为这是值得的。是的，数量……我不想用“思考”这个词，因为我认为你不应该用它，但数量……

也许我们可以只计算人工智能生成的单词数量与整个人类生成的单词数量的对比。是的。我很快就要离开你了。所以我想问几个问题，我认为人们如果我不问你这些问题就会杀了我。好的。所以其中一个主要问题，这是我个人提出的。

我们总是谈论人工智能从数据中学习，对吧？它们被输入数据集。我们谈论过这个。这就是为什么你需要这些价值数十亿美元的巨型计算机，以便计算机能够学习。我们如何……

教人工智能比那些提供给它明显有缺陷的数据的人类思考得更好？例如，人工智能如何超越我们已经发布的有限数据进行学习？你知道，在种族、经济学、思想方面，因为我们是有限的，如果我们提供给它的数据是有限的，我们如何教它不要像我们一样有限？我们还不知道，但这就是摆在我们面前的最大研究方向之一，就像，我们如何超越人类数据？嗯哼。

我希望如果我们一年后能再次做到这一点，我就能告诉你。但我还不知道。我们还不知道。这真的很重要。然而，我确实相信的一件事是，这将成为一种对抗世界不公正的力量，一种非常重要的力量。我认为这些系统将

它们不会像所有人类那样有同样的严重缺陷。它们可以被制造得更少种族歧视、更少性别歧视、更少偏见。它们将成为世界经济正义的力量。我认为，你知道，如果你制造，如果你制造一个伟大的AI导师或一个伟大的AI医疗顾问，这将比富裕的一半人更能帮助世界上最贫穷的一半人，即使它有助于提升所有人。所以，

我没有你提出的科学问题的答案，但我目前确实有信心，这些系统可以。当然，我们必须做一些艰苦的社会工作才能使它们真正成为，但可以成为一种提高世界正义的方式。好的。也许这完美地引出了第二个问题，那就是，

你在做什么？OpenAid在做什么？你是否甚至考虑过做任何事情来尽量减少这项新技术再次造成贫富差距的情况？每一项出现的新技术对整个社会来说都是惊人的，如果我们这样称呼它的话。但你不能否认它创造了一个时间点，如果你拥有它，你就拥有了一切。如果你没有，你就出局了。

我认为随着我们的发展，我们将学到更多的东西，但目前我认为我们所做的一件非常重要的事情是提供真正免费的服务，这意味着没有广告支持，而只是向每周使用它的超过1亿人提供免费服务。

事实上，说任何人都不公平，因为在某些国家，我们仍然被阻止，或者我们仍然被阻止，但我们正在努力越来越接近我们可以做的一切，在那里任何人都可以访问真正高质量、易于使用、免费的人工智能。这对我们所有人来说都很重要。我认为我们还希望用这项技术做其他事情，例如，如果我们可以用人工智能来帮助

治愈疾病并将这些疗法提供给全世界，这显然是有益的。但是将这个工具交到尽可能多的人手中，让他们用它来设计未来，这非常重要。我认为我们可以把这个推得更远、更远。好的。

还有两个问题。我可以再补充一点吗？哦，是的。是的，说吧。这是你的时间。请说。是的。我认为另一件重要的事情是，谁来决定这些系统说什么和不说什么或做什么和不做什么？就像，谁来设定限制？是的，我……

就像现在，基本上是那些在OpenAI工作的人在决定，没有人会说这是对世界的公平代表。因此，弄清楚我们如何传播这项技术的访问权限，以及我们如何使它的治理民主化，这对我们来说是来年的一大挑战。好吧，这有点像我接下来要问你的问题。它的安全方面。你知道，我们在谈话一开始就谈到了这个。

在设计能够改变世界的东西时，总是必须承认它可以以最糟糕的方式或以最糟糕的方式改变世界。你知道，随着每一次技术的飞跃，一个人造成更大损害的能力都变得异常强大。第一部分，是否可以使人工智能完全安全？然后是它的第二部分，

你的噩梦场景是什么？你想到的事情是什么，会让你按下红色按钮，关闭OpenAI和所有人工智能？当你认为，你知道，如果这种情况发生，我们必须关闭所有东西。你害怕什么？所以我首先想到的是，你能让它安全吗？第二部分是，你的噩梦场景是什么？我思考的方式……所以首先，我认为你开始的见解是……

能够造成灾难性损害的人数每十年或大约每十年就会减少。在我看来，这似乎是我们社会必须面对的一件非常真实的事情。其次，关于使系统安全，我认为它不像一个二元的事情。就像我们说飞机是安全的，但飞机仍然会非常不频繁地坠毁，对我来说，这令人惊奇地不频繁。我们说药物是安全的，但人们不会。

FDA仍然会认证一种有时会导致某些人死亡的药物。所以安全不是……这就像社会决定某事在给定的风险回报权衡下是可以接受的安全。我认为我们可以做到这一点。但这并不意味着事情不会真的出错。我认为人工智能会出大问题。我们必须防止……

我认为社会实际上有一个相当好、混乱但好的过程，可以集体决定安全阈值应该是什么。这就像与许多利益相关者进行复杂的谈判，随着时间的推移，我们社会在这方面做得越来越好。但我们必须防止，我认为你当时谈到的是那种灾难性的风险。所以核武器是每个人都会举的例子，你知道，核战争具有非常全球性的影响，对吧？

所以世界对待它的方式不同，并且在将近80年来做了我认为是了不起的工作。我认为人工智能中也会有类似的事情。当然，人们经常谈论的一个例子是人工智能被用来设计和制造能够造成巨大问题的合成病原体。人们经常谈论的另一件事是……

安全问题和人工智能，它可以像人类无法做到那样进行黑客攻击，当然也可以在任何规模上进行黑客攻击。然后还有另一类我认为是全新的东西，那就是如果模型的能力足够强大，它可以帮助设计自己的方法来从服务器上提取权重并制作许多副本并修改其行为。更像是科幻场景。但我认为我们作为一个世界需要

直面这个问题，也许不是那个具体的案例，而是这个想法，即存在灾难性甚至可能是存在的风险，因为我们无法精确地定义它并不意味着我们也可以忽略它，因此我们在这里做了很多工作来尝试预测和衡量这些问题可能是什么时候出现的，我们如何尽早发现它们，嗯……

我认为所有那些说你根本不应该谈论这件事的人，你应该只谈论错误信息和偏见的问题以及今天的问题，他们都是错的。我们必须同时谈论这两件事。我们必须在每一步都保持安全。好的。这很可怕，正如我所料。然后我转向——顺便问一下，你真的在考虑竞选州长吗？那是真的吗？不，不，不。我在很短的时间内考虑过——

2017年？好的。甚至16年，类似的事情？我这么认为。这似乎是一个，你知道。所以就像几周有点模糊的娱乐想法。好的，好的。我想我最后要问你的问题是，你知道，这一切现在怎么样。你的梦想是什么？如果萨姆·阿尔特曼可以挥舞魔杖，让AI完全符合你的期望，

它将如何造福未来？所有的好处是什么？对外面所有人的好处是什么？我的意思是，在各个层面。这是一个很好的积极的事情。谢谢你问这个问题。我认为你应该总是以积极的态度结束。听着，我认为我们正走向人类有史以来最伟大的繁荣时期。而且——

我认为这其中的两个主要驱动力是人工智能和能源，但还会有其他的。但这两件事，能够提出任何想法，能够实现它并大规模地做到这一点，人们所能拥有的限制将类似于他们所能想象的以及我们作为社会能够集体协商的东西。我认为这将是惊人的。我们之前谈到过，如果每个学生都能获得比今天所有最富有的学生都能获得的最好的教育体验更好，那意味着什么？

今天获得最佳医疗保健的最富有的人所能获得的更好医疗保健，这意味着什么？如果人们通常可以自由地从事他们认为最令人满意的工作，即使这意味着他们必须从事新的工作类别，这意味着什么？如果每个人都能

你知道，大概你和我都非常喜欢我们的工作，是的，但我认为这并不适用于所有人，显然，如果每个人都能从事他们喜欢的工作，并且他们可以利用大型公司或大型团队的资源，这意味着什么，所以你知道，也许不是OpenAI的800人，每个人都能获得800个甚至更聪明的人工智能系统来做所有这些事情，人们只需要创造和制作所有这些……

我认为这很了不起。我认为这是我们正在走向的世界。除了技术之外，还需要做很多工作才能实现它。社会将不得不做出一些改变。但事实上，我们正走向这个繁荣的时代，我对此感到非常高兴。我将以此结束我的发言。

我非常喜欢人工智能的潜在好处。你知道，我在南非从事教育工作。我的梦想一直是让每个孩子都能获得最好的导师。你知道我的意思吗？字面意义上没有一个孩子被落下，因为他们可以按照自己的节奏学习。

顺便问一下，使用ChatGPT学习的孩子们怎么样？故事，就像我每天都收到邮件。这太棒了。它确实是。我，你知道，这个在某个国家的14岁孩子，我独自学会了所有的微积分。它确实是。它确实是现象级的。特别是当它变得更加多模态时，当你拥有视频和所有这些时，这将是惊人的。我梦想着这一点，正如你所说的，医疗保健。我梦想着这一切。

我认为我们没有充分提出一个存在性问题，我希望你会提出，也许你已经提出过这个问题了，那就是，一旦人工智能有效地取代了所有这些东西，我们如何重新定义人类的目的？因为不管你喜不喜欢，纵观历史，你会意识到我们的目标往往决定了我们的进步，对吧？

曾经有一段时间，我们的目标只是宗教。所以，好坏参半，如果你仔细想想，宗教在让人们超越自我思考和行动方面确实做得很好。他们说，这是我的目标。我醒来是为了侍奉上帝，无论你想到的是哪位上帝。我醒来是为了侍奉上帝。我醒来是为了取悦上帝。我醒来。它让人类……

我认为，首先，它让人们感觉自己正在朝着某个目标前进，其次，它给了他们一种归属感。我觉得当我们进入一个人工智能消除这一点的世界时，我希望我们不要忘记的是，有多少人将他们的完整身份与他们所做的事情而不是他们是谁联系在一起。一旦我们把这一点拿走，当你没有职员时，当你没有秘书时，当你没有交换机操作员时，当你没有助理时，当你没有工厂工人时，当你没有所有这些东西时，

你知道，我们已经看到历史上经常发生的事情。就像激进主义出现了。出现了大规模的反弹。就像，你考虑过这个问题吗？有没有办法在它发生之前拦截它？你将如何描述我们现在的目标？我认为我们现在的目标是生存与某种形式的收入产生联系，因为这就是我们被告知生存的方式，对吧？你必须赚钱才能生存。但我们已经看到，在某些时候，人们

这已经被重新定义了。法国就是一个很好的例子，他们曾经拥有，而且我认为他们仍然拥有一个版本，那就是艺术家基金，他们说，我们将支付你作为一名艺术家来创作东西。让法国变得美丽。那很美。我知道你是UBI的粉丝，例如。是的，在我们谈论这个之前，我们不应该先走。好吧，我认为人们的生存不应该与他们工作意愿或能力联系在一起。我认为这是对人类潜力的浪费。是的，我完全同意你的观点。我认为……

等等，在你走之前，让我问你这个问题。这就像，你为什么认为普遍基本收入如此重要？因为你不会浪费你的时间或金钱在你所不相信的事情上。你花了很多时间和金钱在普遍基本收入上。我的意思是，我最后一次看到的是，你参与了一个价值4000万美元的项目。6000万美元。我认为普遍基本收入当然不是我们面前挑战的完整解决方案。但我确实认为，就像，

贫困。这无疑是一件好事。我认为更好地重新分配资源将为每个人创造一个更好的社会。但我认为赠送金钱并不是这其中的关键部分。就像，赠送工具和赠送

赠送治理，我认为这更重要。人们想要成为未来的建筑师。我认为，正如我可以说，一直存在着人类意义或使命的一致线索。我认为它就像，你知道，在个人基础上生存和繁荣。但是，集体地，就像，

我们确实有一种新兴的集体愿望，那就是让未来变得更好。是的。现在，我们经常偏离轨道，但人类的故事就像，让我们让未来变得更好。这就是技术。这就是治理。这就是我们彼此对待的方式。这就是去探索星辰。这就是理解宇宙的方式。无论是什么。我对两代人之后的世界的样子充满信心。但你所得到的真的很重要，那就是那些

是的，你知道，他们已经在各自的职业生涯中，而且相当快乐，不想改变。是的。而改变正在到来。我们从之前的技术革命中看到的一件事是，大约两代人之后，社会和人们似乎能够适应任何数量的职位流失。对。但肯定不是在十年内，也不是在五年内。对。我认为，我们在某种程度上将面临这种情况。正如我们之前所说，我认为这会比人们想象的要慢，

但仍然比过去社会不得不应对的速度要快。这意味着什么，以及我们如何适应这一点，我确实有点害怕。

我们将不得不面对它。我假设我们会解决这个问题。我相信我们会解决这个问题。我也相信，就像你给我们的孩子和孙子们比我们更好的工具一样。他们将做一些绝对让我们震惊的事情。我希望他们对我们所有人过得有多糟糕感到非常糟糕。我希望未来如此美好，这种人类精神和渴望去探索、表达自己、设计一个越来越美好的世界和超越世界的方式。嗯，

我认为这很棒。我真的很高兴。我认为在某种意义上，我们不应该对这件事太在意。你知道《星球大战》中那个坏人说的话吗？别太惊讶。哦，我认为是维达。就像，别太惊讶于你创造的这种技术恐怖。它与原力的力量相比根本不算什么。是的。在某种重要的意义上，我对人工智能也有这种感觉，那就是，我们不应该对此过于印象深刻。人类精神会帮助我们度过难关，它比任何一次技术革命都要伟大得多。是的。

我的意思是，这是一个美好的希望信息。我希望你是对的，因为我喜欢这项技术。但这将是动荡的。不，你知道吗？我想和你一起离开的一件事，萨姆·阿尔特曼，作为《时代》杂志年度CEO和年度人物之一，我认为你将继续保持这个地位，尤其是在这个角色中，因为OpenAI和人工智能本身将对我们产生多大的影响。我想恳求你做的一件事是

继续记住你被解雇时的感觉，因为你正在创造一项技术，这项技术将使许多人处于类似的境地。因为我看到你身上有人性，我希望你在创造的时候，能不断地思考这一点。你知道我星期六早上，也就是星期六凌晨睡不着觉的时候做了什么吗？我写下了我能从中学到什么，这将帮助我在被解雇时做得更好。

其他人经历类似的事情并责怪我，就像我现在责怪董事会一样。你解决了吗？很多，我的意思是，有很多有用的单一教训，但我从整个经历中获得的同理心以及我的价值观重新整合绝对是意外之喜。虽然代价很痛苦，但我对拥有这段经历感到高兴。

好吧，萨姆，感谢你的时间。谢谢。非常感谢。我希望我们一年后能聊聊所有新的进展。你绝对应该来做这件事。那将是一件有趣的事情。我会的。当然，伙计。好的，谢谢。谢谢。

《现在怎么样？与特雷弗·诺亚》是由Spotify工作室与Day Zero Productions、Fullwell 73和Odyssey的Pineapple Street Studios合作制作的。该节目由特雷弗·诺亚、本·温斯顿、珍娜·魏斯-伯曼和巴里·芬克尔担任执行制片人。由Emmanuel Hapsis和Marina Henke制作。

音乐、混音和母带制作由Hannes Braun完成。非常感谢您抽出时间收听。感谢您的收听。我希望您喜欢这次谈话。我希望我们给您留下了一些东西。希望下周我们还能再见。同一时间，也就是你收听的时候。同一地点，也就是你收听的地方。下周四，全新剧集。现在怎么样？