Sam Altman on the future of AI and humanity
39:42 Share

您好，我叫劳拉·拜尔。我是TED品牌合作主管。

我毕业于乔治城大学麦克唐纳商学院，在那里我加入了一个多元化且全球互联的商业领袖网络，他们致力于创造有意义的遗产。我在课堂内外经历的变革性时光为我提供了解决复杂问题和在工作场所发现新机遇的知识和技能。我以磨练我的战略、分析和沟通能力的方式参与了乔治城社区。

我现在与那些互相支持彼此个人和职业发展旅程的杰出校友们联系在一起。当我完成硕士课程时，我已经准备好胜任商业工作并对社会产生影响，而我能够在TED做到这一点。您可以获得适合您未来的硕士学位。与乔治城麦克唐纳一起创造您的遗产。访问msb.georgetown.edu/TED。

您应该每天都庆祝自己，但有些日子您应该用珠宝来庆祝。无论您是想纪念难忘的时刻，还是只是想为您的收藏增添一些光彩，Blue Nile都能为您提供专业的指导和种类繁多的高品质珠宝，价格最优。

今天就访问BlueNile.com，体验Blue Nile（自1999年以来首屈一指的在线珠宝商）的轻松便捷购物体验。网址是BlueNile.com。BlueNile.com。我爸爸从事B2B营销工作。他来我学校参加职业日，说他是一个ROAS高手。然后他告诉大家他多么喜欢计算他的广告支出回报率。

我的朋友至今仍在嘲笑我。并非每个人都了解B2B，但有了LinkedIn，您就能接触到那些了解的人。在您的下一个广告活动中获得100美元的信用额度。访问linkedin.com/results领取您的信用额度。网址是linkedin.com/results。适用条款和条件。LinkedIn，最佳去处。关于OpenAI自ChatGPT发布以来所走过的轨迹，让我感到惊讶的一件事是，到下午一点钟会有多少事情会出错。

大家好，我是亚当·格兰特。欢迎回到《重新思考》，这是我在TED音频集体播客中关于让我们有所作为的科学的播客。我是一位组织心理学专家，我将带您进入令人着迷的人们的思想，探索新的想法和新的思维方式。

我今天的嘉宾是Sam Altman，OpenAI的首席执行官兼联合创始人。自从Sam和他的同事们首次推出ChatGPT以来，发生了很多变化。你我正在经历人类历史上的一次转变，人类将从地球上最聪明的东西转变为不再是地球上最聪明的东西。

人工智能的指数级进步让我重新思考了我对人类独特性的一些假设，并提出了更多的问题而不是答案。由于源代码是一个黑匣子，我认为是时候去寻找源头了。在几次活动中与Sam相遇后，我很欣赏他愿意大声思考，而不是仅仅坚持预先写好的发言要点，即使他的观点不受欢迎。

我怀疑几年后，在几乎任何话题上，你所能进行的最有趣、也许是最有同理心的对话将是与人工智能进行的对话。Sam Altman自己进行技术检查。那是怎么发生的？啊，你知道，我不知道。没关系。这里没有处理者。有时。我必须从许多对话在过去一年中开始的地方开始，那就是，被解雇出你自己的公司是什么感觉？这种超现实的迷茫，便秘，

困惑是最初的主要情绪。然后他们说，我经历了一切。但困惑是第一个。然后呢？然后是沮丧、愤怒、悲伤、感激。我的意思是，什么都有。哇。那48小时就像人类情绪的全部范围。这在呼吸方面令人印象深刻。你在那48小时里是怎么处理这些情绪的？说实话，当时有很多事情要做，战术上有很多事情要做，所以没有太多时间去处理任何情绪。所以在那48小时里，没有太多。然后尘埃落定后，这很难。我必须在这一切中重返工作岗位。我记得史蒂夫·乔布斯在多年后被赶出苹果公司后说，这是一种难以下咽的药，但我猜病人需要它。

这在任何方面都相关吗？还是这种情况太不一样了？也许时间还不够长。我最近没有对此进行深入反思。我认为它与史蒂夫·乔布斯的案例在所有方面都大相径庭。而且它也实在太短了。整个事情在五天内就完全结束了。这就像一场非常奇怪的梦魇，然后又回到了工作岗位，收拾残局。我想五天与十年相比，学习曲线略有不同。对。你学到了什么教训？实际上，也许我错了。也许只有四天。我认为是四天。

我学到了一些东西，下次我会做得不同，关于我们在该过程期间和之后如何沟通，以及需要直接清楚地说明正在发生的事情。我认为长期以来，OpenAI一直笼罩着一层怀疑的阴影，我们本可以做得更好。我知道我和优秀的人一起工作，但在危机和充满不确定性的压力情况下，看到团队的表现如何出色，我感到最自豪的时刻之一是看着执行团队在我离开一段时间后运作，并知道他们中的任何人都完全有能力经营公司。我为挑选这些人感到非常自豪，也为在某种程度上教导他们感到自豪，而且公司处于非常强大的地位。听到你说这话我很惊讶。我原以为你最自豪的时刻仅仅是如此多的员工站在你身后。我认为作为一名组织心理学专家，看到内部如此忠诚和支持的表达令人震惊。

这确实感觉很好，但这并不是让我印象深刻的事情。我记得我为团队感到非常自豪，但并非出于这个原因。好吧，我想这也很像乔布斯式的，当他被问到他最自豪的成就是什么时。那不是Mac、iPod或iPad。是建造这些产品的团队。

我不做研究。我不制造产品。我做一些决定，但不是大多数决定。我能建造的东西是公司。所以这当然是我拥有创作权的东西。那么你到底做什么？你如何度过你的时间？这是一个很好的问题。在任何一天，它都大相径庭，而且相当……

混乱。不知何故，清晨从不那么混乱，但后来经常会在下午脱轨，发生所有这些事情，你处于反应模式和灭火模式。所以我学会了在一天的早些时候完成真正重要的事情。我大部分时间都在思考研究和我们制造的产品，

然后是其他所有事情。但在任何特定时间，这可能看起来都大相径庭。因此，在我过去几年里看着你颠覆世界的时候，我一直非常好奇的一件事是人类将会发生什么？我一直关注着我认为迄今为止所做的最有趣的研究。而人类……

人类的衰落速度比我希望的要快得多。快得多。所以我认为我们在创造力、同理心、判断力、说服力方面已经落后了。我想听听你对这些领域中一些数据点的反应。但首先，只是你对整体的评论。人工智能超越许多人类能力的速度让你感到惊讶吗？我们的最新模型在几乎所有方面都比我聪明。它并没有真正影响我的生活。——真的吗？——我仍然关心以前一样的那些事情。我可以更有效地工作。我认为，随着社会消化这项新技术，社会将发展得更快。当然，我希望科学进步会发展得更快。

我们与这个令人惊叹的新人工制品、工具（无论你想称它为什么）共存。但你现在的日常生活与几年前相比有什么不同吗？没什么不同。我认为从长远来看，人工智能确实改变了一切。但我猜想十年前我会天真地认为，当我们拥有一个像我们现在最强大的模型一样强大的模型的那一天，一切都会改变。

现在我认为那是一种天真的想法。我认为这是标准。我们在短期内高估了变化，在长期内低估了变化，对吧？没错。所以你正在经历这种变化。最终，我认为整个经济都会发生转变。我们会找到新的事情去做。我不担心这个。我们总是会找到新的工作，即使每次我们看到一项新技术时，我们都会假设它们都会消失。确实有些工作消失了，但我们找到了很多新的事情要做，希望还有很多更好的事情要做。我认为将会发生的是，这只是技术进步长期展开的指数曲线中的下一步。我认为在某些方面，人工智能革命看起来与互联网相反，因为那时人们经营着公司。他们不相信互联网会改变世界，而他们的公司因为没有做出必要的改变而倒闭。但那些接受的人，行动的意义非常明确。我

比如，我需要有一个功能正常的网站。我需要知道如何通过该网站销售我的产品，对吧？适应数字革命并非难事。我现在从许多创始人、首席执行官那里听到的是相反的情况，那就是每个人都相信人工智能具有改变游戏规则的能力。

而且没有人知道这对领导力、工作、组织、产品和服务意味着什么。他们都蒙在鼓里。从这个意义上说，它更像工业革命而不是互联网革命。这种发展方式存在巨大的已知未知数。但我认为我们也可以说很多关于它将如何发展的事情。我想听听那些事情。我有一些假设。一个是我们将停止……

重视能力，开始重视人类的敏捷性。我们将仍然非常重视某种能力，但不会像以前那样重视原始的智力能力。你认为新的重要能力是什么？我的意思是，这种愚蠢的版本是弄清楚要问什么问题比弄清楚答案更重要。这与我在过去几年中所看到的一致，那就是我们过去非常重视你大脑中收集了多少知识，并且

如果你是一个事实收集者，那会让你变得聪明和受人尊敬。而现在我认为连接点比收集事实更有价值，如果你能够综合和识别模式，你就会有优势。你看过《太空堡垒卡拉狄加》这部电视剧吗？剧中反复提到的一件事是，所有这些都发生过，所有这些都会再次发生。当人们谈论人工智能革命时，在我看来，它在一些非常重要的质的方面确实有所不同。但它也是……

它让我想起了之前的技术恐慌。当我还是个孩子的时候，出现了这个东西，互联网上推出了新东西。我认为它很酷。其他人也认为它很酷。它显然比之前的那些东西要好得多。我还不太大，所以这件事并没有直接发生在我身上，但年纪较大的孩子告诉我这件事。老师们开始禁

禁止谷歌，因为……他们称之为谷歌吗？谷歌。如果你能查到每一个事实，那么上历史课并记住事实的目的是什么？我们将失去一些关于我们如何教育孩子以及成为社会负责任成员的意义的关键内容。如果你能立即查到任何事实，你甚至不必启动内燃机，开车去图书馆，查看卡片目录，找到一本书。它就在那里。它

感觉不公平。感觉不对。感觉我们将会失去一些东西。我们不会那样做。而对于所有这些，发生的事情就像我们获得了更好的工具，期望值提高了，但某人的能力也提高了。我们只是……

学习如何做更困难、更有影响力、更有趣的事情。我希望人工智能也会如此。如果你几年前问某人，A，2024年会出现一个像O1一样强大的系统吗？B，如果一个预言家告诉你错了，而且会发生，世界会发生多大的变化？

你的日常生活会发生多大的变化？我们将如何面对生存风险等等？你问的几乎每个人都会在第一个问题上说绝对不会。但如果我错了，而且它发生了，那么在第二个问题上我们就完蛋了。然而，这件令人惊奇的事情发生了，我们就在这里。所以……

在创新的领域，Aidan Toner Rogers有一篇新的论文，这为研发科学家带来了好消息，那就是当他们得到人工智能的帮助时，他们申请的专利增加了39%，这导致产品创新增加了17%。其中很多都是突破性的进展，发现了新的化学结构。

主要收益是针对顶尖科学家，而不是底层科学家。如果你处于科学家中的底层三分之一，那么几乎没有好处，但顶尖科学家的生产力几乎翻了一番。这种翻倍似乎是因为人工智能自动化了许多想法生成任务。它允许科学家将精力集中在想法评估上，优秀的科学家非常擅长识别有前景的想法，而糟糕的科学家容易出现误判。所以这是一个好消息，对吧？难以置信。

令人难以置信的科学创造力的释放。但这也有代价，那就是在这项研究中，82%的科学家对自己的工作不太满意。他们觉得他们做的创造性工作少了，他们的技能没有得到充分利用。在这种情况下，人类似乎被简化为法官，而不是创造者或发明者。

我很想知道你如何看待这些证据，以及我们该如何应对？我这里有两个相互矛盾的想法。对我个人来说，OpenAI发生的最令人欣慰的事情之一是，随着我们发布这些新的推理模型，我们将它们提供给伟大的传奇科学家、数学家、程序员等等，并询问他们的想法。听到他们讲述这如何改变他们的工作以及他们如何以新的方式工作的故事，

我当然从不得不真正创造性地思考一个问题并找到以前没有人找到的答案中获得了最大的职业乐趣。当我想到人工智能接管它时，如果它那样发生，我确实感到有些悲伤。我预计实际上会发生的是，我们将会有解决难题的新方法。

积极参与解决最棘手的问题才能带来快乐。如果我们使用以不同方式增强我们的新工具来做到这一点，我认为我们会适应，但我并不确定。你现在的这份工作是什么样的？例如，你如何使用ChatGPT来解决你在工作中遇到的问题？说实话，我以无聊的方式使用它。我用它来，你知道，帮我处理所有这些电子邮件，或者帮我总结这份文件，或者只是非常无聊的事情。是的。

听起来你希望我们会以允许我们仍然参与创造性过程的方式进行适应。我充满希望。这深深地体现了人类的精神，以及我认为无论如何都会继续下去的方式。但它必须进化，而且会有些不同。另一个我预计人类比我们坚持的时间长得多的领域是同理心。

我最喜欢的实验表明，如果你正在进行文字对话，并且不知道是人类还是ChatGPT，然后之后你被问到，你感觉被看到了吗？你感觉被听到了吗？你得到了多少同理心和支持？你会觉得你从人工智能那里得到的同理心和支持比从人类那里得到的更多，除非我们告诉你它是人工智能，然后你就不喜欢它了。对。我作为一名心理学家来看待这些证据，我有几个反应。一个是……

我认为人工智能并不擅长同理心。这是因为我们人类的默认设置很糟糕。我们很快就陷入谈话中的自恋，有人告诉我们一个问题，我们开始将其与我们自己的问题联系起来，而不是为他们出现。所以我认为这可能只是对人类同理心基线较差的一种谴责。但我也想知道多久……

如果我知道它来自人工智能，我就不想要它了，随着我们越来越多地将这项技术人性化和拟人化，这种情况会持续多久。让我首先谈谈人们有时更喜欢某事物的实际输出，如果它是人工智能，直到他们被告知它是人工智能，然后他们就不喜欢它了。你一次又一次地看到这种情况。我最近看到的一项研究表明，即使是在那些声称他们非常讨厌人工智能艺术的人中，

你选择的量表，他们仍然为他们最喜欢的艺术作品选择了更多的人工智能输出而不是人类输出，直到他们被告知哪些是人工智能，哪些不是。然后，当然，情况就不同了。我们可以选择许多其他例子，但人工智能在许多方面都赶上了我们，但我们却天生就更少关心这种趋势。

关于人工智能的这些说法。所以我会说我对所有这些都非常不确定。但尽管你今天可能与人工智能的对话比你与人类的对话更多，但你仍然会非常关心你何时与人类交谈。这是我们生物学、进化史和社会功能（无论你想称它为什么）中非常深刻的东西。你认为我们为什么仍然想要人际联系？这听起来像是罗伯特·诺齐克的论点的一个版本，导致了人类的矩阵

人们更喜欢真实的体验而不是模拟的快乐。你认为这就是我们渴望的吗？即使它有缺陷且混乱，我们也只想要真正的人际联系？当然，人工智能也会学习模拟这一点。我认为……

你会很快发现，一直与一个完美无瑕、充满同理心的东西交谈，你会错过戏剧性或紧张感，或者那里会有一些东西。我认为我们天生就非常关心其他人怎么想、怎么感觉、他们如何看待我们。我认为这不会转化为人工智能。我认为你可以与人工智能进行有帮助的对话，并且你会感到被认可。这是一种很好的娱乐方式，就像玩电子游戏是一种很好的娱乐方式。但我认为它不会满足那种

社会需求，成为群体、社会的一部分，这种需求会让我们有所感受。现在，我可能错了。也许人工智能可以如此完美地利用我们的心理，以至于它做到了。如果真是这样，我会非常难过。是的，我也是。你说得对。人工智能很难替代归属感。也很难从机器人那里获得地位。

以我们依赖其他人眼耳的方式来感受重要性、酷炫或受人尊敬。这正是我想表达的意思。我可以想象一个世界，很快人工智能就会比我们强大得多，并且会做这些令人惊奇的事情。而且

当我想象那个世界，当我想象其中的人们时，我设想那些人仍然非常关心其他人。仍然非常关心相对于其他人的相对地位和这些愚蠢的游戏。但我认为不会有多少人会衡量自己……

你知道，人工智能在做什么以及它有什么能力。所以我一直非常好奇的一件事是，在一个信息越来越有争议，越来越难以让人相信事实的世界里。例如，我们在阴谋论信仰的数据中看到了这一点。人们相信阴谋论，因为这让他们感觉特殊和重要。就像他们可以接触到其他人无法接触到的知识一样。当然，这并不是唯一的原因，但这是驱动原因之一。

这意味着另一个很难让人相信这些信仰，因为他们是在承认自己错了。我被最近的一篇论文深深吸引住了。这是Costello、Pennycook和Rand。他们表明，如果你与人工智能聊天机器人进行一次对话，它

即使几个月后，它基本上也能让人们不再相信他们的一些阴谋论。它首先基本上只是针对你相信的虚假说法并将其揭穿。我认为它之所以有效，部分原因是它对与你的信仰相关的具体原因做出了回应。部分原因是没有人会在机器面前像在人类面前那样担心自己看起来像个傻瓜。而且不停地。

不仅是人们，我认为大约20%的人放弃了他们荒谬的阴谋论信仰，而且他们还放弃了人工智能甚至没有针对的一些其他信仰。所以我认为这扇门打开非常令人兴奋。显然，这可以用于邪恶，也可以用于善，但

我真的很想知道你对我们利用这些工具纠正人们误解的这种新机会有什么看法。是的，世界上有些人可以做到这一点，可以以某种方式扩展我们的思维。这非常强大。这样的人并不多，与他们交谈是一种难得的荣幸。

如果我们可以制造一个人工智能，就像世界上最好的晚宴客人一样，超级有趣，无所不知，对你非常感兴趣，并花时间去了解一切

他们可以在新的方向上推动你的思维，这在我看来是一件好事。我也曾有过与人工智能的这种经历，我曾与某个重要领域的真正专家交谈过，这改变了我对世界的看法，当然，也有人可以做到这一点，但我碰巧没有和他或她在一起。

就在那时。它显然也引发了许多关于幻觉问题和准确性的问题。作为局外人，我很难理解为什么这是一个如此棘手的问题。你能用一种非计算机科学家也能理解的方式向我解释一下吗？是的，我认为很多人仍然停留在GPT 3时代，2021年的古老历史，那时这些东西都不起作用。它确实有很多幻觉。如果你使用当前的ChatGPT，它肯定仍然会产生一些幻觉。但我认为它足够令人惊讶

然后它通常非常强大。我们训练这些模型根据它们之前看到的所有单词进行预测。训练集中有很多错误信息。有时模型也无法像预期的那样进行泛化和教学

教模型何时应该自信地表达它不知道，而不是，你知道，像做出猜测一样，这仍然是一个研究领域，但它正在变得越来越好。有了我们新的推理模型，这方面也取得了很大的进步。我已经在各种迭代中提示ChatGPT，比如，这是真的吗？请确保这是一个准确的答案？这应该作为迭代中的一个必需步骤内置进去。所以是

那么我们正朝着这个方向发展吗？这只会成为流程的自动部分？我认为这将成为流程的一部分。我认为还会有很多其他事情会让它变得更好，但这将是流程的一部分。有一些全新的研究，在过去一两年里也进行了一系列这样的研究，但上周让我震惊的一项研究是，当你将单独的人工智能与单独的医生进行比较时，当然，人工智能获胜，但人工智能也击败了医生人工智能团队。

我对这些证据的解读是，医生并没有从人工智能的帮助中受益，因为他们在不同意时会推翻人工智能。你可以在历史上看到这种现象。比如当人工智能开始下棋时，曾经有一段时间人类更好。然后有一段时间人工智能更好。然后在一段时间内，我不记得有多久了，人工智能加人类一起工作比单独的人工智能更好，因为他们可以带来不同的视角。

视角。然后人工智能再次比人工智能加人类更好，因为人类在他们没有看到某些东西的地方犯了错误。如果你将你的角色视为在所有情况下都试图推翻人工智能，那么事实证明这行不通。另一方面，第二件事，我认为我们才刚刚开始弄清楚人类和人工智能应该如何一起工作。人工智能将比人类医生成为更好的诊断专家。而且

这可能不是你想对抗的。但还会有很多其他事情是人类做得更好，或者至少是病人想要一个人去做的事情。我认为这将非常重要。我一直在思考这个问题。我很快就要生孩子了。我的孩子永远不会比人工智能更聪明。这个世界，你知道，即将出生的孩子，他们唯一知道的世界是一个有AI的世界。这将是自然的。如果

当然它比我们聪明。当然它可以做我们做不到的事情，但谁在乎呢？我认为这只是在我们这个过渡时期才显得奇怪。在某些方面，这是一种谦逊的力量。

我认为这是一件好事。另一方面，我们还不知道如何使用这些工具。也许有些人对它们的依赖程度太快了。你知道，我再也拼不出复杂的单词了，因为我只是相信自动更正会拯救我。我觉得还好。对这些事情产生道德恐慌很容易。即使人们更依赖他们的 AI 来帮助他们表达思想，也许这只是未来的方式。我见过一些学生，他们不想在没有 ChatGPT 的情况下写论文，因为他们

他们已经对草稿写作生疏了，他们习惯于将很多工作外包出去，然后获得可以使用的原材料，而不是不得不面对空白页面或闪烁的光标来创作内容。

而且我认为确实存在这种依赖性正在增强的情况。您对如何防止这种情况有什么想法？或者这只是未来，我们应该习惯它？我不确定这是我们应该阻止的事情。对我来说，写作是外包的思考，非常重要。但只要人们用一种新的写作方式取代更好的思考方式，这似乎方向上是正确的。关于越来越出名的一件令人难过的事情是，如果我不完美地表达每一句话，对我或 Open AI 几乎没有好处，我只是喜欢打开。

大量的攻击或其他什么。这真让人沮丧。

我认为这是一个你失去的特权，即公开地即兴发挥和玩弄想法，并且部分错误或想法不完整。大部分是错的。大部分是错的，其中有一些珍宝。也就是说，我们中的一些人很感激你比你那些不进行任何自我反省或自我控制的同行更谨慎一些。好吧，那是另一回事。还有一些事情是关于做一个深思熟虑的、无私的、

某种程度上谨慎的人，是的，我认为更多的人应该这样做。我认为非常愚蠢的事情是，一个相当常见的流程是，有人会写下他们想对另一个人说的话的要点，让 ChatGBT 将其写成一篇不错的多段电子邮件，然后发送给另一个人。然后那个人会将那封电子邮件放入 ChatGBT 并说，告诉我三个关键要点是什么。

所以我认为写作和沟通或其他方面有一些残留的形式，可能不再具有很大的价值。我很乐意进入一个社会规范发展的世界，每个人都可以互相发送要点。我真的很想要一个水印，或者至少有一些内部记忆，ChatGPT 可以回来说，嘿，这是我之前生成的。你应该回去告诉这个人你想要要点，这样你们将来才能更清晰地沟通。部分地……

发生的事情是很多人对工具的适应速度很慢。我们看到了一些真正有趣的人类智慧。所以在我看来，最让我印象深刻的证据是 Sharon Parker 和她的同事们的一项研究。这是在机器人技术领域。所以他们进入一家制造公司，这家公司基本上开始用机器人取代人类。并且在

没有因为人们将不再有工作而感到恐慌，而是许多员工说，好吧，我们需要找到独特的贡献。我们需要在工作中找到意义。他们通过胜过机器人来做到这一点。他们研究机器人。他们弄清楚机器人哪些方面很糟糕。然后他们说，好吧，我们将把这作为我们的核心竞争力。我认为 O1 和推理方面的进步令人恐惧的一点是，我们去年认为会让我们与众不同的许多技能现在已经过时了。

就像很多人在 2023 年使用的提示技巧现在已经不再重要了，有些技巧将永远不再需要了。那么，人类在 50 年、100 年或 1000 年后将扮演什么角色？没有人知道。但我认为更有趣的答案是……

今天人类对什么有用？我会说对其他人有用。我认为这种情况会持续下去。我认为有人对我说过，这是很多年前 Paul Buchheit 说的话，这句话一直让我印象深刻，因为他一直在思考、思考、思考。这就像在 OpenAI 开始之前。

他认为总有一天只会有人类货币和机器货币，它们将是完全独立的货币，一个不会关心另一个。我不期望这会按字面意思发生，但我认为这是一个非常深刻的见解。令人着迷。我从未想过机器。

机器拥有自己的货币。你会为 AI 为你发明了所有这些科学、治愈了疾病，并且你知道，使核聚变工作以及我们无法想象的不可能的胜利而感到兴奋。但是你会关心 AI 做了什么，还是关心你的某个朋友做了什么，或者某个经营公司的人做了什么？我不知道。可能不会那么多。不。

不。就像也许有些人会这样做。也许围绕特定 AI 有一些非常奇怪的邪教。而且我敢打赌，我们会对我们仍然非常以人为本的程度感到惊讶。您好，我叫 Laura Beyer。我是 TEDD 品牌合作主管。

我毕业于乔治城大学麦克唐纳商学院，在那里我加入了一个多元化且全球互联的商业领袖网络，致力于建立有意义的遗产。我在课堂内外具有变革意义的经历为我提供了解决复杂问题和在工作场所发现新机遇的知识和技能。我以磨练我的战略、分析和沟通能力的方式参与了乔治城社区。

我现在与成功的校友们联系在一起，他们互相支持彼此的个人和职业旅程。当我完成硕士课程时，我已经准备好胜任商业工作并对社会产生影响，而我能够在 TED 这里做到这一点。您可以获得适合您未来的硕士学位。与乔治城麦克唐纳一起建立您的遗产。访问 msb.georgetown.edu/TED。

面对化妆感到不知所措吗？Charlotte Tilbury 将 30 年的艺术技巧融入易于选择、易于使用的美容产品中。你不会出错。它们对每个人、每个地方都很讨人喜欢。这就是为什么她是“光彩女王”的原因。

以她标志性的好莱坞完美滤镜为例。只需一种产品，即可模糊、平滑和照亮肌肤外观。此外，它还含有护肤成分，经临床证明可长达 24 小时保湿。它与众不同。Charlotte 的产品是装瓶的魔法自信。您可以在 charlottetillbury.com 使用代码 CTPODCAST15 享受 15% 的折扣。此外，新账户持有人可享受免费送货。

此广告由 Charlotte Tilbury 提供，仅限美国客户，有效期至 2025 年 3 月 2 日。有关完整的条款、条件和例外情况，请参阅 Charlotte Tilbury 网站。嘿，我是瑞安·雷诺兹。最近，我问 Mint Mobile 的法律团队，大型无线公司是否允许因通货膨胀而涨价。他们说可以。然后当我问他们涨价是否从技术上违反了那些繁重的两年期合同时，他们说，你在说什么狗屁，你这个疯狂的好莱坞混蛋？

所以总结一下，我们将 Mint Unlimited 的价格从每月 30 美元降至每月仅 15 美元。在 mintmobile.com/switch 试试吧。45 美元预付款相当于每月 15 美元。仅限前三个月计划的新客户。税费另计。速度在超过 40GB 后降低。查看详情。

好的，我认为可能是闪电轮的时候了。这就像我在 GPT-4 模式而不是 01 模式下的我，我只需要像一次性一样，你知道，尽可能快地想出下一个标记。第一个问题是，你最近在 AI 上重新思考了什么或改变了你的想法？我认为快速起飞比几年前我所认为的更有可能。有多快？

很难推理，但一些事情是在几年而不是十年内发生的。哇。你认为人们在适应 AI 方面得到的哪些建议最糟糕？AI 正在撞墙，我认为这是试图不去思考它，只是把它放在视线之外，眼不见心不烦的最懒惰的方式。你对如何调整有什么建议？或者你会对如何在 AI 世界中适应和成功给出什么建议？

这太蠢了，但显而易见的事情是使用这些工具。OpenAI 做的一件我认为非常酷的事情是，我们推出了我们所知道的今天世界上存在的、最强大的模型 O1。如果您每月支付我们 20 美元，任何人都可以使用它。如果您不想每月支付我们 20 美元，您仍然可以使用非常好的东西。它就在那里，就像领先优势一样，世界上最能干的人，您可以访问完全相同的边界。我认为这太棒了。所以去使用它，找出你喜欢的部分，你不喜欢的部分，你认为会发生什么。

你对 AI 最热门的观点或不受欢迎的观点是什么？至少在短期内，它不会像人们想象的那么重要。长期来看，一切都会改变。我确实相信我们可以启动第一个 AGI，而且没有人会在乎那么多。科技界人士和哲学家很关心。这是我听到的两个反应一致的群体。即使那样，他们也很关心，但是，

20 分钟后，他们就在考虑今晚要吃什么。作为一名组织心理学专家，你对我有什么问题？哦，你对 OpenAI 有什么建议，关于我们如何管理我们的集体心理，因为我们正在经历这种疯狂的超级智能起飞？例如，我们如何让这里的人保持理智，缺乏更好的词语？我们并没有真正处于超级智能起飞阶段。但我认为，随着我们经历这个过程，它只会让人感觉像是一件令人难以置信的高风险、压力巨大的事情。我的意思是，即使现在，当我们处于 AGI 上升阶段时，它也让人感觉有点像那样。我

我认为我们需要更多组织韧性来应对即将发生的事情。当你想到组织韧性时，它是什么样的？这意味着人们的压力不像他们可能变得那么大吗？这意味着他们能够比自然情况下更快地适应变化吗？在极高风险的不确定性面前做出正确的决定，以及适应性作为

地面上的事实，因此我们需要考虑或采取的行动以非常快的速度发生变化。我认为，对于我来说，从这一点开始，是画一个二乘二的表格，并要求 OpenAI 的每个人考虑他们做出的每个选择的严重程度，这些风险有多高，然后每个选择的可逆性如何？他们是在走旋转门，还是门会在他们身后锁上？我认为你真正需要放慢速度的地方

提前做好所有思考和重新思考的是那些后果严重的不可逆转的决定，因为它们确实很重要，你明天无法撤销它们。我认为其他三个象限，快速行动、实验、试点、保持怀疑你所认为的，是可以的，但那个象限是你真正需要做对的地方。这就是我希望人们投入他们最好的思考，可能还有他们最好的提示的地方。

说得通。所以我想问你一些你写的东西。你写了一篇关于如何成功的博客。很久以前。那是很久以前的事了。我不再记得了。没关系。我就在这里。我发现其中一部分特别引人入胜，关于自信。所以我会在这里引用你。你写道，自信非常强大。我认识的最成功的人几乎到了妄想的地步都相信自己。

尽早培养这种能力。随着你获得更多数据点表明你的判断是正确的，并且你可以持续地交付成果，那就更相信自己。你仍然同意吗？我认为是的。很难夸大其词。当我们开始 OpenAI 时，我们相信这件事。那就像 OpenAI 相对于外部世界，相对于我们内部所相信的，处于最大怀疑论的时候。我认为我在那个阶段对公司的最重要贡献是，我一直提醒人们，看，

外部世界讨厌任何新事物，讨厌任何可能与既定信念方向不同的东西。所以人们对我们说所有这些

疯狂的负面评价。然而，我们取得了令人难以置信的进步。我知道还为时过早，我知道我们必须暂时放弃怀疑才能相信它会继续扩展，但它一直在扩展。所以让我们把它推到荒谬的程度。现在看来是如此显而易见。但在当时，我确实相信，如果我们没有这样做，它可能要过很长时间才会发生，因为我们是唯一拥有足够自信的人

去做那些看起来荒谬的事情，那就是花费 10 亿美元来扩展 GPT 模型。所以我认为这很重要。我认为这一切都是真的。我认为这也令人恐惧，因为当这些人相信自己到了妄想或几乎妄想的地步时，他们在自己专业领域之外会做出糟糕的决定。我认为那是

我认为如果我要修改你写的内容，我会说，随着你获得更多数据点表明你的判断在一个特定领域是正确的。是的，是的。那么你应该在这个领域更相信自己。那将是一个更好的表达方式。我不认为经验和能力根本不会泛化，但许多人试图过度泛化它。我应该说一些关于你专业领域的事情，但这里面有细微差别，因为我也认为你应该愿意去做一些新的事情。你知道，六七年前，我是一名投资者，而不是 AI 实验室人员。

主管，你知道的。这还真的取决于你是在稳定的环境还是动态的环境中，因为你可以在稳定的环境中相信你基于直觉的判断，因为你潜意识地内化了过去的模式，这些模式将来仍然会持续下去。而如果你在一个更不稳定的环境中，你的直觉通常是基于不适用的数据训练出来的，对吧？

在这个世界里，我认为你想要更接近你所相信并为你工作的真正核心基本原则，因为是的，甚至更有价值。我想要和你讨论的最后一个主题是伦理。我知道这也是你一直在思考、一直在谈论的事情。这是大多数人在将任何类型的判断外包给 AI 时最不舒服的领域。是的。

我也是。好。我认为这就是我们最终必须依赖人类的地方。我听到很多核威慑之类的比喻，好吧，我们需要做的就是领先于坏人，然后我们将拥有相互保证毁灭。等等，军备竞赛的比喻在这里行不通，因为许多坏人不是国家行为者，他们面临的风险或后果也不同。然后还有，像，

现在我们将信任一家私营公司，而不是民选官员。这感觉非常复杂，而且似乎没有映射关系。所以跟我谈谈这个，以及你如何看待伦理和安全问题。首先，我认为人类必须制定规则，AI 可以遵守这些规则，我们应该让 AI 遵守我们集体决定的规则。但人类必须制定这些规则。其次，我认为人们似乎无法避免以历史类比来思考。我理解这一点，而且我认为这并非完全不好。但我

但我认为这有点不好，因为历史例子并不像未来的例子。所以我鼓励的是……

人们尽可能地将讨论的基础建立在 AI 与以往任何事物不同的方面，基于我们目前所知，而不是那种疯狂的猜测，然后尝试设计一个适合这种情况的系统。我真正相信的一件事是，将 AI 部署为一种工具，可以显著提高个人的能力、个人的意志，无论你称之为什么是

对于我们目前的情况来说，这是一个非常好的策略，比一家公司或对手或个人或任何使用当今世界上所有 AI 能力的人都要好。但我也会欣然承认，我不知道当 AI 以很大的方式变得更有能动性时会发生什么，不像我们可以给他们一个任务，让他们编程三个小时，而是我们可以让他们去做一些非常复杂的事情，这通常需要一个完整的组织多年时间才能完成。

我怀疑我们将不得不找出新的模型。再说一次，我认为历史不会对我们有太大帮助。不，坦率地说，在软件世界中它并没有。我认为在美国，任何其他如此强大的技术都会受到监管。并且

我认为国会在欧盟方面可能更胜一筹。我认为欧盟在 AI 监管方面所做的事情还有另一个原因是不利的。例如，当我们完成一个新模型时，即使它不是那么强大，我们也可以启动它。我们可以在美国启动它，远早于在欧盟启动它，因为有一堆监管流程。如果这意味着欧盟总是落后于前沿几个月，我认为他们只会建立更少的流畅性和专业知识

经济引擎和理解以及其他任何你想放在那个方向上的东西。要取得监管平衡真的很难。而且在我看来，我们显然需要一些。当你展望未来十年左右时，最让你担心的是什么？我认为是变化的速度。我确实相信人类解决每一个问题的精神，但我们必须很快解决很多问题。当我想到伦理和未来影响时，我一直在努力解决的另一件事是

我认为如此多的数字技术将是民主化的，我们认为它们将阻止或至少削弱不平等。但很多时候恰恰相反，富人变得更富有了，因为他们能够更好地使用这些工具。现在，你指出 O1 按照美国标准来说相当便宜，对吧？

我认为仍然存在差距。改变这种情况需要什么？AI 如何才能成为发展中国家的一股向善的力量？我们已经能够将每单位情报的价格每年降低大约 10 倍。不能再这样说了。不。但我们已经这样做了一段时间了。并且……

我认为情报变得如此便宜真是太神奇了。我想在某种程度上，这与这个问题背道而驰，好吧，至少现在，唯一能够负担得起制作真正强大模型的参与者是政府和那些负有责任的大公司。

目前训练它，是的。但是使用它却大相径庭。所以当你回顾过去，我的意思是三年，这就像你经历了一生的变化。这很奇怪。你为什么要这样做？这是一种说法。我是一个技术乐观主义者和科学迷。我认为这是我能想象到的最酷的事情。也是我能想象到的最好的方式，我可以花我的工作时间来训练。

成为我相信是我们有生之年最有趣、最酷、最重要科学革命的一部分。所以，这真是一个特权。令人难以置信。然后关于那种不那么自私的原因，我感到有责任推动科学进步，作为社会进步和发展的一种方式。

听起来像责任。当然。

作为一个即将为人父的人，你希望为下一代看到什么样的世界？第一个想到的词是丰富。第二个是繁荣。但总的来说，只是一个人们可以做更多事情、更充实、过上更好生活的世界。然而，我们

为我们自己定义它。所有这些事情。可能与其他每个即将为人父的人为自己的孩子所希望的一样。我当然从未对任何事情如此兴奋过。我认为这也很像，没有人应该生一个自己不想生的孩子，所以我不想在这里使用“责任”这个词。但社会依赖于一些人养育一些孩子。至少现在是这样。是的。

至少现在是这样。我认为我从未像今天这样强烈地表达过你对人类的信仰，而不仅仅是对技术的信仰。我认为在某种程度上，这是一个危险的操作场所。就像我们在社交媒体上看到的那样。

但我认为这也很像，在构建技术方面，这是基本条件，你必须关心并相信。我倾向于乐观，即使我试图做到准确。但如果对技术过于乐观，比如，如果你对人类过于乐观，那可能对我们来说是一种危险。如果我们推出这些工具，我们就像，是的，人们会将它用于更多的好处而不是坏处。而我们对人性的判断是错误的。这将是我们战略上的一个缺陷。但我并不相信这一点。

好吧，祈祷吧。萨姆，感谢你抽出时间来做这件事。我学到了很多东西，并且非常享受。谢谢你的邀请。这很有趣。是吗？由你决定。我和萨姆谈话中我最大的收获是，技术进步可能是不可阻挡的，但人类的适应能力也是如此。机器可以取代我们的技能，但它们不会取代我们的价值或我们的价值观。反思由我亚当·格兰特主持。该节目是 TED 音频集的一部分，本集由 Cosmic Standard 制作和混音。

我们的制作人是 Hannah Kingsley-Ma 和 Asia Simpson。我们的编辑是 Alejandra Salazar。我们的事实核查员是 Paul Dirtman。Hansdale Sue 和 Allison Leighton Brown 的原创音乐。我们的团队包括 Eliza Smith、Jacob Winnick、Samaya Adams、Roxanne Heilash、Banban Cheng、Julia Dickerson 和 Whitney Pennington-Rogers。

我收到很多电子邮件，比如冷邮件或其他什么，有人会说，我承认，我在 ChatGPT 的帮助下写了这封邮件。如果我回复，我会尽量说，以后再也不需要这样做了。如果你再给我发邮件，我会接受要点。所以这是我对这场战斗的一点贡献。哇。然后底部有一个小免责声明，说这个回复也是由 ChatGPT 编写的。如果我这样做，我会披露，但我不会。我通常只是写回我的两个要点。

您好，我叫 Laura Beyer。我是 TEDD 品牌合作主管。

我毕业于乔治城大学麦克唐纳商学院，在那里我加入了一个多元化且全球互联的商业领袖网络，致力于建立有意义的遗产。我在课堂内外具有变革意义的经历为我提供了解决复杂问题和在工作场所发现新机遇的知识和技能。我以磨练我的战略、分析和沟通能力的方式参与了乔治城社区。

我现在与成功的校友们联系在一起，他们互相支持彼此的个人和职业旅程。当我完成硕士课程时，我已经准备好胜任商业工作并对社会产生影响，而我能够在 TED 这里做到这一点。您可以获得适合您未来的硕士学位。与乔治城麦克唐纳一起建立您的遗产。访问 msb.georgetown.edu/TED。

每个想法都始于一个问题。Warby Parker 的问题很简单。眼镜太贵了。所以他们着手改变这一点。通过在内部设计眼镜并直接向客户销售，他们能够提供精心制作且价格意外实惠的处方眼镜。Warby Parker 眼镜采用优质材料制成，例如抗冲击聚碳酸酯和定制醋酸纤维。它们的价格从 95 美元起，包括处方镜片。获得由优质材料制成的眼镜。

光临您附近的 Warby Parker 商店。我爸爸从事 B2B 营销工作。他来我的学校参加职业日，并说他是一个 ROAS 大佬。然后他告诉大家他多么喜欢计算他的广告支出回报率。

我的朋友至今仍在嘲笑我。并非每个人都了解 B2B，但有了 LinkedIn，你就能接触到那些了解的人。在您的下一个广告活动中获得 100 美元的信用额度。访问 linkedin.com/results 领取您的信用额度。网址是 linkedin.com/results。适用条款和条件。LinkedIn，成为焦点的地方。