In “SuperAgency,” Reid Hoffman Argues AI Will Empower, not Diminish, Us
58:02 Share

领英联合创始人里德·霍夫曼对人工智能改善我们的社会和自身的能力持乐观态度。在他新书《超级代理：我们的AI未来可能有什么好事发生？》中，这位长期的人工智能支持者和投资者，以及合著者格雷格·比阿托，反驳了自主人工智能会使我们非人性化并使我们屈服于奥威尔式服从的担忧。相反，他们认为，人工智能赋予人类更多自主权。“正如汽车在20世纪赋予个人用户新的身体机动性超能力一样，人工智能在21世纪赋予个人用户新的认知机动性超能力。”我们与霍夫曼和比阿托讨论了我们的AI未来以及科技巨头在特朗普时代的角色。嘉宾：里德·霍夫曼，领英联合创始人兼前执行主席；《超级代理：我们的AI未来可能有什么好事发生？》合著者格雷格·比阿托，《超级代理：我们的AI未来可能有什么好事发生？》合著者</context> <raw_text>0 每天早晨都是一个新的机会，一个重新开始的机会。NPR 的《Up First》让每个早晨都成为学习和理解的机会。选择每天早晨加入世界，收听《Up First》播客，它会在 15 分钟或更短的时间内向你提供全球各地和街区发生的一切。通过订阅你收听播客的任何地方，开始你的一天，了解信息并焕然一新。

嗨，我是摩根·宋，KQED 节目《关闭所有标签》的主持人，我们每周都会揭示在线世界如何与日常生活碰撞。你不知道什么是真的，因为你不知道人工智能是否参与其中。所以我的第一反应是，哈哈，这太搞笑了。我的下一个反应是，等等，我是一名记者。这是真的吗？我认为我们有生之年可能会看到一位 Twitch 直播主总统。你可以在任何收听播客的地方找到《关闭所有标签》。来自 KQED。

来自旧金山的 KQED，我是阿莱克西斯·马德里加尔。不难想象人工智能的缺点。从电影中的反乌托邦到更现实的人工智能抢走你工作的场景，这些日子里充斥着悲观情绪，尤其是在埃隆·马斯克试图用所谓的“人工智能”来拆解政府机构的时候。但领英联合创始人、大型民主党捐助者里德·霍夫曼却有着更乐观的前景。

他预见人工智能将为人类提供关键的和创造性的帮助，扩展我们的能力。他的新书是《超级代理：我们的AI未来可能有什么好事发生？》，我们将探讨这一点，以及我们过于真实的存在中有什么问题。所有这些都在接下来的新闻之后。

欢迎收听《论坛》。我是阿莱克西斯·马德里加尔。在新书《超级代理：我们的AI未来可能有什么好事发生？》的早期，该书的合著者里德·霍夫曼和格雷格·比阿托阐述了不同人工智能方法的分类。有一些末日论者认为人工智能会消灭人类。还有一些乐观主义者认为人工智能会解决一切问题。然后还有另外两种更微妙的

悲观主义者们担心，他们认为需要自上而下的 AI 法规和严格审查，才能避免 AI 部署的最坏影响。

然后是霍夫曼和比阿托方框图中的“繁荣者”。繁荣者并非对人工智能可能造成的损害麻木不仁，但他们认为生成式人工智能对人类社会具有积极意义，并且迭代式地部署这些工具并使用适当的基准可以让人类最大限度地发挥丰富智能的益处。里德·霍夫曼和格雷格·比阿托今天上午加入我们。欢迎，里德。

很高兴来到这里。欢迎，格雷格。感谢你们的邀请。里德，让我们从你开始。我觉得我们的大多数观众可能都属于悲观主义者阵营，我们稍后会更详细地讨论这个问题。但对于一个悲观主义者来说，你最好的论点是什么，让他们转向“繁荣者”阵营？

部分原因是开始对人工智能感到好奇。也就是说，开始尝试使用它，看看它如何增强你的能力，以及它可能做些什么来改善你的生活。例如，你可以尝试使用 ChatGBT 或其他代理，看看你可以做些什么，无论是个人方面，还是工作或其他方面。

哦，继续。哦，仅仅是因为你认为与这些工具的互动和个人体验会让人们对它们的能力有更乐观的看法？是的，因为一部分原因是，当它有点像，“哦，人工智能要来对付你了，它是终结者之类的”，你会说，“好吧，我有点担心”。当你开始真正看到你可以做些什么时，无论是像，“嘿，我不知道如何使用这个新的微波炉”，

等等，或者，“嘿，我正在为我的工作写一份报告，我可以生成一些东西，可以帮我节省 10 个小时的开始工作时间”

你可以说，这些实际上是超能力。当然，格雷格和我讨论的一部分是，个人的超能力极其重要。但是当很多人获得它们时，整个社会也会得到提升。因此，你会从其他人的超能力中受益。例如，如果你的医生变得更有能力，

那么这对你、你的家人、你的社区都有帮助。所以，真正需要关注的是，开始想象，开始对可能发生的好事感到好奇。是的。格雷格，我很快地总结了末日论者、乐观主义者、悲观主义者和繁荣者的框架。但也许你可以为我们更详细地解释一下。

嗯，末日论者会想到最坏的情况，即我们可能拥有 AGI。通用人工智能。通用人工智能，你知道，在目前还不存在的水平上，可能会——

以造成不对称影响的方式使用它——摧毁电网或创造——没错。所以这是一个场景。另一个场景是，智能变得如此智能和自主，以至于它开始随心所欲，而我们失去了控制它的能力。

然后，另一种情况是，它实际上认为它正在做我们想要的事情，但因为它并不总是与我们的想法一致，所以它错过了一些方面。因此，它会产生一些糟糕的结果。这就是所谓的“曲别针场景”。正确。里德，让我问你一个问题。你为什么不是乐观主义者？

嗯，因为问题是，乐观主义者在某种程度上就像闭上眼睛，尽可能地加速，因为一切都会好起来的。显然，在格雷格和我经历过的这些技术转型中，转型过程中总会有很多困难和痛苦，这里也是如此。

因此，你实际上想要思考，“什么对很多人有好处？什么对社会有好处？我们如何使这种转变更加人性化、更优雅、更能让人们参与其中？”这需要进行对话。这也避免了非常糟糕的结果。这也让大家有一种自主感，

“我没有要求这种人工智能转型，但我也可以开始适应它，开始共同拥有它以及正在发生的事情。”所有这些都倾向于繁荣者的思维方式，而不是乐观主义者。

我还认为，我认为我们的大多数观众低估了乐观主义者的思维方式。有些人认为，我们现在世界上最重要的事情是尽可能快地加速人工智能的发展。里德，你能理解这种观点吗？哦，不。事实上，关于与超级代理公司的人交谈的有趣的事情之一是，我实际上有一些读过这本书的人过来对我说，“我是一个乐观主义者”。

所以，你知道，这确实存在。他们认为，人工智能带来了很多好处。当然，会有一些挑战和一些不好的事情，但是

净效应将是极其积极的。唯一道德的结果就是全力以赴地踩下油门。是的，我记得当我遇到特别年轻的人持有这种想法时，我感到非常震惊。格雷格，在这本书中，你所说的“超级代理”是什么意思？

嗯，里德刚才已经提到了。它基本上是指当一项技术发布时，数百万人在同一时间获得访问权限，而不是更狭隘地分发的情况。因此，你会得到你自己的……

使用它带来的积极影响，这正在增加你的自主权，但你也会从他人的自主权中受益。我们在书中使用的一个例子是，在美国汽车早期，我们在 10 年或 20 年的时间内迅速拥有了数百万辆汽车

突然之间，医生每天可以进行更多的家访和旅行，覆盖更大的区域。对于员工来说，你可以住在更多的地方，因为你可以更容易地通勤上班。这意味着雇主也受益。所以这是当技术广泛传播时的一种复合效应。在这种情况下，它有点像网络效应加上人工智能。是的。是的。

里德，以汽车为例，我的意思是，它需要石油。而石油除了其他东西之外，还会导致气候变化。当我们制作关于人工智能的节目时，我们的许多听众都说……

你知道，现在使用这些工具的气候影响相当高。如果你看看埃隆·马斯克的计算机集群，我的意思是，它们只是由天然气驱动的。大多数人试图非常快速地构建这些系统。他们只是安装天然气。这些并不是像可再生能源驱动的，你知道，数据中心。它们越来越大，并推动着电力市场的变化。你如何在该框架内解决这个问题？

嗯，你知道，埃隆可能不在乎气候变化之类的事情。

但实际上，大型超算公司微软、谷歌、亚马逊和其他公司确实在乎。他们都有可持续发展计划。他们有很多不同的方法实际上对气候变化非常积极。一种方法是向绿色科技能源投入数十亿美元，这几乎就像风险投资，但作为客户说，“嘿，如果你可以使用你的地热能、风能、水能，

等等，你可以应用它，你可以在新闻中看到一些关于核能的东西，并使这项技术更加清洁，那么它就像创造了这样一种技术，使得该行业能够加速发展并起步。当然，一旦该行业发展起来，它也可以开始为城市和其他事物建设工厂。所以这是其中一种方法。另一种方法是将智能应用于一切，这实际上非常有用。例如，

大约 10 年前发生了一件事，那就是 DeepMind 去了谷歌的数据中心，并说，“我们认为我们知道如何使它更节能。我们是很有经验的工程师。而且，你知道，你做不到。”

他们实际上通过将智能和人工智能应用于思考你如何处理电网，在谷歌数据中心节省了 15% 到 35% 的能源。然后，当然，总会有，“嘿，也许我们可以加速核聚变或其他事物的开发”。但即使这完全是投机性的梦想，

我认为很多人工智能的东西最终都会非常非常积极。现在，显然，如果你说，“我不在乎”，我只是要用产生碳的巨型数据中心来建造一大堆东西，那么你必须平衡等式，以及你的智能将如何帮助我们处理电网，它将如何帮助，净效应将是什么？但我实际上认为大型超算公司真的致力于发展绿色能源。是的。

格雷格，如果你只是一个普通人，你认为你在哪里可以找到人工智能可以做的事情来改善你的生活，最简单的事情是什么？

一个普通人。你不是科技巨头的创始人。对。所以，我的意思是，我更多地是从一个作家的角度来思考这个问题，以及它如何影响我。我会广泛地说……

在我的朋友中，那些使用它的人，在书中，我们谈到了信息 GPS，以及 21 世纪，我们不断地浏览新的信息环境，无论是……

你必须跟上工作的术语，无论你是在试图解读你从医生那里得到的信息，诸如此类的事情。这些工具从根本上说是翻译机。因此，它们可以帮助你更快地从 A 点到达 B 点。

我肯定搜索的次数少了，使用人工智能的次数多了。我称之为“获取”而不是“搜索”。它会将信息带给你并进行综合。你不应该无条件地相信它，但它总是让你更快地了解你搜索信息时的上下文。是的。

我们正在与格雷格·比阿托和领英联合创始人里德·霍夫曼交谈。他们是《超级代理：我们的AI未来可能有什么好事发生？》一书的合著者。

我们很乐意听到你的声音。你是悲观主义者、末日论者、乐观主义者还是繁荣者？为什么？你对人工智能部署最感兴趣或最担心的领域是什么？你现在可以给我们打电话。号码是 866-733-6786。这是 866-733-6786。电子邮件是 [email protected]。Blue Sky、Instagram，我们是 KQED Forum，当然还有 Discord。我是阿莱克西斯·马德里加尔。请继续收听更多内容。

休息后马上回来。

嗨，我是摩根·宋，KQED 节目《关闭所有标签》的主持人，我们每周都会揭示在线世界如何与日常生活碰撞。你不知道什么是真的，因为你不知道人工智能是否参与其中。所以我的第一反应是，哈哈，这太搞笑了。我的下一个反应是，等等，我是一名记者。这是真的吗？我认为我们有生之年可能会看到一位 Twitch 直播主总统。你可以在任何收听播客的地方找到《关闭所有标签》。

欢迎回到《论坛》。这里是由阿莱克西斯·马德里加尔主持。我们正在与《超级代理：我们的AI未来可能有什么好事发生？》一书的合著者交谈。他们是领英联合创始人里德·霍夫曼和记者格雷格·比阿托。当然，我们也正在接听你们的电话。我想我们的一些听众对人工智能有一些担忧和兴趣。给我们打电话，866-733-6786。你可以发送电子邮件到 forum@

kqed.org。你可以在社交媒体、Blue Sky 和 Instagram 上找到我们，KQED Forum。里德，来自我们 Discord 上的一位听众的一个有趣的问题。问题是，问题不在于人工智能能做什么有益的事情，而在于人工智能会被那些有权势和富有的人用来不成比例地推进他们自己的目标和议程。你同意吗？

嗯，我认为，你知道，富人和有权势的人总是使用一套不同的工具来提升自己。你可以说，我们不应该开发新药，因为新药最初会很贵，我们会给富人和有权势的人，等等。这就像，看，这可能会发生，但这并不是不前进的理由。但这里有一部分问题我认为被忽略了，那就是，蒂姆·库克使用的 iPhone 与摩洛哥出租车司机使用的 iPhone 是相同的。对。

当你为数亿人开发技术时，它会带来非常广泛的包容性。这是我们在 ChatGBT 发布时看到的事情之一，实际上，事实上，我们正在尝试为数亿人构建它。因此，它正在提升整个事物。我并不是试图掩盖富人和有权势的人可能会不成比例地受益的事实，但随着大规模的增长。

对全人类来说。只是想想这样一个事实，你使用的智能手机与在发展中国家部署的智能手机相同。我认为我在这里有一个问题，那就是我们如何平衡这种我认为非常合法的技术民主化与这些公司和技术在美国社会创造的财富集中之间的关系。我想要关注的一件事是……

你在这本书中有一段话，你们写道，互联网当然为欺诈和虚假信息创造了新的机会，但它更大的故事是它如何作为一个前所未有的信任机器发挥作用，你给出的证据是，人们将更多自己的自我、简历和真实生活带到了互联网上，但与此同时，这种情况发生了，我同意这一点

在过去 20 年里，对社会每个机构的信任基本上都崩溃了。那么我们如何平衡这些因素呢？对。

你会怎么说？嗯，我认为一部分原因是，我认为我们对机构的信任大幅下降。我不确定这是互联网的结果，或者互联网可能只是其中的许多参与者之一。我认为我们需要重建这种信任。我的意思是，我一直在做的慈善组织 Lever for Change 之一，

就像一个挑战，我们如何重建对美国公共机构的信任？因为我认为这是我们今天共同生活的社会的一部分。我也会考虑在技术方面做什么以及做什么样的技术。例如，领英显然是我思考如何帮助社会的事情之一，

以这种方式。我认为我们需要更多这样的项目来做到这一点。所以，你知道，我认为，无论你认为，“技术是问题的一部分”，我对批评者的说法是，技术绝对可以成为解决方案的一部分。因此，想象一下可能发生的好事。然后问题就变成了，“那么，我们应该如何使用技术来广泛地帮助社会？”是的。

让我们接听第一个来电，因为有很多想和你交谈的人。奥克兰的瑞秋。欢迎。嗨。感谢你让我上节目。我想谈谈个人用户。我自己使用 Chat GPC。我是一名作家。我是一位创意艺术家。我非常怀疑该程序，LLM 是否能够真正地，

创造性地使用标点符号和页面上的空格。所以我试图与那些创意人士交谈。我对此持怀疑态度，但事实上，4.0 已经做得非常出色

我正在测试它。我试图找到它作为工具的用途，一个工具。它不是我。它不是我的意识。它不是我与之建立关系的人。但它正在通过回应我的感受而达到新的高度。

相当实验性的作品。所以我想说的是，这里的怀疑论者，艺术家发现了一个非常棒的工具。瑞秋，感谢你的观点。我不是想做广告。不，不，不，不，不，完全不是。我的意思是，我也玩过很多这些模型，而且经常发现它们也很令人惊讶和有趣。

格雷格，在写这本书的时候呢？显然，你写的是一本关于使用人工智能的书。我想在创作这本书的过程中，不同的服务发挥了一定的作用。

绝对的。早期，围绕人工智能的许多说法是它将取代作家。我发现，在某些方面，它并没有取代编辑，因为我们在这本书中请了人类的文字编辑和校对员。但当我写这本书的时候，它为我起到了类似编辑的作用。这可能是从……

你知道，在我使用这些工具之前，我很多谷歌的使用都是查找 thesaurus.com 上的单词，对吧？有了这个，你可以根据上下文来做。哦，我想在这个上下文中使用这个词，你可以就你想使用的词进行对话，并希望找到最好的词。我使用它的另一种方式是，就像，“这是我正在写的一章中的四段话？它是否连贯？”所以

我从未尝试过我所说的“一键式人工智能”，也就是像一次性那样。给我一个关于提示的章节。对我来说，这始终是关于对话的，这样我就可以把它作为一个来源进行采访，或者与它进行对话，作为一种发展编辑。里德，你同意这种方法吗？是的。

嗯，你知道，这就是使合作和

合作顺利进行的原因，我实际上做的事情与瑞秋和格雷格非常不同，他们可能更有写作技巧，我点击了“我很幸运”按钮，看看会发生什么，是的，是的，没错，它就像……对我来说，它就像，“好吧，给我一个反对它的论点”，例如，一些超级代理的东西就像，“好吧，从一个

从一位对技术有深入研究的历史学家的角度来看，我们的说法是什么？批评是什么？阐述是什么？直接打电话给我，里德。我很乐意提供一些。没错。继续。是的。所以它有点像，形式当然是一部分，创意过程的伟大之处在于，

但对我来说，我倾向于把它用作一种研究助理和反驳者以及阐述者的组合。是的。我认为对我来说，令人着迷的事情之一是使用一些允许你引入不同研究论文的工具，例如，并让

这些工具，在这种情况下是谷歌制作的工具，产生几乎像大纲或菜单一样的东西，例如，“这里面有什么。如果你想探索，它来自这些来源。”因为我认为多年来我看到的一个主要反对意见，而且我长期以来也相信这一点，那就是这些大型语言模型并没有与人类渴望拥有的基础事实相同的根本关系。

现在看来，至少有一些工具可以帮助解决这个问题。里德，你同意吗？——是的，我非常喜欢伊森·莫利克的一句话，那就是你将要使用的最糟糕的人工智能就是你今天正在使用的人工智能。整个行业都在努力改进，同时保持创造力，降低幻觉率。我最近有一个有趣的例子。我向阿图尔·加万德介绍了深度研究

我们为……做了一些事情，这是一个开放式人工智能研究工具，是的。是的，没错。它生成了一份报告。他说，“哦，我的上帝，这太棒了。”他把它发给了他的研究助理。研究助理回来说，“看，我有一件奇怪的事情要报告。研究报告中的 10 个引文中，有 9 个是错误的。它们实际上并不存在。它们是幻觉。所以你会认为，“完全是垃圾”。

但它们指向的领域是金矿。它为我节省了数十个小时，否则我将无法找到这些东西

你知道，如果没有这份报告的话。这让你明白了，你知道，这种人类增强等等，因为有，有真正的价值在那里。即使在深度研究中，我也非常努力地想让你得到一个你真正喜欢的报价，我正在编造它们。这就像，“你知道，这将是完美的”，这就是为什么我刚刚编造它。是的。是的。对。你知道，我不知道这是否完全是反对，但是，你知道，我是这个人工智能子领域的忠实追随者，它关注的是解释，你知道，这些东西是如何工作的。我从这项工作中真正学到的一件事是，我们真的、真的、实际上不知道这些系统是如何输出它们所做的事情的。我们知道我们输入数据。我们知道这种梯度下降非常有效。我们知道所有这些方法都有效。

在某种程度上，我们知道我们想要做什么，以及我们正在拉动和推动哪些旋钮和杠杆，但我们也真的不知道内部发生了什么。你认为这重要吗？

嗯，我想我先说，但格雷格显然也可以插话。看，我认为这比零重要，对吧？因为，你知道，事实上，我们希望我们的技术能够得到很好的理解，并在各个方面都是可靠的。事实上，它有点像一个黑匣子，我们不了解其中的东西，这迫使我们付出大量的努力。

试图确保它符合我们关于人类利益的目标，并确保我们能够赋能，例如，你知道，学生和老师，而不是恐怖分子，作为我们所做的事情，以及，如果它变得更聪明，这意味着什么，以及所有这些事情是如何发挥作用的，这就是它重要的原因。另一方面，你

你和我正在互相交谈，人们不知道大脑是如何工作的。人们真的不知道——我们完全使用语言来互相交流，以及真正发生了什么等等，但我们做到了。所以这是——当然，我们也进化了，对吧？我们是进化生物，所以我们有——

可能没有科学的理解，但我们对其他人将如何行为有直觉，对吧？因为他们的大脑更像我们的大脑，而不是我们的大脑像聊天机器人一样。好吧，就进化而言，你自己说吧。我们中的一些人还没有完全做到这一点。但是，你知道，是的，因为我们对人类有大量的深入经验，我们有点像，“好吧，我们了解一些错误的情况以及事情是如何运作的”。

但这正是为什么当你早些时候问我如何劝说悲观者去尝试成为乐观者，也就是转变为乐观者时，我的回答是：参与其中，使用它。你开始获得那种可预测性。事实上，这些事情并非完全随机。事实上，它们确实在一定的范围内运作。但这并不意味着你不会有时感到惊讶，或者有时它们，尤其当你问它们一些非常具体的问题时，它们会为了提供帮助而

会说，“哦，这是一个你可以使用的引言，但它是虚构的。”或者一本应该存在但不存在的书。鉴于此，格雷格，你认为在哪些领域应该限制人工智能的部署？例如，在哪些领域我们无法真正证明它们是安全的，并且感觉我们应该能够做到？我认为这是一个不断变化的标准。我们在书中确实讨论了

可解释性，但是……这些都是必要的，当然也很有用，但结果和输出才是真正重要的。所以如果我们……

我们有很多关于幻觉和事情失败的轶事数据。在推特上，你可以看到有人为了让所谓的更好的模型做出的最新的脑筋急转弯。仍然无法弄清楚，你知道，农民过河的逻辑问题。但我们并不真正知道这种情况发生的频率。当你把这些东西放在推特上时，

在平台和系统上，你确实会获得一种在机构中只有人类做决策时所没有的可读性，对吧？所以，我认为很有趣的是，我们谈论黑匣子，我们不知道算法为什么做出这个决定，但因为它已经被量化得不同了。

我们在某种程度上对正在发生的事情有了更多的了解。部分原因是人工智能系统很容易受到批评。但是对于像发电厂或飞机之类的工程系统，我们设定了标准，我们说这是

它必须达到这种可靠性，对吧？这就是我所问的。就像，假设我们看看输出，我们不知道飞行的物理原理。你仍然知道飞机总是可以做某些事情，并且会有方法来批准它，对吧？我的意思是，一定有类似的东西。对，我们在多年的发展之后才有了这些标准，对吧？我们并不是在所有这些领域都带着标准启动的。这就是我们在书中谈论的一点，

你知道，我们有一章是关于基准和像聊天机器人竞技场这样的系统。而且，你知道，有可能做更多这样的事情。我们当然应该朝着这个方向努力。而且我认为正在朝着这个方向发展。我认为这不会，我们不会从一开始就有一个完全成熟的

某种系统，监管系统。它是不断发展的。这就是迭代部署的一部分，对吧？里德，我的意思是，围绕基准的论点是，因为它们允许对不同模型在特定任务上的表现进行公开跟踪，

它们在某种程度上起到了其他类型技术中标准的作用，正如你所论证的那样，至少也具有一定的监管功能。

是的，我和格雷格试图阐述的部分内容是，人们倾向于认为，哦，监管机构在那里。而这实际上是唯一塑造它的东西，除了利润动机之外。而这实际上并非如此。公司有一整套它们参与的事情——因为为了它们自身的利益，其中包括客户和品牌的长期信任，以及员工和他们居住的社区以及他们的员工居住的社区。

以及基准，就像，“嘿，这就是我们谈论我们正在做的事情的方式。我们将我们正在做的事情与彼此进行比较。我们说我的产品比其他产品更好，因为我们在这些基准测试中更好。而这些基准测试会被创建出来。顺便说一句，像这样的讨论、媒体报道以及其他一切的价值部分在于，哦，等等，嘿，那可能是一个很好的基准。我们将用它来进行竞争性差异化。而这

本身就是一种引导这些系统的方式，而不是像有一个人说，“好吧，我是监管者，我将告诉你，你只能在……你知道，灯变绿的时候过马路，之后你必须等待三秒钟变绿。然后你必须，你知道，以……你知道，每小时2.5英里的速度前进，等等。这就像，不，不，不，这不是让高效的交通系统运作并让每个人到达他们需要去的地方的方式。

让我们在这里插入一个小评论块到休息时间。很多不同的听众写信进来。史蒂夫写道，我的担忧是我们没有为这项技术做好准备。仅仅因为我们可以做到并不意味着我们应该这样做。帕特里夏写道，我相当经常地使用ChatGPT和DeepDive，但我有一些担忧。

主要的是智力内爆。举个例子。一位朋友给我发了一篇冗长的文章，内容是关于使用人工智能来解读脑电波的。我没有时间阅读它，所以我让ChatGPT总结了一下。我还用ChatGPT撰写了一篇深思熟虑的回复，掩盖了这样一个事实，即

我没有阅读这篇文章。帕特里夏，你真不应该这样做。里奇还写道，让我们更多地了解人工智能的缺点。作弊和窃取互联网上已有的他人作品的情况大幅增加。依赖互联网上唾手可得的低垂果实，以及原创思维的减少，因为这需要更多努力。

我们稍后会回到这个问题。我们正在与LinkedIn联合创始人Reid Hoffman和Greg Bietto交谈。他们是《超级代理》一书的合著者。我们的AI未来可能有什么好事发生？如果你想参与进来，请给我们打电话866-733-6786。休息后我们将接听更多电话。我是Alexis Madrigal。请继续收听。

欢迎回到论坛，Alexis Madrigal。我们正在与LinkedIn联合创始人Reid Hoffman和他的新书合著者Greg Bietto交谈。他们是这本书的合著者，《超级代理》。我们的AI未来可能有什么好事发生？让我们在这里接听更多电话。让我们接听来自圣罗莎的Damian的电话。欢迎。

感谢您接听我的电话。我有一个问题，但我认为我会让ChatGPT帮我总结一下。所以这是它的想法和我提示的结合。随着人工智能和机器人技术的进步，我在这里强调机器人技术，许多行业的劳动力大规模流失似乎不可避免，鉴于当前的政治阻力，

扩大社会保障体系，你如何看待应对自动化造成的经济破坏？从人工智能驱动的效率中获益最多的企业是否应该承担更大的责任来资助普遍基本收入或再培训计划等解决方案？这个问题对我来说是在昨天听了一段关于机器人技术和人工智能在养老院、身体辅助等方面的结合的报道后产生的，这些都是我们都需要做的低薪工作，可能会

被处理，我们也需要，但这会造成类似于全球化时期发生的破坏，而我们并没有真正为此做好准备或进行改造，这导致了我们现在的经济状况和政治状况，以及随着社会保障体系的减少和这种对社会采取行动的厌恶情绪，一旦这种破坏发生，我们是不是处于一个特别消极的空间？

是的，我不得不说，是的。非常感谢你，Damian。我认为，你知道，最大限度地利用人工智能加上最小的安全网，Reid Hoffman，对这个国家来说似乎是一条非常危险的道路。是的，不，而且，你知道，我认为一件非常重要的事情是，从

政府到行业，都要说，我们如何帮助尽可能多的人？我认为这个问题的一部分是你说的，好吧，人工智能会随着时间的推移带来许多工作转型、工作流失以及其他许多事情。然后你说，好吧，我们该如何做到这一点？一部分事情有点像这个问题，再培训

我认为是我会做的事情之一，你知道，就像我们作为一些技术专家所做的那样，说，我们如何以一种能够帮助你说，“好吧，我的工作正在改变，我该如何学习新东西？”你如何帮助我完成工作？如果这份工作行不通，你如何帮助我找到另一份工作或帮助我，你知道，创造另一份工作？这是一个经典的担忧。我们在书中以多种不同的方式讨论了这个问题，你知道，关于通用技术。它们确实会造成这些破坏性转变，

而这里的一部分实际上是人工智能在这种情况下可以提供帮助，因为它可以成为一个放大器和助手。现在，你知道，所以我确实认为存在一种责任，就像它本身一样，遍及各行各业。这并不是说，哦，这只是社会。我认为这是，你知道，对于那些正在构建这些系统的人来说，也应该关注并帮助解决这个问题。当然，这也是我们撰写《超级代理》的部分原因，因为这是

你知道，这不仅仅是为了让对人工智能不确定的人变得对人工智能好奇。这也是为了让技术人员思考，人类能动性非常重要。在你构建你的技术的迭代时要考虑这一点。

这也很有趣，因为工作是任务的集合，对吧？我正在查看Anthropic的研究，他们使用Claude（他们的聊天机器人）的查询来弄清楚，好吧，哪些任务实际上是通过这项服务完成的？棘手的是，它对某些任务和工作非常有用，而

对同一工作中的其他测试则无用。因此，它正在破坏构成工作的捆绑包。这似乎非常困难，就像有很多可能导致混乱。里德，你怎么看？它如何才能解决这个问题？

好吧，这就是我说转型的原因，因为问题是，人们说，“我曾经有一份工作，现在我没有工作了。”不，实际上工作发生了变化，对吧？所以就像你正在做的事情一样。例如，你就像，“我正在做数据录入。”好吧，我们不再需要数据录入。我们需要的是某种像，你知道，在数据分析方面使用它，或者，你知道，把它发送到正确的位置，并制定策略，以最佳方式帮助你的特定任务或目标，对吧？

所以你会说，“好吧，工作变了，但我过去是一个数据录入员。我不知道如何进行数据录入。”就像，“那不管用了。”是的。这些是你可能可以做的事情。这就是我所说的，像人工智能代理的细节一样，可能会说，“这里有一些你可能可以做的事情，这里有一些工作，这里有一些你可能学习新技能以继续做你正在做的工作的方法。”无论如何，这就是它的姿态。让我们接听来自旧金山的Tony的电话。欢迎，Tony。你好，你好吗？

很好，很好。感谢您来电。我的评论是关于人工智能对人类心理学和社会平衡的长期影响。所以我在一家设计和讲故事的公司工作，我们做很多商业战略和广告。我妻子是一名高中老师。

我们在家里就这个问题进行了辩论，你知道，作者举了使用同义词词典的例子，去thesaurus.com查找，你知道，五个单词，然后必须经过认知过程来决定，你知道，你自己，哪些词实际上是最好的，而不是仅仅说，chat to TTPD，哪个词最好？就是这样，对吧？所以我们有点争论，随着时间的推移，

你认为对人类能力的净影响是什么？你认为它会随着时间的推移让我们变得更笨，还是会让我们变得更聪明，或者迫使我们成为更聪明的物种，作为地球上适应性最强的物种之一？

然后，相关的问题是，你认为它会平衡社会的规模，还是会继续使社会失衡？你之前举了iPhone的例子。是的，一个人，也许是一个低收入阶层的人，拥有一部与史蒂夫·乔布斯拥有的相同的iPhone。但如果问题是，好吧，现在他们俩都可以向人工智能询问并得到正确的同义词，

这是否会平衡事物，或者当你将社会叠加在一起并考虑接下来会发生什么时，它是否会进一步造成失衡？好吧，如果社会底层50%的财富在过去50年里没有增加，

这让你对技术重新分配财富的能力提出一些疑问，就我而言。但让我们坚持第一个问题，格雷格，你对批判性思维的影响，作为与这些不同工具进行过大量此类对话的人。你是否发现它正在以……你知道，让我们说，有人在Twitter上花费了大量时间并将Twitter连接到他们的大脑的方式重塑你的思维？我认为人们……

经常会感觉到对他们实际意识的影响。你感觉到了吗？是的，我认为这是几乎不可避免的，对吧？我们肯定，我们制造工具，然后我们的工具制造我们。所以这将会发生。我们在本书中如此强调能动性的原因之一是

以及为什么我们认为ChatGPT在这方面是一个范式转换器，这是人们第一次可以使用并非嵌入其他服务中的通用人工智能工具。因此，他们必须肯定地选择使用它。然后在使用它时，你必须跟踪。

提供输入。所以在我看来，这是一种非常主动的技术。现在，它将获得更多能动性的用途，但这个版本将永远存在。我认为它的好处之一是，因为它实际上确实让你处于更积极的心态，

我没有要求ChatGPT说哪个词最好，你在这里为我做出选择。我正在进行对话。我总是与ChatGPT的对话中拥有最后一句话，并总是自己做出决定。所以对我来说，这让我很高兴。

我觉得这是一个激活工具。这对每个人来说都会如此吗？我不确定，因为能动性并不比智力更平均地分布，对吧？在某种程度上，我们将在这个新资源中发现的是，智力将变得更加丰富。

并且部分地，你知道，早期关于……好吧，什么样的人类属性最重要？人们说情商、直觉等等。而Chat Shibiti和其他一些人，他们并没有真正体验到这一点，但他们可以很好地模拟它。所以……

在某种程度上，我认为未来最有价值的人类属性将是能动性，因为这些工具允许你放大你所做的事情。所以如果你有很多能动性，你可以有效地使用它们。这不会忽略后半部分。我想这实际上是Damian问题的后半部分，也许是关于……

所以同样，我们认为，将这些工具置于用户的体验中是关键，因为很多人会使用它们来自动化和替换。但我们至少希望人们能够使用补充、放大和增强功能的工具，对吧？这就是我们第一次使用ChatGPT获得的东西。是的。

你知道，在围绕人工智能的许多讨论中，尤其是在湾区，里德，这是科技界的一个时刻。你知道，我们已经看到科技领导者在人们中出现了分裂。你知道，一些人去了特朗普阵营。其他人则保持着自由民主的模式。你认为这种特殊的动态将如何影响人工智能在这个国家的推广？是的。

好吧，我们可以在下周某个时候完成这个问题的回答。但是，你知道，我认为，你看，作为那些，你知道，非常相信，你知道，民主和，你知道，更进步的社会方面，我们正在走向的方向，我认为进步是一件好事。我认为事情的争论将会很复杂。我认为

例如，拜登通过行政命令所做的，他说，“嘿，我希望你们至少进行某种一致性测试，并制定安全计划以及所有其他事情”是一个非常好的……这是拜登关于人工智能的行政命令，对于那些不记得的人来说。没错。我们对此做了一个节目。回去找找看。

是的，没错。我们可以，你知道，这是一件好事。事实上，它被取消了，我希望它只是取消了一个名字，而且，你知道，它将以一个新的、更大的计划重新启动。你知道，这是一种发生的方式。所以我认为这些事情，你知道，在我们的去向方面很重要。另一方面，我确实认为经常发生的事情

你知道，就像早些时候提出的问题一样，好吧，但我真的很担心它太快了，我们应该放慢速度。时钟不是由我们坐在那里说，“我们只是要踩油门”来设定的。我的意思是，有一部分来自深度学习的教训是，你知道，这些东西的发展正在进行中。所以在这种时间窗口和塑造事物方面，我们不能简单地说，“嘿，我们要去

你知道，什么都不做。这就是格雷格和我写关于……你知道，几乎是推测性的历史小说，如果卢德分子获胜会发生什么，那么这将是……你知道，对我们后代来说是一场灾难，对我们的孩子来说，你知道，他们的孩子和经济来说也是一场灾难。所以有一个，我们正在，你知道，潮流正在朝这个方向发展。我们需要明智地引导。

那里一个很大的问题是，这种创新将来自哪里？当我开始从事科技报道时，很多人认为，敏捷的创业生态系统是它的来源。我觉得我在过去十年中观察到的一件事是，我们已经转向了这种国家冠军模式，我们的最大科技公司将成为在全球范围内部署和开发最重要技术的公司。

你认为这是正确的模式吗？我们应该对我们最大的公司提供国家支持来做到这一点吗？好吧，我认为两者都是。我认为这有点像一个错误的二分法。事实上，如果只有大型科技公司，那么作为Greylock风险投资家，我犯了严重的错误，因为我正在启动Manus来用人工智能治愈癌症，加速药物研发作为一家初创公司。

所以我认为两者都是。但我确实认为，重要的是不要，就像有时一些进步左派人士会说，“不，真正重要的事情是控制住这些大型科技公司。”你会说，“好吧，但实际上，我们真正希望大型科技公司做的事情是一些对我们有帮助的事情。”如果你想让制造业和国家的活力回归，那就是人工智能和机器人技术。我们想说，“嘿，帮我们一把。”

你知道，你说，“嘿，一些真正能够提高每个人生活质量的事情是医疗用品或教育用品，或者工作，你知道，帮助做这些事情。”这就是我们想要做的事情。我认为这是一件好事，也可以来自初创公司和大型公司。

最后几个评论在这里，你知道，埃里克写信说，看着地球上最富有的人埃隆·马斯克，他控制着地球上任何人的技术力量，利用这种力量来帮助选举总统，然后传播虚假信息，这告诉你关于技术未来你需要知道的一切，而且情况并不乐观。与此同时，唐纳德写道，请让霍夫曼先生提到人工智能可能有助于维护美国民主和诚信的一种或多种方式。

所以，你知道，例如，说，例如，某事的一个案例就是整个论点的案例，这只是一个谬误的论点。你知道，你可以说，好吧，因为，你知道，一个白人谋杀了某人，这告诉你关于白人的一切，你知道，这看起来像，好吧。你知道，而且，它，它，它，你知道，我认为问题必须对此更加复杂。现在，就民主而言，你知道，

我确实认为，关于……例如，如果你说，“嘿，我们正在构建……你知道，帮助我们作为副驾驶的智能。”我想我会给你举一个微型例子。最近发表的一篇学术论文说，我们对相信阴谋论的人进行了这项纵向研究。我们发现，通过与LLM互动。

我们让其中25%的人，这有点像地球是平的，那种东西，在六个月内改变了主意，你知道，这比任何人都要好得多。所以能够塑造信息空间的概念，就像你可以想象有一个代理

当你阅读某些东西时，会说，“嘿，顺便说一句，你知道吗？顺便说一句，这不仅仅是红色或蓝色的评论。就像，你知道吗，这里有一些其他的专家评论你可能想关注一下？”这种信息性质的演变是它可能有所帮助的地方之一。是的。

最后一个快速的问题是关于格洛丽亚的，这是一个服务问题。她写道，我想知道你对人工智能将如何改变未来工作，特别是如何教育我们的孩子为他们未来的工作做好准备的想法。在思考或决定未来的领域和大学时，我想知道你认为哪些可能更适合未来。我感觉旧的答案曾经是学习编程。现在看来，这些人工智能系统最擅长的是编程。所以你认为呢？

好吧，我认为实际上，顺便说一句，你学习编程的方式是不同的。学习编程仍然非常有用。

批判性思维仍然非常有用。学习仍然非常有用。这就像了解那些帮助你成为社会中充满活力的经济参与者的工具。而其中一部分原因是格雷格和我写了《超级代理》，是为了说，这些工具基本上将是人工智能。让孩子们开始使用它们，就像，你知道，参与其中。例如，你知道，对于高中老师来说，让他们参与你的课堂，因为这是让他们在余生中能够胜任工作的一部分。嗯。

我只是要留下我们一位听众的最后一个问题。在这里把球放在我们的球场上。马修写道，我是一名语言学家和多语言使用者，我想知道Aon语言学习的影响。一方面，将会有更多个人教学代理的能力，这些代理可以根据每个人的学习风格定制课程。我自己也经历过这种情况。（顺便说一句，这真是太神奇了。）另一方面，人们倾向于使用翻译工具来代替学习语言。

学习语言很难，但也很有价值。在这个新时代，这和其他人类功能会萎缩吗？或者我会补充说，人们不会这样做吗？我们在这里有一个选择。我们一直在与LinkedIn联合创始人Reid Hoffman和Greg Beato交谈。他们是《超级代理》一书的合著者。我们的AI未来可能有什么好事发生？非常感谢您加入我们，里德。谢谢。格雷格，非常感谢您加入我们。感谢你们的邀请。

也感谢所有听众的来电和评论。很抱歉我们无法回复所有来电。我们尝试过了。有很多。很高兴回来。也感谢您在我们的认捐活动中给予的帮助。非常成功。感谢你们。非常感谢。我是Alexis Magical。请继续收听Mina Kim主持的另一小时的论坛。谢谢。

论坛制作资金由约翰·S·和詹姆斯·L·奈特基金会、慷慨基金会和公共广播公司提供。

每天早晨都是一个新的机会，一个重新开始的机会。来自NPR的Up First让每个早晨都成为学习和理解的机会。选择每天早晨与Up First一起加入世界，这是一个播客，它会在15分钟或更短的时间内向你提供全球各地和街区发生的一切。通过订阅你获取播客的任何地方，开始你的一天，了解信息并焕然一新，使用Up First。

嗨，我是摩根·宋，KQED电台《关闭所有标签》节目的主持人，我们每周都会揭示网络世界如何与日常生活碰撞。你不知道什么是真的，因为你不知道人工智能是否参与其中。所以我的第一反应是，哈哈，这太搞笑了。我的下一个反应是，等等，我是一名记者。这是真的吗？我认为在我们有生之年，我们会看到一位Twitch主播当总统。你可以在任何收听播客的地方找到《关闭所有标签》。