Reid Hoffman on DeepSeek - 'necessity is the mother of invention'
30:25 Share

LinkedIn联合创始人Reid Hoffman与《华盛顿邮报》的Bina Venkataraman讨论了他的新书《超级代理》(Superagency),内容涉及人工智能驱动的未来和全球技术霸权竞争。

<raw_text>0 情人节即将到来,你肯定不想只拿着一盒心形巧克力吧?为什么不选择一个更小的盒子,里面装着来自Jared Jewelers的心形蓝宝石吊坠项链呢?现在就选购Jared的精选钻石时尚和意大利黄金珠宝,送给你的情人。毕竟,生活可能像一盒巧克力,但爱情就像一个印有Jared Jewelers标志的盒子。这个情人节,做那个去Jared买礼物的人吧。

现在精选时尚珠宝享40%折扣。访问jared.com/radio了解更多详情。您正在收听来自华盛顿邮报直播的播客。将新闻编辑室实时带给您。

您好,我是Bina Venkataraman,我是《华盛顿邮报》的专栏作家,也是其战略与创新部门的总编辑。今天很荣幸能与LinkedIn联合创始人、新书《超级代理:我们的AI未来可能有什么好事发生?》的作者Reid Hoffman进行对话。您好,Reid。很高兴见到您,欢迎回来。谢谢,我也很高兴见到您。

我想从您如何构建这本书,甚至书名开始。

对我来说,“超级代理”在表面层面上暗示着我们将讨论的是硅谷乃至全球围绕人工智能的热议话题,那就是人工智能代理正在兴起,我们正处于一个代理人工智能的时代,

我们可以为人工智能设定目标,系统将自主地为我们实现这些目标。但是,您在书中谈到的代理和超级代理,

实际上是人的能动性,您重新将人置于中心,并将您在LinkedIn的工作(扩展人类在线创建专业身份的能力)与您对人工智能可以为人类能动性做些什么的愿景联系起来。所以,先告诉我们更多关于这方面的信息。这将如何运作?

嗯,其中一件事情,正如您从阅读本书中了解到的那样,我们涵盖了大量关于我们人类如何遭遇这些巨大的技术飞跃的历史。在每一种情况下,发生的事情是,我们基本上......

我们基本上将它们视为人类和社会能动性可能丧失的体现。我们围绕人工智能的对话,通常非常担忧等等,这非常类似于我们围绕印刷术的对话。

但在这些技术发展之后,印刷术、汽车、电力等等,我们的能动性得到了极大的提高。这些东西给了我们各种各样的超能力。而论点是,人工智能也会这样做。它将是智能的放大器。它将是一种赋予我们超能力的东西。而“超级代理”的这一部分不仅仅是,例如,一辆汽车。我获得了一种超能力,

我可以旅行,走更远的距离,能够到达各个地方。但因为其他人也获得了这种超能力,比如医生可以上门为孩子、祖父母看病,以及其他事情,这意味着我也从中学到了能动性。而这种人类能动性的提高实际上是我们都应该开始关注的事情之一。我们都应该开始思考

我们如何参与这项技术?我们如何以技术人员和社会的身份来塑造它?这是关于,正如您所知,第一章是,随着ChatGPT的发布,人类进入了聊天时代。与其产生一种恐惧或担忧的感觉,有担忧和怀疑是正常的。我想要帮助人们的是,让他们对人工智能充满好奇。我该如何获得超能力?我们该如何获得这些能够提升人类能动性的超能力?在“代理”这个词中,您故意使用了一个双关语,既指这种代理革命,也指它如何增强人类能动性。

所以我认为很多人会同意您对过去技术的诊断,即最终我们将生活在一个人类总体上可能

获得更大能动性的世界中,但我认为人们可能会对发展轨迹、我们如何到达那里存在分歧。那么,在您看来,这是一种不可避免的、通过技术的自然演变,我们将不可避免地到达一个对人类有益的地方吗?还是说,现在是时候保持警惕,重新审视社会契约,并仔细考虑技术如何发展,以便我们能够获得这种未来?

嗯,有三点。首先,我认为这些技术转型总是痛苦的。所以你看看印刷术,我们没有它就无法拥有现代社会。我们无法拥有科学方法,我们无法拥有医学,我们无法拥有教育,我们无法拥有中产阶级。所以每个人都会说,是的,印刷术,显然是好的。然而,印刷术问世时的论述与今天的论述非常相似。

人类能力的退化,记忆不再重要,我们将传播社会中的错误信息等等。我们人类对这种适应性非常差。所以对于印刷术,我们经历了近一个世纪的宗教战争。所以我们往往会糟糕地应对这些破坏。所以我认为这不是不可避免的,比如,明天一切都是阳光明媚,鲜花盛开等等。我认为有很多过渡困难。

第二,我认为如果我们能够以正确的方式度过这些转型,我认为我们最终会自然地提高人类的能动性。比如,我不认为我们必须,比如,我们不必说,哦,我的上帝,除非我们采取行动,否则它会从悬崖上掉下去。

但我认为没有理由不去像你说的那样,警惕地去更好地引导。尝试从我们以往的努力中学习,因为我称之为认知工业革命,我这样做是有直接的类比的。

显然,工业革命也对为什么我们今天有这么多人活着、中产阶级、生产力提高等等有很大的帮助。但转型过程极其艰难和痛苦。

我们希望更优雅地、更有人性地驾驭这些转型。这并不意味着不会很难,并不意味着不会有痛苦,但这正是我将运用警惕性的地方,即,我们如何驾驭才能使过渡时期变得更好,也更快、更有力地

认识到,称之为,人道主义的结果,超级代理,人工智能如何使我们的生活变得如此美好的演变。您提出的这个框架,即可能有什么好事发生,是相当独特的,在我看来,现在很多人可以想象和观察到可能有什么坏事发生。无论人们关注地缘政治、气候、经济,都充满了恐惧和绝望。

而您提供的是一种看待事物的方式,您描绘了未来的愿景,并试图朝着一个不同、更积极的未来努力。我知道大约一周前,您宣布了一家在药物发现领域的新兴公司,利用人工智能应用于医学。那么,让我们在医学领域做到这一点。如果一切顺利,如果我们在如何利用人工智能进行医学方面一切顺利,那么您希望推动实现的愿景是什么?

我先从我的公司说起,然后再说说更广泛的方面。所以,当我与这位令人惊叹的癌症研究员(Siddhartha Mukherjee,他发布了,你知道的,帮助创造了许多不同的抗癌药物,一些已被批准,一些正在进行三期试验)交谈时,我意识到了一部分事情。

我们当时讨论的是,人工智能如何赋予超能力,以及这如何比仅仅是能够帮助你进行认知工作、翻译、分析、研究的代理更广泛地应用,OpenAI刚刚发布了深度研究。它还能帮助解决哪些问题?答案是,如果我们突然提高了10倍、100倍的能力,例如,找出

治疗癌症的可能药物?而且癌症有很多种。所以不仅仅是一种抗癌药。比如,三阴性乳腺癌是如何运作的?白血病是如何运作的?它们有类似的功能障碍,但有各种各样的细胞和不同的挑战。那么,我们该如何理解它呢?

我们如何获得可能能够正确清除坏的癌细胞但保留健康细胞的分子,这是所有这些的主要问题之一?我们如何加快整个科学过程?我想,这就是人工智能可以带入其中的东西。他说,好吧,这是我们从最好的科学中了解到的东西。所以让我们将人工智能革命的最好成果与科学的最好成果结合起来,

大幅加快我们的研究和理解,我们可能的化合物,我们对化合物的可能评估,以及评估不仅仅是它是否有效,而且它是否在人类生态系统中有效。我认为这只是众多领域中的一个,在这些领域中,我们可能会突然获得,癌症是最大的杀手。各个年龄段,世界各地,所有社会,

我们可以为人类生命的质量和寿命带来巨大的改变。这只是一个领域,智能地应用人工智能,

可以产生非常大的影响。另一个更普遍的例子是,今天,凭借今天的技术,没有发明。Manas有很多发明,我们的药物治愈人工智能药物发现公司。但没有发明,你可以在每部智能手机上运行一个全天候的医疗助手,

比你平均水平较好的全科医生还要好。这并不意味着让全科医生失业,全科医生已经人满为患了。他们可以做很多事情。但想象一下,你在家,

星期二晚上11点,你的孩子、父母、伴侣或朋友出了问题,你需要知道你是否需要去急诊室,你应该去吗?紧急程度应该是什么?你可能能够做什么?这在今天是可以实现的。

这再次是一种形式,一旦有了它,它就给了我们一种超级代理的形式。我认为,这属于那些真正触手可及的事情。这只是我们如何构建它、如何驾驭监管系统、如何驾驭责任系统的问题。但这是一种对每个人都有益的事情。显然,

即使在美国,也有很多人没有保险。在世界各地,每小时只需少量资金就可以运行。这种事情就是我所希望我们能够达到的更人性化的未来。

我也很期待看到它的发展。您提到了深度推理模型,最近发布的大型语言模型的推理模型,这是最近人工智能领域的主要发展之一。当然,推理只是对这些模型所做工作的部分准确描述,它们会多走几步,在回答我们的问题时更像学者,而不是仅仅提供预测文本。

当然,最近最令人兴奋和恐慌的是这些推理模型的中国版本DeepSeek。您对,当然,股市对此做出了反应,这在硅谷、技术人员和政治家之间引起了很多关于所谓的AI军备竞赛的反应。您对中国所做的事情有什么看法?

嗯,围绕这种事情的很多说法都导致了一系列不完整的说法。比如,首先,他们几乎肯定使用了大型模型,这需要大规模计算等等才能实现,无论是GPT-4、LAMA还是某种组合等等。其次,当我咨询过多个不同公司的专家后,他们也很可能可以使用大型计算集群。

因此,这种说法完全是廉价的,实际上,为了实现这一点,需要所有这些巨大的开支。话虽如此,我并不想低估一些成就领域的价值。比如,我认为需求是发明之母。

我认为他们发现了一些操作效率,通过开源,所有美国和其他人工智能实验室也学习了这些东西。我认为这是一个伟大的发明,将其带入一般的行业实践。我认为这真正说明了我和其他人在过去几年里一直在说的事情,那就是这场认知工业革命

实际上,你知道的,某种程度上,一场竞争正在进行中,以发展这些技术。

中国人和其他国家,我认为中国人的努力表明,其他人也可以参与其中,欧洲人、其他人,因为如果你正在通过从大型模型(如ChatGPT)中提取信息并利用Meta的Llama等开源技术来进行工作,我认为这些都是你可以从中构建事物的地方,

这些事物是独特的,并且是这些开放模型的附加价值。现在,一部分,我认为你必须小心,这经常被讨论为开源与开放权重。为了稍微专业一点,例如,开源是对代码和所有流程如何工作的描述。开放权重只是,它本身就是人工制品,就像这里的计算机程序是如何运行的。

一般来说,开源总是非常好的,因为你可以检查安全性,你可以迭代它。开放权重只是向所有人提供程序。从某种意义上说,这对学术界、初创企业和企业家来说非常好。另一方面,你必须注意流氓国家、恐怖分子和罪犯。所以你必须小心这些东西。所以我们必须以聪明的方式来应对这个问题。

但我认为,部分你将会看到的是,随着各种小型模型广泛可用,这就是我们如何实现认知工业革命,我所说的部分内容是在几年内,

每个专业人士,你,Bina,我等等,当我们部署我们的工作时,我们将至少有一个,可能多个,副驾驶来帮助我们完成我们正在做的事情。我认为小型模型的这场革命的一部分将是如此。我认为DeepSeek方面表明,其他参与者,不仅仅是美国,

将参与开发和部署它们。所以我们正处于一种构建未来的状态,某种程度上存在竞争。我认为这是我们必须全力以赴的事情之一。

作为美国人,因为我希望人工智能不仅仅是智能放大器,而且是美国智慧,融入我们关于个人权利和社会秩序等一些价值观。我认为DeepSeek已经让这一切都受到了关注。

所以埃里克·施密特最近在《华盛顿邮报》上发表了一篇评论文章,他在文章中对OpenAI和其他美国支持的公司使用的更封闭的系统提出了质疑。当然,你是OpenAI和GPT系统的主要支持者。他提出了一个问题,即DeepSeek(由中国人使用)使用的更开源、更开放权重的模型是否是一个更好的创新模型。你对此有什么看法?

嗯,我认为从根本上说,你想要两者兼顾。我认为,继续构建这些非常大型的模型(你知道,OpenAI、微软、谷歌、亚马逊都发布了公告,都在构建)很重要的一部分原因是,这些模型实际上可以帮助构建真正强大的小型模型,除此之外,还可以解决更高级、更具挑战性的问题。

另一方面,这并不意味着开源不是一件好事。我在Mozilla董事会工作了11年。在LinkedIn,我们开源了许多项目,其中一些项目已经成为上市公司。所以这并不是封闭还是开放的问题,而是不同的混合比例。当你有这些开放的项目时,它们可以被构建和放大。现在,

一般来说,当它是开源的时候,修改可以回到公共存储库,创造一种数字公共资源的胜利,这是我们在《超级代理》和其他语境中谈论的事情之一,但也让它更安全、更容易调查。开放权重则棘手一些。这意味着技术更加分散,

但初创公司所做的工作不一定会被重新贡献。学术界本质上会以各种方式重新贡献。

但这些开放权重的模型就像软件应用程序一样,不容易理解,所以我认为在你的工作中拥有开放的程序是一件好事,但我认为专有的规模化事物也非常好,我认为其中一件事情是,这是美国超大规模公司具有一些强大优势的领域之一。我认为《芯片法案》的明智之处在于,

它并没有阻止中国采取行动,但它有助于保持一定的领先优势,为我们的公司保持一定的领先优势。我认为这在认知工业革命的形状方面将非常重要,这可能会设定标准,成为世界各地平台的基础技术。

所以我们一直在讨论人工智能的一些令人兴奋的好处,但几周前我与Demis Hassabis(谷歌DeepMind的创始人,前DeepMind,人工智能领域的先驱之一)进行了交谈,他一直在呼吁进行监管,并积极参与许多全球论坛,以

探讨可能需要对不良行为者以各种方式使用人工智能造成的损害以及超级智能(超过人类智能的智能)的最终结果进行哪些监管,以及应该对这些方面设置哪些防护措施。考虑到您充分了解您提出的不要过度监管人工智能的论点,以便我们不会失去这些好处,您认为理想的监管措施是什么,以防止人工智能的一些有害影响?

嗯,我认为你需要三个部分。一部分是,哪些事情显然会非常糟糕,我们必须提前预防?其中一些事情是我之前提到的,那就是,我们不想让流氓国家、恐怖分子和罪犯获得权力。关于像,

如果恐怖分子正在寻找各种方法来大规模破坏社会,我们如何确保他们不会被人工智能代理和由此产生的超级能力副驾驶过度赋能?我认为你想说,好吧,我们想要像行政命令那样,即红队、安全计划、分析,政府可以询问这些事情。然后我认为你需要做的下一件事是说,好吧,

如果我们担心超级智能,我们应该在哪些领域进行研究?也就是说,我们如何监控它是否处于大规模自我改进的曲线中,它是否正在重新编程自身或其他事情,并确保这种安全措施在这个过程中得到很好的权衡?我的意思是,我认为

美国、英国、法国等等安全机构正在研究这个问题,并确保在西方世界中构建这些东西的领导者正在进行权衡,并说,如果这样的话,你知道的,我们如何才能保持它与人类利益一致?我们如何才能保持,你知道的,正确的控制措施?

我认为,再次,它是轻量级的和强硬的。然后下一件事是,我们监控什么,而不是想象所有可能出错的事情?我们监控什么才能看到需要纠正的早期迹象?然后对仪表盘进行监控。

这就像让公司与政府、记者和其他人士进行对话,说,嘿,这些事情是什么?你注意到了吗?你在做这个吗?

你知道,安全对齐和训练?你在安全方面有哪些指标?你对它的运行方式承担哪些责任?所以不仅仅是说,嘿,我们需要正式批准。为了让你了解这已经如何阻碍了发展,我实际上知道一些公司,

正在向欧洲运送质量更差的人工智能底层产品,因为欧洲说你必须经过几个月的测试才能发布。所以他们会说,好吧,我们会在美国发布。顺便说一句,产品运行得非常好。从字面上看,在我认识的公司中,没有任何投诉,它只是一个高质量的产品。但质量最差的产品实际上是运往

欧洲的,因为这种说法,哦,你必须在发布任何东西之前请求任何许可。这就是阻止我们在每个人口袋里获得医疗助手的原因。顺便说一句,这也有着人为的代价。

如果你说,嘿,今天我们可以让每个人口袋里都配备一个高质量的全科医生医疗助手,想想能够发现可能非常危险的疾病或伤害并能够采取措施,能够在医疗系统中更具成本效益,能够回答这些问题,比如,好吧,你

你知道,我真的很紧张。我不知道该怎么办,你知道,如何做所有这些。所以我认为这就是为什么我们在《超级代理》中主张更轻量级的监管是正确的做法。正如您从阅读本书中了解到的那样,我们将自己描述为开拓者而不是冲浪者,您希望与风险和相关内容进行对话,并与监管进行对话。我不是说没有监管。只是说,加速走向未来,但要明智地驾驭。

所以,Reid,我碰巧注意到你在总统特朗普就职典礼那天没有站在他身后。显然,你的一些科技行业领导人站在那里。当然,我有点开玩笑。我知道你是民主党的主要支持者,也是卡玛拉·哈里斯总统竞选的主要支持者。你现在对这个国家有什么感觉?

嗯,我的意思是,我们已经过去了几个星期,我认为正确的观点是,

每个公民,包括我自己的责任,是如何尽可能地帮助改善美国?这就是为什么在纽约成立Manas(一家公司)并建设未来非常重要的部分原因。如果你抽象一下,就职典礼周围显然有很多负面言论,但你会说,美国总统和美国政府应该与科技行业进行对话吗?我认为这至关重要。我认为这非常重要。

你知道的,显然有很多事情让我感到沮丧,无论是对1月6日事件的全面谴责,还是,你知道的,像,你知道的,像我们的一些密友和盟友,比如加拿大和其他国家,你知道的,像,这,这,最好是进行对话和合作。嗯,

但尽管如此,我认为作为公民,重要的是我们如何基本上说,这就是我们的现状,我们如何为美国社会、美国公民和美国产业做出贡献?所以这就是我一直在关注的大部分事情。

所以,我一直都在关注你的副标题,“我们的AI未来可能有什么好事发生?”,并且在过去几天里一直在思考这个问题。

我想知道,在我们的国家历史上,我们什么时候使用过这个框架来推动进步?当然,最自然的例子是登月计划,约翰·肯尼迪说,让我们把一个人送上月球。然后在10年内,这件事就发生了。你还引用了哪些历史例子或当前例子来表明这个框架实际上是可以自我实现的,如果你想象一下可能有什么好事发生,你实际上就可以做到?

嗯,这最终是我们所取得的所有技术进步,即使是通过转型。Bina,你可能见过也可能没见过,我们实际上发布了一个视频,对比了

肯尼迪总统的登月计划和Manas以及我们在癌症发现方面的工作,因为我们非常喜欢这个例子。——好的,我还没看过,所以我会去看一下。——是的,我们想激励人们,嘿,这就是你将要达到的未来。这可以是任何事情,例如,电气化驱动,

对于城市和社会来说,因为想想看,如果没有电网,什么也无法运作。你已经看到这些事情在建设铁路和高速公路方面,

而且,你知道,有点像为汽车建造城市。我的意思是,所有这些事情都像是,哦,我能看出这个未来是如何运作的。让我们朝着那个方向努力。因为你不会仅仅通过消除所有你不想拥有的未来而得到你想要的未来。这是一个非常长的清单,而那只是一堆负面的东西。你得到它是因为你正在构建一个

可以更人性化。这就是为什么我说,超级机构不仅是为那些可能害怕人工智能、怀疑人工智能、对人工智能不确定的人写的,让他们对人工智能产生好奇,也是为了让技术人员说,看,什么

人们的担忧,无论是工作转型还是其他事情,都是他们担心人类的能动性,无论是他们自己还是社会。因此,将人的能动性作为设计重点。我们所开发的所有技术

基本上,你知道,一直发展到,你知道,农业和第一个村庄,你知道,印刷机和,和,你知道,汽车和飞机,所有这些都达到了,嘿,我们正在努力实现这一目标。有一些我们可以完成的事情。如果我们完成了,

我们赋予社会和其中的个人超级能力和超级能动性。所以我认为历史上充满了这样的例子。现在,登月计划,

就是一个由,你知道,政府主导的例子。我认为很多时候人们没有意识到的是,这些转型往往是由行业主导的,比如智能手机等等。而且,这,这,这有很多优点。这并不意味着我们不需要许多不同类型的观点和参与,包括一些监管,但是通过,你知道,部署到数亿人手中,它,

你实际上确实得到了一种非常包容的过程。例如,人们会说,人工智能会歧视性地使富人受益而不是穷人吗?就像,看看iPhone就是一个例子。你的Uber或Lyft司机和蒂姆·库克拥有相同的iPhone。

因此,当你构建这个大众市场时,你就会拥有这种包容性。我认为这是我们希望在人工智能和我们的认知工业革命中广泛发生的事情之一。

里德,非常感谢你。有人告诉我我们的时间不多了,但我们对这些观点的好奇心肯定没有消失。愿你的乐观主义能够为了我们所有人的利益而实现自我实现。非常感谢。感谢收听。有关我们即将推出的节目的更多信息,请访问WashingtonPostLive.com。

情人节即将到来,你不想发现自己拿着一盒心形巧克力吧?为什么不选择一个较小的盒子,里面装着来自Jared Jewelers的心形蓝宝石吊坠项链呢?现在就选购Jared,为您的情人挑选精选钻石时尚首饰和意大利黄金首饰。毕竟,生活可能就像一盒巧克力,但爱情就像一个印有Jared Jewelers标志的盒子。在这个情人节,成为那个去Jared的人。

现在精选时尚首饰享受40% 的折扣。访问jared.com/radio了解详情。