We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode Ep17. Welcome Jensen Huang | BG2 w/ Bill Gurley & Brad Gerstner

Ep17. Welcome Jensen Huang | BG2 w/ Bill Gurley & Brad Gerstner

2024/10/13
logo of podcast BG2Pod with Brad Gerstner and Bill Gurley

BG2Pod with Brad Gerstner and Bill Gurley

AI Deep Dive AI Chapters Transcript
People
J
Jensen Huang
领导NVIDIA从创立到成为全球加速计算领先公司的CEO和联合创始人。
Topics
Jensen Huang: 阐述了AI的快速发展,特别是过去两年中以ChatGPT为代表的生成式AI的爆发式增长。他认为,英伟达通过降低计算成本(降低了10万倍),推动了AI的快速发展,并从人工编程转向机器学习。英伟达的竞争优势不仅在于芯片性能,更在于构建了从GPU到软件的完整技术栈,并持续改进整个机器学习的飞轮效应,加速每个步骤,从而显著缩短周期时间并提升学习速度。他还谈到了推理在AI发展中的重要性,以及英伟达如何通过持续改进算法和架构来提升推理性能。他认为,未来计算将高度依赖机器学习,英伟达正在重塑计算方式,构建一个适用于机器学习和生成式AI的计算平台,并将其整合到各个云平台和边缘设备中。英伟达的目标是构建一个无处不在的AI平台,而不是争夺市场份额,而是创造新的市场。他认为,对英伟达产品的需求强劲,不会像2000年的思科那样出现供过于求的情况,并从多个角度论证了这一点。他还谈到了OpenAI的重要性,以及AI对各行各业的影响,认为AI正在改变每个人的工作方式,并有潜力显著提高人类生产力。最后,他还谈到了AI安全发展的重要性,以及开源和闭源模型可以共存,并共同促进AI安全发展。 Brad Gerstner & Clark Tang: 主要就Jensen Huang的观点进行提问和探讨,例如英伟达的竞争优势、AI模型的未来、OpenAI的影响、以及AI安全发展等问题。他们也表达了对AI未来发展趋势的看法,并与Jensen Huang就相关问题进行了深入的交流。

Deep Dive

Chapters
Discusses the concept of AGI as a personal assistant and predicts its arrival.
  • AGI is envisioned as a personal assistant.
  • A useful, though imperfect, version will be available soon.
  • The assistant will improve over time.

Shownotes Transcript

他们所取得的成就非常独特,前所未有。仅从角度来看,一百万个GPS,你知道,很容易成为地球上最快的超级计算机,作为一个集群。嗯,一个超级计算机,你通常需要三年时间来规划,然后他们交付设备,这需要一年时间才能让所有东西都运行起来。是的,我们谈论的是19天。

珍妮,你的眼镜很漂亮。

是的,你也是。

很高兴能和你在一起。

是的,我戴着我的丑眼镜。

你更喜欢红色的吗?

有些东西只有……

你的家人才能爱。好吧,今天是10月4日星期五,英伟达总部就在我们附近。谢谢。

谢谢。我们周一有投资者会议。或者,任何投资者会议,我们将讨论人工智能的所有后果,我们如何快速地扩展智能。我找不到比这更好的方式来启动新的……是的,作为股东,作为思想伙伴,来回抛出想法。你真的让我们变得更聪明,我们非常感谢这些友谊。

所以,感谢你的到来。

很高兴能来。你知道,今年的主题是将智能扩展到AGI。当我们两年前进行这项工作时,我们讨论的是人工智能的时代,那是在ChatGPT发布的两个月前。

想想所有这些变化。所以我认为我们可以用一个思想实验,也许是一个预测来启动它。如果我口语化地将AGI视为我口袋里的个人助理。如果我想到的是一个完美的记忆,它知道我的一切,它知道我的一切……那是一个完美的关于我的记忆。他们可以与我沟通,他们可以帮我预订酒店,或者帮我预约医生。当你看到当今世界变化的雷达图时,你认为我们什么时候会在口袋里拥有这样的个人助理?

很快就会以某种形式出现,是的,很快就会以某种形式出现,而且随着时间的推移,那个助手会变得更好。这是我们所了解的技术的美丽之处。所以,我认为一开始它会非常有用,但并不完美。然后,随着时间的推移,它会变得越来越完美,就像所有技术一样。

当我们看到变化的速度时,我认为埃隆说过,唯一真正重要的是变化的速度。当然,我们感觉变化的速度已经急剧加快,这是我们见过的变化速度最快的一次。因为我们已经围绕人工智能的边缘转了十年了,你甚至更久。这是你职业生涯中见过的变化速度最快的一次吗?

这是因为我们重新发明了计算。你知道,很多事情之所以发生,是因为我们在十年内将计算的边际成本降低了十万倍。摩尔定律大约会降低一百倍,而我们做到了这一点。

我们在几个方面做到了这一点。首先,我们引入了加速计算,将那些在CPU上效率不高的东西放在GPU上。我们通过发明新的数值精度来做到这一点。

我们通过新的架构来做到这一点,发明了张量核心,系统是如何构成的,以及V-Link,增加了疯狂的、极快的内存HBM,以及通过m-bic和invite-ban扩展事物,并在整个堆栈中工作,对吧?基本上,我描述的所有关于英伟达的事情都导致了摩尔定律速度的创新。现在真正令人惊叹的是,其结果是,我们从人类编程转变为机器学习。

而机器学习的惊人之处在于,机器学习可以非常快地学习,事实证明。所以,当我们重新定义计算的分配方式时,我们做了很多并行化,各种并行化,张量并行化,流水线并行化,各种并行化。而且,呃,我们擅长发明新的算法,以及新的训练方法,所有这些发明都在相互叠加,对吧?在旧时代,如果你看看摩尔定律是如何运作的,那么静态的想法就是,它被重新编译,缩小,放入存储器中,它是静态的,而底层硬件以摩尔定律的速度增长。

现在,我们拥有整个堆栈都在增长,对吧,在整个堆栈中进行创新。所以,我认为现在所有这些看到的扩展都是非凡的,当然,但是我们过去谈论过重新训练模型和扩展到那个水平。我们如何将模型大小加倍,因此相应地将数据大小加倍。

因此,所需的计算能力正在以每年四倍的速度增加。这是一件大事,对吧?但是现在我们看到的是训练后扩展,我们看到的是推理扩展。

对吧?所以人们过去认为预训练很困难,推理很容易。现在,所有事情都很困难,这有点合情合理。

你知道,认为所有人类思维都是一次性的想法有点荒谬。所以一定有快速思考和慢速思考的概念,推理、反思、迭代、模拟等等。现在它来了,是的。

我认为,就这一点而言,人们对英伟达的真正误解之一是英伟达模式的深度,对吧?我认为人们有一种想法,你知道,只要有人发明了一种新的芯片,更好的芯片,他们就赢了。

但事实是,你过去十年一直在构建整个堆栈,从GPU到CPU到下一代工作,特别是软件和库,这些库使应用程序能够在英伟达上运行。所以,我认为你谈到了这一点。但是,当你想到今天的英伟达模式时,你认为今天的英伟达模式是比三到四年前更大还是更小?

嗯,我很感激你认识到计算是如何变化的。事实上,人们认为,许多人仍然认为,你设计了一个更好的芯片,它有更多的浮点运算,有更多的浮点运算、比特和字节。你疯狂地,是的,你看到幻灯片上的关键内容,上面有所有这些浮点运算,并且有条形图等等,这些都很好。

我的意思是,看,马力确实很重要,是的。所以这些东西从根本上来说确实很重要。然而,不幸的是,所有思考都是这样的,软件就像在Windows上运行的某个应用程序,软件是静态的,这意味着改进系统的最佳方式就是制造更快的芯片。

但是我们意识到,机器学习不是人类编程。机器学习不仅仅是关于软件。它关乎整个数据管道。事实上,机器学习的飞轮是最重要的东西。所以,你如何思考一方面启用这个飞轮,另一方面让数据科学家和研究人员在飞轮中富有成效?这个飞轮从一开始就开始了,很多人甚至没有意识到,需要人工智能来整理数据,来教人工智能,而仅仅人工智能本身就是具有竞争力的。

是的,它本身也在改进,也在加速。你知道,当我们考虑竞争优势时,是的,对吧,它与……

所有这些,以及我将要引导到这一点,因为更聪明的人工智能来整理数据。我们知道,我们甚至有合成数据生成,以及各种创建数据、呈现数据的方法。所以,甚至在训练之前,你就有大量的涉及数据处理。所以,人们会想,“哦,PyTorch,这是世界开始的地方。”这非常重要。

我不会忘记,在PyTorch之前,有多少工作,在PyTorch之后有多少工作,而飞轮的重点在于你如何思考,我如何思考整个飞轮?我如何设计一个计算系统、一个计算架构,帮助你让飞轮尽可能高效?它不是一个应用程序训练的单一尺寸。

这有意义吗?这是第一步。是的,好的。飞轮上的每一步都很困难。所以,你应该做的第一件事,而不是思考如何让Excel更快,如何让Doom更快?我有点像旧时代。

对吧?现在你必须思考如何让这个飞轮更快?这个飞轮有很多不同的步骤。正如你们所知,机器学习没有什么容易的。

关于英伟达或X或DeepMind所做的事情,没有什么容易的。我的意思是,他们所做的事情没有什么容易的。

所以,我们决定,这实际上是你可能正在思考的事情。这是你想要实现的整个过程。你想加速它的每一个部分,你想尊重摩尔定律,你想……

摩尔定律会建议,如果当时是30%,而我将其加速了三倍,那么我并没有真正将整个过程加速那么多,这没有意义。你真正想要的是创建一个系统,它在该过程的每一步都是如此,因为只有这样才能真正显著地改进该循环时间。而飞轮,学习速度最终导致指数增长。

所以,我想说的是,公司对你在做什么的看法会体现在产品中。请注意,我一直谈论这个飞轮。对,是的。

我们现在正在加速所有事情。现在,英伟达的重点是……很多人关注物理人工智能和视频处理。

想象一下前端,进入系统的每秒数兆字节的数据。给我一个管道示例,它将调整所有这些数据,首先为训练做好准备?是的。所以,所有这些都是很好的耗尽。

而人们现在只关注文本模型。是的。但是未来是视频模型,以及使用一些文本模型,在……之前真正处理大量数据。

是的,是的。语言模型将参与到所有事情中。

我们花了巨大的技术和努力来训练语言模型,来训练这些大型语言模型。现在,我们在其他所有事情中都使用大型语言模型,每一步都是如此。这非常了不起。

我不是想过于简化……但是,你知道,我们经常从投资者那里听到……是的。

机器人,客户呢?是的。但是他们的竞争模式将被它所穿透。我听到你说的是,在一个组合系统中,优势会随着时间的推移而增长。所以,我听到你说,我们今天的优势比三到四年前更大,因为我们正在改进每个组件,这是一种组合。当你考虑例如,作为商业案例研究,在堆栈中拥有主导模式、主导地位的公司,相对于你今天所处的位置,也许再次简化一点,将你的竞争优势与他们在其周期高峰时拥有的竞争优势进行比较和对比。

英特尔非常了不起。嗯,英特尔非常了不起,因为他们可能是第一家在制造、流程工程和制造方面非常擅长,以及在制造之上的一点,即构建芯片,设计芯片和架构芯片,在x86架构中,构建越来越快的x86芯片,这就是他们的辉煌之处,他们将制造与之结合起来。

嗯,我们的公司有点不同,我们认识到这一点,事实上,并行处理不需要每个晶体管都优秀。串行处理需要每个晶体管都优秀。并行处理需要大量晶体管,或者更具成本效益。

我宁愿有十倍的晶体管,比十倍的晶体管慢20%,比20%快,这有意义吗?他们想要相反的。所以,单线程性能和单线程处理以及并行处理非常不同。

所以,我们观察到,事实上,我们的世界。这不仅仅是变得更好。我们希望尽可能好,但我们的世界实际上是关于向上变得更好。

并行计算、并行处理很困难,因为每个算法都需要不同的工厂和架构,算法需要架构。人们没有意识到的是,你可以有三个不同的CPU,它们都有自己的编译器。你可以将软件编译到……这在并行计算机中是不可能的,公司必须提出自己的开放式规范。

所以,我们通过名为qDNN的特定领域库来彻底改变深度学习。如果没有qDNN,没有人会谈论qDNN,因为它位于PyTorch和TensorFlow之下,在旧时代,咖啡和钢琴,现在尝试……有很多不同的……所以,这个特定领域的库qDNN,一个名为Optics的特定领域库,我们有一个名为QQ Antm Rapids的特定领域库,特定领域算法的列表位于……每个人都关注的PyTorch层,我听说过很多次。嗯,你知道,l-ms。

我做了,如果我们没有发明它,那么堆栈上的任何应用程序都无法工作,你猜到他在说什么,所以英伟达真正擅长的是算法融合,在架构之上融合科学。这就是我们真正擅长的。

现在所有注意力都集中在推理上,最终……但是我记得两年前,在和你们共进晚餐时,我们问过你,你认为你的模式在推理方面是否像在训练中一样强大?我……

不确定,我说我会……

是的,是的,你刚刚触及了很多这些元素。只是知道艺术之间的组合顺序。我们不知道在某个时候将所有内容组合到客户中非常重要,能够在……之间灵活,因为你刚刚触及了,你知道,现在我们处于推理时代。

如果推理扩展到训练的规模,那么推理就是训练。我让你对吧?所以,如果你训练得很好,你很可能推理得很好,如果你在没有考虑任何架构的情况下构建在该架构上,它将在该架构上运行,好的。

你仍然可以优化其他架构。但至少,由于它已经构建在英伟达上,它将在英伟达上运行。当然,另一个方面只是资本投资方面,当你训练新模型时,你希望使用最好的新设备进行训练,这会留下你昨天使用的设备,而这些设备非常适合推理。

所以,有一个免费设备的轨迹,在新的基础设施后面有一个免费基础设施的轨迹,它兼容。所以,我们非常注重确保兼容性,以便我们留下的所有东西都能继续出色。

我们还投入大量精力持续改进新算法,以便当时间到来时,硬件架构比他们购买时好两到三到四倍。所以,基础设施继续非常有效。所以,我们所做的所有工作都是改进新算法和新框架。

请注意,这有助于我们拥有的每个安装基础。硬件对它来说更好,对它来说更好,甚至对它来说更好。我认为萨姆刚刚告诉我,他们最近刚刚拆除了他们拥有的Volta基础设施。

所以,我认为……我们留下了一条安装基础的轨迹,就像所有计算安装基础一样重要,在英伟达、每个云、本地以及一直到边缘。所以,在云中创建的Volta视觉语言模型在机器人上完美运行,无需修改,所有这些都是兼容的。所以,我认为这种架构兼容性对于大型……与iPhone或任何其他事物没有区别。

我认为安装基础对于推理非常重要。但真正让我们受益的是,我们正在训练这些大型语言模型,使用它的新架构,我们能够思考如何创建架构,以便在将来能够进行推理。所以,我们一直在思考迭代模型,推理模型,以及如何创建非常、非常……交互式的推理体验,以供你的个人代理使用。

你不想说一些我必须停下来思考你想要与之交互的事情。所以,我们如何创建这样的东西?从它中产生的就是M-Link,对吧?你知道,M-Link,这样我们就可以使用那些非常适合训练的系统。

嗯,但是当你完成影响力表现时,效果非常出色。所以你想,你想选择购买这个时间的第一代代币。而时间到第一代代币实际上非常难以做到,因为时间到第一代代币需要大量的带宽。

但是,如果你的上下文也很丰富,那么嗯,你需要大量的浮点运算。所以你需要大量的浮点运算和大量的带宽同时进行,才能实现几毫秒的响应时间。所以这种架构真的很难做到。而我们发明了Grace黑墙和Be Ink来实现这一点,对吧?在...

精神时间。我对这个问题有更多的问题。

但是,不用担心时间。嘿,伙计们,听着,基因,听着,让我们做。让我们一直做到那里。

你,我爱你,我爱你,所以你知道,我上周和A N ji r和Andy Jasa一起吃过晚饭,Andy说,你知道,我们有转型,呃,你知道,即将到来,我想大多数人再次认为这是一个视频问题。但在下一口气中,他说,视频对我们来说是一个非常重要的合作伙伴,并将继续成为我们非常重要的合作伙伴。就我所能看到的未来而言。

世界运行在视频上,对吧?所以当你想到正在构建的定制ASIC,它们将针对特定应用,也许是推理加速器IT遇到了,也许你知道亚马逊、谷歌TPU的传统。然后你再想想你今天面临的供应短缺问题。嗯,这些事情中的任何一项都会改变这种动态,对吗?或者它们对系统(他们都在从你这里购买)的补充?

我们只是在做不同的事情,是的。嗯,呃,我们试图完成不同的事情。知道视频试图做的是建立一个计算平台,用于这个新世界,这个机器学习世界,这个生成AI世界,这个AGI世界,我们试图创造的,你知道,就像你所知道的,非常深刻,在60年的计算之后,我们重新发明了整个计算堆栈。

从编程到机器学习,你编写软件的方式;从CPU到GPU,你处理软件的方式;从软件到人工智能,应用的方式,对吧?所以呃,软件工具,人工智能。所以计算堆栈和技术堆栈的每个方面都发生了变化。

而我们想做的是创建一个随处可用的计算平台。这真的是我们所做事情的复杂性。复杂性。

如果你想想我们所做的事情,我们正在构建一个完整的AI基础设施,我们认为,正如我之前所说,数据中心现在对我来说是计算单元。当我想到计算机,当我想到芯片时,我想到的是这个东西。这是我的思维模型,以及所有软件和所有协调、所有机器都在里面,这就是我的计算机。

我们每年都试图构建一个新的。是的,这太疯狂了。以前没有人做过。

我们每年都试图构建一个全新的。每年,我们都能提供两到三倍的性能。因此,每年,我们都能将成本降低两到三倍。

每年,我们都能将能效提高两到三倍,对吧?所以我们要求客户不要一次购买所有东西,每年购买一点。原因是,我们希望他们将成本平均到未来,所有架构都是兼容的。

好的。现在,仅仅构建我们正在做的事情就非常困难。现在,更难的部分是,我们采取所有这些。

而不是将IT作为基础设施出售,我们将其作为服务出售。我们只是将所有IT整合在一起,并将其整合到GCP、AWS、Azure和X中,我们没有整合到X中,这没有意义。所以每个人的整合方式都不一样。

我们必须获得我们所有的架构、库、所有算法和所有框架,并将其整合到他们的系统中。我们将我们的安全系统整合到他们的系统中。我们将我们的网络整合到他们的系统中,这才是正确的。我们基本上做了十次整合,我们每年都这样做。现在,这真是奇迹。

这真是奇迹。我的意思是,这太疯狂了。你试图每年做IT相关的事情?你知道,我刚从台北、韩国和日本回来,与你合作了十多年的供应商会面,这些关系对再次建立共同的IT竞争模式有多重要?

是的,当你系统地分解IT时,你们分解得越多,每个人分解得越多,就越惊讶,是的。以及如何可能的是,当今整个电子生态系统都致力于与我们合作,最终构建一个集成到所有这些不同生态系统中的计算机立方体,协调如此流畅。所以显然有API、方法论、业务流程和设计规则,我们向后传播,以及我们向前传播的方法论、架构和应用程序,这些方法论和架构和应用程序已经经过数十年的验证。

数十年来一直很困难。

数十年来一直很困难,是的,而且随着我们的发展而不断发展。但是当需要的时候,这些应用程序必须结合在一起。台湾各地,世界各地,在亚洲某个地方拥有数据中心的制造商,他们将聚集在一起,点击一下。

有人只是打电话给他们,呃。

打开IAP,我,我,它只是工作。没错,是的。

正是这种紧凑的基础设施计算。整个计划是与我们合作进行IT整合。它集成到任何地方。

它通过戴尔销售。你可以通过惠普销售。E。

它托管在云端。它是一种,它在边缘处。人们在机器人系统中使用IT。

现在,机器人,你知道,人类机器人,它们在自动驾驶汽车中。它们在架构上是兼容的。相当疯狂。

疯狂。

我不想留下我没有回答问题的印象。事实上,我的意思是,当我们谈论比赛时,我们只是在做不同的事情,是的。嗯,作为一家公司,作为一家公司,我们希望能够对周围的情况保持警觉,我对我们公司和生态系统周围的一切都非常了解。

对,我对所有从事替代事物的人以及他们正在做的事情都非常了解,有时是阿凡达,有时是九。我对IT非常了解,但这不会改变公司的目的。是的,公司的唯一目的是建立一个可以在任何地方使用的架构平台。

这是我们的目标。我们不试图从任何视频公司那里夺走任何份额,我们是一个市场创造者,而不是一个市场掠夺者。如果你看看我们的公司幻灯片,我们不会一天到晚谈论市场份额,不会在内部谈论。

嗯,我们谈论的是如何创造下一件事?我们可以解决的下一个问题是什么?我们如何更好地为人们服务?嗯,我们如何让曾经需要一年时间才能完成的飞轮更快?

我们如何将IT缩短到大约一个月?你知道,它的速度是多少?对吧?所以我们正在考虑所有这些不同的事情。

但有一件事,我们不是,我们对所有事情都非常了解,但我们确信我们的使命非常单一。唯一的问题是这项任务是否必要,这没有意义,你知道。所有伟大的公司,我都有这样的核心,它与你正在做什么有关。

唯一的问题是它是否必要,是否有价值,是否是一个影响因素。它对人们有帮助吗?而我确信你是一位开发人员,你的创业公司,你即将决定如何成为一家公司。

你不需要做出的一个选择是,我支持哪一个?如果你只支持一个,你知道,你可以去任何地方。你随时可以改变主意。

但是我们是否在向世界的眼睛展示?对吧?一旦你决定加入我们的平台,你就可以做出其他不同的决定。你总是可以稍后构建你自己的基础,你知道,或者不反对它,我们不会阻止你购买它。

嗯,当我们与嗯,GCP合作时,呃,GCP,当我们向他们展示几年后的路线图时,他们不会向我们展示他们的基本世界地图,而IT永远不会冒犯我们,这没有意义。我们创造了一个地方,如果你有一个灵魂目标,你的目标是有意义的,你的使命对你和你周围的人来说都很重要,那么你就可以做到透明。请注意,我的GCP路线图是透明的。我的路线图深入到我们Azure和AWS以及其他朋友那里。嗯,即使他们是一家数十亿美元的公司,我们也没有问题。

我认为,你知道,当人们观察业务时,你最近说过,对Blackwell的需求是疯狂的。你说你工作中最困难的部分之一是拒绝在这个计算机短缺的世界里的人,但批评者说这只是暂时的,对吧?他们说这就像思科。

2000年,他们过度建设了光纤。这将是繁荣和萧条。你知道,我想到2023年1月,我们在晚餐时讨论了视频,当时预测你2023年的收入将达到260亿美元。你做了600亿美元,对吧?20...

5个人只是知道这是世界上有史以来最糟糕的预测。

我们至少可以...

对我来说。

这就是我的收获。

以及,以及,我们2022年11月非常兴奋,因为我们有像大多数来自影响力的人和来自性格的人来到我们的办公室,谈论投资他们的公司。他们说,嗯,你不能投资我们的公司,而要购买视频,因为全世界都在努力获得视频芯片来构建这些将改变世界的新应用。

当然,随着ChatGPT的出现,出现了剑桥时刻。尽管如此,这25位分析师仍然专注于GPT的胜利,他们无法理解世界正在发生的事情。好的,所以IT最终变得更大,你用非常简单的英语说,对Blackwell的需求是疯狂的。

嗯,这将持续到你所知道的未来。当然,未来是未知的,不可知的。但是为什么批评者会如此错误地认为这不会像2000年那样过度建设?是的。

嗯,思考未来的最好方法是从第一性原理来思考IT,好的,所以问题是什么是我们的第一性原理?第一,我们在做什么?

嗯,我们正在做的事情是,我们正在重新发明计算,我们不是,我们刚刚说过,计算的未来将高度依赖机器学习。是的,高度依赖机器学习。好的,我们几乎所有的事情,几乎每个应用程序,Word、Excel、PowerPoint、Photoshop Premier,你,你给我你最喜欢的应用程序,它都是手工设计的。

我保证,未来的工具将高度依赖机器学习,对吧?所以所有这些工具都会。而且,你将拥有帮助你使用它们的机器、代理。

好的?所以我们现在知道这一点。对吧?我们正在重新发明计算。

我们不会回头。整个计算机技术堆栈都已发明。好的?

所以现在我们已经完成了,我们说过软件将不同。软件可以编写的内容将不同。我们使用软件的方式将不同。

所以现在让我们承认,尽管这些是我的基本事实。现在,是的。现在的问题是,接下来会发生什么。

所以让我们回到过去,看看过去是如何计算的。所以我们有数万亿个知识,以及过去计算机的知识。我们看看,打开门。看看数据中心。

你看看,你想让这些计算机在未来做这些事情吗?答案是否定的,对吧?你看到那里所有的CPU。我们知道我们可以做什么,以及我们能够做什么。我们知道我们有数万亿美元的数据中心需要现代化。所以,现在,在我们说话的时候,如果我们未来四五年内要现代化这些旧东西,那不是不合理的。所以你正在进行...

与必须进行现代化的人进行这些对话,他们正在用GPT进行现代化。

好吧,让我们再做一次测试。你有500亿美元的资本支出。你喜欢选择A,选择B,为未来构建资本支出,还是像过去一样构建资本支出?不,嗯,你已经拥有过去的资本支出,它就在那里。

它不会变得更好,而且大部分已经结束。所以为什么要重建它?我们只需将500亿美元投入到一般用途中。对吧?所以现在你的公司变得更好,对吧?

你会把这500亿美元中的多少投入到其中?我会投入500亿美元的100%,因为我已经拥有四年的基础设施。这是过去的。所以现在,你只是从第一性原理的角度思考,这就是他们正在做的事情。聪明的人正在做聪明的事情。

现在,第二部分是,所以我们有数万亿个可以用来计费的端口,对吧?数万亿个端口,我们正在谈论未来四五年内将IT投入1500亿美元,好的?所以我们有数万亿个端口,用于未来四五年内的计费。

嗯,我们观察到的第二件事是,软件的编写方式不同,但软件在未来的使用方式将不同,我们将拥有代理。对吧?我们在公司里,在你的收件箱里,都有数字员工。

你未来会在低面值中拥有所有这些小代币。AS的图标。对吧?我将发送它们。我将不再用C++编写计算机程序。我将用提示来编写AS程序。

对吧?现在,这与我今天早上与我的对话没有什么不同,你知道,我写了很多邮件,在我来这里之前。我正在提示我的时间,对吧?我描述了上下文。

我描述了我所知道的根本限制,我描述了他们的任务。我会充分地指导他们,以便他们理解我的需求。我想清楚地说明结果应该是什么,尽可能清楚。

但我留出足够的模糊空间,你知道,一个创造空间,这样他们就可以让我感到惊讶,对吧?这与我今天向AI提出的提示没有什么不同?是的,这与我向AI提出的提示完全一样。

所以接下来会发生的是,在我们将要现代化的IT基础设施之上,将会有一个新的基础设施。

将会有一个新的基础设施,将会有AI工厂来操作这些数字人类。他们会一直运行,24/7。我们将在世界各地的所有公司中拥有它们。

呃,我们将在工厂中拥有它们。我们将在自主系统中拥有它们。对吧?所以将会有一个计算织物层,一个我称之为AI工厂的层,而世界今天根本没有。

所以问题是,这个层有多大?目前可能数万亿美元,目前可能没有人。但是随着我们建造,美妙之处在于,现代化这个新数据中心的架构与AI工厂的架构相同。

这就是美妙之处。你清楚地表明,你拥有数万亿个旧东西,你必须进行现代化改造。你至少有数万亿个新端口,工作负载正在到来,给或取,你今年的收入为1250亿美元。

你知道,有人曾经说过,你的公司永远不会值超过10亿美元,而你今天就坐在那里。如果你的收入只有1250亿美元,而你拥有数万亿美元的团队,那么你未来是否会获得两倍或三倍的收入?所以你的收入...

不,是的,是的,正如你所知,这与...所有公司都只受鱼的大小限制,你知道,金鱼。它只能长这么大。所以问题是,我们的鱼塘是什么?我们的池塘是什么?这需要一点想象力。

这就是为什么市场创造者会考虑未来,会创造新的鱼塘。这很难。很难从过去的角度来思考这个问题,并试图获得市场份额。市场份额创造者只能长这么大,而市场创造者可以相当大,是的。

我认为我们公司很幸运,从一开始,我们就必须为我们自己创造市场。当时人们可能没有意识到这一点,但现在我们已经站在了创造3D游戏PC市场的起点上,对吧?我们基本上发明了这个市场以及整个生态系统,包括显卡生态系统,我们都发明了这一切。所以,为了以后的服务IT行业,发明一个新市场,这对于我们来说是很自然的。

究竟是为了什么?说到有人发明了一个新市场,让我们稍微改变一下思路,谈谈模型和OpenAI。众所周知,OpenAI本周筹集了65亿美元资金,估值达到1500亿美元。我们都参与了其中。

真的为他们感到高兴,真的非常高兴能走到一起。他们做得很好,而且做得非常出色。

据报道,他们今年的营收或营收增长率将达到50亿美元,明年可能达到100亿美元。如果看看今天的业务,其营收是谷歌在IPO时营收的两倍。他们每周的平均用户数量达到2500万,据估计是谷歌在IPO时用户数量的两倍。如果你看看业务的倍数,如果明年营收达到100亿美元,那么其前瞻性营收的倍数约为15倍,这与谷歌和Meta在IPO时的倍数相当,对吧?想想一家两年前营收为零,每周平均用户为零的公司。

OpenAI对历史有着非凡的理解。

考虑到这一点,请谈谈OpenAI作为合作伙伴以及OpenAI作为推动公众对AI的认知和使用的力量对你的重要性。

OpenAI是我们这个时代最重要的公司之一。它是一家AI公司,追求AGI的愿景,无论AGI的定义是什么,我几乎不认为定义本身很重要,也不认为时机真的重要。我知道的是,AI的能力路线图会随着时间的推移而发展。这条能力路线图会非常引人注目。

即使在达到任何人的AGI定义之前,我们也会将AI用于很多方面,对吧?现在,你可以去问问数字生物学家、气候技术研究人员、材料研究人员、物理学家、天体物理学家、量子化学家、视频游戏设计师、制造工程师、机器人技术专家,或者任何你感兴趣的行业,深入了解这些领域,问问那些重要人物,AI是否改变了他们的工作方式。然后收集这些数据点,再问自己,你希望有多么怀疑?因为他们谈论的不是AI的概念上的好处。

总有一天,他们会谈论如何使用AI,现在,在生物技术、材料技术和气候技术等领域。你可以选择任何技术或科学领域。他们正在进步。

AI正在帮助他们现在就改进工作,就像我们现在谈论的那样,每个行业、每家公司、每个高等院校。难以置信。对吧?绝对是。

AI将以某种方式改变商业模式。我们知道这一点。我的意思是,这是如此显而易见,它正在发生。是的,是的,我认为AI的出现,例如ChatGPT,引发了人们对它的关注,这真是令人难以置信,而且我非常喜欢他们推进该领域的动力和单一目标。

他们构建的引擎可以为下一代模型提供资金。我认为硅谷正在形成一种共识,即整个模型层正在商品化,这使得许多人构建模型变得非常便宜。所以,早期有很多模型公司,例如Character、Inflection、Cohere和Mistral等等。

许多人质疑这些公司能否在经济引擎上获得逃逸速度,从而继续为下一代模型提供资金。我个人觉得,这就是为什么你看到整合的原因,对吧?很明显,OpenAI已经达到了逃逸速度。

他们能够为自己的未来提供资金。我不确定其他许多公司是否能够做到这一点。这是否是对模型层现状的公平评价?我们是否会像在许多其他市场中一样,出现一些整合,出现一些能够负担得起、拥有经济引擎和应用的市场领导者,从而继续投资?

首先,模型与人工智能之间存在根本区别,对吧?是的,模型是人工智能的必要组成部分,但并非充分条件。人工智能是一种能力。那么,应用是什么?

汽车软件的人工智能与人类机器人的人工智能相关,但并非相同;与聊天机器人的人工智能相关,但并非相同。所以,你需要理解堆栈的分类,对吧?

在堆栈的每一层,都会有机遇,但并非每个人在每一层都有无限的机遇。我刚才说了些什么?用GPU替换模型。

事实上,这是我们32年前的伟大发现,GPU(图形处理单元)与加速计算之间存在根本区别。

加速计算与我们用于AI基础设施的工作不同。它们相关,但并非完全相同。它们建立在彼此之上,但并非完全相同。

这些抽象层中的每一层都需要不同的技能。擅长构建数十亿个GPU的人可能完全不知道如何成为一家加速计算公司。有很多人都构建了GPU,我不知道哪个先出现。

你知道,我们发明了GPU,但你知道,我们不是当今唯一一家构建GPU的公司,对吧?GPU无处不在。但是,它们不是加速计算公司,有很多构建应用加速器的公司,但这与加速计算公司不同。

例如,一个非常专业的AI应用可能是一个非常成功的应用,这很重要。但这可能不是那种能够带来区域和能力的公司。所以,如果你必须决定你想在哪里,那么在所有这些不同领域可能都有机遇。

但是,在构建公司时,你必须意识到生态系统和工作的变化。随着时间的推移,它会商品化,要认识到什么是特性、产品和公司。好的,我只想说三点。好的,有很多不同的思考方式。

当然,有一些新进入者拥有资金、智慧和雄心壮志,想要进入AI领域,对吧?据报道,你和Larry和Elon一起共进晚餐,他们谈论了10万到8100万美元,然后去了Memphis,并在几个月内建立了一个大型的、连贯的超级集群,你知道。所以,前三点并不构成一条线。

好的,我和他们一起共进晚餐。那么,你认为他们建立超级集群的能力如何?还有传闻说,他们又筹集了10万到2000万美元,以扩大超级集群的规模。不。首先,请谈谈他们建立超级集群的雄心壮志,以及他们已经取得的成就,以及我们是否已经准备好进入20万到30万GPU集群的时代。

答案是肯定的,然后是……首先,承认成就,从概念到一个为NVIDIA提供设备的、准备就绪的数据中心,到我们启动它,并进行训练,对吧?好的,所以,第一部分只是在短时间内建立一个大型工厂,液冷、供电、获得许可。

我的意思是,这简直是超人的行为,对吧?据我所知,世界上只有一个人能做到这一点。我的意思是,Elon,他拥有对工程、建造、大型系统、资源的独特理解,这真是难以置信。

当然,然后他的工程团队也做出了贡献。我的意思是,软件团队很棒,网络团队很棒,运营团队很棒。Elon在其中扮演着关键角色,从我们决定与我们的工程团队、网络团队或基础设施计算团队一起规划的那一刻起,所有准备工作都提前完成了。

所有基础设施、所有后勤以及当天投入的技术和设备,以及视频和视频基础设施和计算基础设施,以及所有用于训练的技术,在19天内,24小时不间断地工作,毫无疑问,没有人能做到。但是,首先,19天真是难以置信。嗯,但停下来想想,19天?这只是一两周的时间。

而且,如果你要看到投入的技术数量,那真是难以置信,所有电线和网络。网络和视频设备与网络不同。超大型数据中心,好的,一个节点中连接的电线数量,备份计算机,所有电线。

以及将所有这些技术整合到所有软件中的工作,真是难以置信。是的。所以,我认为他们团队在接下来的工作中,以及他们对我们工程工作和规划工作的认可,我真的很欣赏。

但是,他们所取得的成就,从印刷的角度来看,是前所未有的,10万个GPU,你知道,很容易成为世界上最快的超级计算机,作为一个集群。嗯,一个超级计算机,通常需要3年时间来规划,对吧?然后,他们交付设备,需要一年时间才能让它全部运行起来。是的,我们谈论的是19天。

视频平台的功劳是什么,对吧?整个流程都更难。没错。

是的,是的,所有东西都已经运行了。当然,还有很多X算法、X框架和X堆栈之类的东西。我们必须进行大量的整合。但他们的规划工作非常出色。仅仅是预先规划。

你知道,n=1是对的。Elon是一个n=1。但是,你回答这个问题的方式是,首先说,是的,20万到30万个GPU集群已经在这里了,对吧?

嗯,这是否可以扩展到50万个?这是否可以扩展到100万个?对你的产品的需求是否取决于它是否可以扩展到数百万个?

最后一点是,不,嗯,我的感觉是,分布式训练必须起作用。我的感觉是,某种形式的联邦或学习和分布式……同步分布式计算将被发现,我对……当然,当然,要意识到的是,以前规模定律是关于重新训练的。现在,我们更多的是多模态的。

我们有合成数据生成……训练后现在已经显著扩展了合成数据生成、基于奖励的强化学习,然后推理扩展也大幅提升。一个模型在回答你的问题之前,已经内部进行了数千次实例化,这可能并非不合理。而且,他们可能已经进行了一些研究,提供了一些强化学习,可能已经进行了一些模拟,肯定进行了很多反思,并查看了一些数据和信息。

对吧?所以,上下文可能相当大,我的意思是,这种类型的智能,嗯,这就是我们所做的,对吧?这就是我们所做的,对吧?所以,这种扩展,如果你计算一下,然后将其与模型大小和计算大小每年增长4倍相结合。

另一方面,使用需求继续增长。嗯,我们认为我们需要数百万个GPU吗?毫无疑问。是的,是的。这现在是肯定的。所以,问题是,从数据中心的角度来看,我们如何进行架构设计?这与数据中心是否一次性达到千瓦或数十兆瓦有关。我的感觉是,你将同时获得两者。

我认为分析师关注的是当前的架构选择。但我认为,这次谈话的最大收获之一是,你正在考虑整个生态系统,以及多年后的情况。所以,你知道,仅仅是扩大规模或扩展规模,是为了迎接未来,而不是仅仅依赖于一个拥有50万或100万个GPU集群的世界。你知道,到那时,你已经编写了软件,可以实现分布式训练。

对,记得吗?是的,如果没有它,我们七年前开发的这些大型训练作业的扩展就不会发生,对吧?所以,我们发明了跨城市、Nico、嗯,GPU直通,对吧?我们所有在DMA中所做的一切,使得更容易实现流水线并行,你知道,对吧?所以,你知道,所有正在进行的模型并行,以及所有分布式训练的分解和所有批处理,所有这些东西,都是因为我们做了早期工作,现在我们正在为未来一代做早期工作。

所以,让我们谈谈草莓。我想尊重你的时间。

所以,所有……

你非常慷慨。

但是,我认为他们以Visa命名的这个项目很酷,这与招募全球最优秀的人才,将他们带到美国有关,这是我们都非常热衷的事情。所以,我认为构建一个能够思考并带我们走向智能扩展新水平的模型,不仅仅是走向事实,而是这些通过移民来到美国的人,他们为我们所做的一切,带来了他们的集体……

智能……

当然,你知道,这是由我们朋友Noam Brown领导的,当然,他在一家公司工作过。当他还在Meta工作时,推理时间推理作为一种完全不同于构建更大模型的智能扩展新维度,有多么重要?

这非常重要。我认为很多智能可以提前完成,你知道。

而且,很多计算甚至很多计算都可以重新排序。我的意思是,提前就可以进行非顺序执行,你知道。所以,很多事情只能在运行时完成。

所以,无论你是从计算机科学的角度还是从智能的角度来看待它,很多事情都需要上下文,对吧?嗯,情况、质量、你正在寻找的答案类型。有时,一个快速的答案就足够了,这取决于答案对性质和使用情况的影响。

所以,有些答案需要一晚上,有些答案需要一周。对吧?所以,我可以想象我向我的AI发出提示,告诉它,你知道,思考一晚上,对吧?思考一整晚,然后明天回来告诉我你的最佳答案,并为我推理。我认为,从产品的角度来看,智能的质量和细分,现在将会有不同的聊天版本。是的,然后有些需要五分钟。

你知道,智能层将这些问题与正确的模型和正确的用例联系起来。我的意思是,我们正在使用高级语音模型,昨晚没有人预览过,但我正在辅导我的儿子参加AP历史考试。这就像拥有世界上最好的AP历史老师,坐在你旁边,思考这些问题。这真是太棒了。

但是,我的导师,AI,就在这里。

当然,他们今天就在这里。是的,这与你的收入中超过40%来自推理有关。但是,推理已经准备好了,因为有推理链。对吧?

它即将……

这是……

大多数人还没有完全理解。这是我们谈论的行业,但这是工业革命。

这是智能的生产。没错。是的,它……

将……

增长数十亿倍,你知道,每个人都非常关注视频,就像在更大的模型上进行训练一样。对吧?你的收入如果今天是五五开,那么未来推理将远远超过训练?是的,对吧?我的意思是,训练总是重要的,但推理的增长将更大。希望这是可能的。

是的,没错。是的,很好。学习很好。

是的,但目标是让你以后在社会上能有所作为。所以,我们训练这些模型是好的。但输入的目标,不是。

你是否准备好使用链式推理,并利用像你自己的业务中的一样工具来改进你的业务?

我们今天的网络安全系统如果没有我们自己的代理,就无法运行。我们有代理帮助设计船只。没有霍珀,就不会有。

没有黑客,就不会有。别想IT。我们有数字。我们有AI芯片设计人员、AI软件工程师、AI垂直工程师,等等,我们构建了一个小型洞察力,因为我们有能力,而且我们更愿意利用IT来支持技术本身。

你知道,我今天走进大楼时,有人问我关于公司文化的看法。这完全是关于文化。我从业务角度来看,我们经常谈论健身和效率,扁平的组织结构能够快速执行。小型团队在视频领域独树一帜,真的,嗯,你知道,每位员工的收入不是四百万美元,而是每位员工两百万美元的利润和自由现金流。你建立了一种效率文化,真正地,嗯,释放了创造力、创新、所有权和责任感。打破了世界,并以一种功能性的方式管理,每个人都喜欢谈论所有你的主管报告,利用AI是持续让你保持高度创造力同时保持高效的关键吗?

毫无疑问。我希望有一天,视频公司有32000名员工,我们在以色列有4000个家庭。我希望你们一切安好。我希望视频公司将来能成为一家拥有5万名员工,并拥有1亿AI辅助的企业,并且每个团队都有一个完整的目录。

关于那些通常擅长做事的AS,我们的收件箱将包含所有我们合作过的AS的目录,我们知道他们非常擅长我们的技能。因此,AS将招募其他AS来解决问题。AS将与彼此以及与人类一起在Slack频道中交流。所以,这将是一个庞大的员工群体,如果可以的话。其中一些是数字的和AI的,一些是生物的,我希望其中一些是混合的。

我认为从商业角度来看,这是一个被严重误解的东西。你描述的公司正在产生一个拥有15万人的公司的产出,但你目前正在用5万人的规模运作。你并没有说我要解雇所有员工。你仍然在增加组织的员工数量。但是,该组织的产出将大幅增加。

这经常被误解,AI不会改变所有工作,AI将对人们如何看待工作产生巨大的影响。让我们承认这一点,对吧?AI有能力做伟大的事情,也有能力造成伤害。

我们必须建立一个CV。是的,让我们建立这个基础。好的。

被忽视的部分是,当公司使用人工智能变得更有生产力时,这很可能会转化为更好的收益或更好的增长,或者两者兼而有之。很好。当这种情况发生时,CEO的下一封邮件可能不是裁员公告。

当然。

因为你在增长,对。原因是我们有更多想法,我们可以探索,我们需要人们帮助我们思考,在自动化之前。AI可以帮助我们完成自动化部分,显然,它也可以帮助我们思考。

但这仍然需要我们去弄清楚,我想解决哪些问题。我们可以解决数万亿个问题,公司应该解决哪些问题。所以,像这样的想法,并找到一种方法来实现和扩展。

因此,结果是,随着我们变得更有生产力,我们将雇佣更多的人。忘记它,你知道。如果我们回顾历史,显然,我们今天比两百年前有更多想法,原因是雇佣了更多人。即使我们正在进行疯狂的自动化,

这是一个非常重要的时刻,我们正进入一个时代,几乎所有的人类生产力,几乎所有的人类繁荣都是过去两百年自动化和技术的副产品。我的意思是,你可以看看亚当·斯密和熊彼特关于创造性破坏的观点。

你可以看看过去两百年来人均GDP增长的变化,它一直在加速,这让我想到一个问题。如果你看看90年代,美国的生产力增长率大约是每年2.5%到3%。

然后在2000年代,它下降到大约1.8%。然后过去十年一直是生产力增长的最低水平。所以,对于固定数量的劳动力和资本,我们拥有的产出量是历史上最低的。许多人一直在争论其原因。但是,如果世界正如你所描述的那样,我们正在利用和制造智能,那么我们是否正处于人类生产力大幅扩张的边缘?

这是我们的希望,当然,我们生活在这个世界上。所以我们有直接的证据。我们有直接的证据,无论是作为一名单独的研究人员,他能够利用AI以难以想象的规模探索科学,这是一种生产力的衡量标准,还是我们正在以惊人的速度设计芯片,芯片的复杂性和计算机的复杂性都在呈指数级增长,而公司的员工数量并不是生产力的衡量标准。

我们正在开发的软件越来越好,因为我们使用AI和超级计算机来帮助我们,员工数量几乎是线性增长的。好的,好的,好的。嗯,另一个生产力证明。所以,无论我是否可以进入,在许多不同行业中进行抽查,我都可以自我检查。是的,就是这样。

所以,我可以,当然,我们可以,嗯,我们可以过度拟合,但是艺术在于概括我们所观察到的内容,以及它是否可以体现在其他行业,毫无疑问,智能是世界上最有价值的商品,现在我们正在大规模地制造它,我们所有人必须学会,如果你被这些AI包围,它们做得如此出色,比你做得更好,对吧?当我反思这一点时,这就是我的生活。我有60名直接下属。

他们之所以在任何团队中,是因为他们世界一流,他们所做的事情比我做得更好,做得更好。我毫不费力地与他们互动,我毫不费力地进行提示工程,我毫不费力地编程。所以,我认为人们将要学习的是,他们将成为CEO,他们将成为非常有能力的代理人,他们能够拥有创造力,嗯,意愿,以及分解问题并编程这些AS来帮助你实现我所做的事情的能力,我称之为公司。

对,你提到了一些东西,这种对齐,你说到中东发生的悲剧。嗯,你知道,我们有很多自主权,以及在世界各地使用的很多AI。所以,让我们谈谈坏人,谈谈恶意使用AI,谈谈与华盛顿的协调。

你今天感觉怎么样?我们是否正在朝着拥有足够协调水平的方向前进?你知道,我认为马克·扎克伯格说过,我们战胜坏人的方式是让好人更好,嗯,你会如何描述你对我们如何确保这将对人类产生积极净效益的看法,而不是让我们陷入这个没有目标的混乱世界?

关于安全性的讨论非常重要,很好,嗯,从抽象的角度来看,这种关于AI的总体概念,一个巨大的神经网络,不是很好。好的。原因是,众所周知,人工智能和大型模型并不相同。

嗯,我认为有很多正在进行的工作,我认为这些工作非常出色。一、开源模型,以便整个研究界以及每个行业和公司都能参与AI,并学习如何将其用于自己的应用。很好。二、对致力于开发AI以确保AI安全的技术给予了不足的关注。AI是为了携带数据、携带信息、训练AI、创建AI来生成合成数据、扩展AI知识、以及所有正在创建的AS来进行验证或绘图或任何其他事情,以指导AI,监控其他AS,创建安全AI系统。

我们已经建立了。

我们正在构建的,整个行业都在构建。方法论是红队、流程、模型卡、评估系统、基准系统,所有正在以惊人速度构建的工具都值得关注。

但没有政府规定说你必须这样做。是的,今天的参与者正在认真对待这些问题,并围绕最佳实践进行协调。

方式,对吗?完全正确。

所以,需要更多关注和理解,是的,有人需要开始谈论AI作为一种系统,一种经过良好工程设计、从基本原理构建、经过充分测试的系统,以便进行监管。记住,AI是一种可以应用的能力,嗯,我认为对重要技术进行监管是必要的,但不要过度,到监管应该由应用来完成的地步。大多数监管已经由应用来完成,例如FDA、FAA,你随便说,对吧?所有现有的监管应用技术生态系统现在都必须监管现在融合了AI的应用技术。

所以,我认为,嗯,他们误解了,没有注意到世界需要为AI激活的大量监管,不要依赖一个可能无法做到这一点的全球AI理事会,因为所有这些机构的建立都有原因。所有这些监管机构的建立都有原因。再次回到基本原理。

如果我没有回到开源问题上,我的合伙人比尔会责怪我。你们最近发布了一个非常重要、非常大、非常强大的开源项目。

更多。

是的,最近,Meta正在对开源做出重大贡献。当我阅读Twitter时,我发现人们经常谈论开源与闭源的AI,嗯,你对开源的看法是什么?你自己的开源模型能否跟上前沿?这是第一个问题。第二个问题是,拥有开源模型,同时拥有用于商业运营的闭源模型,你是否认为未来会是这样?这两者是否会创造出健康的。

张力,安全与开源与闭源有关,但不仅仅如此。例如,拥有闭源模型,作为经济模式的引擎,对于维持创新至关重要,这绝对没有问题。

好的,我赞同这一点,我认为关于开源与闭源的争论是错误的。闭源是正确的。是的,对。

因为开源对于许多行业的激活是必要的。如果我们没有开源,这些不同科学领域的AI如何才能被激活?对吧?因为他们必须开发自己的特定领域,并使用开源模型创建特定领域的AS。它们是相关的,但并不相同,仅仅因为你有一个开源模型作为AI的工具,并不意味着你必须拥有开源模型来创建AS,金融服务、医疗保健、交通运输,等等,科学领域现在已经因为开源而被激活。

难以置信。你是否看到对你的开源模型的需求很大?

开源模型。首先,Llama的下载量,对吧?显然。是的,马克,他们所做的工作,令人难以置信,完全激活并参与了每个行业和科学领域。我们之所以做Tron,是为了生成合成数据,让AI能够以某种方式循环并生成数据以学习自身。这听起来很脆弱,嗯,嗯,你可以在无限循环中重复多少次?这个循环,你知道,值得怀疑。然而,我的脑海中浮现出一种形象,就像你把一个超级聪明的人关在一个隔音室里,关上一个月。

出来的可能不是一个更聪明的人,但想法是,你可以让两三个人坐在一起,我们有不同的知识分布,我们可以互相提问。我们三个人都能变得更聪明。所以,AI模型可以交换、互动、辩论、进行强化学习、生成合成数据,例如,这在直觉上是有意义的。

是的。所以,我们的模型,数值3B年,340B年,是世界上最好的奖励系统模型。所以,这是最好的批评,是的,所以,嗯,嗯,一个很棒的模型,可以增强每个人,无论模型有多好,我都会建议使用Normal到340B来增强和改进,我们已经看到它让Llama变得更好,让所有其他模型变得更好。

我们快结束了。

谢天谢地。

作为一名在2016年交付DG X.1的人,这真是一个难以置信的旅程。你的旅程同样令人难以置信。

谢谢。你在早期阶段的生存能力非常非凡。你交付了第一个DG X.1。

在2022年,我们有这个剑桥时刻。我要问你一个经常被问到的问题,那就是,你能持续多久,保持你今天所做的事情,拥有60名直接下属?你无处不在,正在推动这场革命,你是否感到快乐,还有其他你想做的事情吗?

这是一个关于我想要得到答案的问题,我度过了美好时光。我无法想象还有其他事情我想做的。嗯,嗯,让我们看看。

我认为,嗯,我认为不应该给人留下这样的印象,我们的工作总是充满乐趣。我的工作并非总是充满乐趣。我也没有期望它总是充满乐趣。

从一开始就没有期望它总是充满乐趣。嗯,嗯,我认为这很重要。是的,我不太把自己当回事。

我非常认真对待工作。我非常认真对待我们的责任。我非常认真对待我们在这个时代所做出的贡献。

这总是充满乐趣吗?不。但是我总是喜欢它吗?是的。是的。嗯,就像所有事情一样,嗯,无论是家庭、朋友、孩子,这总是充满乐趣吗?不。但是我们总是非常热爱它吗?绝对地。

所以,嗯,我还能做多久?真正的问题是我还能保持相关性多久?这个问题的答案只能通过我将如何继续学习来回答。我今天比以前更有信心。

我这么说,不仅仅是因为我们今天的话题。我更有信心保持相关性和继续学习,因为我使用AI。我不知道,但我相信你们知道。我每天都在使用它。

没有一项研究我不与AI一起进行。没有一个问题,即使我知道答案,我也会用AI进行核实,令人惊讶的是,接下来的两三个问题揭示了我不知道的事情。你可以选择你的主题,你可以选择你的主题。

我认为人工智能是一个助手,是一个系统,嗯,作为与大脑头脑风暴的伙伴,嗯,双重检查我的工作,嗯,你知道,是的,这完全是革命性的,是的,而且,你知道,我是一个信息工作者,你知道我的输出是信息,所以,我认为所有这些对社会做出的贡献都非常重要。所以,我认为如果情况如此,如果我能保持相关性,嗯,并且能够继续做出贡献,我知道我知道这项工作对我来说足够重要,让我想要继续追求它。我的生活质量令人难以置信。

我想象你和我在这个领域已经奋斗了几十年。我无法想象我此刻的感受。嗯,我们非常感谢这份合作。

不要错过下一年。

这份合作,是的,你让事情变得更聪明,谢谢。嗯,我认为你真的非常重要,嗯,作为领导者的一部分,对吧,这将乐观而安全地引领我们前进。嗯,所以。

谢谢。真的很享受它。谢谢。

提醒大家,以上仅为个人观点,并非投资建议。