您如何应对日益变暖的世界?CFR教育致力于帮助各个年龄段的学习者了解气候变化及其在全球事务中的作用。CFR教育拥有50多种免费的多媒体学习资源和配套教学资源,内容涵盖气候变化的基本科学和历史,以及当今该问题引发的复杂社会和政治问题。
了解更多信息,请访问education.cfr.org/climate。并关注4月份地球日即将推出的三门新的自学课程。欢迎收听《互联》,这是对外关系委员会和斯坦福新兴技术评论推出的一个新的播客系列。
每一集都汇集了来自新兴技术关键领域的专家,探讨最新的突破性发展、未来的发展趋势以及对美国创新领导力的影响如何与快速变化的地缘政治环境相互关联。我是马丁·吉尔斯,我是斯坦福新兴技术评论的执行编辑。
在本集中,我们将重点关注半导体和计算。某些类型的问题似乎量子计算机可以做得更好,但这个空间有多大,我认为目前还不知道。当您无法访问最新的英伟达硬件时会发生什么?我认为,这就是DeepSeq的用武之地。
加入我讨论这些关键领域的是斯坦福大学电气工程系主任、评论员教师委员会成员马克·霍洛维茨,以及对外关系委员会常驻技术专家、弗吉尼亚大学计算机科学教授塞巴斯蒂安·埃尔鲍姆。感谢两位今天与我们在一起。
非常感谢,马丁。谢谢,马丁。我想先看看所谓的摩尔定律的现象,这是英特尔联合创始人戈登·摩尔在1965年提出的。
现在,这条定律认为,大约每隔几年,价格相同的芯片上的晶体管数量就会翻一番,从而提高其处理能力。这种扩展如此一致,以至于我们已经习惯于预期计算成本会随着时间的推移而不断下降,或者至少不会大幅增加。但是
但是,有一些迹象表明这种趋势可能即将结束,如果它还没有结束的话。马克,是这样吗?这里发生了什么?摩尔定律的情况有点复杂,因为许多人将许多不同的规模趋势联系起来并称之为摩尔定律。所以戈登·摩尔在1965年真正说的是,
是说在集成电路上生产最经济的晶体管数量似乎呈指数增长。也就是说,每隔几年,你就会得到比以前多一倍的晶体管。而他提出的关键点是,这使得这些晶体管更便宜,因为在大致相同的面积上,你得到了更多的晶体管,
而生产该面积的成本并没有那么快地增长。所以你用同样的价格得到了更多的晶体管。这太棒了,因为这意味着我们可以期待计算能力或数据存储能力的提高,而成本却相对保持不变,这太棒了。
所以,随着时间的推移,我们已经通过许多数量级(10的倍数)继续扩展技术。而这条定律也一直适用。不幸的是,虽然我们仍然能够增加晶体管的数量,但与晶体管数量增加相关的成本缩减已经发生了巨大的变化。
所以在最近的技术中,即使我们可以提高密度,每个晶体管的成本也没有下降。有人声称它会略微上升。我不是晶圆厂,我不知道确切的数字,但它肯定不像以前那样呈指数下降。
明白了。当你说晶圆厂时,你知道,晶圆厂指的是制造芯片的工厂。在行话中,晶圆厂基本上是一座非常昂贵的建筑,用于制造集成电路。如今,建造这样一个设施的成本高达数十亿美元。明白了。塞巴斯蒂安,你如何看待摩尔定律?你同意马克刚才说的吗?我的意思是,它看起来像要结束了?
是的,我认为是这样。是的,我认为是这样。我只是觉得很有趣,有人在60年前做了这样的观察,而它至今仍然成立,对吧?我的意思是,仅仅是这个事实就让我感到惊讶。你知道,从某种意义上说,这很有趣,因为这实际上是对科学或工程进步的观察。它不是关于物理进步。
但在技术领域持续这么久是相当惊人的。让我思考这个问题的另一件事是,有时缓慢而平稳的下降
不仅仅是对未来将会发生什么的预测,而且从另一方面来说,它实际上也为一些行业的进步或进步预期设定了路线图,人们预期每隔几年我们就会看到性能或成本方面的一些重大进步。所以从某种意义上说,它扮演着两个角色。一个是预测者,但它也塑造了一些公司的预期是如何排列的。
现在,感觉我们真的触及了该定律预测的某些物理极限。我的意思是,你知道,很难找到比原子更细的导线,对吧?所以当我们试图逼近这个极限时,我们面临着难以克服的物理限制。而接近这个极限的成本也在增加。
所以我们之间有一种阴阳的关系,硬件和软件之间。你会看到硬件方面的进步推动了软件方面的进步。所以我们得到了,你知道,功能更强大的智能手机、更智能的汽车,而价格并没有随着一代又一代的更新而大幅上涨。这会停止吗?我们最终是否都要为,你知道,
电子产品支付更多费用?由于这种扩展即将结束,军方是否要为功能强大的武器支付更多费用?所以我想说的是,随着计算成本的下降,如果你可以的话,将事物转移到计算领域在经济上是可行的,或者你会有这种动机,因为这比
机械或其他替代方案更便宜。为什么汽车上有这么多电子设备?有两个原因。首先,它使发动机效率更高,使带有防抱死制动系统的制动器更安全。你可以用电子设备更便宜地制造东西,而不是用某种机械模拟来制造。
汽车上有这么多电子设备的另一个原因是,你需要在明年制造出比你以前的产品更好的产品。并且在汽车中使用电子设备添加导航系统或其他用户舒适性方面更容易添加功能,因为这在相同的成本下为你提供了更高的能力。
所以这确实推动了向信息领域的大规模转移,因为这是改进最快的事情,而且从经济角度来看也是如此。所以我们首先会看到的是,在如何使用计算方面会付出更多的努力和设计等,因为成本并没有下降。
你会发现,对于需求量大的应用,
会投入更多精力来优化从应用程序到系统服务再到硬件的整个堆栈,因为我们不能依赖硬件变得更便宜。这种情况已经发生了很多年了,这就是大型系统供应商必须做的事情。
是的,我完全同意。我看到了马克一直在提到的转变。我的意思是,我们已经看到这种情况好几年了。而且,你知道,我认为部分责任在于,当马克提到开发堆栈时,你底部有几层,你有硬件层。当你向上移动时,你会有更多的软件层。
我认为上层有很多空间可以弥补我们过去认为理所当然的事情,仅仅是因为我们下面的计算能力非常强大,我们不必关注将来可能需要关注的事情,以保持系统的整体成本不变。
现在,所有这一切都发生在人工智能爆炸式增长的同时。1月份,我们看到中国初创公司DeepSeek推出了一种人工智能模型,该模型使用比其他主要模型更低成本的芯片和更少的数据,但仍然产生了令人印象深刻的结果。塞巴斯蒂安,你认为摩尔定律的终结与人工智能的发生之间有什么相互作用?
是的,我认为这里存在着持续的推拉,对吧?一方面,人工智能的惊人进步,你知道,从使用人工智能感知周围世界并在非常受限的场景中运行的自动驾驶汽车,到
到我们在过去几年中看到的大型语言模型,如ChaiGPTs,如果没有我们能够访问的高性能GPU(图形处理单元),这些都是不可能发生的。现在,当您无法访问最新的英伟达硬件并且仍然想要构建这些大型而强大的模型时会发生什么?
我认为,这就是DeepSeq的用武之地。DeepSeq是一家中国公司,他们在12月份发布了几个非常有趣的模型,V3和R1。
但我认为令人印象深刻的是,它们提供的性能与美国公司的模型相当,但训练成本却低了一个数量级左右。这是相当可观的。现在,这里的悖论是,中国模型在成本方面取得的一些进步是
是由开发这些模型的约束造成的。因此,中国工程师无法使用最新最好的英伟达芯片,因此他们不得不弥补这一点。从某种意义上说,这种约束促使他们在各个方面都进行了非常巧妙的优化,包括硬件、他们在处理器上进行低级编程的方式、他们进行特定训练的能力,
以及他们实际构建此模型架构的方式。是的,此外,如果您阻止一家公司使用外部设备,而对他们来说在经济上必须拥有这些设备,那么他们最终将基本上自己制造。这将使他们能够更好地胜任他们需要做的事情,因为……
正如俗话所说,需要是发明之母。马克,你说的很好。我们看到DeepSeek的创新导致股市大幅下跌,尽管此后有所反弹。但这抹去了英伟达数百亿美元的市值,英伟达是美国芯片巨头。塞巴斯蒂安,你认为这种变化会持续多久?好吧,我的意思是,市场上的混乱对每个人来说都是显而易见的。但英伟达一直认为
模型的规模和复杂性将会增长,你需要更多这样的模型。而基本上,随着DeepSeq的出现,这一基本假设受到了挑战。而且
到目前为止,我们一直在讨论的是经典计算,但量子计算领域也正在进行大量工作,该领域试图利用量子物理学中这些几乎神秘的现象来创造功能极其强大的计算机。塞巴斯蒂安,围绕量子及其未来潜力的炒作和希望很多。展望未来,你认为我们会看到什么?
好吧,你知道,一方面,我不知道,很难不被像亚原子粒子解决大型难题这样性感的东西所吸引。无论你做什么,我内心的书呆子都会对此感到兴奋。但我认为它对可以并行处理的大型问题特别有吸引力。我的意思是,这正是这类
机器可以解决的问题空间。你知道,目前,尽管谷歌等公司最近报道取得了成功,但它们的工作规模仍然没有商业吸引力。你知道,即使是他们的基准测试,也没有商业元素。
所以你要谨慎对待,但我认为很多事情正在融合,有利于这项技术。你知道,你会看到很多优秀的科研人员正在从事这项工作。你会看到大量的投资。你会看到公司已经拥有生产这种技术的芯片的制造设施。
所以我不会排除我们会看到它。我不擅长预测技术。我的意思是,我没有预料到我们会从GPT 2.0(有点像学龄前儿童的水平)发展到GPT-4(就像高中生的水平)。我的意思是,如果量子能够在四年内模仿这种改进速度,
那么我们将看到一些令人惊奇的事情。但我认为我们需要谨慎地了解这项技术目前的状况以及它正在解决的问题,它正在解决的技术问题是困难的,是根本性的,而且还没有达到可以轻松转化为商业问题的程度。很好。马克,你对量子前景的看法如何?
我涉足过量子计算,并且一直在跟踪它。我会说这是一个非常有趣的领域,因为它从根本上改变了我们对某些问题的复杂性或解决难度的一些假设。话虽如此,我认为围绕量子计算的炒作可能有点过热。
英伟达的詹森·黄在他的英伟达演讲中说了一些关于在十年左右的时间内不可用或需要考虑的事情。詹森是英伟达的首席执行官,是的。是的。我认为他可能是对的。我认为量子领域存在高度的不确定性。
我唯一确定的是,它不是万能药。许多问题在量子计算机上的计算速度并不比传统计算机快。某些类型的难题。
似乎量子计算机可以做得更好,但这个空间有多大,我认为目前还不知道。迈克,其中一些例子是什么?你能很快地举几个例子吗?我的意思是,它们会是什么?是的,一个典型的例子基本上是肖尔算法,这是一种……
分解数字或计算某些非常困难的问题,这些问题是我们今天使用的许多加密系统(例如加密)的基础。所以这就是人们说量子计算机可以破解我们所有安全性的原因。但要做到这一点的量子计算机必须是一个非常
非常先进的量子计算机。我们离这种规模的量子计算机还差得很远。明白了。人们正在努力改进,但这仍然……我的意思是,我看到有人说它可能对设计新药或蛋白质以及帮助我们更快地到达目的地的导航系统非常有用,我很喜欢。但这仍然太遥远了。这些有点更具推测性。所以新药与使用量子化学有关
化学反应基本上是不同分子之间的原子反应。如果我们可以更准确地模拟它,我们应该能够做得更好。但同样,根据我交谈过的人的说法,进行这些计算所需的计算机规模仍然相当先进。与我们现在正在做的相比,什么也没有。
在优化领域,人们对它如何可能更好地解决优化问题进行了大量讨论。但同样,这还有待确定。它看起来很有希望,但还没有……还没有。明白了。好的。现在让我们来谈谈半导体技术与地缘政治之间的相互联系。
美国已采取措施限制向中国出口先进芯片,特别是我们刚才讨论的人工智能芯片和芯片制造设备。但是,DeepSeek的兴起是否表明这些限制无效?塞巴斯蒂安,你怎么看?
很难判断它们是否无效,因为可能还有许多其他公司由于缺乏芯片而发展速度大大减慢。但实际上,你知道,DeepSeek也引发了人们对政府对芯片分配进行任何类型控制的有效性的质疑。一方面,你可以说,好吧,我们只需要更多的控制。我们,你知道,控制措施来得太晚了。
我们真的需要控制芯片,因为考虑到DeepSeq模型的性能,软件和模型的优势似乎正在减弱。
但另一方面,这些政府控制措施施加的限制促成了创新。它们为导致DeepSea创建的创新播下了种子。所以我们正处于这种困境之中。美国一直在努力保持这种非常微妙的平衡,即提供足够的硬件和芯片
以保持在实际传播技术方面的领先地位,但同时又落后一个国家,以便保持其优势。这是一个非常非常难以实现的平衡。正如他们所展示的那样,它很容易被破坏。
另一个不利方面是,美国一直受益于大量非常有才华的人才涌入,他们在美国的大学学习,然后取得伟大的成就。我担心,由于国际贸易的关闭和对各国的怀疑,我们将阻止这些合适的人才来到美国。
我认为,这直接是在搬起石头砸自己的脚。我认为,这不好。如果你看看许多初创公司,特别是英伟达,都是由来到美国的人创立的。
而且我现在不会感到惊讶,你知道,DeepSeek将会成为,或者可能已经成为,未来几个月中国的一家初创公司。它将吸引大量人才。在R1之前,还有一个名为V3的模型。描述该模型的论文有超过140位作者。好的。
而这些人都是明星工程师。在我看来,在发表那篇论文、发布R1之后,这家公司将能够获得数百甚至数千名顶尖人才加入其行列。所以……
我注意到芯片制造领域的行业协会表示,看,我们正在展望未来,我们看到了一种情况,即会有成千上万的硬件工作岗位没有被填补。我们国内根本没有人才储备。我们应该做些什么来解决人才问题?这不仅仅是关于硬件和软件。这是关于人的。
是的,绝对的。我的意思是,我们,你知道,我认为限制或关闭外国人才的大门在几个层面上都是有问题的。首先,正如马塞所说,我们需要这些人才。我们有《芯片法案》,该法案指出,我们将在家中进行制造、设计和许多其他工作,我们将投资资金来做到这一点。
但是,实际上要设计这些芯片的工程师会在哪里?这些工作不是你将从其他领域的其他工作中解雇人们,然后让他们来生产硬件或人工智能模型的工作。你需要经过大量培训的专业人员。所以,你知道,从某种意义上说,我觉得比市场表达的还要远,但我认为我们会同意
你不能阻止当前的渠道,但这还不够。为了弥补未来几年我们在硬件和我们将要创建的模型方面将面临的差距,我们实际上需要增加它们。明白了。我的意思是,塞巴斯蒂安,你提到了《芯片法案》。所以“芯片”是“创造有益的激励措施以生产半导体”的首字母缩写。
该法案拨款高达530亿美元,用于投资美国的半导体制造业。我们感到担忧,因为今天许多先进芯片的制造都在台湾进行,显然,这种情况存在地缘政治风险。因此,《芯片法案》的目的是将部分制造业重新转移到美国本土。
据我了解,大约330亿美元的赠款和55亿美元的贷款已经发放给23个州的48个项目。但这够吗?我们需要更多吗?我们需要加快速度吗?马克,你怎么看?
我会说集成电路设计有很多方面。到目前为止,投资主要集中在本土化制造上,考虑到你提到的地缘政治风险,这是有道理的。我认为在设计方面还有许多其他方面,以及如何获得……
有趣的产品通过这些制造设施,因为晶圆厂只是一件非常昂贵的东西,成本很高。为了赚钱,你必须在其中制造人们想要的产品。所以我确实认为,拥有设计人才和制造有趣的新电子系统的想法非常重要。我认为这也是一个需要思考和投资的领域。
你知道,当我们有研究人员时,我们所做的事情之一就是衡量事物。这是我们唯一能够评估我们是否在前进的方式。而这些法案中许多法案都有一个具体数额的资金。我认为,就像你说的那样,这个法案在2024年已经拨出了大部分资金。
但目标并不明确。五年后或十年后,我们希望在确保芯片生产方面达到什么水平?你知道,美国在90年代拥有世界上近一半的芯片产量。今天,它接近10%。而且其中大部分都不是最先进的。所以……
我们想回到90年代吗?我们把标准定在哪里?我认为对我来说,这需要成为讨论的一部分,因为这将决定你问题的答案。我们做得够吗?我们做得够快吗?好吧,目标是什么?在这些讨论中,这一点并没有在任何法案或行政命令中明确说明。
明白了。我还想谈谈最后一个战略层面,那就是能源问题。拥有先进的芯片很棒。拥有很棒的计算机很棒,但我们必须为它们供电。去年,微软宣布参与重启三里岛核电站的努力时,我感到震惊。它将签署一份为期20年的协议,从那里获取能源来
为其数据中心供电。美国应该如何考虑其能源战略与先进计算以及我们未来试图用半导体做什么之间的关系?
我认为,在对机器学习和人工智能的热切追求中,人们只是在谈论构建这些庞大的系统。我认为这是不可持续的。虽然社区可能想要一个数据中心来创造就业机会,但很少有社区想要建造发电厂。
虽然数据中心公司可能对核电感兴趣,但这项技术和这个行业的提前期非常长。所以我预计未来十年核电不会真正产生重大影响。
所以在接下来的十年里,我们必须处理现有的能源基础设施。电力将限制我们能够进行的计算量。过去,作为摩尔定律的一部分,计算也变得更节能了。因此,随着规模的扩大,你不仅获得了相同成本下更多的计算能力,而且还获得了几乎相同功率下的计算能力。太棒了。你用相同的成本和能源获得了更多。
电力问题很久以前就发生了变化。我们失去了它。这从根本上将限制我们能够进行的计算。因此,我们需要构建更高效的算法,因为我认为,你知道,如果你只是推断,你会推断出数据中心最终将消耗,你知道,50%的电力。我认为不会发生这种情况。
仅仅从经济角度来看,我认为这是不可行的。所以其他事情将会发生变化。我们不会像人们所说的那样快速扩展计算。太好了。我们从摩尔定律开始,我们以摩尔定律结束。完美。我们还剩大约一分钟的时间,我只想快速进行一轮闪电提问。如果你必须选择一位计算史上的名人共进晚餐,你会选择谁,为什么?塞巴斯蒂安。
这是闪电轮,我觉得我并不像闪电一样快。我不像闪电一样快。马克,你想先来吗?是的,我会选择图灵。艾伦·图灵。艾伦·图灵。为什么?图灵是密码破译者,在计算理论方面做了早期工作。一个非常有趣的人物。我很想和他聊聊,更多地了解他对……的看法。明白了。塞巴斯蒂安,有什么想法吗?
好吧,我认为有很多图灵奖得主我想见。从最近的一轮开始,我认为如果我能见到哈萨比和辛顿谈论人工智能,我认为这将是一种荣幸。所以是德米斯·哈萨比和杰夫·辛顿,他们刚刚因涉及人工智能的工作而获得了诺贝尔化学奖和物理学奖,对吧?没错。太棒了。你最希望看到但你的手机上现在还没有的一个有用的应用程序是什么?
我最希望看到的应用程序是一个能够告诉我何时会犯我经常犯的非常愚蠢的错误,并在稍早一点的时候警告我的应用程序。我不知道如何创建这个应用程序,但我希望拥有它。一个个人错误预测器。这就是马克所说的。个人错误预测器。太棒了。太好了。
无限存储还是无限处理能力?你会选择哪个?不,你不能协调共享。塞巴斯蒂安?当然是处理能力。是的,马克?是的,我也会选择处理能力。哇。好的。我会拥有所有存储空间。
太好了。不幸的是,我们没有无限的时间,但非常感谢你们今天加入我,并进行了这次精彩的对话。谢谢。很高兴见到你,马克,感谢你邀请我们来这里。很高兴和你聊天,塞巴斯蒂安,感谢你邀请我,马丁。
有关本集中使用的资源和更多信息,请访问cfr.org/the-interconnect并查看节目说明。如果您有任何问题或建议,请通过[email protected]与我们联系。要阅读2025年斯坦福新兴技术评论的新内容,请访问setr.stanford.edu。这是S-E-T-R.stanford.E-D-U。
新兴技术正在改变国际关系和我国的经济。那么,我们如何将科学工程实验室与华盛顿和商业世界联系起来呢?