We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode E317. 英伟达创纪录 | 历史上的今天科技大事

E317. 英伟达创纪录 | 历史上的今天科技大事

2025/3/19
logo of podcast 创新灯塔

创新灯塔

AI Deep Dive AI Chapters Transcript
People
西
西娅
Topics
@西娅 :我今天要谈论的是英伟达在2025年NVIDIA ACTA大会上发布的重大消息——他们的Blackwell DGX系统在DeepSeaCar 1大模型推理性能上创下了世界纪录。通过将硬件和软件结合,特别是Blackwell架构与TensorRT软件的结合,英伟达成功地将DeepSeaCar 1(6710亿参数)模型的吞吐量提高了大约36倍。在配备8块BlackHorse GPU的单一DGX系统上,该模型实现了每用户每秒超过250个Token的响应速度,系统最高吞吐量突破每秒3万个Token。这其中,TensorRT软件和FP4精度在DGXB200和DGXH200平台上的应用,也为推理吞吐量带来了3倍以上的提升。 此外,我还想回顾一下历史上今天发生的一些重要科技事件。1916年3月20日,德国进行了世界上第一次空对舰导弹攻击,标志着现代导弹技术的诞生。1954年3月20日,美国科学家成功进行了核聚变实验,为后来的核聚变能源研究奠定了基础。1969年3月20日,美国宇航局发射了阿波罗9号,为阿波罗11号登月任务铺平了道路。1984年3月20日,苹果公司发布了具有划时代意义的Macintosh个人电脑,它使用了图形用户界面,对后来的计算机发展产生了深远的影响。1999年3月20日,美国宇航局尝试在火星极地地区着陆,虽然最终失败,但也积累了宝贵的经验。2004年3月20日,斯皮策太空望远镜发射升空,开启了人类对宇宙的红外观测。这些事件都展现了人类在科技、科学和航空航天领域的辉煌成就,也激励着我们继续探索未知,永攀科技高峰。

Deep Dive

Shownotes Transcript

今天的节目将聚焦于英伟达在NVIDIA GTC 2025上的重大宣布,其NVIDIA Blackwell DGX系统如何创下DeepSeek-R1大模型推理性能的世界纪录呢?通过硬件与软件结合,英伟达怎样成功将DeepSeek-R1 671B模型的吞吐量大幅提高约36倍?Blackwell架构与TensorRT软件相结合又为何能显著提升推理性能?接下来让我们来解锁这些商业科技动态吧

00:00:51 英伟达创大模型推理性能世界纪录及历史今日要事 

    本期主播:西娅

    后期:西娅

    收听平台:小宇宙、喜马拉雅、Apple Podcast 等。

    如果喜欢我们的节目,欢迎点赞评论转发。

We're sunsetting PodQuest on 2025-07-28. Thank you for your support!

Export Podcast Subscriptions