AI工廠新浪潮：台灣不只做硬體，更能打造「智慧製造」的全球神經中樞？| 思想實驗室 Video Podcast ep31
27:14 Share

今年暑假来北艺中心开启你的儿童模式吧 2025 台北儿童艺术节 6 月 28 到 8 月 2 号有超精彩的戏剧音乐剧互动体验让大人小孩一起玩艺术追故事听音乐看表演这不只是孩子的艺术节每个人都可以尽情参与玩出属于自己的夏日冒险艺术为每个人而开快搜寻台北儿童艺术节整个夏天都好玩

我是國威 歡迎收看思想實驗室最近 AI 工廠這個詞你一定不陌生特別是揮打的黃仁勳幾乎是走到哪就講到哪但這個 AI 工廠它真的只是一個新潮的比喻嗎還是它背後有什麼更深層的盤算呢

我必须说如果你现在还以为灰达只是为了要卖更厉害的 GPU 那就真的是太小看他们了也小看了这场真的点燃战火的全球 AI 竞赛因为已经不只是黄仁勋在讲所有人都在讲灰达端出来的 AI 工厂其实不是一个单一的产品它是一套从晶片硬体系统高速网路一路到上层的软体平台开发工具

甚至是幫你客製化 AI 模型的專業服務全部包到好的全家餐他們的野心非常的清楚就是要重新定義智慧是如何被製造出來的

好 这可不得了当制造智慧可以像是工业化生产线一样去被复制被规模化的时候这就不只是一场技术革命更直接牵动了国家级的竞争力尤其是美中这两个大国早就已经把 AI 当成是下一个世代的战略制高点在拼了对不对那问题就来了在这场由辉达点燃全球列强都不想输的 AI 军备竞赛里面

台湾在全球的科技供应链当中特别是挥达 NVIDIA 生态系里扮演着关键角色的我们在面对这一套 AI 工厂全餐的方案里面我们是能分到一杯羹还是会被这股巨大的浪潮给淹没变成一个强权角力下的牺牲品这就是我们今天思想实验室要一起面对的一个既充满机会却也让人不得不感到焦虑的现实

好我们正式进入今天的第一部曲我们一起来拆解辉达这个 AI 工厂帝国究竟是什么名堂首先我们要搞清楚辉达他们谈的 AI 工厂跟我们以前一般认知的资料中心 Data Center 什么数据中心这个有着本质上的不一样

NVIDIA 官方的论述非常的清楚 AI 工厂的设计目标不是像传统资料中心那样只是去储存资料跑跑预先写好的应用程式不不不黄立勋说了 AI 工厂是制造智慧的地方

那它的原料是什么呢就是资料跟电力它产出是什么呢是珍贵的资料 Token 那这些 Token 可以被重新组合成各种有价值的 AI 模型甚至是音乐文字影像科学研究成果等等这个制造智慧的过程不是静态的

那輝達強調 AI 工廠是用來即時生成跟演化軟體的他會隨著資料進來不斷的進來新的模型被訓練出來而不斷的演進

就是一个活着的有机体所以 AI 工厂的根本任务就是把制造智慧这件事情从过去那种实验室里头小规模的探索升级到一个工业化规模化生产的层次这就非常有意思了当智慧本身都可以被当成一种工业产品来大量制造的时候这对一个国家对一个产业的竞争力来说到底意味着什么我们现在都可能还认为这些模型就是一些

研究室 實驗室或是現在什麼 OpenAIGoogle 這些公司在做的沒有接下來是工廠化 規模化每一家公司都要做我認為這背後其實隱含著黃仁勳的一個核心觀點就是智慧及國力在哪個時代掌握了最先進的生產力誰就掌握話語權過去是蒸汽機是電力現在

辉达告诉我们是制造智慧的能力这就不难理解了为什么 AI 工厂现在这个概念一提出来马上就跟中美之间的科技战跟全球的 AI 军备竞赛紧密的联系在一起辉达那么大张旗鼓的要推动 AI 工厂他们的战略意图当然不只是想要多卖几张 GPU 那么简单他们的核心愿景是透过 AI 工厂来推动全球经济结构甚至是社会文化的巨大变革

长远来看呢挥达的目标是让每一个企业甚至每一个有创新需求的个人都能够接触跟利用 AI 工厂的强大能力或者至少能够分时共享它的一部分资源为了达到这个目的呢 AI 工厂被赋予了两个核心的职责第一个是训练基础模型也就是用海量的资料跟强大的算力去开发那些能够提供深刻洞察的底层 AI 模型第二

那第二个呢就是在这个基础模型之上呢不断的进行推论新答案也就是把新的资料新的问题丢给这些模型让他们产生新的 Token 新的解决方案那也就是我们现在每天都在做的事情那更重要的是 NVIDIA 它一直强调 AI 工厂要把过去被企业视为大家注意了要把过去被企业视为成本中心的 IT 基础设施

转变成一个能够创造价值的利润中心这个在企业经营上是有很大的差异的如果你有经营企业的话你应该可以了解以前这些都是成本我要越省越好现在这个 AI 工厂它是利润中心它是可以赚钱的所以这就像制造业的工厂一样它的价值是用产量跟效率去衡量的不是靠省钱

所以 AI 工厂的产出就是洞察与行动这些就是它的产出而这些最终都能转化成实实在在的商业利益所以你看辉达这一步旗下的非常大他们不只是想当 AI 硬体的领导者更想成为 AI 时代制造智慧全新产业的游戏规则定义者甚至是基础设施提供者

就像是过去工业革命的时代一样谁掌握铁路谁掌握电网谁就掌握了经济的命脉 AI 工厂就是挥打眼中下一个世代的工业革命基础设施

那问题就来了当制造智慧成为衡量一个国家甚至是一个企业核心竞争力的标准而挥打又几乎是把打造 AI 工厂的整套作业系统跟工具包都准备好甚至在某种程度上开源给全世界的时候这对我们台湾究竟是天上掉下来的馅饼还是手中的烫手山芋呢

好 那我们拿到了这把能够开启智慧制造大门的钥匙我们是用它来瞄准千载难逢的机会把自己提升到一个新的层次还是会因为准备不足或是犹豫不决而不小心被这把钥匙所伤甚至引火上身

特别是当我们的对岸中国同样也意识到了智慧及国力这个硬道理并且请全国之力想要在这股 AI 浪潮中摆脱对西方技术的依赖建立自己的 AI 工厂体系的时候那你留给台湾思考跟布局的时间老实说真的不多那这场竞赛的枪声呢早就已经响了

好 我們理解了 NVIDIA 輝達現在想用 AI 工廠來製造智慧甚至重新定義國家競爭力的野心那他們手上到底有哪些軍火敢那麼大聲說話呢首先我們大家都知道在硬體層面他們最核心的武器當然是他們不斷突破極限的 GPU 像是最新一代的 Blackwell 架構 GPU

那 NVIDIA 呢宣称它的 AI 运算能力又比上一代有了好几倍甚至几十倍的飞跃那大家有空可以去看三月的 GDC 大会或者说接下来五月的它的发布会在 Computex 的上面的演讲这种算力上的巨大鸿沟呢直接就拉开了与追赶者之间的距离你想想当你的引擎比人家强那么多代的时候这场比赛呢

人家還要怎麼跟你比而且不只是單顆 GPU 厲害而已揮打更厲害的地方是他們打造一整套讓這些 GPU 能夠高效協同作戰的系統級武器比如說他們獨家的 MV-Link 我們之前也聊過了高速互聯的技術

就像是為了 GPU 集群量身打造的超高速神經網路能夠讓成百上千顆的 GPU 緊密的連結在一起共同處理一個極其龐大的 AI 模型這種系統級的效能不是簡單的把一堆 GPU 堆在一起就能實現的而且他們還把這些頂尖的 GPU CPU 他們自家也有 Grace CPU 還有高速網路甚至是夜冷散熱系統通通都整合到一個標準化的超級電腦裡面

例如說大家熟知的 DGX 系統還有更驚人的直接以整個機櫃為單位的 GB200 NVL-72 這樣的解決方案這些整合系統就像是輝達為各國各企業打造的標準化 AI 軍火庫讓大家可以快速部署迅速形成 AI 戰鬥力就很像是美軍賣給我們的海馬式火箭一樣就直接加速了全球 AI 基礎設施的軍備競賽

当辉达把门槛设的那么高也就是用这种打群架的系统级方案来竞争的时候那些想要在硬体上自主可控特别是像中国这样的追赶者来说正是你站在华为的角度你也会觉得说真的是很辛苦这场仗真的是很辛苦

因为他们要面对的挑战不是只是单点技术的突破不是说今天我就毛起来我真的就 7 奈米的晶片做出来你毛起来我这个真的 HBM 做出来真的不只是这些突破是全面的要突破所以你要追赶的是一整个系统的生态

真的是不容易如果只是有强大的硬体当然是不够的回答真正可怕的地方是他们建立了一套几乎可以说是从头到脚把开发者跟使用者都包起来的软体生态系统这个才是他们 AI 工厂真正的护城河

最底层也是最重要的是 CUDA 这个平行运算平台在范科学上我们之前也做过一集大家有兴趣可以回去看它让开发者能够充分利用挥达 GPU 强大的运算能力发展了那么多年 CUDA 已经成为了 GPU 加速的事实标准

绝大多数的 AI 应用跟框架都得跑在 CUDA 上面你想想看当所有人都习惯用你的工具用你的语言来开发程式的时候要换到别的平台那个转换成本有多高这也是 AMD 包括华为在内这些公司现在最大的挑战 Intel 当然也是

在这之上辉达还提供了一整套名为 NVIDIA AI Enterprise 的企业级 AI 软体平台这里面包含哪些包含了各种预先训练好的模型开发工具 弹饰库还有像是 NIM 这种能够快速部署 AI 模型的微服务目的就是要让企业无论大或小都能够更简单更快速开发跟部署自己的 AI 应用

更有意思的是他們還有像是 NVIDIA Omniverse 這樣的平台不是只是能做酷炫的 3D 設計跟模擬絕對不只是這樣

NVIDIA 现在是把它用来设计跟运营 AI 工厂本身你可以在虚拟世界里面先把整座 AI 工厂的布局散热电力都模拟好没问题了再实际动工那这种虚实整合的能力呢又是一个竞争门槛事实上这也是 AI 工厂最重要的一个部分就是你实体的工厂然后另外还有一个 AI 工厂这个 AI 工厂呢它要获得数据其实就来自于这个实体工厂

如果说都得要靠实体的数据才能训练了那也不够所以要有个 oniverse 就是基本上就像大家现在常听到的数位软身 Digital Twin 一样把整座工厂的数位复制到这个世界里面让他来学习让他来运作然后找出问题最后还有 NVIDIA Mission Control 这样的管理平台它就像是 AI 工厂的一个总指挥室负责监控跟调度整个 AI 工厂的资源跟运作

一個儀表板所以你看從硬體的晶片系統到軟體的開發平台管理工具 NVIDIA 幾乎是提供了一種一條龍全包式的解決方案這種策略對於想要快速建立 AI 能力的企業跟國家來說當然非常有競爭力但反過來說

一旦你上了 NVIDIA 这艘大船你要怎么下船就像库拉皮卡一样下不了船当你深度的使用他们的整套技术生态想要转换跑道的难度恐怕也是非常高这对台湾来说我们身为 NVIDIA 重要的供应链伙伴当然是进水楼台我们一定要好好的来利用但同时我们是不是也该思考

在这样一个由单一巨头高度整合的技术体系下我们自己的产业韧性跟自主性又该如何保持跟提升尤其是当全球都越来越依赖这套军火库的时候台湾的角色除了提供零件还能是什么

好我们了解了 NVIDIA AI 工厂它实际的硬体军火库跟软体互成合之后我们接下来要看的是这条智慧生产线它实际上到底是怎么运作的又如何在分秒必争的 AI 竞赛中来决定胜负

根据 NVIDIA 的规划 AI 工厂的运作可以看作是一个高度自动化的端到端流程最近大家应该很常听到端到端不管是自驾车还是 AI 工厂一切都从资料准备开始包括收集清理转换各种原始资料确保未给 AI 模型都是高品质的粮草

然后进入核心的模型训练跟模型微调阶段通常需要在那些搭载了几百甚至几千颗 GPU 的超级电脑上日以继夜的进行运算模型训练好之后还得透过像是 NVIDIA TensorRT 这样的工具进行推论优化

让模型在实际应用时反应更快效率更高最后再把优化好的模型部署到云端企业内部甚至是边缘的设备上我们最近常讲边缘 AI 来提供实际的 AI 服务

但这还没完 NVIDIA 还特别强调一个叫做资料飞轮 Data Flywheel 的概念意思就是说 AI 工厂不是一个一次性的建设今天盖完今天训练完部署完结束不是它是一个能够持续学习跟优化的系统新的应用数据新的使用者的回馈真实世界的互动结果都要不断的被回收到系统中用来改进 AI 模型让它越来越聪明越来越能适应环境的

这就像自驾车现在可以越来越聪明是一样因为他在真实世界里面不断的在学习在收集资料

所以你想一想这样一条从数据进来到智慧产出数据进来智慧产出再到回馈优化的一个完整生产线如果能够高效的运转起来那个迭代的速度跟学习的能力会有多惊人谁能够更快的建立起这样子一条自动化的智慧生产线谁就能更快的累积数据优化模型推出新的 AI 应用也就能在这场全球的 AI 竞赛当中抢得先机

我们看灰达你看他现在进步的那么快或者说像 Google Meta Amazon 你看这些公司现在进步那么快就是因为这样子好 问题就来了当全世界现在都在加速建设这样的智慧生产线的时候特别是当我们看到对岸的中国正在请全国之力想要在 AI 的各个环节从底层算力到上层应用都急起直追甚至建立起自己的一套标准跟生态系的时候

台湾的脚步够不够快或者说我们的脚步该往哪里踏才对我们的企业我们的产业有没有意识到这场效率跟速度的竞赛慢一步甚至错一步可能步步都慢步步都错 AI 工厂这个概念听起来很宏大不过我们大概听过他很多遍体比如说什么工业 4.0AIoT 物联网的工厂等等

那他并不只是停留在纸上谈兵并不只是说我今天在工厂里面加一大堆的感测器就结束了

世界上現在 NVIDIA 已經在全球各地跟許多不同的行業的領導企業合作把 AI 工廠的理念落地到實際的應用場景中並且開始產生實質的效益我們來挑幾個有代表性的例子來看就能更清楚的去感覺到 AI 工廠是如何在產業競爭中幫助領先者拉開差距一個經典的案例就是美國的汽車大廠通用機車 GM

根据 NVIDIA 跟通用汽车自己发布的讯息他们之间的合作非常深入一方面通用汽车采用 NVIDIA 的 Drive AGX 平台来开发下一代的自动驾驶系统这背后当然需要强大的 AI 工厂来进行模型的训练跟验证另一方面 GM 也利用了 NVIDIA Omniverse 这个数位软身平台 Digital Twin

打造他们汽车制造工厂的虚拟模型不只是汽车的模型是汽车制造工厂的虚拟模型然后把它变成一个 AI 工厂让虚拟模型在 AI 工厂里面去 run 就可以在虚拟的环境当中先把整个生产流程模拟过一次找出瓶颈优化布局甚至测试新的装配工艺一切的调整都可以在数位的世界里面先做一次都没问题了再实际应用到产线上

这种元宇宙般的世界现在已经真实的实现了这样做据说可以大幅的提升生产效率减少因为故障或是调整造成的停机时间你要做什么调整你就直接在数位的世界里面去改不用在真实的产线上去改所以你想想看当你的竞争对手已经能够在电脑里面就把整座工厂的运作摸得一清二楚甚至在产品实际生产出来之前就能透过模拟来预知可能发生的问题

而你还在用传统的方式一步一步试错慢慢调整更别说你可能连试错的速度还很慢甚至你还可能根本没有在试错那你们之间的效率差距会被拉开多大

那类似的例子也发生在医疗保健的领域 NVIDIA 也跟同样是 G 的这个 Healthcare 这样的医疗设备巨头来合作开发了具备自主能力的诊断影像设备影像这部分一向是 AI 现在运作起来最厉害的地方他们利用 AI 模型来自动执行像是 X 光定位拍摄超音波扫描这些复杂的操作

这背后同样需要 AI 工厂来处理大量的医学影像数据来训练跟最佳化这些 AI 模型这些国际上的成功案例其实都在给我们一个很强烈的讯号就是 AI 工厂正在实实在在的改变产业的游戏规则它不只是锦上添花它正在变成决定企业核心竞争力的关键要素

台灣的企業看到這些案例我想會不會心裡面有點著急如果我們不趕快思考如何導入 AI 如何實現工廠 AI 化在未來的全球競爭

当中我们的位置在哪里会不会连人家的车尾灯都看不到更值得警惕的是当我们看到这些欧美大厂如何用 AI 工厂来巩固他们的领先优势的时候中国的相关产业当然肯定都已经在做类似的布局了甚至在某些特定的应用领域又可以凭着庞大的国内市场以及政府的大力支持它发展的比我们想象的更快

不管是什么新职生产力中国制造 2025 这些都是我们在思考台湾下一步的时候不得不纳入考量的现实压力好我们回头看台湾在全球 AI 硬体的供应链特别是辉达的生态系里面台湾毫无疑问是最关键的心脏从台积电的先进晶片制造封装到鸿海广达这些大厂的伺服器组装台湾撑起了全球 AI 硬体的半边天

也创造了我们过去好几年的经济荣景灰打呢也多次强调台湾供应链的重要性并且在台湾呢有重要合作像是跟鸿海呢合作共同开发 AI 工厂那这个心脏地位呢在中美科技战的背景之下呢也让我们成为了潜在的火力集中点

美国希望掌握关键技术中国则力求晶片自主台湾就夹在中间压力之大可以想象我们常说的护国神山护国群山在 AI 时代究竟是更稳固了还是风险更高了这个我们也常常在讨论过去台湾在全球科技供应链当中多半扮演一个高效的硬体生产伙伴挥达定义规格我们台湾厂商在以最佳的品质跟成本来实现

但在制造智慧成为核心价值的 AI 工厂时代我们是不是也该思考一下能不能从被动配合转向更主动参与的角色例如台湾的厂商有没有机会不只是去代工 AI 伺服器更能够参与到 AI 系统针对特定行业应用的最佳化验证

甚至利用台湾在某些制造领域的深厚经验主动与辉达等国际大厂共同开发行业的解决方案如果我们能够从单纯的硬体供应者提升到能够共同创造 AI 应用价值的共创伙伴那台湾在全球 AI 产业链的地位才更难被取代否则啊

在这个关税战货币战的背景之下单纯的硬体制造优势在 AI 的快速迭代浪潮之下到底能维持多久的理线这是一个非常现实的警讯我们已经分析了辉达 AI 工厂的全球布局以及台湾的关键角色然而全球的 AI 竞赛特别是在中美科技的科技战背景之下对台湾已经进入了倒数计时的阶段

外部压力来自于中国他们在 AI 应用以及市场上老实说就如黄仁勋所说的并没有落后 Right behind us 而且力求建立红色供应链以减少对外的技术依赖此外美国虽然是台湾为供应链的伙伴却可能会限制我们的全球市场弹性让我们更深入大国博弈

老實說真的是沒有辦法的事情內部的挑戰我們自己就包括能源供應到底能不能支持我們的 AI 工廠需求高階 AI 人才的供應以及我們產業轉型的速度以及法規的環境能否跟上全球 AI 競賽的變化這些問題現在彷如錦鐘般一個一個響起是機會但也是危機當全球的競爭對手加速 AI 發展台灣還有多少時間可以觀望呢

这是一个严肃的挑战面对现在内外交迫的压力台湾的出路在哪里呢有没有可能在中国威胁论跟全球竞争的夹缝之中找到一条差异化的生存跟发展之路

那我觉得在 AI 工厂的大背景之下一个可能的方向就是把我们过去数十年在全球制造业所积累下来的深厚 knowhow 那些老师傅的智慧那些管理供应链的 DNA 这些比较虚的难以议会难以言传的东西

来结合 NVIDIA 提供的这些强大 AI 工具跟平台做一个深度的整合那我们的目标呢不应该只是去复制贴上别人成功的 AI 工厂模式因为老实说我们应该才是别人想要复制贴上那个模式所以我们应该要能够更领先的把我们的模式变成一个数位化的方案更重要的是能够发展出真正能够解决台湾产业痛点甚至能够对外输出的工厂 AI 化跟智慧制造解决方案

这个很有价值这里的关键词就是差异化因为每一个工厂都不一样我们要思考如何做出中国它短期之内难以复制的有高弹性有高附加价值的智慧制造服务注意了智慧制造服务比如说我们能不能专注在高阶复杂制成的 AI 优化在少量多样客制化生产的智慧排成

或者是在那些对品质对可靠性对资安要求极度严苛的利基市场来建立我们的独特优势这个就是中国现在大家也不放心让他们做的事情所以这就需要我们的企业特别是那些在各个领域的隐形冠军们我们不是说台湾很多隐形冠军吗好那我们现在需要这些新复仇者联盟来

assemble 一下来展现出更大的勇气跟更强的战力从过去那些比较偏重 OEM ODM 的代工思维转型成为能够提供智慧提供解决方案的服务型制造商然后说这就是台积电它的价值对吧当然这也极度考验政府的产业政策能不能精准的去支持这样的转型而不是头痛一头脚痛一脚或者只是跟风撒钱

好我们今天从 NVIDIA 的 AI 工厂谈起一路来分析了它的技术布局全球战略以及在台湾在其中面临的机会挑战还有竞争压力这一切都指向一个核心那就是 AI 工厂所带来的不只是一场技术的革新更是一场全球产业版图的重塑以及国家之间核心竞争力的重新洗牌那对台湾来说这不只是一个经济发展的问题更是一个攸关未来生存以及发展空间的关键选择

所以今天思想实验室的最后我想留给大家的是一个更根本的拷问在这场由 AI 所引领的充满不确定性又潜藏的巨大机遇的新工业革命中台湾我们到底是要满足于继续扮演那个最高效最可靠的世界工厂 2.0 继续提供全世界最好的硬体资源还是我们有更大的雄心也有更实际的策略去争取成为某个关键领域的全球智慧引擎 1.0

好我们要去被动的接受别人已经定义好的游戏规则还是我们有能力也有意愿去主动参与规则的制定甚至开创出属于我们自己的新赛道这场竞赛已经没有中场休息了我们已经在这个上面开始跑了所以台湾的每一个选择都可能影响未来几十年的命运 AI 工厂的浪潮已经以不可逆转的趋势席卷全球国际间的竞争也全面白热化对台湾而言我们必须做出选择而且要快

我是國威以上的問題就留給大家五年後十年後當全球談到 AI 工廠跟智慧製造的時候你希望他們如何談論台灣呢

那么你认为台湾在这波 AI 浪潮当中最应该抓住的机会是什么呢最需要克服的挑战又是什么呢你对台湾产业的未来有哪些期待哪些担忧呢欢迎在下方留言区写下你的看法跟我们一起进行这场思想实验如果你对于这个议题呢有更多好奇或更多想要了解或者说希望能够跟国一一起讨论的呢也别忘了订阅思想实验室我们下次再见