超級智慧競賽，是國力加速器，還是毀滅倒數計時器？| 思想實驗室 Video Podcast ep28
31:12 Share

今年暑假来北艺中心开启你的儿童模式吧 2025 台北儿童艺术节 6 月 28 到 8 月 2 号有超精彩的戏剧音乐剧互动体验让大人小孩一起玩艺术追故事听音乐看表演这不只是孩子的艺术节每个人都可以尽情参与玩出属于自己的夏日冒险艺术为每个人而开快搜寻台北儿童艺术节整个夏天都好玩

如果中国的 AI 比美国早 6 个月也就是半年达到了超级智慧的程度也就是超越所有人类智慧总和的那种 AI 那你猜美国该怎么做呢

这个问题不是我乱问的提出这个设想的是 Google 的前执行长 Edward Schumacher 在媒体上通常被翻译成施密特他在最近的一场公开访谈当中非常直白的抛出了让人背脊有点发凉的可能性那就是美国会不会动手去轰炸中国的资料中心呢

听起来有点疯狂对吧好像战争电影要开演了但他不是在开玩笑他用了一个好人 vs 坏人的比喻那当然他假设美国是那个领先的好人而中国呢是那个紧追在后的坏人那这是他的比喻大家先先接受这个前提那他说

AI 这个领域有强烈的网络效应 Network effect 我想大家应该听过这个说法也就是领先者很可能拿下不成比例的巨大优势比如说他可以垄断全世界 90%的智能在这样情况之下如果你是只差一步的追赶者

哇这个眼看对方就要赢者全拿了你会不会因为对这个巨大的落后焦虑而采取一个极端的手段反过来说如果你是领先者那你会不会为了阻止对手追上而先下手为强呢那他甚至提到了当年苏联花了四年才复制出原子弹那如果有看澳本海默这个电影的话应该对这一段记忆深刻

但 AI 可能不是这样子这个领先者的优势他一旦建立可能是更难撼动的所以当那个超级智慧那这边其实他们的用词就是 ASIArtificial Super Intelligence 当这个超级智慧诞生的时刻越来越近那落后的那一方可能会越来越坐不住

这已经不是科幻小说了这是站在一个全球科技跟国家安全交叉口的人施密特他同时也是美国很多安全国防的重要会议的参与者他自己也是现在也从 Google 离开之后现在也已经变成国防业者了那他亲口说出的一个真实焦虑

所以当 AI 已经不再只是聊天机器人不再只是商业的工具而是变成足以颠覆全球力量平衡攸关国家存亡的战略武器时已经跟原子弹跟氢弹同等级的时候那这场美中之间的 AI 超级智慧竞赛它的终点线旁边会不会就放着那个毁灭世界的按钮呢

各位好 我是国威 欢迎收看思想实验室今天我们要一起做的思想实验就是从施密特他惊悚的提问来出发这场由美国跟中国领跑全世界都被卷入的 AI 超级智慧竞赛它究竟是在为各自的国力升级铺设一条高速道路呢还是在不知不觉当中启动了一个可能失控全球性的毁灭倒数计时器

在国家利益的巨大诱惑以及全球共同风险的阴影之下我们到底该如何思考这场竞赛的本质与未来首先我们要问的是为什么这场竞赛在本质上会导向零和博弈为什么领先者会要忍不住赢者全拿呢

这个斯密特呢点出了一个关键就是 AI 技术的网络效应 Network effect 那这跟我们用社群软体很像像一个东西越多人用它就越有价值你想电话就是这样嘛如果当今天电话只有一个人家里有电话那这个电话就没有价值两个人家里有电话这个电话稍微多一点价值等到 200 万的人有电话那这电话就越来越有价值好

社群媒體也是一樣的所以當一個東西越來越多人用最後越有價值他就可能一家獨大所有的價值都被這家給收割他說在 AI 領域會因為數據 算力 人才不斷的正向回饋領先者累積的優勢的速度可能會非常的快最終可能會佔據全球 90%以上的智慧份額聽起來有點嚇人

也就是 90%的智能掌握在其中一方的手里那是什么样的概念呢在访谈的时候回答他特别比对了原子弹的历史一开始苏联虽然落后美国四年最终还是成功复制了原子弹但是施密特认为 AI 的情况可能不太一样

在 AI 的情况一旦某一方率先达到超级智慧的临界点大家知道这是会指数型的增加的所以说当达到临界点后发者可能很难再追赶了甚至会永远失去追赶机会因为超级智慧自我演进自我进化的速度会非常非常的快

那这种赢者全拿的可能性就像一个巨大的磁铁它牢牢吸住了每一个参与竞争的国家你想想看假设你是美国那你好不容易在 AI 领域领先了那你会甘心被别人超越吗你会不会想尽办法维持这个优势甚至扩大这个优势呢这不仅仅是商业的利益更是国家的安全还有全球话语权的一个问题

反过来看假如你才是追赶者比如说中国好了你看到美国似乎要永远把你甩在身后你永远都追不上甚至利用 AI 的优势来压制你你又会怎么想呢你会不会感到巨大的生存威胁在这种压力之下会不会更倾向于使用一些非正规的手段来追赶

像是我们常听到的包括窃取智慧财产权或发动网络攻击等等那史密特他在访谈里面也提到了这些可能性

那这就形成了一个非常危险的结构性冲突也是领先者为了要保住他的地位可能会越来越封闭越来越想打压对手而追赶者他为了生存也会越来越不择手段越来越激进那双方的这种不信任感螺旋不断上升在这种情况之下合作透明建立什么共同规范听起来这些很理想的东西实际上可能根本做不到

那我原本还比较天真的认为尽管这个科技竞争科技竞赛越来越激烈但总是有合作的空间大家可以一起把柄捉大但是听完史密特的分析特别是他站在一个现在是美国

重要的咨询对象而且也参加了很多很重要的国防秘密会议的这样的一个人士的分析呢我开始怀疑 AI 这个领域的特性是不是从一开始就注定了它是一场有你没我的残酷赛局就像两个人在悬崖旁边赛跑那跑赢的那个人呢

可以把对手推下去独占整个世界那在这种规则之下你能期待他们跑到一半停下来握手言和吗或者说赢者全拿这个巨大的诱惑本身是不是就已经从先天上从预设上就埋下了冲突的火种

那谈到现今的美中 AI 竞赛呢就不能不提已经打得火热的晶片战争你看从能源打到硬体然后再打到软体那美国呢试图透过严格的出口管制呢卡住中国取得高阶 AI 晶片的管道但问题是这场管制它究竟是延缓对手保护自己的安全阀还是反而去刺激了对手变成了绊住自己的石头这其实两方呃

两种立场都有人支持那施密特在访谈当中他对这个问题的看法其实有点矛盾或者说他看到了现实的一个复杂性他提到说他和其他一些人曾经努力推动这些晶片管制而且他曾一度认为这些管制在他看来大致上是有效的

但是目标很明确就是我透过管制这些晶片科技来拖慢中国发展 AI 的速度来确保美国在关键的算力基础上保持领先他在访谈的时候话锋一转他就问说中国是怎么绕过去的呢

他也承认说一部分是靠直接的窃取跟规避关税但另一部分更重要的是中国也够聪明他们开发出了新的演算法例如 DeepSeek 他们可以用不同的计算方式来推进 AI 换句话说你卡住了我走大门的路那我就自己挖地道了或者是发明一个新的交通工具

更有意思的是施密特提到说中国在 AI 领域因为某些原因或许是被逼或许是策略的关系采取了更多开源的模式

当然开源的定义如果要详细讲的话这个有点麻烦有的是开放权重但并没有开放所有的训练资料也没有开放完整开源底下所定义的所有的东西但是有的的确包括像 TIPS 它就是开放了权重这也是很重要的也就是说中国把软体把演算法公开出来让大家都能用这种开放性加上可能的技术窃取也让一些关注 AI 未来发展的社群跟研究者描绘出更令人不安的场景

我们这边可以提一个最近在网路上引起不少讨论的例子叫做 AI2027 这不是官方的计划而是一个由关注 AI 风险和未来的非盈利组织还有思想家们所推演出的假设性时间轴大家如果有兴趣知道到底是谁来做这些推演的话可以自己去搜寻一下那就包括 OpenAI 的前员工还有一些

经济学家还有一些其他各领域的专家他们就很像兵棋推演然后

虽然是推演但是他描绘了一个非常具体看似可能发生的 AI 加速发展以及地缘政治后果的路径引发了非常广泛的回响还有争议就在这个 AI2027 的情境里面其中有一个关键节点就是预测到了 2027 年的 2 月可能会发生中国偷走下一代 AI 模型他里面把 AI 模型叫做 Agent2

这样的一个事件那这当然是一个假设但也精准的反映了一种真实的担忧就当技术本身难以完全被锁死的时候单纯的硬体管制效果可能是非常有限的而中国的开源模式呢事实上现在还带来两个比较讽刺的结果第一个结果就是美国人呢

或者说其他地方的人反而是立刻把中国开源的好点子拿来用了那史密特甚至半开玩笑的说非常感谢中国你们发明了好东西我们立刻就整合进来了其实大家也可以看到在 SIG 推出之后突然各家的模型都把思想的 Chain of thought 的过程都丢出来给大家看大家有没有发现这个很有趣的事情有没有发现这个蛮不错的

逼迫这个 OpenAI 逼迫 Google 啊 Gemini 啊都把这些压箱宝马上丢出来但是

这听起来有点荒谬就是美国想要卡中国的脖子结果中国另起炉灶搞出来的东西美国自己也用得很开心当然我们也知道说 DeepSeek 它某方面也是建基在包括可能是 Lama 或其他这些开源的模型上面所以开源这个事情本身就最近也是让很多人在讨论就是说这样子的策略在 AI 这个竞争领域上面会不会有点太天真

会不会太天真因为假设它是一个零和赛局假设它就是一个在悬崖一边互相赛跑赢的人可以把输的人推下去的这种赛局开源是不是太天真好那第二个结果就是比较麻烦了因为中国的模型是免费的开源的所以关于中国模型技术的扩散问题

这边讲的扩散问题 proliferation 其实就像原子弹的制作技术这个工程的知识被扩散的话那就成了一个大麻烦全世界的开发者甚至可能包括一些美国不乐见的对象伊朗北韩等等他们都能轻易的取得这些 AI 技术施密特甚至坦承美国政府到现在还没搞清楚该怎么处理这个问题因为这是一个极度棘手的难题他就跟言论自由一样你很难去限制他

所以你看这就是晶片战争的矛盾之处一方面你的管制可能确实给美国争取了一些时间延缓了中国在特定硬体上面的进展但另一方面它也刺激了中国在演算法在软体层面另辟蹊径当然现在更不用说就是可能连硬体上也有些突破再透过这种开源模式跟可能的技术外流

不管是自愿的或是非自愿的加速了技术在全球的扩散带来了新的更难管控的风险这就像你想用一道高墙把对手关起来结果对手不但学会了飞檐走壁轻功都学会了还把设计图纸免费分享给全世界甚至连你自己都忍不住拿来参考把轻功的秘籍都分享给大家

那你当初花费那么大的力气盖这道墙的意义又何在呢那他真的是保护你的安全法还是反而变成了一个刺激对手进化刺激对手去练轻功同时结果又绊住自己手脚的一个绊脚石

那这场晶片战争是不是从一开始就搞错了方向那事实上这样的说法我们在当初美国开始实施晶片管制的时候呢就有听到了包括辉达啊包括台积电啊那时候其实都已经有说出这样的疑虑就是当晶片缺位的时候那它反而会去刺激中国离开这个生态系

自己去搞自己的那你反而更没有能力去掐对方的脖子那我觉得这就是一个战略的选择那我们现在看到的情况就是这道墙它是有很大的漏洞那除了晶片 AI 竞争的这个核心是什么呢我想大家都知道是人才

但吊诡的是就在美国声嘶力竭的要与中国竞争 AA 霸权的同时我们听到施密特用近乎愤怒的语气在痛批美国当前的政策当然他其实是蛮冷静的应该说内容蛮严厉但是语气蛮冷静的他说美国现在正在亲手摧毁自己最宝贵的资产也就是顶尖大学跟全球的人才库这是一个巨大的矛盾就仿佛一个人一边要赛跑一边却在自断双腿

史密特他在访谈中描绘的景象说实话有点触目惊心他说美国顶尖大学的研究计划现在都被迫暂停政府的科研机构都在裁员国际学生因为害怕被卷入街头的混乱美国治安问题所以选择不去美国或是干脆离开他甚至提到他上周在伦敦听到当地人说正在准备迎接那些因为无法忍受美国环境而回流的英国顶尖人才

注意是英国人美国最铁的盟友之一同时美国国内自己顶尖的科学家也开始寻找海外的工作机会被其他国家来积极挖角为什么会搞成这样呢?施密特指出一个关键原因就是美国政府对大学研究经费的打压特别是透过所谓的间接成本率技术性问题来卡关其实这也就是最近台湾的国会

在前陣子在煽動政府的預算也就是透過業務費的刪除來做出技術性的卡關同樣的問題在美國發生他認為美國政府聲稱大學濫用這筆錢是錯誤的這筆錢本來就是用來支持實驗室等基礎設施運作的他甚至直言說這看起來就像是對美國所有科學的全面攻擊

那这个事情事实上还在持续发生当中如果大家有兴趣的话可以去看一下三 star.org 他们持续有在针对川普政府上任之后对于美国

科研的一些攻击做一些报道跟记录这不是很奇怪吗美国之所以能够成为科技强国就是靠着二战之后建立起来的这种由政府支持基础研究大学进行创新然后创投公司跟企业家把这些创新商业化的这个体系对吧那斯密特强调呢美国之所以比欧洲富裕两倍这个是以 GDP 来看那就是因为更具创新能力而且创新的来源呢就是科技研发

连美国引以为傲的这个页岩油革命也是遵循同样的这个路径大家应该都知道美国从以前还在打这个波湾战争的时候那时候就是因为你的石油控制在中东国家手上所以你就被迫得去那边打这些仗但现在美国老实说其实就是在欧巴马任内的这十几年

它竟然成为了世界最大的油气出产地然后现在可以自给自足甚至可以供给全世界非常大的市场这其实是很难想象的事情这其实就是因为液盐油的开采技术获得了突破史密特就说为什么现在要把这种被验证成功的美国模式给自己把它拆掉呢

更荒谬的是后果他说大学因为害怕政府扣除经费第一个反应就是人事冻结想象一下一个顶尖的 AI 博士生他可能拒绝了业界高达两三百万美元甚至更高年薪的诱惑想要留在大学教书做研究为国家培养下一代人才结果他打电话给大学对方就说抱歉我们现在不能面试你因为我们的经费被冻结了被删除了

那他能去哪里呢他只能去业界嘛对不对那当然这对产业界来说是好事但对美国长期的基础研究跟人才培育在施密特的讲法里面就是叫所谓的 C-Corn 就是种子就是根本来说呢就是一个巨大的损失那些在职的年轻教授呢因为拿不到研究经费很可能也无法获得终身教职那他们的学术生涯呢就这样被毁了那施密特用了非常重的词他说这是

government stupidity 就是政府的愚蠢那是疯狂的是 madness 那造成的损害是 real damage 是真实的损害因为他那那时候受访的那个现场呢其实就有很多是学术界的这个观众嘛因为他应该是在一个大学的 AI 跟生意有关的论坛上面去做演讲

他甚至反问说我们正在对抗投入上兆美元也就是中国正在对抗投入上兆美元的对手而我们却在这里瞎搞不肯资助那些为我们发明未来的人有人就问他美国科学界是不是因为有 Q&A 的时间有人就问他说美国科学界是不是正在被掏空他也认为说这是大学教授们的普遍感受

那这就回到我们的核心问题就是国家安全跟开放创新真的只能是二选一吗好我们为了防范潜在的敌人防止技术外泄紧锁大门削减投入甚至赶手那些可能会帮助我们引走竞赛的人才

这像是为了怕小偷进门而把家里面那一只会下金蛋的鹅也给活活饿死这真的是明智的做法吗保护国家一定要以牺牲创新活力为代价吗这场人才争夺战美国是不是正在用最糟糕的方式让自己输掉呢

我们刚刚谈了很多美国内部的矛盾像是晶片管制的效果人才政策的智商但这场 AI 竞赛终究不是美国一个国家在打那史密特也特别强调要想在与中国的竞争中成功那美国绝对需要盟友但问题又来了美国现在对待盟友的方式真能够把大家团结在一起吗那史密特的逻辑很清晰他说现在华盛顿看待很多事情都是透过如何与中国竞争的框架

在这个框架之下美国要成功唯一的途径就是拥有合作伙伴那他点名了加拿大欧盟以色列韩国日本他没有点名台湾不过他演讲中的确有提到台湾不过这次他没有点名台湾他认为这些是美国最好的伙伴那为什么盟友那么重要呢因为这是一场规模化的竞赛

施密特很喜欢讲规模化他在整个演讲里面一直讲规模化因为他在 Google 工作那么久他的整个的职涯就是在一个可以被规模化的世界在电脑科学世界里面他认为最大的好处就是他跟其他的科学不一样他很容易被规模化所以 AI 也是这样而单打独斗在这种规模化的竞赛是很难赢的

他举了一个例子例如说日本最近开发出了一种新的 EUV 就是极紫外曝光机大家都知道这个在半导体制程当中非常重要以极紫外曝光机来说现在全世界也只有艾斯摩尔这一家公司能独门提供

那现在日本开发出了一种新的 EUV 可能更便宜可能更简单可能更有各种优点虽然他承认自己并不是完全懂这门技术但是这项技术起码是一个选项他可以去挑战目前由艾斯摩尔荷兰公司垄断的这种局面这对美国来说就是好事因为有竞争那美国在获取关键晶片制造设备的时候就有更多的选择那这就关系到国家的安全

他甚至感叹的说道感谢上帝有日本人 Thank God for the Japanese 就感谢上帝我们还有日本人这样你看连技术上的竞争对盟友来说都是互利的只要你们是盟友的话

道理很简单对吧但是我们都知道团结力量大所以盟友越多资源越多胜算越大但理想很丰满现实很骨感那斯密特紧接着就泼了一盆冷水他说在我们知道盟友的重要性之后他也必须要说但现在我们并没有这么做这是一个错误也就是说美国华盛顿现在当局并没有好好的在对待我们的盟友

那这句话的分量很重这意味着在斯密特看来美国当前的做法并没有有效的去维系跟恐怖这些跟这些盟友的关系那为什么会这样呢那访谈中可能就没有谈到就没有细说但我们可以合理推测那这就跟美国近年来越来越走单边主义政策

然后特别是川普他很强调贸易保护很强调关税很强调要把贸易逆差扭转过来的这种氛围甚至我们上一段也提到这也跟让盟友人才都感到不安的一种国内氛围有关包括我们刚才讲的对科研的打压对人才的贬低

这就构成了一个巨大的矛盾就一方面美国的战略精英们非常清楚打群架比单挑更有胜算尤其是在面对中国这样一个体量庞大的竞争对手的时候你面对这样的竞争对手你真的就需要打群架但是另一方面美国在实际行动上却可能因为短期的国内政治考量或是一种美国优先的思维做出了许多伤害盟友感情破坏彼此信任的事情

大家如果说你不信任美国哪有人去信中国老实说也不是不无可能你知道吗就是说台湾大概也是有人这样想其他国家也不排除比如说最近你会看到韩国的选举就

非常高的几率会选出亲中的政权所以像这种情况是非常有可能那这就像是一个球队队长他知道要赢球必须要靠团队合作但他天天在训练场上都在骂自己的队友在抢队友的球还制定一些只对队长自己有利的规则那这样下去队友们会心甘情愿为他传球帮他防守吗

当我们需要盟友来提供技术突破比如说我们刚才讲的像日本的 EUV 我们也需要盟友的市场来分摊研发的成本我们也需要盟友的人才来共同创新的时候却用一种可能让他们感到被利用而且被排挤甚至被伤害的方式来对待他们这不是很奇怪吗

所以回到盟友的价值这个问题我们都知道团结力量大但团结不能只是喊喊口号列几个伙伴的名字就够了还是需要拿出诚意的现在在实际行动当中要尊重盟友的利益建立真正的互信如果美国自己都做不到这件事情那凭什么期待盟友在激烈的 AI 竞赛上面能够坚定的跟他站在一起呢这是不是又是一个美国在赢得竞赛的道路上自己给自己设下的障碍

好所以今天呢我们跟着施密特 Google 前 CEO 当前非常在美国科技圈非常重要的一位人士我们从他的视角呢走进了这场正在加速的 AI 超级智慧竞赛那其实他在访谈当中他也提到几个重点首先第一个就是他认为现在有个所谓的旧金山共识就是说在湾区的这些人呢他们认为大概六年之内

我们可能会看到这个 ASI 的诞生也就是智慧超越所有人类总和的这种 AI 超级智慧所以这不是很未来很科幻的事情它就是未来 6 年之内它预测可能会发生的事情

而且在这之前我们会先获得所谓的通用人工智慧也就是 AGI 他认为就是在未来三五年之内就会实现随着 AI 的速度正在指数的加快我们可能就在 AI2027 预测的世界线里面正在一步一步的前进此刻我们看到一种巨大的诱惑就是 AI 作为国力放大器的潜力

这会让领先者渴望赢者权拿也让追赶者充满了焦虑跟不安全感同时我们也看到巨大的风险跟矛盾这场竞赛本身就像施密特所提出的惊悚假设一样内建了冲突的基因在某个时刻会因为误判因为恐惧不择手段而引爆了真正的灾难他甚至认为说中美或者说所有在这场 AI 竞赛里面的相关人士应该要有某种互相毁灭的保证

在彼此的主要的资料中心安装炸弹只要当对方正在获得 ASI 就是超级人工智慧的时候要有办法把对方炸掉那这其实有点像是我们的现在在核子世界里面的那种互相毁灭保证

那因为 AI 它就是具有这样的网络效应它具有这样子赢者全拿的特质那让我们困惑的是在这场攸关国家未来的竞赛当中呢我们看到领跑者之一的美国他现在不断地在做出自相矛盾而且自我伤害的行为而且这不是只是我们外界这样看人施密特他这是在局内人他这是在局内他都这样的感觉他会觉得美国现在一边喊着要赢一边在用很笨拙的晶片管制在刺激对手用短视的政策呢赶走顶尖人才

还用令人费解的方式疏远了本该团结的这些盟友这很像是一台自动驾驶的赛车目标是率先冲过终点线但是车上的系统好像不断在扯自己的方向盘偶尔还会踩下刹车同时还把旁边帮忙加油帮忙充电的队友给挤开把他撞走这要怎么赢

当然中国自己也没有做得多好了但是这该怎么讲的是不是史密特把这个关键的过渡期称为针眼问题 Eye of the needle problem 也就是我们现在在渡过针眼突破这个针眼我们人类必须要极度小心极度精确的来穿过充满风险的狭窄通道才能到达可能充满希望也更加危险的 AI 新时代

但从他访谈中流露出来的焦虑跟批评来看我们现在的走法似乎并不是那么的稳妥那么最后我想留给大家的问题就是如果这场超级智慧竞赛大家不要觉得还很远我们现在就在可能倒数 6 年如果他真的是一个巨大的国力加速器同时也是一个可能会失控的倒数计时毁灭倒数计时器身为在这个时代的我们

或者假设你是能够影响决策的人那你会怎么选择你会选择不计任何代价踩下油门全力冲刺只求比对手更快达到未知的终点吗即使这可能引发剧烈的动荡甚至冲突我们刚才有讲过了你是领先者你会觉得不想被后进者追上你是后进者你会担心赢者圈拿你也会做一些很难预测的举动

又或是说你会选择说要一起来试着寻找刹车放慢脚步呼吁国际社会共同制定规则即使这可能意味着你会暂时落后甚至失去先机然后说我觉得这是现在大家很担心的事情包括前阵子欧盟啊或是美国啊都有一些人在呼吁要设立一些 AI 的安全法然后呢要共同的去让 AI 发展是安全的但是呢现在显然包括

包括美国的副总统 Vance 他去欧洲演讲的时候就强调说这些都是断手脚他们现新的美国并没有要 follow 这套规则那显然现在就是要踩下油门要全力冲刺可是一方面又好像做了很多很难以理解的行为包括把对人才的排挤对盟友的打压这是一个没有标准答案的赛局那美国犯了很多错误中国也是

那台湾呢其实也在这个局当中好扮演一个很重要的角色那每一个选择呢都可能深刻的影响我们未来几十年甚至是几个世纪的样貌所以在这场关乎人类命运的竞赛当中我们到底还扮演那个加速者我是说台湾还是刹车骗我们有选择的余地吗

以上就是本集的思想实验室关于这场 AI 的地缘政治棋局你觉得该怎么下欢迎到我们的 YouTube 留言然后也分享你的看法或提出更多问题我是郭威我们下次思想实验室见拜拜