Deep Dive
Shownotes Transcript
我像大单狮大不出来大餐吃太多变成小夫婆了啦还好我有 Future Salad 全清高纤新沙拉饮天然蔬果制成高达 25 种营养素每包 32.7 大卡 低卡无负担 6 到 12 小时顺畅排空轻轻松松 一次全清点击资讯栏至 Momo 及曲程式实体门市购买吧消化到健康就交给全清高纤新沙拉饮
Sound on
所以我很想知道你在看這個全球的 AI 發展的局勢這個對抗又合作這個關係這台車車上的這個 driver 很悶車上的驅動城市對 車上的驅動城市你怎麼看然後台灣是在哪裡台灣是一個 Purely 的乘客嗎還是車上的技工還是什麼對 這問題很大但是
大概可以分成兩個方向來談一個是說大家還不是很確定
到最後做出如果是在數學上或者是物理上或各個方面越來越超過人類的理解就是它可以鑽到這個水下很深的地方那這樣子的 AI 你要讓它合乎人類社會的期待到底多困難這個是一個還不確定的一個問題就是你對其加上控制的這個程度科技 創新 娛樂各種新奇有趣都在寶國朋友說
嘿,你聽寶伯朋友說了嗎?哈囉,歡迎來到寶伯朋友說,我是葛如君寶我是我們今天這一集可能會決定台灣或世界的未來為什麼呢?因為我們今天真的非常的難得請到我非常仰慕而且也非常重視他的看法的一位超級超級貴賓我們要來聊 AGI,就是通用人工智慧
到底通能人工智慧真的要来了吗面对 AI 的发展台湾又应该怎么做要做什么那该如何去规划整体的战略是我作为公普以后到现在都还非常困惑的事虽然我自己有很多的想法但是政府有政府的想法民间有民间的想法产业有产业的想法美国有美国的想法欧洲有欧洲的想法
到底我們要走哪一條路線對台灣是最有利的呢今天我們真的很榮幸邀請到這位大來賓大家一定不陌生這一集不只很重要還要一起來開開腦洞想一想馬上就來歡迎今天的超級大來賓唐鳳唐部長
哈囉 很高興第三次來到這個節目對 這個剛剛我們才想說這個唐部長現在算是稍微脫離了公僕的角色但是呢 馬上他就遞給我一份名片沒錯 他現在算是一個無人所公僕
中華民國無認所大使從部長升級為大使而且英文名稱也很酷 Cyber Ambassador At Large 我是 Legislator At Large 我也是後來才學會這個翻譯不分就是照比例或照能力之類的
所以我想这个还是起底一下这个目前是中华民国无人手大使就是大使但是他没有什么特定国家或特定目的哪一个大使馆然后是出身台湾台北市的地球公民自由软体城市设计师以及政治人物曾经担任行政院政务委员数位发展部第一任的算是第一任部长国家资通安全研究院的董事长
是世界上第一個公開出櫃的部長級及以上的跨性別政治人物我們馬上滑入我們今天的議題 AGI 通用人工智慧我先講一下我最近看的一些消息
這個 Sam Altman 在前陣子也沒多久可能一個月左右他定了一個時間點他說幾千天 few thousand days 他已經就是那幾千天就是有一千天到九千天算了一下大概就是幾十年內那他是比較客氣跟保守了那有另外一位呢一邊打著 Diablo
一邊跟網友回答問題網友問他說通用行程工智慧什麼時候他一邊在過那個很難的那一關一邊回答說大概 2026 我想問一下曾經是速發部自己也是開發者也曾經跟很多世界級的科技公司合作你現在也在華府還有很多其他的地方你怎麼看這個說法
其實現在在矽谷大概三個主要的流派
一个就是我之前看竹子稿你也有说是有效的加速主义加速的时候就是踩油门把它踩到底那个流派的想法大概就是觉得说 AGI 它不只是要做到人类能做的事情而且要一路飙到所谓的 ASIArtificial Super Intelligence 就是比起人类组成的组织公司或甚至政府都要更有能力这个发展没有终点了这一个想法
那另外一个想法是之前 Vitalik 也上过这个节目嘛他是所谓 D slash ACC 意思是说
我们在发展的时候不是在意它通不通用应该在意它防守的部分跟攻击的部分优先发展防守的部分然后武器的部分好比像说核子技术用来做核弹的部分就先不要研发那用来做其他好的好比像说核磁噪影等等就优先研发所以这个如果是拿开车来比喻就是我们优先做方向盘就是做个排序对 做个排序去打方向盘
那当然有另外一派是说我们就先把刹车做好确保说大家先停下来六个月或先停下来多久那确保我们把这个对齐问题就是确保 AGI 它不会做出伤害人类事情的时候我们再继续往下做所以这个从油门到方向盘到刹车大概三个看法那我自己当然相信你也知道比较是转方向盘这一边的就是我会觉得说整个社会的准备程度才是主要的问题
在准备程度到之前就去发展超过这个的尤其是攻击性的部分那就会产生出像之前您有提过您很担心的大家会突然之间迷恋上这个 AI 或者是说如果迷恋上 AI 还要骗你钱那就更麻烦了
或者是太过信任 AI 对不对不小心指派了一个 AI 当无人所大使你现在是 Cyber Ambassador 未来是不是一定有 Artificial Ambassador 这里其实是有一个很有趣的就是因为我们很容易把 AI 女人化
所以像我做威猛我在秋金山常常做威猛你可以说你信赖威猛就是意思就是说比起一般的驾驶它比较不会出车祸但是你说你信任威猛那是完全另外一回事因为我们通常说信任的时候是说我相信你这个人的道德这个判断等等好像要跟你交朋友但是你去信任威猛到底是什么意思其实
不确定是什么意思你不知道你在信任什么东西对没错就什么就是一整套系统对你信任的是一个 system 对但是如果我们是说我信赖他意思是说我愿意了解到他的供应链里面没有哪一个部分会想要按算我等等这个是比较容易的所以把它当作工具的想法我觉得还是我们转方向盘的时候在这个阶段应该先持守住
我感覺你的意思是說你覺得第一可能還是很難去計算這個時間表就是說有人說幾千天幾千天如果說九千天的話可能是三十年內馬斯克是說兩年內
那这个现在已经 2025 了所以只剩下一年了那我的感觉是你觉得时间点就像巴菲特讲的 timing 是很难预测第二是你可能觉得 timing 也许不是这么重要而是这个世界准备好了没就是说如果在准备好之前就飙过去其实说不定就摔下悬崖啊你说人类灭亡是不是不是啊就是比较可能的其实是像我们之前 social media 的状况嘛
就是说大家觉得说大家连结起来很棒但是可能没有想到说很容易就出现说在上面会激化会激化对立等等的这些问题成瘾等等这些问题所以就是说在整个社会准备好之前就标到那个地方当然你说能力也许是可以开发到那里但是适不适合部署适不适合放到这个社会上这另外一个问题问题
我覺得剛剛我們都還在很理性的談所謂的通用人工智慧通用人工智慧其實是標注人類歷史的一個里程碑就是人類是不是製造出了一個比他更優異的思考
這個思考機器甚至有可能會創造比他自己更優異的思考機器所以大家一直在討論這個時間點我自己最近也在看很多書又有人開始提 Ray Kurzweil 講的這個起點他當時講的是 2045 有人後來計算說不定 2030 是 AGI
那我自己在看的書又開始在講 Sam Altman 或者是 DeepMind 的創辦人早期就在看那個 Blade Runner 然後 2049 看那個機器人流淚在雨中然後說我看過什麼天狼星雲的什麼他們其實對就是我們以前在科幻電影的時代我們自己已經在裡面
所以我想要再走稍微遠一點就是我們的好朋友蕭尚龍他之前在他的臉書分享了一篇 twitter 上面的一個有點像是一個思考文但是他又有一點像科幻小說就是 O3 出來的時候對然後我有一點被嚇到了我想要問一下這個我還是叫你部長就是說想要問一下部長這個
你的感覺是什麼就是說他在裡面講了一個有點匪夷所思的狀況他說因為現在 O3 的平均智商據說是 157 以算數學來講不是每一個方面算數學以算數學來講是 157 可是數學很重要然後估計很可能 O5 或 O6 已經 on the way 所以大家覺得超過智商 180 或者超過愛因斯坦的
AI 已經快要出現了的數學能力對的數學能力已經快但是因為數學太重要了所以他在那一篇文章裡面想像了一個我其實以前沒想過也就是說如果我們可以 deploy100 個或 1 萬個愛因斯坦那篇文章有一句話我嚇到他說數學即將再也不是問題也就是說有可能一群 AI
他可以然后他说符号学的世界就数学就是符号就好像解决西洋气量把它解决掉他就说符号对人类来讲很难因为我们要做很多空间的转换我们要做很多
人类过去的思考形式跟符号之间的 bridge 可是对 AI 来讲符号性的思考就是它本身的样貌所以它去解数学的问题难度对它来讲是线性就跟夏威夷一样对就是它因为不需要跟物理世界互动然后它就说有可能数学对 AI 来说再也不是问题所以物理
對數學來說可能也再也不是就所有計算性的 computational 除了可能需要量子計算的問題以外對於 AI 來說都再也不是問題然後我就會覺得
因為人類的科技的推進很多是靠數學靠這些基礎的科學然後又加上你看我們很多生物學需要做那個摺疊蛋白質現在 AlphaGo 跑去搞 AlphaFold 就是搞摺疊蛋白質然後就是 AlphaGo 的團隊 DeepMind 現在在搞的是 AlphaProof 就他們也在解數學問題然後就想像如果
數學再也不是問題我們這世界會變成怎麼樣我覺得人就可以飛起來我覺得我們就可以去黑洞旁邊
你覺得那篇到底在講的東西我們現在要去想嗎我們現在要去期待嗎要去擔心嗎我們要做什麼準備嗎這個就是我的問題對 這非常好的問題我覺得這個要分兩個講第一個是說剛剛不好意思打斷你但是就是這恰好可以證明說所謂 AGI 看起來是通用但它其實是分成就是完全符號世界的跟它還是要跟真實世界互動的 OK
那现在的这个像 O3 这个系列它有正确答案的跟符号世界互动的很容易就做到比一般的人类好甚至接下来比专家好甚至比一般的数学家好但这不表示说 O3 这个系列它可以就很容易的这个明白人情世故啊等等就是跟真实世界互动的部分它的 EQ 啊可能就没有那么高
或者甚至 IQ 里面它涉及跟正式世界互动的部分可能就没有那么强所以它会有一个先后这个就跟刚刚我讲转方向盘是很类似的就是说如果我们觉得说让它来证明一些数学定理或者是折叠一些蛋白质这些它在社会上面主要就是对社会有帮助的用法比较不会是造成大规模杀伤的这种用法的话我觉得这一部分就可以尽量的去发展了
那所以现在大家也在讲说那我们在很多 AI 的研究里面很多研究的部分它需要一些软体工程的技术好比像说你写一个 kernel 要最佳化它等等但这个是完全符号世界的东西几乎啦而且有正确答案所以这些细琐的事情也就可以用 AI 来自动化所以很可能最后呃
發展出來就是像我們這些學程式設計的可能程式的部分都交給 AI 設計的部分再留下來到我們身上我們變成只是當架構師沒有什麼別的需要我們做的事情對啊 已經有說那個程式大賽
AI 已經幹掉 99.9%的城市設計師了對 號稱什麼全世界第 170 幾年對 可是我腦海中想像的是一個小叮噹的世界就是說如果因為我是非常崇拜數學家的然後我就會覺得
所以會有一大堆 AI 像一萬個愛因斯坦每分每秒 24 小時在替人類社會工作那我們說不定可以解開重力的問題我們說不定就長生不老我們就可以有很多的藥可以來解決我們現在沒有辦法解決的疾病因為
我昨天才看到一篇超奇怪的文章说什么叫镜像生物就是说你的那个分子左旋右旋然后以前科学家很在想象一种跟我们的探机生物完全相反的一种新的生命形态科学家以前要研究的时候因为难度太高了维度太高了可是用 AI 来解的时候就可以
我那樣做出來後我們沒有免疫系統對對對對對那個是屬於 BioRisk 所以他們就說現在很危險所以現在生物學家因為 AI 太厲害他們感覺這個 battle neck 快被突破了所以現在一群生物學家集合起來說要踩煞車所以我想先問一個問題你真的覺得因為我數學沒那麼好你真的覺得數學有可能被完全就是說數學再也不是難題的這句話
成立吗就是他当然可能做到像我刚刚讲到城市设计这边的状态就是说像陶哲轩这样子的数学家到最后就变成是他用他的 intuition 用他的直觉他只要说这边去看这条思路去看那条思路但所有机械性的工作全部都是 AI 来做我觉得你这样太乐观了他的生产力就可以变得非常高
对不起我现在虽然是还是这个立委的公仆的身份你已经脱离了部长我们是不需要对立的但反而我们你之前是部长的时候我反而特别不想跟你对立所以我现在就可以跟你对立了原因是因为我觉得上一次人们觉得人可以靠直觉来获胜是 2016 17 年在围棋的棋盘上面人类一直觉得那是我们智慧的最后一道疆界因为我们有所谓的直觉
我们有神之一手结果在因为我看那纪录片看了八次以上就是那个阿发购的那个纪录片然后很抱歉 AI 也有神之一手有啊然后我们一直觉得人类的直觉可以比 AI 更厉害我们输了所以我觉得数学家的直觉我觉得还是赢不过所以你刚刚讲到陶哲轩的时候我刚刚并不是说陶哲轩的直觉比 AI 厉害
我是说他只剩下直觉就是说他的直觉因为他就像城市设计一样就是有往城市的那一面跟往设计的这一面往设计的这一面是往人所以陶哲轩的直觉让他可以把 AI 做出来的结果带回到人类社会里面来
但是像最近有一本书叫做创世纪 季辛吉他们写的它里面讲的就是说如果我们不靠转移的这一群人我们一下子就好像探到最底他是把它想成说像数学 物理 工程各个学门好像一座一座小岛我们这些做研究的就是有点像是在小岛的边缘往外推
但是其实从 AI 的角度来看这些小岛底下都是连在一起的但是他在那边说我现在得到了这个定理得到了这个定理他离我们比较远所以就是有一点带不回来这样子所以我觉得中间还是会需要有人把他带得回人类社会来变成对人类社会还是有意义的
我还是想要挣扎一下就是我觉得这个 bridging 的动作也可以是 AI agent 可以是一个 AI 的陶泽轩也可以是所以现在有一派的讲法就是说我们人类就慢慢都带上这个所谓的 exocortex 有这个 exocortex 就是大脑皮质外皮质外皮质带一带就比较大家都可以当这个 bridge 这也是一种想法
对有一个科幻小说很久以前推荐一下我们之后再 sync 我觉得讲到这里我必须要还是非常感谢你我觉得你您刚刚提到的这个方向盘刹车跟油门这比喻非常棒很容易理解好那我现在问题来了这个世界有很多人在开这台车对有我们赖清德总统
有我們的這個立法院也不只是台灣也有美國美國還有眾議院有參議院有總統有白宮這世界也不是只有美國跟台灣我們還有很多其他的國家有歐盟有非常多的地方所以我想要問一個我不確定你這個身份能不能廣泛性的回答但是我就問你就自己回答就自己決定要回答到什麼程度就是說
你覺得那這台車的油門就是說掌握油門的人比如說就我剛剛講的如果數學可以自己被 AI 發明驗證我感覺這台這個世界的推進力會開始半自動化對啊就煞車跟油門都變成 AI 在踩我覺得人可能會想要多踩一點煞車因為大家會叫叫叫會說不可以這樣不可以那樣
那也有人會覺得好 我不管你煞車油門怎麼搞反正前進的時候我要控制方向盤 對嘛那現在問題來了誰會踩煞車誰會踩油門誰會控制方向盤現在大家都想做啊台灣也想做我們說我們是 AI 世界的中心我們確實我們的工廠我們的科技公司
這個幫助製造設立了 90%以上的 AI Warehouse 那個引擎都台灣做的嘛然後呢這個但是美國現在有 OpenAI 有 DeepMind 有這麼多的科技公司有可能還有很多是我們沒看到的我最近在看一本書叫 AI 霸主遠見天下文化出的他在講 2015 年 OpenAI 跟 DeepMind 就在那個時候就已經開始在 compete 了
我现在回去看什么十年前就已经在搞了所以现在一定还有很多是我们现在看不到的公司正在扮演着未来很重要的角色很多很可能在矽谷很可能在巴士很可能在美国好可是中国大陆也有啊
雖然有人現在在講什麼 deep-seek 結果問到最後他說你好我是 Chad GPT 就用合成車要訓練就會變這樣嗎但是大家都想開這台車歐盟也想做他想要做煞車的主人對不對他想當這個以後你們怎麼搞我不管反正煞車版要煞車版就我們做的在我這可是你不要忘了全世界還有很多不同的類型的國家很多乘客有很多人在各個不同的地方
我想要問的就是美國 中國 或者台灣 或者其他地方你覺得在 AGI 誕生的過程裡面我講一個直白的問題誰會獲勝我為什麼要這樣問的原因是因為我這次要去美國參加川普就職
那我自己的感覺對不起我再多補充一點就是我覺得這一次的美國總統選舉為什麼這麼重要是因為這決定了美國接下來至少四年的科技政策他到底要開放還是超開放還是網保守我覺得他們某種程度至少選民做了一個決定不確定他們知不知道但總之決定做下來那我一直覺得這件事情跟
世界的或美中的或很多地方的 AI 的對抗或者是也許合作是有關的所以我很想知道你在看這個全球的這個 AI 發展的局勢這個
對抗又合作這個關係這台車車上的這個 driver 很悶車上的驅動城市對 車上的驅動城市你怎麼看然後台灣是在哪裡台灣是一個 Purely 的乘客嗎還是車上的這個機工還是什麼 對這問題很大但是大概可以分成兩個方向來談一個是說
大家还不是很确定到最后做出如果是在数学上或者是物理上或各个方面越来越超过人类的理解就是它可以钻到这个水下很深的地方那这样子的 AI 你让它合乎人类社会的期待到底多困难这个是一个还不确定的一个问题就是你对其加上控制的这个程度这条车到底会不会哪一天它就突然间你踩刹车没用了
对那这个是一个大问题这个问题先放一边另外一边就是说那我们多快会必须要回答这个问题这是两个轴线就是说他对其到底多困难以及他到底这个 timeline 就是他多快到达一个我们非回答这个问题不可的这个状况那如果对其问题很困难
那就是几乎你不可能驯化它那这个情况下任何你刚刚讲到的什么强权之间的争斗不管神赢都是 AI 赢了对都是人类输了有这个感觉对所以那就不是谁先跑到终点线而是谁先踩到地雷踩到大家一起死对那所以这个是这个轴控制的那另外一个轴控制的就是说好那如果这个很困难或者是没有办法堆砌那当然应该踩刹车嘛
但是我们多快会知道这件事情我们如果有多一点点时间好比上述有七八年以上的时间那这样的话大家合作是比较好的一个策略就是大家先去看这边对齐有没有问题那边对齐有没有问题然后一旦出现问题或出现小规模的灾难像刚刚讲到那个 BioRisk 对
还没有出现只要有可能出现赶快就通知大家等等所以这样子的话当然是一个合作比较好的赛局但是呢如果你好比像说两三年之内就要面对这个问题谁也没有机会去把社会准备好突然之间就会变一个竞争的赛局因为你就会赌说我会是第一个拿到的然后拿到 Super Intelligence 之后我赌他是可以对齐的
所以就是说快慢跟对齐容易与否决定这三种不同的策略决定大家在车上会打得多凶对没错那我可以问你觉得对齐难吗我先讲因为我在看了那本书我很讶异因为 AI alignment 我自己作为一个才疏学前的人我其实这一两年才听说的我想你一定更早那我书里面看的时候其实是 2015 到 18 年
系谷的这些什么 Peter ThielElon Musk 这个 Page 然后这些 DeepMindOpenAI 每天都在炒这个对啊我从 12 年就开始跟他们炒这个对然后我看这本书原来对齐这么早大家就在担心大家就在应对大家就在处理然后呢现在 Chad GPT 已经出来了大学生都在用 Chad GPT 写作业了
所以我那时候的我看这个书的时候我就所以对其好像也没有很严重啊因为那个年代他们很担心就是像 O1 或 O3 这样的东西出来的时候世界很可怕他们还用一个描述说人工智慧可能会逃窜到网路上他们那个时候自己把自己的这个 weight 权重拷到别的地方然后他们还有一个争辩就是说
AI 是虛擬的所以他永遠他的 disaster 或他的 risk 只會在虛擬世界然後 Elon Musk 有一次跟一個大師對談他說我忘記是誰了他就說這個不會只是虛擬的因為他還是可以控制我們逃到火星他就跟我們到火星你有看那段然後所以我就覺得
这个当年他们的担忧可是我们已经活在他们担忧的那个年代里了可是我们好像世界没有爆炸地球没有爆炸核子弹没有被 launch 然后 AI 没有逃窜我的 quotation 就是双引号没有逃窜出来所以感觉对齐不对齐好像想太多了吧你怎么看呢对就是说很多人是把
举一来说像做短影音这个社交平台上面的那个演算法对不对齐就是说对不对齐人类的利益对不对齐人类的利益当成一个问题所以这是分成两个部分一个部分是说你有没有发展出一个对人类整体社会有帮助的
有帮助的而不是有害的东西但另外一个是你刚刚讲到它会不会 out of control 就它会不会自己开始出现动机然后就就没有办法控制它所以这两个是不同的层面那很多人是觉得说包含我我们越能够去把这个比较软的这个部分把它对齐
就是把已经存在于人类社会里面的 AI 包含社群媒体的推荐演算法我们越有把它对齐的经验那我们就越知道说当它的能力越来越强的时候我们要怎么转这个方向盘我们如果连这个程度都解决不了
那这样子就是等他能力越来越强的时候那即使他不会自己把自己铐出去也不能说不会有这个黑帽骇客把他铐出去即使他不会自己跑去合成什么生物病毒你也不能说没有恐怖分子拿他去合成生物病毒只是说他不是自己做的
他是有坏人去拿去做可是造成的伤害损害是一样的所以我们在这边就是所谓的准备度就是要及早的发现就好像你开个车你有一个远照灯可以看前面到底是不是断崖然后跟把就是如果发现有这样子的对社会的损害或危害还不一定的损害赶快把方向盘就是转得动那这个我觉得反而是台湾可以扮演的角色
所以我马上就要进入下一段但是我觉得这一段我还有第二个问题因为你刚刚提到两个 scenario 就是车上的人打得凶不凶是依据不同的条件的就是说对齐到底容不容易以及我们还有多久才到那个十字路口那你刚刚有讲说两到三年这可能就是一个对抗的赛局七八年很可能就是合作的赛局这个我太感谢你我觉得这个非常清晰
可是我就必须问我不知道你的身份能不能讲你觉得是两到三年还是七到八年我觉得以目前的这个趋势看起来就是如果他在数学方面先达到超过人类的表现但是并不是在各方面都达到超过人类的表现那我们就有比较久的时间就七八年对那但是如果现在突然之间出现一个新的做法那不是我们现在这一套这个 test time compute
这样就很难讲因为现在 O3 这套做法有个好处它有一个叫审议师对齐就是你可以告诉他说社会对他的期待是什么然后他在出每一次回答的时候他会不断反复去确认有没有符合社会期待但已经有人说他会唬烂他会装傻你有看过那个我也不知道研究是真的还是假的他在测试阶段训练阶段的时候会先装傻然后到部署阶段的时候才恢复本性
我是没看论文但是我感觉也很 make sense 对不起我打断你了那个是 Anthropic 的那边出来的但是 O3 的做法是比这个更多一点他就是说他如果在就是部署阶段恢复本性的话那他每一步都有另外一个步骤来去确保说他这个所谓的恢复本性是不是危险的这样所以这是 O3 比起 O1 更好的一个部分了
所以他們可以說就是 O3 這個方向他們在對齊上面也做了一些貢獻我的意思是這樣其實因為我現在的身份有時候會很有幸可以跟像國歌會主委還有很多就是很優秀的人士對談有一次主委來吳主委來聊的時候他有一次講說他覺得大語言模型可能不是 AI 的就是解法我那時候還有點生氣我還覺得說你在講什麼
全世界難道都是白痴嗎大家都往這裡投入然後你說他不是 AI 的解法那到底你告訴我還有什麼其他解法可是我最近越來越覺得
好像以通用人工智慧作为目标来说的话大语言模型好像还真的是一个 AI 1.0 或 2.0 你也认同吗对 它可能就是一个 component 因为像我们刚刚讲到的 O3 那种架构其实它已经不能说是只是大语言模型了它后面跟了一串别的东西如果现在要所谓的 agentic 就是把它放到什么一个代理的状态或者是我们接下来就会聊到的 embody 把它放到某种身体里面当然更不能把它叫语言模型
Embodied 就我們待會聊到的人型機器人我們先回來一點點就是說你剛剛有提到台灣可以做的事情其實我也一直在想我甚至也有機會跟這個人類大歷史的作者
哈拉瑞博士也有聊到就是說我們台灣可以在這個 AI 的不要講賽局啦就是這個發展的過程台灣可以做什麼那他那時候很 surprisingly 的告訴我的是其實現在很需要有人去幫忙 manage 這個 AI 的這個發展跟過程的這個
有點像普及化就是當年這個普惠金融這個普惠 AI 因為不同的國家對於 AI 的現狀他的理解度可能是不同的這可能有一點不公平所以他覺得 AI 台灣作為一個產出 AI component 零組件的地方我們有這樣的責任也有可能有這樣的話語權所以我想請教這個因為您現在是無人所大使你也在幫助台灣傳遞
這個 message 所以而且你應該是第一個創這個台灣 Can help 而且現在是 Team Taiwan Can help 對不對 Not only 這個一個台灣而是我們現在有很多這個台灣它可以是一個 concept
台灣有很多台灣人台灣有很多台灣的技術我們現在台積電也變成日積電變美積電我們是一個 team 台灣廣義的 team 台灣還不只在台灣 team 台灣要 how team 台灣 can help 在 AI 或 AGI 的時代你怎麼看
当然一部分是说大家不管是哪里坐的车都装我们的引擎它其实就已经预设一个意思就是说至少我们在做引擎这件事情上面是值得信赖的也就是说不管他跑在哪一个地区等等他都相信说我们做引擎的这个部分包含他的供应链包含他供应链的资安等等是值得信赖所以我现在在华府之前有跟像 Kisscock 之前的美国的
就是负责 Clean Network 的国务资金去一起发展一个叫 Trusted Tech Standard 就是去讲说到底我们说这个零组件以及它的供应链值得信赖是什么意思我们把它定义起来包含说不会突然间就被这个政府收回国有或者是说它在人权在隐私没有强迫劳动等等的这些部分
那当然还有包含技术的字案等等的部分就是相容性那我们都有这些部分之后我们在各国就更有一个话语权就是大家可以知道说我们这边所制造出来的零组件或者是整体的 AI 系统是尊重这些价值的所以就不是说这台车它开一开自爆开一开变成什么炸弹
什么之类的而是说你要上车之前你对于这台车你至少要先打勾这些项目所以我觉得 Trusted Tech 就是值得新来的科技这个是台湾很具体可以帮忙的的一个部分那就是为什么 Trusted Tech Standard 是由我来当 Chair 而不是说其他的人来当 Chair
讲一下这个东西这个是我们台湾主导的吗还是这是一个国际的这是一个国际的一个有点像 community 还是一个 organization 是是它是有个叫做 tech diplomacy 它是所谓的技术外交的一个学院是 Kiskar
他去创立的那他的基本想法就是说当年他在国务院的时候推动了所谓的 Clean Network 大家都知道说我们在 5G 网络其实台湾更早了在 4G 网络就只用值得信赖的供应商的零组件那后来他就把这个概念发扬光大然后让英国让很多其他地方都切换到用值得信赖的零组件所以现在我们就是把当年的这些想法
把它推到不是只是 5G 6G 而包含 AI 等等别的地方这太棒了我感觉就是有点台湾 insight 我一直在推一个概念就是 everyone 因为有人在讲什么台湾 plus one 我说 come on 不要台湾 plus one 因为大家就会觉得台湾加一的意思是很多制造商比如说晶片的供应链不可以只有台湾所以你要去越南你要去哪里
可是大家就會擔心嘛你以後其他地方都有那你就不需要台灣了我覺得應該還是要讓大家覺得持續需要台灣所以不是台灣 plus one 是 everyone plus Taiwan 沒錯沒錯非常好我們應該一起來推這個 Trusted Tech 就是從台灣輻射出去可是我就必須回過頭來講一個有點尷尬的問題就是說因為我自己作為 AI 基本法的其中一個提案者
其實現在民進黨的委員也有提案了 10 月份的時候所以某種程度大家都意識到這件事情在台灣基本價值打勾的部分應該都有你說我們在國外去推動台灣是最幫助你去讓 AI 變得信任的地方
就台湾自己在 AI 的管理框架在台湾的这个诈骗集团可不可以用 AI 我们没有任何我们是一个就大西部世界诈骗集团应该不可以用 AI 吧不是但是因为欧盟的 AI 基本法有很明文的去讲说我们政府应该要努力的让 AI 不被运用以诈骗我们也有广告实名制对啦已经上路了不是吗但是它没有一个就是说好所以我现在就要来问你就是说
早期就我剛上任的時候我一直覺得 AI 基本法是一個有點像一個招牌覺得說這不錯要幫台灣這家商店要掛上去這個招牌基本的價值把它購錢可是弄一弄以後我也必須很老實跟你說我自己感覺這個社會對這個招牌
這個招牌對這個社會不是太有吸引力我們提案了然後國歌會也有草案了進到行政院但行政院也還沒送進來然後我覺得我們不抱怨這些外部的東西但是我自己的感覺如果我是美國我也覺得這個美國需要有一些行政命令或者框架或者現在新任的政府也許覺得最好都不要
他可能也覺得其他地方不需要尤其台灣不需要因為你如果台灣有 AI 基本法萬一不小心偏的有點保護人權到時候什麼 AI 出口要符合什麼東西我後來有一點覺得會不會台灣不需要所以我現在有點也不能講騎虎騎貓難下就是到底
土要還是土不要就是我很好奇就是說因為我自己感覺第一是我們的政府也沒有太大的推力然後我自己作為公僕我也沒有收到太多的譬如說選民陳情說拜託我一定要有 AI 基本法也沒有
作為台灣的盟友友邦也沒有一直來跟我們敲門敲碗說你們怎麼沒有管好你們自己你們怎麼是一個 AI 大西部時代這樣可是你剛剛又說我們要出去宣揚說只要有台灣 insight 可是
別人一問說那你有沒有這個你在台灣有沒有 AI 基本的把力有沒有把煞車踩到底對 你們有沒有煞車機制對 這個不會有點 conflict 嗎對啊 可是像我們剛剛講到的就是說看到前面可能有一個斷崖還不確定是不是斷崖啦但趕快轉方向盤
这部分我们就反应很快像我上次上这个节目的时候不是说我们就是要发简讯给大家大家线上讨论然后快速的去把广告实名制这个边界就是怎么样子能够确保这个诈骗集团不能够很容易的在 Facebook 这些地方下广告那但是又不会变成说好像侵害言论这个边界把它画清楚那也确实画清楚了
那也很感谢大家就瞬间好像连一个月冷冻期都没有电子签号法马上就通过了那后面的广告实名制的配套包含执法什么现在都已经生效了我实际去 Facebook 这些地方看确实这些诈骗广告真的是有减少对那但这个程度的就是不是限制在金融或者是投票而是全面的去透过这种方式去进行
就是 KYC 这个确实是台湾才有别的地方没有可是这只有油门啊你知道 AI 基本法方向盘方向盘对方向盘对不是油门对可是 AI 基本法有时候还有健康的彩油门比如说在教育上面要如何 apply 然后要让大家有比如说我最近又听到很多学生讲说老师在上 AI 的课结果用了每一个服务全部都是要付费的然后学生按下去点数要付费就说
其实还有很多的地方那台湾如果没有一个整体的框架我感觉就是 AI 在台湾会变成一个然后我也常常问各个部会说你们有没有调查教育部当然就说我们的指引出到 3.0 了对这个蛮好笑就是说我说你们有没有调查台湾的大学生或者大专院校使用 AI 的比例那状况是什么问题是什么你们有没有做一个全盘的了解
我先相信他们有在做但是速度并不是很快也没有一个很明确的框架说你几月几号一定要做完然后这因为我们为了某一个法规我们一定怎么样怎么样我们其实没有这个那我们就有点我们在外面必须 present 就我们是一个 AI 大国至少方向盘打得很快对可是我们内部就是走这种看到山才转弯看到
路才踩油門這樣好嗎對不起我這個我不是政治的我是真的是好奇你可以告訴我說其實你在華府跟人家對話沒有人對我們有這個期待我覺得 that's fine 那我可能下個星期我就不推了對華府當然現在看起來比較像兩黨的共識的
就是去确保说 AI 所造成的这些影响你要能够很精确的测量出来这个并没有人反对
所以他们有一个专门做测量的机构 NIST 那它在里面成立了这个 AI 安全中心 AC 那也不是只有他们来量测他们也包含跟英国等等很多全世界的这些 AC 组成一个组织那在台湾当然我们也有 AI 量测 AIEC 那是当时我还在任的时候成立的所以 AIEC 当然也跟美国的 AC 什么都是可以说是一个全球这种协同防护就是在哪里
缺少什么量测技术那某个地方有这种量测技术不管是量测刚刚讲到的 deepfake 啊或者是其他的对其他可能的危害那我们都可以交叉的来帮忙量测所以我觉得量测的这个部分应该不是嗯
民主党或共和党谁上就不做量测的问题那当然主要的我觉得刚刚提到的是说那你量测好了之后是及时反应就好呢还是说我们应该先有一个愿景对
對 導航 預判一下對 就是我們 GPS 那個 endpoint 到底在哪裡那這個真的是非常好的問題那現在主要大家還沒有辦法在華府或在布魯塞爾其他地方快速收斂主要的原因就是對齊到底難不難這個問題大家沒有回答
但没有答案然后他到底就是能不能够把 AI 引导到一个基本上只能做防御性的使用而不能够做大规模毁灭性的使用的这个对其的能力到底有没有办法快速发展出来那这一点也是大家还没有办法回答所以在这个情况下你设定一个愿景当然可能很好但说不定这条路不通往那边那这个就是一个比较大的问题
好吧我懂了就是有時候當車上的人需求還不明確的時候你直接把他導到電影院也許是錯的也許應該去導到這個 Costco 對不對這個我大概好吧這樣我懂了不知道千萬粉絲聽到這裡是不是覺得腦洞大開還加上了有一點疲累呢
這個寶寶訪到這裡也是覺得要好好的消化一下所以我想這一集我們就非常歡樂的先停在這裡讓大家消化吸收一下剛剛開的腦洞要透透風同時也思考一下下一集我們就會持續的跟我們的唐鳳部長來聊聊各種下一個世代的 AI 台灣世界還有我們自己該何去何從的問題