EP15：AI Agent：從算力競賽、雲端博弈懂資安挑戰！ Ft. 萬里雲創辦人暨董事長劉永信
19:03 Share

迎接 AI 時代駕馭數位浪潮歡迎登上智能新賽道帶您掌握科技的心跳

各位朋友欢迎来到智能新赛道这个节目是希望让我们的听众朋友更多的了解在这一个快速发展的时代当中有非常多令人意外的发展在今年的农历春节期间中国大陆的 DeepSeek 横空出世其实这一个大语言模型早在半年前就已经有很多的

投资机构在关注了只是我们一般的人可能突然发觉怎么有这么厉害的一个工具出现彻底颠覆在人类的股票市场历史当中一天跌掉将近 6000 亿美金就是这么一个圆模型今天我们非常荣幸能够邀请到万里云的创办人刘永信董事长来到我们节目当中是不是请 Spencer 跟我们的朋友们问好

各位观众大家好我是 CloudMile 万里云创办人 Spencer 是不是先跟我们介绍一下万里云我想万里云是在 2017 年成立的我们在 2017 年成立的时候当初整个核心架构是从数据的角度去看因为我们也看到未来的世界在整个 AI 的发展历史上面事实上 AI 是 owned by data, managed by cloud

所以我们在从 2017 年从数据的角度出发其实逐渐从一个云端当做我们一个进入市场的一个切口从云端数据 AI 这三部局是我们公司整个核心的一个价值所以我们也透过这样的方式发展 B2B 的一个商业模式那目前公司除了在台湾之外我们从台湾开始也横跨了包括香港以及东南亚包括了新加坡马来西亚菲律宾和印尼这几个国家

发展非常快因为很早就开始双总部的布局了新加坡现在有一个总部东南亚在过去几年好像成长得很快是这个也非常有趣我们当初设立双总部的概念其实也是一个挑战国际化的一个架构因为我们觉得在从不管是 AI 云端数据这个角度其实都是没有国界的直接竞争就像都在上面对就像 DeepSeek 成功出世它不会是说在中国领先在逐步

它是一领先这个竞争态势就是被全球的这个就是特别是云端的一个态势它是没有国界的所以当初我们在设定我们的公司呢当我们的一个价值是希望能够成为客户在 AI 和在数据上面以及云端上面的一个 enabler 所以我们当初在设定的时候回想到台湾的优势是什么台湾的优势是技术能力

但我们要打的是一个国际市场那我们希望能够 levage 一个国际人才这样子的一个架构所以我们选定了新加坡做我们一个 innovation 的一个总部台湾做个研发总部我们希望有好的技术跟 innovation 最后两个变成一个好的应用所以这也是我们当初设定双总部的一个概念好 我们回到 AI 今年被称为叫做 Agentic AI 的

大家大概走完了大概差不多两年多的时间如果从最早最早 HPT2022 年的 11 月走到现在大概已经差不多超过两年快要半了所以在这样子的一个一开始大家摸索怀疑所以一开始大家嘲笑然后到怀疑然后到摸索开始慢慢这些东西就

哇 這麼有威力的一個改變那它已經是一個革命性的一個變革了那今年呢當然就是說大家慢慢沉澱了開始有一些東西更多的跟這個商業的流程結合起來的時候就已經不是只是畫畫圖啦謝謝文章這麼簡單的事情那這個 Agentic AI 從您的觀點來可不可以跟我們分享一下

我覺得現在的 AI 發展就像剛剛提到像 DeepSeek 其實它有牽涉到三個很重要的元素包括算力包括模型那也當然包括資料那我想這件事情就是相輔相成這個整個 AI 目前推升到下一個境界就像包括現在在未來可以看到說 AI 的發展中 Engine Tech AI 這塊也是大家著墨的部分是因為

過去 2022 年從 TrackGP 出來之後這種模型它逐漸發展變成多模態不是單一模態而且也會從一個模型變成多個功能使用的模型在 Engineering AI 中其實有三個很重要的一個 component 第一個就是所謂的這種指揮權

他必须有一个好像一个大脑他决定可能是分派不同任务的在第二个部分可能有很多模型他有不同的模型去来往互动之后最后有一个叫做工具或叫 tool 去调用不同的应用程式去满足你在这个特地的一些 task 比如说不管是财务人资或者是 IT 部门帮 IT 部门写程式我可以用一个很单纯的方式透过

Engineering AI 调用不同的模型然后就帮我找到不同的 Tool 去协助开发者去设计城市所以很多的数据都看到说在 AI 包括 Engineering AI 的这个发展是未来的一个重点那我们其实也是认为这个未来发展也确实是包括根据 IDC 的一个数据在今年 2025 年大概全世界大概有两三千亿左右的 AI 的投资到 2030 年左右将近已经要到

可能將近 20 兆美金這麼多這個數字不是那種線性的它是這種指數型的成長所以我們也看到這中間這 Engineering AI 的發展雖然它還會有很多挑戰就是包括你如何去選模型啊那會不會有一些問題那你這樣的 Tool 會不會成熟

但是我相信大家這個是一個可能是今年算是一個非常重要的一個 70 年開始越來越多的公司在投入在這塊的領域上面那所以這個部分就是因為台灣現在雖然說好像我們想要開發自主的就是我們的主權 AI

但是事实上他这个背后因为他训练的这个数据量繁中的这个本来他的资料就少数据就少那再加上我们所投入的金额没有办法那么大那所以就是虽然说 DeepSeek 给我们很大的鼓励好像不用 600 万美金就可以搞出来一个那但是事实上还是很大量的一个投资在军备竞赛

所以在這個 Agentic AI 的這個部分其實台灣的優勢會你怎麼評估從 Agentic AI 我覺得台灣應該要發揮不只是在底層這種所謂的金字塔型的底部這種 Info 這一塊包括算力或是大模型的投入因為它跟資料量有關才去主體我覺得台灣可以發展的一件事情是往 AI 的 App Caching 來應用

借用陈良基老师曾经讲过一句话说台湾很强是半导体但是我们如果可以把 AI 的 Foundry 把这个软体变成是 AI Foundry 的架构去复制其实相对是我们另外一个逆趋我是蛮赞同这样子的一个想法我们应该是去想办法把这个 AI 的 application 越逼入多变成一个道金字塔型因为终究

在整個市場上面會很需要的是這個應用因為大型的這種算力包括語言模型各方投資我昨天看到一個數字是在 2025 年剛剛提到 AI 的三個部分算力模型還有數據在幾個大型的公有雲上面的投資非常非常驚人即使是受到 Deep-seeker 的影響他們在 2025 年的支出在 Amazon 的投資大概是 100 個 billion

Microsoft 估計是超過 80 個 billion 另外 Google 也是超過 70 個 billionMeta 是 60 個 billion 左右就是說大家 even 在 Deep-seek 這個 impact 之後大家會覺得會開始說是不是要那麼高階的算力這麼龐大的 data center 但是在這幾週沉澱之後其實他們還是決定大舉去投出這個軍備競賽所以我自己的觀察是

台湾在投入这大型的 Data Center 或 GPU 的这部分可能不是我们的赛道不是不要跑错赛道对那做这种大型的 LLN 这个赛道上面其实相对的我想可能比较适合发展是这种比较小型的 SLN 这一块如果各个产业一些 Domain 都好那更多的机会会是在 AI 的应用 App Caging 这一块如何去调用这些的不同的 LLN

或是 SLM 以及配合適當的算力去做去幫企業去建更多的 AI 的應用包括所以 Engineer AI 這塊我覺得是台灣蠻適合發展好 我們先休息一下待會再繼續回到智能新賽道

各位朋友 歡迎回到智能的新賽道在今天的節目當中我們邀請到萬里雲的創辦人劉永信執行長兼創辦人他是一個 serial entrepreneur 不斷地在創業的一位明星人

那刚刚他跟我们谈到了在 2025 年当中可能在 AI 的这个赛道上面最重要的一个趋势就是 Agentic AI 那也特别提到了去竞争这些投资非常非常惊人刚刚讲到 100 个 billion

80 个 billion 70 个 billion 60 个 billion 这些说实在的不是台湾的产业甚至是政府玩得起的所以我们应该要找对赛道刚刚特别提到最后休息之前特别有提到 Argentic 对我们来讲是一个还不错的赛道但是除了这个我们比较讲到一般性的这些特别我想要请教另外一个

跟 AI 沒有絕對關係但是卻是有息息相關的就是 Security 的這件事情那因為這件事情一旦看到這個聯網的這個 device 過去可能只有 3C 的裝置但是現在整個物聯網上去之後它的供給可以從四面八方各地就衝進來

所以防護變成非常的艱困必須這樣講是艱困所以除非有像剛剛講到這些大的主力的這些 Cloud service provider 他們可以

建构非常强的防火墙之外其实一般的业者在这个部分我们以前是说正经八百的说谎现在是这件事情是直接就应用在 Security 这件事情上面了供给就变成更加的智能化其实对于所有的人来讲都非常非常的辛苦

如果说再加上诈骗诈骗加上 Security 的再加上 AI 这个未来的世界会怎么走蛮严肃的问题因为在讲到 AI 这件事情其实大家可能会忽略我们要的 AI 应该是 Secure 的 AI 包括这 AI 必须是安全的状况下特别刚刚提到说 AI 其实有一个重要元素是数据

那這個數據根據現在的統計大概百分之七八十 Percent 左右的 Data 其實產生是在 Edge 端 Device 端不是在 Cow 端也就是說因為大家每天都在用手機或是用這種 Edge 端的 Device

所以它产生的质量相当庞大但过去我们一般在企业在上云之前很多的治安的概念是防护是在地段我建一个堡垒我把防火墙或是安全设施把它给保护起来甚至是能够不连网就不连网

但是因为现在的世界竞争是透过云端是一旦有了竞争优势你可以 deport 到 global 是云端的优势但是相对的它也是威胁也是从全球来的对 威胁就全部都来了而且回到你的 Edge 端所以如何在 AI 的这种 Gentech AI 之外我们讲了 Secure AI 这一块其实就包括了这 Secure AI 中端到端的这种 Edge 端到云端应该都是要被保护的

那在保護架構中呢其實在一般談治安的時候都會談兩個很重要的一個元素第一個就叫 SIEM 就是所謂的安全日誌的這樣一個概念那另外一個是叫 SOAR 就是說你如何去 response 它

所以在這個觀念中做這種 Secure AI 特別是資安這一塊應該是要想到說如何部署到是這種混合架構我不是在過去建堡壘我是在雲端或者是在你的企業或有使端 Device 端都應該把這些安全防護措施都把它 Build 起來這包括像你的日誌的建立應該都是端到端都必須建立起來你才知道你可能的威脅在哪裡

那你的售的一些规划应该也都是同时云地或是你的端点都必须要去做防护所以我们看到说这个治安的威胁刚才提到说 2023 到 2024 这个治安的威胁是直接 double up 上去的也就代表说当这个大家越来越多 data 越来越多 AI 的时候很多的治安问题就跑出来所以这个在治安的意识上面我们是从一个这样的角度来看

企业应该要做资产防护是从端到端 Hybrid 端都必须要去做这边做起来才有可能才会发展这个 Secure 的 AI 所以您刚讲一个 HybridHybrid 其实很复杂可不可以再多谈一点到底是多云还是云跟端然后端这边的防护加上云的防护

然後這個怎麼處理這算是確實是一個複雜的架構因為有兩個名詞第一個 Hybrid 就混合是指雲端和地端譬如說企業有自己在地端的一些自己的機房等等這種是俗稱的地端但雲端也有可能是 Martical 我可能是在谷歌在 Amazon

所以它基本上是有雲和地但是在雲的中間也有可能是一種多雲的架構所以這個架構上對於在自然的這個意識就應該要 design by default 我可能譬如說剛講到的 SIEN 我應該在第一天就是把在多雲架構我所用到的這種的日子都要打開

在地段也是所以當這部件是要底站擺地固當你要部署雲或地段的時候你每一步驟你都應該必須把這些按自然的概念和設計放進去這些東西就有點像在寫研發紀錄簿我聽起來是這樣有點像在寫研發紀錄簿可是問題做研發的人都不喜歡寫紀錄簿你要怎麼逼他寫

我覺得這個就是治安人員的角色的重要所以為什麼要做治安演練他必須透過演練知道你有哪些地方可能是弱點掃描對 弱點掃描或是威脅所以為什麼現在很多包括政府也要求一些

大型或是上市公司要有成立这种治安长就是说他不是一个角色而已他是一个责任是要把治安给放进去这件事情治安跟方便性是 trade off 就是大部分的同事都不需要很多的安全措施下他才可以拿到他要的资料因为他必须有他业务上的发展但相对你不做这件事情你对于公司的资料或客户的资料相对都会受到一个威胁是

因為剛剛你有提到端到端 end to end 其實非常長的 journey 他每一個只要中間有一個弱點他就可能整條鏈被供掉了對不對所以就是說變成每一個企業的流程當中在整個 security 這個部分都必須要去 secure

那这个对于员工来讲他的调试就必须要去重新检视说我的工作不是我爱怎么做就怎么做因为现在人工智慧这样子要供你治安的时候远比你能够反应的状况要强太多了没错 尤其特别是云端带来很多便利性所以这便利性是

在你員工當他需要去 apply 這個 security 的一些 policy 的時候一定會造成一些不便但我們也認為說這個不便是必須要取得一個平衡就像台灣的半導體公司一樣進到廠房 notebook kmart 全部貼封條不能任何拍照但這是一定要因為你做了這麼多事情

這麼多安全防護 客戶才相信你所以我的設計交給你幫我去做生產代工才相信你所以我覺得這個是一個必要的措施所以就是說一個是比較是屬於 IP 的輸出另外一個是要從外面供進來的這其實是雙向的那其實要做的事情都很多就是每一處都要關鍵是完全不一樣 賽道但是事實上

这个不管是进或出他其实面对的这个就是在每一个细节上面通通都要做到对我们问一个通膨的问题这边的每个东西都这么贵所以我觉得观念是并不是说他会不会发生了是会是他不是一夫

这公司会不会受到治安威胁它是会你什么时候会被攻破的问题所以如果从这角度来看它的投资报酬率其实相对我觉得就是蛮划算的因为你前面做好防护你不会因为受到了攻击之后才付出了很大的配合像前阵子有某一家公司也是碰到有一家医院也碰到一些治安的威胁其实这个代价相对都是很高的但治安的问题常常都是平常没事

覺得它是一個費用但是當發生事情的時候才發現它應該是要當頭現在有沒有保險公司在承保 Secure AI 這是個好課題這個世界變得太快了我們必須要用很多的風險不是技術面能夠去攤提掉的所以就必須可能要用其他的方式來可能有一些 Hedge 進來然後讓做的人你剛剛講平衡很重要有的時候保這麼多錢都沒用到

那問題是說萬一用到了那就真的就...它就像一個保險概念是...感謝各位對於我們這個節目的支持對於劉永慶董事長的內容歡迎大家留言今天我們就先在這裡告一段落

好