- 填写问卷
- 注册NVIDIA GTC25账号
- 提交20秒精华片段视频
Shownotes Transcript
Hello 欢迎来到思想实验室我是知事长国威我是主编审威哎呀今天呢我们要来称一下现在 AI 界最大的盛世是 GTC 吗对那当然不只称它我们还要送送什么诶诶诶
送一个其实不用这样装啦其实他要送那个显卡对不对而且这个显卡不是简单的显卡不是简单的显卡对就是你会如果你真的抽到这个显卡你会很犹豫我到底该不该把它拿来用因为上面会有黄仁勋的新笔签哦这个已经是传家宝等级了是好不好所以今天呢能够
追到我們這場直播的各位飯糰們我想是非常幸運的那到底要如何獲得這個這個顯卡的抽獎機會呢那我們其實在我們的資訊欄下方或是說在我們的置頂留言呢大家就可以看到當然第一步你就是要去填這個問卷對
然后呢这个问卷呢里面就会简单问你一些问题反正很快填完但重点是你要填这个问卷你要先能去注册我们这个 GTC25 的账号对对就是要到这边到这一个画面你可以搜寻 NVIDIA GTC 然后这边你登录的话就会有那个账号了对所以我反正很简单啦就像打二次测所有网站一样然后事实上
NVIDIA 在做这个会员注册其实做得非常认真所以你注册之后它马上会开始寄给你一些关于这次 GDC 大会的一些最新资讯所以就确保大家你最有兴趣你可能最想要知道的这些
议程是哪些那之后如果说你现在最近没有时间看你之后还可以再回放过来看好不好那今天呢我觉得等一下还有一件事就是注册完不就结束了如果要抽的话你还要截一个在 GTC 的议程中你觉得最精华的 20 秒片段还要截这个片段还要截这个片段可以用照片就好吗还是说一定要荧幕录影一定要荧幕录影所以就是用手机啊手机拍也可以对对对手机的荧幕录影也 OKOK 反正就用手机拍一下然后
把你觉得说比较精华的部分上传上传这个不会有什么版权问问题大家不用担心好那我想这次当然一开始大家可能最关注的就是老黄本人他的两个多小时的一个演讲那这个加速 1.5 倍可能都会听得有点累但是他真的很会讲在这个 AI 逐步
怎么替代很多人的工作的时刻风口浪减少对那他自己呢还是这个很认真的讲了两个多小时实在是非常厉害那里面当然已经透露出了非常多重点的讯息不管是最新的这个晶片架构 Blackwell 然后他的出货状况又或者是他下一代 Vera Rubin 这样子的一个新的架构圣威应该知道
他这就是说最近这几代的这个 GPU 的晶片其实都是用女性科学家的名字来命名
是吗我没有我没有发现到我没有发现吗这个那我们就直接讲最新的这个 Vera Rubin 如果说大家去查的话除了找到它现在是这个晶片的名字之外你会找到 Vera Rubin 这位天文学家他的生平然后你会找到以他为命名的以 Vera Rubin 命名的另一个重要设施就是一个新的
在今年应该会正式启用的天文望远镜是所以说其实我想其实很多科技公司都喜欢用科学家的名字或者说发明家的名字来命名他们的产品是因为也结合他们对于这个品牌的想象好那 anyway 呢其实除了大家都知道一定会有最新的晶片之外大家可能还记得之前老黄曾经在有一次受访的时候就说觉得这个量子电脑可能
要能够商用能够实用还要个 30 年之类的那时候量子电脑的股价就应声下滑了应声下挫这样子不过呢老黄好像改变心意了他们除了自己的 CUDA 自己增加了就是
Quantum Kuda 这样子的一个就是能够让它的平行运算跟量子电脑互相结合的它的量子的运算子可以一起互相结合使用让这个量子电脑可以更快迈入使用另外他们在今年的 GTC 也首次举办了 Quantum Day 那结合了许多其他的产业巨头一起来探讨量子电脑
量子运算的未来发展那过去这阵子我们也看到很多不管是 Google 啊然后微软啊 Amazon 啊纷纷推出一些关于量子变化的进展我想这个大概也是在快速加速大家都很用力的在 cook 那我们今天思想实验室呢当然共襄盛举的部分呢我们自己选了一个
呃就我个人来说很感兴趣的主题应该说也是目前商机可能是最大的主题对我想大家应该都听到很多的机器人好机器人的消息那所谓的机器人呢就是呃当然如果你要说的话就是说你可不可以说我们这台手机是一个机器人嗯
他可以回话他可以回话他可以现在跟你进行看似情感的对话对只是他没有手没有脚我们也可以说他是一个机器人但是我们当然现在看到更多的真正的机器人就是说像人一样甚至是双足步行对对不对然后甚至可以翻跟斗甚至可以就是做一些做跆拳道对不对做什么事情都可以的机器人当然现在可能还没有走进我们家厨房但是可能很快就会
在很多地方渐渐看得到那要实现这件事情最重要的就是要有所谓的边缘运算那这个 Edge Computing 所以今天呢我们就精选了在这次 GC25 当中的其中一个议程就是 Edge Computing 101Introduction to Smart Edge and Autonomous Robot 那我一直对 Autonomous 它是 Auto
自動化機器人的意思對就是全自動的那當然前提就是他必須要內建一個可以高速運算的 AI 晶片讓他不需要實時透過實時都要從雲端那邊去接受以及他
本身会拥有很多的感测器嘛那这些感测器它收到的资讯它必须要能够即刻的去运算去回应它不能说我收到这些资料然后再回传到一个云端然后云端运算完之后再回传回来如果是在开车的话就撞上去了对对对那这个对于自动驾驶啊或机器人啊或无人机啊其实都是没有办法接受的所以如何在
呃中端也就是我们说的 edge computingedge 这边呢能够快速的运算是现在非常重要的事情所以接下来呢就让我们来一起看片好来看这场呃这在这次的呃 GTC25 当中的一个重要呃
一场重要议程 好不好 那时间大概是将近 40 分钟那中间呢 我跟盛威可能看到一些精彩有趣的部分呢 就会停下来聊一下也欢迎各位一起来参加讨论 好不好好 那我们接下来就开始播放现在我们开始我们的讨论 《Smart Edge 和自动机器》
讲者就是右边的这一位,好乏人。好,是国立链接,哦没有,他那个连线。Hello, perfect.Good afternoon everybody, welcome to GTC, woo!
我们非常兴奋地邀请你来这里我认为人们在这里旅行,当然也很兴奋,我们在这里很兴奋地邀请你来这里我们有一个非常棒的周末我将在这里的工作是给你介绍 Edge 计算机的介绍我特别想谈谈我们今天在市场中看到的趋势我们听说有客户在 Edge 设计 AI 基础应用程序
那各位程序,不是序程,它其實是 NVIDIA 的小企業,小經理,小經理,我會帶一些給你們。所以我們在這個題目前,我真的想要...我希望你們知道,你對 Edge Computer 和 Robotics 有多認識?如果你是在學習這個概念的前陣子,請舉手。
大家有概念吗?我以为会更高。在场都是有概念的。
多少人现在真的在用这个需要解决方案呢大概是 10%大家可能先想要来知道一下中华报是什么有些人已经了解他现在要找解决方案对其实我们现在也是在尝试一些自动化解决方案都还没有办法真的运作起来对啊
大部分的人都很期待学习 Edge 计算机的概念,尝试解决它。其余的人也有点不明白这个概念,想深入解释。所以我的讲座会为大家服务,因为我会先建立 Edge 计算机的基础,介绍它的优势,
然后你会理解一些新的用途和技术趋势,我说过,然后如果人们正在工作,你必须面对一些挑战。我将与您分享今天我们看到的一些常见的挑战,然后,一些 NVIDIA 的 IgE solutions。在最后一天,我将给您一些 GTC 资源。我们有很棒的设计。
我们都计划给所有人无论你是在中阶段还是现在正在尝试学习企业领导的最佳实践你都可以享受这些训练那就是我今天的计划我们来进入吧首先,什么是 Edge Computing?我们在 Edge Computing 中看一看如果你不只是想起它你必须先提到 Cloud Computing 因为大家都很熟悉
这张图我觉得画得蛮好的,因为一直我们对于边缘运算这个概念其实跟云端很容易混在一起。应该这样讲,我觉得这些词都是从英文翻译过来的。
它就會對我們的理解造成一些困擾事實上一開始有雲端這個詞的時候大家就已經很困擾了那後來又有邊緣可是你又說 EdgeEdge 又是端所以說你到底是有些人說雲運算有些人說是端運算那這個雲運算到底很多人很難想像到底是雲是在哪裡這樣其實就在遠方的這個資料中心嘛對
那如果這個資料中心擺近一點然後就算端了嗎好像也不是所以對你說這個我倒沒想過那到底要多近才叫做端呢或者說那是要放在機器人裡面放在吸塵器裡面還是放在無人機裡面那就算端了嗎那其實為什麼要有端我覺得這邊就是
大家就知道说它之所以会出现就是因为它有一些问题要解决那这张图其实就很清楚的把事情讲清楚有些需要大量运算的然后时间上没有那么急迫的事实上我们现在说所谓的时间急迫真的就是那个几毫秒之间的差距大家可以想象我们落在那个这个元宇宙的世界然后我现在跟盛伟讲话假设我们是原本我跟你讲话然后你中间就卡个
几秒之内那种感觉就很不好因为这有物理的限制光这样跑来跑去它就是会延迟那比如说我今天要跟巴西的网友来进行一场深入的直播讨论元宇宙互动那这时候线上视讯其实当然有尽量的去解决这些不管是延迟等等的问题但是假设我们今天是那种比如说电竞或者说
像是股市对不对那个是操盘一堆物在那边跳的那或者说我们说无人车然后自驾车啊或者说无人机啊等等很多事情的变化呢它的对时间的要求是比那个毫秒更小的是那这时候其实而且甚至不能中断而且你也不能因为这个频宽不够塞住
所以说其实绝对不能遇到这个问题的情况之下我们需要边缘运算这个其实我想大家应该都有这个概念那我们继续接下去从海外来说,你能够在某个地方找到全球的传输器因为那些传输器或数据中心都在世界各地
你不需要超快的回应时间,但是这必须要有理想的,因为你不想要在一分钟内开启网络。所以每个回应时间是一秒钟,但有时候是分秒钟或几秒钟,这就要看你的工作量。如果你在做传输的情况下,那会花很多时间。
我还记得之前在笔关还够大的时候我们常常会讲一个比较老掉的语域就是说与其你要传那么大的档案你不如把它放到记忆卡然后让鸽子送过去你传输的那个档案大小还有那个效率反而是更高这是什么古今融合的新时代飞鸽传输但现在其实就不会有这个问题了因为这个笔关现在已经返上了
像这个有很多的现在这个讲者就讲要很多场景比如说像一些智慧工厂或者说有一些资安要求比较高的场合比如说是国防啊或者说
公司机密啊对对对你不希望上传到云端你这边如果资料来来回回你都增加更多能够被截取的节点对对对那最好你就是在端这边能够解决这些问题是或者在端这边先处理好然后一部分然后需要云端再传过去对简单来说就是要有一个做适当的分离的一个概念
后面就想到刚想的事情
因此,在 Edge 中,数据的缓解量较大,所以您不需要把所有数据传到网上。可能只是一些内容,以创造商业分析的图表结果。所以, Edge 数据的优势是帮助您
它能够比上层数研发的线性较低而且它也能够提高输出的幅度我刚才提到的输出输出和存储的价格所以你没有需要在数研发中存储太多因为你先 filter 数据
大家看到这一页就是在讲边缘 AI 的好处第一个就是延迟非常的短几乎无延迟第二个就是省屏宽你不用再用鸽子在那边传了再来就是省屏宽屏宽也是要钱的嘛我们当然会计算一下假设说我们公司的需求不是那么
这个传输量不是那么大那或许你会觉得说那我还是维持云端但假设你要处理的资料量是很大你什么东西到云端送过去送回来那真的是很花钱其实还有一个比较直觉一点的想法就是我们玩线上游戏都会要求一定要光线一定要线要多像那你就想就是一家公司他可能一次一秒钟的吞吐量都是几百 G 你可以想那条砖线要多贵
所以可以降低这个其实也是降低业务的成本不管包括现在什么智慧城市智慧工厂智慧农业其实现在收集到的感测器数据都非常的大那再来还有一个 Data Sovereignty 所谓的数据主权其实这个是 NVIDIA 现在很推的一个概念包括他们在推所谓的国家 AI 主权主权 AI 的概念其实讲简单一点就是你能不能 ON 这些东西
这个数据中心你有没有自己国家的你的算力那除了国家之外那在企业的层级你有没有自己的算力还是你都仰赖他人所以说这个其实然后还有不知道资料的安全性然后你有没有办法就是说为了自己客制化去做一些事情其实它就是这个所谓的主权就是自己能够 own 这件事情有办法掌握对好
因此,您的数据中心可以保存很多。这也能让组织更多的感应器进入您的应用程序,因为您可以在网上发现更多的资讯。另一个原因,或第三个原因,人们经常认为在数据中心是因为他们真的在意他们的数据的私隐。
人们说 人权保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保持保纪 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。
AI 的年代,那些超能的技术和 AI 的影响,不仅是你平常做的计算,
你能够使用 AI 的影响,只要有在 Edge 的资源。这意味着你可以从文字数据,无论是 pdf,或是你的画面数据,视频数据,视频视频,可以来自一个新的项目,可以来自一个安全相机,所有这些数据结合来帮助你做更好的
像这种案例其实就比如说大家知道比如说我们便利商店或是卖场他们就可以及时的去看整个卖场的人流或说比如说一些会展一些展一些甚至演唱会他去监督这些人流然后去动态的去做一些呃
那包括我们说物联网会有灯光啊然后冷气啊空调啊这些调整那其实就是现在讲者在讲的这个即时的洞察智慧然后
在 Edge 这边就可以及时来运算就不需要就是你看你收集能收到资料然后要送到送到远方的云端这样其实还有就是补货啦就是哪边哪些商品卖的好其实这些及时的资料可以回馈有更细致的方式的话也会做得更好当然大家要去做选择就是说哪些是我
我的时间延迟必须要很短的那些需求捕获的话我不知道但是及时的人流这件事情我觉得肯定是其中一个需求 insight and intelligencewith continuous improvementthere's a glitchwhen I click thisbut it's all okayand we have a different type of edge computingand one thing that I really want to highlight is
这些 Edge 计算机在更广泛的程序上使用很多人从不同的业界听到的都会听到不同的东西第一点我想要强调的是 Provider Edge 这基本上就是你看到的 Tally 交流团组那些也可能是 Provider Edge 来到你的家里的那些设计是用来做内容辅助、游戏、AR、VR 应用或 AI 服务
你看他現在這邊把所謂的 Edge 的算是使用場景分成四種第一種其實所謂的 CDN Content Delivery 包括遊戲啊 那麼大量的圖像聲音啊 AR VR 我們剛才也講過了那就是在本地端這邊直接提供服務就不用是從雲端那邊其實這有點像是我們這邊自建一個
一个 AI 的伺服器就是在我们地端其实还蛮
把它想象成它就是一個 Steam 嘛然後就是你可以遊戲是主遊戲的程式是存在雲端的但你就下載到自己的電腦就可以玩了就是類似這樣的概念就變成 Edge 端提供了服務再次需要去跟雲上去做連接又或者說我們現在有很多的 AI 模型它是可以下載到我們自己的電腦當中去運作的那現在模型有一些越做越小嘛那效能也不差那這些其實就是有點類似這樣的感覺
然后他这边的话还有...继续,继续。
我们今天有很多这些应用在工厂、设计中心、工厂层上,而且我们也认为医疗器材是工业性的,因为他们通常需要安全认识,而且他们必须要有认识,因为你将它放在远处的地方或在大气溫的地方,所以我们确实需要这种保护。
And lastly isEmbedded EdgeIs ubiquitousSo youFrom the early daysEmbedded Edge 应该就是在机器人里面放影片了吧对真的就是包括无人机机器人或者说那个 AMV 就是自动移动那个叫什么 V
就是呃就是呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃呃
在你当学生时,用的数码是屏幕的设备。今天,你会看到在你工厂或人工设备中的机器,以及你用的车车和链接,
好 讲完这个四种算是嗯
边缘运算的场景是好那我想大家应该现在已经知道说其实基本上除了资料中心之外所有其他的 AI 运作场景其实都是边缘运算的要大展身手的地方是那也请大家好赶快到我们的呃
就是我們的那個置頂留言的地方可以找得到我們有在抽獎喔對對對好那請大家因為我好像我們一開始講這件事情的時候聲音有點小是大家沒有注意到這件事情所以今天我們這個直播它最寶貴的地方就是你可以抽到一個有
黃仁勳新筆簽名的 NVIDIA RTX 6000 AIDA GENERATION 但是先說一下這張卡好像不太能打遊戲它是很強的運算的一張卡真的喔反正你拿到這張簽名的顯卡你十之八九也不會拿來用啦是
你是吧就把它供在自己家裡的神桌好不好那歡迎大家來抽這張顯卡那只要呢你登錄到 GDC25 大會的網站然後再把你覺得這次看的其中某一場論壇覺得最精彩的 20 秒影片用手機錄影下來上傳到我們這個表格當中您就可以獲得這次抽獎的資格好請大家把握這個機會好我們繼續回到我們今天的影片
我希望看到的就是 全球的 Edge 工具如果您看用途
这给你一个很好的理解对,因为其实他这边从农业到运输到零售基本上全包所以真的就是各种场景
在工业用途中,您可以看到 AI 基础的检查,您可以看到 AI 能够用机器来控制您想要取得的东西,然后将它们放到正确的位置。您可以看到材料的处理,您可以看到从 A 到 B 的货车辆上的货车辆。
有人他辩议完全没有他只是说是点扫码咯
其實就像 Amazon 之前推的那種物品,就是東西拿來就...因為是動物,它的鏡頭完全就知道你能拿些東西,甚至你反軌,再放回...這在台灣,鴿排停車現在也很正常
而另外一种方式是你到所有的路一段他都可以去监测如果这位是影视上的
AI 手术之系格格萨文西系之前应该当然除了最知名的达文西也有其他的哦
这蛮重要的但我们之前台湾的铁路发生过几起事故其实就是
一方面可能那時候的系統跟整合的不夠好再來就是缺乏了這個系統所以說其實為了要降低我們的鐵路運作不管是捷運火車 鐵路又或者說是高鐵其實都很需要這樣的邊緣運算的功能但其實它原本就有一個預警系統只是希望再加入 AI 有更好的能力而且要能夠及時的去做會議
在路上的预测器上看有没有预测器进入路上以防事件发生在路上所以所有这些证据证明了网络计算是在每个地方都在发生的然而
這張圖大家一定要看一下這其實在老黃今年的演講上面也是最主要的一張圖大家也可以看到 2012 年那時候 LSNet 就是
就是 Hinton 還有他的學生們拿著兩張顯卡對算是大幅的提升辨識物體的能力他那個時候是說這原本應該要算三年但我用兩張 RTX7808 然後顯卡我只算了三個月對然後後來就紅了 NVIDIA 就紅了後來整個
深度学习的典范就转移了就诞生了后来大家可以看到这四个世代我觉得其实老黄把这四个世代总结得非常好第一个就是感知型的 AI 我可以看我可以听我的辨识能力变强了包括我对文字的分析能力变强但第二个阶段就是 generative 深层式的也就是我们从 2022 年到 2024 年此时此刻
经历过的 GPT 这些东西可以大量生成文啊图啊影音那现在我们又进入到下一个时代就是 Agentic 大家现在在网路上有很多小机器人在帮你办事然后他们甚至还可以互相奋攻合作那下一个阶段也就是老实说就是我们现在今天的重点 Physical 这些 AI 能要进入到真实世界那就是机器人大人生什么时代了
of what's happening in the industry of AIyou're seeing in 2012this is the first timeAlexNet is visibleand V as a humancan finally classify a cat 这是一只狗 and slowly jump into perception AIwhere we can use a lot of perceptionbased modelsobject detection 以现在来讲都是猫怎么那么难单一型人的经营对同时是连 70%都不理的 this is what it is
所以這也代表說真正是還是需要人類挑這部分
蛋白质结构其实就是这样的
有几个不同的模式合作的模式例如是用大语言模式来谈论视觉语言模式那种视觉语言模式用来作为综合专家提供资讯还有很多人工工程师合作的机构例如人工工程师这些都是人工工程师的 AI
这句话我觉得大家要注意一下就是我们现在觉得
确 GPT 或者说一些最前沿的大模型什么 Growth 3 啊 Cloud 啊 3.7 啊很厉害可是他们还必须要在云端运作那很快的这些这种等级的 AI 它可能就在我们的手机上或者是说
我们的机器人里面运作那它的反应速度会非常非常快那我们现在看到包括 Google 啊微软他们都自己推出一些更小型的 AI 模型 7B 啊 4B 啊 2B 的但是效能都已经只 B 可能早就超越 3.5 甚至超越 GPT-4 了那其实是很难想象的对
因為很多我們的機器客人,特別是人工聲音的客戶,他們在測試、調整視覺語言模式、視覺語言行動模式,在那裡你可以給機器人一個提示,然後機器人就能立即開始行動。我們看到這個會在前面,這意味著有百萬、千萬的電腦將會比以前更聰明,我們正在新的時代,就是前線數學。
还有一些技术趋势被 Generative AI 供应的技术我希望每个人都能看到第一个是 AI 供应的机器我说的是传统机器我说的是 AMR 你能看到 Amazon 机器在他们的工厂里发布
今天我们看到中国人的身份非常非常正常,在新加坡和全世界都看到他们的身份。你还看到传统的业务,例如農作业,将铁铁建造,并带给農民更有效。AI 力量的机器将在每个地方都存在。这是我们称为内在的物质 AI。
这意味着你将数码或 AI 模式放入机器中,使它进行进出的作用。第二个我们看到的趋势是叫做 GENETIC AI。
前年有一个概念,我们看到很多的直线 AI 公司会代理,他们在与你交流,例如你有一个交通 AI 人员,可以帮你发出事故报告,找出你正在交通中的交通接触,直接给予人类人能够读得到的信息。
我觉得他这个 inside out 跟 outside in 其实是一皮两面啦你 inside out 就是我
我把 AI 放到 inside 然后就是放在放在那个机器人里面然后让这机器人可以开始对外界的事情做出反应是 outside in 就是这些 AI 这些 AI 代理人他可以对外界的刺激比如说交通啊或者说点菜啊那这些刺激呢然后做出反应然后分析成为呃
他可以再做下一步行动的咨询或者说交给其他人来做判断就他刚刚讲到那个交通咨询会怎么他等于就是出一个简单的 report 给使用者那他就可以很快速的理解状况对所以我觉得这个大概是一体两面你很难说你只有 inside out 或者说只有 outside in 对但的确他这样分类可以让我们更了解说其实你现在的重点你到底要是要做 inside out 还是做 outside in 对
就是你刚刚说的那个 inside out 跟 outside in 它是一体两面要存在就刚刚那个警报响起来了有人跌倒了那
那就要有一个前面的 physical 的 AI 是 robots 去把它浮起来对这样就会是一个完全全自动的系统
其实就是天网跟魔鬼终结者的结合没错
有人说如果有足够的摄影机然后再加上可以辨识唇语的模型那是不是在公共社区
或是在任何地方都有讲的话有可能那还蛮有可能这边基础设施大家看到这个关键字老黄现在主打的就是 NVIDIA 不是一家卖显卡的公司他们是一家基础设施 AI 的基础设施公司
还有它的又坏掉了老黄的重点就是现在训练 AI 需要三个电脑对
给你三个电脑解决方案这是今天在数研中所看到的不同的事情数研中需要一个数研中的电脑你训练你的模型你做前训练你做后训练你做思考你做所有这些都在数研中发生
但是 Edge 是不同的因为你必须在实际地位置上发布它必须安全 要和人交流这些问题非常难解决所以 NVIDIA 提供了三种电脑解决方案首先 你必须有一个基础模式来自数码中心 能够使用 NVIDIA GPU
然后你转到模型上,测试,检查,在模型中。那些模型需要有相当的真实性,需要有实际的确准,而且需要模仿现实世界的事情,以便你能在构图上放置它之前,你能够使用你的时间,能量和材料。这给你非常大的价值,因为你可以在数千次的时间中
这完全就是嗨客任务或是异世界转生就是我带着我之前世界的技能来到异世界所谓的在数据中心经过训练就是我比如说你可能在现实世界是一个什么色处但是你超级善于交际应酬
比如说很多漫画不是说之前在异世界是个不得志的漫画家然后可是到了异世界然后透过漫画技能然后变成勇者变成勇者反正你就会带着一些之前世界的记忆或能力
那这是你在数据中心时代训练出来的大模型然后你就要到这个异世界然后你就会遇到很多升级打怪的场景然后不断地训练自己然后那当然同时你也要有这个自己本身的一些新的魔法那我觉得完全就是这样子的一个概念
后面等一下会有一颗蛮不错的一个影片他刚才有讲到的 Odyssey 和 Cosmos 就是他们 Amelia 推出来的世界模型所以那是他们自己推的你可能看到更多的数据你可以把数据送回数据中心改进你的模型然后将这些过程重新组成
NVIDIA 提供了不同的 Edge 计算机平台,特别是软件应用模式,帮助你解决内在的维修问题,外在的体育问题,包括视觉基础人员 AI 问题,最后,感应器处理问题。我们给了不同软件应用模式的名称。第一个是 NVIDIA iSEC,多少人听过 NVIDIA iSEC?
爱萨克有顿顿爱美朗克有顿顿 70%大家知道,iSEEK 是 Vidya 的机器设计平台以建造,你知,传统化,iSEEK Sim,设计学习环境,iSEEK Lab,以及在线上的工具,包括 Raw Space Framework,您当然有电脑来解决这些问题。第二,这是 NEO Metrology,多少人听过 Metrologist?
他们视觉变了这边就是他们三一总店佛罗哥三个方案的场景咦 这边画面突然黑掉他们的画面灰掉我昨天在看的时候我在想为什么可以等一下就回来啊 回来回来回来
所以
NVIDIA 提供的那些设计,我今天要给大家介绍的设计。第一,我们来看看 NVIDIA iSEE。我会拍一段视频帮你了解它们的功能。维修工具时代到了。有一天,每个动作都会自行行动。
研究家和世界各地的公司在发挥机器人工智能机器人工智能机器是一个能够理解指示的模型并自动实现真正的任务多元 LM 是一个解决的方法让机器人学习、理解和理解世界周围的东西并计划他们的生命从人类示范
robots can now learn the skills required to interact with the world using gross and fine motor skills
一种传统技术来说是提升人工能量的技术。LLM 只需要 RLHF 或人工反应设施学习,以学习特别的技巧。人工智能能学习用物理学习的提升学习技术。这些模拟环境是在我们的有效性行动中学习的决定中。
我们建立了 NVIDIA Omniverse 正是 NASA 的运作系统,在哪里?Omniverse 是一个专业世界模式的发展平台,
在虚拟世界中,维生素质的制作、数学测试和生产设计技术都能够维持在实时的、物理基础的制作、数学测试和生产设计技术都能够维持在虚拟世界中,维生素质的制作、数学测试和生产设计技术都能够维持在虚拟世界中,维生素质的制作、数学测试和生产设计技术都能够维持在虚拟世界中,维生素质的制作、数学测试和生产设计技术都能够维持在虚拟世界中,维生素质的制作、数学测试和生产设计技术都能够维持在虚拟世界中,维生素质的制作、数学测试和生产设计技术都能够维持在虚拟世界中,维生素质的制作、数学测试和生产设计技术都能够维持在虚拟世界中,维生素质的制作、数学测试和生产计技术都能够维持在虚拟世界中,维生素质的制作、数学测试和生产计技术都能够维持在虚拟世界中,维生素质的制作、数学测语技术都能够持在虚�
他们学习如何自动操作物体,例如摸紧,享受管理你的头部。发现无法自动操作,避免障碍和阻拦。
学习在红尔摩斯,减少了真实的连接和最高限度的学习行为。建立机器人与生物体制造机器,需要三个电脑:NVIDIA AI 超级电脑来训练模特,NVIDIA Jetson Oren 和下层阶级 Jetson Thor 超级电脑来训练模特。在 NVIDIA Omniverse,在模特上的模擬世界中,机器人可以学习和维修自己的技能。
我们建立了平行车、速度码和 AI 模型,需要的是发展商和公司,并让他们使用任何或所有适合他们的组件。AI 的下一个波动就在这里。物理化 AI 加强的维修,将会改进企业。完美。
我认为你喜欢 Jins 的故事 NVIDIA 给你所有的建筑物,无论是图片、功能,你都可以使用,甚至整个工作流程。
NVIDIA 提供了不同的机器的工作,例如在建造 AMR 时,您可以使用 IC 感应器,这些都将所有必须的功能联合在一起,以帮助您将您的手机被挤裂。我刚才看到这边的时候,我有一个感觉是,他又想要把 CUDA 那件事情再做一次,他不只提供硬体,他也提供你需要的软体的技术资源。对,同意。
然后再一次他的业长也成了这四个国家的主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要主要
另外那几个人在做一些大模型
再来看一段影片
大家可以看一下这英文他写什么他写说投球的那个跨步可以跨更大步一点然后
那个投出去的那个点呢可以在就是准确位置的点那这样子投球会投得更好就及时的做一个球评然后 7.5 分可能有老黄加分没有啦投得不错的投得不错
現在台灣也有 Metropolis agentscentralize data from hundreds of camerasand can reroute workers orrobotswhen incidents occur
这是短片,但是它告诉你 AI 人员可以做什么。首先,它可以做实时宽容的 AI,它可以分析环境和环境的理解。第二,它可以从多个摄像头进行视频投影。最后,它可以理解人物的指示。你可以做 Q&A,你可以甚至做一个
各种 agent 这个市场是非常重要的这个市场是非常重要的
其实很多种技术的技能那边是这个前奥生成他们
当您复杂了内在的 ISIC 流程和外在的 Metropolis 流程,如果您想想我们在使用的整个空间,
我们需要解决的非常重要的问题是如何与人工与智能自动机器人工与智能自动机器的解决这是为何 NVIDIA 花了很多时间和工程时间在提供安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全安全
你首先在模擬環境中測試然後到安全基礎上你建立了安全系統
我觉得这是大家最终的游戏系列对 这些安全的元素是 NHC
不要作哒
飞行器不要伤害到人真的好像就是散步对对对蒙地利亚去莫夫机器人 301 三月嗯不是机器人跟机器人看不到彼此的话还可以用别的通讯方式让你停下对
这些技术是重要的,比如说电子波过去。最后,我也想谈谈感应器处理。今天,我说过,这些医疗装置或 mission-critical 应用器的感应器处理线路线路线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线处理线�
今天,我们与所有客户谈论,他们对应应用的问题很明显。他们发现有很多不同的感应器数据,包括自动设置、他们设计的方法,但它们只需要太长时间,从感应器到计算机,才能建立整个线路。
太多总资料处理然后要让它融会贯通所以其实这就是 NVIDIA 现在要做的事情就比如说我们要传 PDF 进去其实它也要再重新编码过
他才会知道更何况你现在是视觉听觉然后各种函数这样子那其实再次提醒大家我们今天的直播呢快到尾声了但是要再次提醒大家我们在私讯栏以及自己留言的地方呢都告诉大家如何能够参与这次活动来抽老黄签名显卡所以请大家一定要注意啊我们的活动办法把握这次机会好不好那就是上这个 GDC 的官方网站
注册然后或是跟我们一起看刚才的影片然后你截 20 秒的图然后到这边填问卷你就拥有这个资格了对好不好我们接下来把影片快速的再继续看下去 Holoscan Sensor BridgeTo really help youaccelerate that entireSensor to Compute pipelineAnd one thing thatI want to highlighta little bit moreIs the Sensor to ComputeIt's aboutHoloscan Sensor BridgeSo the Holoscan Sensor Bridge
有人说是不是可以用刚才那个方式去调整
半大连二大投资这天就是他刚讲到一件事我们其实有很多不种种是文字是声音是影像是图片但这些资料需要做一个整合跟整理那透过他们这个 Bridge 的方式是可以把它整合成统一的资料形式让 AI 去图这样子
今天,我提到过多个私人设备,而今天人们建立的快速方式是使用以太坊,这是在数码中的正常,但它并不是在架构上的正常。以太坊非常可调,你可以设计 1Gb/s,10Gb/s,100Gb/s,任何的幅度,你能够简单地调整这些,
甚至有十多万的设备使用这种技术这不仅仅是一种方法 它不仅仅是预测数据 它还可以向你传输数据它也可以控制你的振动器 例如摩托 耳机 音乐 任何东西所以这种技术 让你成功的就是 想想你的未来的 Edge 设备 或者 Mini 设备所有你的感应器都在不同的地方
可以谈谈中心数据
所以其实它不是只是把边缘的运算当做是一个边缘它本身甚至可以强调变成一个小的 2D 中心
不会啦只是我们有需要用到的话你就会学 MnBoss
像老黄说的买越多省越多现在不买不更贵对啊是把软硬体的整合方案包容
有最高的数据,因为它是一个漂亮的数据中心和工作室,所以你需要处理的力量有点高。但是它建立的应用程序,例如设计系统、综合设备、总体设计、综合设计等。
当你从企业层面上来说,你需要认识,需要长期支持,需要功能安全。这就是 NVIDIA IDX 的目标。它仍然有相当小的功能,但有很多的研究。你可以建立一些企业,例如医疗、医生、显示器等,包括生产检查、准备安全、高速感应器融合,所有的程式。
最后的是 Embedded EdgeNVIDIA Jetson Platform 是为 Embedded AI 应用的设计设计是有很多不同的丰富性能和不同的设备的设备你可选择的设备,能力非常小,只有 7-65 瓦所以能力非常高,能够达到 275TB
开箱即用那又一角小个硬体加然后放在不同的场景跟不同的设备当中
好软件来保护你给你长期支持 管理你的硬件帮助你通过 AI 发展这就是我们称为 NVIDIA AI 企业 NVIDIA AI 企业今天正在 NVIDIA 的软件上工作 NVIDIA EDX
Underprise Edge Computing Platform,and NVIDIA...有那么多专有名词,大家会不会看到...But if you think about NVIDIA entire edge-less stack,If I put it from top to the bottom,好,这边是重点,这边是重点,要清华。It starts from application framework,
我今天要重点的是 VisionAI 的 MetropolisIceek for Robotics 和 Sensor Processing 的 Holoscan 但基本上,在你看到的很多应用模式中,你能够在顶层度度度度
也有 AI 发展和互动管理层层的层次,由 NVIDIA AI Enterprise 执行。我们也有一个合作伙伴,为我们提供深入管理系统,所有产品都应该在 NVIDIA 软件上使用。
好其实今天的影片因为到最后他其实就是推荐大家去看一些本次 GDC 其他有关包括嵌入式系统还有边缘运算的相关场次所以说这部分呢算是推坑了大家就可以自己去看但是要怎么自己去看呢第一个
就是要去注册我们 NVIDIA 的 GTC 2025 的大会然后登录之后呢你就可以根据你的兴趣或是搜寻关键字或是他们精选出来的一些热门的或你可能会有兴趣的场次好
那去选择观看真的非常多还有就是上上百场那观看之后呢你就可以回过头来到我们今天资讯栏还有置顶留言那边提供的一个连结是去输入你的资料然后就可以来抽由黄仁勋老黄大大亲自签名的 NVIDIA 显卡那在因为其实就只有一个所以其实请大家注意这个
名额有限啦 3 月 26 号之前一定要完成一定要完成好不好请大家一定要注意这件事情好那最后我们再来回顾一下你觉得今天看今天我们看这个影片你的感想是什么我是觉得他建立了一个很好的就是未来这种机器人跟 AI 结合的一种流程跟方式吧因为其实在
去年的状况下其实你完全看不到就是如何跟硬体设备做接轨的这一块但是他现在做了一整个类似酷达就是刚刚讲的 iSEC 然后 Modify 那一个系统但我觉得这是蛮重要的一件事因为有了这些系统之后也许后面我们这些有想法的人可能比较容易可以去进去去想说要怎么样去做这件事情我觉得这个对我们台湾的
很多包括五金产业机械产业或是任何的大小工厂其实都很重要因为我们台湾不是只有护国神山吗那我们其实还有很多很多的中小企业老实说如果没有办法做就是搭上 AI 这个火箭对大家来说是很辛苦的那所以我们现在必须要能够加速我们工厂的自动化加速它的智能化那这些东西我想这些解决方案是一个
不管大家会不会采用我觉得非常值得认识的一个事情要是我们不去了解这些方案的话那些了解这些方案的公司他就会坐上火箭就飞走了对对对所以当你工厂能够运作的更有效率然后更省成本然后甚至你有办法有规模的去扩大这些事情那是非常重要的
那至于说这些机械能不能进入我们的家庭或者说包括在我们的智慧交通智慧农业智慧城市当中扮演什么样的角色我觉得呃这有时候跟
我觉得有一个隐私这件事情就刚有讲到其实是蛮重要的考量点因为其实要推边缘的运算一个重点就是我不希望把这些隐私的资讯传到很远方的伺服器资料中心在那边运算完但是即使是在我们本地端我们也一定要有安全的这些算是 protocol 包括
包括里面讲了很多隐私的资料包括你关于摄影机或者说你放在医院那么多摄影机其实很恐怖对你放在社福机构就是说那这些东西我们又希望提高效率我们又不希望资料的外泄那我想他我想包括讲者他在影片当中
不断也强调就是安全是他们内建的一个东西但是我想如果未来有机会的话我更希望了解说他们这个安全到底是怎么做的因为今天算是有点初步的介绍我们还很难了解说它这个安全性到底是怎么建构的但可能也是一些机密专利对啦对对对不太可能会最后我们如果有机会的话可能要请比如说相关的专家或是资安的领域的人
的专家再来跟我们解说好那以上呢就是今天我们一起同步一起观看我们这次 GDC25 的其中一个重要场次然后也算是一个引导型的场次我相信难度对大家来说也不会特别高对他是 beginner 的对他难度是 beginner 对那如果说大家对于其他场次有兴趣我相信现在大家可能对于很多其他议题很有兴趣那在这次的 GDC25 当中所有的重要场次呢应该都会有影片然后就请大家直接到网站注
注册登录然后看影片看影片之后呢如果想要抽这个黄明讯一线卡呢把握机会把握机会 3 月 26 号之前在我们的那个置顶的留言有那个连结可以点进去抽奖对好那其实我自己是很想抽啦但是我们好像不能抽对不对
是喔我們可以叫我們的親朋好友去幫我們抽但我們自己不能抽啊你看假設最後抽出來是我們兩個深喝體統對啊黑箱子沒有在抽根本就沒有在抽好不行不可以好啦今天的直播又抱著悔恨
结束了好希望大家把握这个机会那如果说是我们饭团没有抽到请一定要带着你的显卡老黄签名的显卡来我们节目上来跟大家炫耀一下然后我可能就当场看了我就把它折断没有没有没有开玩笑今天的节目就到这边结束我们就下次再见了拜拜