We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode E271. 英伟达CPO技术展望 | 深度求索发布新大模型DeepSeek-V3

E271. 英伟达CPO技术展望 | 深度求索发布新大模型DeepSeek-V3

2025/1/19
logo of podcast 创新灯塔

创新灯塔

AI Deep Dive Transcript
People
西
西娅
Topics
西娅:英伟达面临GPU散热问题导致订单受影响,其未来CPO技术是解决问题的关键。摩根士丹利预测CPO市场前景广阔,英伟达计划在GB300芯片和Rubin平台上采用CPO,但量产仍有难度。 在AI时代,企业客户的AI能力可分为标准化和定制化两部分,标准化AI能力可作为产品,而与企业具体流程相关的则需要定制。企业客户的AI能力分为三层:底层基础设施、中层平台和工具、上层应用层。 个人适应AI时代需要学习、训练和破解AI输出结果,持续提升自我,避免因依赖AI导致自身能力退化。 深度求索发布的DeepSeek V3大模型性能出色,训练成本低,其创始人梁文峰带领团队改进Transformer架构,开发出DeepSeek V3,展现了中国企业的首创精神。 黄仁勋及其英伟达公司在AI时代影响力巨大,英伟达GPU占据AI芯片市场主要份额。黄仁勋具有独特的个人魅力和管理风格,他将亚洲文化特质带到了英伟达。 SpaceX星舰第七次试飞未能达到预期,在飞行中失去连接,但SpaceX强调测试价值在于学习。蓝色起源也进行了New Glenn重型运载火箭发射,两家公司竞争激烈。 百度2025年OKR目标极简,关键成果比例降低,承诺型比例大增,对文心也提出了降本增效的要求,这可能预示着百度考核制度将变。 历史上1月20日发生多件重要事件,涵盖二战、美国总统就职、苹果公司成立、哈勃望远镜发射等。

Deep Dive

Shownotes Transcript

欢迎收听创新灯塔这是一档给你带来每日全球科技资讯的节目我是西娅每天都会为你解读科技和商业动态

今天是 2025 年 1 月 20 號星期一讓我們開始吧今天的節目將探討一系列引人注目的科技動態 NVIDIA 面對 GPU 新品散熱問題其未來的 CPU 技術能否挽救局面在 AI 技術迅速發展的背景下企業和個人如何適應並優化其 AI 能力此外

杭州初创公司深度球所推出的新一代大模型 DeepSeek V3 它将如何重新定义 AI 模型的性能和成本效率接下来让我们来解锁这些商业科技动态吧因为答应 GPU 新品散热等问题大客户订单受影响其 GB200 系列出货不佳机柜连接存在散热、信号干扰等难题

此次英偉達將目光投向 CPU 技術若今年 3 月 GTC 大會試產順利 8 月有望量產 CPU 交換機可實現 115.2T 信號傳輸 CPU 及光電供風裝能實現更低功耗等優勢摩根士丹利報告指出其市場規模前景廣闊 2023 至 2030 年有望從 800 萬美元激增至 93 億美元

且英偉達計畫從 GB300 芯片及 Rubin 平台開始採用 CPU 不少巨頭也在佈局 CPU 如 Marvel 整合 CPU 技術提升服務器性能 IBM 實現 CPU 技術突破可大幅縮短訓練時間、降低能耗等不過 CPU 量產仍有難度,還需時間等待

从使用者角度看 AI 时代企业客户方面类似数字化能力其 AI 能力也分通用标准化与按需定制两部分标准化 AI 能力可成产品与企业具体流程相关则需定制打造企业客户 AI 能力分三层底层基础设施大厂有优势中层平台和工具竞争激烈各厂有特色上层应用层由客户自行研发更合理

个人适应 AI 时代,一要学习持续提升自我掌握使用 AI 及保持不被完全替代的能力二要训练,避免因依赖 AI 导致自身能力退化三要破解,不能完全信任 AI 输出结果要自主分析整理答案最后还提及从五年前对信息时代的思考到如今 AI 时代将至又该如何定义培养核心竞争力等

2024 年 12 月 26 日杭州初创公司深度求索发布全新一代大模型 DeepSick V3 其在多个基准测试中性能出色超越诸多开源模型与 GPT-4O 不相上下尤其数学推理遥遥领先且研发仅花 558 万美元训练成本不到 GPT-4O 的 1/20

這背後的掌舵人是換方量化創始人梁文峰他從浙大畢業後投身量化投資 2015 年創立換方量化通過不斷佈局 AI 算力在 AI 大模型時代來臨前就囤下大量算力晶片之後他帶領團隊改進 Transformer 架構大膽嘗試多項開創性技術最終讓 DeepSeek E3 橫空出世

政經歸骨也打破了中國只擅長應用落地的成見展現出中國企業的首創精神如今像梁文峰這樣的新生代企業家正帶領中國科技產業走向新突破本週英偉達創始人兼 CEO 黃仁勳訪華的消息成為科技圈大事這是他短期內二度訪華

黃仁勳在 AI 時代影響力巨大英偉達的 GPU 是算力基礎在全球大模型企業搶購下曾佔據 AI 芯片超 80%的市場份額助其公司市值超越微軟蘋果成為全球最高他本人也位列蓬勃億萬富豪榜第 12 位黃仁勳不僅有財富還有獨特個人魅力比如在中國去年會上傳東北大花熬熱舞等些地氣行為

同時他在工作上進步偏直狂凌晨 4 點就會思考公司可能失敗的方式要求員工提供重要事項清單等在公司管理上他雖會表達憤怒但更是一種策略目的是將員工推到極限此外黃仁勳出生於中國台灣他表示在內心深處我依然是中國人還將亞洲文化特質帶到了英偉達如建立讓員工在此工作一生的文化等

北京時間今日凌晨埃隆馬斯克旗下的 SpaceX 對星艦進行第七次試飛發射時於美國德克薩斯州伯卡齊卡雖成功用機械必捕或超級重型助推器但星艦在飛行中失去連接經歷快速飛計劃拆解按計劃此次飛行本要持續超 66 分鐘開展系列實驗可實際遠未達預期

此前第六次发射测试,星舰降落在印度洋未回收助推器,这次虽强势捕捉也未成功 SpaceX 也表示会分享故障原因,强调测试价值在于学到东西美国国家航空航天局局长发祝贺还提到此类测试重要性,只得一提,SpaceX 已申请增加星舰年发射次数

且同一天其競爭對手藍色起源也將 New Glenn 重型運載火箭送入軌道雖未回收可重複使用助推器兩家公司一直在爭政府合同等 NASA 也願其合作開發相關項目

1 月上旬,百度制定了 2025 年 OKR 李彦宏的 OKR 此次变化大,目标极减关键成果比例降低,承诺型比例大增如往年对移动生态目标会定调今年仅给出名词与类型以移动生态为例其第一个关键目标提到基石业务数据要全面回证相关表述有球纹色彩

百度文库作为明星项目经 AI 化改造成绩斐然付费用户突破 4000 万等智能云是明星一级业务其 OKR 也曾进取型减少承诺型增加趋势对文心亦也有了降本增效的要求李彦宏第四个目标指向组织建设今年提出内部赛马引发员工不同看法此次极简 OKR 或预示百度考核制度将变

你知道歷史上的今天都發生過哪些事情嗎?一、1941 年 1 月 20 日二戰期間納粹德國發動了巴巴羅薩行動這是對蘇聯的大規模入侵,夭制著東線戰場的開啟這次行動是歷史上規模最大的陸地戰爭之一對整個戰爭的進程產生了深遠影響

2.1961 年 1 月 20 日約翰 F.肯尼迪宣誓就任美國第 35 任總統他在就職演說中提出了著名的「不要問你的國家能為你做什麼」「問你能為你的國家做什麼」的口號激勵了一代美國人 3.1977 年 1 月 20 日美國科技巨頭蘋果公司成立蘋果公司由史蒂夫·喬布斯史蒂夫·沃茲尼亞克和羅納德維恩共同創立

最初专注于个人电脑市场后来发展成为全球领先的科技公司涉足智能手机、平板电脑、个人电脑等多个领域 4.1990 年 1 月 20 日美国国家航空航天局发射了哈勃太空望远镜哈勃望远镜是人类历史上最重要的天文观测设备之一它在轨运行 30 多年为人类提供了大量关于宇宙的宝贵数据极大的推动了天文学的发展

5. 2009 年 1 月 20 日,美国历史上第一位非州议总统巴拉克·奥巴马宣誓就职奥巴马的当选具有划时代的意义,标志着美国种族平等的进步他的政策主张和领导风格对美国乃至全球产生了深远影响 6. 2010 年 1 月 20 日,中国国家主席胡锦涛访问美国,与时任美国总统奥巴马举行会晤

这是中美关系史上的一次重要事件双方就经贸、能源、气候变化等议题进行了深入交流为两国关系的进一步发展奠定了基础 7.2014 年 1 月 20 日中国首艘国产航母辽宁舰开始海试这是中国海军建设的重要里程碑

标志着中国海军从近海防御向远洋作战能力的转变对于维护国家海洋权益和地区和平稳定具有重要意义以上就是历史上 1 月 20 日发生的一些重要事件它们在科技、财经、科学和航空航天等领域产生了深远影响值得我们铭记和思考好了以上就是本期的所有内容感谢你的收听祝你今天过得愉快我们下期见