Deep Dive
Shownotes Transcript
欢迎收听雪球出品的《财经有深度》雪球国内领先的集投资交流交易一体的综合财富管理平台聪明的投资者都在这里今天分享的内容叫 AI 范式转变国内机会更多来自信息平权过去两年国内炒 AI 基本都是映射但显然豆包这次完全是 A 股独立行情虽然
虽然恰逢美股炒软件应用但两者背后逻辑完全不同尤其是上周美股软件高位调整下跌的情况下 A 股应用依然在涨当然大多没办法深究基本面但底层逻辑有些微妙的变化博通的 600 到 900 亿一列伊利亚苏斯科沃的预训链放缓都指向了一点
明年 AI 的重点就是推理对于国内来说训练阶段不仅被技术封锁还容易被海外开源降为打击导致只看国内本身从商业上没有形成良性生态最终可参与的 AI 投资机会自然寥寥真能算账的也就少数英伟达产业链上游但推理和应用生态理论上可以建立完善体系
首先,我们来聊聊算力的问题,如果说在训练人工智能模型时,我们可能会遇到一些技术限制,那么在推理,也就是用训练好的模型来预测新数据时,这种限制就不太容易出现。按照业界的普遍看法,训练模型时应该用最新的硬件,而推理时用稍旧一些的硬件就足够了。
考虑到硬件更新换代的速度这些稍旧的硬件往往性能过剩厂商也会积极地将它们推向市场现在有个问题值得思考如果人工智能的发展方向变了我们还需要像以前那样每年都更新一次硬件吗过去为了处理大规模的模型和复杂的并行计算我们急需更强大的硬件但现在如果推理的需求成为主流我们真的需要这么快的更新速度吗
实际上即使没有最新的硬件依靠现有的硬件集群我们依然能够取得快速的进步此外虽然每年更新硬件可以降低计算成本但与训练相比推理的价值已经发生了变化对于中国市场来说硬件的更新更像是有了更好没有也没关系的情况简而言之我们对硬件更新的需求可能没有想象中那么迫切
其次训练阶段能不能成标准很单一应用生态能否跑通取决于每个国家的成本结构商业模式经济模型产品供给能力大家各有不同是个复杂的商业问题比如说中国互联网公司在产品开发上的能力是全球领先的从创意到执行再到运营
一旦把这些产品推向海外市场往往都能取得很好的成绩但中国的商业环境也有它的独特之处比如大家普遍不太愿意为软件付费这让一些在线软件服务很难发展不过聪明的互联网从业者总能找到新的赚钱方式比如免费玩弹可以内购抽卡得皮肤小额付费和大额付费玩家先面向消费者再转向企业等等这些人
这些创新的商业模式最终也让这些公司赚了不少钱因此 AI 应用推理这件事到了中国互联网公司手里能给你玩出花来我一直有点担心因为我们买不到最新的硬件所以在计算成本上我们的推理成本总是比国外要高一些再加上
虽然我们的人工成本比较低但现在人工智能技术的发展让这个优势变成了劣势因为 AI 取代了一些工作提高了投资回报率 ROI 的门槛所以我怀疑在很多情况下要实现投资回报可能比北美更难一些但最近我听说国内的一些模型公司在 B2B 的业务上已经开始赚钱了
即使在 API 应用程序接口服务价格战非常激烈的情况下这背后的秘密是他们做了很多优化工作有很多中国式的创新就像我们之前讨论的因为 GPU 硬件不好买
我们的计算力就像是拼凑起来的八国联军这种局面迫使中国的基础设施领域出现了很多工程式创新比如 Kimi 的预填充技术解码与存储分离技术以及 DeepSeq 换放的分布式架构来减少通信成本虽然略显无奈但国内推理优化进展比大家想象要快
因此推理比拼的不仅仅是技术还有商业上能否建立良性内循环这点从豆包、自解体系、其他国内巨头上都看到了希望的确模型训练的结果可能决定了推理和应用的能力天花板
国内何时能追上 O1 和 O2 都是个未知数但正如微软 CEO 赛迭一直唠叨的模型在通用商品化开源模型的进步也很快这点对我们很关键一旦上述成立很多投资机会自然打开不需要完全照搬映射美股比如美股的 SAAS
软件及服务和软件再讲代理模式我们回头先看看自己的软件和 SAAS 生态在哪里算力不再仅限于英伟达产业链推理基础设施打开了很多机会一方面北美链还在而中国自己的云服务提供商资本支出链条也可以挖而且
总盘子也不小其次特定应用集成电路链条机会核心在于将英伟达内化的那部分价值释放给行业上下游比如网络技术包括光、铜、交换机、封装甚至流片为什么周五博通能带着台积电大涨 GPU 过去让台积电赚不到 5%的辛苦钱 ASIC 不利多效的特点是
实质上提升了台积电在整个云服务提供商资本支出中的蛋糕分配比例同览和 AEC 这些就不说了光模块是不是也有逻辑改善按照博通说的几家云服务提供商都是百万卡且都是单一的网络架构更不用提深暗美国训远通信公司这种低级电脑
DCI 数据中心互联直接受益的以及训练完全集中于数据中心而推理一定会在端侧泛化新旧终端的机会可能才刚刚开始