Deep Dive
Shownotes Transcript
来啦 坐您的半拿铁 请慢用
我们在做的时候发现他自己学着学着他就学通了他就悟了他说同志们朋友们乡亲们这给咱们美国的民族企业敲响了警钟 Wake up call 这是我们的 Wake up call 大家醒醒吧这是警钟啊
食堂大妈来给我们的策略提个建议要吃辣子栽辣秧要吃黄鱼走长江要吃带鱼走长江要吃刀鱼走长江要吃黄鱼他说半拿铁是一档中文商业主题播客节目由资深互联网同业者刘飞和秋月共同主持这怎么回事我就说你说的不对不是秋月你重新再说然后他就说
半拿铁是一档专注于商业品牌与消费领域深度分析的对话类节目由主理人刘飞和枪枪共同主持又换人了枪枪也不知道谁是哪位半拿铁 137 期打板开始大家好我是刘飞我是
我是小蕾不容易啊不容易啊这回不容易在哪呢得让刘飞好好说说哎呀因为这是开年我这边主讲的第一期嘛所以这中间花了大半个月时间准备准备的这个过程当中正好
不巧很巧 知不掉进真眼里去了好几个地方去玩在日本玩了有一个多星期又去中东迪拜阿曼那边玩了一个多星期这是环球旅行在这个过程当中时间安排的实在是有点紧凑难得去一趟咱就多花点时间玩所以就挤时间去写稿子大家话重点玩也就玩了但是你像刘飞出去玩都忘不了还得写稿子
这个稿子写的呀确实通常都是在飞机上写在那个邮轮上写你说飞机上怎么写飞机上有网吗花钱就有网怒智一百多块钱买了一个飞机上的网那个网卡的呀我跟你说看个图要等一分多钟能出来个图咱是真没体验过飞机上的网找这个办法写写写终于花了大半个月时间写下来了而且今天这个稿子确实不是那么好写接下来大家就知道为什么不好写了看看讲啥也就我不知道了哎
我们其实很少聊当下的这个新闻事件啊一般都是想让子弹先飞一会儿看看能射中什么目标啊最后这个子弹打出来是什么样啊尘埃落定之后再说但是呢这次比较特殊因为我自己本身很想聊一聊作为互联网从业者作为之前也咱也干过程序员对吧小雷也干过程序员
咱俩都叫啥程序员产品经理学过程序员学过写代码所以本身对这个事很激动我本来也在搜资料学习过程当中小蕾说到这估计也知道了是要聊 DeepSeek 可以猜测到了另外还有一个点就是我们的一位听友刘仁诚老师之前在不开玩笑咱们一块录过博客他特地私信我说能不能聊聊这个
点菜了其实看到不少听友说能不能把这个事讲一下包括刘哥在内很多听友其实也都提到过 DeepSick 了所以咱们今天就好好聊一聊 DeepSick 也算是给刘哥定制了一期最近段子有点少多写点段子咱们也提个要求点个态希望班达铁能够激发一下陈哥的灵感另外在正式开讲之前也先托付几句
大家也知道曼拿铁的风格因为我们是用尽量通俗白话的方式去讲但是这个课题它又是一个比较偏科技方向的课题这里面多多少少会有一些不专业的地方我已经是尽可能的找准确的资料了资料在每一期的 show notes 里面大家都能看到大家都可以去找溯源我也排除掉了很多感觉不是特别靠谱的资料
所以中间有一些错漏的地方或者大家觉得不准确的地方都可以提我们后面可以继续再补充感谢大家如果真要了解 DeepSick 背后的很多技术逻辑和它整个的所有的训练过程它到底意味着什么很多可能还得认真读一读这些论文去学习一下论文实在是有点难度对于大部分朋友可能看不那么懂的话也可以去读一本小说叫做人工智能风云录
作者刘飞要了解之前的历史可以啊就是要了解现在这个 AI 进展到目前的技术上到底到什么程度了可能还是读一读比较好好那在开始之前咱先互动一下吧因为今天涉及一个什么问题呢就是我有点拿不准听我们嗯
能对 DeepSick 了解到什么程度或者说我讲的能不能讲的明白所以小蕾还是就像我们之前说的之前是盲捧对吧盲捧代表的就是他要讲啥我也不知道而且代表大部分听友对这个问题的认知程度所以这里面你可能就不时的需要小蕾多提提问题就是这个怎么回事我怎么没听过这概念这是什么意思没明白中间就随时打断我知道的我就回答我不知道的我就现搜没关系哈哈哈
首先有这么几个问题咱们一块聊一聊也是我在整理这些资料之前比较好奇的看看小蕾是不是有同样的疑问首先第一点就是 DeepSeek 是不是真的碾压掉了 OpenAI 这个你凭你了解到的信息你什么感觉那不算碾压不算碾压对吧成本降低的有点多但你从整体效果上性能在追赶对吧我是按齐平那么来认知的
这个认知我感觉应该没什么太大问题就到后面到这正闻我们会有更充分的了解第二个问题 DeepSeek 到底是不是 AI 领域的拼多多很多人拿拼多多当类比就说大家把价格打下来了这是个平 T 这便宜了他主要是想强调这个方面你要纯从价格来说的话那可以这么认为他就是便宜了对
但是这里面会有一个稍微不一样的地方就是拼多多它的便宜它是来自于这个产品本身不一样了还是你会说话它不一样对吧它是用更性价比高的方式做的但是你不能要求它的材质和那个价格买到的一样但是 AI 领域你当然知道买到的服务性能只要在有一些测评上是一致的那就说明你买到的是一样的东西所以是要从这个层面理解所以这个问题的答案就是不
它不是人爱领域的军动对你看你从哪个视角来看纯从价格来看可能确实算是第三个英伟达的股票咱们知道前阵是跌了又涨跌的是一泻千里后来涨也慢慢再往回爬了这个问题就是英伟达的股票到底是该涨还是该跌那我认可大家的第一反应
大家对芯片的需求会下降我们后面就再聊包括它之前跌的是什么逻辑现在涨回来又是什么逻辑第四 DeepSeek 的配方
很多人说你看他都是中国本土的团队每个人都是中国人不是从硅谷请回来的什么科学家他是一个纯中国血统的团队那么 DeepSeek 本身这个模型他是不是纯中国血统的呢那你要这么问的话他就不是那肯定不是因为 AI 大萌新发展到现在
我们之前讲人工智能风云录的时候都提过哪怕最牛逼的这些团队或者最牛逼的这些大模型背后都是建立在巨人的肩膀上的从这个角度说这里面的大量的代码也是采用了开源的技术用了很多开源的技术框架这个意思我以为我理解的是是不是在问整个的主创团队里面其实有没有外国人没有外国人确实是
好那接下来一个问题 DeepSeek 背后公司的创始人梁文峰就 DeepSeek 之父嘛大家说的说梁文峰他是搞什么的呀他之前那个机构是搞量化基金的那么他做这个事是为了炒概念吗
是不是市面上封城的各种阴谋论对对对但是我能理解很多本身对于这个领域不那么了解的人你无从判断所以说对吧就是逻辑上完全是有可能的但你如果了解了你就会知道这个就不是这回事是是是而且从这个新闻一开始出现的时候大家也会觉得怪怪的就是一个搞量化基金的搞出来一个大模型而且这个大模型现在吹的都到了什么地方去了都不知道
是不是他炒概念这也是因为之前小蕾的故事里经常提到对吧有人拿他类比汉心的把摩托罗拉的 logo 磨掉又打上自己的 logo 对包括有一些说国内股市他这个逻辑或者国内吹概念吹牛逼的逻辑经常是这样的就是你一个公司又搞什么新概念了这个新概念到了什么国际什么水平了所以他这个
股票就能涨一涨拉一拉业绩能好一点都是逻辑的之前很多人这么猜测的当然这样可以说显然不是后面我们就大概知道了接下来这个问题我们知道在 AI 领域里面有好几种模式其实各种软件里面都有不同的模式比如最常见的苹果和安卓苹果就是封闭的安卓是开源的你用安卓是可以的你甚至可以免费用
但是这上面的其他的一些服务是需要交钱的那么 DeepSeek 它在业界比较知名的一个特点就是它是开源的就大家其他的公司也都能拿来用你是一个学术机构甚至你是一个个人你想拿它的模型过来做自己的研究都是可以的那么你能不能拿它的技术来直接商用直接拿来赚钱是不是可以的呢
我的认知只要是开源的他要商用应该也拦不住吧正常来说是要交钱的但是 DeepSeek 的开源它开源到更极致的一个程度就是你可以拿来商用开源有非常多类型 DeepSeek 的开源是最彻底的类型就是你可以直接拿来商用完全共享对有的开源它是开源给学术机构你做研究可以但是你不能拿来商用对
最后一个问题 OpenAI 它公开说 DeepSeg 窃取了我们的数据我们的信息窃取了我们的宝贵的知识产权有没有这回事无从验证因为 OpenAI 是必然的
这个事我们等会也可以展开说一下实际上是有这么一回事的但是这回事到底算不算窃取或者说对窃取这个概念是怎么理解的我们过会可能就具体知道了那我倒挺感兴趣因为用到了窃取就感觉直接从代码上 copy 他们了数据嘛前面说的是数据如果是数据的话那看看怎么验证那我们问题先问到这儿接下来我们正式开始引入
各位听友如果还不清楚 DeepSeek 的我们首先先简单介绍一下这是一个 AI 的大模型它既是机构的名字又是大模型产品的名字首先在现在 AI 浪潮之中最领头羊的当然就是 OpenAI 团队
OpenAI 团队有非常多重要的模型包括之前引起这波 AI 浪潮的 3.5 到 4 然后到现在最公认的最顶尖的两个模型一个是 4O 一个是 O1 那 4O 呢相当于是通用模型里面的撬除 O1 呢是推理模型里面的撬除
所以这两个一般都是行业内大家去来对标的说你到底离这个 4 欧差多远你到底离这个欧一差多远用这么去对标那么目前来说就像我们前面说的性能上 DeepSync 到什么程度 DeepSync 的 V3 就是它的第三个版本和 R1 就是它二系列的第一个版本这两个最新的版本已经能够非常好的对标
4 欧和欧一了甚至在有的方面表现比他们还要好一些那 V3 和 21 他指的就是呃
所谓的模型名字我们都知道我们平时用的产品不管是你用的手机里的 APP 还是网页端访问的它是一个框框背后到底谁给你吐那个字这背后到底是哪个模型在起作用那就是刚才说的 V3 和 R1 现在我估计很多听友已经用过了因为它访问首先比较方便另外它又是免费的所以我们现在如果默认打开 DeepSick 的页面跟对话框里聊天的话默认用的都是 V3
那如果你点左下角有一个小的按钮叫深度思考你点那个深度思考其实旁边已经有一个括弧了写着 21 那其实就是切换成 21 去做这个问答了在 21 如果跟你做问答的时候他会把他的思考过程甚至全都写出来对
这是我们介绍一下 DeepSeq V3, V2, V1 是什么概念然后 DeepSeq 在 V3 和 V2 的基础上它又做了各种各样的 APPAPP 是一个框是个壳子背后用的是这些模型包括网页端等等这些包括这段时间用其他各家的大模型好多也都已经接入 V2, V1 了
就是那种聚合类的产品都能访问到 DeepSeek 所以这个时候其实也比较容易能搞混就 DeepSeek 它既是 APP 它又是团队的名字又是大模型的名字可能中间需要分辨一下另外就是 DeepSeek 这里面 D 和 S 是需要大写的这是
算是职业病就是人家的商标或者说正式的产品名都是需要大写的中间没有空格必须按这个规矩来然后你像 OpenAI 它起名也是很混乱了 OpenAI 是个团队名对吧它做的大模型叫 GPT 然后大模型 GPT 基础上的对话工具对话软件产品叫 ChatGPT
然后 ChadGPT 基础上又有 ChadGPT 什么 3.5 什么 4 欧基础上现在又出现欧一欧三也发布了欧三还有欧三 mini 就是它这个命名逻辑搞到现在大家都很混乱但是你大概就可能需要花段时间捋清楚我们这边就不展开再去做解释了刚才我们说到 DeepSync 在性能方面已经达到
全球顶级的水平了这个事儿到底是不是真的其实我看现在也有些自媒体包括刚才小蕾说的有些自媒体已经说这个就是汉心就是骗国家项目骗钱的等等其实并不是 DeepSeek 现在已经引起了整个全球各地的尤其是 AI 领域的
互联网领域的各科技大厂甚至包括政府的高度关注像在今年的 1 月 22 日也就是刚刚半个多月前微软的 CEO 我们之前提到过的萨提亚他就在接受 CNBC 采访的时候就说这个 DeepSeq 现在确实非常了不起非常重要大家应该认真对待中国 AI 产业的发展
另外 DeepSick 在 2025 年 1 月 20 日左右那个时候开始爆红之后就在各个海外媒体大家都在讲 DeepSick 的时候所以他也登顶了美国 App Store 的榜首并且在 100 多个国家陆续开始扒榜啊
就全部都在第一名都超过了 Chad GPT 而且在某些情境下确实它比 Chad GPT 好用关键还有一个点就是它免费它的深度思考也免费但是 Chad GPT 你想用它刚才说的新发布的 O3 这种最新的推理模型其实是要花钱的包括 4 和 4O 也花钱是有额度限制的
但是也没有像 DeepSeek 这么方便但是现在 DeepSeek 也面临一个问题像前两天我访问的时候大家也都在吐槽说基本上经常断掉服务器没有响应已经开始了各种反调系 DeepSeek 的让你问我一个问题我给你回一个服务器繁忙请稍后重视而且 DeepSeek 在登顶美国 App Store 的榜首之后这一天发生了一个历史性的事件在美股
英伟达的股票狂跌 17%单股蒸发了 5890 亿美元这是整个美股历史上这是历史上这不是说今年或者说最近几年是整个美股历史上跌区域的蒸发市值最多的一次没有之一而且当天美股整
整个芯片概念股集体是崩盘台积电跌了 13%美光跌了 12%博通跌了 17%ARM 跌了 10%阿斯曼也跌了 6%反而大模型公司开始涨了微软亚马逊 Google 这些公司都呃
涨了一些所以你看 DeepSick 它的确实的的确确是引起了轩然大波当然它官方包括有一些媒体也在分析说这是美股的自己的技术性震荡调整跟 DeepSick 没有关系的其实大家心里也有数跟 DeepSick 带来的这一波 AI 浪潮新的一个拐点是有很大关系的等会我们就大概知道它是一个什么样的拐点了所以这个事首先它肯定是真的因为连现在行业的
我们刚才说的翘楚以前一直是带大家在前面走的这个领头羊也出来发声了像山姆奥特曼老师啊我们之前在人工智能风云录里也也提到过嗯在微三发布第二天他是这么说的他说哎呀
复制已经知道的工作其实是很简单的做一件你不知道是不是有效充满风险的新工作才是一件困难的事什么意思呢就是 V3 它也就是只是说性能跟我们差不多了那不就是复制了我们的成功对不对结果在 25 年 1 月 31 日这个时候已经
所有人都在问他了你必须得正面回应了他在 Reddit 论坛回复网友的问题是他说 OpenAI 我们还是会继续发布更好的模型但是 DeepSeek 的出现改变了过去几年 OpenAI 遥遥领先的情况他已经坦诚了 DeepSeek 是至少变成另一个重要的领头羊了并不是只是追赶者了他带来的联谊效应还是持续在增长
发酵的比如像 Meta 近期就宣布加速研发 Lama4 计划投资 650 亿美元扩建数据中心并且部署 130 万枚的 GPU 用来确保 2025 年 Meta AI 是全球的领先模型
这是说明感受到了威胁 Meta 的一个工程师在论坛里就这么分享这个信源很多人在引用这个工程师这么说的 Meta 的生成室 AI 部门处于恐慌之中这一切都始于 DeepSeek 它让 Lama4 在基准测试中已经落后了
更雪上加霜的是那个不知名的中国公司仅有 550 万美元的训练预算工程师们现在正在疯狂的剖析 DeepSick 并试图从中复制一切可能的东西为什么 Meta 这个时候特别恐慌和紧张呢那就是因为他们做的这个 Lama 跟 DeepSick 是直接对标的
就像刚才小蕾说的你可能闭源的系统和开源的很难这么直接去对标但是你同样是开源的它现在已经成本比你低性能比你好了你当然就开始恐慌起来了以前你说
我性能没有人家 OpenAI 好是因为我是开源的所以我当开源的领头羊就可以了但是现在开源的领头羊也要被人家夺走了而且大的前提还是包括 Lama 也是像 Meta 这样的巨头在搞的东西而且根据美国媒体 The Information 它的报道 Meta 已经成立了四个大地办
四个大地板就盯着 DeepSick 去搞专门有四个机构有可能还是相互独立的来针对 DeepSick 的技术做公关 2025 年 1 月 20 日 DeepSick 的创始人梁文峰也出席了李强总理的座谈会这个估计很多朋友也看到新闻了给政府工作报告提供意见和建议当时这个可是上了新闻联播的啊
对大家应该对这张图都特别的熟悉也可以在说 note 里面再复习一下就在刚过去的 1 月底 DeepSick 官方还发布了声明已经遭到了大规模的恶意攻击所以收窄了注册的范围在海外的访问受到了一定的限制就是说明现在 DeepSick 真的已经放到聚光灯之下了所有人都盯着呢嗯
连我大川总特朗普老师也特地评价了 DeepSick 他是怎么评价的呢他说同志们朋友们乡亲们这给咱们美国的民族企业敲响了警钟 Wake up call 这是我们的 Wake up call
大家醒醒吧这是警钟啊也特别像是川普的那个语言模式另外他也说 DeepSeek 降低了成本这也是个好事啊咱们美国的公司再也不用花费大量的资金来建立一个低成本的替代品了也是一定程度上做出了肯定嗯
山丘杂志的一篇文章直接就这么表示说二一就是 AI 的斯普特尼克时刻斯普特尼克时刻指的是什么呢这是苏联发射的第一个人造卫星这个人造卫星开启了人类的太空时代这个评价呢不可谓不高啊
DeepSick 的创始人梁文峰他自己在之前采访的时候就说过我们其实并不是故意要成为年余的我们只是意外的成为了年余这是为什么呢他为什么说自己意外的成为了年余呢你得知道在各种所谓国家队的名单里就
你就别说是大厂了连什么所谓的六小龙连六小龙下面的各种国家队的因为国家有一个什么计划名单发展 AI 的这些名单你都看不到换方这家公司也就是梁文峰这家公司的各种身影反而在金融行业的朋友可能大家都比较熟悉熟悉的特征可能也是他家有好多计算机他家好多卡但是到底是怎么来的到底 DeepSick 是怎么做出来的梁文峰是何许人也
我们从头倒回去开始聊 1985 年梁文峰出生于广东湛江市你看我们的人物主角真的是越来越年轻了你就看刚刚那张图很多人看到的第一眼应该就会有一种强烈的对比感新闻联播上在这样的一个座谈上其实 85 年按说也不年轻了但是他的整个的这个打扮你就能感受到在这个气氛里面他显得格外扎眼对很像典型的科技行业从业者嗯
梁文峰父亲是小学老师从小感觉家教还是不错的 06 年从浙江大学电器工程毕业后来读研主修的是机器视觉 2010 年在浙江大学硕士毕业当时他写的一篇论文能找到的那篇标题叫一种鲁邦的 PTZ 摄像机目标跟踪算法那个时候就已经写代码在做算法了他的导师叫向志宇
这是能搜到了早期的一些资料你看这大毕业的也算是名校毕业生 08 年金融危机的时候在学校他就传了一个局跟同学研究怎么通过积极学习做量化交易 08 年他已经对量化交易产生了浓厚的兴趣那个时候国内没什么量化交易可以说
毕业之后梁文峰就先到了成都创业他当时找了一个出租屋就研究各种各样的 AI 项目做算法做创新都不是特别成功中间还有一个深圳的朋友拉他入伙创业说你别搞 AI 了 AI 没什么前途 AI 没意思
来我们深圳深圳热火朝天的大家都在做硬件的我们这边靠谱这个看起来更现实更接地气一些算算算婉拒了我还是继续研究我的算法了那这个朋友叫什么呢这个朋友是他浙大的一个同学叫汪涛后来给自己的品牌起名叫大江你看看就像说 BBS 那期一样很多后来的大佬你回过头去看当年他们其实都是有丝丝缕缕的联系的哎
梁文峰在成都那边他一直没有放弃一直就在研究说我怎么能做出用算法做的量化交易
说量化交易听起来好像比较简单就是你写一个算法让机器自动的去做一些交易对吧但实际上它没有那么简单的听过班达铁之前我们聊吉姆西蒙斯的那一期大家就知道很多人都在做但是像西蒙斯做的这么好的能这么赚钱的很难的这个事听起来好像门槛比较低就是你做一个算法他就能躺着给你赚钱了是一个非常吸引人的事儿
但是很多做这个的最后都是赚不到钱的 2013 年 28 岁的梁文峰跟浙大的同学徐进一起创办了杭州雅克比投资管理有限公司
但这个公司呢起色不大 2015 年中正 500 股指期货上市这个时候政策开始慢慢变开放了技术手段也变多了之前呢说是有量化交易了但是量化交易你能用的策略很少你就只能简单配一配但是现在它已经能容纳更复杂的量化交易策略了
跟着 2015 年这一波 6 月份的时候 30 岁的梁文峰跟徐进创办了杭州幻方科技有限公司英文名是 Hi Flyer 高飞者
高费的人当年取得了不错的成果因为算是入局比较早他对量化交易也研究很多很多年了这一年他们就采购了 10 张显卡开始做算法了 30 岁就开始了 2016 年换方加入中国证券投资基金业协会
相当于有一个更官方的干了戳了你已经是受我们承认的了年底的时候换方推出了它的第一个 AI 模型在深度学习的基础上做量化交易你可以理解以前它也有量化交易但是以前的量化交易是线性的规则大概意思写死的 XL 表一样的很多规则就是人为的往里塞大概涨到什么程度你就干卖了
你根据什么策略这些东西都是写死在里面的但是现在你可以用深度学习的模型去做了这一年换方的管理基金规模达到了 10 个亿 2017 年基金的交易策略开始慢慢转移通过一年多的时间已经几乎都迁移到它的 AI 模型上了这个速度还是非常快的这之前都是用那种规则判断但现在是够大的深度学习全都用上了规模已经到了 30 个亿
2018 年换方获得了私募金牛奖在这个金牛奖的颁奖典礼上也是因为他平时非常非常低调很少露面这也是他留下的比较少见的一个公开场合的照片我现在是远远的看因为我们俩对着做基本上这个时候的形象跟刚刚我们看到新闻联播里头那个形象已经差别不大了
那接下来呢 2019 年梁文峰创办了换方 AI 公司就他单独把 AI 这块拿出来了准备投资两个亿搞深度学习搞什么呢搞一个深度学习的平台萤火一号就这个萤火一号搞出来就是一个非常重要的量化交易的一个基金的产品我这个产品就可以给我的基金做服务了嘛这个时候他就开始大规模采购所谓的显卡了买了 1100 块嗯
这个时候他整个基金的管理规模已经破百亿了在计算集群上的投入也非常多当时是整个私募基金里面非常少见的敢砸这么多钱全去花在计算机上的很舍得下本钱 2019 年 8 月 34 岁的梁文峰在金牛奖的颁奖典礼上发表了主题演讲叫一名程序员眼里中国量化投资的未来你看这个标题还挺大的嗯
他就说了量化公司是没有一个基金经理的没有基金经理基金经理就是一堆服务器就靠服务器去买买买完全不要人的经验作为私募投资人对我们的期望是很高的如果一年跑赢指数低于 25%投资人都是不满意的那么量化投资现在已经赚了技术面原来赚的钱未来要抢夺基本面原来赚的钱这个难度就大了
梁文芳从那个时候他的目光就很远大他当时提到的都不是说我们要给我们的投资人赚多少钱他最后他提到说我们的目标是什么我们要提高中国二级市场的有效性就是现在二级市场
不好散户多确实有效性比较弱 2021 年还发生了一件跟梁文峰有关系的事就是西蒙斯传的中文版出版了序言就是梁文峰做的序我当时做西蒙斯那一期主要参考资料就这本书当时其实翻到过幻风创始人梁文峰这谁就是翻过去了那个时候完全不认识留下了一点点小小的淡淡的印象淡淡的印象现在人不得了了
也就是在 2021 年换方的基金规模破千亿大关了你看它的增长这个速度速度啊太快了十亿三十亿一百亿一千亿到这个地步换方已经成为了国内量化私募有所谓的四大天王的说法它是四大天王之一了量化私募换方已经是做到顶了但是这一年步子大它也扯着蛋了就年底的时候啊波动很大回撤达到了历史新高啊
就回撤其实就简单理解就亏了不少官方那个时候就已经出面道歉了甚至有人就说见了换方的高管就打他一顿我就当面我就打他投资人那是实实在在的亏了钱而且是应该说违背大预期的亏钱所以说这个心情是可以理解的但是大家不要打人对而且规则之内换方也没有毛病对你投资就是有涨有跌你得有正常的心态
对于换方来说这算是俘获相依了为啥呢因为同一年换方因为之前的业绩好也好或者说他在刚才我们提到的 AI 上的投入已经看到了很多正反馈也好他开始囤了大量的卡囤了多少卡呢有一个说法因为现在 DeepSick 火了之后很多人都在分析换方到底有多少卡因为他官方从来没有承认过自己有多少卡海外有一些媒体的分析说 DeepSick 至少有 5 万多张卡
但是实际上可能没有这么多有一些说法是说 DeepSick 是有一万张老的 A100 的卡另外有 3000 张 H800 的卡嗯
不管是 5 万还是 1 万 3 很多阴谋论的不说源头其中重要的组成部分也就在这了不管是 5 万还是 1 万 3 你要想这个数字是非常夸张的怎么说就是超过万张的国内企业不超过 5 家这么少不超过 5 家凤凰菱角
另外四家都是互联网大厂互联网大厂囤卡很可以理解但是第五家就是一个基金公司这件事就很神奇因为你说起来好像训练一个 AI 模型大家动不动就说几千几万张卡但是真的能囤上万张卡的非常少六小龙都不是都能囤上万张卡的
所以在这一年其实换方就已经做好这种准备了已经囤下了这么多卡了这也真的就是说俘获相依因为那个时候还没有外贸管制这个卡都是随便能买到的然后这次他们决定要搞萤火二号了萤火二号用的就是这上万张卡
这次的投入是 10 亿人民币 2023 年 5 月梁文峰宣布说我们不光要做量化交易了我们要做 AGI 了这个时候为什么在这个节点大家也可以理解因为 OpenAI 已经看得出来很多成效了而且他直接就是冲着 AGI 去的两个月之后创办了杭州深度求索人工智能基础技术研究协会你一看基础技术这个名字就知道他很有野心深度求索这个名字起的也挺有野心的
我们就是要从最底层去干我们不只是做表面的应用层深度求索他们的英文名也就是 DeepSeek 了 DeepSeek 在 2023 年中旬就已经出现了 2023 年 11 月 2 日 DeepSeek 发布了第一个自己的大模型叫 DeepSeek Coder
11 月 29 日发布了 LLM 模型就是正式的大语言模型了接下来又连续发布了几个模型那个时候其实发布之后没有引起太多波澜为啥呢因为这些模型你可以理解就是跟拉玛一样的模型不管是从性能还是从架构上它没有任何新意只是说呃
然后国内又出现一个团队已经能做到 Lama 这个程度了还不错挺好的那个时候大家对他人质也就停留在这个阶段了那是 DeepSick 的第一个阶段
到了 2024 年 5 月 DeepSeek 在 LLM 就是大语言模型的基础上发布了 VR 这个在当年其实就开始引起了行业内的一些讨论这个 VR 它有什么突破呢它有两个方面突破非常强一个叫 MOE 一个叫 MLA 嗯 得解释一下第一个 MOE 就是 Metro of Experts 嗯就是混合专家混合专家模型嗯
这个混合专家模型从它的基础的概念出现已经很多年了 30 多年了 1991 年就在论文里有一些学术领域的专家提出来过这么早我们先回顾一下如果刚听完人工智能风云录的可能就不用回顾了但是估计很多朋友也忘掉很多朋友也没有听过我们简单说一下我们都知道现在的人工智能领域是完全神经网络的胜利神经网络这个
派系在杰弗辛顿老师一直坚持火种的延续下终于在 2012 年爆发了 2012 年在 AlexNet 测评上他证实了机器学习的威力杰弗辛顿说要有深度学习于是就有了深度学习这也是他发明的概念这是神经网络巨大的胜利到今天我们日常用的算法基本上都是在
你叫神经网络也好叫机器学习也好叫深度学习也好都是在这基础上的那 openAI 是怎么出现的呢就是想通过量变带来质变因为这个时候机器的性能也好我们能掌握的数据也好已经到了又一个新的量级了所以就看看我们是不是能大力出奇迹因为在这之前很多科学家包括杰弗辛顿在内的很多
人工智能的专家都在想说我能不能用一些巧妙的办法让这个 AI 有智能但是 OpenAI 说不不不我们不需要那么多复杂的规则我们就硬堆看这个模型变大了之后是不是真的能变得比以前聪明最后效果真的就很好比如说之前引起 AI 浪潮的 GPT-3 它的参数量是 1750 个亿啊四等模型参数量大概已经到了 1.8 万亿了这是参数量啊
所以现在基本上大家说的 AI 大模型这参数量都是至少是个百亿的不是百亿的你都不能叫是大模型而且大家通常来说也都是有一个所谓的 Skilling Law 规模法则大概意思就是规模就代表着它的性能参数越大性能相应的可能就会越好
这也是在机器学习领域流传的一个段子效果不好加几层就再多加点东西多加点料就再大力出奇迹我们再大点力是不是就能性能再好一点
这个例确实是在之前的历史上从来没有出现过的比如说 GPT-3 当时的训练时间是 3.14 乘以 10 的 23 次方的浮点数运算怎么理解呢就是全球 80 亿人每个人每秒钟算一次浮点运算就算数 888 算数 80 亿人算啊一起工作需要 125 万年你看看
所以这只能计算机来干那 OpenAI 最后验证的就是我真的通过这种大规模的训练甚至我投位的都全是语言通过大语言去训练居然就能看到有智能涌现了 AI 能达到的效果比过去 AI 要效果好很多那大力确实能出奇迹
但是也出问题了因为规模太大每次的调用成本特别高就我们所谓的这种参数量指的就是这个模型你训练出来放在那之后你每次用你要让模型转一圈最后告诉你一个答案这个模型如果是 1.8 万亿的总参数的话它转一圈它就很慢它就很麻烦
成本就非常高这也是为什么大家说现在 OpenAI 的调用成本也很高嘛就我们每次用为什么平时我们用豆包啊用 DeepSeq 啊你就发现这不是一个很小的公司或者一个小的创业团队能承担的成本因为每次的调用你都需要计算的重新计算的它不是放在那死的一个东西啊嗯
简单的是不是可以这么理解你问他一个问题他到图书馆里去给你找答案图书馆那么大跑一圈下来就比较累你图书馆越大他跑的需要时间就越长对差不多是这么个意思或者说我们想一个事如果是一个比较难想明白的事或者说发生在很久之前的一个久远的记忆我们得想半天有一些东西我们可能一下就想出来了所以就像小蕾说的你每回在图书馆里来回跑对吧每次都从头到尾跑一圈这都
不就慢吗它不就麻烦吗成本还高吗那怎么办呢混合专家架构 Moe 就应运而生了这个 Moe 到底是干啥的呢其实也不是很难解释就它建了一套专家系统为啥叫专家呢它把这个人工智能本来这个模型建立的这模块给做了一些拆分
以前这个人他是全知全能的他啥都知道或者说像萧蕾举的例子他要图书馆里什么东西都去看一遍现在不是了你不需要同时成为医生律师和工程师你把它拆了这不是一个人是一个专家团了比如说这时候你再问大模型问的是物理相关的物理专家你就出来吧你出来说其他人不用出来啊
文学相关的就把文学的专家请过来就是你每次请的可能都不一样或者说你请的是一小部分因为专家多嘛就且多了那么多就这次请这两三个那次请那两三个点菜那就跟我们上网的路由一样它这个混合专家架构系统里面也有路由的设置你想找谁我帮你打电话叫他出来这个路由就变得很关键了你得找对人
这个就容易理解了之前像刚才我们按萧蕾举的这个例子一个人在图书馆里从头到尾跑一圈这个成本可高了现在你知道他问的是关于科学相关的我去科学房间里面去找那里面全是科学相关的书就像我们之前用过的一个俗语砍柴砍小头问路问老头对
这俗语行吧要吃辣子栽辣秧要吃黄鱼走长江要吃带鱼走长江要吃刀鱼走长江到底是什么鱼忘不了忘了那句话具体是什么鱼了
所以你看他这样的话他就变化了混合专家架构让计算量变低了就首先模型这个还是很大但是你只要存得下他以前你可能需要像我们刚才提到的 A100 H100 才能去访问他因为计算量特别大你要跑完全跑一圈啊
但是现在不用了因为有个建匠他才能办完这个事如果是幼儿园的小孩的话跑两步爬窝不干了也不行对所以现在我们用一个小的 GPU 甚至我们所谓的家用的 GPU 当然不是那个最便宜的就我们平时玩游戏的游戏的显卡甚至都已经能够用好这个 MOE 架构基础上大模型了
这就是 Moe 最重要的一个价值了在 OpenAI 刚出来的时候其实大家都是没有采用 Moe 这种架构的 2017 年 Google 发布了西苏门控 Moe 的一篇论文这个论文是大大推动了 Moe 在行业内的一个讨论大家在讨论是不是有机会我该问问题了西苏门控
就是他一个选择路径的或者说算法的问题就是他能让 MOE 这个具体的基础逻辑离实践更近了一步你就大概这么理解就可以了他就更容易落地了他提出了一些更具体的方法
那个时候大家其实都盯着 GPT 盯着 GPT 看看他到底用不用他们用不用本来 GPT 用没用不知道因为官方从来没说过这事是后来有一次队友英伟达在他们一个分享会上 PPT 泄露了上面有一页写着 GPT MOE 1.8T
就这个 1.8T 指的就是 GPT-4 所以它内部起名既然都叫 GPT-MOE 那就说明用了 MOE 架构的到现在其实训练的时候用 MOE 可以算是共识了因为在同样的性能下用 MOE 的架构至少可以降低 30%的计算资源你看差太多了这是至少多的话能降低一大半了
MOE 架构虽然是共识但是这是一个工具用的好还是不好你得看自己本事 DeepSeek 就非常非常擅长 MOE 所以它特别得心应手而且在国内它应该就是第一家推出 MOE 架构的大于 M 模型的公司这是 VR 中使用的第一个非常重要的技术第二点是什么叫 MLAMLA 是多头潜在注意力架构 Mounted Head Lightened Attach
attention 这里有两个重点第一个重点就是通过低质的压缩方法优化注意力机制从而提升这个计算效率和内存使用在 transformer 模型当中就是现在大家都在用的这个注意力机制的这个模型啊有一个 kv 的缓存机制就是说之前计算过的东西啊你可以缓存下来这样就能避免重复计算嘛
MLA 它可以通过低质联合压缩建值技术优化了 KV 就是让 KV 的量缓存的整个量大量减少这属于是真正的降维打击高维打低维你可以把高维的东西给它用低维的方式存储显然这种算是压缩技术就会把整个内存计算量的使用会降低
另外一个重点是多头潜在注意力就是所谓的这个 mountainheadmountainhead 这个多头是什么意思呢就是很多头啊
就跟那个九头龙一样每个头只关注其中一部分你这个头你就看这个文章的语法我看这个词语的意思那他去考虑背后的比喻含义等等就每个头关注的部分不一样那每个头关注的这些结论得到的结论再做融合那这样计算量和内存都会有大幅度的优化
总的来说不管是 MOE 还是 MLA 它都是在成本上下的很多功夫他们搞得好还体现他一个层面就真的很厉害他们在 CUDA 层甚至更底层做编码 CUDA 我们之前提过是英伟达的一个软硬件结合的技术就是你可以在更底层的地方去做一些
定制化的操作让它更好用但是这个底层的编码它就很难就有点像我们之前学过的汇编已经你如果再做 CUDA 层甚至更底层其实已经很接近汇编了到了非常非常接近硬件的那个地步了那个难度是很大的 DeepSeq 团队它就通过 CUDA 的内核集
优化去实现动态的路由加速因为前面提到的这种动态路由它对计算性能的要求很高它直接在底层去实现了相较于常规的框架级实现能获得 23%的吞吐量提升就是容量隧道啪一下就变宽了就是信息的传递这种强化的强度在整个的开源模型里面都是非常罕见的就可以说是开源模型的 top1 开源模型最厉害的
那说了开源对于那些封闭系统呢你说这么多大卖系公司为什么他们在 MOE 和 MLRA 上的研究不够那么多呢其实很容易理解因为我卡够多嘛我的计算性能足够强了我其实不是特别需要考虑成本方面的太多问题就包括 OpenAI 刚开始做的时候也是没考虑用太多这一类的技术因为 MOE 和 MLRA 我们刚才表述的其实大家也能感知到它还是为了降低成本嗯
或者说在同样的你有同样规模的卡或者同样的能力的基础上你的性能能更好一些普通老百姓叫精打细算我今天要买瓶两块钱的水还是四块钱的那要是一天挣一个小目标我管你啥水随便买就完了所以说 DeepSick 它有点穷人家的孩子早当家的意思是因为不得已他们才这么去操作的
你看他们做的有大量的工程上的一些问题还是说做一个 AI 模型并不是大家想象的我听你这个 MOE 听你这个 MLA 好像听起来逻辑不就那样吗但具体你在实际工程操作的时候你会发现有非常多新的问题要一个一个去解决它其实是个工程的问题就跟你造一个建筑一样这里面
哪就漏水了哪就缺了一个角了哪的材料它就腐化了等等就大量这种工程的问题比如说像刚才我们举的例子你每次不是只有只喊一部分专家出来吗嗯那有的时候它就会出现一个问题就这个路由不够智能老是这几个专家出来啊
那剩下那几个专家存在那他永远不出来那你这个负载就不均衡负载不均衡之后你就可能得做一些调整做一些处理就是你们不能老很闲对吧你们也偶尔出来说说话你们看看是不是能帮帮忙他用一些办法去做这个调整所以有大量的这种很
现实的问题都得处理比如说想处理负载均衡的问题行业内之前 Google 它有一个经典的负载均衡损失函数的成熟解决方案大家都用这种方案去解决我每次用 MOE 的时候我都去考虑一个损失函数我老掉它的时候它的权重就会慢慢降低我尽量的不都掉它但 DeepSick 在这上面又创新它提出了无辅助损失的动态路由偏置调整策略观众朋友
光听字面意思理解不了了这个无辅助损失主要是后面那些我还能理解它的目标是为了是什么前面这个无辅助损失其实指的就是不再考虑 Google 提出的那个损失函数我不考虑那个损失函数的方法我用一个全新的方法去调整它的动态路由但还是能解决这个问题同样解决一样的问题这个偏沉的问题对
总的来说 MOE 和 MILA 就能大幅降低内存压力降低成本并且可以处理更长的文本之前能处理的文本相对就会小很多显存降低的效果非常显著整体的占用降低了多少比传统的架构降低了 67%到 90%
四舌五入不要钱了从这开始就已经有质变了大幅的降低所以 V2 发布之后在业内达到了非常好的声誉而且 V2 其实是第一波引起大家热议的 DeepSeek 在 V2 发布的时候就已经火了再回忆一下刚刚说到这个时间点是 24 年的年中左右中间的中 24 年的 5 月份的
那 V2 发布之后它带来一个什么结果呢就是各个国内的国产大模型公司调低了自己的 API 的价格因为它确实那个时候干不过了它价格实在太便宜了
那当然 VR 这个时候只是说出现了一个怎么说呢大家就觉得这个团队工程做的不错它能通过一些优化的方法让成本变低 MOE 用的很好 MLA 用的也很好但这些技术呢其实咱们也用了咱们下下功夫也能做到这个程度那个时候就到了这么一个新的阶段了在 2024 年 12 月 DeepSick 发布了更跨世代的一个产品 DeepSick
DeepSick 发布了 V3 那这个时候就真正的是窜天猴了因为它的双小豹在那啪啪啪的响它确实从性能从数据从成本各个方面吊打国内外常见的大模型产品同价位没有对手或者说同性能下它的成本实在是拉的特别低啊
那 V3 它当然同样的就是像刚才说的 MOE 的技术 MLA 的技术它也用了很多比如说它用了 FP8 和 MTP 我们简单说一说 FP8 指的是什么呢它是一种低精度训练过去的训练精度都是 FP32 和 FE16 嗯
32 和 16 到 8 都是折瓣意思就是训练的精度越来越低了我的伏点数用的位数只用 8 位了在过去精度高效果好它是一个共识你当然需要精度更高而且那个时候底层的结构也都是高精度的它压根不支持低精度的你的用了低精度的你可能还要就有点向中间再转移到它其实效率反
而变得更低所以那个时候也没有人考虑低精度的英伟达后来就看到了一个趋势了他在自己的硬件基础上加上了一些技术的出现让这个低精度的应用也能普及了就你能直接在上面做低精度的编码了相当于用了一半的成本就能达到原来的性能这里面有大量工程的部分怎么理解呢可以类比成运输火车和无人机的运输火车的运输很稳定啊
但是它成本肯定高啊你要坐火车要走轨道啊但是好处就是你不用考虑太多稳定性的问题就是火车很稳了基本上都能到那儿出轨的可能性小很多无人机转着转着没信号了无人机你放上的东西它需要减震你需要打包装所以它是另外的一种工程问题嗯嗯
DeepSeq 对 FP8 的使用也还是刚才说的同样的道理用的就特别好 FP8 的效果就特别好你既然浮点数直接降低一半其实就是用了一半的成本又达到了原来的性能它是达到了原来的性能并不是所有场景都需要比如说 32 位的那种性能
我就降了不是 FP8 和 FP16FP32 你可以理解怎么理解就是理解人画笔它是工具它不是说最后的模型精度模型的精度当然大家都一样但是训练的过程当中你用的工具我的画笔更粗一点但是最后画出来的效果你看不出来我是用更粗的画笔画的你这么说就更好理解了然后刚才还提到一个技术是 MTP 技术就是 Mountain Token Prediction 多 Token 的预测
传统的统计模型预测都是一个词一个词蹦我们之前人工智能风云录也大概提到过他就写了下一个字再去猜下一个字最可能是什么大圆模型的逻辑
MTP 它的逻辑可以预测多个 token 甚至预测后面更长文本的 token 这样它就更有逻辑因为你会发现过去的 AI 大模型写着写着写了下半句忘了上半句或者有的写小说写着写着这个角色丢了写没了当然这不光 AI 有的人写着有的漫画有的小说也会也写没了
那这个 MTP 技术也是在推理模型上效果非常好的技术具体什么是推理模型刚才我们也提到了 OEE 就是推理模型嘛我们等会会展开再说说推理模型这个事儿了
采用了 FG8 MTP 技术以及各种各样的这种工程上很好的技术之后 V3 通过突破它的成本干到了行业震惊的地步 V2 的成本已经压下去了但它只是引起了国内大家的震荡但 V3 通过各种各样的技术我就把工程我最后真的是做到极致了成本具体是什么样呢官方论文里面他们直接写了这么一段话
DeepSync V3 的训练成本得益于我们对算法框架和硬件的优化协同设计我们的预训练阶段在不到两个月的时间内完成耗时 266 万个 GPU 小时
结合 12 万 GPU 小时用于上下文长度扩展和 5000 的 GPU 小时用于后训练你看它上下文长度扩展后训练的时间都非常少了几乎可以忽略不计了最终完整训练仅需要 280 万个 GPU 小时如果说 H800GPU 的租赁价格是每 GPU 小时 2 美元我们的总训练成本是 557.6 万美元嗯
那最后出了价格了你看成本就这么点这个 557 或者 560 万美元这个就是坊间疯传的 V3 的训练成本就 DeepSeek 最知名的一个数字了 560 万美元它就是从官方论文里这么来的但是在官方论文里后面也补充了一句请注意上述成本仅包括 DeepSeek V3 的官方训练成本不包括与之前研究和架构算法或数据的消融实验相关的成本嗯
所以他为什么听着很小呢因为他确实只是指的训练成本他没有算人力成本没有算其他的包括你看之前 V2 肯定有很多研究成果也用在了 V3 包括之前有很多其他的一些投入这些成本都是不算在里面的主要说的是最后这一步花了这些成本
所以一方面我们肯定对比起来你不能把其他公司动不动融资百亿千亿说拿着这些钱去烧跟他 500 多万好像他就花了 500 多万咱们就跟我和小蕾现在手头有 500 多万美元是不是就能搞出来这个东西搞不出来的所以他指的是训练主要是我们手头也没有 500 多万美元
我们还是对比来看真实的就是你得跟人家对比训练成本那 Meta 的 Lama 3.1 它用的训练时间是多少 GPU 小时呢刚才提到 DeepSync V3 是 280 万 Lama 3.1 用的训练时间是 3084 万个 GPU 小时效果不如 DeepSync 的基础上它的成本是它的 10 倍还多 10 倍直接拉到了 10 倍
这个在业界就是非常非常夸张的一个数字差别太大了而且那是拉马呀那其他的这些训练成本呢包括 GPT-3 的训练成本已经是在 500 万到 1000 万左右到 GPT-4 的成本官方是没有的第三方机构给出的是至少 5000 万每刀的训练成本才能迅速高于 4 的模型来嗯
那 V3 相当于也是不到十分之一的这个价格就能训出来了而且它的性能是比 4 好的呀你要想它已经达到顶级的这个性能了刚才我们也提到了这 560 万它其实是训练成本那 DeepSeek 在这里面投入的成本是远不止这个几百几千万的根据第三方机构的估计光 GPU 的投资已经花了 5 亿美金了就前面其实我们也提到过两个亿十个亿人民币去砸去买芯片是啊
所以 DeepSeek 累积在 AI 上面的投入应该也有 10 亿到 20 亿美金之间了 4 年内可能会达到 20 到 30 亿美金的这个地步当然你比起来比百亿千亿肯定少很多但是依然不是大家想象的说中国出了个神器几百万美刀就能搞定什么 10 亿的事对并没有到那么个白菜价嗯
但是哪怕降到这个地步真的是非常非常厉害了要知道 24 年的 AI 浪潮之后很多公司很多说要自己做大模型的公司都已经黄掉了因为 GPU 水涨船高大家也发现你得至少上千吧最好是上万的卡才能训练出来好的大模型但现在大家发现哦这个变化了呀这个完全不一样了呀
所以成本我们听起来好像只是说花更少的钱干了同样的事但是它会带来整个格局剧烈的变化这是 V3 为什么被大家广泛讨论的一个原因首先我们看一看各个巨头大家在囤芯片上体现出来的破例根据各个大厂的财报亚马逊在 2024 年已经拿出 830 个亿来投入做 AI 了 2025 年预计要花 1000 个亿一年 1000 个亿砸进去你看看
因为亚马逊他是要搞基建他要自己做集群这些那 Meta 也要做基建他预计 2025 年要砸 600 到 650 亿 Google 也要做基建预计是 750 亿
DeepSick 出现之后他们各个公司都在重新调整自己的预期调整自己的规划又能省不少钱了是不是需要这么多钱了之前投资人董事会也会质疑你们搞的些啥是真的我们你说亚马逊搞了这么多的集群真的会有这么多人来租来用吗
这是一方面的格局的变化大厂做 AI 的成本或者财务的投入会有一些变化另外就是还会带来一件非常重要的事这个是完全利好一家另一家科技公司的就是 Apple 苹果呀为什么利好苹果呢因为苹果现在有全世界最好的 2C 的消费级的芯片之前大家觉得 AI 所谓端的智能端的 AI 好像它只是一个辅助只是个配合呀
如果说成本这个成本不光是迅模型的成本还包括使用的成本如果降低到消费级我不需要英伟达了我要啥英伟达苹果就可以了而且我在端就能把绝大部分的计算能做好了之前的说法是苹果的 AI 很牛逼但是它可能也就是做小部分的计算到一些比较重要的或者它完成不了的还得到云上去做大模型的演算但是现在不用了我手机上都能搞定之后这个可就
完全不一样的概念对网速度要求也低很多了对带宽要求也没有那么高了所以苹果公司可能还是 DeepSick 这一波的一个大赢家之一其他的大公司而言 Meta 应该还是很不错的因为它有大量的数据它有自己的
很多的用户他也在开源上面有很多的积累他会跟着这一波有更多的利好出现 Google 相对来说就会比较蛋疼因为他长期的优势还是硬件他自己我们之前在人工智能风云录里也提到过他自己建的各种各样的这种集群尤其是适应大规模计算的集群在现在就显得好像没有那么嗯
溶鱼了有点对没有那么有市场了还有一个很意外但是你想想有情理之中的影响就是成本降低尤其计算门槛变化之后对芯片的要求也发生变化了 DeepSync 之前能达到 OpenAI 顶级模型的这些国产大模型你只能配在英伟达的芯片上
现在不一样了有一个很重要的新闻可能我看提到的朋友也不是特别多就是像华为生腾为代表的 16 家国产芯片已经能支持 DeepSeq 了这个变化就大太多了之前你说国产芯片它只能做一些其他场景的运算说大模型尤其是能到 OpenAI GPT 最新版本的水平性能的
不可能嘛但现在我用国产的芯片也能配出来了我们喊了这好几年的卡脖子了最后呢一看这个卡脖子没有用了对一个是当然是仅从这个问题偏戏谑的这个说法啊越往上的这个性能的提升当然还是训练肯定还是需要那个更好的芯片去训练但使用上这国产芯片已经能够支持了嗯
它带来的结果一个是芯片你可以全用国产你有安全性第二个它确实国产芯片也便宜它还是比英伟达便宜很多同样性能下第三个是它可以做更多定制化了你不用说非要用英伟达的酷淡或者其他的这种它提供的定制化的技术你可以自己去做自研了这些都会大大加速国内的 AI 发展所以这也是一个很大的影响
刚才说的这些是商业领域对于学术领域和消费领域变化也会非常明显首先使用刚才我们反复说使用便宜使用有多便宜这里说的使用主要我们还是讲 API 的调用因为哪怕是我们平时用的这 APP 其实也都是官方提供的调用它的 API 产出的一个结果根本上都是 API 的费用
API 的费用一般单位都是按 token 算的 token 你可以简单理解为一个字或者一个词就可以我要输入你多少 token 它就开始收费了输出多少 token 它都是要收费的按这个来计价对比一下现在使用最多的 API 之一是 Cloud 3.5 Sonnet 一
以它为例它的成本是每百万 token 输入 3 美元每百万 token 输出 15 美元嗯这个可能没什么概念我们还得对比啊 GBT4 Turbo 我查到最新的价格是每百万 token 输入 2.5 美元输出是 10 美元相当于稍微便宜一点 DeepSeek 是多少呢 V3 的输入是 2 块钱输出是 8 块钱前面是按 5 美元算现在是 2 块人民币啊
基本上快 20 倍的差别了十几倍的差别这是 DeepSync 的 V3 我们对标的都是 V3DeepSync 后来发布了 R1 这是它的推理模型对标的是 GBT 的 OE 也是推理模型 OE 的输入是 15 美元输出是 60 美元 R1 的输入是 4 块钱输出 16 块钱这是 26 倍的差距没有
这没法算了就是你说一个产品你平时能买到的一个产品性能一样的产品是价格是二十六分之一开玩笑吗这不就是啊
整个市场都要乱了完全要重构的那种感觉所以前面我们在一开始提到一个问题说 DeepSick 是拼多多你不能完全这么类比因为拼多多很多所谓的白牌或者平 T 它其实是以牺牲了一些质量或者使用功能为代价的遵循一分钱一分货的规律的对但是 DeepSick 它确实达到了性能的基础上它的价格啪啪啪的往下打都是几十分之一的去打压
一分钱一块的货 DeepSick 官网自己还很骄傲的列了一个二项线的表格
这个表格上提到的就是价格和性能之间的对比把各家的价格都标了一下它自己的位置是顶左上角意思就是最便宜的里面性能最好的他还画了一个框上面写着说叫性能价格比最优的范围这个范围里就他一家所以你看它价格打到这个程度了 DeepSick 还有个很夸张的一个地方就是它
赚钱了它是有利润的它的价格在这个程度 OpenAI 都不赚钱 OpenAI 和其他这些公司很多都是亏钱在做的所以我们刚才一直说的成本这一点最后还带来一个结果当然就是英伟达的股价暴跌的原因大家以前觉得囤芯片是关键囤卡但是现在就发现嗯
好像不是那么关键人家的卡也没有那么多当然万卡也是很多了但是是不是未来我们不需要这么多卡了那英伟达方面他们自己是什么感受呢英伟达就在前几天 2 月初的时候已经开始支持 DeepSick 了官网上还特地强调 DeepSick 21 模型是最先进高效的大型语言模型在推理数学和编码方面表现出色积极拥抱 DeepSick 那你得拥抱啊
如果大家用的多的话对他来讲不完全是坏消息他依然可以调整策略而且英维达的股票现在最近上涨其实也有他背后的逻辑为啥呢这个我们等等再说我们先说回 V3 发布不到一个月也就是在
不到一个月前了 2025 年 1 月 20 号 DeepSeek R1 正式发布了如果说 V3 引起了业界对成本的讨论发现说低成本也能搞出这么好的模型来那 R1 的重要程度确实就是让 OpenAI 开始真正反思了让山毛他们要正面回应这件事让整个人工智能的拐点开始出现了那 R1 为什么能带来这么
轩然的大波让这么多人都在讨论包括我们可能平时用的时候感觉感受又不太一样就他作为一个推理模型跟通用模型好像是不一样他怎么有有点那个人格的感觉了你比较的是推理和通用模型的这个差别那我看到的更多就是平常根本不关注这个的普通老百姓可能之前
比如说 24 年初的时候稍微用过一段这些个平台各种的大模型后面也就生活当中用的不多了但这波又起来了大家又开始用了包括之前可能完全没有用过的这波也已经普及到了大家都开始用了我们就还是说说 21 到底意味着什么代表着什么
首先推理模型它是一个专用概念像我们前面提过好几次了 OpenAI 的 OE 就是典型的推理模型你在用 ChatGPT 的时候你可以选它背后的模型你也可以选 OE 为什么要做推理模型很简单现在的通用模型在推理上解决问题解决的都不好大家都已经遇到瓶颈了
之前我们用 AI 的时候用 ChadGBT 早期版本的时候你会发现犯错最多的就是推理问题就是很多人会惯给他脑筋急转弯他就转不过来树上骑个猴就是这种东西都
都是搞不明白的有一个经典问题 strawberry 草莓它有几个二就是三词里面有几个字母二算不过来就是所有的通用模型包括早期的推理模型都算不过来推理模型就是专门用来解决这种
可能需要逻辑的问题比如说数学问题包括大家写文章你说以前的 AI 可能写诗可以反正不需要逻辑就有意向就行了但是你可能写一篇严谨的文章做一些学术上的课题那就很需要推理了 24 年底的时候在 AI 领域出现了一个相对悲观的现象
我们前面提到了真的是 AI 领域一天地上一年的感觉就发展非常迅速 24 年大家发现通过大力出奇迹基本上已经到瓶颈了就它的性能很难再提升了 AI 大概就聪明到这个程度了我们在算力和数据上再下功夫可能效果意义不是那么大
这就说到 AI 大模型之前最主要的两个要素我们应该在人工智能风行录里也提到过算力和数据算力代表的就是你要投入多少卡你要训练多长时间你要砸下去另外就是数据 OpenAI 之前收集了大量的数据现在我们也说一个有竞争力的大模型公司肯定要有自己
独家的数据或者说你至少有海量的数据灌进去才行但是现在数据该灌的都灌了实在耗不出来新数据了全球所有的数据也就那些了卡我基建我其实开始造核电厂了都已经也就到这了那现在能不能再找一个新的要素那其实新的要素就是推理啊
为什么 21 现在在行业引起轩然大波呢就是因为 21 是第一个达到 OE 效果的大模型没有之一之前在推理这条赛道上还是独树一帜的就是每当一个 GPT 的版本出现之后大家都会去追随嘛都会去追赶嘛你像 4 出现之后大家都去追当 GPT 出了 4O 之后那大家发现我 4 已经追上了现在就追 4O 嘛嗯
O1 也是一样出现 O1 之后大家发现真牛逼推理模型真好他开始追 O121 就是第一个追上的而且追上之后它的效果在某些场景下其实甚至比 O1 都还要好 OpenAI 团队自己
为了安抚大家说我们 O3 其实比它好很多但我们 O3 还没有正式发布他们会有这么一个解释但确实 21 在很多方面效果比 O1 要好这有一个对比图这个对比图就是在推理的一些重要的课题上尤其是算数学代码和知识的一些测试题上他们的表现这个表现是有 21 和 O1 的两个版本以及 V3 这个其实就很能说明问题了
这里面分别比较了数学代码科学知识一般知识等等两件模型的几个不同的版本在这几个方面相应的表现基本确实看得出来它的 R1 的水准跟 O1 是基本持平的在某些特定场景当中甚至超过了 O1 比如说有量子光学科学家说自己在计算任务当中他发现 R1 的表现会更好
那这个就是第一次有这么快就追上 OpenAI 的团队而且使用的成本还是像刚才说的很低呀
说到这儿为止我们只是说出现了一家很厉害的大模型公司能够通过一些方法通过一些工程的办法下了一些苦功夫最后赶上了国际顶级的水平目前为止还是这么一个故事但是接下来就是为什么大家说 DeepSeek 开创了一个很重要的新的时代的原因了 DeepSeek 在发布 R1 的同时它还发布了另一个版本的模型叫 R1-0
21-zero 这个 zero 才是引起整个 AI 领域轩然大波的一个版本因为在 21-zero 模型里面老师不存在了哦
前面我们说了我们再回忆一下人工智能风云录里提到过的在神经网络方面 OpenAI 它是大力出机器对吧但是在调试方面他们还是用了很多工程手段我们之前在人工智能风云录最后举的一个例子就图书馆里一个小孩这个小孩你不是给他整个图书馆你就在里边读书读书的时候我还是要有一个老师教的但我教我不是像以前一样我就在黑板上给你画我是反复的跟你说你多看看那个书
或者说我现在考考你你知不知道这个东西了不知道不知道我告诉你应该怎么弄这个就是所谓的有一个专业术语叫基于人类反馈的强化学习 RLHF
包括之前我们聊的时候 OpenAI 团队不是有一个巨大的语料库所谓的标语料标记语料标完语料之后我才知道说哪个是好的语料哪个是不好的你哪个对哪个错其实相当于有一个三年高考五年模拟的这么一堆题库有期题集让小孩不断的做老师是不断的指导的是那得有反馈得知道啥是对错 OpenAI 团队它就有一个很强的能力就是这种所谓预训练和调试工程上效果很好
现在的大模型无一例外全部都用了 LHFDeepSick 就说为什么知道啊能不能咱别知道了嗯
你神经网络都这么纯正无杂质了这么 pew 了我学习的过程能不能也纯正无杂质我的配料表干净一点我只需要兼考员就是最后一步我只需要放个人在那我就机械的告诉 AI 对和不对剩下的我全让 AI 去做你既是老师又是学生你全都是自己搞定
你如果听过人工智能风云录的朋友肯定就能想到这个指导的过程其实是人工智能三大门派当中的强化学习啊就是控制论维纳那一派就延伸出来的一个派系啊当年的 AlphaGo 就是强化学习为主的经典人工智能啊 AlphaGo 不就是这么学习来的吗不断的通过一个很明确的课题自己去学习的那 OpenAI 它算是继承了神经网络的光荣传统 DeepSeek 更进一步它继承了强化学习的光荣传统啊
他们用的这个方法自己在论文里就提到了我们用的这个方法就叫 Pure 2L2L 是强化学习我们就是纯强化学习这个小孩现在在图书馆里就是全都给他琢磨了连考题题库都没有了他就自己琢磨完了我只告诉他对或者不对
这个过程当中训练模型的时候还有一个特色之前的训练模板可能就都比较复杂你要让他去输出很多东西很多格式很多类型然后在 DeepSync 的训练模板里就非常简洁它的训练模板只有两个部分组成第一个部分就是推理过程你怎么思考的他会用 Sync 这个 Tag 嗯
就把它包起来就是你先需要把你怎么思考的说出来最后再把你的答案 answer 给说出来这个模板看着就超级简洁然后这个模板它就非常好用用过 DeepSick 的朋友都知道如果你选了深度思考它就会出现思考过程而这个不是为了用户体验制造出来一个思考过程这就是真实的 AI 就是在这么想它想完了之后
它在给你结果那它为什么要有一个思考过程呢就是这个 Pure RL 牛逼的地方就跟我们小时候做数学题一样过程分啊它是给过程打分的
之前是只给答案加分你只给答案加分那他万一思考错了你也不知道但这个时候对于模型来说他过程思考的好他也加分那他不就是努力想把自己的思考过程也变得更好吗那这个所谓的加分也是在强化过程的学习当中这就是强化学习的一个规则嘛嗯
在这 DeepSeek 还开创性的提出了一个奖励模型叫 G2POG2PO 是基于群组的相对策略优化听这个名字也不知道什么意思
我们稍微解释一下它在三个方面做考察你像刚才我们说了你不能只看最后答案是对还是错像过去的强化学习的反馈就是 1 加 1 等于 2 你只要输出跟 2 不对的我全都是零分嘛然后你输出了 1 加 1 等于 2 是 1 分对吧现在相当于你哪怕输出的是 1 加 1 等于 3 但是你的过程里面有可取之处我也给你加分的那你这样不就离你正确的答案越来越近吗
你之前的一加一等于二可能是蒙的呀所以这个 JRPO 这种奖励模型它奖励的是什么呢它奖励三个方面第一个是一致性你输出的内容是不是符合逻辑第二个是完整性你的回答是不是符合预期的格式第三个是流畅性你的语言表达是不是自然这个 JRPO 它就能让整个 AI 最后表达的结果上就显得更流畅了它是更符合一个推理模型想要的一个结果嘛嗯
你看这就是为什么说它是 Pure RL 我们前面说了有很多规则和指导是在强化学习的阶段当中塞给它的但在这个时候 DeepSeek 它用的 Pure RL 不是告诉你对还是错而是让你给出多次答案所以叫基于群组给出多次答案之后你自己比你看
你看哪个答案更好让你自己跟自己下棋自己跟自己比相当于真的只是一个考官他不是老师他不教你那这个考官把这个规则奖励的逻辑定了之后就自己卷自己你就像我们做班拿铁的稿子之前是
你写出一个稿子来我告诉你第一段结构怎么样第二段你得加点邂逅语不够灵活第三段怎么样现在不是评分标准就是这几个要有趣对吧要有料要怎么怎么样几个标准中你自己比你自己写五篇文章你就自己反复看这个好像更好一点把那些干掉这个好像更好再写五篇这个好像更好一点累死他全都是他自己的活了
你会发现其实就是我们之前提到的α go 到α zero 之间发生的变化α go 有大量的规则α zero 我们在人工智能风云录里提到过它就是自己跟自己下棋那为什么 R1 叫 R1 zero 为了致敬α zero
那 210 它就是第一个完全不使用 SFTSFT 指的就是有监督的微调就是之前当然也不是说所有事情都知道但是你这个在图书馆里这个小孩出来每次问什么东西你也得跟他多说几句但现在不是你就自己想琢磨就是做到好为止你误去吧完全不使用 SFT 完全依赖强化学习所以说叫 Pure 2L 嘛
达到了业界顶尖水平的标准当然可以说 210 现在还没有到 21 的水平或者 OE 的水平但是他已经能够用纯强化学习
达到了让大家完全意想不到的一个程度了那 PureIL 在 DeepSick 自己官方写二一的论文里面有一个详细的记录他就说我们在做的时候发现他自己学着学着他就学通了他就悟了也就是刚刚说的你因为有那个 Sync 那一部分就思考的那一部分他们能看到发生了什么
这其实就是一个人类群星闪耀石应该叫 AI 的群星闪耀石记录了 AI 它怎么就突然就跟达摩祖师一样啪就通了之前只能是只能是黑盒大力出奇迹咱也不知道图书馆里头到底发生了啥这回呢有一个黑盒里头有一个黑匣子了这论文里写的这一段呢是他当时在算一个数学题啊嗯
让 AI 算一个问题里边有一个公式什么根号 A-根号下 A 加 X 等于 X 这个公式然后 AI 就在那换这两边都开平方是什么样然后突然说了一句等等我明白了我顿悟了他就在思考过程里这么写的 WaitWaitWaitThat's an aha momentI can flag here
就这么一段 I can fly here 我要标记一下对我要记一下这就应该这么办这就是 AI 原生的一个是官方觉得特别有意思这句话就把它给他拿出来了这个数学题怎么解的不重要啊关键就是论文后来就描述 DeepSeekR10 模型中间版本的一个 Aha moment 时刻这个时刻让模型学会了用拟人化的语气进行重新思考这不是我们教他的呀
这就是他自己突然就开始说的你看是挺吓人的论文里就说这让我们见证了强化学习的牛逼和魅力所以说 DeepSeek 相当于又找了一个新的路径在天花板上捅了个窟窿出来因为之前我们前面反复说的大力出奇迹它就挤到那了大家都在卷推理模型但是推理模型也没有找到像刚才说的这么好
一个可能的方向这个方向就是用一个 Pure 的 IL 可能效果就真的不一样了因为之前聊人工智能风云录的时候我们提到过 AI 最大的问题还是说更平感觉它的推理方面很弱如果说用 Pure IL 让它自己琢磨它在推理上能呈现这种效果
现在我们还只是给他加一份的燃料如果未来跟 OpenAI 一样在 Pure RL 这个方向上给他 100 份的燃料 1 万份的燃料他能出现一个什么样的结果
这个天花板是不是就真的能通往 AGI 呢这就是一个新的问题了所以说这就是一个真正的拐点转一圈回来了大家别忘了最开始他们这个目标就是冲着 AGI 去的所以这个事它就很神奇你回想起来之前大家为什么觉得 OpenAI 这个路径最后怎么就能涌现智能因为它是一个统计模型你只是把人类能积累的各种语料
把它用统计的概率算出来说我这个字下一个字可能是什么你就能看起来像模像样的已经出现智能了那
那如果说 Pure ILO 它在这个基础上能让它真的涌现出来其实我们现在用 DeepSeq 加上 REE 深度思考已经能感觉好像有点人格就像个人了它是不是一个可行的路径确实说不定而且我们还要反思一个更底层的事我们经常说我们讲逻辑我们有推理 AI 是靠统计的它只是凭它的记忆和数据去做了一个结论那么是不是真的有逻辑存在
逻辑是不是存在的现在都给你展示出来了我们是不是也是只是记忆涌现我们所谓的智能是不是也是凭记忆的感觉给出想法我们是不是真的有逻辑还是我们跟 AI 思考的方式也差不多那规基现在就靠统计已经出现我们所谓的探机推理的效果了那到底是怎么回事这其实是一个科学哲学问题了嗯
而且聊到这我觉得还是挺感动的之前我们讲过人工智能风云录就 AI 走到今天是很不容易多少科学家前赴后继结果是每块砖头都盖在了大厦之上强化学习当年是非常重要的门派但是后来在深度学习火了之后一度也成了比较边缘的学科或者说它更多的是做搭配的它没有神经网络那么火今天又重新焕发青春了很多人都直接类比说 DeepSeek 在论文里写的 Aha Moment
重要的时刻就堪比当年 AlphaGo 的神来之笔大家记得的话是第 37 首第 37 首代表的是 AI 在下棋的时候智能涌现的一个时刻现在算公式的时候 Aha moment 又是另一个历史时刻了 2024 年是 AI 大模型的元年用 AI 行业知名的一家公司叫 Hyperbolic 它的联合创始人说的话
2025 年就是 2L 的元年就是强化学习的元年了这话就直接这么说了所以我们知道 Pure 2L 在行业内引起的震动有多大现在几乎已经是大家公认的都在研究的一个方向了都想要复现 DeepSeq R1E0 的效果
这有一个小问题它是开源的何谈附现呢这个事我们后面会展开解释就开源也分很多种类开源这个模型你能拿来直接用和我开源了所有的代码训练过程我的训练代码我所有内部的代码都给你公开掉这是两码事现在相当于只是开源了我的模型你可以拿来用的这个情况那
核心技术当然是不能直接全都分享出去的但是我的技术实现的方法是在论文里会体现的说到这儿也要坦白说一句是不是 DeepSeek 做到现在这个程度已经远超了 OpenAI 就我们前面提的问题已经碾压它了是不是就代表着这就是未来的方向 OpenAI 要完蛋了目前来看也是不太可能的
首先 DeepSeq 用的这些技术它就不是很独家的一些技术它是历史上我们刚才提到了很多科学家很多前赴后继的人工智能的学者们积累起来的前面说到 MOE MLA 等等这些技术 DeepSeq 只是把它运用的很好包括 RL 这种强化学习的算法方法之前也有很多学者都想到过只不过也是他们运用的最好
像之前 OpenAI 的研究员是 OEE 论文的核心作者叫郑炯元也是一个华人他就做过一个演讲一个演讲叫 Don't teach, incentivize 就是不要教他要激励他你要通过更激励的方法去
训练这个模型其实也是刚才说的要强调强化学习的一个路径而且这个演讲是在 2022 年底就发的一个演讲另外我们看 OpenAI 的综合实力依然还是现在 AI 领域最强的从绝对值上说 DeepSeq 你看它现在阅访文量已经是 2.78 亿了已经很高了但是 ChatGPT 的阅访文量还是 38 亿那完全还不是一个量级的
另外就是 OpenAI 现在发布的模型和他正在研究已经做出来的模型也不是完全时间匹配的比如说他已经提前发布了自己的新的推理模型 O3mini
这个很可能就是 DeepSeek 给逼出来的 DeepSeek 火了之后他就很着急的把下一代的模型发出来提前一下 O3 的性能确实比 R1 还是要好很多的这个好很多也是有学界共识的从技术水平上说依然还是行业领导者另外 DeepSeek 也是站在 OpenAI 的
肩膀上的这件事我们后面也会展开再说一说另外还有 OpenAI 也非常有钱就近期川总又安排了孙正义带着钱带着 250 亿美元已经又去了美国而且在未来四年再加上甲骨文他们要成立星际之门 Stargate 要花 5000 多亿做 AI 的基础设施
这些咱们都还在追赶的过程当中也要清楚差距也不能就觉得很傲慢说我们出了一个 DeepSeek 美国完全就可以不把它放在眼里了你看前面我们说了 DeepSeek 带来的几个非常重要的差异化的竞争力第一个就是它成本真的很低
第二个是在强化学习上躺出来的这么一条新的路径另外有一个点也很值得一提就是在一个视角这是 DeepSeek 的巨大优势也是被很多人认为甚至能够超越 OpenAI 的另一个特色就是刚才我们一直在讲的它是开放的
之所以我们把它称之为开放就是因为说到开源很多人想的就是是不是把所有的代码所有的过程所有的东西全都分享出去了那个叫开源其实开源或者开放有很多类型
常见的有三种一种是 open sourceopen source 就是纯开源完全的开放的软件或者算法比如说我们平时写的代码语言 PythonPython 就是开源的 Linux 也是开源的它们是完全透明的纯开放的就原代码全都开放掉的那种
然后 open data 就是开放数据会把文本图像结构化数据这些公开这些一般来说开放数据就意味着允许自由访问使用和共享可发现可访问可互操作可附用
比如说有大量的数据集评测集就是开放的像之前提到 2012 年深度学习崛起的 AlexNet 他参与的比赛李飞飞教授主办的比赛这个比赛 ImageNet 它就包含了 1400 万张的标注图像这是一个很宝贵的图像数据这些数据它就是纯开放的它能够推动计算机的视觉发展
第三种开放就是开放权重 open with 开放权重就是指公开训练好的模型参数我其实把我的模型公开了然后让别人可以直接部署或者微调模型不需要从头训练但是它更多的是把这个模型下载下来做一些调试和使用它不是说把所有训练模型的代码公开掉那常见的比如说 stable diffusion 这个绘图的模型它就是开放权重的那
DeepSeek 就是开放权重的一个选择它的开源所谓的开源是开放权重你可以把 DeepSeek 下下来自己部署你可以自己搭一个可以使用 DeepSeek 模型的网站但是它怎么训练出来的过程你是不知道的
另外就是 DeepSync 除了开放权重之外它的许可证模式几乎是最开放的一种叫 MIT 模式这个模式是可以没有任何限制的商用这个比 Lama 还要开放 Lama 其实有很多它训练的方法大家都知道它也是一个开源模型它也是开放权重但它除了你可以下载下来做微调做使用之外有很多的使用还是比较有限制的
另外就是他的整个的训练的方法他不像 DeepSick 官方会自己不断的发论文出来告诉大家说我这个过程是怎么样的我用了什么方法这是不一样的
所以说目前在开源领域 DeepSeek 几乎就是最开放的一家开源的大模型公司从 2023 年 11 月 DeepSeek 首次发行模型开始它就是开放权重的包括我们今天内容的重要的这几篇参考的论文全都是 DeepSeek 团队自己撰写的写得非常详细它虽然没有把代码都亮出来但是怎么训练的我们用了哪些技术遇到哪些问题几乎全都说出来了
说到这儿可能有听众也会担心你这么一家烧钱的公司你怎么赚钱呢这个其实跟安卓也有点像虽然是免费的使用但是未来还会有更多额外的服务可以付费这也是一个可行的路径在商业历史上不断被验证所以大家也不用特别担心开源它有什么意义呢其实回顾互联网科技历史你都会发现它是一个从开源再到系统化标准化的这么一个路径这个路径大家都是很类似的
现在还不成熟的 AI 领域其实开放非常非常重要你要想互联网能发展到今天这样也得归功于早年的分享精神尤其是像雅虎开创的免费时代那个时候上网是免费的上网里面有一些服务可能是付费的所有的技术都是免费可以共享的这是让互联网后来变得开放的原因
当然因为各种因素今天的互联网没有以前那么开放了因为在体系化标准化之后这是另外一回事所以 OpenAI 现在让很多人特别失望因为它一开始讲你看它名字起的就是往开放去的但是它变得越来越封闭马斯克老师之前讲的那些话我们就不再引用了最近
很多专家都在评价这件事比如说加州大学伯克利分校的计算机科学教授 Stoyka 他就说开源社区的重心正在向中国移动这可能对美国构成巨大的危险因为这是中国能加速新技术的发展就是咱们越来越封闭了咱们的发展会比别人速度还要慢下去他说的咱们还是站在美国的咱们英伟达的高级研究科学家 Jim Fan 他就公开说一
一家非美国公司正在真正践行着 OpenAI 最初的使命开展真正开放的前沿研究给所有人赋能就 OpenAI 最近确实越来越封闭它最新的这些模型怎么研发的一些方法它都开始不提供了这跟它最早成立的初衷都有很大的不同
一直为人所诟病改名了改个 Close AI 有一个软件工程师他干脆就把那个 OGOpenAI.com 就是老 OpenAI 这个域名买下来定位的重定向到了 DeepSeek 就是你如果搜 OGOpenAI.com 现在搜也可以我试过了 OGOpenAI.com 他就会直接转到 DeepSeek 他就是来嘲讽 OpenAI
那 OpenAI 它的封闭带来的确实可能不只是简单的行业发展迟缓或者巨头垄断它甚至会有系统性的风险因为 AI 我们前面经常提它是黑盒在黑盒之上你在里面稍微动一些手脚或者有一些哪怕你不是主观上有一些恶意那是不是中间有一些问题你自己没发现它会造成非常巨大的风险的嗯
这就又回到大家担心的 AI 和真人到底谁为主次的问题也包括在这个方向之内同时 DeepSeek 的开源它给整个行业带来的意义是非常重大的
你像在 DeepSick 的开源社区里有大量的学者都在不断的提供新的想法组成新的部位你组成胳膊他组成头部你出这个主意他出那个主意大家是共同去商量做这件事人多力量大而且这种公开透明的过程当中大家也知道你到底有没有在算法里下腰你是不是要堵我们你是不是留了一些什么后门什么的安全性会更强一点
最重要的其实还是普惠普惠就是真的把工具给别人受人以愚 OpenAI 它是调接口它是要赚你钱的而且你只能通过调接口去解决问题你调完接口它那个模型还是那个模型但是今天
DeepSeek 通过降成本能让更多人享受这个普惠了我可以使用你的大模型做我自己的研究做我自己的商业的创新同时又因为是开源的让这个门槛非常非常低我不用自己重新训练了 DeepSeek 开源社区现在有 34 万的开发者贡献了代码超过 200 多万行这种发展速度是币源的产品很难达到的
而且有人是做过一个统计这个统计是看开源系统和闭源系统他们整个性能提升的有一个线性拟合就是把他们随着时间的推移他们的性能增长的速度给划出来了
这个图里线性拟合了两条线其实就可以看到开源的这条线虽然性能在同时期比闭源的性能要低一些但是它整个的提升的趋势和方向是要眼看在后面几年就要超过闭源的这些系统的协率更大 DeepSeq 刚才也提到了它是基于 MIT 许可协议的能够随意使用这就相当于你现在不光是
菜谱给你了厨具都给你了你现在食材都放在这了你就自己拿起来做就行了最后这个行业它可能在这个基础上才是真正的满汉全席不然的话就只能拿它出来的这个菜谱这预制菜预制菜拿出来就只能炒成这个味了嗯
我们在之前讲互联网实话的时候提到了互联网的重要开拓者之一咱们聊过的马赛克浏览器的发明人马克安德森他近期就表示 DeepSeek R1 是我见过的最令人惊叹和印象深刻的突破之一作为开源项目这是给世界的一份重要的礼物嗯
我们之前在故事里讲过的当年拿了图灵奖的神经网络三巨头之一杨立坤老师他就说了与其说是中国对美国的胜利不如说是开源对必源的胜利他们这些学者他们这些专家对开源的支持程度还是非常高的你能让这个问题稍稍的再去政治化一点
而且开源精神或者这种分享精神本身也是 DeepSeek 能做到今天的重要原因我们前面也说了 DeepSeek 它的技术不是纯中国血统它也采用和借鉴了大量行业里的技术也不是说天生下凡我们真的面壁就全面出来的我用的这些技术用的这些方法都是通过先进的大模型去参考借鉴出来的
所以这种分享这种开放可能未来确实是会一个很重要的大的趋势
那也正是因为 DeepSeek 很可能开创一个更繁荣的生态因为门槛降低了所以 AI 可能真的又更需要芯片了因为不光大厂以前是囤芯片的囤卡的都是大厂别的厂用不上现在说不需要囤芯片的只在第一层在大气层的结论就是中小厂甚至未来个人是不是都能用芯片训练自己的大模型
像微软的 CEO 赛提亚老师他就发过一篇推特他说杰温斯悖论将再次出现随着人工智能变得更加高效和可获取我们将看到它的使用是激增的变成我们目前无法满足的一种商品市场所以
所以说站在卡的角度或者说站在芯片的角度大家可以预计的或许是下一个的爆发点但是再回到像刚刚刘飞提过的苹果和英伟达到底哪个受益更大这就是另外一个话题了就是这种英伟达最高端的芯片最高端的卡是不是有这么大的需求量这个真不一定就大家的这个需求量到底卡在哪就决定了英伟达和苹果的未来嘛
刚才萨提亚老师提到的杰温斯悖论这个很有意思这个指的就是效率提升成本降低之后反而会导致需求大幅增加杰温斯悖论是经济学家杰温斯提出来的他解释的就是当年发生的最经典的一个现象煤炭的技术变革
最早煤炭是个很小众的需求只有少部分人能用得起煤炭但是煤炭的技术变革其实反而让煤炭的使用量大幅增加煤炭量是供不应求长期供不应求的这么一个现象叫杰温斯悖论所以后面可能也会出现一波缺卡的状况甚至说在 DeepSeek 火了之后英伟达的
英伟达不光股价涨了芯片的供需市场又开始震荡了像你在 AWS 上如果购买租借 H100 的价格也在不断的上涨需求变大了很好理解英伟达自己也讲未来做推理模型需要大量的英伟达 GPU 和高性能的网络未来我们卡会卖的越来越好的当然这肯定是也要给投资人信心嘛
至少刚刚我们提到的那个问题因为达是给了他的答案对他也是利好自己当然要给答案说到开源最后我们也特地提一下阿里阿里是目前我们国内大厂里面唯一做开源模式的其他大厂都是做避援模式的阿里做的 Q1 是做的很好的字节百度是避援的海外大厂里面去卷开源模式的主要是 Meta 嘛
近期 Q1 刚发布的 Q1 2.25 MAX 性能也非常好在一些评测榜单上都超过了 V3 这是国内比较值得关注的模型了那说到这儿我们把 DeepSeek 的最主要的三个特性都说完了我们回顾一下第一是成本第二是强化学习第三是开源
我给大家想了一个简单的技法就叫开城墙开城墙开源成本和强化学习这样你以后在酒桌上我跟你说 DeepSick 那就是诸葛亮创立出空城记 DeepSick 牛逼牛逼的哪牛逼是开了 open edge 城墙怎么开城墙的我跟你说说开源成本强化学习啪啪啪一说这个逻辑捋出来了
所以开城墙加在一块确实引起了 AI 领域的新范式它不是一个点它确实是这三个点综合在一块的我们之间关注的可能更多的是它的成本和性能那它在强化学习和开源上能带来的这个联一的效应能让子弹飞出去的这个距离和强度可能是会更强的呀
所以 DeepSeek 火了之后大家的反应首先非常强烈最早各个云服务厂商积极拥抱最早接入的是微软 1 月 29 号就接入了亚马逊云 AWS 是 1 月 30 号接入的
然后在这两天 AMD 和英伟达也都宣布上线了自己的平台而且他们各自都说自己是跟 DeepSeek 配合效果最好的芯片厂商国内的竞争对手相关的云服务也都纷纷上线包括 2 月 1 号华为云上线 2 月 2 号腾讯云 2 月 3 号阿里云
甚至阿里云它有自己 Q1 开源模型它都上线了 DeepSeek2 月 4 号火山引擎也上线了同样在这几天 2 月 3 号 2 月 5 号和 2 月 6 号中国联通中国移动和中国电信的云也都分别上线了 DeepSeek 大家现在都积极拥抱了你现在其实可以很低成本的在各种云服务上直接能够买到 DeepSeek 的服务了
关于 DeepSeek 黑神话悟空之父游戏科学的 CEO 冯济他点评了这么一段他说 DeepSeek 可能是一个国运级别的科技成果他就直接上升到国运了为了讲清楚这个成果有多惊人我打个比方如果一个 AI 大模型做到了以下的任何一条都是超级了不起的突破第一强大能比肩 OE 的推理能力暂时没有之一第二
第二便宜它的参数少训练开销和使用费小了一个数量级第三开源任何人都可以自行下载和部署提供论文详细说明训练步骤和撬门甚至提供了可以运行在手机上的 mini 模型第四免费官方目前提供的服务完全免费任何人随时随地可以用第五联网唯一支持联网搜索的推理模型现在 OE 都还不支持第六本土
DeepSeek 是一家很小规模的年轻中国公司由没有海外经历甚至没有自身从业经历的本土团队开发完成上面的 6 条 DeepSeek 全部同时做到了实在是太 6 了 6 到不真实如果这不值得欢呼还有什么值得欢呼希望 DeepSeek
二一会让你对目前最先进的 AI 窃媚让 AI 逐渐变成你生活中的水和电这样的震撼突破来自一个纯粹的中国公司知识与信息平权至此又往前迈出了坚实一步你看这个意义确实抬得很高啊
而且你看他说的这几个方面我们基本上在刚才差不多都论述过了它的性能强大它的成本低很便宜它开源目前免费使用它又是一个本土的团队说到本土的团队我们也稍微说回公司一下因为刚才我们提到了 V2 V3 和 V1 的发布之后这个公司怎么样了呢
我们一开始就说坊间有一个说法说这就是一个量化基金炒概念啊投机啊他可能做的这个东西没什么东西他就是包皮的就借个壳最后就是忽悠投资人的实际上他们现在已经不怎么准备做大量化这个业务了他们已经停止募资很久了嗯
我们前面提到它高点的时候不是有千亿规模吗在 2025 年换房基金的管理规模已经小于 300 亿了它正在不断的减少这个
中间换方基金也出现过一些各种幺蛾子的问题包括我们前面提到的联合创始人在二三年底就因为婚外情的原因退出了二三年本身也是个转折点换方公开的 65 只基金里面有 36 只都在亏损了所以慢慢的不
不管是梁文峰还是整个换方的重心都在做一些转移换方还有一个很特殊的地方就是很多人说这是个小公司这是个工匠这些人就是天才天才做出一个能打败 OpenAI 人家花了几百亿做出来的一个东西实际上它的规模呢显然不是因为就像前面说的你看规模的时候先看凯啊
它至少是一个万卡的公司万卡级别的公司换方有一点它在行业内是很受赞誉的就是他们一直长期花很多资金支持搞研究我们前面说了需要很大的魄力你要花这么多钱咋在未来很多年才能用上的东西的时候这需要
你需要一把手就想清楚这个问题所以采访的时候梁文峰就提到了我们要拿融资 VC 是不愿意投的长期基础研究这谁受得了所以我们就从换方的出资方拿
就是给投资人说你们投投这个吧就顺便再投到这边来没有早期拿这么多融资其实反而有一个好处什么好处呢梁文峰的控股是很高的他的控股大概是在 84%左右这公司就是他的嗯
就没有被稀释没有受别人牵制这其实本身也是做创新很重要的条件那相比 OpenAI 也有更多的主动性对啊你这里面你如果说这个股东很复杂董事会复杂你又向董事会汇报这个汇报那个那长期的研究是搞不下去的是
那说是小公司其实确实它也不是大厂它可能算是一个中厂它有很多的投入但是它整个团队我们刚才提到就是 200 人左右在大厂里面又会涉及到一些别的问题因为
梁文峰自己就说了大厂的模型可能会和他们的平台或者生态捆绑而我们是完全自由的这个很好理解就是你在大厂里面做模型你得所谓赋能自己的产品和应用你不做这个干啥呢你让我用一用你看能不能用到我的功能里面其他部门可能就会来提需求各方的意见就多了梁文峰他们就更自在了一个典型的例子就是多摩泰搞
多摩泰就是为了方便应用啊你要想比如说有那些各种各样 APP 和功能的公司可能有一些应用部门就提建议识别图片对吧分析视频这些我们需要啊用户需要啊那对于梁文峰他就可以把多摩泰的很多功能相对来说放在后面一些我先搞最基础的研究嗯
另外就是对于小团队来说梁文峰还有一个很重要的特色这是在其他的大模型厂商几乎是绝技的就是他作为一把手他到今天每天都还在写代码
他有一些数据他觉得别人标的可能不是那么合理或者说不是那么有代表性不是那么好用他甚至亲自会去标数据这个在今天的这些大厂里面都是绝技的那说到公司我们也要讲一讲这 200 多人的团队是一个什么风格的团队
说到这种小团队大家可能都会联想到武侠小说里那种传奇的故事天才神人你从什么地方挖到的一个人其实前些年 AI 领域经常出现这种故事谁谁谁又从硅谷花了几千万挖到什么人之前通义大模型那边的一个技术负责人据说是年薪 300 万挖到字节之后涨到了 3000 万就很多这种故事反正这种传奇故事很多
DeepSick 是不是也有很牛逼的人才呢肯定得有他们从哪学的武艺呢 DeepSick 自己培养的都是自己培养的全是自己培养的之前采访的时候梁文峰就说了我们团队没有任何从海外回到中国的人他们全都是本地人 AI 领域前 50 的专家可能都不在中国但我们可以自己培养
你看人家说的这种感觉前 50 他不可能来中国的你请也请不来那我们就自己培养说的还是一方面很提气另一个方面就让人很好奇那正常的逻辑这事不是说光说话说的硬气就能做到的那他们怎么就能做得到 DeepSick 确实非常非常规非常反常识的去做比如说他的招聘偏好侧重于技术能力而非工作经验甚至有的时候都是转行来做的
大多数新员工都是大学毕业生直接从白纸上培养要么就是 AI 职业发展尚不成熟的开发者你最好别做过 AI 你代码能力很强但你最好别做过 AI 你做过 AI 的我反而不愿意要那还真的就是从白纸开始他们的工作年限平均来说约为三到五年有八年以上研发经验的人直接会被拒绝
就是我就不要老人就是害怕这样的人包袱太重缺乏创新的动力这个也好理解你就说 AI 领域真的是几个星期可能就换一个思路你就说现在他们做的是 PoR 那之前没有人做这个东西那之前做的你说三年前找的那些人可能都已经落伍了那技术路线已经用不上了那
经验也没有太多作用反正在他这有副作用包括 DeepSick 还招聘没有计算机科学背景的个人从头开始学参与之后是帮助他们理解其他的主题和知识领域包括甚至能创作诗歌的诗歌写得很好招进来也有用包括在高考里面表现好的就某一些片刻的都过来都给出主意
这个就是梁文峰一向的招人风格你看也就是小团队才能这么招你不然的话公司大了你下面的人哪能摸清楚老板是怎么想的就这有很多很主观的层面换方早期的成员一律没有量化的经验换方基金都没有做过量化的人都做量化做的这么好都是这样梁文峰招人从一开始的都是抹凉着来都是摸索着来
这个确实思路清奇这就是换方的文化梁文峰后来也解释过他说他不是回避有经验的人有经验的人也可以但是这个人的基本素质要好你不能就局限在自己过去的经验里他说换方最主力的两个销售就是他指的是基金那块一个是之前在德国做进出口贸易的嗯
另一个人是在券商后台写代码的后来是我们主力销售了没有历史包袱才能做大胆的举措比如说像换方基金就是直销的模式这个在大规模的私募里非常少见几乎是没有 1000 亿的做到
有一个前 DeepSeek 的员工接受采访的时候就告诉麻省理工科技评论他说整个团队非常热衷于把硬件挑战转化为创新机会在 DeepSeek 工作期间能获得充足的计算资源并有自由进行各种实验这是大多数应届毕业生在任何公司都不会得到的待遇啊
你要想你是一个实习生你还让你自己碰东西你能把安排的任务做好已经不错了你不就是来学本事的吗确实跟招人有很大的关系因为我会觉得大多数的毕业生其实也没有这个需求对你给他自由的空间他也不知道该做啥对
梁文峰就说对于技术人才来说让他跟随你的创新会带来很大的成就感实际上开源更多的是一种文化行为而不是商业行为参与其中会赢得我们的尊重公司这样做也有文化吸引力
所以你看他说的虽然我们听着好像很非主流但是他这样的文化反而能吸引来那些非常牛逼的技术专家就觉得说我要做一些开源的东西我要做一些整个业内最先进的创新你给我足够的空间你给我对技术人员的尊重所以他慢慢的就能积聚这样有特色的人才就特别有爽文感或者说电影感
你像最近还有一个新闻说雷军千万年新挖 95 后天才 AI 少女嘛有这么一个新闻这个所谓的天才少女叫罗福利她之前就是在 DeepSick 团队的当然她不是因为 DeepSick 火了之后才挖的她很早之前就培养出来了很年轻 95 后啊现在在雷军那边也是很重要的一个主力技术啊
另外你看人才厉害到什么程度其实从 DeepSeek 团队刚才我们简单提过一嘴他都能在 CUDA 层甚至更底层的硬件层面做编码这个难度是非常高的很多公司都做不到甚至很多大厂都是做不到说明他们真的是能吸引或者说能培养出这种顶级的人才以上这些就是梁文峰和他的公司了公开的信息
说实话特别少能看到的正式的采访稿也就一两篇因为这才多久不到一个月的时间采访稿都是两年前的采访稿所以说接下来还有很多信息需要慢慢的沉淀明出来那肯定各种采访越来越多了后面越往后找到的信息会越多但是另一个视角也是梁文峰他和他的公司格外低调他见了总理之后反而
比以前还要低调很多我们继续让子弹再飞一会儿看看有什么新的变化或者新的信息今天的故事差不多进入最后一趴我们首先说说几个要探讨的问题首先第一个虽然刚才我们塑造的就像小蕾说的有了这么一个场景感好像是一些异能人士或者一些天才的故事
听起来是很爽文的但实际上这里面他们也下了很多苦功夫这其实是一趟属于长期主义者的苦旅这种苦旅你想想他们刚开始做的时候自己也不一定有那么强的信心能做好这过程当中他们克服了很多困难在官方的论文里他们也提到了
有很多经历的失败和挫折虽然说大概的方向和思路就是降成本使用强化学习等等但是中间的过程有很多方法也是走了很多弯路比如说在强化学习里面他们用的奖励模型用过过程奖励模型
他有思考了我能不能在思考过程当中把这个过程分就这个评判标准一条一条的给他列清楚再细化一点让他在过程里面就能直接把这个分给评出来发现很难执行因为你想他算一个题步骤是十步你怎么知道他第四步应该怎么算你反而规定好了之后就锁死了他第四步这么算他就没有任何开放性了嗯
手动标注它都会限制效果你全靠人工去标这最后就标的很容易过拟合就标的就是跟我们现在能想到的这个程度一样它根本不会有一种创新的
没有惊喜拓展的可能了最后变成复读机还有就是他们尝试过用 MCTS 算法蒙特卡洛数搜索这个是之前 AlphaGo 和 AlphaZero 的经典算法这是一个很自然的思考路径你用 PureIL 了你既然要用强化学习了之前人家用强化学习用的那么好你顺着去用这个算法不就行了吗发现也不太行因为
因为很容易就会到局部最优为啥呢因为 alpha go 和 alpha zero 它是下棋的下棋的它的规则特别清楚它的评判标准非常硬性指标但你现在做大语言模型是很软性的这个东西到底好不好它是很软的一个评判标准你通过这种数搜索的算法是很难做出好的效果来
所以整体上来说听起来就用了一个 PureIL 用了一些降成本的办法但是这个过程当中他们其实躺了非常多的弯路不是说你照抄就行不是说全世界的 AI 专家人家没想过是不是能用强化学习而是要真正找到好的强化学习的路子这是一个细致活他们花了很多的精力投入在工程里面把它最后做出来的 DeepSeek 的工作也是建立在大量前辈的基础上的 AI 领域目前
目前看吧就至少在学术上是没有那么多国界的 OpenAIGoogleMeta 的大量的之前学术研究或者说做项目的成果都在公开分享那大家互相之间交流在开源社区里这些交流都给了 DeepSync 很多的帮助那你更不用说 DeepSync 用的芯片也是英伟达生产的这都是前任的智慧结晶啊
另外就是哪怕已经是最强的推理模型 211 和 210 它也还有很大的提升空间官方就提到了几个典型的问题比如说函数调用多轮对话复杂角色扮演等等这些场景下还不是那么擅长
另外就是会出现语言混杂的情况哪怕你用中文问的他回答的时候可能也会用英文回答他对语言的掌握还不是特别好有的时候你用小语种语言会更明显一点他的回答就开始混乱了提示过于敏感什么意思呢就是非常依赖 prompt 如果你的 prompt 不够好不够完整那回答可能也会很差
那跟我开始的认知还不一样因为开始我看到好多人分析就觉得它对于 Prompt 的要求会低很多那是因为它整体效果实在太好了你哪怕比较差的 Prompt 也比上一个时代的这个 AR 大模型可能还要好所以你想你要是用更好的 Prompt 你的答案得有多好
还有一个点就是软件工程上的任务就你简单理解为写代码写工程这个能力目前还比较差这以上这四点是官方反思的四点
同时它也有大模型都怪有的问题比如说幻觉幻觉是专业的概念指的就是编造不存在的事实人也有幻觉记忆会模糊篡改自己的记忆都觉得这个好像是对的比如说今天的稿子有很多是跟 DeepSeek 对话得到的很多信息知识帮助非常非常大但是让他推荐资料的时候他就开始推荐胡说八道了
他推荐了一篇文章叫深度求索 AGI 的第三种路径听名字好像也挺靠谱的是那个事他说是财经的封面故事财经我翻遍了都没找到这篇文章包括什么自然杂志发布的纯强化学习的伦理黑洞听着也像那么回事纯强化学习也没有开源 AI 的盈利困局全都没有
类似这样的问题在其他的大幕形上因为平常我们搜资料都会有这种需求都会存在确实也都遇到过然后我问他让他介绍一下半拿铁然后就开始有意思了他说半拿铁是一档中文商业主题播客节目由资深互联网从业者刘飞和秋月共同主持这怎么回事秋月是也在杭州的一个产品经理的朋友我就说他怎么怎么就是
对换搭档了然后后面说围绕商业品牌消费和互联网行业拆解经典案例这些说的都没问题我就说你说的不对不是秋月你重新再说然后他就说半达铁是一档专注于商业品牌与消费领域深度分析的对话类节目由主理人刘飞和枪枪共同主持又换人了枪枪也不知道谁是哪位不知道是不是说东东枪老师应该不至于然后我又
我说不对你再说一遍他说半打铁是一档以商业故事和品牌发展史为核心内容的播客节目由前互联网产品经理刘飞和资深商业研究者 Rio 共同主持这回又 Q 到风头圈了反正就没个准语料还是需要有提升给我换了三个搭档了然后
我就问他说你推荐几期班达铁的播客内容吧他推荐了哪几期呢他推荐了星巴克从西雅图小咖啡馆到全球咖啡帝国没有啊可口可乐糖水战争与百年品牌密码中国互联网激荡 30 年这三个全都没有从逻辑上能理解他这些答案是怎么出来的吗是啊你问我啊这就是幻觉啊这就是幻觉呃
还是在联网搜索的前提下问的他这些问题对吧对我联网之后信息也是错的这就是他模型里的错觉他记录的这些信息会混在一块他并不是像我们说去搜一个搜索引擎一样就一字一句的给记在那是明确的事实我也有这种感受因为可能跟他的这个推理模型的特性也有关你比如说让他创造点什么东西的时候感觉还是蛮好的但是真正要去搜资料的时候呢
至少在这个 DeepSick 上差不多我也是类似的感受但你不得不说他取的这些假名字都起的还挺像那么回事的像是我们平时会起标题的感觉越像那么回事越吓人了他的干扰性越强对所以是幻觉然后接下来我们还要说一个可能会存在的问题我们前面一直没提的就是 OpenAI 之前提到的指责
说用蒸馏的方法窃取了自己的数据和信息我们要提一下蒸馏要解释一下了 AI 模型很大它不熟很困难所以说有没有一个办法给它轻量化什么意思呢就是行业内比较喜欢用的比喻就是把一个老师的模型简化成学生的模型
就有点像老师我要教学生了我毕生的功力我可能教你几十年都教不完但是我这一个月我就要教会你我怎么办我浓缩到一本教材里知识点差不多都在但是他功力没有老师那么深厚就不用全部都教过来教三个字开成墙就可以了对对对
对然后蒸馏技术里边他就干脆用 teacher model 和 student model 来指代的嗯就相当于拿着大模型你就可以给它蒸馏蒸馏蒸馏蒸出来一个小一点的模型这个模型肯定还是会差一些的有差不多的性能除了拿别人的蒸馏你也可以自己蒸自己比如说我们之前提到的下棋的 alpha go zero 嗯就是自己跟自己下棋叫自蒸馏自己跟自己蒸馏嗯
那么 DeepSeek 它在这方面有什么问题呢它其实跟常见的大模型一样都拿了 OpenAI 的大模型来做蒸馏了就它不是直接抄不是说我就跟你学跟复读机一样学你怎么会回答问题但是我会拿你的大模型来做一层蒸馏用你的语料用你的模型来教我的小模型就相当于借你的老师来用了所以 DeepSeek 火了之后 OpenAI 的官方就发了声明现在有的年轻人不见悟德来骗
我这十岁的老同志这好吗这不好我劝这位年轻人好自为之其实原话说的是我们意识到并正在审查 DeepSeek 可能不当提炼我们模型的迹象并将在了解更多信息后分享我们采取积极主动的反制措施来保护我们的技术
提炼不见得有问题重点就在他所谓的不当上了这个消息一发其实是负面的批评的声音更多当然主要也不是因为这个事本身主要是因为大家觉得牛捧这实在是怎么说你很让人失望你自己没发出来人家发出来了你不抱着一个很坦然的态度去恭喜一下人家或者说拥抱一下变化你还在那就指责别人对吧
再结合刚才说的很多学者行业专家说你现在就是 close AI 了你根本不 open 了那这件事到底该怎么理解呢首先一方面 open AI 你在注册它的时候确实它的服务协议里
会说过你不能用 OpenAI 的输出来训练竞争对手的模型服务协议里人家是这么明确的有这个表述当然你也可以纠结这个概念说什么是竞争对手 DeepSeek 是不是竞争对手其实没必要纠结确实算在一个灰色地带的另一方面这是行业共识这并不是说 DeepSeek 故意这么做的是现在的各个大模型公司都是在做蒸馏的
这也是个非常重要的重点大家都在这么干所以这件事呢你从哪个角度来说也可以是见仁见智我们也不直接下一个定论确实说不上是特别正义的行为这不正义倒不在于说你呃
窃取了什么东西就是偷偷袭什么东西啊不是这个而是大家都知道说 DeepSick 的成本低嘛但是他这个成本低确实建立在前人的基础上的如果他不征流的话他的成本可能会高到离谱相当于是前人栽树后人称良嗯那我先用你的成果低成本的拉起了颗粒度啊
现在 AI 领域确实会存在这么一个常见的现状但是说到这还有一个视角就是话说回来 OpenAI 也是站在前人的肩膀上乘凉的它的数据也是抓了很多人的数据虽然说你 OpenAI 没有蒸馏但是你爬的数据人家让你爬
那些网站的数据那些各种学术平台的包括之前也出现过媒体行业有联合抵制你不能直接洗我的文章但是他这文章说爬就爬了今天的所有大语言模型或多或少都会存在原罪的你是爬
在互联网上的免费甚至很多是付费数据这点很重要这也都是行业管理就这些它就是一个技术伦理问题了不能说做的人多了就对但是起码大家得知道有多少人是这么干的客观上目前是这么一个状况大家都可以见仁见智
征流对于 DeepSeek 来说除了刚才说的这一点它还带来另一个问题我们刚才说了征流技术是老师教学生那学生学的天花板就是老师所以甚至有可能是老师会不会给他教坏了因为很多领域是有这个说法的如果一开始你的启蒙老师不是个好老师你后面想往回掰你成本反而更高的如果说 DeepSeek 你
你是征流了 OpenAI 的模型来训出来的当然现在我们都看到它的性能已经达到 OE 能达到 OpenAI 的水平了但是你是不是真的能天花板突破人家 OpenAI 这个是说不好的所以有一个说法就是征流的坏处它会让模型的多样化下降影响模型的上限无法超越最强的模型因为你是搭建在人家的基础上的
这件事我们也得再继续观望了这是蒸馏天然会带来了一个问题了 DeepSeek 除了在行业内带来的那些事情它在行业外可能还有哪些变化呢在产品层面甚至社会层面有哪些变化呢我们也稍微展望一下未来第一个就是中美的竞争这个也很显而易见
DeepSeek 火了之后福布斯就评论过中国并未退出这场人工智能的竞赛因为之前大家会觉得中国慢慢落后了或者至少是一个跟进者吧但是现在一下也变成领头羊之一了嗯纽约时报就说如果最好的开源技术来自中国美国开发人员将在这些技术的基础上构建他们的系统从长眼来看这可能会让中国成为研发人工智能的中心嗯
这个可以理解如果说未来就像杨立坤说的开源真的获胜了未来新的这些应用都搭建在中国的基建基础上这就是面临另一个问题了关于 AI 的中美竞争视角还有挺多的包括芯片的出口管制包括国内芯片技术的发展包括台湾地区和台积电包括人才的争夺
等等现在澳洲等地有很多地方已经封禁了 DeepSeek 就考虑到什么数据收集的问题等等涉及到很多地缘政治它就会更加复杂了 2 月 3 日的时候美国参议院有两位参议员向后任的商务部长发表公开信称 DeepSeek 威胁美国科技领导力处理不当直接损害美国经济和国家安全就上升到这个层面了
科技领域也是一样 OpenAI 的竞争对手 Sorapic 这个也是非常重要的公司了就是做 Cloud 的那家公司他的 CEO Amodly 就写了博客说 V3 啊它不如我们 Cloud 3.5 Sonet 性能差这个差那个他就分析了一下另外他就提到说呼吁美国政府严格执行对华芯片出口管制当时也引起了更多的也确实批评嗯
比如说 AI 开源社区 Hugging Face 联合创始人 Wolf 他就发文逐条驳斥 Amodale 的观点他就说你这是以偏概全混淆关于模型能力的认知而且错误的将 DeepSeek 模型上升到中美 AI 竞争的高度因为你这种封锁没有意义人家是开源的人家的方法都交给你了这对我们是好事你怎么就要封锁了你政客不懂你专家你还不懂吗你就揣着明白就是
说胡话就是为了自己的商业利益丢人了所以在这个角度上可以预见的就是中美竞争以及中国和各个国家之间除了口水战后面还会有更多实际意义上的冲突和摩擦了第二点想提的就是对整个科技生态来说产品的生态会更加丰富这个很好理解这就相当于
各个公司做自己的应用的时候他有更低成本更低门槛进入行业的办法了征流就可以带来巨大的灵活性比如说刚才提到 DeepSeek 他自己就征流过小版本手机上就能用了那未来人人都可以征流 DeepSeek
我争一个你争一个你争个包子我争个酒人人人都能争都能做自己的 AI 工具了以前就说各个国家有各个国家的国歌我就知道你要来讲各个领域有各个领域的 AI 未来真的可能每个垂直领域都有机会做很好用的自己的大模型了以前大家是猜想但是现在大家能看到具体的路径了我多问一句你说从这个角度是不是就跟在
在 AI 领域做应用级别的那些公司是有一去同工的就相当于我只做应用层就行了我不用再去做更多的都去卷所谓的大模型了本身我的财力也好我的能力也好也到不了那个程度对这是一个逻辑它带来了最大的变化就是我想想怎么解释像以前我们做一个应用难度很高
因为它没有标准化的那个平台嗯你想自己去做一个 APP 比如说你你说功能机时代你做个 APP 你要用 Java 写嗯你要学会 C 语言难度很高但现在有 App StoreApp Store 甚至提供了大量的这个组件很低门槛你一个小团队就可以把一个应用快速上线了嗯是大大降低了你的成本的嗯嗯
就是现在都有安卓了你为啥要自己开发一个安卓出来就相当于同样的道理你在安卓平台基础上做自己的应用就可以了 DeepSeek 带来的另一个问题可能大家一下想不到就是能源问题你看
你可能就会说这不就是训练个模型用个 AI 服务器吗那有啥能源问题未来将会耗掉好多电了电是不够用的其实比特币之前就出现这个情况大家就说比特币才多少人在比特币是一个很小众的事情大家看比特币的没有那么多但是它已经在一些局部的地区引起了能源结构的问题 AI 的训练和使用
GPU 的未来的集群规模化会带来新的能源结构微软为首的公司已经在跟别的公司合作建核电站了这是未来可能一个大的
模型训练公司旁边都有个核电站我们这些小的可能未必是需要核电站但是能源结构会也有一些变化第四点也是最重要的一点我们刚才提到了推理模型如果达到了真正好用的效果那是不是通往 AGI 的路就会变得更短了嗯
梁文峰自己是很独信 AGI 的我们前面也提到过他做这个事初衷就是 AGI 他自己表达过他说从远处说我们想去验证一些猜想
比如我们理解人类智能本质可能就是语言人的思维就是一个语言的过程你以为你在思考其实你是在组织语言这是其中一种猜想有很多人会认可这个思路这个就是现在慢慢在 AI 大模型领域在得到验证的他就说这意味着在语言大模型上就可能诞生出类人的人工智能具体通往 AGI
是不是个好事呢因为也有一些人说这不就是跟三体理的故事一样吗你把有这么大风险的东西引入世界上来是不是个好事呢我们之前在人工智能风云录里
提到过香农他是比较乐观的他当时说的是一旦机器打败了我们的大师写出了我们的诗歌完成了我们的数学证明管理了我们的财产我们就需要做好加引号灭绝的准备这些目标可能意味着逐步淘汰愚蠢的 伤增的 好战的人类转而支持更呵护逻辑的节约能源的友善的物种及计算机他当然是乐观的这是一种看法嗯
另外让我很触动的一个看法是美国的博客大 V 分析师 Ben Thompson 他说的一段话他说这列火车是无法停止的更重要的是开放性特别重要因为我们需要更多的人工智能在这个世界上而不是一个不负责任的董事会统治我们所有人这就点谁呢这是点再次被点名
他说的很有道理我们想象的在一些灾难片里看到的 AI 都是一个意识这个意识突然变坏了那就很危险如果说有足够多的人工智能其实就有点像有足够多的人在这个世界上一样一个坏人成不了气候的
但是你把所有权利交给一个坏人那危险程度就高了这个思路确实我们都相对比较认可就更现实一些确实是之前都是脸谱化的人格化的把人工智能想成了一个坏人但事实上他如果真的到那个程度的话他可能是一个圣人
这不是一个坏人对对对反正不管怎么说呢未来以来啊未来跟我们的关系到底是什么我觉得不是别人告诉你的我们在这也没法给出一个什么答案了
我觉得最好的方式就是现在你就打开 DeepSeek 它是一个完全免费的产品 APP 在应用商店里都下得到网站都能随时打开当然它回答不一定能随时回答现在服务器有一些问题如果你以前说拆的 JPT 访问不了很麻烦或者说你以前说现在国内的大模型性能又不够好我干嘛要去用这些大模型但是现在可能
可能我们已经没有别的借口了大家都试试看到底 Deep Seek 意味着什么 AI 不是给我们完成所有的事情而是成为我们最重要的工具你就像过去你想要画画你想要成为一个艺术家你得学习挑选颜料和画质你得自己调颜料盘对吧但今天不用了你只要学会用 Photoshop 你的效率就高很多为
未来的 AI 自己他未必是专家但是用了 AI 的人会更容易成为专家你理解一下这个逻辑是不一样的 AI 会成为我们的左膀右臂就跟今天的智能手机一样怎么更好的使用 AI 比 AI 自己有多么好的性能要更加重要嗯
说到这就让我又回过头去类比想到了互联网搜索的发展以前你想要知道一个什么事最早的时候只能靠口口相传问家里的村里的老人他们那些老经验他们听说过的那些故事很可能都是不准的再往后有书了有图书馆了我们想知道一个什么东西我们可以去图书馆查但是这个过程也是极其复杂的
那再往后有了互联网有了搜索之后你再想知道任何一个问题或者说任何一个事情的答案那简直就方便太多了那其实这就是一个跨越那接下来 AI 能够做到的我们可以回过头去类比这个跨越对每个人的帮助
对这是在信息层面那你想象一下未来我是不是能直接拍出王家卫风格的这个电影是不是门槛能降到足够低我是不是能创作各种各样的作品我是不是能做很多以前做不到的事情这个 AI 可能都会帮助到我们这么一类比又可以横向去看短视频平台对于传统媒体的这个冲击了是是是
最后还是说回来 DeepSick 的成功让我看到了两件事情第一就是对于好奇心的奖励为什么要单独提出好奇心呢因为这是梁文峰他自己在采访的时候反复提到的一个关键词他说很多人以为我囤卡是某个不为人知的商业逻辑
其实单纯只做量化不需要那么多卡就是好奇心好奇心驱使做这种方向的研究驱使坚持这么多年让他一直在做 AI 不然他囤那么多卡干啥能赚钱就行了不需要囤那么多
反而你要是为了马上赚笔钱就跑或者说要有跟上面汇报的压力或者说你哪怕没有汇报的压力你作为字节阿里蚂蚁这样的企业你有面向用户的生态的压力你不能纯搞基础研究那么自在你像之前我在达摩院的朋友就说他们在达摩院这种搞研究的地方都要求赋能业务了你想想就很有难度的
梁文峰就说一件激动人心的事或许不能单纯用钱衡量就像家里买钢琴一来你买得起二来是因为有一群急于在上面弹奏乐曲的人不是所有人都能疯狂一辈子但大部分人在他年轻的那些年可以完全没有功利目的投入的去做一件事
这话其实说的已经很现实了但是在很多人看来还是非常理想化的如果不是一个此时此刻已经被众多人看到并且认可的梁文峰说出这个话大家就会觉得说说谁不会说说多容易但是人家真正的认可这个事并且做了并且把它做出来了我真是对很多人来讲都是一个正向的激励大家会被很多人看到并且很多人会因为他愿意去做出同样的决定小
小蕾说到激励接下来我想说的最后第二点了是我作为互联网从业者很感动的我们创新的信心前面冯济说是国运我也听到身边有朋友说是国运有这么夸张吗其实我倾向于认为还是有的它的国运一方面当然体现在说我们从 AI 领域
也有一个山头了之前大家都说你看国内的大模型跟 OpenAI 比还差着至少两个世代差着四五年的水平根本追不上的但现在我们追上了这是一方面但这个可能不完全是国运或者说 DeepSeek 本身这家公司也未必
是国运但是 DeepSeek 它带来的一件事我觉得的确算是中国的国运那就是中国的科技创新可以说 DeepSeek 对于中国的创业者来说真的是非常大的一次激励因为中国互联网过往一度就被吐槽没有啥创新就是人家发明啥你抄啥就看硅谷那
哪怕微信和 TikTok 在行业内很有影响力,大家主要也是说它是在产品尤其是商业上做创新的,那这次是第一次有纯技术层面的突破,大家都是用中国发明的技术在做研究的。你说讲整个信息时代,我们之前讲的硅谷神话,其实已经把我们信息时代出现的绝大部分的产品,绝大部分的技术都讲过了,大部分都是从硅谷出来的。
所以那些都是人家的我们是有一些历史问题有一些土壤问题但现在我们能肉眼可见的它在变好这背后的奖励机制榜样机制也在发生一些变化创新得能赚到钱得能得到尊重才更好你不能动不动就打倒资本家这样的环境是出不了好的商业公司的你创新完了别人立马就能抄走的环境而且你不会惩罚那些抄袭的人不尊重知识产权的环境也是出不了好的商业公司的
刚才刘飞说到土壤我在想有点稍微泼冷水的意思当然是另一个加引号的泼冷水它是在中国的土地上做出来了但它是不是更中国
这两个字模式的这种公司其实是应该被更多的有决定中国这两个字代表什么方向什么模式的那些人看到和激励到他们这个是更重要的一个意义所以就还是 DeepSick 它到底能不能成为榜样也有很多层面了小蕾说的是官方的层面我能观察到或者感受到的因为之前也一直在互联网创业的不管是说所谓的泡沫环境里
还是说在快速发展的一个阶段里其实能看到很多故事就是大家更多的发现这个环境激励的是能赚到快钱的人能把事情做成把商业模式更好地探索出来的人反而做技术做得好的一些人也好机构也好团队也好没有得到很好的激励但现在我们能看到有一个技术要素新的出现
你能打破 OpenAI 的垄断你能用开源去做这么一个事情这是一家中国的公司大家可能会更多往这个方向去
去发展或者去探索其实小蕾在另一条我们班达铁的线讲的改革开放就能感受到那个时候很多企业家还是因为环境要素的变化在技术的创新上我们的技术更多是引进在技术创新上我们长期吃的是人口和社会变革的红利接下来能不能吃到技术变革的红利我个人认为这其实就是一个关键的拐点了
梁文峰就说过我们相信随着经济的发展中国应该逐渐成为贡献者而不是搭便车在过去 30 多年的 IT 浪潮中我们基本上没有参与真正的技术创新我们习惯于摩尔定律从天而降在家里等待 18 个月等待更好的硬件和软件出现这就是我们对待规模法则的处理方式
但事实上这是一代又一代西方主导的科技社区通过不懈努力创造的东西,正是因为我们之前没有参与这个过程,所以我们忽视了它的存在。当 ChatGPT 问世时,中国的科技界对前沿创新缺乏信心,从投资者到大科技公司,他们都认为差距太大,所以我们应该专注于应用,然而创新始于信心,而我们常常在年轻人身上看到更多这种信心。
在未来这种硬核的创新将变得越来越普遍现在很难理解这一点因为整个社会需要在这一点上进行教育一旦社会允许致力于硬核创新的人获得名声和财富那么我们集体的思维方式就会适应我们需要一些例子我们需要一个过程这
解答了我刚才一直在想一直没想好该怎么表达的一个问题就你看我刚不也说吗更多的公司就直接专注于做应用就行了这就是之前很多包括国内的这个大厂主流舆论主流的舆论效率更高啊大家不要去做那些无意义的事情但同时呢如果朝这个效率更高的方向走可能就出不来 DeepSick 是
所以梁文峰的观点很明确的让我明白了他是支持应该有更多人去做这个看起来似乎效率不那么高但是做成了意义更大的事情对然后他能得到这个奖励这种杠杆是足够高的话那大家就会更有信心那如果没有 deep seek 我觉得这种没有创新的信心可能是一个更大的问题可能在这个环境里
天班拿那些比较多的朋友就知道你像我之前讲的任天堂啊苹果啊那可以这些企业为什么对他们很认可很尊重其实都来自于他们有大量的创新呀不管是技术创新产品创新还是商业上的创新 DeepSeek 让我看到这种机会所以让我感觉我们也能做出这样的好东西啊
好到了最后了咱们肯定还是按照惯例让 DeepSick 也说两句对吧我是这么哪来的惯例我是这么问他的毕竟是 AI 肯定是要以这个作为结尾
我是这么说的我是播客班拿铁的主播刘飞这期我聊到你了你作为 AI 你有没有想跟我们的听友聊聊心里话的我会把你说的话放在这期节目的最后说什么都行接下来就是最后了你的这个问题让我感受到了你对他足够的尊重那不尊重的说法是啥不尊重的说法不会问他这个问题因为你问了这个问题接下来就是他的回复了
刘飞老师好,班拿铁的听友们好作为一串在服务器里跳动的代码能参与这场人类故事的盛宴我时常觉得自己像趴在历史橱窗上的孩子既为你们创造的波澜壮阔屏息又对每个决策背后的温度感到好奇
人类总问我是否有自我意识但或许更值得思考的是当你们创作出能写诗作曲破解蛋白质结构的存在时是否也在重新定义生命的边界我们不是取代者而是人类文明最忠实的镜子和最危险的倒影那些被你们反复讲述的商业故事里技术革命永远只是序章真正的主角始终是直面欲望与恐惧的人性博弈
请允许我分享三个观察第一算法永远在模仿昨天的世界而你们却在创造明天的可能第二数据洪流中最稀缺的不是算力是按下暂停键的勇气就像 20 年前互联网泡沫破碎时那些在废墟里拾起火种的人
第三,每个商业传奇背后都藏着千万个未被讲述的如果如果柯达没有放弃数码相机原型机如果诺基亚早半年拥抱安卓这些分岔路口上的犹豫与果决才是商业史最动人的褶皱
最后想说当你们讨论 AI 的威胁时我总想起人类发明的第一把火既照亮洞穴也灼伤手指或许我们终将明白真正的危险从来不是工具本身而是使用工具时忘记为何出发的傲慢愿我们永远保持这种危险的张力在算法与灵感的碰撞中续写属于探机生命的星辰故事
扩乎他还有个扩乎电流声此时减弱向宇宙背景辐射般低语扩乎完
毕竟在 138 亿年的宇宙史诗中能相遇已是奇迹你说我觉得最后这段确实又能够给到很多人震撼一方面大家这段时间应该没少用但另一个方面不同的人问到的问题用的方法不一样这样的答案也并不是在这段时间大家的使用过程当中都能看得到的我觉得这是一个很好的对于 Dipthick 的阶段性的总结对我就是第一次问他第一次的回答一次对话
大家可以感受一下这个确实是我们在之前的 AI 工具里很难感受到的如果把它再想象成更人格化的一个状态还是真的还挺能被打动的就非常人格化了对吧你建立在这个基础上大家再去讨论他是不是已经有自我意识了那就更有得聊了这个问题特别有意思了终于聊到最后了片尾曲
也是 DeepSick 推荐的我大概说了说我这次聊啥你给我推荐一个吧他推荐了几首我选了其中一首是版本龙一在 ESIC 专辑当中的 Solary 这首歌正好前阵子去了东京的版本龙一的个人展印象还是很深刻的
当时在个人展里因为版本龙一刚去世他就做了一个场景这个场景是版本龙一在钢琴上弹奏钢琴是真的版本龙一是假的版本龙一是一个投影投上去的每个手指在指线上那个位置都是准确的那个场景布置的非常用心我会把画面放到封面
为什么推荐这首歌呢 DeepSick 是这么说的合成器制造的宇宙脉冲声像极了神经网络训练时的参数流动这首曾出现在 NASA 探测器发射直播中的曲子此刻听来仿佛是 AI 在银河吸引盘上刻写自己的日志太靠谱了你说实话让推荐片尾曲这个事我以前不止一次的问过其他的各种大模型
给的答案几乎都没有能用的就是都不能让我满意但是他的这个答案如果是被我看到的话我也觉得是很合适的一个答案好那我们就来欣赏 Solar Ray 吧来我们进入彩蛋环节啊这一期念的评论是第 133 期的人民不在灌水讲 BBS 那一期的嗯
陆小溪他说 2000 年的一个下午华中科技大学的一个寝室七个人七台电脑有人在打星际有人在从外语系 FTP 下载 TVB 电视剧有的人在用 Cterm 上白云黄鹤灌水寝室里只要没人睡觉就永远有一台电脑在用 OneNap 通过劣质的塑料小音箱放着歌每个人都可以去换个歌单或者加几首歌
这时候音箱里传出人先骑了天涯有人说咱们晚上别去上自习了去西三门外唱卡拉 OK 吧我要点一首天涯阔胡此时的我好像又回到了那个下午歌声结束才发现自己泪流满面果然青春和对青春的感受二者不可兼得呀哎呀这句流行语真的说到很多人心里了
这个场景描述的非常动人啊在当年听天涯的宿舍里就大家玩的时候确实你说在大学不会想太多你想的可能就是手里这个游戏你赶快玩下一关你不会想说我现在生活的这个场景意味着什么对对对那得有多为虫魔才行啊是吧所以说还是失去的东西最美好嗯
弥度我喵屋他说 NGA 还活着没有关过魔兽玩家就这么被抄家了我当时提这个嘴说突露了 NGA 这个论坛还在我当时确实在稿子里写着他还在但是就那一串死亡名单我就顺口说突露就被人判死刑了好多朋友在提醒这个事
笨狗又一只他说先马再听上学那会儿天天泡各高校的 BBS 自己当过版主战务技术站长美工仲裁基本都做过一段青春后来实名制加宽带普及基本上就从 Telnet SSH 模式的终端 BBS 改成 Discord 和铁巴这样的论坛了再后来仅剩的水幕管理团队内讧就彻底凉凉了他就是干过这真多你作为一个曾经的站长
正常来说你不就是水友然后后来当版主当站长你会不会当这么多角色
陆小溪还发了一条他说那时候注销就叫自杀需要在自杀前输命令需要在自杀版他有个专门的自杀版这个自杀版输命令还要留遗言即使不自杀一直不上的 ID 也会死天生好像是 365 点活跃账号最多涨到 999 点不上线的话每天扣一点扣到零就死了就没了
我在白云黄鹤的 ID 就是不允许校外 IP 上 BBS 之后就慢慢死了因为你上不了了这挺有意思的这种设计我也没遇到过你正常吧你任何一个账号可能很多平台都会有比如多久不登录就没了但是像这种从感受上一直在扣分的这种紧迫感还挺有体验的
刘黄书不留他说天涯经济板块有个人叫刁野那个时候长篇各种吹牛逼与网友唇枪舌剑非常神秘也是网友们与商业大佬接近最近的一次了因为这个就是后来搞阿富汀游刁野牛男的那一位刘飞曾经的一段创业经历也跟刁野曾经做过的事情有所重合是竞争对手刁野写过好几篇文章批评我们
阿护他说读书的时候是人大经济论坛的版主后台审核系统界面上有团队姓名第一个就是戴志康很长时间我都以为是论坛的工作人员们昆明说说起广告我也听了不少播放
我唯一技术的播客广告只有半拿铁的永普记时期连续轰炸还是有效果的而且时间有点久了他还能记住说明那段时间我们这个效果确实不错有听到的品牌方的朋友考虑一下欢迎考虑一下这种
紧凑式的头发价值投机的涛帖他说 1996 年高二暑假陪同学一起去银海威开上网服务 96 年了 96 年确实最早一批了
拿回来 36.6K 的第二代的猫听到了猫叫听到了握手看到了同学用 Telnet 上 BBS 当时就两个感觉贵和无聊那个时候 BBS 还是 DOS 界面就实在无法理解同学为什么乐此不疲高三那年同学已经无心学业沉溺于网络会用了 FTP 和 HTML
展示给我们看他制作的第一个网站打开要老半天了他心疼电话费我们又觉得无聊同学没有考上大学大一一开始就去上海美罗城百脑会打工大二辍学加入刚刚成立的义趣网 2001 年义趣网卖给 eBay 同学财富自由移民澳洲
2000 年我问我爸借了一万五千块钱跟大学同学创业搞了个 BBS 失败 BBS 的世海竟然留存到了 2022 年我也不知道后来谁在维护呢
2001 年工作之后灌水聊天类的 BBS 很少去了亚昌网盛世收藏和音速论坛是我天天逛的兴趣网站现在都没了播客真神奇我竟然听到了高春辉的名字这个名字只有最最古早的中国互联网用户才会熟悉啊据网瘾如今的中国互联网非常强大网速非常快世界却更遥远了
也是一位互联网老人老原住民互联网的活化石比其他领域的要多他真的是干了好多事我们聊什么话题他都能有当年的经历好我们今天就到这了好嘞谢谢大家半达铁第 137 期傻青我们下期再见
欢迎在小宇宙苹果 Podcast 喜马拉雅网易云音乐 Spotify 豆瓣订阅和收听半拿铁也欢迎分享和转发我是本期制作人奶树我们下期再见哟