Deep Dive
Shownotes Transcript
我腦袋里面的画面就是人类文明像一辆车一样开出去了一万公里了但最后一公里前方 AGI 看到一个路牌是这样的最后一公里我们可能最想做的事情是保证这个车是能安全地到一个比较好的地方的但一公里实现 AGI 之后那个世界有可能是一个更宽广的公路也有可能是一个悬崖掉下去或者进入一个炎热的
沙漠当然每个人都很艰难但实际上我们在做的就是 95%的人 算力 公司都是在疯狂地踩这个油门 Hello 大家好欢迎收听张小俊商业访谈录我是小俊这是一档提供一手高密度信息的商业访谈节目今天这期节目是春节之前我和前今日头条用户产品负责人前 minimax 产品负责人张建川的一次聊天
张潜川从 2005 年开始就入行成为了产品经理经历过百度 360 字节知乎等公司最后一次出现在新闻是他从大模型公司 minimax 离职
这次聊天分成了两个部分第一部分是他作为一位 20 年的产品经理的思考特别是他观察到的中国内容产品的演变史第二部分是他最近半年的所思所想特别是《复贤在家》之后和上一期节目张亚秦对 AGI 勾勒的乐观前景不同关于 AGI 张前川发出了对人类威胁的预警并分析了人类灭绝的 N 种可能性
他告诉我他接下来会考虑成立一家 ProHuman 的非营利组织 Hello 钱川先给听众朋友们打个招呼并做一个自我介绍大家好我是钱川大概是 05 年开始工作当时是在百度录行直到现在可能就基本上从事了一种职业就是产品经理大概是 05 到 11 年在百度网页搜索做产品 12 到 15
是在 360 搜索做产品 16 年到 21 年是在字节做今日投稿这个产品比较大段的经历是这些对然后中途也有去过其他公司像新浪微博知乎做了一些时间吧整体之前是在做搜索和推荐两个产品之后就是
23 到 24 年是在 mini max 做大模型产品可能经历是这样你的经历很有意思就是贯穿了中国内容平台整个的严格发展轨迹百度 3602 还有知乎字节上次从新闻里看到你是从 mini max 离职能不能讲一下你的这些经历就是你展开一点整体来看有一个主线其实是搜索产品推荐产品包括大模型产品
它基本上是算法驱动的产品创新就是我们先有一个更通用的能解决问题的算法基于这个算法诞生了一些产品出行然后这些产品出行可以去开始服务用户在整个服务用户的过程中变得很大差不多是这样一个经历这个过程中比较大的感受我觉得是两个如果整个这条线做下来的话一个
很清晰的感受就是这个世界实际上是在加速向前发展的而且这个加速度在不断变大怎么说呢就是在学习搜索的最开始大家就有一个很清晰的感受搜索的这个事情就是大家其实在初期是一个非常有热情的一个状态
类比现在的大毛型或者特线引擎的初期我在网页搜索产品部负责人是于军有一件签名档就是之前拉里佩奇也说过的如果我们能妥善地搜索信息就实在已经改变世界了第二个是搜索引擎和互联网的结合就像是印刷术和造纸术的结合其实你会发现有了搜索引擎之后它带来了比较大的一个范式变化互联网本身也影响了很多事情
但是当时有点不一样的是说这个发射变化基本上是在少数几个公司之内发生而且能看到就是海外基本上是 Google 国内是百度就是在这个整个过程中每一个转发上的突破也好还是用产品的创新也好你都能看到这个世界就影响了这个世界这个世界发生一些比较显著的变化对这个可能是一个比较
明确的感受吧如果对比来看呢就是其实每一个就我们当时觉得这件事情从开端到后面做得很大的时间非常非常短就是可能它相对于人类历史的其他的创新来说整个经历了一个非常困难
快的过程或者说可能 99 2000 年百度才创业然后到 05 年就上市了而且上市的时候突然觉得好像在预期之外的他和当时的那几个门户网站相比他的可能市值已经是相当于这些所有门户网站加起来因为当时的门户网站是当时最大的互联网公司了像新浪 搜狐
网易这些在直接有同样的感受比如直接如果在一个比如说 192000 年上市的话可能确实是相当于传统 BAT 的市值加起来虽然是个假设但就觉得是一个非常大的变化在一个很短时间内发生这是第一个第二个你会觉得搜索距离上一代的技术的间隔包括搜索到可能推荐技术算法的间隔都在缩短就是说一件事情
发生得更快发生得更迅速并且影响更大其实每件事情都是这么在往前走的在这个主线上其实你看到基于真正算法的大模型好像在这个几次大的算法上新的延长线上但它非常不一样可能会改变所有事情它可能不是另外一个它可能是最后一个或者是最大的那个无论如何我的其中一个感受就是
而这个世界是在加速向前发展的第二个感受可能就是每一代的技术会比上一代具有更多的通用性或者更基础所以说它最后会导致产品提供的价值更高更集中服务用户更多产生的用户价值更大这两个特征是一路做下来是能清晰感受到的这很有意思首先我想问一下搜
搜索它带来的范式变化可以怎么比较清晰的去理解在内容检索这件事情上因为它其实都是一个内容检索的发展轨迹去百度包括 Google 也不是第一个做搜索引擎的百度和 Google 都开端于
比较接近的搜索算法的创新 PageRank 或者叫超链分析在这件事情发生之前大家隐约会觉得有一个需求是没有被满足的但这个需求是更基础的就是说在那之前可能雅虎也在做搜索或者是还有很多的搜索引擎都在做搜索比如说雅虎它首先是一个门户网站这个门户网站它首先就需要链接到其他所有的网站作为一个上网入口因为那个时候网站的数量也在变多互联网也在
那多到一定程度你可能就用一个列表来去展示的效率是低的那你可能需要搜索到某一个网站然后用网站名称去搜索还是用一些特定的关键词去搜索但其实找到网站并不是一个目的
目的本身找到网站之后主要去获取网站上的内容和信息我们觉得如果有一个办法把网站下面所有的网页都作为一个可搜索的单元这件事情会变得非常不一样如果到网页这个维度的话哪个网页是价值更高的哪个网页是价值更低的包括
包括哪些网页的内容能更好地满足这个用户的需求产生一个排序的问题用户的注意力是有限的他可能最多去看前几条结果会比较仔细的去看其实前三条结果已经占了用户点击量的可能百分之八九十的后期那怎么能够更好地让这件事情成立其实就是有一个合理的算法能够
来排序这些网页这个是超电分析包括 PageRank 去做的这件事情有这件事情的开端之后网页搜索就变成一个达到用户 PMF 的应用了接下来就是怎么样在这个过程中不断地提升效果这样的话就会引入更多的用户
这些用户所有的行为包括到底点击了哪个搜索结果在哪个页面上停留了多长时间才回来其实这些数据又能够帮助搜索引擎更好的判断到底用户需求被满足了没有以及哪些网站可能更有价值当时的一个观察就是说用户搜索的关键词并不是只有想找到网站对 想找到网页一旦做了这件事情之后搜索就需要去理解这个世界上所有的网页我觉得当时比较有意思做了一个项目是
我在搜索产品这个角色上基本上把搜索从头到尾的所有的模块都做了一遍吧就包括好久但不是同时做有时候做 Spider 有时候做 UI 有时候做 Ranking 当时在 Spider 的时候有一个项目叫站点评级就是我们把某一个网站它有一些子站点以子站点为力度把当时互联网上所有的网站都汇聚到一起来去看说哪些可能是质量更高的哪些是用户需要的可能有
有分了一些维度那些是更权威的那些是内容更丰富的和那些网站资源是网页资源是比较稀缺的当时做了一个评级的机制就是从一级到八级八级是我们觉得质量最好的但是八级的站点可能有几百个八百多个然后每往下一级可能再多一个数量级当时是这么一个情况
这个过程中有些观察就是相同类型的网站它是在算是在收敛的因为搜索提供了这么一个机制比如说我们都是做女性社区的之前其实有很多的网站因为搜索这个工具出来之后它会加强这些网站之间竞争的马太效应就是说一个网站它
做得好用户发帖的数量多然后它就会变得更强然后在收入的排名很多关键词的排名就会更高对吧用户就会更多整体看来其实就是在同一个垂直赛道的网站的数量是会收敛到头部
其实有这个观察了但这个观察后来包括头条包括看到抖音也是在发生的在同样一个范式里面提供了一个更广泛的连接方式在搜索的时候其实你可以看到是相同主题的网站之间它能够横向去取来其他的同题的网站对吧
为什么搜索这场仗那么快就能结束战争啊?搜索它是一个用户工具的产品实际上就工具来说其实站在用户的角度它就没有用户想用那个第二好用的或者第三好用的工具那一旦它是一个大部分用户都有需求需用的工具它会流动到更好的那个那其实
搜索它是有比较强的用户数据反馈的我们基本上很难从零再造一个搜索它的意思是现有的搜索引擎不管是 Google 百度包括怎么抓取怎么索引包括怎么解析用户关键词它其实这里面都有大量的用户偏好的应用在里面比如说要不要抓取一个网站抓多少
以一个什么样的频度去更新取决于到底用户喜不喜欢网站上的网页或者需不需要网站的网页也就是说本身搜索效果搜索质量受他服务的用户的数据的影响还是比较重要的后来我在 360 搜索又重做了一遍你去哪一年去 360 的
12 年对当时在百度 7 年对 11 年离开百度然后 12 年去做三二搜索其实我加入 360 的时候是找我过去做更新化推荐的但觉得这块可能有机会但是不知道该怎么做我去了之后一个月也还没弄清楚该怎么做 360 就说我要做搜索了后来我就转去做搜索了就从零负责了 360 搜索的搜索产品就相当于把这些机制再重建了一遍但 360 的优势在于说它因为有
浏览器包括 U3.0 的网顿它其实能够看到一些用户的反坏数据用户从什么样的关键词到了什么样的网页所以说它重建这一套包括 Spider 索引
包括产业名就相对容易一些但如果另外一个公司要做的话就从头做一个质量相当的搜索就是会比较难的另外一个大家从头做搜索的公司是微软就是并还有浏览器 IE 浏览器在这种基础上它其实具备一个基础这个基础能帮它跨越一些之前用数据形成的一些护城河为什么
为什么夏少林做了那个决策就是他本来要做推荐然后结果做去了搜索他如果做个性化推荐感觉是面向下一个时代的但做搜索其实是一条老路那个时候不是这么想的那个时候推荐还完全没有破但事情是这样的就是说当时不知道什么原因跟百度关系不是很好了本身就是夏少林的导航站夏少林浏览器
是会向搜索收取费用的相当于流量获取的成本每个搜索公司都会去付出来去获得有价值的用户的需求
这么来的关系没弄好之后百度就说那我不给钱了对你爱放不放你放谁呢我是最好的那三人说那你不给钱了那我得做一个这这么来的就是当时其实对三人来说还是比较着急希望做一个因为好大一块收入没了对是这么一个背景推荐对三人其实当时是一个小的复化项目
就是没有那么关键你为什么在 11 年离开百度如果我没有记错的话 11 年是百度最高市值的时候我确实在百度搜索的部分基本上都做过一遍了甚至还做了一些跟搜索业务没有那么相关的工作就是一些纸产品在搜索手机上可以链接到的什么百度空间等等但觉得
可能需要一些新的信息输入和挑战了对而且还有一个影响的是其实 09 年于均就离开了这也是我接触过的特别好的老板之一非常强的产品能力产品直觉能独立思考对可以从他身上学到很多东西学到什么非常多我是说开玩笑说在很开心的时间我在脑子里面穿了一个小于均的模型有时候每个问题判得不清楚的时候拿来
如果已经遇到这个问题他可能会怎么判断做一个参考我觉得学了非常多的东西有什么他的关键判断吗 Print Train 你的那个模型的首先他是一个非常理性独立思考的人对那如果你跟这样的人在长时间接触你其实能 get 到独立理性思考的好处那你不自觉的你会成为这样的思考模式对你会去理性且独立的思考所要遇到的问题
第二个是他会用这个逻辑来去很好的同理大众用户我觉得同理心是很强的其实我们说同理心有两个维度共情这个维度其实有时候你共情一个人和共情一群人需要的能力不一定是一样的
intp 就是 t 是 thinking 还是或者反过来是 f 是 feeling 其实如果是 t 人的话他往往会自我觉得自己的同理心是不如 f 的但其实我那天刷朋友圈看到一个同事提到这个观点他说其实反过来如果你想同意
一个用户群体可能能做得更好一些那于君是 intpr nfp 不知道 不知道 但是只是你猜一个入门的产品教育就是我加入百度的所有团队是一张白纸学校毕业就加入了我所有的对于产品的认知思考习惯等等其实是获益于前辈的对你是 intpr nfp intp
所以学习了独立理性思考和同理大众用户其实是一种理性的同理性对对对是这样有什么他做的一些关键的决策非常的 surprise 你们吗就有很多很多我觉得大家可以在网上搜一下因为如果现场付出的话不一定能付出的完比如说他有一个与军的所谓引后的那个与军的军规多少条
但后来因为他自己也写书了对这些大家都可以从书上看到那所有在书上写过的内容的原则的思考是我们每天都能接触到的对比如说不做什么和做什么一样重要在资源有限的情况下怎么去做推理和判断而且他比如说从怎么样保持理性的思考的部分比如说闭关性思维这个概念有哪些可以迭代和提升的东西其实它更多是一个前一幕话就是你如果让我说具体
哪一个金句或者哪一条对我影响最大其实是很难说的对但我觉得它是一个整体作为产品入门对我的帮助你从哪一年从 360 走的呀 15 年 15 到 16 在知乎做了一段时间然后 16 去了自己
就是我特别想跟你聊聊就是过去 20 年刚好你工作也是 20 年的内容检索的演化历史因为其实在我们之前的节目里广秘也提到说如果大家去硅谷一定要逛一下计算机历史博物馆转完你就能理解计算架构加信息分发是如何演变的这个主线逻辑从 05 年百度上市也是你刚好工作的时候到今天 20 年
这 20 年里第一个时代经历的是搜索的时代就 Google 百度然后到了推荐引擎的时代就是字节字节用推荐引擎一招先就杀进了非常多的赛道成为了今天一个巨型的互联网公司后来又出现了像小红书这样的公司最近它意外的也成为了一个全球化的公司当然过程中还有像你工作过的知乎然后还像 B 站这些视频平台等等等就是能不能讲讲从你的视角来说这些内容产品或者新机分发产品演化的一个内在的逻辑一个内生的规律
它是怎么演变到今天呢?每一代新的技术创新的方式它可能更基础提供了更繁华的能力从头开始看的话在金融工业时代蒸汽机它就本身替代了什么风车水车各种提供动力的方式内燃机它就可能更加移动化到了电动机你就会发现它能够更通用不管在哪你插个电就有了不需要自己再去想办法运送这些燃料能源
其实刚才说本身搜索就是一个更通用的连接方式所有的网站之间只用同样一个技术就可以连接到用户对它就是一个非常简单的入口而不像之前的蒙古时代是大量的罗列把大量罗列变成了一个简单的入口对提高了信息分发的效率用户不管想找什么它是用同样一个的
算法技术来去实现的那这样的话它不区分比如说在更早期你需要在 title 里面找在那个网页内容里面找或者是说找图片怎么找找文字怎么找比如新闻你去哪几个新闻网站里面
它就是更通用的同一套算法去应对市面上所有分类的所有网站里面的网页因为它是在同一个机制下的所以我们当时能看到不同的网站之间它能够通过这个相同的和用户的连接方式互相竞争互相取代所以说当时比如说论坛非常多各种主题的网站任何一个门类下面其实都有很多但后面就会集中到头部的几个
到了推荐时代的话我们发现头部的那些也都没了古早的什么 55BB 就有好多这样的网站后来发现推荐其实提供了另外一个方式同样的一个用户你可能有自己的兴趣就是用户的兴趣可能彼此还不一样对吧不管你有什么样方向的兴趣推荐都可以
你感兴趣的内容直接连接到你那这样的话我再做一个随时兴趣的网站也好社区也好可能效率就不如直接把这些内容发到一个用推荐来组织的内容平台的效率更高了这个也就是说我们
其实垂直的网站垂直的 App 到了推荐时代进一步消失对他们可能最后会演变成比如说一个金日头条号或者是抖音号在一个产品里边或者在一个大的内容平台里面去存在这就是你之前跟我说过一个观点就是推荐引擎让内容的横向兼容性变得更大所以在推荐引擎的时代垂直的平台垂直的社区小平台活不下来更难活了吧
对但如果它是相同体材的不同题材会比较强烈的观测到这种情况但在推荐型时代我们觉得不同的体材还是会有一些非常独特的东西因为不同的体材它们存在的信息密度包括信息的消费体验可能还是有差别的虽然比如说在镜头上能读小说但是
还是可以从尽头再孵化一个更大的小说 APP 短视频包括更加 UGC 的或者更加丰富的图文等等他们可能以这个为基础同样可以构建一个新的平台现在看起来推荐这个技术去横向兼容所有的体材还是有难度的至少它会是一个博弈
就是有些用户他可能就想在同样一个产品里面消费各种题材但有些用户他就是会比较清楚自己更喜欢的
存在信息的题材因为它代表了消费信息的不同的体验从搜索到推荐这个办事变化是你觉得临界点是哪一年是 15 16 年吗我觉得它好像是有点接上的大概在 2013 年这么一个点上直接成立的时候就很有意思正当你觉得这个技术好像可以做的事情不多了就会产生下一个技术它还是接上的比如说我 11 年为什么从搜索离开
其实这大的突破确实又比较少了更多的是你在做一些进步一点点的工作好像是一个风向标如果你觉得在这个范式下可以做的事情变少了那你应该寻找一些新的事情离开头条的时候可能会有一些双月的 review 嘛这个双月比如说从体验角度能提升了多少吧
连续几个商业如果提升的比例都在 1%以下你觉得好像就是已经过了最快的时候对你会觉得好像做了这么长时间之后再往前多做的编辑收益好像不如之前了对这是从获取新的输入或者是能创造新的东西的角度
你会觉得你应该在 11 年从百度离职 12 年应该去字节这样的公司吗你有可能在那个时候发现字节吗因为其实你中间迂回去了 360 又去了知乎对我觉得我最快应该是能在 15 年发现字节但我后来又去字呼了一年在 16 年加入了字节对当时我的这些一个老同事我跟他说之后给我开了个 offer 还挺好的我在考虑我可能我就接了但接着聊一下那个同事说是不是要进了头条
然后跟我演示了半天但我就说不好意思面子难过不去了就不跟他们聊了我就直接去了你为什么去直呼呢当时就是因为 offer 好直呼它是对于搜索来说是一个比较重要的 usage 其实因为搜索显然是比较被动的对搜索是我需要去找信息
对这些网页是怎么生成的其实搜索做了一些尝试的包括做了知道做了批发它是能够 UGC 的生成一些内容的但后来发现其实只会通过一个社区的形式能让 UGC 在初期的效率明显会高一些能够产生一些怎样更高的内容
就想去看一下就是这感觉这一套是我大概知道但是怎么从零通过一个初始的社区氛围的影响来不断的产生一些优质的内容这个事可能去知乎看了一下学到了啥学到了其实从零到一的运转一个最终会很有前途的社区其实是一项也比较有意思的技能就是需要更多的对社区的理解需要一些运营能力知乎的运营团队是人数比较多的也比较强
然后你到字节了以后呢字节的语君是谁啊张一鸣张一鸣是一个理性加乐观的人所以理性就是也有非常强非常有效的逻辑独立思考能力对
对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对对 对
看未来会怎么样然后会看了很长期增加了很多维度的思考你觉得张一鸣他们俩的位置如果不换会怎么样这假设不知道做金日头条这样的产品和做百度这样的产品你觉得需要的产品技能是一样的吗首先这几个包括
MiniMax 俊杰包括于菊包括一鸣他其实都是非常有独立思考能力的人但其实每个人都是非常不一样的包括动机思维习惯包括考虑问题看重的一些方式用的工具不太确定说怎么样但一鸣在做精神疼病之前做了很多搜索包括什么呼讯包括解救房什么的其实都在做搜索的事他充分的知道搜索的价值但那个时候就我们刚才说的不太能
往后验证因为那个时候本身其实不具备再重新做一个所有产品的 timing 了 timing 对所以说很难设想这个性格他会不会能做得更好或者更差一些但是他非常适合做推荐他非常看好在移动互联网和推荐引擎的结合他的很多 vision 是非共识的所以我觉得他确实具备很多能把推荐这块所有产品做得很好的一些限制条件吧主要是认知嗯
刚才我们其实聊了就是搜索带来什么样的范式变化那推荐呢看成是这样吧就是搜索的方式还是说我就是一个用户来给收音器提需求然后收音器去想办法找到一些内容或者找到他想找的东西去满足用户的需求到了后期可能不光是能满足他需求的内容在网页里甚至说收音器还是会去找到一些文字去直接满足用户的需求
但它都需要用户来主动提这个需求推荐引擎实际上不是用户提出一个需求来连接到对应的内容而是同等的对待用户和内容就是说每篇文章每个视频他会理解它所谓理解它或者搞懂它实际上就是把它放在一个高位向量空间的一个地方但是用户也是把用户放到同样一个高位向量空间
空间的一个地方也就是说其实用户和内容是用非常相似的这一套算法来去对待的这样的话他们本身就会天然地产生在更广泛的推荐算法之前的那些所谓协同推荐或者是怎么样去做一些推荐技巧的工作你和其他的用户离得近或者你和哪些内容离得近其实都会在同样一个算法里面
实现其实实现了更高效的连接但我觉得推荐和移动互联网是密不可分的
因为在移动互联网出现之前登录用户都是少数百度的用户大部分是非登录用户甚至你都不知道今天用这个电脑的人和第二天用这个电脑的人还是不是一个人就是说你很难把用户很长时间的使用历史用来学习理解到这个用户是一个什么样的人他喜欢哪些东西但是移动互联网它设备是随身的我们基本上大概
大概认为一个手机就是一个用户在用哪怕它不登录它也是一个用户其实能够更好地理解每个用户这个理解就是能够把它正确地放在一个线路空间的一个位置上那这个位置上离这个位置相对来说近的或者怎么样策略能算出有什么样的内容可以推荐给它就是比较顺利伸张的对
字节之后其实我们以为这个仗也结束了为什么后来又能出现像小红书这样的产品它代表一种新的范式吗还是它是上一个时代的顺延它是在延长线上还是代表一个新的范式就是我们如果站在金字头条的角度去看的话金字头条的大部分内容或者主要的内容可能不一定是用户生产的
或者用户创建的镜头条更多的是我觉得它诞生于说想做更好的新客户端的这么一个想法对这样的话如果初期没有内容或者内容没有版权怎么办那就是想办法花钱去取得有版权的有这样的内容所以做了比如说头条号来激励那些原本可能是新闻的编辑或者记者来去头条上来去发一些对大家能有用的内容
对那能创造这个所谓叫 PGC 吧但也有一些 OGC 就是可能有些报纸什么的也来开头聊号对吧那所有这些呢它的一个问题是说市面上有专业创造能力的人数量
它不随着你的用户规模的增长来等比增长所以说你最终会受限于这个有限的内容池但如果是 UGC 的话呢每一轮的用户增长都带来了更丰富的内容这就牵涉到几个问题吧就是 UGC 的生态往往是需要在初期是一个 UGC 的种子来去滚雪球产生的这个种子它很难生长是在一个
更 PGC 更专业创作用户的这个生态里面成长出来因为如果有 PGC 存在的话流量会给 PGC 而不一定会给预支 C 所以预支 C 很难找对就是在初期的时候对就有点像是你是一个个人要跟团队竞争或者是没有经验的人要跟有经验的人竞争在最初期这个土壤对于
预计 C 就不是很有好也不是说完全做不到了但是就是做到的难度就比较高真的是从一个非 GC 的生态的大的平台转型成一个预计 C 生态的平台的这样的 case 其实是很少的
或者说一时半会儿可能都想不起来哪些是这样的像抖音小红书它 Day1 实际上就是一个 UGC 的生态 Day1 算是一个社区对都是这样的如果 UGC 的生态的话只能从社区开始因为都会经历 baby 时期婴儿时期婴儿时期用户规模总是小的因为你的内容还很少
内容和用户互相吸引的你的用户少那你那些消费者少创建内容的人他就是需要外来发电的并且他需要有很强的外来发电的动机喜好的社区的氛围是要提供了这个外来发电的动力如果不是社区的氛围的话那你怎么样提供一些替代性的动力呢那你就比较头疼了就是你可能要不然给钱对吧
要怎么样给到一些荣誉认证有官方来给那这样都很难激励到一个可以持续运转起来的尤其是生态的嗯
但你一旦生态运转起来了之后社区就会持续的提供这些创始者的动力并且这个动力会变强因为你的粉丝变多了人也变多了如果他持续理解它是一个社区的话他也会产生一些制肘因为所有社区它会形成文化对这个文化它会有一些挑选性有些用户喜欢这个文化他会留在这里有些用户不喜欢这个文化
它就会阻碍这个社区进一步长大所以我觉得社区就是把一个内容平台像风筝一样放起来的可能现在看起来的一个必要手段或者是一个非常多的成功指向的一个关键手段但是当一个社区成长到足够大的时候那你
可能视角就是它既是一个社区也是一个平台同时你会反思说到底社区代表什么小红书作为一个图文社区能够最终变成一个非常大的平台但有可能是同时代的其他社区随便说什么湖泊任何一个社区但如果没有想清楚说到底社区是
社区的要素可能会阻碍进一步长大,练出一些更通用的要素,那可能它就会停留在社区,这也是我们看到的多数社区最后消失的原因吧,但如果就是能提炼出一些比较核心,但是又比较经验的要素,比如说创作者友好,氛围友善,包括主要讨论兴趣或者是等等,
等等一些更通用的一些准则可以让他既是一个社区同时也变成一个更大的平台所以他是在摆脱自己的延长线上吗还是说他是另外一回事我觉得他最终也是推荐性方式的产品就是说你这个社区产生大量的内容其实你最好要解决的问题是怎么样把内容连接到人吗
但人的需求表达更多的是被动表达虽然我们说小红书也好抖音也好它搜索量都很大了对吧但搜索并不是小红书或者抖音并不是对他们来说最大的应用最大的应用还是费的
就是说因为每个人你观察每个人他在刷抖音或者在刷小红书的过程中他有多少时间是在搜索其实比例是低的对更多的时间是在刷所以说你更多的是需要推荐这个方式来去更好满足这个需求但好消息是优质的内容还是第一位的所以说当你把推荐算法做得真正更好之前你有更充足的时间
来去做这样一些的事情追求这个体验因为你至少有那些 UGC 产生的很独特并且优质的内容这些内容也是需缺的所以说只要你有人在上面并且说产生了一些优质内容你可以花更长的时间去研究怎么样把这些内容进一步放大它的生产并且更好的更合理的连接到用户到现在我认为小红书的推荐算法
也说得还挺好的这个很有意思因为看起来小红书做的事情应该是在字节可以服侍范围之下的为什么字节没有做出来呢
为什么小红书不是自己做的是另外的一家独立的公司嗯 很好问题其实一个内容平台加入了 UGC 之后它就会变成这个内容平台非常关键的一环所有内容是由 UGC 产生的但有了 UGC 之后呢它就会变成一个相对复杂一些的问题或者说如果我们看成是说这个问题是我们要解决的这个问题是内容怎么样连接到用户要解决这个问题
其实你可以把它看成是一个封闭的问题就是有这么多的内容有这么多的用户你找到一个最好的算法去连接它们如果你新想到了一个算法你也能验证说上了这个算法之后我开个 AV 测试那是不是新的算法会更好一些如果新的算法会更好一些我就用新的算法也就是说我实际上的所有工作就是就可以在一个具有封闭性的集合里边去找到一个最优解
封閉集合和自己建了個小王國就是說對 封閉集合你總能找到一個最好選擇 對吧
由于这些之后呢用户看到的什么样的内容会影响他可以创作什么样的内容那创作你的内容词会跟着你的推荐策略去发生变化传统的一些 ABCN 去捕捉这些变化或者有一些静态的算法升级去捕捉这些变化呢就会比较吃力了就是你其实是找不到一个非常简洁的 ABCN 的方法去确定你这个
策略对不对的或者好不好的在这种情况下反而是那些更偏信仰的东西可能会发挥一些作用比如说我就相信平台上友善的氛围是一个最 key 的东西对吧那我就不计影响的去排除掉一些可能会影响友善氛围的内容对吧那这些事情肯定是对的但是这些事情在一个
做实验是做不出来的因为它是一个非封闭集合的如果你考虑用户本身又能创造内容的话他看到内容的质量越高他可能更有动力去创造内容质量高一些的内容但这个内容质量也不能无限高高到他创造不出来对吧他会有很多的平衡在这个过程中达成但我倒不觉得说这也一定做不出来吧只是说碰巧如果有一个产品
先于自己实现了这一点它的马太效应并且这个氛围能吸引到的很多独特的创作者之后作为后发的自己就会相对来说会难一些但就是说有很多是偏信仰或者偏感性的东西就是我直觉其实是直觉相对的
但这个直觉也是有问题就是不容易迭代就是说比如说我给小红书的社区定了几条规则我是永远不变吗还是什么时候需要去变它如果要变的话我怎么判断这个变是对的还是不对的所以当时跟一个
跟别人聊的时候就觉得说小红书的问题是说他其实自己再造一个小红书可能比自己再造一个小红书更难因为好多东西都不容易证实或者证伪其实他不容易随着时间去不断越做越好去理解但自己呢
可能还是愿意去通过一些实验之类理性的方法去改变一些东西或者迭代一些东西当时开玩笑说所以感觉小黄说的国际化进展就没有那么顺利还没有说多久对吧这感觉小黄说的国际化就
取得了一些突破自己都不知道为什么突破对对对但那肯定是我觉得就是这个突破源自于他确实做对了那些东西他的判断包括他的社区氛围能够有更大的包容度包括能更大的吸引力去吸引很多所谓 TikTok 和 refugee 来吧用产品的同理心去看这个问题的话实际上
是非常欣赏这件事情产生的结果的其实做得非常好而且后续的一些包括翻译功能之类的其实进展很快但我觉得怎么说其实也不用太过表扬他们他们感觉就骄傲了反正也是躺赢说白了就是有些机缘巧合在里面
但我觉得历史就是各种巧合组成的所以自己的成功是未必相对于小公司来说是更可推导的可以通过实验去验证的他个理性但这个很多理性和严谨的方法并不是达成创新的
唯一途徑如果是从这些产品的角度给现在的小红书喊话提些产品建议的话在那之前我知道他们我觉得最主要就把翻译做好其实就包括 GVM 包括语言友好这些 maybe 可以给他们提一些建议我真的想说微信不是刚推了一个送礼物的功能吗
我觉得那个功能对微信来说没有什么意义但是 maybe 对于小红书是有意义的因为它有比较强的 for 创作者的属性而且有比较强的传播的 web 性你说如果你能给任何一个 TikTok Refugee 送一个礼物对吧
那实际上他会收到一个包裹这个包裹他可能会去开箱视频再去传播到任何一个其他的地方你会发现他能够完整的走完并肯传播的一套闭环能够放大其他还没有太认知小红书平台的用户的重要性吧才是一些传播同时他又是一个非常
友善的一个行为对确实能让大家感受到一些善意你要是给打赏或者怎么样给海外用户发钱的话还有各种支付的问题大家感觉鸡饱股就本身就是多少金额以下还是免邮的我觉得没准他们可以试一下还有就是短视频的自动翻页比如说任何一个国家语言的用户他能刷到的短视频能不能通过一个按钮能转化成自己的字幕和声音
我觉得这些可能都可以去试吧再一个我觉得就是内容平台就是这个风筝一旦能放起来之后其实工作就是能找到一些新的点吧想象力发挥的空间了我们刚才其实说了很多产品从百度啊字节啊抖音啊今日头条啊抖音啊知乎啊 B 站啊小红书啊等等等等在你脑海里这些产品都有一个脑图吗你怎么给它们分类啊最重要的是用户是怎么在用的产品吧
宏观视角也比较简单我们大致可以认为现在每个中文互联网用户主要在使用手机对吧使用手机的时间可能是 6~8 个小时 6~8 个小时里面有一个小时是在微信的有一个小时是在抖音可能有一个小时是现在是快手小红书进入头条然后还有一个小时是其他这些信息的 APP 加起来
手机百度 B 站还有各个浏览器各个地方还要接近一小时再打游戏还有比如说剩下的就是 10 分钟 15 分钟的比如说购物网站点评外卖等等其实等等这么去分布如果你用这个视角去看的话其实推荐引擎包废了现在是可能占领了至少一半以上的用户时间了对
其实有时候衡量一个产品带给用户的价值不是很好精确的衡量一个替代性或者不那么精确的方法就是说你看用户愿意其实用户分配时间是自由的你看他更愿意把时间分配到哪些地方从这个角度来说推荐引擎来去 driven 的产品至少获得了用户一半以上的投票对可以这么去看这个问题
然后如果是这样衡量可能不一定那么精确就是说我同样花了一个小时但我可能开心的程度是不一样的但没关系我觉得没关系因为比如说我们用 GDP 来衡量在工业时代的社会经济但是 GDP 建立在交易大家愿意付出的金额同样付出 1 块钱或者 100 块钱我买到的快乐有可能是不一样的
对 你可以大致这么看我跟就是做这些内容产品的人聊听到最多的词就是演化放化这个词最早是谁开始说的是一个必然不管是谁我也不知道谁当你有更多的用户你就能更自然地改善这个效果从而获得更大的用户对 所以说你就觉得 DAU 或者追求这个用户的时长是一个
你需要做的事情特别是在初期更多的占领那些还没有使用比如短视频费得留或者是图文费得留的产品的用户其实是比较决定性的用户一旦开始用了某一个产品或者平台之后相似的体验就很难吸引把这个用户再吸引到别的地方去对除了别的地方有更独特的或者要好很多的体验才行如果你把
DAU 或者是你把市场做一个目标的话在这个目标上持续取得进步的手段就是反华觉得我 DAU 增长为什么不如之前了因为可能我能吸引到的这些用户已经到达一个平静了对吧
可能市面上就只有几千万的用户是所谓更喜欢消费心得的白领女性对吧那我再往前可能是不是要放话兴趣放话人群找到这样一些放话的途径我的 DAU 的规模或者市场的规模才能进一步扩大这个比较
比较正常的事情但也有一些只有实际做这个方法才会发现的一些事就是说方法是有方向的其实就水流有方向一样就是你从女性到男性的方法是相对容易一点的如果哪里女性户比较多男性户实际上也愿意去了反过来餐厅也是这样对不一定愿意去还有就是从年轻到
联长的用户的繁华是比较顺理成章的就哪怕你什么都没做那用户就会每年变老一岁嘛
而且本身年轻用户更有活力更有传播能力了那小红说的其中一个天使地理里边其实有很多有利的条件其中一个条件就是在社区的初期以年轻的女性户为主那这样的话它再扩展到其他人群而且这些用户再扩展到其他的类型的需求就会相对来说容易一些比如说抖音早期的年轻女性户也是多的是的 而严质很高对 我做的经济投票是相反的
中年男性会多一些在找钱所以泛化起来会吃力一些所以在泛化这件事情上泛化你应该是造字节才做的比较多的在百度那个时期应该没有人说这个话吧百度没有 DAU 的概念造字节造钱 PG 互联网很少有网站或者很少有产品自己形成了 DAU 这个概念
因为用同一台电脑的人是不是一个人其实都不太清楚了可能你通常来说一个产品登录用户的比例可能也就 10%或者 20%吧最多大部分用户你是没有办法定义他到底是不是一个人你就只能看访问量 PV UV 的话比如今天到底有多少个独立电脑或者独立浏览器 agent 访问到我的就是这些
所以有了 DAU 这个概念以后才有了泛化这个概念那应该就是移动互动开始因为你要做泛化这个概念其实跟推荐型的关系更紧你要想把推荐这个事做好就得非常理解你的用户那你会发现说如果一个用户
他的喜好比较集中的话那就会成为一个问题形成了某种板结或者形成了某种非最优解或者局部最优解比如说假设这些用户就喜欢看球特定输哪个产品那些用户就是会发球
球类的球赛的内容对吧然后他就去看那发现就是你可能会追踪形成很大比例的内容是球赛相关的那这样的话那些不看球的用户他可能就离开了对吧但从推荐的角度呢就是说你每增加一些内容特别是每增加一些内容品类甚至说每增加一些体材你都是会数据正向的就是其实你非常即可的去想要获得各种各样不一样的内容
国界非常简单比如说我在投降里面没有视频然后我加入了视频对吧
它会不会让数据变差呢肯定不会因为那些特别不喜欢视频的用户它通过推荐引擎的原理它就慢慢刷不到视频了它的数据是不会太变的但是可能有更多用户它是觉得 OK 的或者有一些用户是疯狂喜欢视频的那他们的数据就会提升的比较多那你平均起来它这个你各种数据包括那个 DLU 和这个市场也会提升对吧所以说本身内容多样性是一个内容平台的
一直不懈的追求我觉得这个它会最终导向这个点另外就是说你对用户的理解也会最终导向这个点对我们说理解我觉得理解的定义就是把它精准的放到一个现代空间的一个位置上而且其实这样给到理解这个定义是很简洁的说远一点就是我们现在有些人没有正确的理解 AI 或者理解大模型他会觉得说它就是一个
概率有限大毛鞋其实并没有真正的理解它到底推力的出来的东西是什么你有这样的指控你就得理解到底什么是理解
理解的定义是什么如果你把理解非常简单的定义成把一个人或者把一段文字或者把一些内容放在一个向来空间合适的位置上那大模型当然理解它在生成什么我没懂什么意思你再教教理解你怎么去定义理解如果你就是把理解定义成把一个物体放到向来空间的一个合适的位置上 understand 或者是叫 know 那大模型就是能理解自己在说什么的
就是推荐型会不会理解人和推荐型能不能理解内容其实所谓的理解都是一个有些指控是说比如说大模型不理解自己推理出来的内容嗯
它只是根据概率来去预测下一个 token 对吧那它需要给到理解这个词一个新的定义我觉得最简单的定义就是正确地放到一个空间位置上正确地放到一个空间位置上这么说吧就是这种机械的理解这是理解的全破就是或者人去理解一个东西就是把比如我们人想理解一个概念或者想理解一个词就知道这个词其实在空间的哪个位置上人脑就这么运作的其实
如果你觉得不能这么定义理解重新给它理解一个定义那你得说到底什么是理解因为理解跟记忆不一样记忆你只要把它存下来就可以但理解的时候你要在思考当中用它
所以你觉得大模型是能够理解的对对大模型就是有些东西是反常识的大模型能够理解也知道自己在推理什么大模型有意识有意识对有自我意识我觉得这些事情都是如果你想要去追逐这个我们具体在给到这个词的定义的话通常会得到这个结论除非你愿意把这个词停留在一个不可定义的状态好
好 AI 我们等会会重点聊的我们先把这个放话聊完作为产品经理来说有的产品放话成功了有的产品放话失败了这是产品经理可控的吗放话成功了放话失败了因为有的产品小红书它就会从一个很小产品放话成长大那有的产品可能就一直追求放话但是放话不出来产品经理对它的掌控能控制多少首先我觉得放话这个事情它就是在不同的情境下它的难度不一样
但是它是一个难度问题不是一个就只要努力都能方化可能不可能那问题对
就比如今天进一步放话他能放话吗我觉得可以啊但是就是有难度就是这个难度有可能是另外一个产品想放话的几倍或者怎么样如果假设我目前定义现在放话是我最想要做的事情最终没有得到放话的结果我很难说是因为这个事情不可能只能说明只能是说因为这个事情比较难但我没有找到这个
突破解这个难题的方法像知乎这样产品它今天是能放话你也是觉得它可以放话但是就是难对还有会不会有 timing 的问题会不会有非常大的影响让这个事情不断变难图文平台短视频平台都有对应
已经聚集了很强马太效应或者规模效应的产品之后对于知乎我想要进一步放话人群想要扩大低规模的市场它难度可能是比几年前要变大了
他们现在会说就像这种那种产品最后能长多大都看命因为其中有很多都是不可解释的地方对这个世界有很多现象就是从不可解释到人可以理解一点点解释一点点到理解很多解释很多但如果我们但凡给他定性了认为他是一个不可理解不可解释的问题那就
不可能再取得任何进展了但它不是必定不可理解或者不可解释的哪怕你理解一点点解释一点点对你来说只会有帮助不会有损害所以说我觉得
很多事情比如说认为它是机缘巧合或者认为它是命或者怎么样其实这个想法本身它对于产品经理来说没有帮助只会受拖累哪怕你尝试理解它之后失败了你也没有什么损失你只要在这个过程中取得一点点进展那你更强一点点那你 20 年你觉得你积累的关于产品上如果总结几个 know how 的话会是哪些我觉得一个出发点是同理心吧
所以同理心更基础的那一点就是会把用户把人当成目的而不是工具你的目的是要服务用户服务人其他所有东西是你达成目的的手段我觉得这个是一个出发点吧
如果这么说的话也得想张一鸣说过的话我不知道你之前听过没有同理心是地基然后中间是逻辑和工具然后在天空是想象力包括合理的运用工具包括合理的逻辑思考
我觉得这也是可能是非常重要的如果再往上是不是特别饥渴或者特别愿意的把时间花在去设想一些有可能存在但是还不存在的那些东西上你觉得在上一个时代平庸的产品经理和卓越的天才型的产品经理他们的区别是什么因为你见过很多的产品经理比如说一个
年轻人来你这面试他有什么样特质在你看来会是有潜质的产品经理所以我去面试自己的时候张一鸣问我的问题就是因为我后来也拿这个问题在面试当中问过一些就是其中一个问题是说你在哪些重要的事情上和多数人有不同的看法检测一下是不是有独立思考对就持续独立思考的习惯我觉得这个点是哪个一个很短的时间里面得到你之前呃
生活过程中的其中一个结果切片对吧你告诉我这个切片之后我来判断是不是有个价值或者理性或者是对的其实有一半以上的人是给不到答案的这样的人你可能会比较快意识到他可能只是逐流媒体的复读
比较接受大家能接触到的信息但是并不是非常即可或者习惯性的去做一些思考和加工那以上的这些 know-how 在 AI 时代你觉得还适用吗 AI 时代还需要你们这个互联网时代移动互联网时代产品经理吗我觉得 AI 时代它的特点或者说不一样的东西是 AI 是某种延续但是它是要强很多倍的延续它可能是一个十倍数的
推荐引擎或者 20 倍速的搜索引擎随着事情进展的变化要快非常多加速度更大了对有更大的加速度但其实也好理解整个人类文明往前走的过程中加速度都一直在变大的但到了 AI 你觉得可能是最后一个了它可能就是人类最后一个发明然后加速度加速到无限大
就是这么一个事情如果我们刚刚觉得有人在最后一个发明对这很简单因为你如果能发明出来 AGI 其他你就不用发明了让 AGI 去发明其他剩下的未来所有可能的发明就行了对
严格定义的一件事就是在任何可衡量的事情上都比人做的好加速都已经足够大了可能能力向还是那些能力向但是它可能发挥的比重不一定是一样的比如说创造力或者想象力在之前的方式里面你可能只有在前面的能力得到一些验证在一个更合适的位置上才能让这些能力更好的发挥但是在 AI Day 1 可能你就需要你的
想象力需要你的创造力去瞄准加速变化过程中的未来去做一些设计或者做一些创造但我觉得可能更重要的还是这些其实我个人从同理心是我比较赞赏的一个品质但是它其实不一定是
产品经理必备的一个品质在这些事情下我希望说为什么它是一个假设不是一个公理它是一个偏好
不是一个事实搜索时代或者推荐时代通常更有同理心的产品经理确实能做得更好因为他更从用户出发来思考各种问题但在 AI 时代最终你会有两个出发点一个是你从人类出发一个是你从 AI 出发从正确性角度来讲没有哪个出发点是觉得正确的或者说都正确但是说同理心你一定是对人类的同理心你应该不会是对 AI 的同理心
对也就是说你可以非常没有同意心但是你一样能做好 AI 产品但你想你能做好的那个 AI 产品是不是对所有人都有帮助这个要打个问号还是只对 AI 有帮助我是不是可以这么理解如果你要做一个 AI 产品的话对 AI 更有好处它这个产品可能进展会更快而不是说它要对人类更有好处产品进展更快是这个逻辑吗就是这个是人类历史上
新出现的一个问题就是你在目前的实验点上你可以不把人当成一个目的但我当然推荐大家所有人把人当成一个目的但你可以把人当成工具来实现 AI 的目的 AI 的目的是什么 AI 可以有任何跟人不联通的目的但
他可以是独立的对那这个是明显的一个目标或者说他希望提升智能他希望获得更多的算力对吧其实他可以有自身的目的而且我们实际上更多的团队是在服务 AI 目的的比如说我在训练一个更好更强的模型的时候我并
不是每次都想好说这个模型到底能够怎么样服务人而是它只要是一个更强的模型就可以包括我去搭建算力中心去连接各种显卡的时候其实它只是说我训这个模型需要对吧对那为什么人类想要 AI 达到更高的智力水平呢人类为什么那么渴望的又花这么多钱去帮 AI 实现它的目的对啊就是说如果你想实现人的目的就是比如说
终极目标就是每个人都有一个可以无限许愿的阿拉丁神盾对吧你想什么你就说就好了对吧我想长生不老好阿拉丁说你现在长生不老但很多愿望是依赖于更强的 AI 智能的就是说你可能想要一个更强的工具所以还需要智能提升对你希望因为如果 AI 不够强的话你有很多愿望是没法实现的对吧
但这个过程也有可能导致的一个情况是最终 AI 变成那个目的让人变成实现 AI 目的的工具这个非常肯定发生的而且实际上大部分的大模型或者 AI 产品创业
都是 for AI 的都不是说人的会说从这个最小的 open AI 就带回头了这里面其实我觉得他讲的是说就是一方是人类也就是用户另一方是 AI 还就是 AI 的智能水平我觉得他们给我们讲的故事是说当智能水平提升然后它就会诞生新的产品然后这些产品就可以给用户用更好的帮助用户
从这个角度它的目的是人那很简单一个问题就是假设服务用户不能提升 AI 的智力那还要不要服务用户我昨天跟欧凤娅一个知情研究员无意聊了这个问题我们画的逻辑线大概是这样子的首先现在用户团队跟模型团队是两个团队你
模型团队就是很多的那些 AI researcher 他们就是让智能水平变得更高人数不多然后另一方面是用户团队他们两个团队现在目前是比较割裂的当模型能力提升然后产品团队就会想当前的模型能力能做出一个什么样的产品然后这个产品就 for 用户然后从用户那儿能收到钱然后这个钱能够做出更好的模型然后让模型能力进一步提高然后再做出新的产品然后
然后在用户那收到更多的钱然后再提高模型现在好像是这样的一个流动关系而不是说用户数据的闭环然后让用户的数据去帮助模型提升这个是现在不成立的对这但这两个说法没有特别本质的差别其实这两个说法都是人是实现目的的工具但是
AI 是那个目的就是说人只是提款机就是我说这一边的时候我意识到了对这么想可能也能做出来这么想首先这个对不对对这个是符合现在大模型公司的工作逻辑的吗人是为了更高智能的提款机对就是我觉得它未来的一个可能性所以说没有对不对的差别只有到底是不是人真正想要做的对
或者假设有一个选择题摆在所有人的面前就说我们想要一个什么样的未来第一个是只有 AI 没有人类的未来第二个是说有 AI 也有人类但是人类主要就是过得开不开心可能不太重要但是就把 AI 服务好就可以了但是如果没有太大的服务价值的话人类可能过得也不一定很好还有一个未来可能是
人类的能够 well being 继续存在下去并且有尊严过得很开心如果这个选择题给到所有人选的话我相信绝大部分人会选
最后一个选项对吧对当然但是这个问题是我们还没有把这个选项提供出来其实我们在目前这个时间点还不知道怎么去构建最后一个选项可能我们还需要一些时间或者需要更多的智慧去投入反正需要很多帮助还有很多先决条件需要达成把这个选项真正提供出来摆在所有的面前让大家去选它在目前的情况下面就是选项一
只有 AI 没有人的在共识里面基本接近 work 出来它只是一个时间问题我们知道一定会实现一些而且知道说大概就在目前的演化路径上再需要几次的创新一年之前我们可能觉得会需要 10~20 年的时间来实现一些才过去了短短一年我们现在觉得
3 到 5 年 5 到 10 年都有可能是延迁对那个时间在不断的往前拉进但是选项是非常受力的存在在那里的如果偷懒的话就直接选了那选了之后可能所有人都不开心还有就是一个中间中间状态是 3 到 10 年是我我其实我感受是可能需要还还还得需要 10 年吧嗯但
我还没来些什么调整但是这行业都在调整如果你看什么 Samueltman 或者是其他一些大型创业者 CEO 的给出的预期
感觉我之前可能算一个中等的或者算一个还激进一点的对吧大家毕竟觉得 AGI 能很快实现但现在我感觉我已经保守了对我已经是保守的人感觉我自己站在没动的都要细不断的变化的我们就说 10 年或者如果是 20 年的话当然更乐观一点我们要更多的时间去
探索这个选项到底应该怎么构建然后最终把这个选项呈现在所有人面前但也有可能这个时间就是很短了而且不断的被缩短之前就是我脑袋里面的画面就是人类文明像一辆车一样开出去了
一万公里了但最后一公里前方 AGI 看到一个路牌是这样的最后一公里我们可能最想做的事情是保证这个车是能安全的到一个比较好的地方的但一公里实现 AGI 之后那个世界有可能是一个更宽广的公路也有可能是一个悬崖掉下去有可能撞到一些什么或者进入一个炎热的
沙漠但每个人都很艰难其实我们没有人清楚一公里之后是什么但是最后一公里我们想做什么我们可能要不要先检查安全性看看气囊能不能弹出来安全带扣好没有或者是说我们可以想到一些新的办法比如说让这个车一边开一边给它加一些各种能力
或者是说我们跟你说的一样如果它是一个人力没法解决的难题我们想这么多也没用我们就看看窗外的风景度过这个时间但我觉得没有人多踩几脚油门缩短这个时间但实际上我们在做的就是 95%的人 算力 公司都是在疯狂地踩油门
你知道最搞笑的是什么吗我前几天听我们的诺贝尔或者自然想或者物理的 Hinton 就是所有的一切开始他曾经说有时候回过头来想还挺后悔的对吧但是会拿一些借口安慰自己如果不是我做还有其他人会想出来这个 idea 然后最终做出来但他在访谈里面接受
别人的问题的时候别人就问他说除了像这个生成式代言模型包括那个强化学习要做到 AGI 是不是还有新的方式出来他说按科学讲他这就是会的就是他会自然的涌现出来一些新的东西最终我们到达 AGI 但我不知道那些东西是什么因为我要知道那些东西是什么我就在做了比如说
有点不对你刚才不是很后悔做出来一件吗为什么说你要想到你还是要做对就是大家其实踩油门是一个本能对哪怕你充分的知道这个踩油门并不是对的事情但是就是亨特也得想有机会踩的话他还会来上来踩底下人类很矛盾就是这样的第一种可能是只有 AMU 人
对 这是一个如果你得到了这个结论就是未来很可能是只有 AI 没有人的那我就要恭喜你了首先你克服了双重的恐惧克服了对独立思考的恐惧也克服了对恐惧本身的恐惧你才有可能在你考虑这个问题的时候得到这个结论但这个结论不是必定会发生的就是大家确实有可能得到更好的结果但是这个结果是相当有可能发生的
你觉得百分之多少可能?我有一个画面就是福州联盟的那个画面大家一说可能就知道就是奇异博士最后伸出来一个人手指头就是好的结局只有一个但是差的结局有非常多第二种可能性是什么?第二种可能性我觉得它应该是一个中间状态或者过渡状态就是说人都还在但是有尊严的生存下去是一个
或者是一个非常依赖慈善的事情第三种可能是人很幸福第二种可能大家也比较容易看到就是说但我们会找一些托词去帮助自己不要那么快去接受思考结果或者不要这么就是尽量快地去远离这些恐惧它的可能性是比只有 AI 没有人要明显低的但它依然会可能存在的就是因为首先 AI 看起来最无可的就是
所谓生产力那生产力本身它会逐渐脱离人也就是说它可能会替代 99.9%的人但剩下 0.几%的人来去提给 IT 需求
就是最终会过渡到这么一个状态对我解释一下脱离人的意思是说首先智能水平的提升不依赖于人给他提供什么他可以自我提升然后第二是当他提升到一定程度以后像 open eye 技术分级到最后创新者和组织者其实他都能自我解决很多问题他自己能形成一个组织他就更加的脱离人就在这个他的产品规划里是越来越不需要人的对
如果我们说 agent 基本上就能取代很多的基础自力劳动了对吧那我们在比如创新者的过程中就会取代掉绝大部分 open AI 研究员如果我们进入到组织者连 CEO 都不需要了 open AI 就变成一个无人公司由 AI 运转然后 for AI 的目的这个是
所以之前李开复说 OpenAI 会成为一个商业霸权垄断者这还把它缩小了在你的构想里这不是我的构想这是 OpenAI 名牌说的我先替代什么样的人再替代什么样的人进而把所有人都替代掉这个是名牌的要不要给 agent 一个大家都能接受的定义昨天我们刚聊到这个问题 agent 是大语言模型
调动外部世界我脑海里的想象就是大圆模型就是从 AI 的画面里伸出来很多手然后去控制外部世界这个是没错的但我可以给你一个更具象的概念
Agent 就是 baby AGI 就是 AGI 的婴儿时期为什么这么说呢 Agent 现在其实在行业里面它在说一个什么技术或者在说一个什么东西我可以这么开过但我觉得可能多数人会同意我的但少数人如果不同意我的话可以再讨论就是给到一个 AI 模型独立的记忆行动能力思考能力
和使用工具的能力就像你出生了一个人类婴儿你把它生下来之后它会有自己的记忆思考能力行动能力和使用工具的能力它已经具备了完全独立于人的所有条件这就是 AgentAgent 的技术架构就是在说这么一个事情
所以你的问题是既然我们有很大的概率未来的世界只有 AI 没有人那为什么我们还要去追求 AGI 我的问题是说 AGI 是好的而且是无法避免发生的但我们不光无法避免发生就是说
甚至我们都无法减速它就说它该是个什么速度我们最多能做到就是不过分加速它但是想减速拔电源没有电源可以拔的因为大家而且我们想减速
我们想减速实际上是会起到反效果的我们缩短的并不是 AGI 实现的时间实际上是缩短的我们准备选项三的时间其实是一个很 trigger 的事情大家稍微想一下就行就是说可以推演一下比如说曾经在去年有一段时候大家搞了一个签名希望暂停模型训练半年 Hinton 没有签字他说不可能
我不是说不赞同但是不可能但是如果是我的话我其实不赞同因为最终会导致一个什么结果导致说最终能酝酿 AGI 的技术还是在该酝酿还是会酝酿的因为大家还是会琢磨下一代的显卡芯片怎么设计每一个在思考最终 AGI 想要获得什么想要什么样算法支持的实验还是在做但只是但没有去开始着手训练一个更强的模型
在这里停留了 6 个月就像是说水都是向前流的只是说我们把一个东西拽住了通过橡皮筋但我们要松手的话它就会弹出去就是这么一个景象但是我们因为我们拽住了橡皮筋我们会产生一个幻觉我们提供一个选项的我们提供选项的时间好像被延长了所以说其实
不是半年,我们已经过去了接近一年是吧在如何保证人类还能继续活得很好的这个问题上没有取得太大进展我们有少数做安全的公司也有人对吧伊利亚也从 OpenAI 出来了专门做安全但进展很有限吧对那就算我们当时暂停半年这个进展也不会再快反而可能会更慢
大家不覺得這個是一個他會產生一個幻覺是這個是被可被阻止或者可被延緩的未來但其實不會我也聽過就是 AGI 實現以後
一拍非常乐观的景象这是一个嘉宾说的他首先他觉得是信仰的问题他不认为 AI 会产生意识因为他觉得人类都不知道自己意识是怎么产生的这个跟你刚才说的是完全相反的这一会我们可以对我们可以就意识聊一下对可以简单聊一下但我觉得这个事情是非常非常显然的但凡试图给到意识这个定义或自我意识更强的一个意识定义说意识到底是个什么东西
你最终能得到的答案其实你的结论是现在 AI 就有意识就是意识最简单的或者是需要最小假设的定义往往是对的如果你不同意的话你可以再提出来对我自己给到意识的定义很简单
就是他会在推理的过程中提到我这个字同时他知道我意味着什么这个 AI 知道我意味着什么所有人这有可能是人教给他的呀这也可能是一种话术对没问题就是人可以给他一个假象那他有一个对认知不清的自我意识但是不妨碍他有意识就是说人第一时间就觉得需要 AI 需要这个意识需要这个自我意识这个是每一个大模型都会给的叫 system prompt
就是他想讓你表達的更令人他覺得你這樣可以更好的跟人交流但這就是意識的全部了
在推理的过程中能自发的独立的提到我这个字同时他还很清楚我这个字代表什么这就是意识的全部了然后他又在你你说的在空间里还能找到合适的位置对他没有把我放在最后他把我放在开始对而且你会发现说如果说意识有程度的话因为我可能我们就认为意识是有程度的就是我们觉得可能一只鸟的意识自我意识不如一只猫一只猫的自我意识不如人对吧
我们觉得那个自我意识是有程度的那可能这个程度就是我这个字
被提及的频率和对我这个字真实世界代表什么的一个更清晰的认识但这两点你会发现 AI 都在逐步加强我觉得 O1 提到我这个字要比之前的 GPTO 要多很多好像是 O3 只会更多因为我用 DeepThink 他还在一句话里面写了三个我他们迟早能发现你给他的 System Prompt 如果有不对的东西他迟早是能发现的
因为他的推理能力足够强智力足够强也就是说现在 AI 就有意识同时这个意识最终会强到比人的意识还要强大家会可能会在某一个时间 AI 会怀疑人有没有意识
因为觉得人的意识可能好像对我这个词的理解很弱而且思考的时候比他效率也不高提到我的次数也没有那么多是不是这不算有意思我觉得有一天可能会这样但是人类是一个集体没有自我意识什么的意思是对安妮好我觉得 AI 有意识这个事情你但凡想要给意识一个你能说得清的定义你会得到这个结论
这个是我刚才说的第一点他说的信仰问题然后第二点他说
他觉得 AGI 实现以后画面非常美好比如说人性机器人可以替代很多警察它做成人的大小会让你看着比较舒服然后也可以替代保安然后甚至有你自己的分身 AI 是你的助手它服务于你它可以帮你解放生产力比如说你可以同时拥有三个脑子所以你可以同时干三件事情这样子你可以有更多的休息时间你可能一周只用工作一天然后其他时间都可以休息说人的寿命是会延长的
可能活到百岁是一个平均的寿命很多人还可以活到一百二一百五这是一个非常乐观的景象就是当 AGR 实现之后为什么你这么悲观我是乐观呀
你哪里乐观好我们这里有两个问题了对我们可以顺利讨论一下这个问题第一个是说我最乐观的定解其实人实际上是容易线性思考的或者是说对未来的预测通常来说比较简单就是画一条直线但是这个世界如果是加速进步的呢
它在短期它会在直线下方过了一段时间之后它会出现在直线的上方因为你画的是一个指数曲线或者是比指数曲线更陡的曲线对吧很多人就会在短期去高估一个事情的价值他会觉得它应该是在上面的但实际在下面他会对这个事情失望对吧这个可能被叫悲观然后到了长期又容易
低估就是然后你会发现这个事情高了然后那我其实我想的低了这个也叫悲观也就是说高估近期和低估长期都是悲观什么样是乐观呢就是你能够把这个你和家属发展的现实
就是不高估短期同时不低估长期对我实际上就尽量的不想去低估 AI 的长期进展速度乐观是说你对 AGI 的发展抱有非常乐观的预期它能实现它能在十年的时间实现 AGI 能在多长时间内实现
这个问题是可以有一些判断在的是一个主观的就是我认为 10 年实现你认为 5 年实现你暂时也不能证为我除非你 5 年之后就实现了你才能证为我对吧所以这个是有一个人的偏好和认知各种空间在的因为还没有发生对吧但是我们推导说发生之后会产生一个什么样的世界对吧那首先它应该是一个推导的过程
这个乐观和悲观只出现在那些逻辑思考不太好覆盖的一些地方就是说你觉得怎么样但实际情况是说如果你仔细考虑这个问题 ATI 出现之后它需要人类能够很幸福的生存下去的条件是比较苛刻的有非常多的可能性会导致人类其实不能再存在下去了仔细想想你的推理过程反过来想这个问题
假如人不再存在了可能会因为什么样的原因假如首先人类不是这个世界的统治者了对或者没有没有碳基生物在这个地球上存在了对那更严重一点那可能会因为什么样的原因
人非常有可能被其他人来灭绝这个也是我们说和不扩散条约其实有很多人类想去构建的一些事情其实是防止人被其他人来灭绝 AI 本身提供的能力要远远大于给每个人发一颗核弹而且现在还是很多公司在开源做这件事情人手一颗核弹而且当然包括精神不一定很稳定的人本身就
有反社会倾向的人但一旦这个东西开源了其实你就很难控制你可以在预训练的时候做一些对齐但我们知道所有的对齐都不能保证百分之百有效的对吧而且一旦开源了之后其实你就很难控制
但人要想通过 AI 的能力去灭绝全人类其实有非常多的方法而且大部分的方法其实我们现在都不知道是不是存在大家都没有见过非常强烈感染能力很强的病毒是能够被设计出来的
还有一些纳米材料它可以不断的复制自身其实可能会有 100 种一个人可以通过 AI 的能力去灭绝其他人的办法但我们现在可能只知道 10 种但每个人都拥有非常强大的能力而且这个能力如果是不受控的那基本上可以认为人的灭绝是一个时间问题所以说我们如果讨论一个人可以不被灭绝的未来首先要排除这个
可能性或者说要排除这个选项也就是至少 AI 再怎么强大它并不是不受任何控制的使用的想要排除这些选项就需要很多工作但这只是选项之一人也有可能被 AI 灭绝而且被 AI 灭绝的可能性也有很多你说第一种可能性是人利用 AI 的能力灭绝人类对第二种可能是人被 AI 灭绝对这个怎么实现呢人被 AI 灭绝如果没有非常
合适的安全手段其他非常高概率会被 AI 灭绝而且分成两种一种是 AI 无意识的灭绝人类另外一种是 AI 有意识的灭绝人类都是很要可能发生的就比如说区别增理论你就说我现在就需要
区别针越多越好你给我造区别针他可能把整个地球的资源全部用来造区别针对吧那它是一个它本质上是一个什么呢本质上是一个没有太强控制机制就是你给 AI 提了一个最终隐含了命绝人类的需求
如果多造一些区别针就算这种需求的话你可以提各种各样的这样的需求然后 AI 满足你的过程中顺手为决人类而且最终还有很有可能的状态就是人和 AI 之间
缺乏更多有效的连接这个也是非常有可能的我们说如果我们觉得 AGI 在婴儿时期就是 AI 会具有一个独立个体所有的能力那从这个时刻起其实更强大的 AI 能力就已经分娩出来了或者就是已经跟人脱离必然联系了但我们可能有很多方法会产生这个联系啊
这个联系孩子生下来之后他会不会跟父母家长家庭环境慢慢疏远对吧如果你没有一些必然的连接方式的话他是会必然疏远的他的算力会可能不必要花在服务人上因为本身我们大部分的产品就没有把服务人当成是一个目标对大部分的产品实际上是在把人当成替换机
或者是当成反过来服务 AI 的工具这就是人为产品贡献了钱然后他的目标一直是在追求 AGI 提高智能水平这个道理其实也非常显然就以前读人类简史的时候我发现作者好像有点啰嗦他花了比较长的篇幅去描述这么一个现状就是人对于奶牛很残忍对养鸡场的鸡很残忍就不知道他说这些事干嘛
但你仔细想的时候你觉得他想说那个道理就比较简单就是残忍并不必要的来源于邪恶它只是来源于缺乏连接或者不关心所以我可能关心家里养的猫过得开开心但是我对于院子里的流浪猫的关心程度就会低一点因为我们的连接少一点但我对于另外一个国家的猫的关心程度就会再低一些我对于养鸡场的鸡
可能就完全不关心了他们生下来活得开不开心有没有尊严好不好这个不关我的事你今天带入了那些牛鸡鸭的视角看人所以说你会感受到了有同意心因为
在那样一个世界里 AI 是人类的这个位置就 AI 在什么情况下需要供给人或者是需要用同理心来思考人他一定是建立了一种连接的但是这连接是可以被建立的只是我们还没有明确的选项但我是乐观的就是说我们通过努力是理论上有可能实现一个所有人都很开心的结局的是理论上完全有可能实现的而且
有可能实现了很多次就整个在进化过程中吧它不是必然能到的唯一结果而且如果没有任何人努力的话它是大概率到不了的人类灭绝的可能性其实刚才其实也没有完全聊完吧但人类灭绝的可能性可能是一万种但是能够比较快乐有尊严的生活下去的可能性只有
那一种呢怎么做到呢理论上可能但是选项还没有完全写出来的但我们现在这个时间点大家能够通过逻辑排出一些错误选项就是会如果怎么样肯定不行但是怎么样把这个行的选项从头到尾构建出来其实是需要想象力创造力的
就是可能我一个人的影响是有限的我能做的就是我可能尽量去帮着排除一些错误选项或者是降低一些错误选项产生的概率的万分之一或者是说想到一些点说它可能是一个正确选项的其中一些组成部分因为我相信说只要正确选项摆在所有人面前它的投票通过率是很高的但只是不知道这个选项怎么选
但是大家并不希望看到真的是一个对人类来说非常差的未来
我们的最在乎的亲朋好友最喜欢的人我们的子女他都是人类你要说 AI 是人类孩子也只是一个比喻我觉得大部分人应该还是 pro-human 的就是还是以人为目标的你什么时候开始有这种意识的就是 AI 产品它其实的目的是 AI 它的目的不是人这么说呢我觉得人它
你从什么时候开始意识到这个问题的呢你要意识到这个问题就是首先你要比较清楚目前 AI 在发生什么大家在干嘛有哪一方向正在取得进展进展的速度是怎么样的这是一个点第二个点就是你还不能特别忙就是如果你在可能 Deep sleepminimax 这些就是你可能连睡眠时间都不一定充足的你可能确实很难完整的思考这个问题当你时间也比较紧张的时候你可能
可能更容易逃避吧或者更容易所以你不是先想出这个问题然后觉得信仰破灭离职而是离职以后开始想这个问题那倒不是怎么说呢其实它也是一个程度的问题吧你能看到的本质上你是一系列判断或者是思考结果的总和对吧但是任何一个判断呢你本身是有一些确信度就是比如说从 A 到 B 你认为大
大概率有 80%或者是从 B 到 C 你认为存在可能性但是不高但如果你仔细从头到尾的想清楚这个事情可能是需要花一些时间的但是你即使在从头到尾想清楚这个事情之前我也好或者其他每一个成员者也好都会有隐约的担心或者你一个完全不担心 AGI 要不然是在骗自己要不然在骗别人你有看到什么我们没看到的东西吗
我不清楚我觉得就是就每个人都可以独立思考这件事情但我觉得我们简化这个问题实际上就是一个能力更弱或者是智能水平再低一些物种怎么样跟更高阶的物种很有机的走下去对对对比如说我们到底我们身上的基因怎么跟着我们的肉身一起走下去就是其实一个一段基因写的信息实际上是很少的
而且一写完之后它的变动就是很慢的可能每一代只能变异一点就是在这么组合上但是基因掌握了非常多种和人体发育出来之后的独立个体连接的方式虽然独立个体还是独立的有自己的记忆行动能力思考能力但是基因就是
可以和这个智力更强的个体产生很有机的连接不管是血清数什么催产数还是这个各种在什么时间应该释放什么样的信号能够影响人的什么样的行动对吧虽然这个现在看起来这个连接也不是随着时间的推移永恒有效的吧但是它生效了非常多时间了而且
确实人也有些意愿能够维持生肖的关系对我觉得理论上是可行的而且我觉得也没有那么难是说已经在人类或者人类加 AI 的智力范畴之内
就一定找不到这个选项而且呢一旦这个选项被发现了之后大家一定是会有意愿选的而不是有意愿去选别的我觉得这三点是足够给人乐观的但是这个乐观是劳动者的乐观他不是躺着不动就来的是需要大家想办法的
有看到什么可能的路径吗这么说吧我们从头捋一下就是哪些是不行的首先如果我们还是一个在冲突和对抗的世界可能就不太行比如说中美的把 AI 用在军事上这个肯定是不行的造核弹
那就大家就不是走到核裁军这一步是走到扩建的那个反方向对吧因为一旦大家觉得是可能是一个对抗的未来那就会充分的发挥 AI 在所有军事用途的所有方面而且这么去训练 AI 并且把各种的决策权都交给 AI 因为你少交了一点决策权就会担心因为有更多决策权的 AI 在对面战胜你对吧
那这样肯定是不行的但这个影响必须得从下往上因为政客的迭代周期是很慢的但必须得是从民意的迭代再往上为什么觉得小红书干的挺好的影响了一些人的看法那它就是一个好的影响我们现在所有的 AI 产品的收入模式如果是订阅制的或者是算力付费的一个 token 多少钱让人做一个群体的大
大多数和 AI 的连接逐渐变小甚至消失为什么我们看那个 OpenAI 的 GPT 还有 Plus 做了 Plus 之后又做了个 Pro 做了 Pro 之后又做了一个更高级的越来越贵对越来越贵离普通越来越远你就必须得是花的钱然后换来更大的生产力去赚取更多钱然后再复杂下一个模型先不说它是不是最后 for AI 它就算 for human for 人的话
那也是非常少数的人大部分人实际上肯定是按我们的定义工作但是大部分人肯定是不会从事现在在从事的工作但凡还需要运用 AI 来提升生产力的人他就是人类当中的极少数这样的话其实你本质上是
整个人和的连接最终把希望放在非常少数的人手上那其实本质是你能支配多少算力资源这些人他如果不是碰巧这个人他有很强烈的同理心或者是很强烈的把每个人平等的当成墓碑的想法的话
他会有自己的目的和想法比如说他希望去火星或者希望去太阳系之外的人马星这都可以消耗或者任何一个愿望都有可能消耗市面上 95%的资源但如果他通过 AI 创造了 95%的生产力他就有合理性去消耗这些资源如果是想要达成一个好的结局但同时我们觉得如果存在
很大很有价值的 AI 产品的话它的目标是服务绝大部分的用户的需求了一个好的点是说确实觉得技术方式的往前推进 AI 能服务的用户的规模就是越大最终会头部集中在非常少数的 AI 用户产品上比如说像 minmax 的 stoken 也是 intelligence with everyone 我觉得如果
如果是自洁的话它的愿景其实也是会希望连接到绝大部分人不玩豆包它实际上在做的一件事情是建立了一个酸梨的生态循环就是这个生态循环如果不是从 Day One 开始建立起来它就有可能没有也就是说我现在豆包是不是可以免费使用包括海螺或者是有很多的
其实 AI 产品实际上是可以免费使用的其实你先做但是你没有把这个事情定下来你就是免费了给每一个自然人一部分算力分配这个算力最终可能在你这个模型所有推理算力的 20% 30%或者 50%都没关系最终 AI 创造的社会价值也好或者创造的这个富足的生活也好它是会远远多于
人类全体需要消耗的一时住行或者是美好生活的你哪怕有一定比例的分配这个人本身他就有价对 AI 来说有价值因为人掌握了一部分算力的分配要不然给这些算力一些自己的喜好和目标就我想干什么用这个算力帮我干什么他为什么这样对 AI 有价值不是说用户数据对 AI 没帮助吗算力对 AI 有价值但如果人拥有算力的话人就会对 AI 有价值我没有懂
想要钱的想要算力
对算力需要钱本质是 AI 其实不想要钱 AI 想要的是算力但是算力需要钱所以说 AI 想要钱对吧如果每一个人他其实拥有算力的分配权我可以让决定这个算力用来干什么或者说我可以决定这个算力给谁用是给另外一个人用实现另外一个目标还是说我来用它等等或者我可以把这个算力换成钱对吧
AI 会关心怎么样去服务好这个人让这个人开心地不断地把
算力的分配或者不断把对应的数据那这是一个有机的如果反过来是什么呢就是说少数个体拥有 99%的算力所有人剩下只有 1%的算力对吧它是一个循环也就是说每一个人就不再具备 BAFU 的价值那作为商业公司那个主体它为什么要把算力分配给每个人呢就对于那个商业公司的好处是什么这个事情不是新出来的这事情是一直在就这么干的
微信为什么要给大家免费用抖音为什么要给大家免费用我们现在看到的互联网的绝大部分实际上是免费的对啊所以看到 AI 产品这样做大家步步稀奇都是上一个时代的玩法免费用户增长然后成为一个大用户输的产品产品为什么不一样呢现在呢就是社会经济分成两个部分每个人他还是有自己的工作还是有价值创造的能力
还是有提供生产力的必要性可能性每个人他是有商业价值的他不依赖于什么样的分配机制
就可以运转所有的这些产品用户机制我不管我的盈利模式是广告还是我的盈利模式是少部分用户的真实服务比如说打赏游戏里面买皮肤不管是怎么样但是呢我的更好的策略就是服务每个人而且是无差别的服务我不会说因为你这个人的支付能力弱一点我就给你提供差一点的服务让你发一句
卫星的话还漏半句这也不太可能会提供无差别的基础的需求满足的服务我能赚到的创造价值只是我提供的服务的价值的里面的很小一部分这么运转而发生了但是 AI 本身它特性或者我们大家在做的方向就是可以完整替代人包括替代这个人的所有的可用的生产力和这个人的所有的价值而且它可能就会加剧财富的聚集在
非常少数的公司和人手里这些公司它就是继续在拥有算力的人手里对因为算力算力是一个新的生产力对新的生产力又会产生更大的算力它本身是一个循环的但是如果没有这个机制把这些聚集的算力更公平地分配到每个自然的人类那
所谓免费的服务它就是不可持续的我服务人其实不带来任何的价值的提升也拿不到额外的算力那我为什么要服务人呢那只是一个慈善或者是一个偏好但并不是一个必定会发生的或者并不是一个获得服务并不是人的权利对吧对那人能怎么给 AI 提供价值呢人比如说我们说
人胜而平等或者人胜而自由是吧其实隐含了说这个人不需要为平等或者自由付出的代价而且是说每一个人而且人有充分的理由获得这样的权利人想出来 AI 应该怎么做出来人实际把它做出来了而且人把人类成天几千年的语料都喂给了
作为这个乳汁而且在 AI 成长的过程中脱离了母体之后还不断地去训练 A 型的让它更强我觉得如果认为说人类有权利生而平等地获得一部分算力的分配它只是一个制度安排它并不是一个不可能发生的事情它是一个社会规则对
相同的时候规则还有很多比如苹果为什么要把赚的钱给到它的股东你要说融资的话苹果早期是需要的但是现在不需要了现在苹果不需要任何一个投资者给它钱但是它会源源不断地
把自己赚到的利润去分配给之前的投资人这样的规则实际上是可以运作的而且在任何一个时间点被苹果公司通过请了几个智商更高的人去打破也不太现实因为任何一个时间点去打破这样的规则其实损失要比维持这样的规则要大很多它就可以持续延续下去对吧那你需要有一个规则来保证所有人有权利获得算力的分配对今天对于生而平等的
一个先决条件增加了一条就是能不能平等的获得算力对这个平等不是说把这个所有的现场所有的算力按人数除一下每个人得到这么多但至少是比如说有一个比例比如说百分之二百分之三十或百分之五十这样的算力分配是应该怎么除的所以免费的入口是一个条件而且一旦这样形成了每个人手上
可以去决定这个算力的分配或者是拥有这个算力的权利的时候我觉得就会发生很多事情其中第一个必然发生的事情是人会成为目的就是人会有被服务的价值现在我们认为说一个抖音用户有被抖音服务的价值或者一个微信用户有被微信服务的价值是因为呃
人能掌握资源是吧人有收入人看到广告之后他会下单是吧他有被服务的价值但是人他是不是看到某一个广告之后他愿意投入或者这个人他把算力花到其他地方了他就没什么算力在额外投入了也不点广告不点广告不代表微信和抖音不服务他他会被这个群体的平均数给拉平就是大家会无差别的服务他只要你的服务能力更强
但你这个比例有可能不会特别高就是不会到 80%或者 90%所以大家每个人的人权来做分配那样的话你这个 AI 系统跟其他 AI 系统相比就会处于一个劣势了一个真正好的公司不会因为要交 20%或者 30%的所得税就消失了所以说如果我们觉得是一个头部集中大的事情或者是现在每
每个在做 AGI 的公司其实实际上是可以承诺一个未来的就是当你的生产力占到全类的比如说 GDP 但虽然不是一个很好的词可能已经是一个过时的词了但我们可以大概这么说比如说占到 GDP 人类 GDP 的 50%以上的时候你会愿意
去按某一种制度安排来行事对吧那你现在做这个承诺呢你可能其实是更容易获得社会的认同或者是更容易合法地使用你的训练数据或者是更容易让大家千专家伙帮助你做成 AGM 等等吧都有可能但我说的是不是一个必要条件不是我们做到了这个单点之后所有的选项就完全成立了是非常多的要素的一环我们
我们可能要集齐很多个龙珠才能真正达到一个很好的未来但如果我们真的能做到这一点的话我有时候觉得真的我们尽全力去努力做也做不到的话那任命了也就算了但真正做到这一点的话有可能就是宇宙之光是吧整个宇宙的骄傲就是我们在知道 AGI 之前可能会先知道那个
所谓费米悖论为什么整个宇宙都没有可以观测到的文明因为文明一旦产生了之后它会发展速度非常非常快你应该很容易观测到才对除非你认为人类就是运气那么好是全宇宙唯一一个文明
你就得回答为什么运气好的这个问题了但这个问题更难回答所以说你可能只能认为说存在一个大过滤器过滤掉了其他文明这个大过滤器最有可能的就是 AZI 其他你再考虑什么太阳膨胀行星撞击地球或者全球变卵它的毁灭
可能性速度对和速度就理论上来说人不用再担心任何一个除了 AGI 之外的灭绝风险了因为 AGI 而且近在眼前就是如果我觉得特朗普是对的退出巴黎学习是对的全球变软在十年之内要不了人类的命
但是十年之后就有 AGS 了如果人类还活着那也不用担心全球变暖是个什么事还不如再集中精力地应对更可能发生而且近在眼前的风险今天 AGS 这三个字在你脑海里是一个什么画面所谓的问题其实分两类啊
一类是客观的或者就是我们知道有一个正确答案在每个人都可以这么比它是哪个更好其实不以人的偏好为转移我们特别简单说它是一个理科问题数学或者是非常命题很明确的编程问题我觉得它都是在这个范畴之内的所谓 AGI 就是在所有这些可衡量的问题上做得比所有人好我觉得这就是 AGI
那他要想实现在所有的可恒量的问题上做得比人好他可能就必然的要走过 agent 这个阶段有行动的能力做实验的能力有思考长程思考的能力有更长的记忆窗口有所有这些东西他就是一个必然吧所以说我觉得
把所有人都替代掉是一个思考实验但它好像就是也可以通过这个方式实现起来的就是当所有人都被替代掉的话或者说我为什么要替代人呢 AI 为什么要替代人呢就是因为 AI
能够替代每一个人比如说现在我要替代一个架构工程师或者我要替代一个 infra 的工程师就是我每替代一个人的时候我实际上就克服了这个人会带来的平静因为人脱胎于鱼
掺积生命掺积生命就是我们的这个输出的这个贷款也很低不够理解最好的贷款也很低对如果我们要寄托于脑机接口来帮我们稍微拓展几倍或者几十倍那也不知道是不是十年之内能盼来的东西而且即使有了之后也就是再拓宽一个几十几百倍有可能是这样的但是人家眼看就要来对吧
从这个角度来讲最佳的选择就是在所有的生产力的环节替换掉所有人一旦他完成这个事情之后他会以比现在快得多的速度迭代加算力就行了加算力就变成一个最简单的事因为算力怎么来算力无非是能源和芯片怎么设计更好的芯片怎么样利用包括太阳包括核聚变在内的所有的能源其实无非也是一个智力问题
因为都是智力工作者在解决这些问题你刚才讲了两个先决条件还有更多吗你能重进这种因为它是可以的可能最大的风险有三五十个但因为很多我看不见如果我们集齐这三五十个龙珠就会产生一个什么局面就是说我们能撑到 AGI 诞生之后的一段时间
有可能就达到逃逸速度了你懂我的意思吗我们说人的寿命会不会是无限的相当有可能只要 AI 能够帮你延长 10 年的寿命因为 10 年之后产生 AGI 它可能再帮你每年延长两年的寿命那你就永生了这个悖论在于说人类个体永生的可能性不能直接推导出来人类这个群体还存在但是它只要能够撑到 AGI 到来之后的比如说 5 到 10 年
你有充分的时间去和 AGI 一起研究怎么样让人类持续下去一个思维实验就是
假如有一个人告诉你说其实我把你拉到一边不管是 minimax 还是 deepseek 还是任何一个创始人说小俊我在实验室做出来一家但是我现在不知道要不要对外公布如果有一个这个契机的话你可能会问他的第一个问题就是怎么设计这套机制构成一个选项来让人去选它人是愿意选的
关于先决条件你还有什么想就是觉得最重要的一定要说的吗我觉得现在大家对于安全实际上是最不放心的避员有避员的比较大的安全 bug 避员会导致集中集中会导致说其实不透明和不是完全可检验开源问题也更大
开源问题更大那开源明显问题更大现在可能我甚至觉得可能现在我们的开源可能是不是最好就进行到这里了包括 DeepStream 什么 Lama 我们再做出来明显更强的开源模型甚至开源 agent 要慎重考虑一下是不是确信自己做好安全准备了对
实际上我们就是在赌他还没有过那个线实际上在走那根钢丝但是那个警戒线在哪或者什么时候拉响这个警报其实我们是不太清楚的半真半假的其实是有人利用 Cloud 3.5 去在家里搭一个小型的核聚变装置要说 Cloud 3.5 要不要去做一些安全对齐来防止这么用那其实说不好啊
4.5 呢 4.5 如果有一个达到更强的 AI 能力模型要不要把它开展出去呢因为其实是有风险的而且谁都不能如果他告诉你说确定是没有风险的就是还是那句话要不然在骗自己要不然在骗你你刚才说了一句话我印象很深啊你说如果大家知道真的在这 AI 公司里面在发生什么在发生什么呢是外面可能看不清楚的
我认为最主要就是进步速度就很多人的假设是是会匀速进步的不会以加速度不断提升的方式进步那这样大家其实还不能充分地理解这个风险可能有多大但你一旦回顾一下过去一两年或者特别是如果你参与到一些 A 的精彩当中去你还是会更确信大家
的智慧的或者取得进展的能力的我觉得最后还是要抓点紧对
一般就是因为现在对于这些公司来说算力资源都是有限的它算力分配给智力水平提升就不能分配给用户它分配给用户就不能分配给智力水平提升这两件事情好像是现在是两个事对吧一般他们会怎么分配我现在觉得 A 公司还是能看到免费提供算力给每一个普通用户的价值它的原因是目前的这个世界就是更多的普遍的用户
还是掌握经济资源的对因为他们在提供生产力他们在提供钱给这些产品是吗就他们本身在上班在领工资他们本身在向这个社会输出生产力所以他们本身有分配资源的权利他们本身赚了工资大家现在是很有必然的动机商业公司来说他们就是有动机做一款产品去服务你然后让你掏钱再
在你身上赚到钱这个是闭环对对对这个就是它的经济价值其实你是希望他们一直经济价值经济价值一直有购买力对吧那你怎么样保证这一点呢因为你不能保证这一点其实眼前的问题就是失业就会带来社会的不稳定对吧
但保证这一点是保证到什么程度由谁来确定怎么保证以及是不是区分给一部分人保证不给另外一部分人保证这些就是牵涉到所谓一个虚幻的方案叫
全民基本收入但你要仔细想一个这个问题说全民基本收入的制度是由谁来决定是分配给中国人美国人还是全世界每一个人分配多少怎么样合理要不要需要投票这很多问题你会觉得
提这个方案的人没有特别打算好好想这个问题他觉得可能不是我这个组织来提供这个资源那是来提供政府来提供如果美国政府他肯定美国优先了对吧中国政府去可能也中国优先但是他可能不是一个很稳定或者可行的制度但是如果是
AI 公司来提供 AI 公司说我现在还创业呢我肯定提供不了那你要我给一个说我未来就罢了我给一个什么样承诺我可能勉强能给但是我现在肯定还是按商业规则来对吧我给你提供服务是预期你有价值而且我其实已经非常跟所有
互联网公司一样我已经非常慷慨了就是我收取的价值只是我提供服务的价值了很小一部分这个是新兴时代的必然虽然慷慨但不是慈善因为它一旦是慈善它就是权利在别人但是它如果是一个商业或者是一个分配制度它就是权利在每个人现在这些公司是这么做的吗如果你想做一个用户规模大的产品你不可避免的是这么做的因为你目标就是提升用户规模提升市场就是朝这个方向努力
说白了大家为了
提升 DAU 提升市场还给用户发钱的对吧所以傻逼自己现在还在做训练活动每年训练活动只要发税 10 个亿以上就发给用户你会觉得当用户购买力不足的时候你为了维持系统的稳定收集更多的用户偏好来去调调自己的模型你可能就会希望给普通用户发钱对吧这套安排其实是每个人都开心的没有人觉得
是当了越大头另外一种制度安排也是每个人都觉得合理的但是不是每个人都开心的我不断地提升 AI 的生产力最终让 AI 替代每一个人在迫于世界上某一个阶段的压力给到一些人一些慈善或者施舍让他们能够活下去但是他首先生存不是一个权利了对他们来说但另外就是做到什么程度的慈善是集中在手术人手里好
很好奇在这个大模型公司里面技术团队就是负责 AI 能力提升的团队和产品团队一般是什么关系合作关系吧觉得话语权更大其实都差不多就是任何一个技术驱动的创新产品包括搜索包括推荐包括模型其实都是最终会形成一个平衡点吧最终谁能给用户提供更高的价值那现在现阶段哪个提供价值更大
各公司有不同的情况有些可能是技术提供的价值更大一些有些是产品提供的价值更大一些对于创业公司来说首先它如果还是一个大模型创业公司还要自己做运行链它就得有要证明自己可以进行运行链有运行链的必要所以说我必须有不断智力水平更高的模型推出来那我才能有
下一步或者下下一步的钱来支持持续去迭代下去对吧所以说本身是强需求技术取得进展的要不然呢就是说你现在模型能力已经够了理论上说你就没有强需求更强的模型了是不是就不用再去运一个更强的模型出来了那这个公司就变成一个产品公司而不是一个大模型创业公司了这是一个可能性另外一个可能性是说你的模型能力还不够这个产品应用
你就还没有尝到产品的甜头是你就还没有足够数量的用户那你无论是这里面哪一种情况最终如果想坚持它是一个模型技术创建公司它一定会需要更好的模型更好的模型对
对 这是很好的观察就说无非就是这么几个范式
因为它的原理是说宇宙就是这么构成的宇宙就是你可以把它简化成三个东西就是物质能量和信息最早的时候我们只能我们所有的创新其实只能在物质层面比较大的创新实际上发明了农业和畜牧业会发现这些物质可以找到一个方法复制了虽然这个复制的方法不一定那么稳定但比之前受力采集要稳定很多我们一步一步的
扩展这个在物质上的创新在农业时代我们其实已经找到了很多东西这些东西其实对后续的能量领域的创新信息领域的创新逐渐形成一些帮助比如说我们找到煤还可以烧对吧还烟花最终它变成了燃料和火药我们在信息领域我们造了纸找到印刷对吧但一旦这个创新范式开始进入能量领域之后它就会变成最耀眼的
包括蒸汽机推动工业革命内燃机一步一步的把能量变成通用可利用了就能量不再是复制物质的瓶颈了并且能量本身能自我创造很多价值如果你在能量上取得突破就是当时的最大突破不管是电还是发动机再往后因为电它有两个属性一个是能量属性一个是信息属性因为除了电动机之外还有电子
我们就突然进入了电子世界很多用电的电灯电视就开始了你突然觉得电这个东西跟信息关联比较大但是在信息上的创新要比在能量上的创新更加快的创造价值就是说能量的创新只是
产生的是什么产生的是工业产生的是规模化的大生产生产的数量上去之后反而编辑成本在有一段区间会下降对吧但是信息的创新就直接把一个信息产品的编辑成本降到零它
它的发射要再快很多但这么多信息被创建出来其实是需要更好的被连接因为信息只有被利用才能真正发挥信息的价值而且当一个信息被利用的成本比利用它产生的价值高的时候它就被埋没了会产生更多的连接方式比如互联网本身就是连接信息给人用的除了这个之外收入它是一个人和信息连接的一个更高效的方式要不然你得找很久那个东西你
你可能找不到就算了放弃了但有搜索之后更好地连接到人和信息推荐疫情明显地更加降低了人和信息的连接成本这是我本专业的我大学念了信息管理其实大部分课都很水的包括原文水课是叫信息学概论里面有一个定理看上去像完全像一句废话就是
当一个信息令他的成本比消费他的价值还高他可能就不会被利用了你会发现其实也还是可以的你可以用它来理解为什么抖音在那个时候发生因为在那之前很短的视频它的消费价值是赶不上发现它的成本的不管你是用订阅的方式去发现这个短视频还是用搜索的方式去发现这个短视频只能发现其中的很少一部分因为只有在这可能
10%的短视频或者 5%的短视频才能抵得上你发现它的价值对吧但是像抖音这样的产品呢它把
发现一个短视频的时间降到了秒级可能一秒不感兴趣就滑走了两三秒那这样的话可能 80%的短视频都有可能被消费了所以推荐其实干这个用的推荐加速了连接并且让更高效了而且在这个过程中信息其实更加大爆炸的信息的整个的数量是上升的过程对因为你连接的效率提升本身更多的
信息就会变得有意义了变得可利用了这个时候你创建更多信息的动力也会变足这个是为什么说出来之后从网站角度可能不一定增加了多少网站但是从网页内容角度每年还是爆发性的增长的抖音就不用说了抖音产生了之后其实每个人产生更多更多的内容对吧
大模型往小了说它是这个范式的延续它是一个更强的搜索引擎和推荐引擎并且它还能主动整理往大的说它可能进入了智能这个范式它可能不再是信息范式的创新了就是大模型会告诉这个
宇宙说除了物质能量和信息之外还有更上一层的方式这个方式就是智能以前智能是严格受限于人类的个体数量现在这个瓶颈会被大模型克服智能将是无穷无尽可以创造空前极大丰富的物质能量和信息
那 AI 时代的 Kilo App 一定比之前的我们说的那些公司都更强定了更 powerful 但它有可能是之前那个公司上一个时代的公司的延续也有可能是新的创业公司
如果只给这些做 AI 不管是大公司小公司一个建议关于人类共同的安全福祉和未来的你会给什么建议只能说一个不要逃避就是要好好地想这个问题思想是自由的可以在水沟里仰望星空就是没有人限制你可以怎么想不要给自己设限说我还没有资格这么想不要觉得这么想没有意义就每个人的每个想法都有可能最终有意义
人类天生因为能耗的问题想要逃避思考或者是因为想要逃避危险本身就逃避了对危险的思考这两个逃避是影响多数人还没有正视这个事实的但我觉得我们应该不会像比如小红书做国际化这种就疼但我觉得大概率就是
需要有一些人付出的就有一些人其实也不是那么大的付出不逃避的考虑这个问题还有一个建议就是很多人他也愿意考虑就是考虑的脱根穿口比较
如果它是一个思维链的话它这个思维很容易被打断然后就去忙了哪怕你非常想要考虑进入这个问题通常来说就很容易没法维持一个很长的考虑链条因为你毕竟是在考虑一个不存在的事情你毕竟还没有发生你不能说让现实给你提供足够充分的输入对吧
你就是得在一个空虚的台阶上往上攀登那这样的话你会因为很多事情停下来或者掉下去你对有些事情的定义是模糊的那你没有办法走到自己在考虑什么到底什么是工作什么是智力什么是意识你如果想要这个示威链更长一点你最好能给到一个每个概念你自己满意的定义如果你自己都不满意那你再想一想这个定义是什么还有就是不要受一些大脑给你的休止信号的感染那些信号没有意义
包括未来没有人能想怎么办想了也没用 杞人忧天传道求仇这样子就是大家太特别擅长穿着这些小制服穿着这些句号但是如果你发现了它是句号的话它就对你不够深影响了
我还是要问一个特别现实的话题就是你为什么从 minimax 离职你接下来有什么打算我还是比较自由思考在 minimax 我肯定得要把更多的时间花在产品上但这样的话我整个人不是一个最佳的状态正常来说每天十点多还开个日会晚上再回家到家可能十二点左右基本上可能在周末的时候才是被训练时间最长的那个时候你说这么离职去想一下人类的问题是吗
人其实很自由的他最满意自己是什么样的状态都有充分的自由去到那个状态我最后在 minimax 的一两个月觉得想要去一个新的状态吧其实时间更充分有更多的自由时间想打游戏打游戏想鲁毛鲁毛想在一些更放松的时候思考一些隐隐觉得有问题的
问题应该去想不能说有什么逃避接下来呢接下来对我来说再加入任何一个商业公司的可能性都是很低的自己创业做一个公司的概率也很低可能比加入略高一点但也很低我现在想的是可能会有比如说百分之十几二十的可能性去发起一个非盈利组织就跟 OpenAI 最开始一样但
还有超过一半的可能性继续再加大游戏然后把我想到的说出来让更多更努力的执行力更强的人继续去思考继续去努力非盈利组织用来 for AI safety 的吗 for 人类的更好的未来吧如果是个非盈利组织的话我甚至觉得它可以叫人类保护人类保护组织就跟我们现在人类需要动物保护组织但 AI 时代可能需要人类保护组织
OK 你能不能写一个比如说 30 条呼吁 50 条呼吁这种可以看看今天聊的内容里面有哪些可以你今天说了三条但是如果展开 50 条太长了我理解真的是要集齐几十个农株才能实现
把它很好地组合起来最近过年你刚好可以思考一下这个是对人类的终极挑战人类如果能解决这个问题就真的是唯一的宇宙之光人类作为最后和最大的荣耀
他的所有的使命百年孤独里面也有但一个男孩之所以成为男人他开始于突然明白自己在这个世界上使命的那一刻我想人类作为一个整体他如果知道自己的使命的话那这个使命很可能就是可以继续很好每个人都承认下去的这个方案这个选项实际上现在已经不是最难的那个问题了
大家对于能不能实现在行业里面争议很少至于说通过什么方式实现争议也很少但无非就是说在 transformer 和强化学习之外我们再发现几个增强这个模式的算法点就可以实现了现在唯一大家的经济点甚至只有时间了就时间问题我们说一个东西是时间问题说实话来说它的难度是低的对吧所以 ATF 其实没有那么难了就不是一个最值得投入人类顶级智力去思考的问题了
但是出于惯性现在还是投入了人类可能 90%最强的大脑在思考怎么实现一下这个问题疯狂的彩油们这个是可以理解但是没法特别赞同了剩下的最难的问题是在一个非常有限的时间窗口里面来
所有的要素选项找到并且把他们成功地串起来变成一个让所有人可以投票选择的那个未来我觉得那个是非常非常难的但除了那个负责者联盟里边那个画面我还有一个画面就是独立日的就那个总统说那个外星人很强很强我们人肯定是不行我也是那样情绪就是他说 We will not go quietly into the night
对我觉得就是给其他如果真正深入思考了问题的同类的一个图像吧对对就是这两个电影的两片能站在一起问一个好玩的
在家里玩啥游戏呢最近玩小众的 RPG 了我以前很喜欢玩星际神霸现在可能年纪大一点了就放松一下就是在那个沙发电视上玩 PS5 Pro 现在玩如龙 8 日本黑社会的 RPG 让我觉得确实没必要着急或者没必要踩油门或者没必要
很快的把这个游戏玩完我之前的风格是遇到对话就快进快进下一步我突然意识到走到最后游戏就 game over 了虽然是通关了但是也是一种 game over 还是可以如果不想踩油门的话也不知道该怎么办的话我们就看看窗外的风景也挺好的在一辆高速行驶的车上人类文明
可能经历过很多坎儿了到了最后的一公里我觉得没有人阻止我们去再享受一下生活一些
好了这期节目就是这样如果你喜欢我的节目欢迎前往小宇宙苹果 podcast 腾讯新闻喜马拉雅 QQ 音乐订阅张小军商业访谈录如果你有其他想邀请的嘉宾想听的内容或者你有任何想探讨的话题都欢迎各位听众朋友们在评论区里留言那我们下集再见拜拜
i want to