AI 的下一步是“意识觉醒”还是“集体游魂”？/ INDIGO TALK - EP28
01:27:06 Share

智能不是意思对意思是意思智能是智能图灵测试其实测试的不是智力图灵测试本质上测试的是意识这是一个很重要的区别就是区别是什么呢智力从某种意义上我觉得是一个已经被解决的问题本质上所有问题都是搜索问题都是在这样一个巨大的可能性空间里面一个混沌的可能性空间里面如何去找到这样一个它具有特殊意义的东西欢迎回到 Indigo Talk

这一期我邀请了一个应该是我的 NFT 入门导师对 莫涵同学他现在人在硅谷然后要不莫涵同学你来介绍一下自己吧好吧好的 行

名字叫莫涵然后现在在个股之前跟 indigo 在公共华就认识了然后嗯啊大部分时间在币圈混了很多然后一直在做马龙对然后是一直在币圈里面很多很新的东西都在尝试在给

Indigo 老师传销 NFT 之前还跟 Indigo 老师传销过 DeFi 然后对早股早股了早股了非常早股了对然后对然后后来在温哥华从温哥华到了美国去 Facebook 现在叫做 Meta 然后做当时的 Libra 项目后来改名叫 DM 就是 Facebook 最早期的做区块链项目在那之前一直在亚马和和 Asia 做云计算

然后一直对分布式系统这些东西都很感兴趣对我们两个人以前是温哥华的朋友对在温村的然后后来莫寒就去到了硅谷在 Meta 之前去的时候还是 Facebook 现在叫 Meta 然后他们就做当时一个很潮流的项目当时我记得是 2022

2021 年是吧是 Define Summer 的时候对 2019 年开始做的然后我们在 Define Summer 的时候大家很嗨那个时候所以他叫我玩 Define 然后后来玩 NFT 那个时候他们在做 Meta 里面做 Lobby 是吧那个钱包区块链项目其实 Meta 当时准备发稳定币的后来被美联储是吧我不知道是国会还是美联储就是给叫停了影响太大了对然后后面就是莫涵老师在

Amazon 其实他就因为应该之前很早以前也在 Amazon 在做分布式系统对在 server 端的就是 AWS 那边就是 distributed 的那个叫就是你可以待会自己解释一下这个分布式系统是做什么的好吧可能反正和 server 相关的然后现在就是准备我们就准备投身在这个分布式的 AI 和 AI agent 的这个创业里面来所以说我们今天的话题是

我们想聊一下这个 AI agent 就是 AI 的智能体现在很火啊然后呢

分布式的 AI 的可能性就是在各种分布式环境里面或者是本地环境里面运行的这样的可能性然后第二个就是分布式的 AI 的这样的一个因为你之前一直做这个它的价值在哪里然后第三个我们可能会聊一下现在智能和意识相关的东西因为沃涵对这个也有些研究所以说我们今天的主题就是

跨度有点大对从 AI 从技术一直聊到这个意思对今天大概是这样的内容我们就刚才孟涵老师已经介绍了我正好问一下当时你们在在 lobby 在做钱包的时候你怎么看

Facebook 在当时在 crypto 里面这样的一个定位和角色他们为什么想做这个那个背景之下对这是第一个我想聊的一个对如果你们对硅谷最近的一些思想和风潮如果有所研究的话然后你看到一些包括他们最近的内转一个很重要的一个人叫 Mark Andreessen 就是 AsyncZ 的那个老师

然后他其实是在背后在这次整个硅谷的所谓的就是特朗普这次当选背后有很大的硅谷的右派力量他其实我觉得是这个旗帜型人物然后想说是什么呢就是如果利布尔在今天这个环境下是一定能做成的一定会做出来的

对当时利巴的野心其实非常大他们的是某种意义上想要做新时代的科技其实就是科技公司的美联储某种意义上要当做做新的世界货币你也可以想象他所背后面的压力会有多大这个野心其实是硅谷的一帮叫我对印第古老师也分享过很多次背后的叫 techno movement 他们想要某种意义上

需要建立这种技术帝国他们想要用技术的方式来解决人类社会里面的所有的问题

当时他们的野心是大到这个程度我第一天去的时候我们的 quote on quote CEO 就是 David Marcus 就是当 PayPal 的创始人他们跟 PayPal 的那个 Mafia 都是一起的当时问我们说最早的货币是什么然后其实就跟我们讲了整个货币的历史也就是他们当时的野心是要做新时代的 work currency 的也就是比特币最早的原初的愿景

然后你如果把 Facebook 当做一个国家的话它当时的 Facebook 本身在上面的用户加上 Instagram 的用户加上它后来收购 WhatsApp 的用户本质上它是一个几个 billion 人口的国家对 尤其当时利布尔是一个做成的一个

association 也就说不是说贝斯我一个公司他当时拉了 uber 呀所有的这些新的科技公司啊包括一些这些 fintech 的公司然后包括呃很多很多的朋友说要做成一个 association 也就是里面是有这些 manber

因为这个就稍微讲一点金融历史美联储本质上其实也是个 private backed association 也就是当年的一些奇奇怪怪的小银行一起在书下面开了个会然后决定我们整一个东西叫美联储然后它的整个 ownership 的 structure 也是非常不清晰的其实利布尔最早的愿景其实是要做一个技术人的美联储不容易以上

所以说美联署抵制他嘛对我记得是被美联署叫停的就是从不后然后国会因为美联署也很有势力嘛所以国会那边也对他进行了一些听证类似的这些事情当时 Libra 就这样不欢而散了其实我记得在 2022 年这个背景下面 2021 年啊当时也挺酷的这个事情非常酷我也觉得 Meta 挺酷的而且 Meta 还是搞元宇宙是吧对对对我觉得这个话题可能

放在现在来看你刚才说的挺对放在特朗普政府包括现在我们叫做我上一期的月末直播里面给大家分享了黑暗启蒙原来这个意思黑暗启蒙你们叫做就是 technical movement 技术的技术来解决一切问题这个里面呢实际上我们现在看到的这个除了之前在 crypto 这个领域里面其实新的

AI 在 2023 年就是 2022 年底恰迪 GPT 推动之后一下子又把这个力量又加强了对不对因为之前只是可读写可拥有的互联网我自己拥有财产我有这个实力做这个后面金融突然一下发现 AI 可以干这种事情 AI 现在的这个推动这个技术增长的这个潜力要比之前的 Crypto 大因为 Crypto 可能只是在 Final Show 或者说在一些

ownership 上面的是一种变革对吧但是现在当然 web3 会把它讲得更广但是我个人并不认为它有那么广对吧所以说我们今天就正好我们就聊到这个 AI 的这个话题 AI 因为其实大家都说 AI 是你现在看到开源和闭源开源和闭源我们能看到闭源的模型都是集中化训练的然后集中化提供服务的

但是这个时候又是 Meta 是吧 Meta 有 Lama 又是 Meta 这次又是 Meta 是吧角局 Meta 做了 LamaLama 它是一个开源的你说它之前在 Crypto 它想做 Digital Currency 的 Association 就是做联盟是吧这样的组织其实它现在在 Lama 其实已经形成这样一种在开源里面实际上是一种标准了但是最近的版本有点烂对但是之前的势头非常好

对丝头非常好他在这个里面你看很多在本地运行的这些 hosting 这个 AI 本地模型名字都要欧拉玛是吧是这样是这样是这样子就是说那这第二个问题正好我前面说到了 crypto 我们就是 crypto 过渡到这个 AI 你觉得你怎么看待现在

AI 的 open source 的运动 movement 在 AI 领域里面这样一个因为你之前在 Meta 待过现在你也在亚马逊里面在做 Cloud 方面的部署对不对对其实怎么说对我就想我之前那段时间全力开始搞 AI 之后还写了一个推叫做 I used to be interested in programmable moneyNow I'm interested in programmable mind

对 我觉得可编程的钱感兴趣之前做研究在做可编程的钱现在做可编程的 Mind 头脑然后讲到这个 Open Source 我觉得这个 ultimately 是一个必然会发生的一个趋势先从一个比较直接的角度来讲就是说你去想那个

软件的本身的发展过程就像早期软件刚刚出来的时候有最早的操作软件操作系统微软然后不能说因为最早的最成功的商业操作系统微软的 windows 然后碰上苹果然后直到 Linux 开始从那时候就开始推动叫 OSS 就 Open Source Software Movement 然后包括当时的很多东西都是从那个时候开始的

然后那个时候可能大家就已经有这样的一个 concept 就是说大概说币源的永远比开源要强但是你真的去看过去几十年的发展的话你会发现 Linux 包括这些各种各样的真正的能够被大部分人来用的东西其实是开源

包括基本上所有的大公司自己的很多内部的东西也不再做也基本上是从开源软件改过来的然后它真的成了一个大家一起去开一起去满店一起去资助一起去做的一个东西那么同样的东西你可以去想 AI 就是下一个阶段的软件它其实本质上就是新一时代的 tooling 机它从 tooling machine 变成了 language machine 我把它叫语言机然后所以就是说开源

不仅是说会是一个平权包括一些政治性的或者说这种意识形态上的一些 movement 它其实从实用性的角度来讲也是有必要的

因为他会得到足够广泛的支持他足够透明有足够长的历史去帮他去来把一些其中的一些 bug 然后包括足够的 user 你一个最重要的东西就是一个东西一个产品做出来

没有那么难最难的其实是让人去用你的产品而开源其实解决了这个叫 distribution 的问题某种意义上去想任何产品它的产品就是几部 production distribution 你要能造你先把它创造出来第二你要把它卖出去然后开源的话因为它的安全性和门槛会使它的叫什么

分发渠道会比避远的好很多对这个是的但是有一个问题你刚才那一笔我觉得可能我们现在能够把

把模型公司大模型比作智能时代就是 intelligent 时代的这个 Operation SystemOS 它很像对吧这之前 Andrew Kapus 也说过了它像 OS 原模型 LM 在中间然后作为一个 IO 这些什么东西这也接近了它像 CPU 一样它像大佬然后但是了开原模型它开原的只是 weight 全重对

openweight 是的它并没有开放我是怎么写的我是怎么训练的是吧那这个不一样了这个意义是不一样的和之前的 open source 的 Linux 一样 Linux 是所有 source 开放了你可以编译它你可以改变它那这个是不是在我们可能叫软件 2.0 时代其实

那些源代码其实并不重要了对 只是大家权重更重要对 这个会在之后模型的能力越来越强的时候变得更加明显因为你去怎么去训练怎么去得到 weight 的方式可能会不断发生变化

然后从某种意义上有一个反直觉的地方从这个角度上某种反直觉的地方就是当模型的能力达到一定有一个角度的话叫 threshold 的话你的其实 inference 或者叫推理端其实是比 training 端更重要的

至少这是我个人的看法意思就像你可以把它理解成更多的是一个什么样的理解你可以把它理解成这个叫编译器我以前也讲过一个 joke 就是说我说 compiler is the first small language model 就是最早的小语言模型然后编译器其实本质上就是把一个自然

近自然语言这种程序员变成这个叫机器代码机器代码对 instruction set 然后其实那个 LMV 也是这样然后编译器里面有个很重要的概念是什么叫字句就你能不能用你这个语言来写自己的编译器

是吗对 这个也是某种意义上你可以把它理解成 tooling 它不是 turing complete 的完整定义但是如果一个语言能够写自己的编辑的话那么你可以认为这个语言是一个 turing complete 的语言就是 turing 完备的语言也就是 turing 完备其实指它可以做它是等效于一个这个 universal turing machine 就是它可以做任何可以计算的东西然后那么能够写自己的编辑其实是一个很重要的一个可以理解成一个

限制吧那么对针对于大羽弦模型来讲一旦这个大模型的 coding 能力到了一定强度我用推理端的能力我就其实可以不断的提升我训练端该怎么去做的 对

尤其是基本的东西已经到了因为它基本的核心的逻辑没有什么变化大部分的技术上的创新其实都是或者说模型的进化其实大部分是来自于工程上的进化和一部分的 research 更多的也是在一个试错的过程中去寻找出它在什么样的结构下它可能哪些方向可能会出现出来新的这种涌现出来新的这种

叫什么能力吧因为很多能力都是涌现出来的因为 LM 的本质模型其实就是 Next Token Prediction 我只是在预测下一个 token 为什么从 Next Token Prediction 能够做那么多神奇的东西其实很多是来自于工程上的优化是来自于在比如说 Multi-Headed Attention 就是把类似这样的一些

很多时候是一种你觉得有一个直觉上觉得那个方向可能会出一些优化但又不是很确定然后你就从工具上把它实现然后把它实现出来我的意思是说当开源的最原始 openweight 的模型到了一定复杂度它能力到了一个水平的时候你基于它再去做新的这种

进化其实也不太需要早年你先知道了对我懂你这个意思对我懂你的意思其实通俗一点讲因为你讲的可能别技术通俗一点讲的就是你已经我可以左脚踩右脚往前往上就是有一种神功是吧就左脚踩右脚我就爬上去了踢云重对对

对就是这个意思我用左脚踩右脚翻爬就是你不用支撑然后呢你就越爬越快就这样子的就是这样一种能力就是说我可以用我所有的素材来造我自己是的就是这个材料我用我所有材料来造我自己而且还接下来随着这个能力提升我还可以提升我自己

我可以让我自己越变越好就是现在我们为什么在强化学习训练里面就是它就有了一种梯度我用一个新版本的训练好了一个更新的大模型然后通过强化学习改进我之前的版本然后我再我再来用这个新的东西再来训练我自己就是往前前进特别是有了推理之后有了推理的逻辑之后因为现在这些模型公司主攻的就是说我要有最强的推理我要能够推导出

从 0 就是说我们叫做这也是原模型的第一性原理智能的第一性原理我从最 0 的我对这个世界的基本认知我能推导出各种知识出来而且不是在用人类现在已经从互联网的 wikipedia 百科里面收到了这个知识我只是复读机我复读一遍然后我认为它可能是有但是实际上要做下一步就是要从 0 我知道分子原子结构我就能够推出整个化学科学学科

对不对我知道基本上的这个数学的几个等式是吧这个东西要成立那我就能推出整个数学数学大厦就是要让模型其实这个东西在在现实中已经实现了在某一个很窄的领域里面比如说这个 alpha go 下围棋 alpha go zero 为什么叫 zero 就是我没有给你任何预制的条件我只告诉你这个棋的规则然后你自己去琢磨吧然后他就琢磨出来人类可能永远想不到的办法这个就是从零构建知识吧

这个是我觉得怎么说呢就刚刚我顺着你的这个话题往后延展一下就是这个知识的重要性你刚才说的很好很好玩的一个比喻就是说哪怕是开源模型它的推理能力到了一定程度当它能构建自己的时候升级的时候它就能够跟避免模型一样往前进了所以这个是挺可怕的对吧而且

而且我觉得我们已经到基本上已经到那个地方了其实这个挺有意思的点就是你提到 reforcement learning 以及 AI 提升自己这点我们之前也聊过 AlphaEvolve 这是 Google 的每一步走都非常的有证明性非常漂亮 all on the right direction

而且真的是我最近一直在花时间在研究 technical report 然后想看一下他们到底具体干了什么但实际上他们其实就是把 Gemini 自己的那个 training pipeline 和那些做了很多提升我觉得这个 process 已经开始了

对这个过程已经开始了确实是的对我们就把这个问题聊回来我刚才问到的是开源系统开源系统的这个避源系统的好处就是这里我们在分析的角度挺特别的因为大家都在比较开源有什么好处或者对比之前软件时代其实我觉得你刚才那个角度特别好就是一旦一个临界点过了之后开源模型也能自我进化并不是说开源的好或者避源的好对吧而且我还可以用避源模型来训练开源模型嘛

征流征流征流开源模型对吧 DeepSeek 对不对避养模型征流开源模型站在巨人的肩膀上这是科学进步的方式所以说我觉得后面的避养模型公司他们不会把最先进的模型拿出来给你随便征流他先征流自己的然后再把征流过的模型给你用所以你永远拿不到他你永远就是插他一个台阶这些人估计都是这样的战略

OK 那我们就正好刚才聊开源和闭源那么在今年 2025 年最火的实际上就是我们今天也想聊这个话题就是 Agent 我们想聊 Agent 的两个方面一个是本身你怎么看 Agent 这种代理的模式

在开源系统以及在分布系统里面的工作对吧这个是我们就挺想聊的因为现在我们能看到特别是昨天昨天那个 openai 发的 codexcodex 它是一个完全 cloud 的它是完全 cloud 的所有的 cloud 虚拟机也在 cloud 里面你去

来运行来来来读你的这个 github 代码然后呢本地改改完了然后他把你提交啊但是在这之前呢其实在去年那今年今年的两个月多前二月份的时候两个月以前

Anthropic 它也发了 Anthropic Code 是吧叫 CodeCode 对对对它的 Code 它是在本地的但是在一个本地的一个命令行一个 CLI 一个命令行然后调用它远端的模型能力在本地帮你来搞代码是吧就是它是另外一个逻辑但是 OpenAI 也有也有本地它是一个剪裁的模型对在这个里面因为这种 agent 能力他们都做的是代码

都做的 code 我觉得是在过去的 2024 年得到证明了 2024 年下半年因为 cloud 3.5 出来之后就被这个概念就被证明了因为它真的是在现实世界中有了真实的生产力了对吧大量程序员都在用它然后他所以说这个是我觉得最成功的一种一种就是混合代码生成然后后面有了 cursorcursor 有了 agent 然后现在 agent code 对这一个系列是走出来非常快才半年多的时间

大半年的时间那么就从你的角度来看分布式系统开源系统然后对于 Azure 的这样的一种我觉得说用途或者说在这个里面这种概念的这种概念之下你觉得它有什么一些特点或者发展方向

这也是个很长的问题我可以从几个角度来讲我讲东西会讲的比较多 Agent 这个概念其实最早马文明斯基在一本写在 1986 年的书在 1986 年写过一本书它是叫做 Society of Mind 心智社会

然后他里面就讲了一个说是人的智能其实就是由一个不同的分工的 agent 来完成的这个词是在那时候就提出来对已经过了半个世纪了马尔密斯基在

AI 人工智能社区里面属于里程碑式的人物他之前在普林斯顿读书他跟一些各种历史上的这些人类群星闪耀时的那些人很多都有一些个人的接触非常传奇的一个人

我就说这个概念其实很早之前就一直在了关于为什么 coding 这么特别为什么他们都在做 coding 这个原因其实从两个角度去思考这个问题因为 coding 本身就是一个用语言去描述社会的这样一种

工具 甚至包括一个我觉得最强大的哲学家叫维特根斯坦

然后中文章对他写的一本书叫讲啊这逻辑学导论吧好像叫什么忘了中文我忘怎么翻译了然后他的讲的就是关于语言的能力包括所有的哲学本质上都是语言学啊就是这个 token symbol manipulation 然后他其实是啊给了图灵灵感来去建立这个 universal machine 啊也就是说语言本质上

程序其实就是语言语言和程序是本质上是非常非常非常联系的一致的这也是为什么他会最早的在这里面得到应用这是一个角度去思考这个问题第二个思考角度去怎么去思考这个问题呢就是 AI 本质上是由程序实现的那么他先学的第一个技能一定是怎么样去看到自己的源代码怎么样去重写自己的对吧然后第二个就是

在建或者在造 AI 的这些工程师他们也是写代码的那么他们第一个想要优化的东西一定是我写代码这个过程所以不管是从它的本质上的这种联系还是从这种后期的这种激励机制上我说 incentive structure

都会导致 coding 这个本身会被用的更多会被优化的更多然后有收集更多的数据它会进化的最快所以是我其实在做 antigua 就是我现在做的 startup 为什么也会在很早之前就在 Cloud Code 的发布之前其实我们就在做类似的东西了

然后也是从某种意义上是看到了这个市场对我们的这个看到的方向的一些一个叫做 validation 吧嗯

了解 OK 刚才讲了一下两个概念一个是 agent 是什么是吧然后第二个是为什么先做写代码的 agent 对吧这两点而且对你刚才提到一个你在你正在做的事情我清楚对你正在做的事情对你跟我之前跟我说过然后 antigma 就是一个帮你介绍一下对一个可以在 local 就是在 local 就是在本机运行各种模型的

就是开域模型的一个一种运行环境 run time 运行式环境大家都知道欧拉玛欧拉玛它是一个比较早的但是 Antigman 你可以分布式运行你可以多节点组合起来更是 load 组合起来把这个本地的这个电脑能力扩大说内存扩大或者这个并行扩大然后你现在之前你也跟我讲了这个你会让它除了变成一个一个

运行语言模型的环境之外还会让它变成一个应该是变成一个 agent 的一个容器是吧这样的一种概念那我们正好聊的 agent 的容器关于 agent 这样的一种技术我们刚刚说的其实你像人类人类这种智能这种智能它只有多 agent 协作的是吧多 agent 协作的但是我觉得 agent 天生就适合分布式运作

对不对天生就适合对而不是一个 A 技能是他把你所有事情都做了 A 技能就应该是这个 A 技能我有这个目标那个 A 技能我有那个目标但是我们就是并行的去完成然后他就形成一种高度复杂的协同网络之后他能够奇迹般的完成一些大家可能我

可能看起来很让人很惊讶的事情就是说因为我们之前在聊的时候你也提到了这个这个概念就我从你的角度来看因为我们再说回你现在 amazon 做的工作你本来就是在做分布式是吧你们在 amazon 做的分布式大概是什么哪方面的分布式方便说就说不方便说就算了然后然后呢然后呢这种分布式对你现在在做这种分布式的 agent 这样的一个事情你怎么考虑的对你怎么理解这个 agent 的分布式的这个

这样的一个趋势或者说这样的一个或者优劣吧这个就是一个很复杂的话题因为基本上对因为它其实更多的是跟一些我之前在 crypto 或者币圈的思考包括之前在 Facebook 做的一些东西包括在 Amazon 主要是做一些

像分布式计算储存啊然后包括一些 virtual 的 security 啊就是我们做 security 相当于是 AI power security reviewer 啊像这些东西嗯本质上怎么来讲呢就是

你去想首先我去讲一下你刚讲的一个非常重要的概念就是一个这种通用的 agent 和具这种协作的然后有各种专项的 agent 为什么这个很重要就为什么是这样而不是一个 the one that knows it 我可以用几个从几个角度去思考就可以去回答这个问题

然后第一个角度就是用一个简单的一些比喻你就想象你要去画一幅画如果你现在要画一幅画的话如果你现在说我现在要画一幅画里面有一切的东西我要把所有的颜料全部都加进去那么最后搞出来就是一坨灰黑色的浆糊

因为本质上很多东西它的意义在于它怎么样从一个这样一个混沌的然后没有任何方向的一个东西然后变成一个非常 specific 的你需要的一个东西啊

比如说如果你是对 Diffusion Model 或者扩散模型有概念的话扩散模型本身就是把清晰的图然后又回归成原始的噪点然后在原始噪点里面又学会怎么从一个原始噪点到一个有意义的图片然后其实你从一个或者说叫计算机科学家的角度去思考这个问题的时候你会发现全世界的问题都是一个本质上所有问题都是搜索问题

都是在这样一个巨大的可能性空间里面一个混沌的可能性空间里面如何去找到这样一个它具有特殊意义的东西从一个伤非常高的一个混乱环境里面找到一个低伤的一个节点或者一个路径那么也就是说你想要去做一个假如说你要做一个知道一切的 AI 的话

那么你不太可能说他会什么都可以做这边有个非常有意思的例子就讲到我的第二个角度去回答这个问题就有本很著名的书叫做《银河漫游指南》Hitchhiker's Guide to the Galaxy 看过对对里面有个段子非常里面有个桥段不是这不是漫游指南吗叫《银河大变车指南》对 Hitchhiker 是的对里面有个非常重要的桥段就是说里面的人想要建立一个

巨大的 AI 然后可以回答宇宙所有的问题然后包罗万象一切都知道然后想要知道一切的答案

然后那个人最终花了几很长很长时间具体时间忘了然后其实地球也是这个计算机里部分这是整个小说的基础和段子这就联系到因为里面有个机器人叫 Marvin 其实就是为了致敬我刚刚讲的那个人叫 Marvin Minsky 其实就是致敬他然后那个机器巨大的人工智能最终造出来了然后大家去问那么

你所有问题的答案是什么然后最后他吐出来一个 42 对这个梗大家都知道对 42 这个梗其实听起来感觉是个好玩的但本质上其实就是揭示了某种意义上其实回答了你刚刚说的这个问题

就是当你想要说去 build 一个可以做一切事情的 AI 的时候你最终的结果可能就是他会给你一个完全混沌的答案毫无意义的因为你没有通过一系列的问题把它的这个叫限制条件给限制到一定程度这样你才能够有一个低伤的一个结果保证实际上对所以说我们就现在呢我感觉就是一个可以做所有事情的 agent 是不存在的

是的即使存在它一定是你需要花大量的时间和大量的资源然后去真的让他去干你的事情最终还是会变成一个 specialization 某种意义上对

嗯那就是说嗯我觉得 agent 这个词因为我们刚才你还没有回答我分布式的这个我记住了你还没回答我们还在讲 agent 这个讲我的第一个问题的第一层面就是说 agent 应该是各自完成各自任务的对吧嗯然后呢其实我觉得我觉得 agent 这个词

它是个英文首先是个如果中文翻它就是代理是吧嗯代理那我觉得呢 agent 这个是其实包括马文明斯给他其实在最开始讲的时候我觉得它更像的是一种 agent 是一种行动力那是的这是一种行动然后呢一个行动很重要一个行动得有目标对对吧它有目的有目的就是说如果说嗯有一个非常通用的 agent 那我们把所有的目的加权总和之后那可能

就是 42 了说那是任何东西都可以对任何东西都可以但是说所以说你想要成为 agent 那你必须得有任务特工吧必须得有任务如果你不是

你没有任务的时候那你就是 low body 是吧对不对所以你必须得有个任务就待发多少然后这个任务需要他去完成那么我觉得所以说各种动态的就是由不同的 agent 组合起来因为 agent 就应该是由不同 agent 组合起来来完成各种任务的有了 agent 可能目标的这个抽象程度更高

有了 agent 的目标的抽象程度更低更具体吧有了 agent 负责搬砖有了 agent 负责想象对我觉得应该是这样的一种方式在工作所以他们就能够组成一种 agent 网络我感觉应该是这样子的那么我就把这个东西问到你的第二个问题上来就是你觉得分布式的 agent 网络的意义就是我刚才说为什么 agent 应该分布式或者说从你的理解因为你做分布式系统就是你觉得

或者说我换一个问法就是说你觉得你想构建一个你认为什么样的一个 A 型的网络是有意义的是或者是

我不一定把它局限在分布式里面其实当你去讲 special 分工的时候分工本质上其实就是分布式了因为你可以把一切东西你当然可以去抽象理解一些事情分工就是分布式是吧从播放中心上其实就是分布式因为他自己要什么叫有自己的 go 有自己的主动性他自己有自己的 thread 如果从一个工程师角度去思考 agent

LM 加上一个 loop 加上个 to 然后你就是 agent 然后 of course it works 的方式是通过你给它一个 go 然后它把这个 go 完成然后当你有了不同的 thread 的时候那么你就是不同的本质上其实就是分布式但具体这个 thread 是跑在一个进程里面跑在不同的机器里面当然是这样的话它组合起来就更加容易但为什么说它一定是在一个在地理上的分开呢为什么要这样呢是因为

本质上来讲我还是站在人类这边的所以未来机器和网络还是由人来使用的而人是生活在他自己不同的地理环境里面他生活在不同的地方他们之间是有自己这样一个物理上的限制然后导致他们在不同的位置

那就很重要了然后因为你想我比如说不同的 agent 要做什么东西你可以说全部让比如说全部让 Google 来做即使他把 agent 分工即使从抽象的和逻辑的角度上那层面去把它分工你可以让他 of course 你可以把它跑在全部跑在一个数据中心里面实际情况是什么

你把它分工和包括加限制条件或者加这样容器让它们能自己有自己的 loop 里面来跑的目的其实就是为了能够自由的把它们给分布在不同的地理的环境里面因为物理世界是有各种各样的限制的物理世界你一个三维空间里面只能摆这么多材料对吧然后你的那个

很多资源的限制啊都是在这里面的然后那就导致这分工和分布是其实理论上是呃非常相关的吧不能说完全一致的然后你说去我我我微信未来会什么样的就是我们知道我们听过一个叫网络社会这个概念吗就 network state 这个曾经在嗯网络国家嗯对网络国家 sovereign individual and network state 啊就是两本我觉得过去呃

几年在硅谷社区或者是思潮里面是影响力非常大的两个思潮然后那么思潮里面其实你可以把它 map 到一个人和 agent 的协作的网络里面那么未来的一个 agent 的协作网络肯定也是这样的

然后还有一个什么问题呢就是为什么它要分布式就是你每个人都有自己的物理环境的限制这个是一个比较粗浅的比喻比如我用 Mac 然后你用 Windows 然后你机器是这样的我的机器是那样的然后你看到的东西跟我看的东西肯定是不一样的那么这个东西到底哪个有价值其实我想 circle back to 回到我们之前讲的关于开源

为什么开源 我觉得开源未来一定会赢因为开源的软件才能够给到足够的人 足够来用才能够不断的让它在各种各样复杂的环境里面进化然后在各种各样的不同的环境里面进化的时候它才会出现这样的一个多样性不管是它的多样性本身 包括它自己的

这种叫演化吧然后都会导致他未来的形态一定是更加复杂然后更加的反脆弱的嗯而这种必然的由一个公司完全控制的情况嗯很有可能会出现一些他们看不到的或不知道的东西或者说出现一些很简单的比如说就像早年 open 爱如果当年早年 open 爱是那个三毛他们那个和那个啊

和 Illia 的 disputed 没有处理的很好的话那我发现这个公司就完了对吧当时绝对是未来会控制一切的公司然后就在几天之内就筛不死了对吧就很有这样的 risk 然后任何一个中间化的领域都面临着这样一个危险分布是其实从网络本身的生存或者说叫

叫什么反脆弱性 resistance 或者 resilience 都是一个弹性都是一个很重要的一个值得去追求的一个方向

就是从各种角度上来讲我觉得都是未来的方向包括 Google 自己也看到这点也是为什么他们要做 agent protocol 他们之前也在试图做 agent protocol 包括很多大的这种传统的公司也其实都知道这是方向只不过他们作为一个公司作为一个这样的一个大的 corporation 他们是有自己的这个叫什么责任的他们要对自己的股东负责所以他们讲的东西他们做的东西和他们执行的东西

都会有这样的限制也是为什么广大的这些开源社区的无论是独立开发者好中小型的书创公司也好才有这样的机会也是某种意义上不仅是机会也是责任去怎么样去一起去把这样的开放性的 AI 给往前的推进

对我理解一下我自己会有一些自己的看法对 agent 或者是分布式的 agent 因为我刚才也说了 agent 本身就是完成目标的要完成目标每个 agent 有自己的目标你放到企业就企业的目标放到个人就是个人的目标他帮我作为代理帮我完成目标

首先它这个东西它一定是在你的环境里面执行的对这个就是分布式的第一步然后第二步但是在这种你的环境内执行你可以让它的云端这是大模型的地缘大模型那一端执行它帮你执行然后数据它帮你存一份因为还有一个特点我觉得就是因为我最近也在写书写书里面我也研究了好多东西关于智能很大一部分的未来的智能的下一版的进化其实

更多的是这些或者说模型它要更多的学习到经验和体验随着你的使用

他才越来越了解你越像你然后才能用你的角度去思考不然他没有上下文的这个关联他实际上他都是一样他跟出厂设置一样他是空白的对就跟一个操作系统拿回来买回去你要装很多很多你自己的软件和数据然后他才能够更好用或者用起来的更像你自己那么对于一个 A 技能在企业里面执行的时候一样的他必须要有大量的企业的上下文各种工作流就是你招了个员工进去你要培训三个月一样

然后他再去制造你企业各种工作流程当他用了足够深入的时候他才能够了解你的企业那么这个里面就有执行的两种形式一种形式是你都托管给这个必然模型公司执行但是很多企业很害怕对我都托管你的数据都被你拿去了然后你帮我切断了怎么办对不对对他就是给白切断他对然后如果说那么肯定有一个更好的一个互配方案就是

企业可能会因为个人可能还没有那么强的这个因为个人没有那么好的算力但是企业是有企业我可以拿拿很好的算力跑最好的开源模型就是满血版的 deep seek 类似的这样的但其实效果就已经不错那么企业其实有一种更好的让智能把智能的计算能力把智能的可控性都留在自己企业组织内对让这个让自己让企业里面的各种任务 target

用这个模型再来构建成新的 agent 代理去执行那么一方面知识可以留到你这里然后第二个智能体就更像你自己体验长出来的它随着你的体验来生长出来的而且你也不用把这个体验就分享给模型工程师去做新的训练了对吧不然你都去教别人去了所以说我觉得这种知识我觉得会

一定程度上它应该是这样子的它应该是这样子分布式演化的我也就是在不同的里面去分布式演化这是我自己的两个观点所以说我觉得它会从为中心化走向到分布式然后走向到我独立托管我独立训练我独立使用但是第三点就是我站在避免公司的叙事上面所以 OpenAI

后转 shopping 的公司去世上面他们肯定说我们有最好的实力我们最好的人才我们永远都是最好的研究机构我们可以让模型永远保持在领先的第一梯队我们永远都是最先进的推理最好的模型因为他们这样的训练那么对他们的角度来说

把最好的推理能力当我需要用的最好的推理能力的时候来改进我的一步流程我再去你那去请求你的推理能力就是我买你的高级算力一样就是我以后买 2 万美金一个月的 OpenAI 的 API 服务就做最超级的推理你可以一次性帮我推理两天共同在计算或半个月帮我完成一个超级难解决的任务然后我再把这个任务下回来我本地让我的这些商品

稍稍推理人力弱一点的开源模型来做后面的工作其实我觉得也是可以的这种形态对不对你把最牛逼的任务交给当你需要买高级智能的时候就去花费去买高级智能让你企业日常的这种办公有安全性的东西你就可以用企业里面这种类似的 agent 来解决这我很想象的两边都能 balance 到的这样的一种模式

大概率未来是这样一个混合的这种模式因为这个东西就像市场一样嘛也不是说杀鸡也不用牛刀嘛这个我们中国的言语讲的也非常好杀鸡就用杀鸡刀 吐牛才用吐牛刀你所有东西都用屠龙刀来搞也不太对然后这样的话

对除了关于这样的平衡还有一个角度上怎么去思考这个问题大家一直在讲尤其是比如英文的时候就在讲 agencyagency is more important than intelligence 但 agency 是什么我之前写我说 privacy 就是我说 privacy is not about secrecyit's about agency 这种隐私其实跟秘密没有关系他不会说有关系但它的核心本质不是为了秘密

隐私的目的其实就是为了这种自主性就是你要去保证你尊重你自己的自主性你在这种没有被观察的或者说有一定有能力来保护自己的隐私的能力下你得一些行动才有足够的自主性你才不会没有任何原因的招惹到一些不必要的阻力这种其实这是为什么说这个需求是一个很本质的需求

也是为什么有一些很多这样的现在一些行业里面的人或者包括一些我个人感觉看法比较新的人会说大家人是不在乎隐私的隐私根本不重要我的字是谁说的的隐私非常非常重要因为隐私的本质背后其实就是自主性它是对自主性的一种保护

也是一种创造出就刚刚你讲的这样的一个叫什么的这种混合性的工作流程以及包括这个怎么样成功之后的多样性你对引擎有足够的保护你才能够足够的多样性才有多样性对对嗯

对如果是没有隐私大家大家都会去同了因为我做的事情都透明公开的对啊嗯都会去同了那么这里面其实正好就是相当于你们现在在做的这个项目 Antigma 是吧叫 Antigma 就是你们希望能够在

做一个这样的一个环境可以混合这个开源模型以及调用闭源模型的能力然后在企业内部形成它这样的一个运行式的工具就是这样的一个这样一个开源项目对吧你们本身也是你们的核心服务也是开源的吧就是对对对然后相对你可以成为这样一个叫做我们叫做 AI Agents 的一个 hosting 就是或者一个容器然后方便你在企业里面快速部署然后也可以哪一个

选择任务吧有的任务有的任务可能需要高智能那我就请求一个私有的是吧一个最牛逼的 OpenAIO4O5 模型完成一个推理然后把结果拿出来给我企业内部的这些可能开源模型可能推理没那么好但是他们执行很快他们很安全把结果拿出来我带内部来做一些更好的执行其实我觉得这个

这种 hybrid 这种混合的混合的这样的一个模式还是一个正常的模式就是你不依赖于任何方就是我们又回到了前面最早说的我们那个主题上面来你前面分享了两个思潮最开始的一个是对

对吧关于这个主权个人主权个人和网络国家国家对这两个思潮我觉得在这个时刻在 AI 这个时代它非常重要它非常重要我们大家都要因为我在写的书里也会把它引用进去的对这两个这是大家的意思因为

哪些是边界在哪哪些是我要拥有的哪些是我能控制的哪些是我应该控制数据哪些是我可以用外面我花钱买智能就跟你花钱买服务一样你花更多钱你就去买更好的服务然后还有一些东西我就要吃要爱用我自己的我用我小本本技术是吧

我就不告诉别人我觉得这个 balance 应该不管对个人还是对企业来说都是有这个需求的就是我就对我们前面的一些话题的一些总结正好给你们项目做一个更多的介绍谢谢讲的非常好我觉得讲的非常好基本上就是这样一个方向然后我觉得未来一定是向这个方向不断去走的

对我们就往话题帐网引一下我们聊到快 50 分钟了对我们现在把话题转来一些更高级更抽象的我的结果一般都是往后面都会往高级演化对然后你其实有之前我们在对一些问题的时候其实你聊到了分布式系统和人类组织你想说你想来给大家介绍一下就是分布式系统和人类组织的相关性或者说是类似性或者说我们接下来为什么我们一定要用分布式系统来解决人类的问题

是 这个是非常大的话题了然后可以讲一下关于分布式系统也就是我最早其实工作刚毕业的时候就是在做最早的我叫做最早的全球网络 DNS 系统基本上就是亚马的 DNS 系统就是 AWS 的 DNS 系统然后所有的分布式系统里面如果工程师朋友应该都知道这个叫 PipeSource

就是一个最早的原初的共识算法 Lamport 搞出来的他在这样一个结构传说中的叫希腊议会人是怎么样一个议会里面他们之间怎么样达成一个共识这是其实催生了最早的计算机的共识算法

包括币权一直或者说叫后来这些加密货币或者说叫区块链技术里面所讨论的话题叫做拜占庭将军问题也就是说在一个之前讲是一个议会大家都在坐在一起所有人说话都可以听到然后在当然将军就是当几个将军之间讨论问题的时候你既信息既不通畅然后对方的内心里面的

叫什么意图也是无法预测的时候这个时候在这样一个环境又怎么达成共识也就是说计算机其实大部分情况下尤其在分布系统里面解决的问题跟你在一个组织架构里面要解决的问题是很接近的唯一就是可能他们的具体的就要解决什么问题不太一样然后他们有一些在这种非功能性的一些

特点上会不太一样比如说计算机执行速度很快但是只能做很简单的工作人类可以做一些更复杂的工作然后又有一些物理社会的限制那么这个里面就会有很有意思的当你站在一个或者说计算机科学家的角度去看社会的时候你会发现有一些很有意思的概念是完全相通的

有个人类科学家叫 Robin Dunbar 之前提过一个数字叫 Dunbar Number 就是说中文叫邓巴素是吧邓巴素对对对大概就是说一个部落型的就是全靠我们脑子记的一个人的熟人社会大概就 150 个这个是为什么呢这个其实跟分布系统里面你做一个这种叫 P2P 的网络里面然后你的机器的数量也会受这样限制因为他们的这个复杂度是一个啊

平方级的复杂度然后跟人也是一样的然后他们之间要处理问题思考问题其实跟这个也是一样的也就是说

你想人类之前我以前有本书虽然作者的一些有之后的一些看法叫做人类简史作者本身有些话题会比较 controversial 就比较有争议性我也不讲但是他人类简史里面是把一个很著名的概念讲出来就是说人类社会能制作也能建立自己的文明其实是在于人类能够组织一开始能够组织成部落然后再组织成部落的时候就已经可以横行叫什么

恒星动物界了恒星动物界了对但之后有了这种共同的想象之后才真正建立了文明然后才真正的进入了这个下一个阶段

然后其实跟 agent 或者说跟 AI 会基本上一致早期的 agent 可能就是一个超级 super 个体然后之后他们之间一定是要相互之间交流然后在新的更高抽象层级的网络里面他们会有一些新的涌现现象出现然后新的涌现现象很可能我们无法去

站在一个我们个体的角度上可能很难去真正的去理解但是它一定会发生某种意义上对你正好也说到 KK 很有名的

就是凯文凯里他写过那本书叫那个叫什么来着那本书的名字我还忘了对就是 90 年代写的他成名作他成名作就是写到里面就是说他说智能是涌现的智能就是说涌现出来的然后呢因为他采访了非常非常他十来年采访了非常非常多的人和专家然后呢给了一个结论而且呢他觉得世界的

这个自能的分布啊就是这种物种的分布并不是说分成有机物无机物啊就是他不用这样分就是按照这个按照大家的规模来分连接数量的规模来分就够了复杂度对复杂度我这边这个数理名应该叫复杂对就叫复杂按照复杂度就是说你越复杂的网络呢

它就能够诞生出有组织它的基本结构的网络看不到了这一层的这种智能或者叫做一种意识我觉得应该把智能和意识分开它是一种你说蚂蚁和蚁群就有智能蚂蚁是没有什么智能的没有什么 intelligent 的一个蚂蚁到处乱跑但是蚁群是有智能的对不对跟鸟群一样你可以看得出蚁群有很清晰的这种智能决策它是一个组织

然后他就是说哪个比方说我们世界上当时他那个时候他是用互联网打的比方我们世界上有这么多电脑都连在一块在是吧你在互联网之上是不是有一个我们这些电脑或者人类无法理解的智能现象存在

只是我们现在真的无法理解那不就是了吗你想想看现在我们用一种程度上来说我们把这么多互联网上的数据拿出来锤炼锤锤锤压缩然后训练那不是有了原模型吗对对对它高度压缩的时候就有智能了就是你把它给你把它提炼出来那可能在未来在这种各种小型的模型之上它如果能够形成一个超级复杂的网络在那之上又会有现出一个新的智能出来

就跟这个生物学家说是大佬最新研究包括包括我最喜欢的一个今年今年刚刚得图顶奖的这个这个科学家那个

Richard Sudden 叫教授阿尔伯塔阿尔伯塔省的对他就是他就是强化学习之父嘛我觉得他应该会很多年之后他就是他应该就是他的名气应该和 Hindon 他们应该至少齐名的我也觉得在很多年之后来看所以他就说到了这个我们每一个因为人工神经元是每一个神经元是没有目的性的但是大家每一个老细胞是有目的性的

小个体他就是想要和我们连接想和别人获得连接想传信号那么可能几千亿个脑细胞组合在一个一个巨大的一个网络然后我们才有了大脑上的意识存在是吧这个智能存在那么实际上如果说我有足够多的智能体之后所以说我们现在的这个 AI 的这个人工神机原来还不能构成像脑细胞这么这么智能的东西因为它没有目的

太简单了他没有目的性太简单了他太简单了对但是 agent 是有目的的是的对是的也就是说我觉得我看到一个未来一个什么为什么我会就是把所有东西全部所有的注意力和资源全部投入到这个方向上来就是因为我觉得这个东西不仅是未来而且我觉得它来的时间可能会比大部分人猜的要快

我几个角度第一个角度就是你说我们现在人本身的组成的社会和网络我觉得其实已经在了有一些东西就像当我们去思考一个看到一些东西你会觉得什么有句话叫什么时代的尘埃落到每个人身上就是一座大山其实某种意义上时代的演化历史的演化社会的演化你会觉得好像冥冥中有个规律对吧

你可能做一些简单的总结但你无法去完全理解它其实我觉得这我自己的瞎猜脑洞我觉得在某种更高的维度和更高的抽象层级上去思考的时候我们所以为的规律以为的命运或者包括国运 whatever 你想把它叫什么其实某种意义上已经是一个涌现的智能在做它的事情

我觉得这是一个角度第二个角度就是他 Susan 这个是一个非常我非常感兴趣的话题就是

你就是说这个涌现的资论已经在直到我们全境了是吧对就是人类社会已经形成了我们看不到我们看不到我们意识不到我们就像脑细胞里面只干了几件很简单的事情就是把一个神经地质给那个神经化学研究室加了一下然后把电信号传过去了但具体这个电信号干了啥我也不知道对我们也不清楚我们只是在就像对啊有时候你想那个

这个宇宙到底发生什么或者宇宙或者是以星系这个这个级别但我不太清楚啊但我个人感觉还人类社会互联网自己已经形成了一个类似羽裙的结构了嗯就是只不过我们作为一个啊呃身在此山中看不到全景也活不了那么长其实很多上是一个寿命的原因呃所谓招君不知会速吗哈哈对我们作为这种看不到四季的因为我们的寿命太短啊哈哈

对 每个个体来说其实就是一个身为其实很多人理解的维度总是空间维度实际上这种维度其实我也觉得可以把它叫做维度因为可能叫做一种 layer 永远在这个 layer 这个维度里面看不到上一个维度的东西看不到 观察不到所以说我觉得我们可以有可能我们可能从人工智能的发展上面来引发出新的维度

拿智能为度对然后再从这个上面回顾后再理解我们人类自己的智能你说的太简单了这个就是我非常感兴趣的一个角度也是为什么我觉得分布系统非常重要因为我觉得它给了我们一个环境去实验就是你看复杂的从 neuron 本身的 neuron 就是现在所谓的在人工智能红智能网络里面的 neuron 就是神经元其实是一个非常简单的一个计算式对真正的人大脑里面的神经元其实是相对比较复杂它有做很多事情的

而现在这些 agent 或者说这些现已的大模型他们又过于复杂了然后我觉得在一个简单的这样一个求和的公式所谓神经元跟现在复杂的包罗万象的 agent 的中间一定有一个结构是能够组成

像人的意识一样的这样一个自组织结构的对这个很重要一个概念叫自组织因为他们是自己组织起来的而不是说像现有的人工模型是需要另外一个人一个系统外的这样一个低商去把它给训练出来的而这个系统在没有任何外接的东西来给他提供能量和新的数据和维护的话他自己是会慢慢的这样衰落下去的

就说现在都是这样那个系统只要没有机器在跑它自己就没了对吧那么怎么样在分布式的这样一个环境里面寻找到这样一个结构他们能够自组织自发的去协作然后形成这样的不同级别的涌现智能不仅是本身会非常有趣不仅它本身可能会指向一个新的这种

人工智能架构的一个方向它对我们去理解人类本身理解我们自己的头脑理解我们的历史理解我们的未来也是一个非常有价值的一个工作对就是看透复杂性吧就看透复杂性我觉得你刚刚这个分析特别好就是现在的原模型这种方法因为

他会慢慢的自己就是我们叫做灭亡掉他没有怎么说呢用人类说他没有目标他没有目的没有目的实行这他最终会走向消亡对吧因为他确实没法繁荣因为有目标才能繁荣对这个事情大家都在每个小个体都有目标让看上去社会它就

看上去它有一种涌现出来的组织能力对其实生物体结构因为我们和归基不一样归基就是人类发明出来做计算用的它没有目标目标是我们给它的然后你计算完了它程序就结束了

进程结束了就被杀死掉了对吧你做程序你都知道我启动一个进程然后结束一个进程然后它就结束了但生物不是这样子的生物因为它有 DNA 对我有极强的生命力我需要延续我的 DNA 这是第一个目标我要把我自己拷贝出去对然后我要拷贝自己我得活下来然后我得吃饱我得

我得有能量然后我才能复制我自己然后我要活下来有的更复杂的一点生命我还交配我才能活下来对吧是然后人类可能更复杂它还有点意义没有意义我还活得很难受我要活得很开心我才能够有意义我才能活下来所以说我们的目标是一层套一层的因为我觉得有时候我们可以把智能分成你刚才说的很好就是有一种叫做永现型智能

有一种我们叫做人工智能就是我们叫做被动型智能我现在我现在的语言模型都叫被动型智能而不是涌现型智能只有等了 Azure 的时代再往后面再发展过一些架构变化之后才会有涌现型智能

对这个因为其实其实我前面看过几期那个 Jeff Dean 就是 DeepMind 的他包括 Google 我们叫做 Google 最强大佬 Jeff Dean 老师段子满天飞全是他的段子对对对段子然后他是很牛逼就是但他也最近的最近的 podcast 一直都在讲就是他们要把他的这个 Google 的这个 Jemini 的这个这个网络扩大因为他们不是做了 TPU 这种矩阵吗就是一个一个你们也做这个吧

然后让它形成自主制方式就是当有需要的时候有一些任务经常在一块预算的时候它就会这一块通讯就变强就是人大脑神机元就是我神机元变强壮了然后它这一块的 GPU 集群 TPU 集群就会更加快速想一更加快模型就长在一块去了因为模型到时候会和 TPU 融合在一块去

然后如果疏远的他就会我可以放在更远的数据中心都没关系我可能不在一个城市都没关系这些东西他就分布他就在接迷你的网络里面形成了一个巨大的一个分布式网络有的东西可以执行这个任务更快有的东西是另外一个任务更快但实际上对如果人真的要做推理肯定是无数的这种小型的计算机会更好当他要做协同的时候他可能会是吧他可能会会

会连在一块去 效率更高其实这个就原来像有机式的有机式的生物的这种生长它随着你的任务的目的按照你的目的的需求它慢慢的就演化在一块去了而不是由人为去驱动的我人工写个程序我让你连在一块去不是这样子的它长在一块去了就有机的有机的而且是适应性的自组织的自适应的然后不断调整的不断的变化的一个过程是的

对对对那么正好了我们就聊到了今天最后一个话题就是我们前面做了这么多铺垫对什么自组织的什么这些听上去很悬浮的东西但实际上现在 AI 模型训练也在研究这个对所以说我感觉目标目的性是非常重要的一个因素对于 AI 来说那么我们现在要调到了我们刚才我刚才其实留了一个影子的话题我说智能不是意识是

对,意思是意思,智能是智能,那我们把它放到今天最后一个话题,聊一下这个,不是当初第二个话题,聊一下这个意识和智能,就是从你的角度上来看,你怎么看待这个,什么是意思,什么是智能,然后他们和 AI 的关系是什么?对,这个我是非常感兴趣的一个,一直在思考一个问题,因为自己本身对叫什么 psychology 啊,或者叫什么,

心理学啊哲学一直都非常感兴趣然后呃怎么来讲呢就是尤其是最近的这个开发就是可以我先讲一讲一点嘛就是大家都听说这个图灵测试对吧嗯

图灵测试就是图灵当时搞机器的时候提出来这样一个结构如果说你一个屋子里面有个人你跟他聊了半天你觉得你如果能无法判断他是不是人那就可以判断他是不是一个有人工智能了我们把图灵测试当成很重要的事情图灵测试其实测试的不是智力图灵测试本质上测试的是意识

这是一个很重要的区别区别是什么呢治理从某种意义上我觉得是一个已经被解决的问题现在所有 LM 其实智力非常高的大部分 LM 比我是对他是比我聪明多了因为不光是说他知道的多而且他推理能力其实也比我强

然后他要去寻找这种隐藏结构的能力去寻找规律的能力就是我们把所有的东西规格治理的东西基本上就是这样一些思维活动也包括你看那些智商测试大部分智商测试都是找规律吧给你几张图让你猜下一个图但是这是人能够去叫什么叫去测量的一个治理

其实本身上是个治理然后意识是一个更独特的现象意识的现象怎么去更直观去思考它的区别呢我可以举个例子比如狗如果有养狗的话比如我养狗的时候我就发现一个很大的区别我的狗我是感觉它是有意识的它一定是有意识的它会有情绪它会跟你互动你就觉得它是一个活的生灵

可以说 LM 比狗不知道聪明到哪去了对吧对他干的事情实在是太狗了然后治理水平实在是太高了但是

如果让你去分这两个东西 LM 和狗谁有意识我觉得反正至少我是觉得狗是有意识的而 LM 是没有然后或者我觉得大部分人可能都会做这样的选择当然除了有一些想更不同的看法然后这也是你去思考的区别就在这儿这区别主要就在这儿然后我对意识的理解我受到一个

我個人認為是現階段最強大的周協加是基於維根斯坦之後最強大的叫 Yusha Abbas

他也就是著名的巴赫家族的一个后代然后他的一些想法受到影响他对意识的定义 我觉得我对意识的定义和跟他有点不太一样他的对意识定义你可以把它解成一种他认为它是一种自组织性是一种自组织的降低这种连贯性就是提高自己连贯性的一种结构

挺清晰的我理解的到就连续连贯性是很重要的因为我得连贯性的保持我是我对它是一个结构然后我个人认为意识是一个跟在社会环境里面的这种叫社会化的这种交互的一个结果我的一个思维实验是什么呢就是如果这个世界上只有我一个人全世界全部都不在了然后所有的什么都没有了

我是无法理解这个意识这个概念我是没有 I will lose my 某种意义上就是用英文来讲 I lose my mind 就是我失去了我的头脑其实本身就是我失去了某种意义上失去了意义是没有意义的然后这个其实我是经历过一些这样的呃呃各种各样的方式经历过这样的状态的去思考的然后这个其实就提到我之前啊也也跟那个啊那个分享过一些就是关于这个呃心理学有个叫做发展心理学呃

我忘了叫什么发展心理学还是什么演化心理学一个叫 Robert Keegan 的一个人演化心理学提过人的意识的发展的几个阶段然后我觉得可以把它当做一个某种意义上去衡量意识的水平的一个梯度

他讲了人大概在几层第一层叫做冲动意识就是你的生物本能或者说你如果这些有一些是他讲的有些是我的理解然后一个冲动本能你可以理解成你的大脑可能有些人了解过人大脑的几层结构我们最早叫爬行动物脑

就 Panel 也有那个功能叫什么逃跑战斗和恐惧或者说逃跑战斗和加了一个新的叫 Freeze 就是动着然后生物本能的大脑它能做的事情就是 survival 就是我有一个自由意识我要吃东西所以我才能活下来我要去繁衍我要去有危险我要逃掉这个叫第一级别然后第二个级别是什么呢就是自我意识突然有了我这个概念

这个我是谁这个概念你会发现我这都是我自己家的一些东西我觉得这样一个比较简单的特点就是怎么从动物我很喜欢从动物去观察从动物角度去观察你就发现有些动物有个叫做镜像测试就是动物能不能在镜子里面认识到那是他自己而不是另外一个动物你看狗是可以过的然后猫有些猫是过大部分猫好像是过不了的然后大部分狗是过的然后更高级动物基本上都能认出来

猴子什么都可以 连鹦鹉都可以鹦鹉其实很聪明 这个就另外一个更有趣的话题了然后镜像测试 然后他有了自己有了自我有了 Eagle 的概念然后这也是我家的一个概念我不知道中文媒体或者中文的互联网有一个前几年很流行的一个概念叫 NPDNPD 就是叫自恋型人格

Narcissist Personality DisorderNPD 最后搞成所有人都是 NPD 这两型人格的一个特点就是无法共情

他完全没有办法站在别人的角度去思考问题然后某种意义上给了他们一种非常加引号的这种精神力因为他们并不太 care 别人的看法别人怎么想对不看别人的但是我会讲真正的不 care 别人怎么想或者不在乎别人想是在第五级

而不是在第二集第二集 这是为什么 NPD 其实在很多社会功能上是非常欠缺的他们必须是在特定的一些社会结构里面才能够某种意义上走到更高的位置他们没有办法发展出来这种对他人的理解 对环境的理解

那么第三级就是大部分正常人在的环境或者大部分我们觉得还不错的正常人在的环境也就叫做社会化的通脑这个时候他们意识到这个除了我之外还有其他的存在而其他存在跟我是一个平等的一样的人

然后我一直到这边有环境等别人的环境我去做一个行为的时候我是要去思考对方的反应的我是要先叫或者他们叫做我不知道那个叫反应大概就是你知道对方有一个这样一个人然后我做什么我要考虑对方的影响我要考虑对方的影响我要能够省神出地的换成他角度去思考

或者说大部分哺乳动物其实应该也有这个功能大部分的这种像什么部落这种群居型的动物比如非常典型的群居动物就是大象然后他们的群体吃货其实非常的高然后猴子 狗 还有海豚还有这种海洋哺乳动物他们基本上我觉得都有这个能力

然后第四集就是进入到我会讲一下第四集跟第二集的区别第二集我再 recap 一下第二集就是这种叫个人就是说自我然后第四集叫理性自我理性自我就是第一次意识到除了这些人之外除了我要考虑对方对我的看法之外后面还有一个世界也是所谓的勒昆讲的叫什么世界模型

理性進入這個環境里面也就是說我為什麽可以不在乎別人的想法是因為我預言了地球的運營規律我知道明天一定會下雨因為我覺得這是一個獨立於任何一個社會關系以外的獨立的邏輯系統而這個獨立的邏輯系統是不以人的意志為轉移的

然后先看到理性模型的人他们在基于这个原理上做出的不在乎别人的看法才是真正的成熟的看法才是跟 NBT 的本质的不同或者说跟这种第一个这样的情绪上的缺陷其实本质上是一种情绪缺陷但是由于在

由于很多我们的社会足够复杂足够大有些情绪上的缺陷在他的先天环境比如说生在一个比如说居富之家或者生在一个天生权力结构上资源上一直有大量的资源使得大家必须要去无论是美貌还是社会地位导致大家不断的去满足他的情绪缺陷然后这样的人他的理性结构其实并没有发展他的理性的头脑其实并没有发展到很高的程度

而这个里面最典型的就是各种各样的理工科所谓的这种或者叫西方文化语境下的 nerd 大部分就是在这个阶段但他的社会头脑并没有发展的很好 inside 是来自于 yoshaba 这个不是我自己我可能有一些自己的想法和理解和开发学会记的

有了这样一个理性的世界他知道了有的事情他知道了有一些规律是不以人的意志为转移的然后我知道这个世界我是不会被

就像那个几句话你们讲的有点意思就是我要做一件事情我说什么火箭要烧什么别人跟我说火箭要烧煤我根本不会 carry 你的想法因为我知道这个社会有个背后的社会它的运行规律跟你说什么根本没有任何关系你怎么说都没有任何意义对吧这个理性社会这个就是另外一个级别的成熟度然后我又讲了这些东西都是需要智力的但它本身又不是智力的体现

他们是需要一个智力才能有这个东西也就是说意识和智力我认为是意识的存在需要一定的智力基础而在过了一定结构之后他们之间就会分道扬镳

这是我看到一个我曾经用这个词我用一个词叫灵性去来去描述意识的级别我用中文的语言叫灵性这个我没有看到其他人用但是我个人很喜欢你会发现这个世界上存在有些人就是他的智力非常的高但灵性极低这种几个典型特点就是对自己的理解然后包括 social and 包括之后再讲的第五级的意识

它们是其实不到的第五级的意思是什么呢就是除了社会化的理性的头脑然后第五级就是叫自我实现这是真正的一个成熟的完整或者说在心理学上称之为这种完美阔当阔的完美的一个人的结构这样的人结构它们的主要特点是什么呢

就是他们对自己的情绪是有控制的他们不只能够理解这个世界他理解这个周围环境理解其他人能够舍身处地也知道除了人之外还有另外一个社会他们还能够对自己的身份有一定的控制就是我决定了我要成为这样的人然后我真的成为了这样的人

就是这样一个故事是一个很重要的一段就是我要成为这样一个人当你开始用中文的这种比较话叫书写自己的故事的时候你就到了这个阶段对这是他的原文叫做 self authoring 就是自我书写就当你可以自我书写对当你可以写自己的故事的时候你基本上就在这个阶段了这个时候也是你能观察到一些什么现象呢就是嗯

舍身取义对吧我对生命本身的生命的本身的意义我会为了一些更加抽象的原则我自己因为我自己认同他而我愿意去做而且我知道我能够成为其他人我也能成为但我选择了成为这样的一个人我选择了这样的一个道路我选择这样一个人生观这个就是第五级的人格能够

达到的一个状态这也是某种意义上我之前我前面讲了一个 node 讲我很喜欢的一个系列就是杀球系列然后最新的电影里面有一段你们不知道还记不记得就 Paul Trudy 当时在受圣母的测试那叫 Gonjaba 就是拿一个针扎在他的这个地方然后把他手放进去其实意思就是说他当然那个测试本身也在扯意思就是想测试他是不是一个 animal 他用的理论就是

人要能够某种意义上叫什么精神控制肉体就是要能够 override 肉体大概就是在这个阶段对然后更高级五级对然后最高更高级的就是六级六级就是船中的开悟

開悟所有的靈修 庫登寇靈修 包括大師包括我們歷史上看到一些追求的人我覺得他們到那個程度這個什麼程度它跟第五集最大的區別在於它不僅在想自己的故事它講自己的故事它甚至知道自己的故事是怎麼來的它是能夠從某種意義上讀到自己的源代碼的人

他能够就是说佛教就是抽离出来观察自己对能够观察自己这个非常重要一定要有能够自我观察不断抽离然后不断观察自己然后还可以反过来然后观察观察者然后这种反向的各种 feedback loop 然后能自己把自己的源代码不断的改动我不仅选择了我要书写这样的故事我还可以今天决定书写这个故事然后我觉得我从事又不被这个故事所限制并不是说所谓的这种

某种意义上 这个是当年我忘了是哪一本书里面想的用来描述汉高祖刘邦的一个词说高祖为人 无可无不可 对他来讲没有什么情绪内耗这样的人大一个特点就是完全没有任何情绪内耗做什么事情都是只要可以做就可以做他把自己也是当作工具人的

嗯对对对这种这种很高级的对嗯对他然后另外一个我觉得历史上达到这个境界的应该就是呃嗯

王耀明他讲的一个所谓的心血其实本质上就是一个自我观察之后意识到了一切都是凡作有象皆为虚然后意识到他里面有个 quote 讲的叫做什么你未看此花时此花与乳心同归于尽你来看此花时此花颜色意识明白起来也就是说他意识到一个所有的他的感官上接触的东西都是由自己的来决定

就是当你意识到这点然后又有足够的实践能力能够重写自己的意识的时候

对这个佛教有一个派叫叫内观派是吧啊对对对内观派有一个有一种识就是因为他就是这种感觉吧感知嘛叫莫拉识是吧哦对知道很专业抽离出来观察啊莫拉识对我们已经把今天这个话题聊到聊到中教和和这个愿意聊的意思嘛我觉得一聊到意思就特别容易这样啊对对

因为意识确实悬而未决是的这是一个没有解决的问题然后也是我觉得未来最有意思的问题对其实我觉得最后一个问题就是我们最后一点吧我觉得

但是今天的结束话题我觉得刚才那个意思这个莫涵这边分析的挺好的回头我把这个书找出来我把它摘要一下这个东西我好像听到过外面刚刚好像讲过一个一本书好像就是他就是这个但是他有点不一样但是跟你讲的有点不一样但是我感觉是类似的就是几个级别就是对来来来来的人格几种级别人格其实我们觉得你刚才讲的是人格或者说是嗯

我们刚才在问意识的问题其实我觉得他更像是人格但是我们也定义不清楚什么是意识然后说了人身上什么是人格是吧这个都讲不清楚因为我们现在确实没有一个

像智能这样的对他这么清晰的认知智能是什么推理能力什么能力你很清楚但是这个意思就其实回答不清楚而且前面你最后讲的哲学家讲的是连续的自我叙事保持自己的主体的连续这是意识的一个最基本的现象但是意识还有很多种东西以及后面讲到那么多人格或者这种东西其实都可以算是一种意识的一种

但是我觉得我们再往下面去聊觉得很多人就会不同意见的对我们这个话题的看法那肯定的对但是我觉得最后一个问题也不叫问题我觉得我一个小的结论就是我觉得有很多科学家 AI 的学者们想把智能和意识 AI 的目标和智能本身分离开

来做但是我觉得这个好像不可能对我觉得一个更高级的智能或者他他必须是有一个有目标的意识体

对这是我感觉的一个结论我就提一个让我想起来一个东西我是一个很喜欢玩我不能说很喜欢我比较喜欢游戏的人然后有个我最喜欢的系列叫魂系列就是黑神之魂知道很难对然后它的一个里面的世界观里面的价值非常有意思叫做那个叫什么呢

英文叫 hollow 就是 go hollow 里面可能是翻译成游魂状态你在里面砍的那些没脑子的僵尸但那些其实之前都是人然后里面你会玩各种游戏的时候他的世界观你会慢慢理解他的世界观他世界观是这样的一旦那个人失去了他的执念一旦他失去了那个能量那个精神能量或者说魂他就会慢慢进入游魂 游士状态就是游士状态就认为他没有目的了

实际上它还有它的目的 它有它的目的性 它有它的结构它就更像一个活生生的人一旦它那个目的要么是完成了 要么没法完成然后它就会慢慢变成游荡的一个僵尸然后慢慢就变成了它的价值观叫不死人第一代叫不死人 第二代叫第三代叫好冷其实意思都是一样的

然后这也是很多比较 AI 这些研究人员所说的我们未来会不会建立一个新的僵尸世界他们认为我们建立 LM 社会包括 LM 他们没有灵魂的对吧他们没有灵魂他们是就跟僵尸一样

就是没有脑子只会该干什么都有但是就是没有脑子然后这就是为啥我讲的你我觉得你讲的非常有意思的就是这个价值观其实在那个游戏里面也是也是一样的就是一个人一旦他没有了追求没有了他的目标他就会慢慢的像慢慢变成了行尸走肉某种意义上对所以说这个东西界定

语言模型 AI 或者说是其他的生物这个东西都可以来决定他这个目标有了目标之后的智能他可能我们可能叫做自主体我觉得 Agent 这个词是比较适合用来形容他们的这样的自主体其实你刚才讲到了这个游魂其实有一个最新的研究就是一个有目标的人比一个快的人活得更长

那必须的啊哈哈哈哈就是哪怕你痛苦的生不如死的时候你有目标你也会活的求生欲为更强是的对这个这个你要说什么你先讲你先讲我给你讲一个对我就说这个结论这是一个研究报告关于这个抽样了可能几千名的这个美国美国大学做的吧我忘了哪个报告回头我可以写的这个备注里面对这个这是一个结论很科学的结论所以说

我们就把这个话题引到最后来,我刚才讲的是我的观点是一个更我们要做一个真正的智能体或者说一个真正的优秀的智能出来,就是人造的这种智能出来我们必须得赋予它或者让它涌现出来意识,让它涌现成目标感来对,只有这样的一个东西可能才能够成为

和我们人类物种共同领导这个星球或者我们这样前进的一种新的物种而且如果说像现在的 AI 这样的东西是不可能的它最终可能会成为我们的未来的一个负担可能会更糟糕的情况下可能会影响整个人类社会的发展因为它让我们陷入了陷入到一个僵尸社会对这个必须是有一种新的物种新的智能形态有意识的智能形态激励我们才行

而且我们可能在训练他的时候让他注入到这样一个人类的价值观在里面会更好一些不会随便去把我们给干掉了这样子的这是我想到的一个问题的一个答案我自己可能是一种构想也不叫答案我自己的一种构想可能因为我也看了好多这种研究资料有些报告

大概就是这样我不知道你还有什么补充在这个上面我刚刚就想笑一句说你刚刚讲的一个非常就是算是一个非常重要的佐证和那个让我想起来很有意思的一个叫什么名人名言吧就是你采访过一句话叫 He who has a wife can bear anyhow 意思就是一个知道自己为什么活着的人是可以承担一切痛苦的

对是的我觉得把这句话作为我们今天的结束的最后的一个怎么说呢也不要谨言就作为最后的一个观点我们两个嘉宾的一个观点就送给大家非常棒那就很感谢今天莫涵参加 Indigo Talk 谢谢大家收听拜拜