AI末日论：区块链能拯救人类吗？
01:19:09 Share

我被形狀的恐懼困擾了誰能在現代世界中活著,沒有把自己的一部分抓起來呢?我希望我能在這次的事件中踏上我的腳

听众朋友们大家好欢迎来到新一期的《文理两开花》实在是跟大家先说声抱歉因为中间好像脱更了很久但因为中间是和魏老师首先办了两场线下的活动所以有点脱更但是今天终于续上了而且请到了一位我觊觎已久的嘉宾我其实很早以前就很想让他来上我们的《文理两开花》的节目但是一直没有找到合适的话题

因为这位嘉宾呢他不仅这个观点经常让我醍醐灌顶而且我觉得他非常适合和 Will 老师唱二人转就是实在是最佳人选那么这个 web 算如果真的有说书人的话我觉得 Will 老师和今天这位嘉宾是最佳的说书人所以呢我们今天欢迎嘉宾孟严老师那孟严老师先跟大家打声招呼谢谢谢谢小考老师感谢 Will

好的好的但是呢每次提到孟严老师其实我们的听众总会有人问是哪位孟严老师但是这个因为我们还有大家比较熟悉的另外一位孟严老师也是一个播客的主播叫做有知有行的主播但是呢今天我们的孟严老师呢比孟严老师是更资深的网红也是很多区块链的小伙伴们启蒙的老师所以呢今天孟严老师来做嘉宾肯定我们还是聊跟区块链技术相关的话题

然后今天我们的话题呢还是跟 AI 相关的所以今天还是 AI 三人行但是我们三人行其中的一位呢从朱老师换成了孟严老师所以今天呢算是文理两开花 AI 系列的第六期我们对 AI 虽然已经讨论过了五次但是呢都是怀着对它很惊叹赞美的情绪

大家都在讨论尤其是朱老师作为 AI 的从业者他是从这几期呢都一直是很惊叹这个拆 GPT 的最新的发展但是我们今天呢是想从情绪的另一面从阴暗面来聊一聊 AI 的危险性然后以及我们人类还有没有什么办法以及我们有什么对策

其实在 AI 领域一直有乐观派和悲观派我们之前请的嘉宾周老师我感觉是乐观派可能是 AI 的专业人士对 AI 的进展实在是太激动了就还没有时间悲观魏老师我觉得如果我说的不对魏老师可以反驳

我觉得魏老师看起来好像是乐观派但实际上算是悲观乐观派因为他可能觉得事已至此我们应该用什么我们是不是该想用什么新的评价标准来看待我们曾经以为一些很重要的概念或很重要的事比如说谁说没工作就一定不好了所以 AI 取代了工作又能怎么样

而且想多了确实也没什么用那就不如享受一下我们这个人类作为探机生命最后的时刻就但行诸事莫问前程吧那我呢肯定是杯馆派我已经抓住一切机会不管是线上还是线下给大家灌毒鸡汤了

但我发现有点奇怪的是其实国内好像很少看到悲观的观点大部分的悲观的观点还是国外的 AI 的前沿的科学家人类学家等等比如今天就在录的之前呢早上还有一篇刷屏的文章就是尤瓦尔克拉利最新的一篇演讲文章大概意思就是说 AI 不需要意志就可以毁灭人类文明所以是可以说是相当悲观了

但是我欣喜的发现孟严老师其实是和我一样悲观的我觉得我身边的这些老师们或身边的专家们其实有孟严老师这种非常理性的这种悲观的观点其实很少

甚至孟严老师觉得人类只是智能的一个载体是归基生命的引导程序白居过戏不足挂齿但是孟严老师更有建设性他会积极地寻找解决的办法比如说他最近写的一篇文章我多了好几遍我真的是觉得写得非常好这篇文章叫做《强人工智能时代区块链还有戏吗》

这么一个题目但这篇文章的整个的逻辑和论述过程呢是非常清晰的行云流水开始会让你觉得很悲观但是他最后会从区块链的角度和从其他的技术理念的角度来看看我们有什么样的应对方案那所以我们今天呢就请问言老师和威尔老师两位区块链的专家来跟我们一起聊一聊 AI 的危险论以及应对方案

首先我想请问一下两位老师你们对 AI 的悲观方面的观点当然了就是如果主要是持乐观的话那么可能也会从反面稍微的分析一下那你们如果觉得 AI 它有危险性那它的危险性基本上会存在体现在哪些地方呢或者是可能会有什么样的结果我们需要警惕的呢嗯

好那先请孟严老师谢谢小头老师其实你刚才说那个想跟我聊已经很久了我也想其实加入你们的两人团讨论一些话题也很久了想不到这么长时间不是因为区块链的话题是因为 AI 的话题进来来谈这事多少有点讽刺性因为其实我我肯定不是 AI 方面的专家

然后只是因为写了这么一篇文章代表了一些我的一些思考吧所以可能有这样一个机会跟两位当然老王我是很熟啊然后呢我们我们一起来探讨这样一个话题那你刚才的这个问题呢就是说如果说是悲观是一个什么样的悲观法

其实你刚才提到那个尤瓦尔赫拉利的那篇演讲非常巧我前几天正好是在这个 YouTube 上面听到这个尤瓦尔赫拉利的这个现场演讲然后我当时就觉得这篇演讲很重要很有这种启发性其实关于谈到 AI 的这个危险性我也把我这篇文章里面的主要观点啊简单的我再复述一遍啊我在那篇文章里面主要有三个观点第一个观点就是我认为呢

ChatGPT 实际上已经发现了强人工智能的新大陆对只是说可能在这个新大陆上征服这个新大陆然后在新大陆上创建一个新的文明这个需要时间但是有没有这个新大陆从 0 到 1 的这个转变我觉得已经从 ChatGPT 成功当中已经证明了所以这个事情呢是非常厉害的我的这个观点呢

发表以后其实也收到一些不同意见但是主流的人还是认为确实这个强人工智能应该就在我们可视范围之内了这个是第一个观点那第二个观点呢我的观点是强人工智能对于人类的存在构成威胁这个观点呢其实我在我的文章里面没有很好的去论述也没有充分论证啊但是呢我感觉就是就像刚才小华老师你说的国内好像讨论这个的不太多

但在国外呢讨论的就很广泛很普遍比如说尤瓦尔克拉利的这个演讲再比如说前几天 Sam Altman 在美国国会听证会的这个听证然后 Jordan Peterson 在他一系列的推特和 YouTube 上面谈论的这都是比较有代表性的这些观点那么好像对这一点上确实我觉得在西方

对这个事警惕还是比较大的第三个观点是我认为呢区块链可以成为人类跟 AI 协作甚至规范 AI 行为的一个工具这件事情上呢引起的反响不够大因为大家可能更多的还是关注这个 AI 本身对于区块链在里面能够发挥的作用其实除了我们这个行业内部的人并没有太多的人关注包括你可以看到这个 Sam Altman 他在这个国会竞争会的这个演讲里面所提出来的

克服这个 AI 危险性的这些问题啊这些方法呀其实没有包括区块链对吧那可能我觉得在这一点上我们区块链或者 web3 的从业人士还需要进一步的去论述稍微把这个我刚才说的第二点展开说一下就是我认为强人工智能对于人类的这个存在威胁呢

大概有这么几个思考一般来讲的话来自科幻爱好者也是我当地评文章里面所提出来的就是类似像这个科幻电影里面这个代表作是天网啊黑客帝国呀然后这个库兹维尔所说的这个极点理论呢奇点理论对有人说是极点有人说奇点反正我们去奇点理论吧对反正就是突然出现一个远远超越人类的这么一个人工智能啊然后

对人类发动攻击把人类文明毁灭掉这是第一种其实对这种来讲的话其实我想人类作为一个它是痛感应该叫痛创巨深就是这种级别的威胁我觉得人类是比较容易达成一个共识然后一起来采取措施防范的但是最近听到像这个 Samuel Altman 还有尤瓦尔赫拉利的这些观点我觉得就真的很有启发因为你会意识到说

其实 AI 的另外的危险性它并不一定是直接对人类发动攻击或者说把人类的整个文明通过肉体消灭的方式来消除掉它是一种甜蜜的然后渐进式的这样的一种方式至少是无痛觉的这么一种对人类的文明的威胁比如说 Samuel Altman 他提到的四个威胁包括什么呢

包括虚假信息包括网络犯罪包括影响选举以及破坏民主制度最后一个就工作替代这个是 Samy Altman 然后尤瓦尔·赫拉利他那个就更有意思了他直接说

通过与人类建立非常亲密的关系侵入人类的生活对吧然后创建新的叙事新的故事和新的观念然后潜移默化的分化人类或者是误导人类或者是使人类走向 AI 希望导向的那个方向它不用把人类毁灭掉它可以把人类既有的这样的一种文明的这样的一种过程中

工具就是讲故事的这样的一个能力把它拿过来利用然后最后呢改变人类文明这个也是一个我当时听的时候我确实是醍醐灌顶非常的震动由此我又想到其实还有一种危险可能性是说其实我们也都讨论过我记得线下跟 Will 还有跟小跑老师交流的时候都提到这种可能性就是说我们人类对于这种强大 AI 的这种崇拜

会不会使得就是说我们希望由 AI 来创建一个超级治理中心或者说的更直白一点超级政府由它来对我们的生活对我们的生产对我们的经济进行安排

然后对于个人自由那么当然就构成一种威胁因为你一个超级的这样的一个治理中心他必然要求个人让渡了更多的权利对吧放弃更多的权利和资源然后交给他来支配交给他来这个控制那么你会发现在一个范围之内你会发现我们个人让渡的个人自由和权利越多这个 AI 的工作就会越好它的效果它的优化效果就会越好所以

所以很自然的人类就会不由自主的说我们要不要让步更多的权利给 AI 放弃更多的自由给 AI 逐渐逐渐的就慢慢慢慢的最后就很可能会形成一个传说当中的就是 AI 奴役人类的这样一个社会体制所以这几种点在我看来就是说除了第一种我们人类能够比较容易的达成共识

然后后面三种其实都很难都非常人类都很难达成共识因为这种在这后面三种方式当中其实 AI 是通过分化人类的方式逐渐实现对人类文明的破坏或者改造的对吧更狠的就是我记得我跟 Will 当时我们认识很早就是 04 年我们俩就认识然后我们认识的时候第一次比较深入的争论我们在一个朋友的客厅里面这个

讨论问题非常深入当时我们就没想到是 20 年左右的时间我们看到了这个进程但当时我们纯粹是出于一个这样的对于未来的一个幻想就是说人跟机器的融合对就是 AI 通过比如说植入芯片或者脑机接口连入网络这样的一种方式让我们人当中的一部分实现机器跟人共同成就一种新型的智能物种

这种方式它对很多人类来说是充满着吸引力的所以它可以有效的分化人类甚至可以说利用人类现有的社会结构当中这样一种不均衡或者不公平这样的一种方式这样的一种结构

或者一种缺陷来达到它改造人类文明的这样一个目标我觉得这些东西对于我来说其实都属于实实在在的 AI 的危险性就是而我看不到什么特别好的方法去防范它们或者是解决它们另外一个角度来说我们待会可以深入讨论从价值观的角度来说这个东西是不是非要去防范对吧这个可能待会老王有更多的观点但是

我觉得从这个意义上来讲就确实如小涛老师所说我比较悲观 OK 我先说到这些对对我也是就是在看孟严老师这篇文章之前也有一次机会跟孟严老师在一个 Twitter Space 上交流也是听到了孟严老师的悲观的观点我觉得还是相当的怎么讲呢可以对我们会的心灵是会有所震动的

其实刚才孟严老师提到了很多点我都觉得很有意思我想先稍微的回应一下然后我们听听魏尔老师的这个乐观悲观主义的这个观点其实刚才孟严老师提到那几点呢其实都是和我为什么说国内很少看到就是这种悲观的观点那因为其实 AI 的发展的脉络还是从国外开始的而且已经发展了 70 多年

所以在整个脉络中呢包括最近刚刚从这个谷歌辞职的 Jeffrey Hinton 他们之前都是一个 AI 的实战派也就是他们在在发展这个 AI 的过程中在发展这个神经网络的过程中他们其实是没有想到 AI 的发展是会发展到现在一个程度的

所以那天我还看了一个就是 Jeffrey Hinton 的采访的视频就是说有个这个好像 CNBC 吧还是哪个媒体的记者就是一直在问他就是因为他他已经公开说他辞职的原因就是想告诉大家 AI 的危险性以及看看能做什么虽然他虽然觉得不一定有解决方案

然后那个采访他的那个媒体记者呢就一直想问他就是一直在问他那你会不会后悔就因为这件事你是 AI 的教父所以这件事发展到这个程度你是最大的始作俑者就是他一直想让他说出那句啊我现在很后悔的这个这句话

结果 Jeffrey Hinton 他绕了半天弯他的意思就是说我可能有一点点后悔吧结果这篇采访的出来之后媒体大标题就是 Jeffrey Hinton 非常后悔他参与了 AI 的发展所以他在另外一个采访上是一个 MIT 的采访他就说

其实我当时心里想的我根本就不后悔因为就是在当时的情况下我只想做的就是把我认为对的东西一点一点的实验室里边开发出来所以当时根本就没有后悔的心思你把我现在放到 70 年前 50 年前我也会做同样的事情

所以说这个其实就是所谓的现在为什么他说我现在突然间觉得这件事情很可怕的原因是因为这件事情真的是潜移默化发展出来的那你参与其中的时候你可能是看不到这个 endgame 的

其实对像 Jeffrey Hinton 这样就是包括孟严老师刚才提到的就是对 AI 持悲观看法的这种有影响力的人是非常非常多的我们最近其实就可以看到很多比如说联名上书 Steve Wallace 马斯克还有很多这个众多的这个 AI 前沿的科学家比如说那个有个叫 Max Techmark

我看他写那个叫什么生命 Life 3.0 就是生命 3.0 那本书非常非常有意思那他呢其实是这个生命未来研究所的创始人他也是联名上书的发起人

还有比如说罗素等等都是写人工智能的教科书的这些人他们都从不同的角度甚至是写过一本书来论述 AI 的危险性但由于我实在是跟技术战片离得比较远所以我只能靠看这些人写的书来试图深入理解一下为什么大家会对 AI 有这样的警戒心

当然还有业界比如说刚才文言老师提到的 Sam Altman 那么他上个礼拜二的国会听证也是呼吁对 AI 的监管他所说的危险性刚才文言老师都已经列出来了但是我觉得国会山的反应非常的讽刺是因为他的这次的听证结果是大受欢迎媒体的

头条这个标题就是 Sam Altman 征服国会山在美国国会有史以来这个是最引人注目的 AI 听证会然后打动了彻底打动了国会议员的心

然后我就觉得对比一下这个 web3 和 crypto 的就是行业的人士的听证简然就是这个待遇显然就是天壤之别所以是不是也给了我们 web3 这个 crypto lobby 的一个启发但是现在好像太晚了尤其之前发生的事情现在说什么都好像在认罪一样这个也可能是因为也可能是这个 crypto 和区块链的行业现在对于 AI 的潜在的危险性没有这么大的发生的原因吧

那么我也想问一下这个 Will 老师因为刚才梅老师所说的这个 AI 的危险性呢大家可能分别从不同的地方看到过我看到的对他总结的最系统的一本书呢还是那本书就是我们在线下分享会的时候跟大家提到过的就是罗素刚才提到那个罗素他写的一本叫做 Human Compatible 这个中文翻译成 AI 共生但是我觉得这个名字不太好所以

所以呢但是他这本书呢其实就写出了这些人担心的一个脉络以及他把所有的问题他归结成为三类

第一类呢就是刚刚梅娜老师提到的假信息就是 AI 可能会有目的的为了实现自己的目标来控制人的思想那这个在 Jeffrey Hinton 他辞职之后做了一篇做了一次采访中他也提到过了就是说那么语言的模型学习已经非常强大也就导致现在 GPD-4 呢已经有大概 80 到 90 的智商

那未来的很有可能会达到 200 的智商,所以理论上它是可以通过阅读人类的小说,比如说他读所有马基雅维利写的东西来学会如何操纵人类,那么人类甚至就没有办法感知到你是被 AI 操控的,因为当 AI 的智商比我们高很多的时候,它可以轻而易举地绕过我们人类设定的所有的这个限制,那它可以就是所谓的上有政策下有对策,对它来说简直就是小菜一碟儿,

然后那个尤瓦尔克拉利今天的这篇文章就是他那个演讲其实也说的是大概的意思就是他会给你制造一个泡泡一样的其实就是 matrix 就是 matrix 一样的这个所有的对于人类文明的一个设定那让你在身处其中是完全不自知的所以他不一定会有意识他也可以操纵人类的思想

然后就这本书中提到的第二类的威胁性呢就是他会夺走人的工作这个是最明显的以及还不只是夺走人的工作他会让人人类失去对自己的意义就是说我为什么要存在这个世界上就 Homo sapiens 的智人这个位置要让出去让人类会失去意义这个可能对人类存在的威胁还是非常大的

那么另外一个呢就是第三类他就是讲他可能会有一些自动杀人武器就是 AWS 这个不是那个亚马逊云是 automatic weapon system 就是这种自动杀人武器的这种东西呢如果他是被 AI 控制或者是 AI 有目的的设定自己的目标来决定除掉某些人可能对他实现这个大目标更有帮助的话那他也有可能不受人类的控制

那么这三类呢其实大概可以概括现在市面上所有的大家对于 AI 的担忧 Javin Hinton 其实他也是提到了一点我觉得还是在所有的这些担忧之下他说了一个底层的逻辑也就是说那么这个逻辑或者说 AI 现在发展它显示出什么样的迹象以让他有这样的担心

他就说我们现在可能都觉得这个 AI 自己是不会产生目标的一定是人给他设定目标他才有自己的主观能耐性他才会为了实现人类的目标而去做事情但是呢别忘了 AI 呢他是可以设置自己的 sub target 就是自己的设定一些小目标就是在完成这个大目标前提下他自己会设定很多的小目标

比如说现在这个 auto GPT 就显示出了它这种的能力所以说如果它能够自己设自己的小目标的话那它很有可能发现为了实现其中一个小目标来尽快地达到这个大目标可能它更多的操纵人类是最容易实现这个目标的

所以呢它很有可能就是 AI 会 figure out 自己的目标那么如果说一旦 AI 开始给自己定目标开始自己行动的话那这个就是相当麻烦的可能不会受到这个自己的控制那么这个就是大概就是这些危险性的所在而且呢

还有一点最让人觉得毛骨悚然的是大家老是觉得那我拔插头不就行了吗我可以你现在既然说他这么恐怖就是 MIT 采访这个 Jeffrey Hinton 的那个主持人就说那我现在就想上街去拔插头了然后 Jeffrey Hinton 就说就是我想这件事你肯定做不到

因为大家都看过这个 2001 太空漫游中这个 HR9000 它是怎么做的在你决定做这件事情之前它已经比你先一步来阻止你做这些事情就是它会生生的把你这个就是这些宇航员的人类的生命体征给断掉因为它是操纵一切生命体征的这个主程序

所以对于这些 AI 的所有担忧其实它也是有一个连贯的脉络的但基本上就可以分为这几类那么刚才就听过孟严老师讲了你的想法我想听听 Will 老师的观点其实我们之前也讨论过很多次线下分享会也讨论过很多次但是其实没有在播客里面系统的来听听 Will 老师对这个 AI 悲观的观点或者说你觉得 AI 的危险性都在哪里

是让我说危险性吗对那可能还真的比较麻烦了这个我脑子里一直想的都是乐观性开玩笑了我觉得刚才小豹老师有一点说的对就是其实我们聊过好几次听友见面会还有包括前一段时间参加上海那个 AIGC 的一个大会都是直言片语的聊一下这个不管是乐观还是悲观

然后我是想说正好借着三个例子或者三个角度把我的这个想法系统性的聊一下但是我觉得可能聊出来还是那个乐观的观点但是跟刚才小泡老师举的那三个例子就是说不管是自动杀人武器呀还是虚假叙事啊还是替代工作呀我觉得好像

有一点点能对应上但不是完全对应但是顺序可能不太一样我就先说说我的想法有些以前可能也聊过第一个角度或者例子我还是想讲原子弹

就是核武器,对,就是因为核武器这个东西当初被发明出来的时候,大家也是觉得这个是不是要毁灭人类的这样一个东西,所以曾经也有过类似的事件,就是科学家也好,社会学家也好,上书说我们应该停止发展核武器,或者不要去搞这些东西。

但是实际上从核武器发展的脉络来讲我觉得两件事是必须值得提出的第一件事就是美国扔了两个核弹在日本炸死了差不多 30 万人然后等于结束了二战

所以你从杀人的角度来讲你当然可以说核武器的这种危险性那简直可以摧毁全人类但实际上大家应该都听说过在核武器扔下去之前日本人军国主义分子曾经提出过一亿国民总遇税的这个概念换句话说一亿日本人全死光他们都在所不惜那是不是我们可以反过来讲两颗原子弹炸死了 30 万日本人但拯救了一亿日本人呢

对吧更何况什么呢更何况这一亿只是日本人而已嘛美国当初评估过说如果不用原子弹他们一直拿下本土大概要死 100 万军人然后我们都知道中国抗日战争大概统计数据是死 2500 万到 3500 万人

所以如果没有原子弹的话那么日本可能再顽抗个四年五年那么对应算起来大概中国又要多死 1000 到 2000 万人

所以你说原子弹到底是杀了 30 万人还是拯救了 1 亿 3 千万人呢这个事其实很难讲对吧这是一个价值判断所以我倒想说的是其实科技从来没有辜负过人类对吧是人类自己在那瞎做这是第一第二

有了原子弹之后整个世界就进入了冷战冷战这个词大家听起来是个 negative 的词可你别忘了它其实对立面是热战呀

如果没有核武器的威慑没有大家都担心地球毁灭同归于尽的这种威力的话那世界上热战可能还连绵不断又死几亿人所以恰恰是因为有了核武器的相互之间的威慑地球一直保持到了现在几十年的繁荣和平所以从这个角度来讲好像原子弹的出现它也是一个乐观的事儿对吧所以我在想说

这件事让我自己体会的什么呢我的总结科技具有一种强制理性的作用

也就是说它强制人类采用理性的方式去思考和看待这个世界因为人跟人之间打交道比如说我跟你之间我可以吓唬你我可以表达的非理性然后让你退缩就人跟人之间的这种争斗它的非理性层面很大所以人的这种战争也是一样啊对吧就我显得比你强大我就要求你退缩对你提出领土主权金钱的要求

但是你对科技你面对蒸汽机你面对原子弹的时候那个玩意是冷冰冰的你只能用必须理性的方式去对待它就我说的

二战之后几十年的繁荣其实是原子弹强迫你用理性的方式去思考别再瞎作了再瞎作大家就是同归于尽所以其实科技的发展因为客观规律就在那所以他大大的强制了人们用理性思考去看待这个世界包括看待同类所以我觉得从这个角度讲 AI 其实有类似之处就刚才

Mike 提到的这个事包括小炮老师提到这个事其实我觉得都有这个特点在对吧就是你要重新评估你以前的那些想法是不是仍然有非理性的成分在

包括你说什么人类智力的荣耀啊所有这一切了咱们原来也聊过对吧有工作是不是就好学生是不是就不能用 AI 就像几十年前不能用计算机一样就这些事情是不是很多是非理性的你以为以前那些规则那些逻辑是理性的其实在冷冰冰的在强大的 AI 面前你发现哦其实那些东西仍然是不理性的咱们还得再提升一点再理性一点这我想说的第一个观点然后

然后第二个观点就反过来我觉得就稍微敏感一点了从来不是科技导致人类最后整个社会的灾难恰恰是有很多人他们觉得说我们这个社会应该发展成什么样不应该发展成为什么样对吧希望这个社会有一个按照我们的想法或者逻辑去发展的状况

这其实是给整个人类社会造成最大灾难的原因这个有些能讲有些不能讲对吧能讲的比如说希特勒对吧他讲说新秩序他讲说我们将来甚至说什么一个没有犹太人的社会是不是更好那时候欧洲确实很反犹的所以他说的这个观点当然能够获得很多人的赞成所以他描述一个很好的未来

日本也一样 对吧日本的大东亚共荣圈或者新秩序讲的什么呢讲的是我们亚洲人受到白种人的欺凌太严重了我要解放你们我要让我们整个的东亚人我们这些黄皮肤黑头发的人我们自己建立一个共荣圈互相尊重平等互利把欧美这些白皮肤蓝眼睛的人给他们赶走实现我们自己的文化共同价值观

当然那些不能说的咱就不说了对吧就是恰恰是人类的这种对未来社会的一种期许变成千百万生灵涂炭的一种灾难对吧从来没有一个科技的发展是导致我们人类一步步走向深渊的所以我觉得这个

世界各国科学家们政客们聊说我们让 AI 发展慢一点是不是我们的社会就会更好我觉得这个东西大概率其实就是像头一个观点说的它是一个可能是一个非理性的误区所以我觉得尽可能的还是别从这个角度去说未来人类社会应该怎么样我觉得这个是其实是对人类社会最大的危险绝对排第一

AI 就算有它也排第二这是我的一个观点就是人类总是自己把自己作死还是第一位然后呢把这两个总结起来呢我想得到一个结论就第三个角度其实刚才孟严提到了一个角度我觉得挺有意思的

就是关于 AI 是否能让人类社会分裂分化然后类似于我们人类说的分而治之对吧 divide and conquer 那如果这样的话呢当然就有一部分死心塌地的为了机器服务它是不是就成为了机器爪牙这个咱就不说了就像那个就像那个天网的也有爪牙一样但是我想到另外一个点就是大家知道那个基因这个东西的这个

可以说叫做电基人我说的是现代基因就是人类的染色体的电基人就是沃森教授大家知道他有一个他为名字的沃森实验室也是专门从事人类基因研究的他当时不是发表过一个可以说是天下之大部位的一个发现或者说论点就是说黑人的基因确实缺少某一部分

大家可能都听说过这个概念吧黑人的基因确实缺少某一部分那这一部分郭森自己的表达就是说其实他可能对于比如说智力比如说对于现代科学等等这些方面他就是无感的因为没有这个基因然后这件事当然被政治正确者们那批的狗血喷头对吧所以最后也不让他说了恨不得要剥夺他诺贝尔奖这种感觉但是等到我们到了 AI 的时代我们有可能会发现

那个东西不重要对吗就是人类包含智力能够让人类提升智力研究自然科学的那部分基因可能没有那么重要了因为 AI 已经比我们还强了

所以在这个可能性的情况下那一部分的基因就不会再构成人与人之间的歧视和不平等和鄙视链的一个因素所以那个时候可能更加天下大同就我们发自内心的认为

黑人跟我们是一样的因为那部分基因 AI 帮我们把世界打理好了对吧就说实话我们自己可能每一个就咱们这个年龄的人从小到大学习数理化了解人类智力的发展脉络所以当你知道有可能黑人的某一部分基因确实有不足的时候

你可能多多少少骨子里是歧视他们的对吧这个政治不正确的话我们就不能再多说了但是我们自我深入剖析一下灵魂当中的那一点点歧视我觉得是有可能有的

但是再过几代 AI 把这一切事都做完了之后你就会发现在这个科技面前白种人黄种人黑人什么红皮肤棕头发都不重要大家真的是天下大同就你们绝对就是一个探机生物的一个标准样本对吧所以人类可能就更加平等就更不会分化就更有相互之间的认同感了是不是

所以我觉得其实从这个角度来讲你说是乐观还是悲观我觉得就看你真的是从哪个角度说对吧就我刚才举的这三个例子我其实恰恰觉得 AI 给我们人类社会能带来的发展变化可能都是乐观的啊

然后我最后回应一个小的点因为这个可能等会会聊到就是因为咱们聊过很多次那个麦克那个文章也写过就是所谓比如说 web3 或者区块链或者加密技术的这个作用这不是刚才的结论就岔开一点因为小宝老师刚才提到了说这个就是机器它可能会设定自身的目标

对吧然后呢这个目标分解大目标虽然人类给他定的但是小目标他自己分解分解分解分解就发现杀掉哪些人会更好这个我觉得肯定是存在的那这其实恰恰就回到了咱们说的

这个关于 code is the law 的问题对吧上次我们聊过这个事就是人类以前用机器的方式确实是那种 positive 的方式就是我让机器给我干这个我让机器给我干那个因为他们的能力强所以我给他们设定目标他们就给我做但是

现在有这么强的武力 sorry 有这么强的智能就跟我们要控制原子弹一样露出真实想法对对对就是我们对于机器对于科技确实需要一些 negative 的一些思维方式我觉得你要说悲观的角度那可以因为小宝老师可能就是从这个角度觉得说那我们应该有更多的好的方法

negative 的态度去对待科技我倒是认同这个但是我觉得这种 negative 的态度其实就是跟法律是一样的所以就是咱们聊的 codist law 就是我如果能够通过代码通过加密技术等等这些东西为机器人制定 law 那么他们

被控制的可能性就比较大就不会出现你说的那种就我用机器的方式我只是给他设定目标不是的我跟机器我跟爱打交道的方式未来可能会变成更多的是我给他设定限制我给他设定 negative 的一些东西而这件事其实早就有人回答过了就是阿希莫夫的机器人三定律嘛对不对所以为什么它叫三定律对吧 Three Laws of Robotics 就是

第一条就是不得伤害人类第二条就是符合人类命令除非与第一条发生冲突第三条是不违背前两条的情况下机器可以保护自己所以你看这三条都是 negative 的句式就是我们说的因为 law 的句式永远是 negative 就是反面的就是你不能干啥不能干啥不能干啥

所以可能确实我们跟 AI 打交道的常态除了 prompt 就是让他帮我干啥之后可能确实要提前做好我们如何给他设置规则的这件事的准备我觉得这个是从悲观的角度来讲大概能启发我们应该提上意识日程的一件事嗯嗯

我觉得魏老师是不是已经提前被 AI 洗脑了你已经提前完成了对人类各种评判标准的范式转移都已经提前站到了现在的这个评判标准的对立面我觉得这个就是魏老师厉害的地方就是他的逻辑思维能力非常强他是从逻辑的角度出发其实一切都有解决方案一切都有相反的一面

就刚才我再稍微讲一句然后我们就进入下面非常重要的部分就是该怎么办就别天天老是悲观悲观的就刚才魏老师提到的这个就是我们人类可能更多经常是用这个非理性的方法来误读就是非理性的误区其实这个它是提前站到了反面就是

正面应该是就如果说按照现在的这个对 AI 悲观的逻辑正面的逻辑应该是就是因为人类这种追求理性的过度狂热就是追求理性的极致狂热才导致了会出现科技过度发展反过来对人类影响这是现在普遍的一个对于理性方面的一个观点就是因为人类追求理性非常狂热而不自知的这种情况才造成了大家会一直的追求 AI 把它变成更好的 AI 更厉害的强大的这种 AI 的武器

那这种追求理性的极致也就直接导致了 Google 和这个 Microsoft 他们两个现在就是对于 AI 的发展就好像这个冷战时期的核军备竞赛一样因为大家 Google 已经没什么选择了虽然他之前其实是很谨慎的在这个 Transformer 出来之前他其实是没有公开发表的这个是在 Jeffrey Hinton 的一个采访中他也提到过但是

这个当 Microsoft 用 OpenAI 就是在 Transform 的基础上然后又收购了 OpenAI 决定把这件事情放出来变成自己的一个就 competitive advantage 那一刻开始 Google 已经完全没有选择了这个就是人类可悲的地方因为从理性的角度看它必须要一

一直军备竞赛一直竞争下去他没有其他的选择但是就是因为这种追求理性的极致才导致了这种 AI 我们可能最后变成人类不可控制的这么一个结局但是魏老师已经提前站到了这个观点的反面就是说你怎么知道极致追求理性这种想法是理性的呢你这么想其实就是非理性的

对所以我觉得跟孟严老师聊天其实有时候非常开脑洞就是因为从逻辑上其实很多东西我们习以为常的这个评判标准也许都是不是非常的坚固的那下面就是也是想请孟严老师来仔细的谈一谈这个我们人类该怎么办

针对以上的危险性其实现在刚才孟严老师已经谈到了就是大家现在对于它的危险性以及人类的这个防御措施从区块链行业的角度好像还没有什么很好的办法没有人来发声但是在非区块链的领域呢其实也有很多人在提解决方案就我现在看到的就这几种一种就是联名上书不断的呼吁我们要停止六个月停止大家仔细想一想但是这个好像也没什么用

要不就是那种威胁型就是我辞职我以身作则那其实这个还是胡语就像 Jeffrey Hinton 那还有一种呢就是教导类就是我们曾经也是跟鄂老师有聊就是有一些人工智能的科学家呢他们认为就是我们可以把人类的道德约束灌输给 AI 我们可以教 AI 怎么做人嘛可以教 AI 怎么才能实现真善美来保护人类但这个根据我们上面的观点他确实有点这个 naive

还有一种呢就是鸵鸟类的就是大家都别想了就别往那想你们科幻小偷看多了该怎么办就怎么办吧那么就是主动的提出比较有建设性的意见呢可能还是剩下这两种就一种是

防御型的就是说就比如说是那个 Sam Altman 的这个 World Coin 世界币他就是觉得反正 AI 替代人类所有工作那一天肯定会到来不如我们现在想个方案就那天到来的时候大家把自己的红膜放到区块链上吧然后我们每个人就按照你的这个红膜区块链上的 DID 我们给大家发 UBI 就发一下基本工资让你们活着就行了就是这是一种解决方案那

那还有一种呢就是主动干预型也就是那个 Ben Gurzel 就是 Sofia 机器人的发明人他自己一直在做的一个项目叫做这个 SingularityNet

就是基点项目起点项目所以说他其实他的想法呢就是试图以一种去中心化的方法来开发 AI 而不是由某一个大公司来引领 AI 就是这样的方法呢他是企图试图实现这个就是 Malvin Minsky 的那种就是将 AIAI 的发展其实应该是一个思想社会就是 Society of Minds 就 AI 的发展应该和人类社会一样就是无序混乱就是他应该能够自发自然的生长

那么这样的 AI 呢才是最符合人类社会最像人类社会这个样子的 AI 那你要这么做的话呢就势必把所有 AI 的这些开发都要这个去中心化放到各种各样的节点上然后让大家这种像社会一样就是社会的自然发展一样来自然的发展 AI 所以这个 Ben Gurzo 在做这件事就是最终是以民主化的方式达到 HDI

但是这些呢所有的这些方案还是觉得有点远就万一我明天真的被 AI 威胁到了我该怎么办那么所以我觉得孟严老师这篇文章中其实提到了很多非常甚至我觉得现在就可以开始准备起来的一些解决方案那我们就请这个孟严老师来给大家讲讲那区块链怎么来做一些事吧现在对就是关于你怎么防范 AI 的这个风险那个还是要先分清楚风险是什么

终结者和黑客帝国代表的这种风险我觉得是有办法去预防的比如刚才 Will 说的这种情况他相信这个 AI 能够给人类带来的主要是好处乐观实际上他的这个说法在我看来是他相信人类能够对于

与 AI 的威胁做出正确的回应从而达成一种最终比较乐观的效果就像对待原子弹对待核武器一样但是从另外一个角度来说这个观点我认同我不是不同意但是从另外一个角度来说还有一种威胁是我刚才也提到的就是 AI 跟人类社会的融合然后利用人类社会本身的缺陷去分化

去变革这样的人类社会的这样的一种影响方式我觉得这种方式你对付起来就非常困难就非常困难而且呢它是一种潜移默化式的改变嘛这种改变某种意义上很容易使人类产生一种什么样的心态呢打不过我就把你合理化嘛对不对然后我再把你这种合理化以后的结果宣称说是人类文明的进步嘛这不就结了吗

对不对所以这种方式其实是人类对待 AI 的一种你叫鸵鸟战术也好或者叫这个 RQ 战术也好很有可能我觉得最后是这么一个结果所以你刚才小考老师你刚才说的这句话很重要就是说可能人类还来得及做一些事情就是如果我们这一代人希望给后面的人类文明留下一些原则

希望他们遵守这些人类文明的原则那么可能现在这个时候是一个比较好的一个时间比如说我们上一代的人或者说我们在年轻的时候像我和老王这种人年龄都已经奔舞了那么就是我们在比较年轻的时候我们年轻的时候那一代人没有能够很好的留下一些基本原则导致于我认为现在网络社会已经很网络你如果把网络看成是一种 AI

它其实已经很大程度上侵蚀了我们原有的人类文明对吧你像这种尤尔赫拉利也提到类似像这种今日头条或者抖音这种给你 feed 你信息的这种工具它已经很大程度上导致了人类社会意识观念的这样一种分化甚至是一种两极对立甚至是多极对立这样的一种情况那如果我们倒回到比如说 20

06 年 07 年的时候我们说我们能不能意识到有这样的一种风险我记得当时我记得 06 07 年我还在 CSDN 工作的时候那时候就有一本书 Aureli 出来的我不知道老王记不记得叫做群集智慧 Collective Intelligence

其实那个时候就是用那个时候就是早期的我们今天叫这个是大数据后来叫大数据叫什么人工智能这样的一个东西对吧就是通过收集互联网上的这些大家交互信息然后来进行推荐然后来变成什么广告算法等等等等那个时候我们都大部分人吧应该都没有意识到这东西可能会带来的问题

然后呢现在呢其实基于这种推荐算法给人类带来的这种信息的减防刚才小跑老师你说的这个泡泡这样的一种情况其实已经很严重的影响了人类的这个文明了已经很严重了我们现在是怎么应对它的呢我们无非是把它合理化了嘛说这个哎呀这个抖音真是好啊这个今日头条真是看着爽啊

很少有人会去说这个世界已经被我们原有的一种观念包括有没有人把现在整个政治上的这种极化归咎于这种就是群集智慧的发展导致的结果呢它是不是有可能会破坏现在的民主制度呢对不对 OK 那么我个人是认为呢就是说

这种潜移默化的影响应该说是更加可能发生的也是更难抵抗的那在这种情况下我们我刚才说我最担心的其实是出现超级人工智能的政府对就是超级人工智能的治理中心

如果将来出现这种超级人工智能的中心他跟某些在社会金字塔顶尖的人物配合到一起然后他们来规范这个社会的资源分配来进行这个社会的工作这种资源还有收入这些东西的一个分配那么请问这种情况下我们今天的人是愿意见到的还是不愿意见到呢如果我们不做任何事情的话最后很可能出现的情况就是说

就是 20 年之后 30 年之后我们另外一个这个节目里面的这个嘉宾可能会说你看这个过去我们很担心人工智能啊现在我们人工智能快

控制我们这个社会不是也很好吗大家都活得很开心你有才华的人你可以去做你喜欢做的事情或者擅长做的事情你没有才华的人你看咱们人工智能老大哥给你天天注射多巴胺血清素你躺在一个两平方米的一个医疗床上你也可以很幸福快乐的过一生啊这不是变得更好了吗所以我们很容易的人类很容易在一个不可抵抗的这样的一个趋势面前把一切合理化然后把这个自诩为人类文明的进步这个是很容易发生的所以在我们现在这一代的时候我们是不是

我们是不是可以有一些原则留下去对吧当然这种原则本身也代表着一种非理性的东西你怎么知道你的原则在未来就是有意义的可能它就是一种非理性还是我们像小平同志说的把这种事情决定留给后代对吧但是如果我们现在想去做一些所谓的原则性的事情的话我认为就是区块链是一个很有效的工具我们先看一看区块链之外的其他工具有什么

比如说三妈她们她在这个国会听证会里面她讲了这四点第一是什么新政府机构对于 AI 实施监管证监会还不够要搞的 AI 监管第二要搞一个什么颁布相关标准要对 AI 公司发牌照这就显然是从金融借来的一套思路第三要求 AI 公司在发布 AI 产品前先做安全测试等等等等

这些方式你觉得有用吗对我不知道就是这次节目的听众觉得多少人觉得有用就这套方式连监管这个金融都监管不了和监管不好你何况是监管 AI 呢这种快速变化的东西所以当时在现场这个听众会一开始的时候那个美国的一个参议员就说

就说这个科技进步发展 outpace 超越监管的能力的这样的一个事情是一个常态就是这么表态的所以我觉得那个会上好像大家被这个 Sam Ackerman 的魅力所征服然后给了一个很正面的评价无非是监管者觉得你这些监管方法好像也没啥用然后你要一定要这么做也可以这么做但是就像如果说又出现一个其他国家他不这么做呢对吧那么你的 AI 发展速度变慢了

你干不过这些国家你怎么办呢咱们不好把这个话题展开说那就说 AI 的这个事情你刚才小跑老师你提到谷歌原来做 Lambda 他自己把它保密保得很好然后有一个研究员还发现 Lambda 的这个智能水平超过了预期似乎产生了自我意识把这样的一个信息公布出去还导致这个人被开除谷歌原来是这么一个态度现在谷歌什么状态不是权力竞争吗对吧

那你怎么知道美国不是这个状态呢美国也可能说 OK 我现在我把它好好的治理起来监管起来那你怎么不知道你怎么能想到未来也许有别的国家在 AI 这个方面上更加的粗犷发展速度更快那美国该怎么应对所以我想就这些议员自己也知道就这根本不管用对吧那么

该怎么解决就回到刚才我有说的这个观点包括您也提到我也是支持的就是说可能还是通过一种不是一种积极防御而是一种消极防御对通过限制你不能怎么做的方式来给 AI 画红线那么在这样一件事情上我个人觉得就是密码学区块链就会发挥它的核心价值了

光靠密码学的确可以在一台机器上或者在一个系统内去防范去给 AI 画红线但是 AI 可以把你这个机器关掉可以跳到另外一个机器上去解决问题

那么只有就是建立这种多节点的去中心化的然后多节点强制共识快速 finalize 快速实现状态变更终结状态变更这样的一种新型的系统才有可能在全局范围内给 AI 画红线那么这种画红线的方式本质来讲它不是告诉 AI 你可以做什么因为 AI 本质上是一个黑盒子

对就人工智能本质上这个黑盒子这就是他现在比较可怕的地方对吧但是区块链本质是个白盒子就区块链最大的特点就是我的账是公开的是透明的我管理我账目的算法也是公开的智能合约嘛所有的代码都必须经过验证所以我是个白盒子那么我们有了这样的一个全局白盒子这样一个工具用这个全局白盒子要求你人工智能第一你某些事情绝对不允许做第二

你某些流程和步骤你必须怎么做第三你某些这样的一些做出判断的依据和这个数据你必须把它开放出来让我们看

你把这几点把它摆得清楚的规范好了我觉得是能够有利于我们去把这个 AI 很好的规范好的当然之所以区块链能做这个事情底层还是刚才老王说的这个就是计算量密码学的这个计算量在这挡着你 AI 的智商再高你智商 200 了 2000 了对吧就是 2000 就意味着这

在人类的平均智商水平上往右边移 190 个标准差这么多人类以前从来没有见过这么高水平的智商水平但 200 还见过但是 2000 绝对没见过那么这么高水平的智商你几乎可以完成正常的我们的人类正常人无法忘记上辈的那样的一种智能水平了

可是你还是没办法去破解一个需要燃烧一个太阳才能够算出来的数学题这个是通过暴力保护算力保护来形成的这么一种壁垒这种壁垒的话我们相信呢就是说那当然将来出来量子计算那咱们也还有可以有量子密码学吧我们相信 AI 还是没办法去去逾越的在这样的一个情况下我们是可以用区块链给 AI 立法的

OK 当然我也完全赞成之前你们讨论的那个话就是这个问题还有另外一面科技永远永远是个双刃剑另外一面是 AI 跟区块链合谋去控制人类那这种控制的能力呢又比 AI 单独控制人类又要更牛十倍以上就是它能够把整个人类的衣食住行资源包括你的整个甚至你的生命捆得死死的捆得死死的所以我

我个人觉得呢这是人类文明自古以来一直以来就存在的两种路线最终在 AI 和区块链这个新的技术平台上还会发生一次竞争这两种路线就是究竟是集中的超人式的这样的一个社会组织形态好还是分散式的啊

让我们大家每个人都有个人自由和个人权利然后我们通过一种透明的交换来形成一种群体协作的模式好这两种方式究竟哪个方式好我觉得就是比较乐观的是说 OK 我们在前一我们在后一种在这种

通过区块链来构造这样一种交换市场用区块链来保护我们的个人权利把我们的个人权利边界在今天还来得及的时候就把这些原则设定好保护好然后呢我们遵循这样的一个自由交换这么一个体系然后给大家充分的自由选择的空间用区块链所构造的这样一个全球 7×24 小时

不间断的自由交换体系自由交换市场来构造一个更更加包容更加强大的一个群体智慧那个这样的一个这样的一个市场我叫市场机制的超级智慧那这是一种思路对吧这个区块链在里面扮演一个中枢的角色而人工智能在里面扮演一些需要高级智能或者高能量的这种节点所能够扮演的这个角色但是它不能够逾越我们的私人权利和私人自由的空间这是一种比较乐观的情况

悲观的状况当然就是另外一方面对吧就是 OK 出现巨大的强大的人工智能他随意的侵犯个人的隐私和个人的权利边界然后能够随意的去组合各种资源把这种资源组合能力一直把这种触手伸展到每个人的核心的自由边界之内那么在这种情况下我们

我们将会得到一个非常专制的这样的一个大 AI 控制我们生活的方方面面这就是在天网在 metrics 里面所描述的这样一个情况这两种状况其实区块链都可以帮忙

在这两点事实上都可以帮忙关键就是我们往哪个方向去选择往哪个方向去发展甚至我认为不可避免的会在未来一段时间内出现两个体系的竞争那么这两个体系竞争究竟谁赢谁输这件事情的话我就我现在就不敢说

对当然我还是希望或者我有信心应该是前者获胜但是我也没有足够的把握对吧那么在这种情况下我觉得我必须得说就是区块链是好人或者说是不能叫好人坏人咱不能用这么 naive 的价值观就是区块链是如果你想跟 AI 很好的去进行这样的一种

协作那么保持你现有基本的人类文明的价值观在这样的一个前提之下跟 AI 进行协作区块链是个很好的工具但是它也可以成为一个反面它可以摧毁人类现有的我们所珍视的这些价值观对谢谢

我觉得非常非常有意思就是大家可以再去看看莫言老师写的那篇文章其实他对从这个区块链的特性还有就是 AI 可能造成的一些影响方面他都有一些很好的对应关系我觉得刚才莫言老师提的两点很有意思一会儿听听魏老师的意见但其实我看莫言老师这篇文章似乎是解决了我一个长久以来我自己没想通的这个问题

一个问题就是为什么区块链一直它的应用在人类生活的应用一直这么积累就是为什么一直就是区块链我们好像就是大家听到过的这些理念比如说它可以保证资产的安全不可篡改保证一切的真实性等等为什么到现在还是没有就是不能让所有的人信服就这个跟魏老师其实也讨论过很多次包括我们上次线下魏老师其实还讲了一个

一个例子当然也是针对一个听众的问题他问主前个人的概念等等但是 anyway 了这个意思呢就是说那么区块链现在所有的约束机制呢其实还是在数字世界中

就是我们经常说这个区块链可以保证所有的真实性可以保证所有的执行但是如果说比如说我们在线上去交易一个就代表房地产代表我的这个房契的一个 token 然后呢这个 token 虽然给你了所有钱转移给你但是那我就是在真实世界中我的肉身就是不把这个东西给你或者就在真实世界中人类的这个肉身我就是想耍赖我就是想就是违约那区块链拿他一点办法都没有

我觉得孟爷爷老师的回答其实从一定的程度上解决了我这个问题其实区块链它最强大的地方或者说我们一切对它的期待其实它最大的能够发挥威力的地方应该是在数字世界就是说如果我们的资产就是完全是数字化那么在数字世界中在网络中生成流转以及使用等等那么在这种情况下

区块链应该是有较强的比较强的这个制约能力的就比如说刚才孟严老师提到的以及他的文章中也说的比如说那么如果说用区块链来制约将来这个强人工智能那么强人工智能当然了我们现在可以看到的它肯定也是对我们的这个数字世界或者是人类的这些网上的行为啊或者思维世界会起到一些比较大的影响那么现实世界中还目前为止还没有一个 AI 就是走过来把你给杀掉的这种情况

就肉身暂时还没有太大的威胁包括我们刚才聊的那些威胁性所以说那么在这样情况下呢可能一些重要的数字的资源比如说我们的身份啦社交关系啦社交评价啦金钱啦我们的资产我们的账户

银行账户里的数字等等这些行为记录等等这些其实都是在数字世界中我们非常重要的资产那甚至是会威胁到我们这个在数字世界中不只是金融还是经济还是其他一方面就是思维的安全性的一些重要的东西

那么如果说用区块链来加以保护的话那无论强人工智能有多么强那么如果说区块链在数字方面大家在一个这个战斗场上就是在一个数字世界的战场上来以子之矛公子之盾两边抗衡的话那么也许它确实是一个在数字世界中的解决方案

所以说我觉得对于现在的安全机制我们大家现在想的对人类社会的这些比如说防御机制也好主动攻击的这个抵抗的安全机制也好其实基本上还是本质上都是基于人类的意志我们自己的组织方式自己的纪律和规则

对于数字世界来讲呢那可能是另外一个能量场是另外一个级别的较量那么在这种较量里边呢可能人类不会起到太大的作用但是人类发明出来的区块链呢可能跟 AI 是一个相反的这个抗衡的关系所以我觉得区块链的真正能力可能不是针对碳级生命的可能是针对硅级生命在数字世界它可能有更大的发挥的这个余地

很早就有人说区块链其实是给机器人准备的对啊对那威尔老师怎么看对正好说到这个话题我就把我前一段时间的一些总结说一下然后再回应回应就其实确实整个区块链行业我觉得大概很多年前就说到说包括像比特币这样的东西其实也不是给人用的就是给机器用的

那么后来呢不得不说一个老生常谈的话题啊就是借着第四这种观点来引出新的想法就是后来呢出现一种理论说人工智能是生产力区块链代表生产关系对吧这个我们聊过很多次了但是呢我是谈过几回就是说那生产力生产关系这种理论它是一个马克思主义经济学的一个理论那我要是不相信马克思主义经济学

难道我还必须得接受这种观点吗那么如果不接受这种观点又有什么好的角度来描述区块链跟人工智能的关系呢那所以这里面就产生一个矛盾就是说区块链你又说是给数字世界用的对吧然后呢你又觉得说它可能不能代表人类社会的生产关系

那在这种情况下我们就发现数字世界是什么呢就缺失了一个要素其实就是个体就是在我们以前说区块链是数字世界的一种

关系的时候那你会发现它是谁跟谁的关系如果连这个个体主体的概念都不存在的话那这个关系就没有用了嘛这就是为什么以前大家以为区块链可以用来约束人跟人之间的关系或者叫生产关系是因为我们其实没有想到数字世界的个体是什么

在人工智能出现以前这个问题确实没有答案为啥呢因为在那个时候我们默认认为数字世界的个体其实是现实世界人的一种映射对吧就是你上网你就有个 ID 当然你上多个网你有多个 ID 然后后来又发展到区块链你生成一个密码

公钥私钥对你有这个密码那么你也代表了数字世界的一个个体所以其实以前数字世界的个体全都是人类社会的个体在通过网络映射到数字世界的一个一个 ID

那他们其实没什么用为啥呢因为就算区块链能约束这些个体之间的关系那他也不过就是约束现实世界当中人的这些映射就回到那个问题了嘛对吧就是你区块链上可以约束这个房子已经属于我了但现实世界我不给你嘛对吧其实就这个问题所以等到有 AI 出现的时候你发现这一切问题都解决了

为啥因为 AI 天然就是数字世界的个体对吧尤其是现在大家看最近炒的比较热的我不确定它能不能实现就是所谓大模型缩小化我只能把它叫大模型缩小化就大家在现在在吹嘘说我在我一台 PC 上也能达到比如说大模型的效果或者甚至我在手机上我都有一个 AI

咱们先不说未来这么小规模能不能实现就算不能实现那我弄几十台服务器或者一个小机房我大概也能实现一个差不离的一个 AI 吧对吧那从那个时候讲这些 AI 生活在这个数字世界他们就是数字世界的原住民甚至是一等公民

到那时候你会发现我们人通过上网产生的那个 ID 搞不好其实只不过是个二等公民而已对吧所以从这个角度来讲有了数字世界的个体区块链反而一下子这个逻辑就通了也就是说区块链就是数字世界的关系

所以前一段时间我们参加那个 AIGC 的大会的时候我确实是头一次提出来就是我觉得一个更好的表述方式就是 AI 是数字世界的个体科技而区块链是数字世界的关系科技

我觉得从这个角度来讲其实逻辑是比较晚辈对然后再进一步身份与契约身份与契约没错就是区块链实际上还是代表数字世界的一种契约关系对但是数字世界的身份不单单是人在其中的映射而是包括原生的

或者原生的这个个体那在这种情况下其实很多问题就能够得到解决比如我先举一个例子讲第二部分就是所谓 AI 对人比如说产生了欺骗或者说控制人的思维那个时候你就会发现说其实这件事你得反过来想不要站在人类中心的主义的角度去想你应该想想 AI 如果能骗到你他造的那些假话

或者那些他想灌输给你的思想那不是存在于数字世界对吧就我们先不说就是排除掉那个他能化身机器人来杀人那个事对吧我们不是说了我先把那个排除掉所以在这种情况下你其实应该这么想就是那是你进入到了数字世界然后你看到了那些信息然后他对你的大脑产生了影响对不对所以从这个角度来讲其实还是你的问题

如果你要是建立一套机制或者你自我的一套识别机制能够去识别这些东西然后意识到说这是我在数字世界当中看到的那我是不是要在真实世界当中 verify 一下这个事实际上现在大家对于 ChatGPT 的使用都已经提上意识日程了对吧

就前一段时间有个很有意思的例子,就是说 ChatGPT 它会告诉你说,两个作者,一个 A 一个 B,他们和写了一篇文章,是关于什么什么什么的,然后连那个 reference 的 ID 都给出来了,但其实那篇文章不存在,因为那两个作者确实是同时研究这个领域,然后他们和写过很多篇文章,但其实这篇文章是 ChatGPT 编出来的,

没有但这件事情那你必须在真实世界当中 verify 对吧不然的话那你实际上是受到了来自数字世界的欺骗那还是你的问题那不是数字世界的问题对吧因为真实世界当中人也会说谎对不对所以从这个角度来讲

就引出来我想说的这第三点就是刚才说的我们能做什么的问题刚才我上一 part 提到的就是说我们通过区块链 code is the law 来制定一些数字世界的一个规范或者标准或者法律让机器人也突破不了这是我们面向数字世界的那个方向然后反过来我们还应该做一件事情就是数字世界影响我们的那个方向

也就是说现在的人因为大量的工作都在数字世界当中所以你应该去天然的去学习和具备如何去判断数字世界给你的信息哪些是真实的哪些是虚假的或者哪些是想要影响你的思维的

这个东西其实一样的嘛,就跟人类社社会发展的这几百年里出现同样的东西,各种什么邪教啊,主义啊,反正一样的事情,你有没有一个原则,你有没有一个底线去判断他们的真假,所以其实我觉得这两件事恰恰就是两个角度,就一个角度你希望用人类的方式去约定一些规则,把它写成代码扔到数字世界里,

来约束数字世界的个体然后另一方面你也得想

一套规则一套体系就数字世界吐给你的那些信息反馈你辨别真假你要怎么做的这些事我觉得现在来讲就是第二步看样子也是因为受到 open ai 的激发大家都开始讨论就包括刚才说的这些不管你在国会听证会啊还什么还是什么科学家上书啊就是得到的这些结论其实应该包含

这个方面就是包含数字世界反馈给人闹的这些东西人的社会怎么鉴别这套机制我倒是觉得说其实还回到咱们经常聊的那个话题就是等到新一代天天跟 AI 打交道的人类成长成为这个社会主流的时候他们其实大概率是具有这样的技能的

对吧就我们现在是因为几十年跟人打交道没有跟 AI 这样的东西打交道我们担心我们不具备这样的技能这很正常但是还是我那句话 30 年理论就是去年底出生的小孩他们是在 chatGPT3.5

出现的时候出生的孩子当他们到六七岁七八岁的时候他们已经能够在小学幼儿园这样的级别上都已经能够看到一些新闻或者父母的聊天甚至他们

都已经敲过跟 chatGPT 聊过了然后等到他们再有个二三十岁的时候他们的那种思想成熟度就一定包含了跟 AI 怎么打交道的这些能力所以我觉得其实这件事你会发现最终变成啥就是变成我们有两个平行世界

对吧 就是一个数字世界 一个现实世界以前我们一直认为数字世界不过是服务于现实世界的一个附庸一个工具

可能以后我们还得尊重一下数字世界,就我们知道数字世界跟我们现实世界是个平行世界,好吗?你进去你退出,咱们要走平行世界之桥吗?对不对?然后你要有进去的东西,你要有出来的东西,从这个角度讲,我倒,

最后想补一句就这个 world coin 挺好玩的有空我们聊聊这个加密技术的一些特征就这个 world coin 它实际上特别典型就是它其实是一个集合了两类加密技术的一个特点一个红膜的加密技术呢我们一般称为可靠性加密技术就是说你连续 n 次识别你的红膜都能得到一个结果

这是今天不展开了然后区块链然后哈希算法呢我们一般称为脆弱性加密技术就是你只要改变一点点就知道不是你或者说你花多大的算力你也伪造不出来因为你伪造出来一定是错的

然后 World Coin 你看就是用红膜存在链上这件事其实单纯靠区块链是做不到的还需要现实世界当中的这种可靠性加密技术才能够做到所以其实你从这个 World Coin 这个角度讲你就会发现这个模式这个 pattern 其实就是一个挺好的现实世界与数字世界的这个平行世界之桥对吧那以后我们可能更多的

得建立其他的巧比如说叫做有个教程叫如何读懂 chatGPT 反馈给你的数据对吧如何判断 chatGPT 是否在撒谎这样的一些东西出来我估计可能就是未来我们大概率就慢慢慢慢要建立起来的这套体系嗯

是的也许未来的这个元宇宙是就真的是变成了第一层宇宙我们现在这个宇宙就是第二层就是大家拿着那个 work on 那个红膜那个大球我看那个 open air 它有个大球就是你那个红膜在那个球上然后录入区块链里面那个才是你 proof of human 的一个就进入第一层元宇宙的入场券

就这么一想每次跟魏友老师聊完之后我就莫名其妙的乐观了起来当然就后来很可能会转念一想又觉得哪里不对然后继续悲观但是在魏友老师强大的逻辑面前就经常会变得莫名其妙很乐观因为逻辑实在太强了无法反驳那个孟严老师还有补充吗这个怎么说呢这个

老王的这些观点我以前也听他在别的场合聊过关于这个平行世界之桥什么的这些我们都是共识要不然我们也不会一块做 SOF 这样的事情对吧但是我一直有个看法就是说这个就是我觉得其实刚才小跑老师你说的那个现实世界这个人非要耍赖这个问题其实不是区块链第一次遇到

在原来做互联网的时候已经遇到过一次对吧最早做这个 03 年 04 年我在 CSDN 参与做当时一个早期的电商网站那时候遇到的最主要的问题是什么最主要的问题就是快递把货递到了之后从用户手里直接收了现金然后快递员消失或者整家快递公司消失这不就是

网上的资源网上的合同跟现实世界之间的脱节嘛对不对那么后面是这个问题是怎么解决的呢就是通过一系列的制度建设大家慢慢去把这个问题解决这并不是说这个问题无法解决之所以区块链到现在为止大家对这个事情感到

感到比较失望我觉得有两个原因第一个就是相对于互联网已经建成的这一套线上合约跟线下之间的映射关系而言区块链的这个这种脆弱性就跟现实世界的连接之间的这种脆弱性是显得比较扎眼比较扎眼第二一个呢区块链的主张跟现实之间形成了比较大的一个反差

第三一个就是区块链的这个上面的这些资产的估值时高时低跟他在现实世界当中的这个表现之间有形成了比较鲜明的反差是这些原因我觉得导致了这样的一种差距或者这样的一种不满

实际上我甚至觉得都不用等到我有刚才所说的当我们整个人我们 30 年的时间我们新一代成长起来他们的主要的活动或者主要的资产已经数字化了不用等到这一天在我们这一代在我们未来的这 5 年 10 年

只要通过一系列的制度建设强化现实世界跟区块链上资源的整合再加上像机器人自动驾驶设备这些东西直接受控于人工智能和数字个体就刚才老王说的这个数字个体

你要想到这种数字个体它不一定是来无影去无踪没有形体的它可以是有形体的可以表现为一台自动驾驶汽车可以表现为一台无人驾驶机表现为一个机械战警这个已经开始出现了对吧表现为这些东西之后实际上数字世界反过来对现实世界之间双方之间加强相互约束这种能力不用等到新一代人起来

五年到十年的时间里面我们就会看到很强的连接出现特别是我们已经看到了这样的一种动力或者一种动机的出现这个小跑老师你是金融专业的你也知道现在目前全世界的金融正处在我认为处在一个节点上吧

这种节点本身是有机会触发或者推进加速刚才我们所说的这种平行世界之桥的地节的对这种这样的一个动力我们现在已经看到了对吧为什么现在这些国家这些主要的这些国家都在加速它的这个央行数字货币 CBDC 的发展那么我觉得我在这方面倒是比较乐观我相信就是区块链这种对现实世界的绑定和约束作用其实是会很快的加强

这种加强的会跟人工智能与区块链之间的相互作用是一个共同的一个过程是一个相辅相成的过程但是我还是得说回到我刚才一开始所说的这种相辅相成的过程它的走向其实最终还是取决于不同的思想不同的社会制度不同的一些基本观点最后我相信势必会出现两个体系之间的竞争

一个是这种集中化的中心化的这样一个体系还有一个就是分散化的市场的这样的一个体系民主的这样一个体系这两个体系之间的这样一种竞争所以还是回答不了小炮老师你一开始提出来那个问题我究竟是乐观还是悲观我觉得大概率最后我们人类是是乐观的面对这一切的方式是通过对于不可抗拒的现实采取合理化的方式来乐观的迎接未来就是

这是我的一个算是一个结论战略上悲观战术上乐观是什么大概是对都是无痛的然后都是很开心的然后现在的年轻人不愿意结婚不愿意生孩子

不愿意买房主流社会对他们是迟疑的批评的态度那么以后有可能这个成为一个非常主流的一种观点然后而且整个社会体系包括科技都为这种观点提供便利你不愿意结婚不愿意买房没问题我给你安排这种胶囊的这种公寓然后在里面你可以享受各种我刚才说的就最直接的办法就是直接给你注射多巴胺血清素这多好啊对吧嗯

好吧好吧所以最后还是我们要靠多巴胺这个血清素这种化学物质还是 AI 没有的我们就守住最后一条线那今天非常开心两位老师我们一起聊了 AI 其实刚才孟爷爷老师最后那段也透露了我们下边要聊什么了那我们其实两个其实也是到最后的这一段这两件事还真是很有联系

所以呢就大家就敬请期待我们下一期再聊真实世界资产的这个话题吧那我们今天对 AI 的悲观或者说乐观或者是这个悲观化的乐观乐观化的悲观等等等等我们的这个讨论非常有成效至少我们知道明天该干嘛了那么非常感谢两位老师那我们今天的讨论就到这里那我们下一期再见好的谢谢小泡老师拜拜