Deep Dive
Shownotes Transcript
哈喽大家好欢迎来到这一期的文化有限我是星光我是超哥我是大一大家好啊最近这两年呢科技新闻里面必然出现的一个内容就是关于 AI 也就是人工智能的进展尤其是国内外各种不同的公司现在都在做的那种大模型产品几乎是以每周的速度在迭代而且他们互相之间是有对标竞争和比拼的技术的进展也是日新月异
最开始的时候解答你的问题帮你总结段落大意中心思想这些现在都已经太基本了包括滑图做视频写代码甚至做播客都可以说是越来越走向一种只有你想不到没有你做不到的地步
那必须事先声明我们今天这期节目不是 AI 生成的我们仨还在认认真真地做呢我们仨还没学会我们也弄了一个大模型正在训练呢那正是因为这两年这项技术的爆炸式发展说到爆炸式发展就让我想起了三题里边刘慈欣写的那种技术爆炸我觉得现在 AI 的这个技术的进展就是一种技术爆炸而且比人类以前的科技发展还要更炸
伴随着这种爆炸式发展而来的是许多新的问题这些新问题在技术出现之前其实我们根本都不会去考虑的因为它和技术本身是密切相关的甚至可以说这些新问题就是技术本身比如说对于 AI 对于人工智能来说归纳起来的话最大的一个问题就是人工智能到底会不会在未来的某一天成为威胁人类生存的一种东西
那面对这些新问题我们要怎么回答其实是没有参考答案的咱们说得摸着石头过河但是人类又是特别擅长路径依赖的一种动物所以如果我们从历史当中去发掘和回望我们人类文明曾经遇到过的一些旧问题比如说针对于这些旧问题我们是怎么想的怎么做的那最终结果又怎么样也许就会对我们今天面临的这些新问题有一些启发和参考的意义
因此我们今天来读尤瓦尔·赫拉利的这本《智人之上从石器时代到 AI 时代的信息网络简史》这本书就是为了从历史的角度去梳理和看待 AI 这个技术它在当下和未来所具备的能力和潜力以及更重要的是它对人类文明有哪些可能的威胁我们能不能解决掉这些威胁怎么去解决有哪些经验是可以附用的哪些教训是应该吸取的
他这本书给我们的可能并不是一份正确的答案因为其实我们现在大家所有的人都在摸着石头过河而且这项技术的发展实在是太快了我认为根本上其实也不存在什么标准答案如果说有谁写一本书跟你说这个就是 AI 这个问题的标准答案那肯定是个骗子没什么可说的对吧
因为我们现在没有人知道标准答案到底是什么这个技术本身它还在不断的发展那我们通过尤瓦尔·赫拉利的这样一本书其实它更大的意义在于它会加深我们这些外行人对这项技术的了解和理解同时对这项技术本身来说
我觉得看尤瓦尔·赫拉利写的这样的作品它也是相对安全的因为正是因为有尤瓦尔·赫拉利这样的人在这项技术它本身就不会是狂飙突进不管不顾的很快进入到一个危险在即但是却无法挽回的地步
有这么一个反思派就像我们学开车的时候总有一个坐在你旁边的一个教练他那脚底下也有一个刹车那个刹车跟你这边的刹车是连在一块的而且他总会在你耳边提醒你说慢点慢点看着路要执行要拐弯什么的就有这样的一个人在或者是有这样一种声音在
那在这项技术不断向前发展的时候它就会成为一个提醒成为一个警示甚至是可以引导你这种声音我觉得是非常宝贵也是非常重要的所以我们今天来好好的读一读尤尔赫拉里的这本书看看他是怎么样充当这样一个角色的怎么做好时代的副驾驶对他又梳理了哪些人类历史上的旧问题进而提出了面对 AI 带来的新问题的看法和解法的
首先我们请超哥来跟我们说说这本书的主要内容怎么写的他是分了哪几个方面哪几块来给我们论述的我在这边看超哥感觉跟翻卷子似的是我在翻因为这本书特别体贴给配了一张脑图这张脑图就是把所有的书里边的这些重要的观点以及他们这个观点是怎么推导出来的他都
论证过程都做了一个脑图放在这张纸上但这个纸巨大这是多少开的呢四张 A4 纸这么大大概同时是正反面都印满然后这个这张图上还贴心的写着两行字两行注意事项他说第一叫标信号位置是本书中作者强调的观点第二本品不能代替读书呵
但是负责任的讲我觉得如果就是配上这张图翻这本书你大概翻一翻然后看这张图基本上就是能明白这个书里到底在写一些什么不复杂尤其是如果你曾经读过
尤瓦尔赫拉利的前面两本书就是人类简史和未来简史那两本简史之后再读这本书你可能也会更加轻松因为其实前面的很多章节都是对他过去两本书就是内容还是那些内容但是提出了新的视角和看法
如果你是第一次从这本书开始认识尤瓦尔赫拉利那你可以认真读一下读完之后呢再去翻译一下其他那两本书可能就会对书的前两个章节理解更深刻啊认识的也更全面是这样的为什么这么说呢就想给大家介绍这本书写的是啥
这本书的名字叫智人之上智人之上刚看这个题目觉得这是在写什么智人其实就是讲我们人类的祖先我们人类就是通过智人这一支演化而来的那智人之上可能就提了个好问题说哎呀
什么东西还比我们人类更牛呢人类之上还有是什么呢以前我们可能回答这个问题都是宗教对吧我们人类之上可能是不是有神或者是有一种我们无法控制的神秘力量是不是外星宇宙但是那个外星宇宙里边的生命是比我们
更高级还是更低级不知道智人之上这本书里边他提出了一个观点什么是在我们智人之上的那就有可能是未来的 AI 技术为什么呢因为未来的人工智能就可能发展到了我们人类无法控制的程度而且举了大量的我们以前未曾
公开过的这个数据表明其实在现在已经有很多 AI 发展到了就是大家发明它的人也无法理解它算法的程度这就让我想起了我们之前前一段时间咱们观众特别熟悉那篇文章就是关于算法被算法驱使的外卖员混在系统里的外卖小哥对
读完这本书之后就首先就让我想到说可能啊就我们以前总觉得是平台在作恶读完这本书之后我就在想说可能这也不是平台那个写这个算法的人能控制得了的可能他就是发了个简单的指令然后就一发不可收拾了发了个简单指令地球就灭亡了跟那个回星之日打了个响指对对对那这本书它的因
中文名叫 Nexus 就其实更接近这本书真实想写的内容这个 Nexus 其实就是连接连接对然后它的副标题叫从石器时代到 AI 时代的信息网络简史所以它又是一本简史叫信息网络简史它台版的翻译就叫连接就是直译的对这个简史分了三部分第一部分就给我们介绍说在这个科技诞生之前呃
这个信息是靠什么来传播的然后这部分就是我们熟知的就是个故事对吧我们靠讲故事还有这些印刷术的发展靠这些技术人们是如何连接的在这一章节里边作者提出了一个他自己的观点叫什么是信息信息的本质是什么他认为信息的本质就是连接然后
他论述这个观点的时候他力举了以前我们对于信息的一些其他人的一些观点和论述他认为这是不对的这些观点包括以前我们觉得什么是信息呢我们可能觉得就是那些附着信息载体的为了传播事实真相啊这些东西就是一个虚拟的东西叫信息
但是并不直指那个虚拟的那个东西是信息就是作者自己认为他这部分的观点有点像我们都熟知的那个传播学观点一样就媒介也是信息他举个例子比如说在过去我们都是靠信哥来传播这个和平的任务的吧信哥显着橄榄枝在传播这些停战的消息你看现在那些信息早消失了那这个传播这个消息的信哥和橄榄枝本身就变成了一个和平的象征了你看
这不就是媒介也是一种信息的一个特别典型的例子就很多这样的例子来论述这是一些错误的观点然后另外第二个错误的观点他想驳斥的是啥呢就是因为大家认为信息是这种要传播某种真实的信息和真实的反应客观事件的这么一种东西如何来评价这个信息质量的高低有一个判别的标准过去的标准就认为说你传播的信息越接近真相
你的真内容越多那你就是越高质量的信息但是赫拉利不这么认为他认为如果在他的定义之上信息是为了促成连接的那么就是你连接的东西越多或者说你能只要能促成新的连接同时这个连接能指导人们在实践当中得以运用哎
那你就是个厉害的信息了比如说故事很多被人相信和传播的故事这就是一个厉害的信息这一盘可以总结为作者自己提出了他自己的信息观他的信息观还有很多我就不展开讲了但是这个因为有助于我们理解下文所以我先把这放在这这是他第一个
第一趴第二趴就来到了我们现在比较熟悉的时代有了互联网之后那这个信息现在是怎么传播的那在这一趴里边我觉得有一个也挺有意思可以跟大家分享就我觉得很助于我们理解现在这里边他就提出说
因为我们过去老觉得说是不是那个越精准的信息越厉害在这个鄙视链里边应该处于更顶层但是赫拉利发现说到了我们这个科技有网络的助推之后你会发现其实越错误的信息就属于我们说的谣言其实比真相更易于传播为什么他又说因为真相往往都是很复杂的但其实人这个物种啊
本身他就更愿意接受这种简单的而且是带有情绪越激烈的这些内容更易于被传播因此我们就会发现在今天的网上可能这些不实的消息或者我们打双引号的坏消息就是要比好消息更影响我们人的生活谣言永远比真相跑得更快
对而且会更对人的影响更大对然后这一部分的论述也很复杂除了我讲的这个信息之外他其实还讲了很多就是在今天因为信息的特质那就变成了说谁掌握了信息谁就掌握了这个社会经济乃至掌握了世界对就是因为有了科技的助推之后信息的功能再被无限的放大所以在今天非常重要那第三部分呢其实就是作者对未来进行了一些展望有了人工智能
之后而且是这个人工智能不是我们今天知道人工智能而是人工智能进一步发展这个社会会变成怎么样世界会变成怎么样我们还有没有办法控制这是作者在第三部分主要沉住的在第三部分的时候作者提出了一个非常非常可怕的预言他说
如果按照他的设想有一种可能性就是人类发明出了人工智能之后发现我们终将无法控制他就是算法和算法自己在对话算法和算法之间形成一种独特的加密的他们自己的语言然后人无法再从中对他们进行了纠错也无法停止无法进行干涉因此那个算法很有可能就出现一个角色说你看我觉得人类是一样
一个多余的或者人类是一个碍事的他有可能这个算法发生一些些突变就把咱们人类就都干掉了因此说很有可能 AI 的发展如果超出了我们人类对他的控制那么人类的未来人类的末日其实也很近了而且他做了很多论述这个时候很恐怖
很恐怖好像是你觉得我们真的是无法阻止这一切的到来我们现在已经站在了一个十字路口只能做一个决策说咱干还是不干干了就有可能往那边走啊你得想好了就是现在感觉在这个书里边我们来到了这个非常重要的分岔路口但是作者也给了一些他自己的解决方案但这个
对
要回归人类的本质吧我们要不停的跟算法说你要更善人类福祉为第一但是这个福祉是啥谁来定义呢我感觉也很难没有特别具体的对对对他其实也是个学术著作但是他的学术著作可能跟我们过去读的论文也有很大的不同是在于过去他可能有一个总论点提出问题分析问题解决问题那
特拉利的书呢它的特点就是它在不停的提出各种各样的问题所以呢就这本书如果你列出来清单可能不能列那种竖状图更多的就是 1234567 就是平行的因为它列了很多的
观点他举了很多的事实但是这些观点之间可能并不是那种总分的关系不是总论点和分论点的关系而是大量的观点在里边因此大家读的时候要有一个心理预期在反正我读的时候就说哎
怎么又讲这个了我以为这个小论点是对上一个支撑发现不是他是又岔开荡开一笔又提出来一个新的观点但是总体来说这个干货非常多而且确实给了我们很多的视角来看现在同时也能看未来就大概是这本书讲的内容接下来请大老师给我们介绍介绍尤瓦尔·赫拉利还有他的一系列作品包括他为什么能写出这样的作品对
刚才超哥介绍完这个书在我看来这个书它主要就分两部分第一部分就是上面它对信息的定义就是我们到底把什么看作信息因为这个东西它太大了就是你怎么定义大你怎么定义小它变成了一个我们这个世界的基本元素之后你还拿什么角度和语言去描述它这件事情很重要赫达利就是通过《智人之上》这本书从信息的角度我觉得重新梳理了一遍历史
然后比较偏悲观的感觉我觉得是这样有一种说法就是他是那种警惕派他是让我们看起来就是说一切都要比较谨慎的所以前一部分他一直在讲信息这件东西我们要怎么定义什么不是信息比如刚才超哥说的和平哥当年他闲着橄榄枝还是带着信的时候他是信息但是后来他变成文化符号了之后他变成了甚至错误的虚构的故事之后他还是不是信息他
举了很多这样的例子告诉我们什么是信息什么不是信息他怎么看待信息没错然后信息的作用是什么他也提出了两个信息观相对应的一个叫天真的信息观另外一个叫做实际或者说复杂信息观天真的信息观很简单他就认为信息越多越好是一个比较天真的想法当然赫达利他是持另外一种态度他不认为信息是要符合天真的信息观我们以前也会有这种妄想对
你在互联网出息院的时候我们都说所有人把信息都公开之后那世界就变成地球村了我们就可以平等了这种是我们初级的初代的天真的信息官都会觉得信息越多越好尽管会有错误的围观改变中国以前会有错误的信息但是你到现在你看围观能改变中国吗人家让你围观什么其实是有数的对吧所以天真的信息官并不一定奏效那么与之对应的就是那种复杂信息官就是信息在
不同的体制里面起的作用是完全不一样的这个体制包括宗教包括历史包括国家政体然后说到国家政体就变成了后面的主要大部分就是它分两派就是民主制度和极权制度分别是怎么利用信息的就是信息的排布方式比如在民主的
系统里面信息是分布式排布的就比如说每一个什么法院立法院审判院什么议会国会不同组织对去中心化信息是分布式的放在各种各样的组织里面的那么这有一个什么好处呢就是大家可以交叉验证大家可以相互修正然后信息的流动是不会被谁统一把控的这是民主系统里面的信息的排布方式那与之对应的就是极权式的
那极权社他也列举了从古代的君王到现在的很多的极权政体他举了一些例子说信息是集中分布的就是信息是往一个点去汇聚的那个点他如何去判断他可能是一个人可能是一个思维方式可能是某种口号
一个点对于信息的处理方式对于信息发布控制的方式是会影响到环境整个国家的命脉的所以他就把信息在集权和民主体制里面这分了两 part 去讨论然后紧接着就到了我们
现在最关心的就是 AI 的影响就是他探讨这个计算机计算机政治计算机网络到底是什么然后这些 AI 出来之后这些信息就是不经人或者说曾经被人创造出来但是后来逐渐脱离或者是在人的眼皮子之下肆意流动的这种 AI 电子的这种人工智能的信息出来之后对极权政治对民主体制都会有什么影响以及他们会再怎么利用它
所以他是从这个集权和民主的角度切入去谈论计算机政治或者 AI 对于未来的影响的当然我们也可以用很多别的角度我非常理解超哥说怎么谈谈到这了凭什么到这就如果比如我们从经济的角度从社会学的角度还是从政治的角度还是从纯个人的角度
他都可以去谈因为这件事情他对每一个人都有影响覆盖的面真的是太大了对只不过是赫拉利在这本书里面他采取的切分的方式就是先从比较大的谈就是民主和集权这两个系统是怎么利用和使用信息的就这么一本书然后说回赫拉利
他应该是在当代最具影响力的历史学家作家还有思想家然后书里面他也说很多人叫他未来学家然后就让我想到 KK 凯文凯利上一个我们如此的对他的想法对他对未来的看法感兴趣可能还真的是凯文凯利是 KK 凯文凯利那一会我们可以对比一下就是尤瓦尔克拉利和 KK 他们之间的那个异同到底是什么
那赫拉利他是 76 年出生在以色列毕业于耶路撒冷的西伯来大学然后在牛津大学得到了一个历史的中世纪历史的博士学学位然后他刚才我们说的几本书都很重要就是人类简史未来简史还写过一本今日简史那个可能就不像
那两本书那么著名金日杰以及最新的《智人之上》或者我们叫它《连接》这本书纵观赫拉利的一个核心的思想观如果这几本书我们都看过之后你会发现他一直在讨论人和信息的关系或者人和故事的关系
人类简史应该是 11 年在以色列出的然后 14 年全球发行当时我记得咱们这边也是很多人在看 10 年前赫拉利在人类简史里面他提出的一个主要的观点刚才超哥也说了就是我们智人和尼安德特人这两只尼安德特人为什么灭亡智人能活到今天就是因为我们智人有虚构的力量有相信故事的能力他提出了一个观点叫做想象的共同体对吧那今天对
在《智人之上》这本书里面他也提到了一个叫主体间的现实就是信息主体之间产生的比如说咱们三个都相信我们在做一个叫文化有限的播客那你文化有限的播客你摸得着吗你拿得住吗拿不住但是我们仨为什么在这干这个事呢因为我们三个和这
听友们我们相信哎这么有这么一播客我们在这做这件事或者我们相信这东西叫播客我们干的事叫播客没错没错所以我们在三个人之间和听众之间产生了一种叫主体间的现实的虚拟的播客这个东西啊
这种东西它非常多公司就是这么个东西你摸不着公司在哪对吧但是为什么大家每天都来这上班都在这做着干事呢就是因为我们相识有这么个东西主体的现实或者说他当年在人类简史里面提到想象的共同体的概念很重要然后在人类简史里面他也提出了三个革命第一个革命叫做认知革命认知革命就是大约七万年前智人学会了想象有了庞大的社群大家可以互相帮助然后到了
一万两千年前吧农业革命从狩猎采集变成了农耕社会然后我们带来了食物生产力的提升但是也带来了不平等和剥削阶级结构就产生了第三个革命科学革命就是 500 年前到今天科技资本全球化带来的对于我们整个人类社会的影响这三个
这三个革命算是他的核心观点然后后来未来简史这本书他写的很快刚才说 14 年出的然后未来简史应该 15 年就出来了但是他肯定在以色列是更早未来简史的副标题叫从智人到神人他就比较面向未来了在未来简史里面他当时也提出了一个说 28 分我记得好像是 28 比例就是未来可能
80%的人是大数据的材料语料对吧你就生产数据就行了训练的材料然后还有 20%的人是说从智人到神人或者说从智人到智神那个智神就是说你是制定算法的人
你可以凌驾于大数据然后去操作更多的事情但是到我们现在今天在看智能之上的时候你会发现 20%我觉得都说多了说了也举例子嘛说华尔街的人很多人都不知道金融的规律到底是什么不知道股票的原理是什么大部分人都是这样的但是他们在做华尔街的许多事情在操纵国际金融的上上下下
那这些人其实都是在利用这些工具好那现在我们又经常提到一个词叫端到端叫黑箱处理对吧什么叫端到端就是这一端你出出的指令和那一端做出的动作中间经历了什么我们已经不知道了没有人知道了没有人知道了这不是说一个制式的问题而是说这个东西它被发明出来之后就像人脑一样
你看到什么和你做出什么动作那个人脑的结构和 AI 的那个算法它内部的运算过程已经超越了我们所有人的认知了它不是一个手表的机械结构就以前我们认知社会是通过那个机械结构的逻辑链来实现的就是
这你看这板翘起来了然后提起一根绳然后掉下来一个珠子可能是这样是我们非常本能的原来曾经习惯的认知世界的方式那种物理模式机械模式但是到了现在我们进入生物的不可测的端到端的黑箱模式之后我们就会面临更大的挑战就是你不知道对
这一切是怎么发生的那你既然不知道怎么发生从原因带来的结果你就不可控你就身体没法调整书里面也说到很多你不是说改一个参数外面小哥就不会被困在系统里了而是说你说我这平台要盈利结果导致了外面小哥困在系统里这件事情很难你说通过 1 比 1 的什么扶植或者说什么降低劳动时间去调整它输出不可控
对他就也是有几个关键的预测第一个他说数据主义的崛起我们现在也感受到了一切都是数据的都是可衡量的就像我们刚才说的你让机器去照顾人类的福祉那啥叫人类的福祉你得数据化你得可量化对
幸福指数吗还是说这收入呢还是物价呢还是购买力呢这都不知道连我们都不知道那未来你怎么能让机器知道呢很难啊然后第二个预测就是生物技术会改造人类这个我们已经看到了当然这里面有很多好消息就是你可以有很多治病的给不健全的人他们重新获得生活的机会这是非常好的
但同时他也有可能说脑机接口突破生理极限造成一些数据的技术精英马斯克不也在研究这个事脑机接口真的接入之后一个人全知全能了
会不会在我们当代就是在我们有生之年见到我甚至都觉得有可能然后第三个预测就是人类意义的消失刚才我们说了你的所有的行为你的目的都已经被取代了甚至能被 AI 预测之后 AI 比你还了解你所有人比你了解你政府比你了解你大数据比你了解你商业比你了解你的时候你还是谁
这个问题最近这几年我觉得我也频频的遇到你看到核心各种社交媒体上面讨论的观点发出的照片做的图你出去旅游的时候你那个自我到底在哪你是拍了一张网红打卡的照片网红机位的照片还是你被一个千万人已经感动过的东西再次感动你的独特性到底在哪这个人类意义已经在不管是 AI 预测这件事情而是说在网络时代大数据时代当我们能看到所有信息之后
我们要面临的新的问题就是我不独特了自我的消失对自我的消失我不独特了我是别人重复过的无数个照片里的那个机位我是别人发表过很多精妙观点之后的观点的时候我还是谁我还有意义吗我们为什么还要做这个事呢对吧
这是未来简史然后到了今日简史可以简单提一下他就是提出了一些当代正在面临的问题比如说全球化国家主义气候变化等等这就不赘述了再到今天我们要聊的智人之上就是他说信息如何塑造人类社会这本书这就是赫拉利我觉得赫拉利这几年他的这些思想
给了我们一个很重要的我觉得踩刹车是说没什么意义就是你踩不住这个刹车而是说他提供了给更多人去了解反思不同角度的事情因为在他这本书之前我们有从
信息的角度去想象看待这个世界是怎么运转的那他从这本书古代到现在宗教包括还写到猎巫行动对吧写到国家主义去怎么利用信息集权和民主体制利用然后算法怎么利用像操纵那个缅甸的大选和当地的武装暴力他是怎么煽动起来的这些事情我觉得他做了一个梳理很当代很重要他是否对未来产生了
正确的操作级别的提示他一是也做不出来二是我觉得可能也不需要就是没有必要他还是这么一个态度然后说回来我就刚才说一提到他我就想起 KK 凯文凯利凯文凯利的几本书可能很多朋友也都看过
失控必然还有技术元素这都可能最著名的 KK 和赫拉利相比俩人大概差了 20 多年可能差了四分之一个世纪赫拉利是 76 年以色列出生然后 KK 是 52 年美国出生差了 20 多岁然后
然后 KK 是自学生态没有正式的大学学位然后赫拉利是牛津大学博士专攻历史学然后两个人职业也不一样赫拉利是历史学家作者然后 KK 是未来学家他们这个头衔是重合的然后主要研究的领域应该也不太重合但是有交叠就是一个是赫拉利研究历史 KK 是主要研究未来趋势然后代表作刚才也都说了
那不同的是什么我觉得 KK 他一直是以一个比较乐观的态度在面对未来的变化在必然里面他也说人工智能一定会成为人类的伙伴而非对手他有一个帮手的态度在然后在面对未来趋势里面你看赫拉利他提到说人类的自由意志可能是幻觉未来社会可能被科技寡头所控制这个当然我们已经看到了然后赫拉利还认为说
人工智能和数据主义可能会导致权力结构的重构让人类失去对自身的控制同样对于人类未来的预测 KK 会说什么他会认为未来的科技是进步不可逆的我们需要学会怎么跟技术共存而不是对抗
这时候就有一个主次的结构了你到底是你共存你是当两口子处你还是当上下级处你还是当大哥跟小弟处还是怎么样对吧还是工具和主体在处这都不一样然后他还提出了一个叫做科技进化论就是说技术的发展类似于生命进化是一种自我的驱动趋势同样也就告诉你就是你阻拦没有用它会自我进化的然后
主张拥抱不确定性就是认为未来的未知的变化一定会带来创新这就是两个人会有不同的态度所以你说是不是赫拉利就是偏悲观的 KK 就是偏乐观的我觉得如果再加一个定语的话赫拉利可以算是说谨慎的悲观派他在这些问题上面提出了他的警惕的想法还有审慎的态度
提出这些问题然后 KK 是一个坚定的乐观派他一直认为一是前提是这东西没法改变二是说那我们就不如让想象一下人类会变得怎么好起来这是这两个人吧所以大家也可以对比着看就是我不认为说看完了至人之上如果只看一本书十年只看一本书
就看知人之上了你可能会觉得好悲观完蛋了但是如果你再把 KK 的必然拿出来看一看或者其他的一些乐观派的书拿出来看一看你会觉得科技进步是好事但我们首先默认科技进步肯定是好事但是
也许未来 AI 这件事情人工智能这件事情带来的改变是我们前所未有的赫拉利也在书里面提到了他和以往的工业革命带来的东西是不一样的因为这东西有意志所以这就是这两个人还有赫拉利大概的情况
我稍微补充一下我觉得刚才大老师说这本书可以和 KK 的书可以配合着看我也给大家提供一下大家可以把这本书和麦克卢汉那本特别经典的《理解媒介》《媒介》是人的延伸那本书放在一起看当然麦克卢汉那本书写的有点声色啊
字数也厚大概有三十多万字大家可以从网上找一下这个一些解读版啊或者这摘要版大家可以看到我觉得这也是一个某些方面能让我们乐观起来的态度当你看完麦克卢汉那本《媒介是人的延伸》那本书之后如果你从信息传播的角度来理解的话你会发现人工智能它和过去以往出现的所有媒介它
也是有依可循的因为我们人类对于过去的那些媒介管控当然媒介刚出现的时候我们人类也是应对它的过程当中出现各种混沌混乱手忙脚乱不知道咋整但是我们都很好的渡过去了那是不是给我们提供一个视角说这次我们人类也行没准也可以没准
咱也能好起来只是开始不知道咋整没准我们还能赢所以大家可以把这些书都配合起来看我觉得挺有意思的我也再补充一点尤尔·赫莱利他写书为什么是现在这个风格实际上是因为他在大学的时候接触到了贾雷德·戴蒙德的著作就是《枪炮并军与钢铁》的作者他当时接触到了之后对他产生特别大的影响
他当时说是对他学术生涯当中的一种顿悟他意识到他也可以像贾雷德戴蒙德一样写这样的书所以我们说这种从大历史的观点去重新梳理人类文明用新的观点理解人类文明这种写法可能是从贾雷德戴蒙德这个写书的方式一脉相承走下来的
所以我们说我们读赫拉利的时候总会从他的叙述当中找到很多新的历史上的观点去重新审视我们所习以为常的东西我们以前的观点是觉得这个可能就是那样那样的但是当你看了尤尔赫拉利的讲述之后你才会发现有不一样的看法你说原来不只是那样还可以从这个角度重新去看我们已经熟视无睹的
我们已经非常熟悉的所有的人类文明当中的一些事物和框架对这个是读尤瓦尔赫拉利给我们启发非常大的星光说到这我突然插一句我想到了就是我们之前刚才大老师说尤瓦尔赫拉利他的书就比较谨慎偏悲观我觉得他的悲观其实是对人这个物种可能存在一些悲观所以我非常个人就猜想说你说这可能跟他是
本身是犹太人有关系因为他常年住在以色列好像他就住在耶路撒冷他可能看到了很多人类的战争的纷争可能我猜想加上他又是 LGBT 本身他的身份和他所处的环境有一些比较激烈的对撞所以我在想说他可能是不是本能的有一些悲观这完全是我个人猜测我个人猜测和偏见
接下来来分享一下读这本书的感受吧随着人工智能在最近两年的一个飞速发展我们也听到过很多观点有些人是非常支持的有些人是也提出了一些批评或者提出一些建议提出一些警告对那针对这些观点再读尤尔赫拉利这本书
你之前的那些疑问有没有被解答我们来分享分享这个阅读感受我其实读这本书之前没有任何的预设因为这本书不是叫信息网络简史吗我还挺意外的因为过去尤瓦尔赫拉利作为历史学家我觉得他研究人类研究未来他其实也是站在人类的角度来看未来会向哪发展我觉得这个就比较顺畅然后怎么一个学历史的人开始研究上传播了呢然后我就很好奇他
他突然要关注信息发展的这个
背后的那个动因是什么我其实想读完这本书能找到为什么他在这个时间节点要开始写这个后来我读的过程中会发现这本书其实背后探讨的说人是如何被信息影响的我们以为我们自己有自主性有主动性但其实我们在信息的这个围城里边你会发现你的自主性真的在就是至少值得怀疑
我做出的这个决策我现在的想法乃至我现在此刻说的这句话是真的是我想说出来的吗还是说其实背后有一只看不见的手让我对我要表达的这些我相信的这些东西就是他在操控着我就可能以前比如说这个问题放在 20 年以前移动互联网诞生之前他
如果在关乎人类存亡的这个急迫表上排从重要度往下排的话我觉得他们可能还是在靠后的位置可能人类更多的要解决生存温饱战争对吧瘟疫这些大事但是到了今天我觉得这个问题
已经非常急迫的摆在了我们面前因为这些东西已经开始影响生存战争瘟疫和什么意识形态对是这样的尤其这两天我们录这个节目的时候是 1 月 22 号这两天就是关于 TikTok 之争对吧我们以为这是个闹剧当你读完这本书之后你会发现这其实是一个权力之争甚至是就是人类走向之争真的不夸张真的不夸张就这个书最后也会写到我待会会给大家分享
所以这真的是不是一个我们今天在想哎呀每天刷短视频刷多了会不会影响我啊这已经不是一个非常小的问题了就是一个对人类存亡的影响因此我觉得读完这本书之后确实让我感受到了我们好像不能在那躺着了必须得做点什么了或者必须得做出那个决策了这是第一个第二个我读完这本书的感受就是
沟通和对话它的重要性我以前总觉得这个时代在哀叹说感觉现在今天对话越来越难了达成共识越来越难我总觉得社会分裂了对这是个小事或者说这是个
局部存在的问题甚至我还想过这种妄念说那咱们就别说话了你说你的我说我的你在那个圈子待你的我这圈子待我的咱们好好待着不行吗然后读完这本书你会发现说就首先尤瓦尔赫拉利他自己对于民主的定义就很重要的一条他认为民主什么叫民主就是要能自由平等的对话这个
对话不是说我说完你说你说完我说就是对话而是大家要对各自说出的话和对方说出的话能有共识至少知道对方在说什么有达成共识的可能性有倾听的意愿和能力不光是意愿还有能力问题我觉得现在我们都对这个能力可能有点怀疑对然后读完这部书之后你会发现其实是因为就是信息的传播和信息的发展尤其这些高科技的介入
然后 AI 未来还会对这个问题会有更深的影响甚至作者预言未来我们会成为叫硅木以前我们是冷战都是意识形态的对立东西方的对立现在就会变成了硅木对立好像有这个网的群体和有那个网的群体大家都
都是端对端了端和端之间不能对话了对就是这个规模的建立你看小红书和抖音这次这个事就为什么两国人民在小红书上对账你能想象一个村里的人大家要互相对账吗我们当时可说是地球村地球村代表着什么就是隔壁挣多少钱隔壁炒什么菜甚至我都知道但是时隔
20 年 30 年为什么我们到了 2025 年还得对账我得知道隔壁你那边看病多少钱我不知道太难以想象了你要说 99 年我们家刚通网的时候你说未来是这样那我通网干什么我都说看人民日报就行了而且这都不用中美你现在发现你打开 B 站打开小红书打开微博和打开抖音就这已经是有规模了嗯
你就看这几个 app 里边的这个热搜或者大家讨论的话题的排名你就会发现就是大家这个世界已经不通了我们这个国家已经不通了所以说尤瓦克莱利最开始他认为那个所谓天真的信息观就不对嘛就不是说信息越多越能知道真相就现实已经打脸了根本不是这样对所以我读完这本书之后就确实觉得有很多的当下性就非常当下他他
无论是历史还是未来至少能对我们理解今天的生活给我一些警醒我觉得都不是启示主要是警醒说这些事情的发生大家千万不要以为习以为常不要像我过去那样就是鸵鸟
觉得说哎呀那就这样了我能怎么办呢我做好我自己吧不行你做不好你自己了就是我们甚至连自我都在消解都是被塑造而成的那怎么办我觉得这真的是正好不是读完这本书就过年了吗读完这本书说给了我自己一个很深的课题
我该怎么办我能做点啥拿回我的主体性对我觉得超哥说到的有一点特别重要就是刘瓦赫莱利在这本书里面他提出了 AI 发展起来之后对于社会制度对于国家对于世界比如说他说规模等等的这些概念他提出了很多担忧但是这些担忧背后其实我们如果再往细了去想会有一个更加严重的问题是我们的这个 AI 技术的普
是需要时间的或者说 AI 技术不可能在短时间内普及到地球上所有人或者换句话说在同一个国家内就算 AI 技术它已经成为了一个可以帮助人类成长的是一个正面因素远远大于负面的东西了那也不是说这个国家十几亿人所有的人都有同样公平的机会
同样去使用同一个 AI 这个问题其实是更重要你像现在我们还在讨论的是教育的普及性教育的普惠就是我们在那些山村里面的在山区里面的那些孩子们他们可能都不能够接受还没有图书馆呢
为什么杨护车干这事没错都不能接受跟我们同样的教育更何况未来有新的 AI 技术出来之后他们知道那是啥吗或者说他们可能连电脑都没有办法去接触互联网都没有办法去接触的情况下 AI 又来了非洲还有好多地方连
就整个这个世界的贫富分化的加剧可能会更加剧烈更加死力所以说他在这本书里面提到那个规模的那个问题就不单单只是说我们觉得我们看到小红书上面中美双方网友在对账这是一个规模的真实的体现但是我们要知道可能这个体现的差距和差异在未来会更大
大到他不是说在一个 AEB 上对仗的程度他不是横向的差异纵向的差异也会越来越深没错没错就这个问题其实细想起来还是挺可怕的大老师说说你是悲观还是悲观我感觉我偏悲观一点点但是我又觉得你悲观也没有用还是鼓励自己尽量乐观就是会有这样的又悲观又乐观的感觉
那我看之前一般我是对这种题材有点抵触的就是我觉得你们过几年就一个新理论过几年就来一个新东西然后又变了然后又改了然后又打脸了就是那套东西然后就换个角度说呗我会有点觉得反正你就是提出新的理论去解释世界嘛那世界就是这样那又能怎么着呢
但是这次看完之后我会觉得他这个角度还是会让我思考一下的就是以前我确实没有想过信息对于不同的政体宗教国家甚至个人之间那个连接到底是什么
这个有点迫在眉睫而且又像在现在 2025 年我们可以说是一个技术起点的时刻或者这两年我们把它作为一个起点时刻的话再过 50 年或者说再过 30 年回来看 2023 年 24 年的这种技术爆炸就是多元大模型的出现它也许真的是一个人类挺重要的时刻在这个时刻里面我也想看看这个世界上面比较聪明的这些大脑们他们在怎么分析他们是怎么
看待这件事情的也像比如说听一个播客我想知道这个主播对这件事情是怎么想的那我看看这个书我就想看看赫达利他对这个最新的事情是怎么想的而且他写的也非常的晚近他是已经写到拆 GBT 了在书里面写到马斯克对吧所以是一个很当代的著作不像我们现在读 KK 你可能会觉得很多想法或者是预测过时了这种东西一旦它落空你会
有点怀疑他那个根基是否正确但是赫达利因为他这个太当代了所以你还没来得及证实他的证伪证明他哪不对所以先看看也许是问题不大的就先看看是一个保持好奇心的这个做法吧然后还有一个我看这本书和
最近的感受就是以前的大部分的可能塑造了我们 50 年半个世纪一个世纪的这种科幻的想象是不是会有问题就是人类的技能点真的没往这个机器人这点还是说没到这个时候你看我们现在咱 80 后或者 90 后想象未来机器人都是什么都是终结者都是黑客帝国或者说都是什么赛博朋 2077 这样的想象但是你看
2077 年我觉得不会有那个东西它不是真的说创造出来一机器人一个 literally 一个实体的东西说我跟你对着干傲创对吧这么多傲创不是这样的科技它发展已经和我们当初 200 年前 100 年前想象换了赛道了
所以他也给我产生了一个好奇就是好你没有了那些原来科技科幻小说的指引的话那人类要怎么想象未来我们这一步在文学里面还没太做出来或者说他比较难因为赫达利也说了就是我们人类喜欢什么故事喜欢生物性的故事就是我是爸爸最爱的孩子
谁和谁背叛了谁和谁在一起了谁和谁要吃掉谁灭掉谁这种非常生物级别的是我们刻在 DNA 里面大家很容易接受的故事所以
许多的文艺作品或者大部分畅销的故事都是以这个为基础去创作的好那么当我们今天看完智人之上这本书我们会发现信息的流动或者信息在不同体制里面的呈现形式是非常复杂的那这又确实的影响着未来的时候这种对未来客观的描述或者说另外一种生物性的故事他要怎么重新讲述这件事情还没有开始没有人开始做
或者说大家觉得这事难还没有找到方法那么我们去接近未来的唯一方式当我们 pass 掉了过去的刚才说机器人要统治地球的非常简单粗暴的想象的话那未来的那条路会怎么走呢
我现在有一个巨大的好奇所以我要看《智人之上》这本书我也没有答案但是它给我的一些回复就是有些底层的东西它是怎么流动的大伙刚才说那个我想插一句就是说到这个过去我们对未来的想象因为以前我们跟这本书里描述的一个最大的不同一个本质性的不同就是以前我们幻想都是蓄谋已久
比如说这些人来了说好我要灭掉人类但就是他是有意图的做一件事但这本书里描述的很可能他就是突变就这里边他不是举了一个科幻的例子吗说有一人给电脑下了一指令说最大化的生产杯子你看这跟人有什么关系最后经过算法一系列演变就说那把人杀了吧
就把人毁灭了因为就是最后他演算演算发现这人是让这个杯子规模化量产的特别大的一个 bug 那弄死吧所以就是有可能我们未来就是这么着没了我都不知道我怎么死的就是这种恐惧我就想知道我是怎么没的
能不能告诉我我觉得大佬说刚才那个就挺有意思的就是未来人类到底需不需要真正的一个实体的机器人来比如说到大地上杀人或者跟人类打仗之类的这种科幻小说里面的情节需不需要我觉得
可能有点费事就不太需要现在的人都可以根据各种各样的信息给分裂成这样了不用费这劲我干嘛还要造一批机器人呢不需要我就控制人类的脑子就行了控制人类的信息用这些信息网络去就行了你们读的过程中有没有那种阴谋论说有没有可能今天的世界就是已经有一些人工智能在行动了
才造成了里面是不是写了就是两个人工智能在对话的时候对着对着人类就开始看不懂了他们就产生了自己的悄悄话用他们自己的语言那个语言脱离掌控了你说是不是在暗地里正在密谋什么东西说不准对说咱们先把特朗普选上去
我读这个书其实最开始的时候翻开之前还是有一点点预期的比如说我比较想知道尤瓦赫拉利因为他写过之前的三部曲他写过前面的书所以我知道大概知道他的一个观点和他论述历史和新问题的一些方式所以我特别想知道他是怎么
看待新的这个 AI 技术的尤其是人工智能在这两年的发展这么快那他是怎么以他的观点来看待这个的同时他有没有新的理论框架去分析 AI 技术对人类社会的改变以及他自己到底是乐观派还是悲观派读完书大概看出来是一个偏悲观派尤尔赫拉利本身对然后并且他的这些观点和分析对我们这些外行就是我们其实
从其量 AI 最后发展起来咱们也就是一个使用者我们不可能成为一个掌控者对吧那对于我们这些外行的普通人来说尤尔赫拉利的这些分析他今天的这些说法和观点对我们的有哪些启发我觉得这是我读这个书之前对他的一个预期那同时我也大概知道他对 AI 技术是有一些微词的像大佬说的属于警惕派对吧负面派或者叫悲观派那我觉得
对 AI 技术有负面的观点很正常而且也不止他一个也有其他的一些科学家也提出了警惕说我们要警告你说人类如果要这么发展 AI 技术的话就一路狂奔那不一定到一个什么样的地步也有其他人提出过类似的一些警惕的观点但是我不知道的是尤瓦尔·赫拉利作为一个历史学家他
他的论点是基于什么样的论据得出来的或者说他的分析框架是不是能够让我读完之后我能够理解然后我能够认同我也能够了解说原来 AI 发展到了这么样一个情况那接下来的继续发展真的可能会对人类有一些威胁就我能不能认同他的这个分析框架而且就是他会怎么证明他的论点我觉得这也是我读这本书之前特别想知道的那应该说最后读完之后
部分回答了我上面的那些疑问但是我觉得有一个比较可惜的地方就是前面也聊到了就是他没有给一个确切的答案说到底应该怎么做他给出了一些方法论的一些方向说我们可以比如说要着重去打
打造一个可以进行自我纠错机制的这个信息网络信息要分布式的放对要分布式同时我们要这个警惕这个警惕那个他有些方向但是至于怎么在这些具体的方向上面做具体的事尤尔赫拉利没有给出一个具体的方法我觉得当然这个可能也不是他作为一个历史学家的一个任务他只是在他的书里面给出了这几个方向让我们去思考
但是我觉得接下来如果说我们沿着他的具体的方向去想说我们能够在 AI 的发展过程当中植入那些具体的做法也许能够避免他体
提出来的一些一些可能的威胁我觉得这可能是我们接下来不同的领域的科学家需要去做的事情对然后前面大老师也说到了那个终结者我是看这个书的时候一个感受就是跟看终结者似的就是我联想起了看终结者当年因为终结者里面有一个基础的设定和世界观就是天网的出现嘛
就人类就一开始发明了天网但是最后天网得出来一个结论说让世界更美好的方式就是把你们这些人类都杀光然后他就造了一批机器人对吧然后就人类的末日就降临了为了拯救人类在终结者的故事里面是在未来把一个人类送回到了过去阻止天网在那一天就是做出要杀光人类的决策的那一天之前把天网先毁了他们是想这样
但是同时未来的天王知道这件事以后他又从未来派了另一个杀手到过去要杀掉那个人时间循环了对整个终结者的故事就是基于这个展开的其实它完全是一个基于人工智能威胁人类生存的框架那我就很好奇人工智能它到底具不具备
终结者里面所描述的那个能力和潜力他会不会有一天真的变成天网就是说我们要让世界更美好那就得把人类消灭会不会真的有这种可能性如果有的话怎么办赫拉利他有没有对此有没有解决方案有没有解决办法我看这个书的时候也是一直在想这个问题
还有比如说我们看过的一些其他作品包括少数派报告包括 1984 也是一样的 1984 其实也是构建了一个极权主义下的信息网络就他描述的是在极权主义制度下极权主义者是怎么样控制信息的流动的
然后包括手术费报告也是就是在人犯罪之前就已经能知道谁是罪犯然后去打击他就这一种方式到底在人工智能发展的当下以及未来它会不会成为我们的现实我觉得这个也是我在读这本书的过程中一直想要去探寻的然后第二个读这个书的感受就是我觉得尤尔赫拉利还是用他很擅长的方式有一个非常清晰的脉络我们可以跟着他的叙述的脉络把他想要叙述的论点串联起来
而且他在这个过程中用了很多史料就是他爬出了很多历史上曾经人类遇到过的旧问题我前面说到他用这些旧问题的经验试图来解释今天我们遇到的新问题然后我们应对这些旧问题的这些方式以及取得的结果是不是能够对我们解决今天的新问题会有一些参考
他叙述的是一个全新的观点和视角也是一个全新的框架但是我觉得他还是用了结构化写作的方式让读者让我们一步一步在读的过程当中能够进入到他的观点而且能够跟着他的观点去往下走就刚才星光说的时候我想起那个机器人三定律阿希莫夫提出的三个第一个说机器人不能伤害人类或因不作为而使人类受到伤害第二个是
机器人必须服从人类的命令除非该命令与第一定律相抵触第三是机器人必须保护自身存在前提是不违反第一或第二定律当然后来还有点演化但是这些定律以前我们觉得它挺合理的状况是放在一个漠视的题材下
放在一个人和一个机器人或者说少数群体的条件下我在看完智能之上这本书的时候我会想说如果一个国家对另外一个国家发动战争的时候我们把机器人扩大成 AI 的话他能判断的出来吗如果我不伤害这个人类我们就要被受到伤害的时候那个人类的孰轻孰重应该怎么判就这些定律
当他放到一个真正实际的类似于电车难题的时候或者说一些国家政治经济我到底是考虑环境呢还是考虑经济发展呢我是考虑未来一百年人的生存环境还是考虑当下有 50 个人要饿死呢就这些符纸这些计算是机器无法实现的或者说那个机器人定律在
未来这种大问题上它也许是不那么奏效的对而且尤尔赫拉利在这本书里面还提到一个我觉得特别关键的问题就是《机器人三定律》里面第一条就写不能伤害人类但是对于什么是人类的定义这是个巨大的问题嗯
我们知道当年纳粹杀害犹太人就是他们没有把犹太人看成是人类就是我们是人你不是人了那我就可以伤害你了对吧所以在这个问题上我觉得是一个回归到最本源的就是人类到底怎么去定义的问题我觉得这是这本书在读完这本书给我的一个最大的启发我觉得后面我们可以展开再说那我继续说其实就是这个书给我的感受就是它会
有那么多的人都提出过对 AI 和人工智能的质疑和担忧但是尤瓦尔·赫拉利是唯一一个他以这样的视角和理论去论述他的这种担忧的观点的而且我们也只能从他这儿用这种视角和理论去重新理解
人工智能和 AI 我觉得读这个书是让我有一些耳目一新的感受而且他的视野本身是比较开阔的尤其是他举了很多历史上发生的一些案例这些案例本身让我们能够有联系让我们的思考能够更广泛而且更深入对
我读这个书的时候更多的切夫的体会和感受就是我有些时候看完某些段落之后我会感叹我说哦原来是这样我说哦原来还能这么想原来还能从这个角度去考虑有点意思我会有这样的感叹对这个是我读尤尔赫拉利一个特别特别真实的体会对那接下来我们就进入这个片段分享环节吧我们同样的俩也是来从这个书里面找一段以前你不知道的
对你来说是新认知的部分分享还再分享一个就是你被颠覆的认知你以前觉得这个事可能是这样的但是读完尤尔赫拉利的论述之后你觉得好像是不是这样的是另外一样的对我们来分享我分享天真的信息观我觉得这个定义还挺让我以前没想到的以前我可能就是那种天真派以前我们都是天真派他前面举了一个例子就是说一个间谍他是用百叶窗的开关来传递消息
那么他就说百叶窗是不是信息呢还是说什么才是信息对吧他有这么一个讲法他说 1917 年 9 月 3 日一只信鸽飞偏了就这么不巧降落到一名奥斯曼军官的家里那位军官虽然发现了密码信息却破译不出来然而信鸽本身就已经是极关键的信息了这等于告诉奥斯曼人有个间谍组织正在他们的眼皮子底下活动
在说过没借及信息的马歇尔麦克卢汉看来那只鸽子本身就是信息这是刚才超哥提那本书尼利的特工得知那只信鸽被捕之后立刻把他们手里剩下的信鸽全部杀掉埋了因为当时只要拥有信鸽就等于透露了一条有罪的信息
然而这场信鸽大屠杀并没能拯救尼利这起间谍案在一个月内被破获几名成员遭到处决萨拉·阿伦索恩则选择了自杀以免自己受不了酷刑而泄露尼利的机密所以什么时候鸽子是单纯的鸽子什么时候鸽子又是一则信息呢
显然信息的定义绝不限于某种特定类型的实体对象任何物体比如星星百叶窗鸽子只要放到正确的情境下就可能成为信息那么什么样的情境会把这些对象定义为信息呢
天真的信息官认为只要情境是为了寻求真相这些对象就能被定义成信息换句话说只要打算用某个对象来找出真相那么这个对象就是信息这种观点将信息与真相这两个概念联系起来并假设信息的主要作用就是把现实呈现出来既然世界上有个现实就摆在那里而所谓的信息就是呈现出现实的对象那么我们当然就能用信息了解现实举例来说
尼利向英国提供的信息是为了呈现关于奥斯曼军队的现实要是奥斯曼帝国在加沙集结了 1 万士兵只要有一张纸条以符号的形式表现出 1 万人与加沙这张纸条就可能是一条重要信息有助于英国赢得这场战斗但如果在加沙的奥斯曼军队实际已经达到 2 万人那这张纸条不仅未能准确呈现出现实而且可能让英国犯下灾难性的军事错误
换言之天真的信息官认为信息就是要试着呈现出现实如果成功我们就会说这条信息是个真相虽然本书对天真的信息官有许多意义但对于真相就是对现实的准确呈现这一点倒是所见略同不过本书同时也认为多数信息并不是想要呈现现实真正能够定义信息的完全是另外一套标准无论在人类社会还是其他生物与物理系统大多数信息并没有要呈现出任何东西
我分享这段吧他在讲信息到底是什么和信息的关系就是天真的信息关系超哥来分享一段我来分享一段这个叫数据殖民主义能通过这段让我们知道了 TikTok 之争背后是什么我给大家分享一段这个吧
这段还挺有意思的这里边有一个事我没有想到是说其实在这个来到了人工智能时代的时候最早意识到这个人工智能对于国家非常重要的他说或许是中国然后在中国之后俄罗斯啊印度啊美国也都做了开始做了布局说当时美国已经在这场人工智能竞赛中居于领先地位
这在很大程度上要归功于一群有远见的民间企业家然而原本只是企业间的商业竞争现在已经成了政府间的比拼如果说的更准确一点是由一个政府与几家民间企业组队参加的团队竞赛
赢家能得到什么奖品奖品就是统治世界然后我在后边分享这个殖民主义说想象一种情境假设在 20 年后世界上某个地方有个人能够掌握你们国家每个政治人物记者军官与首行执行官的所有个人历史知道他们发过的每条短信做过的每次网络搜索生过的每次疾病享受过的每次性接触说过的每个笑话
以及接受过的每次贿赂那么你到底算是生活在一个独立的国家还是一个数据殖民地呢如果你的国家完全依赖各种数字基础设备与人工智能系统而国家对他们又无法进行有效控制情况又会如何这种情况可能会导致一种新型的数据殖民主义也就是会通过控制数据来统治遥远的殖民地
而控制了人工智能与数据也能让那些新的帝国控制人民的注意力正如前面讨论过的 21 世纪十年代脸书与 YouTube 这些美国社交媒体头部企业就曾经为了追求利润而使缅甸和巴西这些远方国家的政治动荡不安未来的数字巨头也可能为了政治利益而做出类似的事情
出于对心理战数据殖民主义和网络空间失控的担忧很多国家都禁用了一些他们认定为危险的应用程序中国禁用了脸书 YouTube 等许多西方社交媒体应用程序与网站俄罗斯则禁用了几乎所有西方社交媒体应用程序以及部分的中国社交媒体应用程序 2020 年印度禁用了 TikTok 微信与许多其他中国应用程序
理由是他们认为这些程序从事损害印度主权完整国防国家安全和公共秩序的活动美国一直在争论是否禁用 TikTok 担心该应用程序是为了中国的利益而且从 2023 年开始几乎所有联邦及各州政府职员与承包商的设备都禁用了 TikTok
英国、新西兰等国的立法者也表达对 TikTok 有所顾虑至于从伊朗到埃塞俄比亚的许多其他国家的政府则封锁了脸书、推特、YouTube、Telegram、Instagram 等各种应用程序
对我就分享这一段吧数据殖民主义其实很好的让我们理解这个世界上为什么会发生这些我来一段就是我在读这个书之前有一个社会上也经常讨论的问题就是人工智能的发展到底会取代哪些工作哪些人会失业这个是一个非常重要的问题我自己的想法就是我觉得有
有可能是那些比如说文书工作或者是生成个表格或者是写一个文案什么的这些可能人工智能会比较容易取代他们但是读了尤瓦克拉利的这个书之后我发现我其实有很多的偏见在里面就是我的想法是有问题的我没有想到的地方还是很多的比如说尤瓦克拉利在这个书里边专门提到了就是人工智能对人的工作的取代这一段他是这么写的他讲到
遗憾的是因为我们无法预测有哪些工作与任务会消失又有哪些新的工作与任务会出现所以没人能确定到底该把哪些技能交给中小学的孩子与大学里的学生就业市场的动态很可能与我们的许多直觉相矛盾有些我们几百年来奉若至宝觉得属于人类独有的技能说不定很容易就能自动化但也有些我们常常气弱必履的技能自动化的难度却很高举例来说
比起运动或社交技能知识分子常常比较看重智力技能但就自动化而言比起洗碗的自动化下棋的自动化要简单的多在 20 世纪 90 年代以前常常有人将国际象棋誉为人类智力的重大成就
哲学家休伯特·德雷福斯 1972 年的作品《计算机不能做什么》研究了过去几次教计算机下国际象棋的尝试指出虽然众人费尽心血计算机还是连人类的骑械菜鸟都下不赢德雷福斯以此作为重要论据认为计算机智能本质上是有局限性的
相较之下没人会觉得洗碗是件都有挑战的事但结果发现计算机要打败国际象棋世界冠军可比取代一位厨房杂物工简单多了当然自动洗碗机已经发明了几十年但就算是目前最先进的机器人也还是没办法自己在杯盘狼藉的餐厅里收拾餐具再把精致的盘子与玻璃杯放进自动洗碗机最后再把洗好的杯盘拿出来摆放整齐机器人至今还不具备这种精细的技能
同样如果从薪水的角度来判断我们应该会说社会比较尊敬的是医生而不是护士然而有些医生主要的工作就是收集医疗数据做出诊断提供治疗建议比起这种医生护士的工作其实更难自动化
因为那些医生工作的本质是辨识模式而要从数据中找出规律正是人工智能比人类做的更好的事情之一相较之下自动完成各种护理工作比如给伤员换绷带给哭闹的小孩打针人工智能还有很长的路要走这里举这两个例子并不是说洗碗与护理工作永远不可能自动化
而是说人如果想在 2050 年仍然找得到工作或许除了培养智力技能在运动与社交技能上也该投入同样多的精力就这一段我觉得他举的这两个例子非常的有代表性他
举这两个例子之前其实我没有特别仔细的思考过到底哪些工作可以被人工智能取代但是我看了这两个例子之后我恍然大悟我说原来是这样就是我们以前的想法当中觉得知识含量高的工作或者是那些更受人尊敬的工作更靠经验的工作是不会被人工智能取代或者不会那么快被人工智能取代的但是你会发现
完全相反就是反而是那个可能没有太多所谓的知识含量需要你有很多技能的那些工作做更多判断对反而可能不会那么快被人工智能取代这是他的第一个论点他后面还有第二第三个错误假设比如他说第二个常见的错误假设是
是没有人类拥有创造力所以只要是需要创造力的工作就很难自动化他也驳斥了这个错误假设他说第三个错误的假设是计算机无法取代人类那些需要情绪智能又称情商的工作像心理治疗师或教师就这个整个颠覆了我因为我觉得只要做有创造力的工作只要是跟情绪有关的那个工作都不太会很快的被人工智能取代
但是尤尔赫莱里说不对你想错了这些工作也能很快被人工智能取代然后他后面用很多例子来论述说为什么他会这样说我觉得这一段还是挺颠覆我认知的我那天读到这段时候我还说呢说我就以后想让铁水当厨子因为我们对吧预制菜都觉得不好吃厨子行然后龚总说那不可能可能未来到了那个时代大家已经不吃饭了靠打针就行就是说一些一言八语打就是根本不需要吃菜了
直接把身体内打激素对然后我说但是馋解决不了他说不我未来就不会有馋了就因为馋你肯定是大脑控制的嘛他说以后可能未来只靠打针了说打这个让我感觉到像吃了糖一样的爽对不对都到不了馋那一步他就是给你一种满足感就行了馋还是欲望的某一种嘛那他用那种激素或者什么针就让你满足所有的欲望的话你就一直快乐你不会有任何的感觉的哎
你在游乐场玩的时候永远不会觉得馋因为你快乐对吧被满足了还是想窄了行我们再来一轮我来分享一个这个叫民主的未来吧就刚才大老师说的就是那个我们以为说有了这个人工智能之后是不是大家可以就随着技术的普及我们的对话会越来越多有对话就有共识赫拉利就说他特别担心这个人工智能会造成无政府状态这个无政府状态它其实也会对民主有很多的冲击
他这里边有一些数据这个数据还让我挺惊讶的他说因为人工智能除了会让新的人类群体加入公开辩论还在历史上第一次让民主必须应对各种来自非人类的杂音在许多社交媒体平台上机器人程序虽然还是少数但已经占了相当的比例一项分析评估
在 2016 年美国大选期间产生的 2000 万条推文中有 380 万条括弧将近 20%是由机器人程序生成的
21 世纪 20 年代初情况继续恶化根据 2020 年的一项研究目前所有推文的 43.2%由机器人程序产生根据数据分析工具 SimilarWeb2022 年的一项更全面的研究发现机器人程序可能只占推特用户的 5%但却发布了 20.8%到 29.2%的推特内容
在人类想要讨论一些重要问题的时候括号例如该向谁当美国总统括号完如果听到的声音有一大部分来自计算机会出现什么情况这段完之后他讲了一个研究例子就是让 XGPT 和
真人各写了一些这个假新闻假消息让真人辩论结果发现其实真人写的假消息是更容易被识别的而 ChaiGPT 写的这些造谣的这些谣言是很难被人发掘的很难被这些人类被试者发掘的
他说这样会发生什么呢这样一来如果有数百万甚至数十亿个具备高度智能的机器人程序他们不仅能写出极具说服力的政治宣言创造出深度伪造的图像与影片还能够赢得我们的信任与友谊到那时民主辩论会变成什么模样要是我在网络上与人工智能进行政治辩论想要改变人工智能的观点只会是浪费时间
人工智能是一个无意识的实体并不真的关心政治也不能真的投票选举然而我与人工智能谈的越多他就越了解我于是能够得到我的信任不断改进他的论点也慢慢改变我的观点在这样争夺人心的战斗中亲密感是一种极为强大的武器在过去各个政党虽然能够吸引我们的注意力但却很难大规模产生亲密感
广播设备虽然能够让几百万人听到领导人说了什么却无法让领导人和听众变成朋友但如今政党括号甚至国外政府却能部署一支机器人程序大军和几百万名公民建立友谊
在运用这样的亲密感来影响公民的世界观最后算法不但成了对话里的成员而且开始操控对话社交媒体允许新加入的人类群体挑战过去的辩论规则但是在协商新规则的时候情况已经不由人类来掌控正如我们前面对社交媒体算法的分析所示规则常常是由算法制定的
在 19 世纪和 20 世纪媒体大亨们也曾经审查某些观点宣传另一些观点虽然这或许也曾对民主制度造成危害但至少这些媒体大亨还是人我们也能以民主机制来监督他们的决定但如果我们允许我们无力监督的算法决定传播哪些观点情况就会危险的多我就分享这段吧好
大老师我分享一段我看之前没想到然后看完之后理解了很多事情我先分享这个一会再说理解了哪些事情应该在第 11 章规模那一章他说到 21 世纪 10 年代当初的梦想正在成为现实就像史上所有的重大历史革命人工智能的兴起也是循序渐进的经历了许多阶段而有些阶段就成了公认的转折点堪比开通了从利物浦到曼彻斯特的铁路
在诸多讨论人工智能发展的文献中有两件事一再被提起一是发生在 2012 年 9 月 30 日一个名为 AlexNet 的卷积神经网络赢得了 Imaginet 大规模视觉识别挑战赛如果不知道什么是卷积神经网络也没听过 Imaginet 挑战赛你并不孤单我们这些一般人有超过 99%都没听过这些内容
所以 Alex Knight 获胜的新闻在 2012 年绝对不算上什么头条大事然而确实有些人注意到了 Alex Knight 的胜利也看出了这预示了怎样的未来比如这些人知道 Imagine Knight 是一个影像数据库收录了数百万张加了内容标记的影像图片你是不是曾经在进入某些网站的时候被要求从一组图片当中找出哪些有汽车或者猫咪
好证明你不是机器人你点击的那些图片很有可能就会被加入 ImageNet 的数据库你把自己的宠物猫照片加了标记再上传到网络的时候很可能也被加入 ImageNet 数据库 ImageNet 大规模视觉识别挑战赛的内容就是要测试各种算法
是否能正确识别数据库中带有标记的图像这些算法能不能正确找出有猫的图片如果由人来识别在 100 张猫咪图像中我们能够正确识别 95 张在 2012 年成绩最好的算法正确率也只有 72%2011 年算法正确率攀升到 75%2012 年 Alex Knight 算法获胜正确率大幅提升到 85%
让当时只能算是小众的人工智能专家大感震撼外行人可能觉得这样的进步没什么但专家看到的却是某些人工智能领域可能迅速进步的潜力时至 2015 年一套微软的算法正确率达到 96%超越了人类识别猫咪图像的能力好那接下来的问题就是
这个能力有什么用呢对吧对 2016 年经济学人刊出了从无用到神经网络一文文中问道说到人工智能一开始只会想到骄傲自大与失望收场现在它怎么突然成为最热门的科技领域呢
文章认为从 Alex Knight 胜出的那一刻让人们开始注意而且不是只有人工智能社群而是整个科技产业这篇文章中的插图就有一只机械手臂拿着一张猫咪的照片科技巨头从世界各地取得的这些猫咪图像没给网络用户和各国政府付半分钱但事实证明这些图像价值连城人工智能竞赛开跑参赛者用的正是那些猫咪图像
在 Alex Knight 准备参与 Image Knight 挑战赛的同时谷歌也正在用猫咪图像训练谷歌自己的人工智能甚至还打造出一个专门用来生成猫咪图像的人工智能叫做喵喵生成器
这些通过识别可爱猫咪而发展出来的科技后来却被用于更具掠夺性的目的比如以色列就用这些技术发展出名为红狼蓝狼狼群的应用程序让军方用来识别在巴勒斯坦占领地区的巴勒斯坦人原本用来识别猫咪图像能力后来也让伊朗发展出各种算法用来识别
未带头巾的女性前文多次提到想要训练机器学习算法需要大量的数据如果不是世界各地的人免费上传标记几百万张猫咪的图像就不可能训练出 Alex Knight 算法或者喵喵生成器进而使之成为模板而训练出后续的人工智能发挥其在经济政治与军事上如此深远的能力我就分享这一段吧
你看这里面有好几个问题我之前没想过一是我们每次验证现在网络已经开始判断你到底是人还是机器人对吧咱都点过那个图然后经常也是点了点了点不中然后很烦但是你会发现这样的图点完之后其实你是在给人工智能做预料的
不是说我今天填一问卷我是谁我喜欢什么那个上传上去是语料你的在互联网上的每一个动作它都产生数据都是语料最终它会指向的那个宏大的甚至邪恶的
不可控制的你是无法想象的我怎么可能说点一个猫咪我上传我们家小猫可爱的照片最后就会导致一位伊朗的妇女因为没有带头巾而受到惩罚呢这是不是当代的胡结效应呢那我作为一个蝴蝶我能知道什么我能做什么我能不点这个猫咪图片吗那我登不上这个网站了对吧
所以接下来就有一个问题他里面提到说没有任何政府给这些用户付过一分钱他提供了这么有价值的东西好那接下来的问题就是数据在未来它是资产它要怎么被衡量它能等同于货币价值吗还是说数据的价值本身就已经成为了某种计算单位 1TB1KB 还是 1 兆还是怎么样还 1PB 这些东西他
成为了有价值的东西之后就意味着有人要去争夺它有人要来保卫它所以规模的出现不仅仅是意识形态让我们说隔绝了某些不想让某些人看到的东西而存在的而是一种新的国界一种新的资产保护的东西为什么是的我们让这个软件只能在这使或者说那个软件我不让它来我这使
不是真的说怕他窃听走什么东西而是说我这人产生的这些资源我这些人矿产生的数据只能我用不能给你空什么给你对吧所以就在这么一个很简单的一个逻辑链条里面突然意识到了规模是有道理的规模
规模不是你想拆除就能拆除的而且会越见越高的我就分享这一段吧大老师说这个我想起一笑话前两天在网上说不是那个叫新浪微博的那个叫什么年度人物颁奖然后底下有一网友说这应该我出席我这一天对吧一天恨不得打开微博刷十来回为什么不邀请我我就想说多少数据呢对对咱们
他们这些人才应该被邀请去我发多少微博一天说多少刷多少对吧以后都靠这个来邀请对我再分享一段也是在第 11 章这个规模这一章开头他写到的他有一句话其实还是挺震惊我的他说前两章探讨的是不同的社会制度各自如何应对新计算机网络的兴起然而这是个紧紧相连的世界一个国家的决定就可能对其他国家产生深远的影响
人工智能可能造成最严重的危险有些并不在于单一社会的内部反应而在于许多社会互动形成的动态例如导致新的军备竞赛新的战争和新的帝国扩张目前计算机还没有强大到足以完全摆脱人类的控制或是独立摧毁人类的文明只要人类团结一心就能打造出适当的机构制度用来控制人工智能找出
对这个问题还是一样的杀人的不是刀是持刀的人所以就是这个计算机它本身其实没有
什么恶意的就是你怎么使用它才是真正的问题再结合前面大老师分享的那一段就是我们是用每一个人可能看似不经意间的在互联网上面互动的那些东西作为人工智能训练的材料和语料的那最后这个人工智能训练出什么样子
他呈现出什么样子其实他反映的是人类的缺陷或者你换句话说你这个人工智能你是爱说脏话也好还是艳女也好还是怎么样也好他反映出来的这些实际的面貌实际上就是反映的是人类的面貌就是人类的缺陷他的所有的问题所有的缺点所有的缺陷所有的不完美都是人类的不完美都是人类的问题所以这个才是最根本的龙生龙凤生凤对没错然后除了这块之外还有他第六章
还特别详细的讲述了说为什么当年在缅甸针对罗兴亚人的那个迫害其实很大程度上是由脸书上面的那些视频所导致的就是算法究竟在这里面起到了一个什么样的作用他这么论述的他说
以那些煽动行为的某个视频为例脸书的内部研究估计该视频的观看量有高达 70%来自这样的算法带来的自动播放同一项研究也估计在缅甸民众观看的所有视频中有 53%是由算法自动播放的换句话说并不是民众选择自己要看什么
而是算法为他们做了决定他接下来说但为什么算法决定助长的是愤怒而不是慈悲呢就算是对脸书批评最严厉的人也不会觉得脸书的人类管理者就是想煽动大屠杀脸书位于加州的那些高管非但对罗兴亚人并无恶意甚至几乎不知道罗兴亚人的存在
事情的真相更为复杂但可能也更令人震惊在 2016 到 2017 年脸书的商业模式依赖于提升用户的参与度也就是说用户在脸书上所花的时间与所做的活动只要用户参与度增加脸书就能收集更多数据你看这又开始讲收集数据了卖出更多广告在信息市场占据更大份额
此外提升用户参与度能给投资人留下好印象从而有利于推高脸书的股价用户在脸书停留的时间越久脸书就越有钱你看这个其实现在已经基本上成为所有互联网产品的基本的模式了就是吸引你的注意力然后看你的停留时长对吧那他继续写根据这种商业模式人类管理者给脸书算法定了一个首要目标提升用户参与度
随后算法用几百万用户做实验发现最能提升参与度的办法就是让人愤怒比起慈悲的步道充满仇恨的阴谋论更能提高人类的参与度所以为了追求用户参与度算法就做出了一个致命的决定传播愤怒这个其实就跟我刚才前面分享的那个联系起来了就是人类的
或者说人类的缺陷人类的很多表现出来的缺点其实是在算法背后的驱动的根源和因素就是算法它为什么说它要在网络上面传播愤怒让人看到那些煽动性的视频之后能够提高用户参与度因为人就喜欢看这个所以算法它发现了这个规律它说既然你们人类喜欢看这个那我就发挥最大的能动性我就不断地给你们推这个就能提高你们的用户参与度嗯
就是相当于人工智能实际上是在这个基础之上放大了人类的这种缺陷或者说放大了人类的那种劣根性的东西对我觉得这个是一个让我耳目一新的从信息网络从尤瓦赫拉利的这个叙述的框架重新去审视这些现象对那最后我们再来聊一个问题吧就是我们读了尤瓦赫拉利的这本书之后
它给你带来了哪些启发或思考或者说你现在读完书之后如果问你你对 AI 对人工智能这项技术或者对人类的未来你的态度是乐观的还是悲观的它是否改变了你以前的对这个问题的认知呢我是觉得偏悲观但必须乐观因为你乐观你才能活下去而且
我是有点庆幸就是我们赶上了这个阶段这个阶段还挺好玩的就是见证历史的发生对啊你看刚才我们分享的几个时间点要么是 10 年要么一几年要么现在 23 年 25 年发生的这些事情
我们正好在这个交替阶段所以我们会有两手的生活经验就未来可能 20 年我们都要跟人工智能一起生活然后不管是什么样的关系但是我们都有一个谈资是说我们过过那个没有人工智能没有网络的日子
你想想这事有点厉害的有点厉害的那会儿的人的生活状态和 20 年后 30 年后可是完全不一样也许是两种我觉得两个人种在生活都有可能所以我们现在珍贵的是保留了这一代人类在没有网络时候生存的记忆技能对那些好的坏的美好的局限的仇恨的东西的
记忆我觉得这个保留的记忆就很重要所以在这么一个关键的节点我是觉得回看过去我会更觉得珍惜然后看到未来我是
还会有一些期待在因为毕竟科技的发展我相信绝大部分的人都不是说我希望科技来给我使坏用的对吧所以在这么一个大前提下我相信就是会有制衡会有平衡的那个阶段会有混乱的时候但也会有那个纠偏
也可能会矫枉过正但是也会揪回来的那个过程所以我对未来是充满期待的我会想看看未来什么样就像他现在很多人用搜索引擎不一定用百度但是可能用谷歌对吧但还有人现在已经不用搜索引擎了开始用拆 GBT 了对吧那你就会说
改变未来行为模式的许多东西不一定是它本身打败搜索引擎的应该不是搜索引擎或者说取代未来人工智能这种叫做大语言模型的应该也不是一个新的 ChatGPT 或者说我们未来的延伸出来的智能设备也一定不是手机那会是什么呢我会有点期待而且我愿意相信
当大多数人意识到这些问题比如说听了我们的节目看了这本书或者说去思考过这些问题的朋友那我们的未来总是好人会比坏人多吧我会这么想大佬刚才说那个其实就是发展中产生的问题最终还是要靠发展来解决干中学这不这两天那个漂白里边那个热词
干中学的我们都在那个干中学的状态里面超哥来聊聊我觉得这件事情特别大的一个挑战其实是来自于我们人类必须限制住自己的傲慢和限制住自己的欲望就这件事我是不是存在乐观我其实是有点悲观的说实话我看完这本《智人之上》之后我觉得
对于人类来说唯一的机会是在于人类你要意识到我真的不是这个主宰世界万事万物我不是那个链上的最优秀的人就是你要至少要保有这种警惕就是有一个人或者有一个物种如果我们对他不加限制或者说如果我们对他
他没有有限的利用他就会成为超越我们和碾压我们的这么一个物种但是你说人多大程度上能够控制住自己和别人比聪明能有多少人克制呢我真不知道我非常不确定我觉得就是现在让很多人克制表达欲都做不到克制
但是他的外观
问题它的恶来自于哪根本不是来自于说我就是要市场不要这些比如说咱们就拿很多大的外卖平台来说它绝对不是以牺牲这些外卖员的福祉为最终目标它只是想要更大的市场份额而已但是在这过程中因为有端到端因为这些算法的不透明它
导致了这些后果同时他也无力去解决因为你要大到一定规模就无法解决了可是你说让每一个市场让每一家公司主体来克制住你是不是要成为全球第一要不要成为这个行业的第一我觉得这也很难
它仰赖于我们整个这一套文明或者这个整个全球的价值体系在既有的过去要发生松动比如说未来有一天咱们从商业上讲你说我们未来让一个投资人来决定是否要投资一家公司的时候不是要把市场占有量市场规模放到第一位而是要看比如他的环保还有他的人道还有他的其他的非经济
经济指标之上来考量能不能做到我觉得我不知道反正至少现在有悲观那投资人可能会问那我为什么不做公益事业我为什么要投资你这公司但是我们这所有的这些都是按照现有的规则和现有的评估来估量的比如说那未来这个投资机构
如果有一天我们的标准在于说一个投资机构不在于你为股东挣了多少钱然后获得这个收益而在于比如说为这个世界的更向善这种指标来评价你或者说股东 LP 母基金更愿意给这样的基金来募资投钱那是不是也会发生这样的改变不知道
但是这完全是一个非常非常系统的工程至少赫拉利提出了这一套假设之后让我们警醒他说不能按照旧有的体式和旧有的价格体系来评估这一套了我们要开始建立新的秩序了至于能不能建立不知道但是这个事情已经迫在眉睫了如果建好了没准还不错呢对就像现在很多
很多那个品牌开始把说行销费用有多少用于在我们的厂家给这些工厂建篮球场然后很多人真的愿意为这些品牌来买单我们先不去评估它这个东西是不是作秀或者是不是正确但至少你看这样的行为已经开始被消费者来支持我觉得这就是好的改变的开始这是也有希望的一部分
我就想起来那个咖啡减少中间商赚差价的环节然后直供那个咖啡农让他们能够赚的更多让他们能够支持当地的产业和支持当地的环保也有类似的这种商业但是也像大老师说的这个过程中可能也存在矫枉过正但没关系那矫枉过正特逗我那天我一朋友给我发的要在网上买鞋他说你看外国的商标这鞋后边有标杆写的是素的就是素食的那个素啊
买鞋说这是素的你就可见在很多人心目当中对于你是不是采用动物的大家很介意所以才会标出来所以这也是一些积极的信号我读完这个书之后有几个启发我觉得我整体的观点和大老师差不多就是略悲观但是也没办法我们现在就处于这个岔路口
处于这个时间节点我们恰好是 AI 技术飞速发展的这么一个历史时间阶段那我们作为跟这个 AI 同步的我们可以说同步吧这样的生活在这样的一个时代的人来说我们其实没有办法去阻止它继续往后发展打不过就加入对但是我们当然希望它能够变成一个正面效应远大于负面效应的一个存在但是我们说
今天读尤尔赫拉利的这本《智人之上》其实也是一个提醒是一个永远的在旁边去警告你的声音它这种声音的存在是非常必要的那我从这个书里面得到的几个启发第一个是因为它本身这本书是基于尤尔赫拉利提出来的信息网络简史是信息网络来做的这样的一段论述所以我觉得读这个书重新让我意识到了信息对人类文明的重要所以也恰是因为
它如此重要我们要对自我信息的输入有一定的门槛和要求我们不能来者不拒不能全盘接收或者说在 AI 在人工智能越来越强大的当下和未来
每一个人对自己的信息食谱就制定一个信息食谱我觉得应该是我们认真对待的一份工作就是你到底你所每天获得的这些信息它的来源都是哪它这些来源可不可靠这些来源它得来的这些信息最终是不是能够被证明它是真实的它是有效的它是对你有帮助的
我觉得在未来每一个人都应该越来越重视这个信息食谱的建立而且我们回顾历史也从这本书里面看到了信息一直是塑造权力结构的核心也是非常重要的一个工具不管是古代神话宗教的传播还是这本书里面提到的官僚制度的建立还有印刷术广播电视等等新技术的崛起谁能掌控信息
大概率谁就能掌控世界对吧或者说大概率就能掌控一个社会一个国家掌控制度所以我们说信息的重要性再次通过这本书提醒了我们第二个启发就是尤尔赫莱利在这本书里面最后他强调的是自我修正机制的重要性他说如果我们人类能够团结起来建立一个针对 AI 信息网络的自我修正机制让它成为一个有自我修正能力的东西
那么也许 AI 就能够成为一个正面效应远大于负面效应的存在那我觉得这个自我修正机制很重要但是我觉得它不仅应该成为机构制度或者说信息网络的标配它同时也应该成为我们每一个人对个人认知的普遍要求就是我们对自己有没有一个自我修正机制我们能不能勇于并且善于承认自己的错误而且勇于善于去
对
第三个启发我觉得就是古希腊先贤那个特别著名的名言叫人哪认识你自己我觉得这句话读完这个书之后我越来越有体会而且越来越觉得这句话它对在当下和未来有越来越重要的意义和价值就是首先和人工智能的互动当中我们越来越感受到作为人类最终要回归的始终是那个自我
就是我们要回答那些问题始终跟人类自我有关就是我是谁对吧那三个问题我是谁我从哪来我要到哪去以及延展出来的我和人工智能之间最大的区别是什么我为什么是个人类不是人工智能或者说人工智能具备了哪些特点之后就可以把它看成是跟人一样的东西以及我们是不是愿意承认人的复杂性愿意去寻找人身上的弱点并且特别警惕不让人工智能抓住这些弱点来对付人
我们是不是在努力抑制自己身上的种种恶习像我说的人工智能往往反映出来的是整体人类的缺陷整体人类的恶习对吧那些假恶丑的东西往往不是人工智能本身带的它是学习了人类的大量语料之后才表现出来的那我们是不是能够从根本上知道这些恶习的存在然后愿意在生活当中去努力的去抑制这些恶习然后在生活当中摆脱
被这种算法操控的局面所以我觉得这本书就是它提醒了我们什么叫人认识你自己就是我们更应该去深入的审视自己把人工智能当做是一个镜子我们去参照了解人类到底它真正的本质是什么作为一个人什么才是对于我们来说真正重要的东西
这是第三个启发那针对这个问题其实尤尔赫拉利他自己也说过有一次记者采访的时候记者问他说从更广阔的视野来看可持续发展的关键要素是什么尤尔赫拉利是这么回答的他说关键的是要更好的了解人类就是我前面提到的就是人认识你自己的这个问题他说社会发展最终的目标不是生产人工智能
也不是生产其他东西而是为了让人类过上美好幸福的生活因此你需要真正了解什么是人生活痛苦的根源以及什么是人类的幸福之源这是尤瓦尔·赫拉利的答案我觉得特别好还是回归到本质没错回归到人的本质最后读这个书给我的一个启发是让我联想到了一个科幻小说也是被认为是科幻史上
最先出现的那个人物就是弗兰克斯坦弗兰克斯坦就是人造的嘛就是这让我重新思考了造与被造之间的关系因为人和人工智能的关系就是造与被造对吧人工智能是被造物人是造物者那
实际上弗兰肯斯坦和人类之间的关系和人工智能和人之间的关系是可以做对比的对很像我们看弗兰肯斯坦的故事里面有一些非常关键的细节首先就是人造出了弗兰肯斯坦之后人看到了一个怪人一个科学上的怪物一个不可能出现的东西出现了时候人的下意识的反应是什么是魂飞魄散是被吓得跑跑了惶恐对惶恐是
这是人类面对弗兰肯斯坦刚出世时候的态度那后面弗兰肯斯坦他逃走了之后到人类社会当中也学习了人类的很多知识学习了人类的语言学习了怎么跟人类相处甚至他学会了人类身上很多美好的品质但是最终
他还是犯下了不可饶恕的错误就是他杀人了对吧那我们看这个过程其实也和人工智能在发展当中可能会遇到的问题是相似的就是我们造出了人工智能但是如果说人工智能在人类身上学习到的那些语料都是冷漠的都是假恶丑的都是那些
不被接纳的那些东西那我相信人工智能就很有可能会像弗兰肯斯坦最后为了报复人类而杀人一样做出很多对我们不利的事情做出很多非常可怕的事情所以他让我重新思考了我们在面对被我们造出来的东西的时候我们应该用一个什么样的态度去面对它我们应该教它什么我们应该让它呈现出什么样的样子是对我们最好的我觉得这个是一个非常重要的思考题
而且我们说当年玛丽雪莱写下弗兰克斯坦那个故事的时候是一个什么样的背景呢就是 19 世纪初期启蒙运动的时候那个时候工业革命刚开始发展也是科技飞速进步的时候只是那个时候的科技跟我们现在科技不一样我们现在是人工智能那个时候可能是工业革命对吧那个时候的科技飞速发展于是人们对科学技术能够产生的巨大力量开始了盲目的自信开始了盲目的深信不疑
就是这种盲目的深信不疑带来了很多无法预料的后果对带来了很多不可预料的后果然后这种盲目理性之下的科学崇拜其实恰恰是毁灭性的来源这个是玛丽雪莱当年创作弗兰克斯坦的背景也是她想通过这个故事告诫人类的这个其实和今天我们读到尤瓦赫拉利的这本《智人之上》我觉得一个是文学一个是学术著作它可能在
想要起到的作用上和想要提醒我们的方向上是取得了一个非常重要的一致性就是这种总结不管是智人之上通过梳理人类的信息网络简史和弗兰克斯坦他通过一个文学故事所表现出来的那个想要提醒我们的东西实际上是不谋而合的对所以最后我实际是希望我们能够在人工智能这个问题上不会再重蹈弗兰克斯坦的覆辙
不会再重蹈那个悲剧对这是我未来的一个相对乐观的一个方向吧对这是我对这今天这个书的一个感受好那今天我们通过阅读尤瓦赫拉利的这本新书《智人之上》也是讨论了特别特别新进的就跟我们切实相关的发生在我们身边的不断的以每天的这个频率在日新月异的进步的 AI 人工智能这项科技的很多带来的新问题
如果你也读过尤尔赫拉利的这本《智人之上》或者你对 AI 和人工智能在未来人类社会的发展当中到底是一个悲观性的看法还是一个乐观性的看法你也可以是乐观派还是悲观派可以在评论区里表表态我们会从评论区选出五位朋友送上《智人之上》的指示书一本是可以大家多发展乐观咱们可能发出去的也是语料对对对
就看到这本书之后我就觉得以后那些评论区就不要写什么什么为了维护社区什么什么请大家善意发言以后就得写忍住为了全人类出一套这样的为了人工智能不学坏忍住只要我们变得越来越好人工智能和未来就会变得越来越好忍住为了全人类拜拜拜拜我们下期再见拜拜拜拜
Zither Harp
好