Shownotes Transcript
每一个变革的时代大概都会有这样一些人要在这个新时代的呼吁下要做一个大的综合完成一个大的叙述就这样的书在中国在西方在那些历史比较关键的时代都会见到
有個叫方旭東的人寫了一個叫什麼伴侶機器人從儒家的角度去辯護其實說伴侶機器人那是屬於比較隱晦的說法了是吧滿足了儒家對理想妻子的想像是完全順從的復得理想這個時候你就想像就是這種所謂的主體間現實和這個機器這種結合以後就會出現一種很你感覺是明顯的很倒退的很荒謬的這種東西就拿機器來做這種事情
所以我们回不去了我们也不可能去所谓的叫 AI 技术的去增长强人工智能的这种超级对齐可能会是我们将来的一个主流的一个方法去解释它尽可能的去监督它以 AI 制 AI 施 AI 之长计以制 AI
大家好,我是戴安松现在您收听的是我和高峰峰老师共同创办的一档人文读书播客也行传这是我们的第十一期让大家久等了这次我和高老师在商量选题的时候决定挑一本看上去不那么学术的热门大众读物最后敲定的是尤瓦尔·赫拉利的这本《智人之上》
从石器时代到 AI 时代的信息网络简史本来我们觉得这本书应该很容易读翻一翻就可以毕竟不那么学术但最后读下来确实感到收获颇多特别是最近 DeepSeek 横空出世 AI 时代扎扎实实的扑面而来人文学科要玩的这种论调不绝于耳
那么读这本书却是给我们这些高校文科人一种宝贵的视角既是可以去理解这样的一个大时代同时也是理解自身专业此时此刻的处境本期节目呢我们很有幸再次邀请到了著名艺者北京语言大学的李辉老师作为返场嘉宾和我们一起共读这本书要不先是请李辉跟大家打个招呼吧
非常高兴接受高老师和段老师的邀请再一次参加这次我们公读这个活动很开心在节目开始之前我也照例简单介绍一下赫拉利这位历史畅销书作者
赫拉利是以色列人 1976 年出生于以色列的海法 2002 年在牛津大学完成了博士学位然后就回到了以色列加入耶路撒冷的希伯来大学历史系任教他讲的课呢主要是世界历史
至此为止他还是一位名不见经传的年轻学者清教那他讲授的课程呢也多半是老教授们不愿意上的一门水课就是那个本科生的世界史概况那这种大杂烩的课程
因为它的内容非常的广泛往往缺乏深度从石器时代一下子讲到现代这样一个漫长的历史学生不太喜欢听也都是来混学分的
据说赫拉利最开始上这门课就是很头大因为学生上课都昏昏欲睡为了让这门课变得更有吸引力也为了满足他自己的好奇心赫拉利尝试用一种全新的方式来讲述人类的历史他不仅仅是聚焦具体的事件
而是要去探索到底是什么东西驱动了历史的进程它的深层的模式和机制是什么那么这样的一种方法后来成为了《人类简史》以及这一本《智人之上》的一个核心的框架赫拉利据说最初没有一个写书的打算他没有一开始就想出新机率的成为这个畅销书作家《人类简史》这个雏女座的雏形源自他为学生上课准备的这个讲义
那他花了很多年的时间打磨这些内容然后想把一些复杂的学术概念转化为简单易懂的故事后来就用这个讲义出了一本希伯来文的书
叫《人类简史,从动物到神明》这本书最开始在以色列出的时候主要是面对学生群体其实反响是一般的但是它这种独特的视角就是一种大历史的视角以万年为单位去串联人类的进化文化和科技的发展那这种写法很快就引起了英美读者的关注 2014 年经过翻译和修订那英文版呢
就大获成功加上他的同性伴侣兼经纪人伊茨克亚哈夫特别擅长这个图书的营销推广然后全球的读者对这类这个跨学科大历史叙事的兴趣又很大那这本书就迅速的成为国际现象级的畅销书销量据说超过千万册被翻译成 60 多种语言
赫拉利的第四本书智人之上英文名字标题其实很简单叫 Nexus 那这个词是来自于拉丁语意思就是连接绑定在当代英语的用法当中 Nexus 通常用来描述一种复杂的关系网络
中信出版社引进这本书的时候读出心裁把它翻译成叫智人之上我在想为什么翻译成智人之上不翻译成网络大概是因为 Sapiens 成为了他这个作品当中其实是一个标志性的概念那么用智人之上它既呼应了人类简史中的对智人的讨论也暗示了这本书是超越了当时的那种单纯的对人类历史的讲述要探索一个新的
信息网络时代人类的一个新阶段从智人到一个更高的存在人工智能的这个时代我们要不先聊一聊这本书的大的这种写作风格那高老师您平时是不是很少读这种现象级的历史畅销书这次读赫拉利有什么印象深刻之处我的确平常很少读畅销书
像《时间简史》是听说过的但是也没有读过所以这次特别感谢丹老师因为丹老师提到这本书然后我说我们试着读一下结果读完以后我感觉收获很大当然也是因为我对这个话题了解的很少读这种书我感觉就如果你对这个领域了解越少的话可能收获会越大如果你是长期研究这个领域
追踪这个领域最前沿的发展可能读这个书会觉得收获没有那么大但像我来说就是像这方面是一个小白所以就感觉收获很大这样的一种大历史的书就像刚才大老师所说的是以这种万年为单位的这种书我一方面觉得就是很难写因为你需要掌握海量的信息而且对这些信息要做一些分类和合理的安排
另外一个主要是你要通过一种全新的眼光把这些信息给它做一番梳理所以我觉得这方面这种尝试还是值得肯定的因为我感觉每一个变革的时代大概都会有这样一些人要在新时代的呼吁下要做一个大的综合完成一个大的叙述就这样的书在
中国在西方在那些历史比较关键的时代都会见到所以我觉得像赫拉利他的这种企图应该就是在这样一个急剧变革的时代特别是 AI 给大家带来的冲击这个时候有必要以这个角度回顾一下人类的历史所以这种书有点像上个世纪八十年代的有一些像什么走向未来丛书就是有一些预言性
预言人类的历史的发展然后提出一些建议或者一些警告或者是一些忠告同时呢也是尽作者所能对他所能掌握的人类过往的经验做一个全面的综合就这样的书我觉得
我觉得很有必要就像我平常比较爱看专业书的人偶尔读一下这种宏大的叙述的书我觉得也挺有帮助的就是好像让我一下把这个眼光能够放得更加长远所以这种书是属于那种纵论天下大势
然后试图讨论人类的整体命运讨论这种地球人的运势现在有一个词叫什么行星治理我大概感觉就是这种规模上的因为他最后要谈的是这种不光是人类的命运了包括这种碳基生物像
归基的存在交出统治权的问题就已经超越了简单的这种人类的历史的范围所以这样的书我感觉是读起来就气魄洪大而且他从古到今吧都有这样的气魄然后讨论洪大的问题然后扎根于很具体的研究因为刚才大老师说过赫拉利他本人是一个中世纪历史和近代军事史的这样一个专家
所以他里面觉得很多例子都是跟世界史相关的而且是跟军史相关的我记得像他经常引用像拿破仑的例子另外他本人是以色列人所以希伯来圣经应该是属于这种家学了所以会频繁地引用圣经的例子引用宗教的例子来说明他的观点我感觉这样的书我们可能不必在细节上要求太多
但是我看他书后有一个那个致谢里面他有一个很强大的团队帮他核验事实帮他找材料尽管如此吧我觉得这张书因为它跨越的年代太久而且涉及到各个国家各个时代所以我们可能在细节上不必太苛求它可以只是欣赏它的观点因为他是想
站在这样一个时代对人类的命运有一番预测所以这样的书我们可以尝试理解它的这种努力吧就是在关键的时代做出这种大胆的结论当然我们待会儿也会讨论到这个书的写作也有一些思路上的问题但我整体感觉
知道了很多事就是古代的事和近代的事包括是最现代的事情因为他这个书是 2024 年出版所以他写到了最新的 2024 年发生的一些事情所以我就觉得如果大家长期做专门的学术研究的话偶尔读一些这种眼光宏大的书其实也是一种你可以说是一种放松也可以说是一种拓展
所以我整体感觉对这个书评价我还觉得不错的你会怎么样感觉我觉得挺有意思的尤其是读完以后吧我觉得最大的作用就是
减少了对于这个专业以后未来发展的这么一个焦虑减少了这个政治焦虑但关于他这本书是之前写的我觉得从这点来看的话真的还是挺有远见的里面提出来很多的问题尤其是这个民粹主义者对于这个真相的这样一种扭曲然后他强调他自己是真相然后对于专业人士的这种否认这个问题其实
现在是愈演愈烈从那个大的宏观历史角度来说它拎出来一条就刚才您说的这个虽然有一些粗略但是不失它的那个洞见起了一些最基本的一些概念吧比如说这个信息是人类历史发展的这么一个
推动的东西就人类社会我们以前看很多人类社会会从其他角度去说那么它是集中在讲这个人类社会从形成到维系到进化演变都是通过那个信息的这每个收集处理还有分配它来进行的那么早期呢是那个故事讲故事的方式通过故事流传然后
然后后面就是这种文件档案的处理然后到后面这种信息化社会通过这种信息的监控啊信息的采集啊那围绕的核心还是信息我觉得这一点他理出来以后确实还是挺有启发的那么还有其他的这个信息流通除了我们一般讲的这个政治领域啊科学文化领域以外包括这个经济生产金融发展这些方面
它有好多就是看似是有一些以这个物质实体流动为基础的但是他告诉我们说我们更要注重实际上是一个信息流动的一个东西还有您刚才讲到那个八几年八十年代初的时候那个当时的那个未来学这个我有印象因为我觉得
我九几年我刚毕业本科刚毕业的时候就在那个沙滩那个有个五思书店当时买了一本书那时候书店人还很多买了一本那个叫大趋势 Nesbitt 的那么一个大趋势它里面有那个预测在那之前是有一个叫第三次浪潮很有名的那都是八十年代初出的书里面他提到的有一些说法我觉得跟赫拉利这会儿有一点相似的地方比如说赫拉利在人类简史里面
把人类历史分四个阶段吧然后是三次革命它第一个我觉得挺有意思叫认知革命就是人类的那个认知革命然后才是农业革命然后是科学革命这个
就跟以前像那个一三次浪潮里面阿尔文托弗勒他说的他划分是叫农业阶段工业阶段和信息化阶段或者服务业阶段这个在当时还是确实挺新的一个观点的那大趋势里面也有一些就是关于这种
网络呀全球经济一体化他这个预言的东西大学是确实挺火的据说是我看到两个数据有的说是全球销量是 1400 万册有的是 2000 万册一成中文应该是 80 年代 90 年代初左右的样子吧当时看上去觉得很未来真的是未来学觉得遥不可及的你现在再看过了这么几十年再看就在跟前了
这种感觉我觉得也挺奇妙的我们之前讲哈罗德布鲁姆的时候其实就提到就是英文系的老师把自己的领域写成公众畅销书的非常非常罕见布鲁姆是一个另类但是其实你在历史学科里面是能够看到很多成功的面向公众写作的这种畅销书作家的
我能够想到的就是除了刚才你们二位提到的之前 80 年代的那些引进进来的一些历史的著作之外尤其是在最近几十年其实你可以看到各种比如说纽约时报或者是亚马逊这样的一个年度书单上就是畅销书排行榜上其实很多都是关于讲历史的特别是以一种跨学科的方式
以一种这种大历史的方式去讲历史或者是以一种修正主义的方式你所不知道的美国或者是你所不知道的这个总统以这种方式来重新讲述的其实在图书市场上好像最近几十年一直都是宠儿咱们国内的这个像中信啊什么的他们就是报
包括甲骨文就大量的引进了这样的一些书确实很好卖确实有很多很多的读者某种程度上来讲也体现了当代我们的一种历史饥渴像比较有名的这个贾雷德戴蒙德的那本《枪炮并军与钢铁》那个书就特别特别的火而且
而且后来呃,成了一个 IP 嘛,后来还有拍纪录片啊等等。另外这个哈佛大学心理学系的斯蒂芬·平克,他之前写了一本书也是被这个奥巴马呀比尔盖茨推荐的,叫这个 Enlightenment Now,今日之启蒙吧。
也就是说启蒙科学其实不是像你们后现代说的那么糟启蒙理性带来了哪些实打实的好处那他的那个写作方式跟这个戴蒙德这些其实都是非常一样的就是特别会讲故事他们不是那种传统的历史的考据式的推理式的这样的一种思考
四辩式的写法就是说如果你看他们的观点包括赫拉利的这个可能就一页纸我觉得也就能讲完吧就是他的这个所谓的底层逻辑或者是他的这个 sissy statement 其实一点都不复杂但是呢他在每一章他分成很多章他每一章有几个关键的 claims 讲完之后他会颠过来倒过去从各个角度
然后去举例而且这些例子真的是妙趣横生我会发现可能因为他是以色列人同时又因为他是性少数群体或者是他的整个的这种对于宗教的禅修灵修这些东西特别感兴趣所以他举的例子
特别的非典型就是它不是我们看的那种大陆货的例子很多例子都是来自于一些特别小众的国家小众的文化特别冷僻的这种文史的嘎啦角落里面找出来的这种 anecdote 被他讲出来以后呢就觉得特别特别的哇有意思在这本书的开头讲那个一战的那个信哥的故事是吧讲的非常的就就是其实你会感觉到是有小说家的技巧的
我特别被他戳到的是他在纸老虎会咬人里面那个他讲那个文件嘛讲这个官僚体制他举了他自己的外公的这么一个故事他的外公当时是在应该是东欧的哪个国家对吧然后因为这种反游然后要求他们在罗马尼亚罗马尼亚对让他们突然一下就是你要证明自己是罗马尼亚人你得找出你的出生证明
如果你找不到那张纸你就可能失去你的公民身份结果他就到处去找然后本来这个犹太人他很多就是不断的迁移就找不到这个东西然后又为了有很多人为了制造这张纸片甚至去行贿或者是打通关节结果他的外公就真的没找到最后非常非常侥幸的
几乎是在最后时刻登上了离开这个国家的船对吧然后最后辗转来到了以色列这个家族故事你就会听上去感觉特别有说服力而且特别的真实那么就是一张纸吧
看上去好像没有那么大的作用但是他可能就会决定你在特定的岁月当中你的生和死以及你的你未来的这些命运对吧如果他的外公死在了罗马尼亚可能也就没有我们今天的赫拉利然后他写的这些书来讲述这些故事了我就觉得他的大历史首先是这个视角确实是一个很时髦的写作方式
在另外一个呢也该他火这家伙真的太会讲故事了就是他的这个 storytelling 的本领啊堪称文学家我在我的文学导论课上每年的文学导论课的第一次课我都会把赫拉利的人类简史当中的一段拿出来跟大家分享
我说你看啊你们是不是觉得文学没用赫拉利的这个人类简史里面就说了是吧人类之所以能够在进化的道路上异军突起一下子成为万物之灵长不是因为他们会用火按照这个赫拉利的说法是因为人类发明了虚构发明了一种非常好用的讲故事的方式从而可以把大量的
这种部落里面的人连接起来构建一种统一性的信仰然后去变成村庄变成城市进行人类之间大规模的分工协作然后人类才有了文明你看吧如果没有 narrative 没有 storytelling 根本就不会有
智人的胜利是吧就不会有尼安德特人的这个进化树上的这个黯然退场所以我们文学是研究什么我们英文系我们文学系其实就是在研究 narrative 就是在研究 storytelling 读人类简史的时候我觉得还是蛮充分的就是
就是它不是一种特别历史唯物主义的就是把一切放到物质的层面而是用一种人类的虚构能力讲故事这个东西来勾连人类智人到现在五万多年的这样的一个历史
但是看至恩至上的时候突然感觉心又沉下来了因为这本书与其说是在继续的讲述这种讲故事对我们人类进化的影响啊还不如说是未雨绸缪吧或者说也是非常人间清醒的告诉了我们呃
讲故事制造的这些神话虚构主体间的现实它所可能带来的危险危害特别是在 AI 的时代我是觉得它有一个贯穿的主题就它在这个书前言当中就提到了就它称之为天真的信息观很多人都相信就人类的愚昧无知是因为信息缺乏
这个大概应该是启蒙主义之后的一个想法吧就是说只要你给人充足的信息然后这些信息就能够自由的流动那么人呢凭着这种求真向善的本性呢就可以达到真理
我感觉这样的说法就是一种非常启蒙的一种想法就是说只要提供大量信息让人多多接触经验材料那么人们自然就会去北存珍因为这个材料会被充分地分析 咀嚼
然後呢如果我們鼓勵信息自由流動的話那麼再加上保證信息大量的供給也就是說信息量要大另外一個呢信息的傳播不受限制如果能達到這兩個
标准的话等于是把民众放到一种信息的这种自由竞争的市场上然后凭着这种自由竞争最后真理总是会占上风这种就是他所称为的所谓天真的信息观就是在没有压力没有胁迫的情况下人类总是能够找到真理和真相就这个想法他在这个书当中是反复地加以
因为他说实际上并不是这样就是信息量激增之后实际上也带来了虚假信息的数量的激增而且呢因为人类的各种天性当中的某些趋势吧让人们不太愿意追求真相而更愿意追求其他的一些欲望所以这是他
在多个地方谈到的这个话题我自己感觉是讲的是挺有道理的并不是我们信息量足够了以后我们能够自然而然地达到真理而经常是相反的情况出现这个是我读他这个书印象比较深的因为感觉他要批判的就是那种很多人都会
相暗中信奉的一个关键但实际上这个真相是跟我们的期待是完全相反的我接着高老师这个话题再说就是刚才讲到那个信息和这个真相的问题我觉得赫拉利他这个书里面
他对一些关键概念的那种把握一直还是把握的比较清晰的就是说全书贯穿于全书的就是关于信息如何去获取因为他有几个概念我觉得是需要我们比较注意到的就是说信息和真相它还有一个现实之间的就这几个概念之间的一个关系
我们原来实际上是有一个所谓的迷思认为只要你有足够量的信息这个足够准确的这个信息来源进行足够的深入的分析那么就可以接近那么现实的这么一个真相所在那么这个实际上是达不到的但是我们人类在不断的在完善这个相关的技术
这是它的另一条线就是说这个技术任何时候的技术都有它各自的短板比如说早期时候的那种讲故事的方式通过故事来传递信息的方式它有它很多的局限它有很多东西是没有办法容纳到这个故事里面去的那么后面就会发展出那种文件档案之类的东西这种东西它不具备故事性那么这个东西呢它是越来越专业分工也越来越多最后
对于普通人来说他听故事他可以去理解或接受一些东西但是你让他去看那些专业的文档文件资料这些东西他是没有办法而整个官僚体制就由此而因缘而生那么对于这种官僚体制所代表的这种专家
以及這個專家和這個他們所能夠理解的事實真相之間的這麼一個關係那普通民眾是感覺越來越隔閡那麼這就為後來的這個在信息時代一方面那個信息時代的這種蓬勃發展然後每個人都可以獲得資訊的這種便利和這個民眾
普通民众对于这个专家对于官僚机构对于这个整个这么一个信息的这个制造存储这个提炼加工这个体系产生了一个深刻怀疑那就助长了这个民粹主义的发展这就是我前面我说那个感觉读这本书以后解决了那种所谓的这种焦虑的问题就一方面就是说你看到一个人类面临着一个更大的一个危机在这儿
这个专业发展也好或者眼前的很多东西都要大得多的东西就整个一个社会整个一个世界它往哪个方向去的问题我觉得华尔利他在这个做宏观历史这块应该说效果上还是相当成功的
赫拉利是比较会比较身体力行的吧可以这么说吧就是说他一方面把这个理论体现出来了另外你从他写这本书中间也可以看到他是怎么样去从技术的层面去调用去收集然后去加工这个信息
包括前面丹老师说的就是说他有个团队他的团队做的这一系列的工作是他一个人做不了的所以就说他在这种同行之间的这个组织方面信息的这种加工的这个组织方面他有他的一套东西另外还有一个就是他前面我们提到说他的那个里面很多的中国材料特别多我也觉得挺有意思的因为他毕竟他不是专门研究这个中国历史的嘛
但是我后来看了那个人类简史的那个前面有一个别人写的这么一个前言之类的中间就讲到他的这个中文版所参照的英文版是特地的给中国读者量身定做的那也就是说这就他就很注重这一点就是说我的读者他可能对哪些方面更好理解更感兴趣这也是一个信息灌输不能叫灌输吧信息传递一个有效传递的这么一个技术
你包括他的这个封面设计我们看的封面设计是有个性格有的是戴了个军帽有的没戴军帽戴军帽的那个看着就觉得有点怪怪的这就跟他一开始讲的刚开篇的时候讲的这个故事就有关系
他在讲故事中间我觉得也是挺有技巧的就是说他没有分析我是怎么讲故事的但是如果我们从一个叙事的角度来看他怎么去讲故事的时候就能看出来他在这方面他的这个叙事的功底他是埋在那个一个两个故事底下的他讲了两个信鸽的故事嘛一个是这个一战时候就怎么去送信就那个鸽子飞出去以后那个把那个信息如何送到的问题
这个实际上是鸽子它要去传递信息但是这个鸽子本身受伤了然后呢就实际的就所谓的真相的情况
和这个流传的那个故事版本是不一样的但不管怎么样这个故事仍然是流传下来了第二个鸽子的故事是讲的是那个当时的这个犹太人就是作为间谍在那个奥斯曼土耳其帝国呢就是说放鸽子出去同时通过什么样的方式然后让这个接收方知道他这个情报送出去了
但后面就是说因为不巧那个鸽子呢正好落在有一个这个土耳其军官的那个花园里面被抓住了就那个信息本身他们不知道因为加了密码的别人不知道那个信息内容是什么他说了一句话但是鸽子的存在本身就是信息所以说他通过这个两个故事的时候我们就看到就是说作为这个传递媒介的这个鸽子
在一个故事里面第一个故事里面出现在第二个故事里面出现就是作为信息本身的这个鸽子包括第二个故事它紧接着它又延伸出来另一个就是关于什么事第一个故事其实有一个关于什么是真相的问题第二个故事里面又重新延伸出一个关于什么是真相的问题关于什么是价值评判这个人是不是英雄因为后来这个送鸽子的这个人那个情报站的这么一个负责人后来被捕了牺牲了从土耳其人来看
他是不是然后从这个英国人来看是不是他是不是个英雄然后从这个犹太人的这个角度来看因为他有些地方比如说他不符合这个犹太人的这么一些这个正统的一个观点那么就是产生了不同的一个叙事他拿这几个这两个故事中间他已经把他很多的这个概念都已经埋进去了就是我们前面讲到的关于故事信息传递真相事实
所以从这一点来看我觉得他真的是一个把这个信息的传递的技术是非常娴熟的加以运用这么一个身体力行的这么一个人吧我有个特别深的一个印象就是刚开篇就能感觉到对对对就像我们刚才聊的就像他
人类简史欧哥智人的胜利应该归功于讲故事是吧所以他自己又就是他整个的那本书就是在讲故事所以他特别知道如何去利用讲故事这本书智人之上它的核心概念是信息网络对吧那他自己就像刚才李回老师说的
又是一个绝对是行家离手就是他在这个文本当中提供什么样的信息实现什么样的连结创造出一种怎样的读者和他之间的这种现实然后产生一种什么样的效果包括这本书在不同的国家要做怎样的改写提供不同的前沿或者是增三然后加强这种跟不同
特定的读者群的共鸣就是非常非常的高级就是它的这种整个的运作的过程但这其实也带来了一个不知道大家有没有发现其实有一个自相矛盾的地方对于不管是讲故事也好还是对于这种信息的流动主体间的现实也好
因为赫拉里一直在强调这个东西其实是一柄双刃剑过多过少其实都不是像我们简单的想象的那样它是一个单一化的结果但是他自己呢却其实更多的时候是在呈现一个比较单一的技巧或者是比较单一的一种叙事的策略
这个是让我有一点点隐忧的啊就是就就是我我如果说对这本书比较挑剔的话那我觉得他在这边其实会有两种
就是在讲故事的过程当中说理的过程当中其实他会掉到一个他自己批判的谬论当中去或者是我们说 falency 当中去一个我觉得就是滑坡谬论什么叫滑坡谬论呢就是一个东西你会觉得说他如果处在一种不好的情势当中那他一定就会变成最糟糕的结果
那赫拉利的观点就是说人工智能这么强大算法这么强大那最后人类就会就会被算法控制然后甚至算法能够去这个主宰那些我们这个世界最有权柄的人而不是他们来控制算法
那这样的一种说法当然他说我不做预言是吧我也不是想特别的去危言耸听什么的但实际上还是会让人觉得难免会觉得它是一个滑坡谬论的一个版本因为它对于算法的这些理解或者是不透明化其实还是有很多工程上的技巧可以去解决这个问题的并不是人类
遇到了这个计算机这么一个从来没有遇到过的半神一般的这种信息的机器我们就一定会最后走向一个末日论的那么一种可怕的场景这里面是不是
会有问题另外一个呢我觉得他的写作当中其实有比较强烈的这种单一归一谬论的问题什么叫单一归一谬论呢就本来这个事情应该是有很多原因很多因素共同决定的但是在他的讲故事的过程当中为了把这个故事讲得非常 engaging 就是大家都能够吸引人
他其实会放弃一些就是一个学者或者是一个一个专业人士在讲述这段历史当中应该有的缜密谨慎还有这种多角度一个比较印象深刻的例子就是他在讨论这个 1716 世纪的这个欧洲的猎物 witch hunting 他
他就说这个猎屋啊是因为啊那个时候这个我们的这种科技的发展啊带来了一种所谓的叫印刷技术的大面积的普及是吧大家大家都可以看了大家都有读写能力了然后可以很方便的接触到一些一些纸质的书籍那请这个女巫之锤是吧这样的书就突然一下就变成了大家都要去呃
读的这么一种这个畅销书啊因为当你把书可以很廉价的印出来投放到市场的时候人们不会去读康德或读黑格尔人们本能的会去读那些讲女巫的这种危言耸听的书因为它足够的惊悚嘛
只有有阅读的快感所以他就讲这个书的这种在欧洲的传播之后和这个女巫的这种对女巫的迫害讲了很多怎么去折磨女巫什么的 1692 年我们知道还有著名的萨勒姆女巫审判等等
他自己当然也承认说这个印刷文明这个的到来或者极大的信息网络的这种出现嘛他说只是这个女巫审判的其中一个原因不能说是全部的原因是吧但他并没有讲其他的原因他只是在他的书当中大篇幅的讲这个
女巫之锤然后那个时候的一些宗教书籍的作者如何在散播这样的一种恐惧
那么没有去讲更多的包括比如说新教和天主教宗教改革以后然后带来的复杂的这种矛盾是吧然后殖民史或者是那个地方的这种阶级性或者是一些政治的问题带来的这种女巫恐惧就是这个东西他就没有去写但是呢就我自己接触到的对 17 世纪女巫恐慌女巫审判的那些史料
其实历史学家对这个问题的探讨是非常非常非常丰富的那么仅仅因为一本书放大了这种恐惧这种理论呢只是众多学说当中的一种实际上是不能够作为一个甚至不能作为一个主要的原因来解释这个女巫审判这样的一些事情
所以我就感觉到就是这种 storytelling 来讲大历史其实是有它的这样的一种双刃剑的这样的一个效果对吧因为他要让大家都接受他就必须把他讲的足够的简单因为读者尤其是大众读者他没有能力去接受复杂的叙事
那你在讲你的你这样一种单单一归因的这样的一个叙事的时候你讲的这个眉飞色舞讲的妙趣横生是吧但某种意义上来说你你其实把把这个问题其实是做了一种过于简化的处理那这个
讲故事的方式和你当时批评的那些所谓的阴谋论者是吧 QAnon 的这个那个那个匿名者 Q 那些传播的那些什么深层政府的阴谋论什么的跟他们讲的那些故事其实可能也没有那么大的那么大的区别那读者当代的尤其是一些白领的读者他在读这些大历史的时候他之所以会被爽到就是他突然觉得
他能够从纷繁的跨越五万年的人类历史当中突然找到一个特别简单的就是一条线就能够理解的是吧这么一个一把钥匙一下子就把好像这个拨开云雾人类的这种历史一下就看到了一条清晰的线一个清晰的脉络那其实这个绝对对于我觉得严肃的读者来说这个东西其实也必须只是一种幻觉
所以我就是觉得一方面读他的书很爽有被爽到有强烈的阅读的快感这个跟高老师是一样的但另外一方面我们其实也想提醒读者就是他也有他自己不可就是跳出来的他既然选择了这样一种讲述的风格也必然会带来一些罗宾
逻辑上的或者是这种讲述上的这样的一种硬伤这个我觉得也是难以避免的我不知道大家怎么看这个问题我觉得这是这类书的一个困境就它要满足多方面的需求因为刚才丹老师说过他实际上真正想讲的其实可能
三两句话或者三两页就能讲得很清楚而且很多焦虑都是大众还有媒体每天都在重复的这种焦虑就是怕这种 AI 统治世界等等就像他整个书的这个
关怀焦虑和担心其实不是那么的其实非常容易确定的对吧但是你要写成这样一个书写成这种大历史的书特别是像他的副标题所说的从实际时代到 AI 时代的信息网络简史
你要写成这样的书那你就得采用某一种写法因为我的印象当中我以前看过两本书就是副标题带着石器时代这四个字的凡是带着石器时代的字样的标题这样的书往往真正谈石器时代的不会超过实业所以我觉得这个书也是这样既然你敢这么写从石器时代到 AI 时代那么你必须把你的这种新的综合要
放到古代跟现代都能够适用得有这样一个要求所以我读这个书它分成三部分实际上是第二第三部分是讲的这种计算机然后网络 信息 然后 AI 它的第一部分就是一个大的历史的综合而且第一部分实际上篇幅占了全书的一半
就是从古到今主要是从古代讲起吧然后我就注意到刚才戴老师所说的问题就它实际上是用信息控制和信息传播
这样的角度然后把古代的一些事件以及传统学术研究的非常透彻的一些题目又重新给讲了一遍就是带着这个信息的滤镜把熟悉的问题又重新讲了一遍有的时候呢讲的会比较好让我们会觉得有一些新颖的地方
但有的时候就是你这个新的眼光和旧的材料实际上不能完全的配合在一起因为很多的研究已经做得非常充分了现在它用一个新的角度和一个现代观念来重新看的时候经常会出现这种就实际上好像不能完全配合
比如说他经常用这种圣经的例子讲圣经正典这方面我正好比较熟悉圣经正典意思就是说圣经的经书是经过漫长的历史过程逐渐到了很晚的阶段
宗教人群或宗教社团认定某几卷书是所谓经是这种圣经的这种标准书单里面的不能再增不能再减了就这种中国佛教叫节集然后他们西方一般叫这种正典正典化他把这个因为这是一个传统的经学题目我研究了非常透彻
他把圣经的就希伯来圣经以及基督教圣经的正典化过程把这个事情他用信息控制和信息流散吧就让我觉得好像就是也能讲得通但是大部分情况下我会感觉有点怪怪的就实际上就是像你用一个新的瓶子装旧的酒一样就有时候你那个旧的酒不是所有东西都能装进到新的瓶子里去
所以我觉得这样的例子就刚刚大老师讲的这个猎物的例子然后我刚才说这个正典化的例子可能都会跟他写书的这种就制作这种超销书的需求有关系就如果你要为了这个让 AI 和二十世纪之前的人类历史发生隐秘的关系的话呢那就需要用新的概念对过往的历史进行新的编织
然后显而易见的会发现这种我刚才说的心平而装不下就酒的这样的事情所以我觉得赫拉利他和其他的这种做大综合的宏观史学的这种作者一样面临的困境就是说你如果不把比如说苏美尔文明的《蝎形文字》档案《希伯来神经》的截集
基督教圣经然后解经印刷术猎物这些不同时代的事件都包进来的话呢那么你这个对于 AI 的讨论就失去了一个历史纵深感无法跟历史接轨好像讨论一个单独的孤立的新兴的事件但如果你要把这些事情都通通吸纳进来的话呢那形成了一个历史的拼盘那么就不同类型的历史问题
又會和 AI 和信息不能完全兼容所以我覺得可能是他的書就這種大歷史的寫法帶來的問題就是因為你要照顧很全面你要把古代跟現代強行發生某種關聯那麼就會造成這樣的問題
我是觉得他的一个主要的论点就是说我们寻求啊搜集啊这个积累和比较信息不完全是为了追求真相或者说是了解现实他说这个现实也包括既包括唯物的现实也包括那个所谓的主体间的现实那么最主要的作用那个信息的这些所谓的这种搜集加工作用是为了建立秩序或者说是破坏秩序
那么拿这个论点我们从这个论点来看他自己这个写书的方法其实也能解释了那他这本书里面他其实就是说他在这整本书里面他要调用一些信息来建立一个他对于这个历史秩序的这么一个阐释就是建立一个新的一个叙事的秩序而已或者说破坏颠覆一下以前我们的这种这种关于这个历史叙事历史叙事这么一个角度或者说一方法
当然它中间比较新一点的东西就是说到这个
从基本概念出发就是叫人类主体间的现实和那个计算机间的现实这中间是存在一个本质的差异那么这个本质的差异最后就会导致那个机器的这个他们所主导的这么一个信息系统和人类的这么一个信息系统这么中间的一个分离和人类的实际生活之间的一个分离这个到最后就会失控那这是他所谓说的一个主要的那么他前面所说的关于这个故事的这个
刚才高老师也提到关于圣经的形成它无非是说从一追找的时候口头叙事的那种讲故事的方式如何转化为一种近似于这种文档这种收集然后是这个归类然后这种官僚管控的这种东西那么这种东西它带来一个它这个技术的发展也带来了这个技术的难题那么到最后的话实际上它是没有它的目的
也不是为了真正的能够实现因为最后能够指向的这个在他看来啊这个圣经的这个文本所指向的这个真实已经没有办法去落实了他中间讲了好几个例子比如说讲到那个在那个早期的那个
诗图啊早期教父中间关于这个女性吧这个这个地位的这个传教过程中间这个地位的问题这些东西在他看来就是说当时你可以选这个也可以选那个就是因为当时选择的不同导致后来的这个根据文本所指向的那个真相那么一个差异另外一点我觉得有一点还需要注意的就是说其实关于叙事本身这个大家这些年讨论的还是挺多的
就在现代社会里面这个叙事它其实还是一个比较有效普遍应用的这么一个信息传递还有这个人类秩序这么一个建立的方式我看到有个图表就是 2010 年到 19 年的一个统计就叙事这个词它出现频率在这个历史人类学社会学政治科学心理学领域都有这个显著的提升在
在那个经济和这个金融领域里面相对少一点但是我们就特别熟悉的有一个故事其实对我们还是有一些影响的就是
关于那个房贷的问题我记得好早以前流行那个故事关于美国老太太买房和中国老太太买房什么攒一辈子的钱和美国老太太这个按揭其实这个故事真的还是影响挺大的就当时那个时候这个那个贷款借钱去借很多的钱去买房子这个事情是大家很难以接受的
但是类似的这种叙事实际上就改变了人的观点了这个后面屡次听到直到近几年大家才突然意识到那后面的呢还有其他的一些因素呢因为这个故事它就是本身它就讲了一个单一的那么这种故事本身是有一个特别主导性的或者说是一种它实际上是里面包含了一个解释性的
我就想到那个贝亚明好像是以前就讲到过就关于这种他说的小说他认为小说是在这个资本主义发展就是近现代他才兴起的兴起的反而小说的兴起反而长篇小说的兴起反而意味着这个就是讲述就是讲故事这个走向摔落的这么一个最早的这么一个迹象
因为他人类最早时候比如说口头文化的时候那种讲述呢在他看来就是源于经验经验是代代相传的那么他是通过这个经验和智慧通过这个故事本身他是提出一些忠告的
但是呢它的目的是为了塑造一个共同体而小说的诞生是形成这个所谓孤独的这个独立的这种个体啊让人这种提供更多的是一种解释性的东西而讲故事本身的这个实质在于描述这样的话呢就能够把这个事实的有些这种所谓的这种种子吧就是说我们越来
尤其是在资本主义后期信息化是稍微发展就像后来韩炳哲也接着来讲到的话说的所谓的不提供解释才是讲述的真谛认为信息的这种叫做
盈余吧这种 Supers 这种东西是这个现代叙事危机的这么一个罪魁祸首这一点我们在赫拉利的书里面也可以看到一些这么一种这种迹象吧更多的时候是为了这个讲故事是为了服务于传播信息为了服务于这个解释信息
没有保留那种不可解释而只可讲述的那么一个事件这个我忘了是本亚明还是韩敏哲举的例子好像是本亚明举的例子就讲到那个西罗多德历史里面讲到那个埃及的国王被俘虏了以后然后在那个游行队伍里面看到自己的女儿被作为奴隶过去了她无动于衷看到她那个年迈的仆人在出现的时候突然之间她就崩溃了
那么这一幕是相当感人的但是呢希罗多德就是把这么写了他没有提供更多的解释你要换在我们现在的这种历史叙述中间肯定就会有各种各样的解释加在里面那么这种程度上他就削弱了那种叫做故事的事件本身的这种不可解释性
但是赫拉利他沒有辦法他寫的時候因為他在講到這個敘事就故事講故事本身的局限的時候他拿來做一個對比的就是說那種文件檔案的這種積累這種信息的這種傳播和這種儲存
他认为这两者是很难结合到一起如果说当然他举的例子是以这个讲小说写小说为例子说如果有谁这样子来写小说那么肯定没有人没有人愿意看因为那个故事是属于这种叫做生物戏剧的东西赫拉利举的例子是这个罗莫耶纳就是这个印度的这么是是他从里面提取出一些就是说
这个所谓的这个人类在这个生物演化过程中间这个数万年中间吧这么一个形成逐渐形成的这么一些主题性的东西什么父母的仪器啊什么爸爸爱我生活爱你啊什么男孩遇见女孩啊男孩为了女孩打架啊还有那个洁净与这种污秽的这个紧张关系啊还有其他好多那么
那么他认为这些东西呢实际上是人类我们喜欢感兴趣爱听故事的这么一个关注的一个点但是这些故事本身不足以这个承载我们一些决定我们生活决定我们生活时日决定我们未来发展的命运的这么一些基本的这种信息的这种东西那么在他这本书里面他是既讲了故事又把其他各种各样的
包括一些统计数据啊包括一些这种各种各样的这种就是说这种资料分析的东西他把它加进来我觉得这也实际上他不知不觉也在进行一种综合吧但是他自己在没有去这样提到他提到的他概括的这个脉络就是相对来说就比较
比较对立的或者说是难以融合的或者说有一个那么历史发展的趋势它不可替代的逐步逐步进展到我们现在这么一个状态这种我觉得这个确实就像前面张老师和高老师所说的就是难以在这本书这么一本书里面它没有办法去解决那么一个方法论的问题
那我觉得这个其实也是因为他这里面对信息的定义其实是过于宽泛了就是甚至甚至对叙述的定义也是也是远远大于那些本亚明所讲的那种叙事我觉得很很意外啊就是本来至人之上他是要讲信息要是讲网络但是这本书从头到尾你看不到他引用一句关于当代信息论的这个地方啊
他们也看不到他对于这种网络社会社科研究民族的这样的一个对话我们知道在这个经典的当代的信息论里面信息的定义是克劳德香龙在 1948 年提出来就什么叫信息他把这个信息定义为叫不确定性的减少量
就是说一个信息它的不确定性越高是吧它的伤就越高那么有了这个信息之后呢这个伤就会减少所以信息其实不是数据这个在信息学里面是非常分得非常清楚的那数据就是一些最原始的东西而信息呢至少是要经过对数据的一定的加工处理然后呢它才能够减少一个消息源的不确定性
但是对于这个赫莱利来说呢他对这种信息论的信息观完全不感兴趣啊对于媒介理论他好像也也也抛开一边他就觉得说他他理解的信息就是那种任何能够在这个人类个体当中创造出一种新的现实的东西就是信息
它是用效果用这种效力来代替对于信息的一个本体论的这么一个界定当然这个有好有坏了我觉得好的就是大家会觉得很容易懂
但是坏的一方面就是一旦这个东西万物皆可为信息这个概念其实就缺乏了一个学理上的这种可分析性就好的东西它其实慢慢的就不太能够自洽了这个我觉得是它的一个问题吧再包括它写这个网络
曼纽尔卡斯特这个 90 年代就写了这个网络社会啊往这个信息网络三部曲这都是社科民主就是就信息网络对我们来说到底意味着什么但是呢这个赫莱利也没有也没有去深入的探讨这个问题他对于这种信息网络到底是呃就是从技术层面从物质层面他到底有什么样不同的类型啊什么他也他也不关心他就一律的反正都是啊这个计算机
制造的网络然后一切都是信息时代的算法什么样的算法那他好像也没有深究所以他在这种概念的运用上我觉得都会带来一些问题
前面是主要是聊他的这个智人之上然后如何用他来做透镜吧相当于旧瓶装新酒是吧然后重新去解释这个人类的漫长的历史有一些地方这种叙事的视角或者是棱镜吧
它其实解释力还是蛮强的有的地方会有一些独到的惨发对吧就刚才我们聊过了但有一地方好像觉得其实是有过于简化的危险比如说猎物的历史比如说西方这个教会史是吧
包括这个正典啊宗教典籍的这样的一个正典的历史这些都不是用一个简单的信息网络就能够把它解释清楚的我们其实接下来就是从历史要回到当下啊因为呃这个赫拉利就讲说呃别人批评他的一个原因说你都是用他去写人类历史你不太关注当代啊
他除了写了一个关于 21 世纪的十个教训还是十二个教训那这本书其实就是他的一个转型对他来说是一个转型因为写石器时代其实不是他的真正的这个初心他更想去做的一个事情其实就是以古建金
其实就是要对我们很多人其实自以为是的这种信息时代的到来他其实是要泼一盆冷水因为他的那种对天真的信息观的批判对于创立谷歌的人来说我觉得是他们很不想听到像谷歌的几位创始人对他们说就是信息的自由流动既意味着民主化是吧信息的自由流动既意味着
这个平权如果说信息按照赫拉利的说法并不是越多越好 AI 时代其实就带来了一个很不妙的处境因为我们第一次在人类历史上按照他的这个警告出现了一个能够自行做出判断决策甚至去
做出任务的就 AI 智能体吧这个东西它有 agency 了它不仅仅是有一个认知的能力它还有一种 agency 它可以去代理人去采取行动
那这个东西出现以后它彻底的改变了人类的这种信息的网络的面貌就是这个网络不再是智人之间的网络了它甚至可能就是归基生命的这个网络智能体跟智能体之间的网络人类渐渐的可能就没有什么没有什么用处了是吧
我们都知道啊就是最近的几个月啊我们中国的人工智能异军突起啊 deep seek 刷屏是吧就现在这个街头巷尾啊老百姓养猪啊大家都都都要查一下 deep seek 看看哪一种饰料哪一种啊这个这个病该怎么治啊
这个就是这个时代已经到了那如果这样的话按照他的这种对于信息的两面性这样的一个计算机信息机器的危险的警告其实我们现在是现在是很不妙的实际上我们不应该
自以为是的认为 AI 技术越发达越好对吧我们应该让它不仅你要控制它的发展甚至有的时候按照赫拉利的这种判断我们最好不要把它发展的那么的尖端因为它变成了一个 cutting edge 的这么一个技术之后呢它实际上接下来就是所谓的叫 bleeding edge 它会杀人的它会让我们流血的
并不是说 AI 每一秒钟每一次回答都会犯错但是因为它太强大太强大之后呢这样的一个智慧力就会就会带领我们很多的事情那么它在其中某一个微小的环节我们不知道的黑箱当中的某一个微小的环节它一旦出错
那么它的危害是极为巨大这是他的一个推理他第二个推理呢就是说以前在一个没有这种信息网络的这样的一个时代就是对于专制的社会其实要把信息聚集在一起他史上是很困难很多时候会他举了很多苏联的例子嘛
但是呢 AI 时代的到来让这种就是有一个单一的高度集权的这样的一个政府或者是怎样的是吧能够这个人工智能去高效的去监控去处理这样的我们的社会的所有的方方面面
那这个听上去又很像这个 1984 的未来所以这个我觉得他是蛮悲观的我就想问两位就是说如果用他的理论来思考我们现在的当下就我们各自的学科各自的感兴趣的领域就 AI 很快可能就要
就要取代我们了或者是把我们的这种整个的这种日常的很多的东西就要弄得天翻地覆学生写论文可能都是 AI 了是吧老师贝克也是 AI 然后这个期刊杂志收到的稿件你也不知道有多少是 AI 生成的反正 DeepSeek 特别会有嘴滑舌也会用很多这个学者的大词是吧写的比我们还溜这种话术非常的精通
那我们该怎么办就我看他后面部分就是感觉赫拉利他就有很强的这种政治关怀因为他主要是在他在第一部分的时候就弄了一个什么民主简史和一个集权的简史然后是为了为后面做铺垫嘛所以按他第三部分的论述呢就这个 AI 对民主制度是一个摧毁然后同时对专制好像也有一些
威胁吧只不过那部分可能讲的比较简略或者说这个中一本可能有一些删解所以我读这一边读这部分我觉得是还是挺有感触的至于那个现在有什么问题因为我感觉就读这样的书吧我觉得有一个好处就是它让
像我這樣不太前沿的人會有一種突然站到了前沿的感覺就給人一種給我一種幻覺你看我現在
已经在跟前言的问题已经能够掌握或者说我已经对前言的问题有所了解就他让你感觉到你是已经能好像把你推到了前言我觉得这个给我带来了一种满足感可能是归结于他讲故事的这种手段吧
我自己实际上对科技这种 AI 了解都比较少我以为丹老师可能会谈得更多一点因为丹老师他算是这种电脑达人吧因为我就是一个普通的文科男然后最一般的学术方面写字 收集材料也就是仅仅用于这些而已
所以我对这个像 DeepSick 这种出来以后呢我只是就是问他一些专业的问题就是我研究过的问题或者说呢我正在研究我想看看他的在我的提示下他进行怎么样反正我目前为止我问的一些
比較具體的學術問題好像我沒有收到特別滿意的答案吧除了大家都說的他會經常會偽造文獻這個我們都會碰到這兩天就是我有一個明確的暗示因為我想好了一個問題我就讓 AI 問他就是兩個文本之間我自己是看出了一些聯繫然後我讓他去看我反覆提示他他好像也沒有最後也沒有像我那樣看出來
所以就是目前我的这种最初级的对 AI 的使用而且是主要是在学术方面使用我倒没有感觉到它能够完胜对我觉得目前还取代不了我或者说我以后没写一篇文章我都在后边写一下注上就是说迄今没止这个问题 AI 还没有
得到我這樣的結論我是不是可以這樣寫當然我覺得可能這是學科不一樣吧就是理科的學者然後比較尖端的學者他們會有自己的肯定會有自己的感受了就像我這樣一個很普通的文科學者
反正我拿我自己感兴趣的问题去测试它还没有得到特别满意的答案好像一开始 DeepSeek 刚流行的时候大家就是说它好像改写功能很强大对吧你给它一个指令把某一个文章按照某一个风格去改写然后瞬间生成一个但这些我觉得就是仅仅好玩吧也就是所以我只能说目前就我个人的有限的了解和我的这个学科
我沒有覺得 AI 特別的讓我印象深刻包括一些基本的檢索因為我會讓它做一些檢索比如說某人的作品當中某一個主題或者某一個人物出現在哪幾張 哪幾回就這樣的一個檢索我看它檢索也不是那麼滿意所以可能是因為我的這種
研究不太需要目前吧不太需要技术 AI 所以我倒没有觉得特别的恐慌我不知道两位你们感觉怎么样当然学生那个论文如果他是用 AI 写的话这个肯定是让我很头疼的因为你要去论证他这个是 AI 写的然后这个是很过程是很痛苦的
我总体感觉吧就是说用一句比较大家经常讲的一句话就是所谓对于这种技术发展这种未来的这种展望如果从一个最默认的最忧虑的角度去那就是 1984 和那个美丽新世界的结合呗但是从赫拉利的这个角度来说可能那个他所担心的所谓的这种这种机器人的专制吧机器人的专制我觉得
更多的实际上是源于他认为这个主体间现实和这个计算机间现实的这么一个脱离和差异还有这个呃智能和这个意识的这种分离就是说他有智能他没有他不他也不需要人类这种意识呃那么从由此就会带来很多很多这种问题包括伦理道德这个更不用说了啊呃
那么再往大力头说就是政治层面的刚才高老师也讲到就是所谓的那种民主虽然有自我修复的机制但是可能那个等到它修复的时候已经来不及晚了有种脱离了
那么专制的话呢看上去好像是可以极大的满足那要是大家可以想象一下就是秦始皇如果有这一套这个数据统计系统的话那肯定是如鱼得水但是他到最后他讲了一个就是说那个专制体制的话最后最大的一个问题在于就是说那个权力最后的那个入口的问题他提了举了一个例子假如某一天那个计算机系统出于什么样的原因告诉这个总统说这个国防部长要闹政变
你相信他还是不相信他这就是个非常两难的问题因为到最后就集中在全力集中在这么一个或者极少数的决策者身上的时候那么这个决策就很难因为它本身它是完全依赖于这么一个计算机的这么一个我觉得这是一些大的
那么他还讲的比较大一点的就经济领域的比如说那个他说那个你人类的这个信用啊这些东西你能不能债到款啊这些东西全是靠计算机给你算出来的一种你根本不懂得算法算出来的这个就很要命了你比如说我们假如说像我们以前讲的那种啊我去
想象一个所谓的那个想象中的那个美国老太太那样然后我就年轻的时候我就带上款我就背上了房贷这个债务了然后到中间的时候突然出于某个原因他说我这个信用有问题然后我因此种种的这种在这种社会的这个就等于就是射死了那个经济功能就是完全是给我停掉了那种情况出现又怎么办如果说他就是作为一个个的个体他没有任何力量去反抗这个机器人的这种专制的东西
我觉得这是他讲的一个稍微就是说都是比较大点的这也是很现实的一些情况这我们有时候遇到过这种系统 bug 的问题那一个表格全部对他就是立刻就让你去这个你后面事情就全部就耽误掉了都会有这种情况发生小一点的地方来说的话我觉得就近年今年不是那个政府工作报告也提到那个叫做那个专门提到的巨神智能的发展嘛
去年只是说生化大数据什么人工智能等研发应用今年说的特别具体中间就专门还提到了这个居身智能的问题然后什么智能终端还有智能制造设备啊这一类东西这个让我想到前一阵大家在讨论的有一个争议挺大的一个文章吧有个叫方旭东的人写了一个叫什么伴侣机器人从儒家的角度去辩护其实说伴侣机器人那是属于比较隐晦的说法的是吧
满足了儒家对理想妻子的想象是完全顺从的负责理想这个时候你就想象就是这种所谓的主体间现实和这个机器这种结合以后就会出现一种很你感觉是明显的很倒退的
很荒谬的这种东西就拿机器来做这种事情当然还有一些从另外的角度来说就是讲纯粹从这个所谓的伴侣机器人这个工艺制造方面说这个国外的这个订单一下子增多了而是因为它改进了有这个加了 AI 技术以后改进了我
我觉得这些东西都是有这个这个这个两面性的吧那么从我们专业的角度来说的话我是觉得从像这个翻译这一块我是做了一点测试的因为我以前从来没用过这个 AI 去去
就哪怕那个测试我都没用过,我充电出来的时候,我的兴趣也不是太大,但是 DeepSig 出来以后,我觉得门槛如果这么低,然后大家夸的这么好的时候,还是要去了解一下,我就做了一个测试,我拿了一本书,
约翰凯里的 John Kerry 的有一本自传的书叫做《出乎意料的教授》The Unexpected Professor 那本书里面我这里面选了两段东西两段材料我觉得理解起来可能会
需要一些推理的东西我去看看他能不能推导出来因为他那段话说是在牛津上学的时候有一个算是打扫卫生的一个人就是属于那种老派的就是这个新大公似的他就回忆当年的这个美好的这个旧时光然后怎么样说当时那个开 party 的时候大家那个说那个扶乞上说这个没有足够的扶乞的空间叫 four coats
我想看看他能不能把这个溢出来结果呢 DeepSick 一下子就是他那个推理的这个能力我觉得还是挺强的他就是说因为那个说那个楼梯扶手上已经放不下那个球币大一了
那他的意思就是开 party 的时候人太多所以放不了衣服这个推理后面还有一个就不太用的不太常用的一个词说他们当时几个学生抓住一个比较左倾的吧这么一个学生然后呢把他的那个杂志什么工人杂志给他撕了扔到马桶里头然后把他的头摁在那个 pan 里头
因为他那个 toilet 的 pan 的话一般我们不会不会很少简称 pan 他一个 pan 我看他会不会产生误解结果他根据上下文他就推导的全是对的就是说就是把他头按在马桶那但是一开始的时候呢他不给我 E 我就不知道为什么
就因为中间出现了有一个词就 communist 这个词然后呢他就给我说对不起我做不了这个译不了译不了这个东西然后这个中间是实际上属于这个敏感词的问题我把这个词屏蔽完以后我再传给他的时候他就把那个把我屏蔽掉的词译成了叫
左倾主义者左义人 左义人士这说明就要么就是他有前面的记忆他知道我前面传递过一次文件然后第二次他再给我根据这个推导出来他自动的把这个空给他补出来了这是我感觉这是他的一个那个运作的一个机制另外就是说我等到我第二次发第二段文章第二段材料给他的时候我又问了他一个紧接着我又问了他一个问题我说这个因为这本书里面提到的那个拉金嘛
我说这个作者和拉丁之间认识不认识这是一个属于一个事实的这么一个问题就是说认识不认识要么是要么不是
他说他给我的回答前面的回答就说明他是有一些背景的他说你前面发的材料就是他写的一本书里面的然后这个人呢这位作者呢又写过精英与这个大众文化这本书而拉金的这个写的这个作品里面有很多用生活用语说这两者之间是有联系的你看他那推理能力很强的然后紧接着他就给我一个胡说八道的说但是这两个人应该不认识
其实这本书里面是有的所以我就想看看他就是说这本书他能不能根据我的这个线索然后去他导出来某个什么数据库或者其他的一个材料这个就不太清楚了总之他根据这个的话呢他应该他没有办法去提炼出一个跟这个我没有告诉他的一个相关信息但是他会编一个事实而且编的是事实他来他来告诉你这个情况所以
所以我当时我自己的一个感觉就是觉得这个还是有很多的问题的尤其是牵涉到事实那我重新再去做一遍验证的话那我何必要问他呢这是我目前来说我所感觉到的而另外一点就是说他那个义的东西里边其实我还做了一个比较就是有一本书叫文明的碎片那个英文叫 Wordy 就是那个西蒙沙玛的那本书
他里面举了一个例子说那个伊拉斯默说说伊拉斯默也是个画廊什么他说我收到你的信很高兴这句话他说用一百多种方式来表达我就把那句英文的那一句我收到你的信很高兴我让 Diptych 我说你写十种
不同的方式他先给我的十种全部都是那种还是说高兴换别的词然后收到信这个东西然后还是这个信息没动了再后来我说你换一下修辞手法他给我换了几种修辞手法
基本上都是属于那种很俗套的那种他和那个伊拉斯默里面也有一些俗套的但是有一些就是属于非常非常个性化的写作的东西就让想起那个陈秋帆前段时间就讲到一个他对于这个为什么我改变了对 AI 写作的态度这里面就提到因为他是比较早的鼓吹这个人机合作的认为这个人机是之间是有一个共生的互相激励互相成就的这么一个共生关系
还写了一个书什么的然后他今年他就认为他说中文能力是好超过 90%了我看他的翻译实际上也是这样子就是他的翻译基本上超过大多数那个研究生的这个水平了
这个就带来一个就业危机的问题实际上但是后面它有很多一是风格的油腻另外一个就是说它的对人的那种创作主体性的那种能动性的那种占用这个是很要命的东西这是我觉得挤占性这是一个目前来说从职业的角度来说一个特别大的担忧对于人类那种主动思考
用语言语言的使用然后那种深度思考的人的深度思考的东西还有一个对于这种职业的这个发展的这么一个就业的这么一个截然性这是一个比较很直接的这么一个忧虑
我非常理解大家刚才聊的这些因为其实用专业的术语来讲就是所谓的叫幻觉 AI 现在的有些会编造一些事实这也是赫拉利提醒我们务必要小心的因为当你过分信任一个智能体的时候它的一个微小的错误可能就会让人类这个社会的运转陷入到巨大的这种
危机当中但我因为可能就是从 GPT3.5 出来以后就一直就是 day by day 就是每天都在追踪这里面的这种人工智能的进展所以我可能会比二位要更从技术角度上来讲我会更乐观一些就是不管是你们说的这种检索有时候检索不到或者关于一些事实性的问答他达不到点子上
我觉得这个都会随着技术的迭代都可以解决那么所谓的 AGI 这个叫通用人工智能就是一个无所不能的智能体那它的到来的时间我前几天跟陈秋帆也聊这个事他的预言是 2027 年就是
整个的硅谷很多人的判断是在川普的任期内我们人类就会实现通用人工智能那什么叫通用人工智能就这个东西如果出现以后对于赫拉利来说并不是说我们人类这种技术到了一个极致的巅峰他用一种历史的这种思维他其实感觉到一种非常可怕的一种
时代可能会到来我记得他在第四章他有一句话写得非常的巧妙他说每个宗教的核心都离不开一个幻想寄予一个超人类的绝对可靠的智能体相连接他用这句话
去解释圣经去解释这个人类宗教的发展我们对神的崇拜我们对教会的崇拜我们对那些预言家的崇拜其实都是因为我们想投身于这样的一个绝对不犯错误的智能体当中那我们人类是有这样的一个饥渴 AGI 实现之后实际上就意味着一种新的神
出现了而且这个神不是一个一个一个仅仅停留在纸面上的一种主体间的现实这个神变成了一个切实存在的我们每一天都可以验证他的神力他的奇迹的这么这么一个一个东西对于这个时代的到来科技界有两种对策或者是两种因应的这种思路第一种呢
叫有效加速主义什么叫有效加速主义呢就是说 AGI 反正要来了对吧人类的这个命运要被彻底的改写这已经是一个比计算机带来的这种技术颠簸要打一百倍一万倍的这样的一个变革相当于所谓的叫起点 singularity 那人类的发展不是线性发展到了这个起点之后人会出现人类社会会出现一种断裂式的这种发展
现在不是我们都批判资本主义吗晚期资本主义吗或者还有一个词叫非常晚期的资本主义吗那起点到来了技术到来了然后这个 AGI 到来了相当于有了一个总加速就是这个东西与其它慢慢的这么发展一点点的并入高荒还不如一下技术到了一个起点然后呢断裂式的发展人类的旧的秩序就此毁灭然后呢
在废墟上重建一个崭新的人类的未来这个就是加速主义的看法大破到大利是吧无破不利反正都要嗝屁了是吧反正我们的这个职业我们的制度
都要玩完了那干脆早一点到早一点好那还有另外一种因应的策略呢其实就是所谓的叫超级对齐这个我很遗憾啊就是赫拉里居然没有提这个词啊什么叫超级对齐呢 alignment
就是说从一开始就是一些人工智能的学者他就在说我们要将这个超级智能体的短期目标和我们人类的长期目标应该把它拉平这个赫拉里提了我们的短期目标当然是要他多快好省能帮我们写论文能够帮我们这个处理数据是吧能够帮我们生成各种
网络故事啊最近最近有一个网络谣言说这个某一线明星这个开私人飞机的在这个这个赌场输了 10.2 个亿啊
然后大家把这些信息交给 DeepSeek 让他去做推理然后他一推经过信息整合我发现这个人应该是黄晓明然后黄晓明出来这个辟谣说啊 实意这个不可能啊这个跟我一点关系没有后来呢警方发了通告这人被抓了是一个 38 岁的网民这个谣言就是用
人工智能编出来的然后呢又在网上去发酵去传播最后要以人工智能去判断去检验所以我在想就是所谓的这种超级对齐其实还是一个思路就是用技术来解决技术的危险
就是你可以在这个算法的层面在机器学习的这个调教的这个过程当中你就可以用比如说强化学习或者是那种奖励制度的方式来训练 AI 去解释它的代码啊解释它的算法然后去呃
最近我看了一篇科技文章就是现在有一种新的这种程序它可以让 AI 就是揭示 AI 的隐藏的动机就是你在做这个事情的时候你用哪些东西其实是有风险的哪些东西是跟我们人类的这种福祉长期的来看是不吻合的用 AI 来监督 AI 用算法来解释算法这个其实是完全不合适
可以行得通的啊我觉得在这一点上可能赫拉利有一点点这个杞人忧天了我相信人类还是会有这个智慧啊去克服这样的一种技术上的呃这种危害啊因为我们人工智能已经到了对吧这个这个强人工智能的时代我们要想让我们回去大家都不用啊然后
这个规模的降下已经不由得你的这种是吧因为资本是主力的所以我们回不去了我们也不可能去所谓的叫 AI 技术的去增长强人工智能的这种超级对齐可能会是我们将来的一个主流的一个方法去解释它尽可能的去监督它
以 AI 制 AI 是 AI 之长计以制 AI 或许但老师还是还是比较这个技术乐观的态度我觉得要不然怎么办呢
因为我其实对于 AI 取代翻译取代文学创作然后取代传统的人文研究因为它已经真的是掌握了人工这个自然语言我对这个未来的抵达是毫无怀疑的
所以我在这个也是这个我也是毫不怀疑就是说这个技术上我觉得是可以不断完善技术上真的很多问题都可以解决包括他现在存在的这种幻觉问题包括这种谬误问题种种但最主要就是后面他会带来其他的东西比如说人干什么的问题还有一个就是说谁来控制的问题就像前面那个人类简史里面讲到那种就是说所谓的这个弗兰肯斯坦骑在这个吉尔加美什的肩膀上
那么这个如果是这样的一种这个新的这种生化人长生不老的生化人然后他来控制一个无所不能这个机器系统的时候然后其他的那些大多数的人不具备这些条件的人怎么办的问题
这个就我觉得就是很成问题的即使是没有这么悲观就是正常的好像就是机器能够做很多很多的事情那么人剩下来人做什么我就想起以前好久以前的一本书叫欧阳海之歌里面就提到说到了这个共产主义社会的时候这个一切都自动化了原文就是这样一切都自动化了人就坐屋里都享福想吃饭了一按电钮肚子就饱了然后欧阳海就说
人活着总是要劳动的一天到晚光享福有什么意思其实那么早的一个文本我就觉得很有意思他也想象到了这么一个可能就是说人要做什么的问题当然我们可以用一些简单的例子来解释我们造出轮船我们是很快的渡过河渡过海但是人还是要学游泳的但我觉得这种例子其实还是有点弱
但是我觉得都是问题对于我来说都是问题但我挺认同就是大老师刚才讲的这个未来发展这个趋势这个真的是事无可挡的但是问题它还是存在的所以应该这两年赶紧把那个想写的论文赶紧写出来以防两年以后就 AI 就可以写出来了现在他趁他现在还没有发展到那个极端的情况下先把自己的想法先写出来
而且会有一种另外一种可能会更快的到来就是那些会非常会使用 AI 的学者他们会更高的产出更高的质量狂发论文无形中抬高了整个科研生产或者是科研这种
这样的一个门槛就未来评教授可能要 40 篇 50 篇因为那些 AI 赋能的学者他们会极度的高产而那些始终不愿意跟 AI 合作或者借助 AI 的这些食古不化的人那他可能就会学术的这种制度所淘汰这极有可能啊他如果用的好的话其实也是都是贡献了都是有质量的贡献我们是在见证历史了
那希望赫拉利他的这些危言耸听落空我也希望我们人类能实现超级对齐我们能够跟一个尽可能不犯错的然后比较有人文关怀的 AI 然后和平共处到更久的世代这是我们的希望吧也希望我们用 AI 节省出来的时间能够带娃
养猫种菜做一些更加原始但是却能够关乎身体的灵魂的建设好了今天我们也聊了很多了非常非常感谢二位然后我们也希望大家能够去读这本书并且和我们一起去思考这个时代
今天就到这儿感谢大家拜拜再见