Deep Dive
赫拉利在《智人之上》中如何看待人工智能的影响？
赫拉利认为人工智能作为一种全新的信息技术，会带来负面影响，并且其形态与以往的技术革命不同。AI具有主动行为的能力，能够根据设定的目标做出决策，这可能导致信息网络的自我修正机制失灵。AI的强大和自主性可能带来不可预见的后果，尤其是在缺乏修正机制的情况下。
赫拉利如何描述信息网络在人类历史中的作用？
赫拉利认为人类信息网络的发展史是人类社会发展的核心线索。人类通过信息网络建立大规模合作，从而在自然界中胜出。信息网络不仅呈现现实，还连接人与人，通过虚构的故事、神话、宗教、货币等工具加强合作。这些虚构的秩序和连接推动了人类社会的发展。
赫拉利提到的‘天真的信息观’是什么？
天真的信息观认为信息越多越好，只要有足够的信息和时间，谬误会被澄清，真相会浮现。这种观点类似于技术乐观主义，认为技术进步能解决所有问题。然而，赫拉利指出，信息爆炸时代中，真正有价值的信息往往被淹没，大量廉价无效的信息反而占据主导地位。
印刷革命带来了哪些负面影响？
印刷革命虽然推动了科学革命，但也传播了大量宗教幻想、虚假新闻和阴谋论。例如，猎巫事件在印刷术的推动下广泛传播，导致大量无辜女性被指控为女巫并遭受酷刑或处决。赫拉利指出，信息自由流动并不一定会传播真理，反而可能助长谎言和幻想。
赫拉利如何看待AI在信息网络中的角色？
赫拉利认为AI已经成为信息网络中的主动行为者，能够根据目标做出决策。与以往的技术不同，AI没有情感和道德约束，其目标可能是提高用户参与度，这可能导致传播愤怒和仇恨的内容更容易被推荐。AI的介入可能使信息网络的自我修正机制失灵，甚至影响人类的公共对话。
赫拉利如何评价民粹主义的信息观？
民粹主义的信息观认为信息只是权力的工具，对任何机构、制度和权威都持怀疑态度。它主张通过神秘主义或天启来寻找真相，而不是依赖现代科学。然而，这种极端观点可能导致无政府状态或极权主义，因为它放弃了建立秩序和修正错误的机制。
赫拉利在书中提到的‘女巫之锤’是什么？
《女巫之锤》是一本由克雷默编写的指导手册，教人如何找出并杀害女巫。这本书在早期现代欧洲非常畅销，推动了猎巫行动的广泛传播。它充满了关于食人、狂欢、谋杀儿童和撒旦阴谋的恐怖故事，激发了人们对女巫的恐惧，导致大量无辜者被处决。
赫拉利如何看待AI对人类隐私的影响？
赫拉利指出，AI和计算机技术的监控能力可能使人类首次失去隐私。智能手机记录和联网所有信息交互，这些数据可能被用于识别暴力分子或维护社会安全，但也可能被极权主义者用来迫害异见分子或强制遵守僵化规定。例如，伊朗的人脸识别系统用于强制执行头巾法，减少了抵抗空间。
赫拉利如何评价AI在金融领域的作用？
赫拉利提到，金融领域中AI和算法之间的交流已经形成了一个全新的信息网络。AI在金融决策中扮演了重要角色，但其自主性和强大能力可能带来不可预见的风险，尤其是在缺乏修正机制的情况下。
赫拉利在书中提到的‘自我修正机制’是什么？
自我修正机制是信息网络中纠正错误的关键机制。赫拉利强调，科学革命通过建立学术期刊、科学协会和出版商等机构，形成了强大的自我修正机制。这种机制允许科学不断推翻错误，推动真理的发现。然而，AI的介入可能使这种机制失灵，尤其是在信息网络中缺乏修正机制的情况下。
- 信息可以呈现现实，也可以不呈现现实，但信息一定会连接网络
- 天真的信息观忽略了信息过剩的负面影响，民粹主义的信息观则走向了另一个极端
- 信息网络需要在发现真相和建立秩序之间取得平衡
Shownotes Transcript
不止读书,读书不止,大家好,我是魏小和在节目开始之前讲一个事情就是在 11 月 3 号我会在上海的箭头书局有一场关于新书读书的人的分享活动具体详情海报我放在胸口当中大家可以查看然后扫描海报上的二维码报名今天来分享一本新书赫拉利的新书《智人之上》
他原来的书名应该是连结那副表体是从石器时代到 AI 时代的信息网络简史赫拉利本来是一个历史学家但他写的那个人类简史非常的畅销成为了很多互联网圈的人的一个热门读物在 15 年的时候大概是那个时候我记得然后后面他又出了这个
未来简史今日简史反正这三本书都卖得非常好然后也很有影响力他的第一本书人类简史虽然有很多的批评但是我第一次读到的时候确实是非常震撼的
因为首先赫拉利非常会讲故事然后他也非常善于抽丝剥茧地去把一个东西讲得娓娓道来而且在那里面他把故事或者说虚构作为人类发展的非常重要的一个发明这个观点也是令人非常印象深刻的那最新的这本所谓的《智人之上》很大程度上也是一个历史书里
而且和之前的几本书也是联系非常紧密的,简而言之这本书它是从信息网络的角度重新梳理了人类社会发展的过程,那它这样的一番梳理实际上是想要回应一个当下非常重要的问题,就是 AI 时代人类会走向哪里。
如果说他之前的未来简史出版的时候呢这个还是一个非常遥远的问题但是当下呢他就非常迫近了有很多技术乐观主义者会认为说人工智能是一种新的技术革命就像印刷书啊像工业革命一样会将人类带向更加繁荣的一个地方虽然可能会有一些威胁但是
新的技术会把这些威胁全部都扫平这是很多技术乐观主义者的一种看法那在赫拉利看来这样的观点既忽略了过去的技术革命带来的负面影响这些负面影响在这本书当中他谈到了很多等下我们会谈到
他另外一个观点就是这样的一种乐观的看法也低估了人工智能和之前的革命的一些不同的之处所以呢他就从头的来梳理了这个信息技术和人类互动的历史那关于人类的历史用唯物主义
这个历史观来看的话这个人类的历史呢就是一个阶级斗争的历史我们从小学的从奴隶社会啊一直到这个资本主义社会然后再到共产主义其实就是这样的一个脉络权力斗争是核心的一个线索阶级斗争是一个非常重要的主题那赫拉利他提出了一个新的看法或者说一个新的串起人类历史的这个线索就是
人类信息网络的发展史这里的第一个问题是信息是什么那在这个地方在开始整个的历史的回溯之前呢赫拉利提出了两种对待信息的观点这两种观点都比较极端一种就是他称为天真的信息观一种呢是民粹主义的信息观我们先来看这个天真的信息观那这种观点就认为信息就是对现实的呈现
如果我们有足够多的信息我们就能够获得真理获得真相那有了真理和真相呢我们就能够得到力量得到智慧天真的新奇观有点像这个技术乐观主义就是如果现有的技术会造成什么问题的话那么我们发明更先进的技术就一定能够解决现有的局限
那如果现有的信息因为它的这个交流不充分的话所以可能会有一些谬误啊谣言啊什么的那也没有关系只要我们搜集到更多的信息的话那这些谬误可能也会在这个过程当中被解决这是一个天真的信息观的一个观点
他们相信只要我们拥有的信息越多那就肯定是越好的因为只要有足够的信息和足够的时间那这个信息就会得以澄清然后我们就会抵达更多的真相和真实我们的力量就会提升智慧得以生长
但是赫拉利想说的是事实上并不是随着信息越多就会越好的因为大量的信息其实是廉价而无效的真正的稀少的昂贵的真实信息在这样的大量的信息当中反而会容易被淹没
那这一点其实我们在这样的一个信息爆炸的时代可能大家都多少少有一些体验就是在网上能够传播更广的往往是一些情绪化的甚至是一些谣言或是一些无关痛痒的八卦而真正的一些重要的事情反而是很少人愿意花时间去看到这些信息也被铲除了但是它可能就被淹没了
在赫拉利看来这里藏着对信息的关键理解就是信息可以呈现现实也可以不呈现现实但是呢信息一定会连接网络智人之所以能够征服世界并不是能够准确地呈现现实而是懂得应用信息去连接网络吧很多人连接起来比如说有一个共同的图腾一个神话把一群人凝聚在一起然后让大家相信这个神话
能够更加的英勇更加的团结去完成一些事情那除了这种原始的图腾啊神话啊那后面的包括民族主义啊包括国家啊包括宗教啊信仰啊货币啊这一切的东西都是人类发明的
信息网络通过它们加强了人和人之间的连接与合作但是这一切并不一定是真实的并不是以呈现真实的世界来运作的赫拉利在回溯这个历史当中提到的第一个信息技术的发明就是故事有了故事就有了新的连接
那能够在客观现实和主观现实之外创造出主体间的现实就是我刚刚提到的像神话呀国家民族宗教这些那按赫拉利的说法他们都是虚构的正是因为他们连接了人并建立了秩序才使得人类社会得以发展
故事或者说虚构是人类发明的一个信息技术它能够建立部落但还不足以建立国家更不用说帝国那就是要到第二个更加高级的信息技术赫拉利的总结是书面文件以及通过书面文件建立起来的官僚制度因为这本书它很厚啊
我如果全部拆开来讲的话那其实很长所以呢关于这个书面文件如何建立出来一个官僚制度呢就暂且略过大家可以去找这本书来看那这种制度呢我们其实都很熟悉它也让信息网络变得更加的复杂
它能够抵达到更远更深的地方我们很简单比如说如果没有这个书面信息没有这个官僚制度的时候呢一个领主他可能只能统治方圆几十里最多的一个地方但是有了这个官僚制度的话他能够
但是我们都知道其实在古代的话虽然中国的这个文官系统这个官僚制度非常的发达但是到了更下面到了县以下乡以下还是有很多地方其实它的那个控制力度是没有那么强的
但是已经很强了它能够通过税收通过控制军事力量来增强自己的力量关于信息它有两个能力它可以呈现真相它也可以连接网络这两者是缺一不可的并且常常是互相矛论的这个信息网络的功能并不能够说把这个真相放到最大
而是要在真相和秩序之间达到平衡像官僚制度和神话制度就是维持秩序的必要条件但是为了维护这个秩序的存在就可能要牺牲一部分真相但如果长期的牺牲真相人类的社会就不会发展会陷入一个巨大的回音室当中在这本书当中赫拉里去回溯中世纪的教会的统治就是一个非常明显的例子
在这本书当中他回顾了圣经这个文本经典化的过程以及教会如何垄断对圣经的解读而获得了权利由于教会呢它控制了中世纪的信息网络的关键节点像一些印刷的工坊
或者是一些档案馆一些图书馆所以呢就避免了一些持其他意见的这些人所谓的异端分子把他们的观点传播就只有一种信息网络就是这个教会的信息网络所以呢大家都笼罩在这个信息网络当中那中世纪就是这样那个巨型的信息检访所有的日常活动思想情感都有
关于这个圣经的解释这解释谁解释呢是由教会来解释的关于这个解释来塑造所有人的生活在这个过程当中圣经是一个不会错的文本它当然是由人类编选出来的但是当它经典化之后呢大家就不再相信它是由人编选出来的而认为它就是上帝直接借由人书写出来的
总之它是不会错的它就是真理因为人总是会犯错但是这个上帝不会犯错所以圣经也不会有错正是因为它不会有错所以就会造成很多的问题会有很多的谬误很多的压迫所以一个良好的信息网络当然需要去纠正这些错误那如何去纠正呢天真的信息官就会认为办法就是创造出一个与教会完全相反的事物就是一个更加流动的信息市场
就让每一个人都可以有不同的意见那大家呢就在这个制作市场当中正常的说话那随着这个参与的人很多时间很多所以呢这个谬误就会随着时间然后这个讨论当中呢慢慢的消除所有的错误都会无处遁形
这是一个美好的愿望实际上我们曾经以为的互联网就是一个这样的平台这样的一个网络互联网我们在这样的一个充分的信息平台上肯定能够让智慧者的声音留下让那些谬误啊那些阴谋论啊什么的都在这样的自由交换的市场当中慢慢的被淘汰但是我们都会发现好像事实并不是这样的
我们反而越来越觉得互联网上的信息不仅是无杂而且很低效很劣质那除了互联网技术在之前非常重要的一个信息技术就是印刷关于天真的信息官认为只要消除一切的限制让信息自由的流动所有的错误都会无处遁形但是这只是一厢情愿作者就举了一个
15 世纪中也发生的印刷革命印刷革命很多人都认为它是直接推动了科学革命所以它非常重要事实上也是如此但是它有另外一面 1454 年到 1500 年这 46 年的时间欧洲的印刷的书籍就超过了 1200 万册像
相较之下在之前的 100 年就还没有印刷术之前就是靠手抄的书籍 100 年也只有 1100 万册的书总之印刷革命使得书籍的传播非常广泛按理说真理应该让人们进入一个更加光明的时期但事实上印刷术除了能传播事实之外还有宗教幻想虚假新闻和各种阴谋论
最抽名昭著的就是猎巫事件关于猎巫行动的书里在这本书当中非常精彩因为这个事实可能很多人都知道欧洲发生很多猎巫行动就很多的女性被莫名其妙的指控为女巫然后就把她们烧死非常的残酷但是我们不会想到说这样的一种非常
看起来很残酷并且很野蛮的行为实际上和印刷革命竟然有着一些联系它实际上反而是技术进步导致的这一点在这本书当中确实写得很精彩就是在中世纪大部分的时候呢大多数的欧洲社会其实根本就不在乎什么女巫
他们在十世纪的有个经典叫主教教规定义了女巫基本上就是一种幻觉相信巫术是违反基督教的一种迷信主要活动在阿尔卑斯山的有一些教会人士他们就创造了一套巫术理论这种理论认为女巫的背后是撒旦领导的一个全球性的女巫组织他们的目标就是摧毁人类秩序
这套理论认为女巫会在夜间举行盛大的恶魔集会他们会崇拜撒旦杀害儿童啃食人肉肆意狂欢那这样的一种女巫形象基本上后来就成为我们所认识到的这个女巫的形象而且现在的很多的恐怖片当中
依然还是在使用这种形象在 1428 年到 1436 年就是在阿尔卑斯山西部的瓦莱地区发动了第一次很大规模的猎物行动处决了超过 200 名男女巫师就是从这里开始一套全球女巫的阴谋论就这样流向了欧洲各地但是这种想法在那个时候是非主流的就是天主教会一开始并不相信这个东西因为它都是无稽之谈
其他的地区也都没有开展这样的猎物行动那这里面有一个关键的节点就是这样的一种阴谋论是如何成为整个欧洲大家都在信奉并且去实施的呢就是有一个可以说有点精神错乱甚至有着非常严重的厌女倾向的一个人他叫克雷默他编撰了一本书叫女巫之锤这本书呢是一本
告诉你如何找出并杀害女巫的指导手册就你按照这本书你就可以找到你周边的哪些人她是女巫然后发现她之后你要怎么做怎样的拷打她或怎样的去把她毁灭正是从克雷默开始让这个巫术性别化许多现代人都知道的关于女巫的经典形象就是从这本书出版之后才开始有的
虽然当时的很多的专家都不相信但是这本女巫之锤偏偏是早期现代欧洲最畅销的书之一因为它里面充满了各种人类最深的恐惧关于各种食人啊狂欢啊谋杀儿童啊还有撒旦阴谋这些东西总是会引起人的兴趣就像我们现在的网上你会发现很多那种
猎骑士的故事总是很受关注很受欢迎这个克雷默他的名气就越来越大而且他这套说法甚至赢得了教会专家的认同 16 世纪到 17 世纪有 4 到 5 万名被指控为巫师的这个无辜的人受到酷刑甚至处决事实上在早期欧洲没有人和撒旦有性行为也没有人骑着扫走但是女巫就这样的成为了一种主体间的现实
而且就像金钱像货币一样由于大家不断地交换着这个关于女巫的信息这个女巫就变得更加的真实了慢慢的所有人都开始相信女巫症的存在那猎物的行动呢除了需要这样的一个网络之外还有个条件就是前面提到的官僚制度官僚制度让这个权力得以集中所以呢对一些社会网络当中的人的这种管理也更加的细密化
据说这本书是有一些删节的那其中也提到了一些苏联的打土豪分田地势的一些状况你会发现那里提到了有一段历史就是富农富农也是被创造出来的一个主体间的现实因为以前没有所谓的富农关于揪出富农在每个村庄里面都找出一个富农或几个富农然后把他们
打倒啊或是迫害他们就很像当时的这个猎物潮这样的事件实际上并不是一次而是多次的反复的发生赫拉利他所举的这个例子这个猎物潮的历史是想要说明一点就是
消除这个信息流动的障碍让信息能够自由流动并不一定就能够传播真理发现真理反而很容易导致谎言和幻想的传播创造出有毒的信息领域说的根据一点如果让思想市场完全自由的话
鼓励传播各种愤怒的情绪是更容易受到欢迎原因也不难理解印刷商和书商他们从这个女巫之锤的这种狗血的故事当中赚到的钱可能比一些科学著作要赚到的钱要多多了
像这个哥白尼的天体运行论他在 1543 年首次出版的时候只印了 400 册还都卖不掉那相比之下这个女巫之锤他可是到处都很受欢迎就像我们今天会发现很多的谣言总是能够获得很多的传播但是你那个辟谣的信息
反而就没有办法传播的那么广那想要让这个真相和真理在这样的信息市场当中渗出就必须要建立筛选机制让天平往事实那一方倾斜就是你要过滤掉那些杂志让这个市场上有一些呃
大家能够相信的东西那如何去建立这样的一个过滤机制呢那接下来就是科学革命就扮演了很重要的一个角色首先是链接了大学内外的学者和研究员形成了一个横跨欧洲的信息网络这是另外的一个信息网络那在这个网络当中他要建立筛选机制第一个就是建立这个科学协会然后有学术期刊然后呢有各种科学的出版商
通过这些举措使得科学机构能够慢慢地获得了权威就是因为在这些机构当中有一种很强的自我修正机制科学本身的发展就是不断地在找出错误推翻错误如果一个学术期刊他发表了一个论文别的同行发现这个论文有错误那这个期刊他可能会道歉会刊物那如果是像
以前像把圣经当作唯一真理的话面对别人的指出错误首先就是否定我这不会错的那这样的话就不可能有一个自我修正的机制所以说正是人类意识到自己的无知才推动了科学革命那这就引出了这本书非常重要的一点就是信息光自由流动还要有强大的自我修正机制要不然它的影响并不一定会就倒向正面的
在政治领域如果没有自我修正机制人类的信息网络也会获得力量和秩序但是往往就会走向极端和独裁这是非常可怕的也是大家都经历过的在极权制度之下的信息网络是怎样的我们只要看一下关于纳粹德国的研究看一下苏联的历史
都能够有所了解在这本书当中实际上这个作者他去讲了很多苏联时期的例子大家感兴趣也可以去看一下这本书另外的一个信息观前面不是提到有两个吗一个就是这个天真的信息观另外一个呢是民粹主义的信息观又是怎么回事呢民粹主义对天真的信息观呢是保持一种怀疑态度的就是
天真的信息观是认为这个信息呢就反映现实嘛所以呢就要让信息更多然后更流动可能就会呈现真理但是我们通过这个梳理会发现并不完全是这样的还需要有强大的自我修正机制要不然你光是自由流动的信息并不能够导向真理所以民粹主义对这种天真的信息观保持怀疑是没有错的但是他走向了另外一个极端就是认为只有权力才是唯一的现实信息
只是一个武器在民粹主义者眼中一切都是不可信的你永远不能够相信任何的机构制度和权威你要自己去研究但是我们都知道如果所有的事情都要让我们自己来想一遍做一遍的话是不可能办到的实际上我们
现在在网络上也会发生非常多的唯识论者其实他们就是不相信这些历史学家不相信这些机构不相信这些科学杂志或是一些期刊不相信著作不相信出版社那他的办法呢就是自己去想一遍但是我们都知道其实你一个人能够把所有的事情都想一遍吗所以民粹主义他就提出了另外一种解决办法就是放弃现代科学去通过这个研究来寻找真相而是依赖一种
神秘的天启或是一种神秘主义他一开始呢总是会警惕大家就是人类精英啊这些精英都是为了权利他散播的这些知识啊什么的都是假的他只是为了争夺权利而已呃
不要被他骗到了但是呢很矛盾的一点就是他到头来呢又会把所有的权力都交给没有一位充满野心的人一个强人这是一个民粹主义的一个心路历程但最后如果连这个强人都失去了信任的话民粹主义它导致的结果不是极权主义而是无政府的一种非常混乱的状态
赫拉利认为天真的信息观和民粹主义的信息观就是两个极端信息并不是像天真的信息观以为的那样必然会带来真相也不会像民粹主义信息观那样会认为信息只是一种武器事实是为了维持生存和繁荣每个人类的信息网络都需要同时做到两件事就是除了要发现真相也要建立创造秩序通过秩序能够获得力量所以它是一个平衡
如果只有秩序必然会吸收真相他可能会有很大的力量但是他就失去了自我矫正的能力慢慢的就走向了极权那另外一边如果他对所有的信息都保持怀疑的话那这个世界也没有办法组成秩序那人类的这个联合连结和繁重当然就不可能发生了
现在可以回到最开始的问题就是这个 AI 时代人类会往何处去赫拉利认为 AI 它作为一种全新的信息技术它会像其他的信息革命一样也会带来负面的影响并且它是一种全新的形态如果不加警惕的话后果会不堪设想那它会带来什么样的新的影响呢首先
赫莱利认为计算机或者说 AI 正在成为一种主动行为者这个和之前的印刷机或者说广播会有很大的差异在书中他提到与其说社交网络的算法像印刷机不如说他们跟像报纸的主编这点我们应该能够体会到就是算法它会完成人类管理者的目标比如
比如说一个社交网络的公司它的一个算法的目标提高用户参与度嘛提高用户的使用时长那算法就要去在这个平台之上去分配流量那怎么分配呢目标就是要提升这个大家的使用时长所以呢就是要让大家每个用户能够看到自己想看的东西这是一点那另外一点的就是那什么样的东西大家会更喜欢看呢
那这个分配的过程就是算法来决定是一个黑盒就算你去问这个程序员就是去开发或者是设定这个算法的程序员具体的某一个用户他为什么会收到这些信息其实他也没有办法告诉你因为算法就是这样决定的
所以在这个层面上来说赫拉伊认为这些算法实际上已经有了主动的行为能力已经是一个主动的行为者这是和以前的一些技术革命非常不一样的一点我们可想而知在这样的一个目标是为了拉住用户的生殖场他可能就很容易去找到人类的一些软肋弱点然后各种阴谋论或是各种能够激起大家讨论的不管是骂战
当然能够进行骂战当然讨论就更多这样的信息可能会被更容易被推荐相反那些理性的平和的一些内容就没有那么容易被推荐赫拉利想要强调的是人们对 AI 有个误会就是认为他们现在还不具备意识所以还不足为惧但是
智能和意识是两回事这一点我觉得还蛮有启发的细菌和植物也不具备意识但它们能够表现出智能它们能在环境当中去收集信息做出复杂的选择采取巧妙的策略来获取食物
来繁殖自身算法或者说 AI 也是一样他们能够追求自己的目标做出决策这让人类的信息网络的基本结构发生了改变算法没有情感和道德如果目标仅仅是用户的使用时长是用户的参与度那么传播愤怒和仇恨就是一个很好的办法事实上在现实生活当中我们已经看到很多这样的例子了
这样的影响会让人类的信息网络的自我修正机制失灵我们现在应该已经能够感受到就是在互联网上在社交网络的这样的信息网络上其实自我修正机制很少
几乎很难发挥作用另外还有一点就是计算机一旦侵入了语言就可能让大量的人几乎不可能进行有意义的公共对话计算机在掌握了人类的语言之后呢会对人类的世界观产生很大的影响
比如说很简单,我们现在在互联网上会发现很多的账号,它可能就不是真人,它就是 AI 天天在那里说话。以前在互联网早期的时候,人们会说和你聊天的人可能对面是一个狗,这是一个隐喻嘛,就是你不知道网线的另一边是谁,但是实际上大家都知道对面肯定还是一个人的,但现在你真的不知道跟你说话的人是谁了。
他可能就不是个人而只是一个机器人我们现在还是有很多和客服聊天的这种不适感我们还是知道他是机器人的但是慢慢的在很多情况下比如说在微博上其实就有很多的信息是 AI 发出来的他并不是一个真的人一个真的用户那除此外还有像 Chad GPT 这种 AI 我们会每天问他问题然后他也会回答我们他使用的也是人类的语言
在赫莱利看来这是有些危险因为以前的信息网络是人是参与者人来发出信息但是现在的这个信息网络里面有很多的参与者他是 AI 所以呢随着这个量不断的积累之后可能会形成一个全新的信息网络
像金融领域现在很多的信息就是 AI 和 AI 之间或者是程序程序之间算法和算法之间的互相交流计算机的技术还有另外一面就是监控它 24 小时不休息人类可能会首次的失去隐私
我们的一切的观点我们的所有的信息交互几乎都在智能手机上完成而这一切都是被记录被联网的这可能会有一些危险就是它可以被用来识别暴力分子能够做一些好事让社会更安全但另外一方面如果它落入极权主义者的手中可能也会用来迫害一些异见分子或是要求大家都遵守一套更僵化的规定他举了一个例子是在伊朗
2022 年伊朗把执行投金法的重大责任交给了全国的一个人脸识别算法系统就是女性她被要求带投金以前的话可能管理的密度还没有那么高她如果自己在开车的时候没有带的话你也没有办法但是这个系统上线之后女性不带投金被抓到的可能性就大大提高了甚至街上也有拍照系统
就是开车的时候被拍到没有带头巾就立马就会有一个短信发到你的手机上可能是警告可能是罚款那更多次呢可能就直接把你抓去坐牢了就是抵抗的空间越来越小了这是很容易理解的一种监控另外一种监控呢他把这个线上的点评体系也看作是一个互相监督的系统这是一个蛮有意思的视角
可以简单分享它举的例子当然是外国的例子比如说旅行的猫图音的网站它里面就有很多关于各种景点餐馆或是一些旅游景点的一些评论当然我们都很熟悉我们的外卖系统还有是点评系统都有很多关于这样的一些空间的评论点评 1 到 5 分就会形成一个分值这样的一个点评系统会让大家更容易更好的规划假期找到好的酒店和餐厅
这很容易理解但是另外一方面这也改变了私人和公共空间的边界在书里他是这么写的传统上顾客与服务人员之间的关系是一种相对私人的关系进入一间小酒馆等于进入了一个半私人的空间并且与服务人员建立了半私人的关系除非有犯罪行为否则顾客与服务人员之间的往来就是他们自己的事情
如果服务人员行为粗鲁或者讲了什么种族歧视的话你或许会在现场大吵大闹或许会告诉你的亲朋好友以后都别去那里了但除了在场的人士或亲友没有太多人会知道这件事那点对点的监控呢就已经抹杀了这种私密感就是这种线上的点评系统要是服务人员让某个顾客不满意的话餐厅就会得到一个差评
而这个差评可能会影响未来几年成千上万的潜在顾客的决定不论好坏权力的天平都是往顾客的那一方倾斜的而服务人员也发现自己比以前更容易曝光在大众面前正如作家兼记者林达金斯特勒所言在猫图音之前顾客只是个有名无实的国王但在猫图音之后顾客成了名副其实的暴君拥有左右店家生死的力量
如今数百万个出车司机理发师美容师和其他服务业者都能感受到自己同样失去了隐私就私人空间和公共空间的这个界限是越来越模糊了我们在网上经常能够看到各种的爆料的帖子或者是各种吐槽的帖子关于外卖关于在线下私人空间当中发生的事情然后拿到公共空间会引发很多讨论然后会甚至会形成一轮网暴
这种线下空间的消失或者是这种线下空间和公共空间的这种模糊使得那种私密感慢慢越来越少了这样的公共和私下的行为就没有界限了线下发生的一件事情可能会在线上被挂然后大家互相监督这可能会造成一种非常紧张的生活方式可能会造成一种
可能从短期来看它能够让大家能够找到更好的餐厅什么的但是它会破坏人的这种安全感和幸福感总之呢这个赫拉利想要强调的就是计算机它的问题并不在于它特别邪恶不像那些客观小说当中写的那样就是一个 AI 它意识觉醒了然后要消灭人类但是它的可怕的地方是在于它特别强大
它强大并且它还有一定的自主性的话它能够决策很多事情虽然你的目标是人类设定的但它依然能够造成很大的影响所以你就要更加的小心去确立一些目标除了上面讲到这些还包括 AI 从人类预料当中学习它可能也会带有偏见
最后呢赫拉利去分析了就是在这个新的人工智能的技术之下像这个民主制度会获得怎样的一种挑战像这个极权的这样的一个政治体制之中又会获得怎样的一个挑战总而言之都不是好的结果具体什么挑战这里就先略过大家可以自己去看书那他所要强调的一点呢就是
人工智能它也有可能会犯错的它并不一定会偏向真理如果缺乏修正机制就是前面提到特别重要的修正机制如果没有的话人工智能可能就会很危险但最后它还是写了一个光明的结尾
他说只要我们放下天真与民粹的信息观摒弃想要绝对正确不犯错的幻想并且认真的投入一项困难但频繁无奇的工作那就是为各种机构制度打造强大的自我修正机制那么有智慧的网络也是有可能的但是具体要怎么打造呢也没有什么可行的步骤这本书也没有这样的能力它更多的也就是一个警示者提出 AI 可能带来的威胁那更好看的部分我觉得还是前半部分就是他呃
去提出这个 AI 它和之前的一些信息技术革命的相似之处和它独特之处并且让我们看到了特别是那个女巫之锤的例子还是蛮有启发的因为以前大家想到印刷革命可能都是正面的但这个猎巫行动也是在一个信息能够更加流动的一个技术的背景之下才发生的事情这是还蛮值得我们大家去思考的另外
另外呢关于极权社会的信息网络里面有很多关于苏联的例子读起来也很有感触总之呢这本书我觉得仁安是非常值得一读的他的信息密度还是很高的而且他很会讲故事而且有很多很多的例证他或许不会解决关于 AI 时代的各种难题但是对于了解他的过往
了解这个人类的信息网络的一个过往还是非常有帮助的它里面涉及到很多的学科传播学呀然后包括历史啊政治学呀它是一个跨学科的这样的一个叙述我觉得还是很好看的大家感兴趣的话可以去找到这本书来读一读那今天节目就先谈到这里实际上我只是大概讲了一个
比较粗疏的脉络然后谈到了一点我自己感觉很有启发和很感兴趣的一些点实际上它还包含很多其他的一些内容我没有谈到的所以还蛮需要大家自己去看的最后如果你还没有订阅不知独说话可以订阅一下然后多多的互动留言这都会对我有很大的鼓励谢谢大家我们下期再见