Deep Dive
赫拉利在《智人之上》中如何看待人工智能的影响？
赫拉利认为人工智能作为一种全新的信息技术，会带来负面影响，并且其形态与以往的技术革命不同。AI具有主动行为的能力，能够根据设定的目标做出决策，这可能导致信息网络的自我修正机制失灵。AI的强大和自主性可能带来不可预见的后果，尤其是在缺乏修正机制的情况下。
赫拉利如何描述信息网络在人类历史中的作用？
赫拉利认为人类信息网络的发展史是人类社会发展的核心线索。人类通过信息网络建立大规模合作，从而在自然界中胜出。信息网络不仅呈现现实，还连接人与人，通过虚构的故事、神话、宗教、货币等工具加强合作。这些虚构的秩序和连接推动了人类社会的发展。
赫拉利提到的‘天真的信息观’是什么？
天真的信息观认为信息越多越好，只要有足够的信息和时间，谬误会被澄清，真相会浮现。这种观点类似于技术乐观主义，认为技术进步能解决所有问题。然而，赫拉利指出，信息爆炸时代中，真正有价值的信息往往被淹没，大量廉价无效的信息反而占据主导地位。
印刷革命带来了哪些负面影响？
印刷革命虽然推动了科学革命，但也传播了大量宗教幻想、虚假新闻和阴谋论。例如，猎巫事件在印刷术的推动下广泛传播，导致大量无辜女性被指控为女巫并遭受酷刑或处决。赫拉利指出，信息自由流动并不一定会传播真理，反而可能助长谎言和幻想。
赫拉利如何看待AI在信息网络中的角色？
赫拉利认为AI已经成为信息网络中的主动行为者，能够根据目标做出决策。与以往的技术不同，AI没有情感和道德约束，其目标可能是提高用户参与度，这可能导致传播愤怒和仇恨的内容更容易被推荐。AI的介入可能使信息网络的自我修正机制失灵，甚至影响人类的公共对话。
赫拉利如何评价民粹主义的信息观？
民粹主义的信息观认为信息只是权力的工具，对任何机构、制度和权威都持怀疑态度。它主张通过神秘主义或天启来寻找真相，而不是依赖现代科学。然而，这种极端观点可能导致无政府状态或极权主义，因为它放弃了建立秩序和修正错误的机制。
赫拉利在书中提到的‘女巫之锤’是什么？
《女巫之锤》是一本由克雷默编写的指导手册，教人如何找出并杀害女巫。这本书在早期现代欧洲非常畅销，推动了猎巫行动的广泛传播。它充满了关于食人、狂欢、谋杀儿童和撒旦阴谋的恐怖故事，激发了人们对女巫的恐惧，导致大量无辜者被处决。
赫拉利如何看待AI对人类隐私的影响？
赫拉利指出，AI和计算机技术的监控能力可能使人类首次失去隐私。智能手机记录和联网所有信息交互，这些数据可能被用于识别暴力分子或维护社会安全，但也可能被极权主义者用来迫害异见分子或强制遵守僵化规定。例如，伊朗的人脸识别系统用于强制执行头巾法，减少了抵抗空间。
赫拉利如何评价AI在金融领域的作用？
赫拉利提到，金融领域中AI和算法之间的交流已经形成了一个全新的信息网络。AI在金融决策中扮演了重要角色，但其自主性和强大能力可能带来不可预见的风险，尤其是在缺乏修正机制的情况下。
赫拉利在书中提到的‘自我修正机制’是什么？
自我修正机制是信息网络中纠正错误的关键机制。赫拉利强调，科学革命通过建立学术期刊、科学协会和出版商等机构，形成了强大的自我修正机制。这种机制允许科学不断推翻错误，推动真理的发现。然而，AI的介入可能使这种机制失灵，尤其是在信息网络中缺乏修正机制的情况下。
- 信息可以呈现现实，也可以不呈现现实，但信息一定会连接网络
- 天真的信息观忽略了信息过剩的负面影响，民粹主义的信息观则走向了另一个极端
- 信息网络需要在发现真相和建立秩序之间取得平衡
Shownotes Transcript
花了半个多月，终于把尤瓦尔·赫拉利的新书《智人之上》看完了。这本书的原名是《联结》，副标题是“从石器时代到AI时代的信息网络简史”。
简单来说，赫拉利从信息网络的角度重新梳理了人类社会发展的过程。这一番梳理，虽然是讲历史，但目的还是要回应当下最重大的一个课题：AI时代，人类会走向哪里？
如果说《未来简史》出版的时候，这还是一个看起来颇为遥远的话题，但眼下却已经成为一个迫在眉睫的问题。有很多人认为，人工智能是一种新的技术革命，像印刷革命和工业革命一样，会将人类带向更繁荣的阶段。但赫拉利显然没有这么乐观，他认为这样的观点既忽略了过去的技术革命带来负面影响，也低估了人工智能革命的独特之处。
为此，他从头讲述了信息技术和人类社会互动的历史。在他看来，人类社会的发展史，也是人类信息网络的发展史。人类之所以能够从自然界胜出，拥有强大的力量，正是因为人类建立了大规模的合作网络。
【时间线】
3：16 什么是天真的信息观？
6：10 信息技术：故事和书面文件
9：00 中世界的巨型信息茧房
11：43 印刷革命和猎物潮
19：36 什么是民粹主义的信息观？
22：30 AI会带来什么新的影响？
31：00 AI的问题不是它特别邪恶，而是它特别强大
活动预告：
周日（11月3日）在上海建投书局，有一场新书分享活动，扫海报上的码可以报名。期待相见。
公众号：魏小河流域微博：魏小河小红书：魏小河