We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode EP177 你以為刷到的是真相?演算法可能早已替你選好了立場

EP177 你以為刷到的是真相?演算法可能早已替你選好了立場

2025/4/13
logo of podcast 每日9分鐘正能量

每日9分鐘正能量

AI Deep Dive AI Chapters Transcript
People
读书点亮生活
Topics
我今天讨论尤瓦尔·赫拉利的《智人之上》,重点关注人工智能时代人类社会将如何发展。 《未来简史》中对AI的预言正在快速实现,AI的影响已经渗透到我们生活的方方面面,它正在参与甚至主导各种决策。这促使我们思考,在AI时代,人类社会将走向何方? 我用《魔法师的学徒》的故事来比喻我们对AI的‘天真信息观’。我们倾向于认为信息越多越好,越接近真相,却忽略了对AI的深入了解和有效控制,这可能导致不可预知的后果。 ‘天真信息观’的核心是:信息越多越好,信息能帮助我们接近真相。但实际上,信息本身非常复杂,信息的数量并不能直接等同于真相。信息的价值不在于呈现既有现实,而在于建立联系,组织和连接不同的事物。 人工智能与以往的技术不同,它能够自主决策,这既带来了机遇,也带来了风险。我们需要警惕AI可能带来的潜在威胁。 真相的定义取决于我们衡量的尺度。信息的作用是连接,而非单纯呈现现实。即使是错误信息,也能起到连接和组织的作用。 人类的成功源于我们讲故事和建立联系的能力。 现实存在三个层次:客观现实、主观现实和主体间现实。我们需要理解这三者之间的区别,才能更好地应对AI时代带来的挑战。 分享知识是一种美德,我们应该积极分享知识,让社会变得更好。

Deep Dive

Chapters
本章探讨了尤瓦尔·赫拉利的新作《智人之上》,以及人工智能时代人类社会发展走向。作者在书中探讨了人工智能的快速发展及其对人类社会的影响,并提出了天真的信息观这一概念。
  • 人工智能的快速发展
  • 天真的信息观
  • 信息与真相的关系

Shownotes Transcript

读书点亮生活各位好我们今天讲一本当红的书尤瓦尔赫拉利的新作叫做《智人之上》我曾经讲过他两本书第一本是《人类简史》第二本是《未来简史》

事实上就是在《未来简史》当中所预言的一切在最近过去的这几年里边发生的要比书里的预言更快我们肉眼可见的 AI 正在走进我们的生活然后替我们做出各种各样的决定和选择所以 AI 到来之后的人类社会究竟会怎么发展这就是尤瓦尔赫拉利在这本书当中所要探讨的一个非常重要的话题

大家知道这个戈德原来曾经写过一首长诗叫做《魔法师的学徒》这个长诗呢被迪斯尼用来改编做成了一个卡通片它的主角就是米老鼠米老鼠演的是一个这个魔法师的学徒他一知半解地学会了一招可以召唤扫把来打扫卫生结果当他召唤了一个扫把要求这个扫把打扫卫生以后他发现这个扫把不受控制

然后他就拿出一个锯把这个扫把锯成两段锯成两段之后就变成两把扫把然后再锯就变成更多的扫把最后就满屋子都是扫把搞得乱七八糟

这是当年很好笑的一个米老鼠的动画片这个动画片所代表的就是这本书的主题一个非常重要的隐喻就是我们并不了解这个魔法扫把到底会怎么样但是就已经把它投入使用了所以这里边尤瓦尔赫拉利用整本书提醒我们所有人去认识一个东西叫做天真的信息观

什么是天真的信息观呢就是我们天然的认为信息越多越好信息越多越接近真相我们只要把更多的信息呈现出来我们就能够更接近真相这是很多人觉得没错啊这这不难道不是这样吗但是事实上就是这叫做天真的信息观信息是相当复杂的一件事情这个

天真的信息官认为通过收集与处理比个人多得多的信息大规模网络能更好的了解医学物理学经济学等诸多领域于是这样的网络不但力量强大还无比明智你像我们大家经常讲大数据对吧只要你说这个东西是大数据那听起来就很靠谱

当然天真的信息官也承认在从信息到真理与真相的这条路上有许多事情可能会出问题面对收集与处理信息时遇到的大多数问题解决办法就是收集和处理更多的信息他认为出问题是因为信息不够多如果再多点信息那就解决了从这种观点来看信息网络越大就越接近真相与真理

但实际上这个这样做是不对的事实上就是他用整本书来论证信息多未必能够导致真相这个天真的信息观的核心原则就是信息本质上是件好事我们拥有的信息越多越好只要有足够的信息和足够的时间我们就一定能找出各种事物的真相不但让人类的力量得以揭开也能让智慧得以成长进而能更明智的利用这种力量

这就是所谓的天真的新习惯而这一次为什么会不同呢是因为人工智能是人类历史上第一个能够自行做决策创造新想法的技术你想咱们过去面临的比如说工业革命你发明了蒸汽机发明了火车纺织机到后来电视机手机它都没有自己的指令它所有的指令都是人输给它的

但是前两天你们有没有看埃罗马斯克的那个新机器人发布的视频那个机器人做了一个决定当着我们所有人的面他问今天谁过生日有一个人说我过生日这个机器人说哦 happy birthday 等一下我要给你唱首歌来大家一块唱 happy birthday to you 机器人做了决定并且带动了全场的人一块做了行动

看起来无害但是你知道机器人是会自己做决定的这个不是来自于程序的设定而是来自于他头脑当中复杂的算法所以核心我们要搞清楚信息到底是什么信息是不是为了呈现真相天真的信息官就会认为信息是用来呈现真相的而事实上就是真相像海岸线一样是无法测量的什么意思呢一个东西是不是真相取决于颗粒度

取决于你衡量这个真相的尺度你就比如说这个二战期间有很多人做间谍对吧间谍给出的信息是不是事实呢间谍给了自己方一个信息说对方会有一万人进攻一个地方这是不是事实如果你的颗粒度只放在说一万人是一万人就行那就是一个事实那假如这一万人是老弱病残呢假如这一万人没带枪呢

假如这一万人是妇孺做了一个掩护那边的精锐部队从别的地方过来呢你会发现表面看起来这个信息是一个真的信息只取决于你衡量它的尺度是什么信息所达成的最重要的作用不是揭示真相而是产生联系就是信息是人类组织和联系他人的一种方法

你比如说占星术对吧我相信包括在座的各位也有人相信星座啊我不相信这个占星术呢很明显是假的它并不对但是它能够让我们之间产生连接甚至会影响你的行为做出一些可能是正确的举动这很有意思所以从占星术的例子就可以看到各种错误谎言幻象与虚构故事其实也是信息

信息在历史上所发挥的作用本来就不是要呈现既有的现实反而是要将各种不同的事物无论是夫妻二人还是一整个帝国联系在一起来创造出全新的现实真正定义信息的是连接而不是渲染或象征只要能将各个不同的点连成网络的就叫做信息而智人的成功

智人从 20 万年前一直到今天我们一路成功过来就靠这个就是靠我们能够讲出故事来大家知道柏拉图写过一本书叫《理想国》对吧《理想国》里边柏拉图说最重要的一件事是首先能够说出一个伟大的故事就是你得有一个虚构的伟大的故事你才能够去构造一个国家

我们中国人认为我们是龙的传人这就是个故事但是龙是什么到底在哪我们其实找不到但是我们就相信我们是龙的传人我们就团结在了一起图腾的作用我们所面对的现实是极其复杂的至少有三层现实第一层呢叫做客观现实你就比如说这个桌子这个杯子这叫客观现实山脉石头对吧这是客观现实这是第一层现实呃

假设有一颗小行星现在正在撞向地球这个时候就算根本没有人发现没有人观测到那个小行星但它也依然存在这就是第一层现实它不以人的意志为转移的这么一个现实第二个层次叫做主观现实比如说你坐在这儿觉得难受这就是一种现实但这种现实是你的感觉

我不能够否定说你别难受对吧或者你不许难受别人都不难受凭什么你难受那我就难受我痛苦我伤心我快乐这叫做主观现实包括爱这都藏在我们心里的现实这个更重要的一个叫做第三层次的现实就是存在于主体间的现实什么叫存在于主体间的现实比如说我给你们一百块钱

我希望你们相信这一百块钱能够当这一百块钱用你们信吗那你说这张纸啊这个一百块钱它只是一张纸啊那为什么我会相信它能当一百块钱用呢它能买这杯茶对吧凭什么呢这叫主体间的现实

分享知识是一种美德当我们每一个人都在不断地分享知识给这个社会的时候我们这个社会将会变得越来越好所以如果您喜欢这本书的内容把它分享到您的朋友圈当中或者给到您指定的某一个人都可以您关心谁就把知识分享给他谢谢