Episode #185 ... Should we prepare for an AI revolution?
38:31 Share

今天我们讨论的是生成式人工智能的革命性潜力。无论好坏。    通过查看我们的赞助商来支持播客：Better Help - https://www.betterhelp.com/PHILTHIS LMNT - https://www.drinkLMNT.com/PHILO     获取更多信息：网站：https://www.philosophizethis.org/ Patreon：https://www.patreon.com/philosophizethis Philosophize This! 剪辑：https://www.youtube.com/@philosophizethisclips     社交：Twitter：https://twitter.com/iamstephenwest Instagram：https://www.instagram.com/philosophizethispodcast</context> <raw_text>0 大家好！我是斯蒂芬·韦斯特。这是《哲思》。感谢所有在 Patreon 上支持节目的朋友们。Patreon.com 斜杠 Philosophize This。在 Instagram 上关注 Philosophize This Podcast，在 Twitter 上关注 IamStephenWest。本周在那里发布了西蒙娜·薇依的阅读清单。我打算开始为那些多年来真正影响我思想的哲学家们发布帖子。试图为人们提供一条路线图，让他们踏上通往特定哲学家作品的旅程。所以，如果这是你想要的东西，请在那里查看，我想。

也就是说，我有一个公告。节目的铁杆粉丝们会知道，在过去的几年里，这个播客有时每月只有一集。正如你们中的一些人所知，几周前我真正意识到，如果我能做更多的话，这个播客能产生多大的好处。我知道你们没有人会抱怨节目的集数更多。长话短说，我能做到这一点的方法是雇佣某人来完成节目的大部分后端工作，这些工作占据了我大部分时间。而我们能做到这一点的方式，仅仅是因为过去一年甚至更长时间的经济状况，

是通过投放一些广告。好消息是，这现在使得能够为你们制作三到四倍的这些剧集成为可能。你们无法想象我花了多少时间在处理那些我完全没有天赋的技术问题上。任何级别的 Patreon 订阅者都将始终获得节目的无广告体验。查看您在 Patreon 上的帐户以获取仅限 Patreon 的 RSS 提要。对于所有通过支持赞助商来支持节目的朋友们，我将在每一集中表达我对你们的感激之情，但现在就先谢谢你们。

最后我想说的是，如果我不是已经在使用他们销售的东西并且它为我的生活增添了价值，我永远不会在这个节目中谈论赞助商。因此，如果这些赞助商正在做一些你想尝试的事情，提前感谢您使用本节目的促销代码。它使播客能够继续运行。你们知道它是如何运作的。这是唯一能让它们再次想要打广告的事情。所以在进入正题之前，以下是本周的赞助商。本集由 BetterHelp 提供赞助。BetterHelp 是一项在线服务，可以帮助将像您一样的人与合适的持证治疗师匹配。

我前几天在给某人发邮件时说，哲学，我们喜欢它的一部分原因是它从根本上具有不稳定性。它动摇了关于现实的僵化思维方式。它可以防止你对事情想得太狭隘，并让你陷入生活中你最终会坐上好几年的境地。这就是我们喜欢它的一部分原因。

如果你是一位哲学爱好者，你总是要小心的一点就是不要不负责任地使用哲学。有时你必须知道你是否已经过度动摇了你的世界观。有时你必须知道何时休息一下。如果你热爱哲学，你必须找到一种方法，在你不断地改变事物之后重新调整自己。治疗对我来说已经很长时间了。在治疗环境中与某人交谈是你能为自己和家人做的事情，它真的可以改变你的生活。它

至少对我来说是这样。所以，如果你正在考虑尝试治疗或在休息后重新开始治疗，但你害怕去某个陌生人的办公室，对着一盒纸巾坐上一个小时，BetterHelp 完全是在线上的，旨在方便、灵活，适合你的时间安排。只需填写一份简短的问卷即可与持证治疗师匹配，并随时更换治疗师，无需额外收费。让 BetterHelp 成为你的地图。

访问 BetterHelp.com/fill this 今天即可获得您第一个月 10% 的折扣。P-H-I-L-T-H-I-S。那就是 BetterHelp，H-E-L-P，dot com/fill this。现在是本集的最后一个赞助商，Element。哲学家们在很多事情上都不认同。好吧，事实上，他们通常在所有事情上都不认同。

但我从未见过他们在人们是否应该补水的问题上存在分歧。事实证明，他们根本不争论这个问题。补水的一部分是在你出汗后补充电解质。我会让你自己填空你想要补充电解质的原因。对我来说，这是我 30 多岁这个阶段的锻炼。我确实尝试了 Element 出售的每一种口味的盐，现在它是我每天早上喝咖啡前喝的东西。味道很好，很咸，不甜，

但感觉很好，因为我知道我得到了所有这些甜美的电解质。1000 毫克钠，200 毫克钾，60 毫克镁。电解质促进人体数百种不同的功能。神经冲动、激素调节、营养吸收，

我的意思是，我不知道，对于我在这个世界上扮演的角色，哲学家、父亲，我倾向于思考很多，我从来不想总是感到疲倦或感觉自己只有 80% 的状态。Element 让我感觉自己全力以赴。所以它是完全无风险的。现在，Element 在任何购买中都提供免费样品包。那就是任何 Element 订单都免费赠送 8 个单份包装。

这是一种尝试所有八种口味或与咸味朋友分享 Element 的好方法。完全无风险地尝试一下。如果你不喜欢，他们会退还你的钱。无需任何疑问。在 drinkelement.com/philo 获取您的产品。P-H-I-L-O。此优惠仅通过我的链接提供。访问 d-r-i-n-k-e-l-m-e-n-t dot com/philo。感谢所有尝试这些产品作为支持播客的替代方式的朋友们。现在，话虽如此，我希望您喜欢今天的节目。

所以，为了开始今天的播客，我想让你试着想象一下工业革命开始爆发前居住在西欧农业社会中的一个假设人物。想象一下一个农民，虔诚的宗教信徒，一个有孩子和家庭的人。换句话说，想象一下一个在工业革命方面对即将发生在自己世界上的事情一无所知的人。现在，为了举例说明，让我们假设这个人和他们的家人偶尔可以接触到书籍。

我完全意识到大多数农民当时可能无法阅读。请耐心等待，这应该是一个荒谬的例子。但让我们假设这个人可以接触到书籍。让我们假设这个人得到了他们手中一本新出版的书，而这本书类似于反乌托邦的未来科幻小说。这本书不是叫《1984》，让我们假设这本书叫《2024》。当这个人阅读它时，这本书生动地描绘了一个由机器控制的未来世界。

就像任何一部优秀的科幻小说一样，一切开始都非常天真。机器被视为一种令人惊叹的技术，它将使人们的生活变得更好。应用于经济学的科学理性将使人们以前从未有过的事情成为可能。书中开始了一段蒙太奇，讲述了数十年的故事。人们从农场工作转向在这些工厂的装配线上与这些机器一起工作。人们正在成为这些机器大规模生产的东西的消费者。

对于生活在 18 世纪的人来说，这都非常有趣。直到最终，书中的人们开始感受到这种巨大变化的文化影响。他们开始感到疏离。现在，这本书继续谈论那些出现的哲学家们。这些家伙的名字很奇怪。尼采、阿多诺、韦伯。他们开始谈论这种开始席卷这些社会中人们的新型倦怠感。

快进到 2020 年代初，这本书讲述了一个世界被改造成了某种东西，这些机器不仅在经济上根深蒂固，而且现在已经设法控制了人口的心理。再说一次，这是一部科幻小说，所以这里要加一点盐，但在本书中，普通人的生活是消费由机器算法为他们选择的媒体。

这些人中的许多人都在某种程度上沉迷于这种媒体。他们中的许多人在精神健康方面遭受痛苦，因为他们整天都在被投喂旨在让他们生气并对此发表评论的内容。书中的人们会沉迷于网络。人们陷入媒体回音室。在这些机器如何分配内容的面前，言论自由和审查制度成为这个社会中的紧迫问题。

然后在书的结尾处，出现了一种新发明。这是这些机器的新版本。人们称之为生成式人工智能。然后我们农民朋友不得不砰地一声合上书，停止阅读，因为他们的妈妈走进房间开始对他大喊大叫。她说，你又在浪费时间读那些科幻小说胡说八道了吗？去挤牛奶。

去腌制一些东西过冬。我不知道当时妈妈会对孩子说什么。关键是，想象一下她告诉她的孩子不要太担心这个幻想世界，而是走出去认真对待生活。如果你只是阅读当今世界主要报纸的头条新闻，它们会告诉你，我们正处于人工智能革命的边缘。听到人们开始将这场革命与工业革命的潜在影响进行比较并不罕见。

当人们说这些事情时，他们谈论的不是我们上一集讨论过的 AGI。这与机器人接管世界无关。这些人只是在谈论目前存在的人工智能。他们说，现在这项技术使我们处于新的技术革命的边缘。但一个持怀疑态度的人可能会反驳所有这些，说谁会这样想呢？我的意思是，写这些文章的人甚至使用过这项技术吗？

听着，我明白。如果你正在写一篇文章并且想要产生一些兴奋，很好。但是你认为这项技术现在究竟会破坏什么？我和这个 ChatGPT 聊过，让它写点东西。我的意思是，这东西在胡说八道……

就像它在火人节上乘坐巨大的镰刀锤子花车一样。这东西会为六岁的孩子写一个睡前故事。它会写一封感谢信给奶奶，感谢她寄给你 5 美元和一张生日贺卡。这些人认为这是什么？这会扰乱睡前故事行业吗？这与工业革命有什么可比性？

我认为论证的另一方最乐观的人会说，你是对的，它与工业革命完全不同，因为人工智能能够以工业革命从未达到的程度改变事物。为了开始解释原因，他们可能会从目前人工智能的状态的历史背景开始，一个故事始于 2017 年。

看，因为在 2017 年之前，人工智能研究与今天不同。那时，许多不同的分散的部门都试图从各自的领域内部改进其人工智能研究。

你有一个小组才华横溢的人从事图像识别工作，另一组聪明的人从事对话式人工智能工作，另一组可能从事音乐相关的人工智能工作。如果你是在这些特定小组中的任何一个的最高级别的人，你将无法参与这些其他小组的最高级别的讨论。每个人或多或少都在做自己的事情。但在 2017 年，出现了一种名为 Transformer 的东西。顺便说一下，Transformer 是 ChatGPT 名称中的 T。

使用 Transformer 作为人工智能引擎，加上一种大规模整合自然语言处理任务方法的策略变化，使得这些以前相互隔离的领域能够以前所未有的方式统一其对人工智能发展的努力。看，如果在 2017 年之前，从事图像识别的人取得了突破，那通常只是图像识别方面的进步。

但在 2017 年之后，在使用这些 Transformer 的领域（几乎是您最近在新闻中听到的所有领域），在一个 AI 隔室中的突破就变成了每个 AI 隔室中的突破。这就是为什么自 2017 年以来，人工智能的改进速度如此之快。这就是为什么投入这项研究的资金数量激增的原因。这让我回到了对这项技术及其目前可能实现的革命持怀疑态度的人。

你知道，怀疑论者显然并不是说技术根本无法彻底改变世界。他们只是说，“请向我展示这项人工智能破坏任何东西的证据，我就会支持你。”事实上，双方似乎都同意，这项技术能够实现的革命程度与其能力直接相关。

并且随着这些能力的提高以及人们越来越擅长使用这项技术，我们可能会开始看到这项技术渗透到人类生活的更多领域。这些东西能够一对一地复制人类目前正在做的任务越多，我们可能会看到它对取代人类的影响就越大。在双方看来，这似乎都没有什么争议。再说一次，怀疑论者只会说，证明的责任在于声称这些东西可以取代人类的人。所以开始工作吧。

而乐观的人可能会反驳说，首先，这些人工智能，无论它们是什么，它们不仅仅是写睡前故事和写给奶奶的感谢信。此外，这项技术的应用也不仅仅是创造性的，你考虑得太狭隘了。一些经济学家说，就目前的技术而言，它对全球 3 亿个工作岗位都有影响。

当你考虑这个数字并考虑到自转向 Transformer 以来发生的快速变化时，证明的责任在我身上吗？不，证明的责任在于你，你需要解释为什么你不认为这项技术不会继续改进并改变越来越多的世界。现在，大多数怀疑论者并没有走那么远。他们中的大多数人承认这项技术正在改进，但他们问，这与过去出现的任何其他技术有什么不同？

人们对每件事都说过这句话。每一种令人兴奋的新技术都会引起一些关注，它都会改变世界。哦，我的上帝，这太棒了。

但最终总会发生的事情是，它最终会被整合到人们的生活中。它成为景观中微妙的一部分。然后，那些无法在生活中不炒作某些东西就无法运作的人，这些人只是转向下一项技术并忘记了所有这些。我的意思是，就在过去五年里，先是 Web 3.0，然后是加密货币，然后是 NFT。这些人能不能放松一下？但人工智能与这些东西有什么不同？

好吧，我们唯一能找到答案的方法就是尽可能以一种公正的方式来看待它。在完成之后，我们明确地打算以一种完全偏见的方式来看待它。

但首先，现在尽你所能，不要带入关于人工智能是什么的任何含义。因为你可能会冒着带入 2017 年之前人工智能是什么的风险，即在游戏中运行 20 分钟撞到箱子的 NPC，或者你可能会冒着带入在树林里与朋友一起扮演角色游戏的人们的人工智能宗教幻想的风险。不，让我们首先尝试尽可能普遍地看待它，简单地将其视为一项技术。

让我们通过考虑它带来的不同功能来检查它。人工智能现在允许人们做以前做不到的事情是什么？它阻止或使哪些生活领域过时？好吧，这正是思想家阿萨·拉斯金和特里斯坦·哈里斯多年来一直在尝试用人工智能做的事情。在考虑人工智能能力的最新进步时，他们给出了三个标准，如果你正在查看任何具有破坏性的技术，你必须考虑这三个标准。

他们说，你必须承认关于一项技术的第一件事是，每当你创造一项新技术时，你都会随之带来一类新的责任。第二，他们说，如果引入的技术赋予权力，那么自然会开始一场争夺这种权力的竞赛

第三，如果争夺权力的人们没有协调，这场竞赛通常会以悲剧告终。他们说，当涉及到我们与早期形式的人工智能的关系时，我们已经看到了这种情况。对阿萨·拉斯金和特里斯坦·哈里斯来说，与人工智能的第一次接触是它通过社交媒体对我们的影响方式。看，直到最近，人工智能才被称为排名人工智能。

这意味着创造内容的是人。人们制作文章、视频、社交媒体帖子。然后人工智能会筛选这些大量内容，然后以某种方式对其进行排名。想想谷歌如何在一秒钟内从 1000 万个结果中为您提供与您最相关的结果。想想你的 Facebook 信息流如何排名并提供最有可能让你继续滚动和点击的内容。这就是我们都熟悉的人工智能类型。

这种排名形式的人工智能彻底改变了人们的生活。在许多方面，我们仍在努力应对它带来的所有影响。想想假设的科幻小说中描述的反乌托邦未来。成瘾、回音室、两极分化、沉迷于网络、审查制度。

仅仅通过对人们已经制作的内容进行排名和分发。当时存在的人工智能能够扰乱人们的精神健康，极大地影响他们的世界观，并在过程中破坏民主制度的主要部分。

正如尤瓦尔·赫拉利最近指出的那样，在美国，在一些人看来是世界上最先进的信息传递机器之一的地方，仅仅通过人工智能决定人们可以看到哪些内容而不是其他内容，优化参与度，想想所有发生的事情。我们无法就上次选举的获胜者达成一致。我们无法就气候变化是否真实、疫苗是否真的可以预防疾病达成一致。

再说一次，我们这里不是在谈论真相是什么。我们谈论的是当前做事方式能够实现的基本事实的分歧程度。现实情况是，你可能正坐在公共汽车上，坐在你旁边的人实际上生活在一个与你完全不同的宇宙中。这仅仅是因为这种更基本形式的人工智能对人类创造的内容进行了排名。

现在出现了人工智能领域中所谓的生成式人工智能的最新创新。这是一个飞跃。许多人都在说，这一特别的飞跃与之前的飞跃不同。许多人预测，如果我们谈论的是这个版本的人工智能以及此后出现的一切，那么未来的人们将会回顾这段历史，并认为在生成式人工智能之前和之后存在一个时代。

那么什么是生成式人工智能呢？好吧，它就在名字里。从根本上说，生成式人工智能是关于在海量数据上进行训练、学习概率分布，然后生成与训练数据相似的新内容。如果是 ChatGPT，它会生成类似的文本。如果是稳定扩散或 midjourney，它会生成类似的图像。但重要的是要注意，它并不局限于艺术方面。使用 API，这东西可以为你生成购物清单。

它可以从 100 封不同的电子邮件中生成最相关的资料列表。可能性是真正未知的。而需要从这一飞跃中带走的一件大事是，这项技术的全部意义在于人工智能现在可以生成事物，而不仅仅是像搜索引擎那样对事物进行排名。

那么在那时你必须问，如果有人可以以几乎为零的成本并且比一个人所能希望达到的速度更快、更高效地生成事物，那么问题就变成了这是否可以成为任何需要 100% 人脑才能完成的一对一替代品。换句话说，这东西不需要能够写出莎士比亚的新作品。为了扰乱世界现状，这东西只需要能够做一些重复性的、数据密集型的、需要 10% 人脑才能完成的事情。

但这东西的成本为零，没有等待时间。想想以前文字处理是什么样的。当你的祖父母进入职场时，能够使用 Microsoft Office 套件并不是被录用的必要技能。但到他们退休时，他们需要在 Microsoft Word 中变得有文化素养。这项技术扰乱了他们工作的方式。如果在 Microsoft Word 出现时，你的爷爷拒绝这样做，他会走进老板的办公室说不行。

不，我会比其他人更努力地工作。我是地球上写字速度最快的人。我会给你看。我会加班。求你了，求你了。这个人会被解雇。因为无论你的写作速度有多快，仅仅是复制粘贴、格式化、文件共享，在数字计算机之前和之后都有一个文字处理的世界。

即使是开着车送报纸的平庸送报员也能比骑自行车送报的最好的人快五倍。换句话说，这项技术提高了以前效率方面的最低标准。其他人要么必须迎头赶上，要么就会被甩在后面。我现在不想在这里过多关注经济方面。事实上，关于人工智能的影响还有更多内容需要讨论，而这与人们的工作无关。

但经济方面是这些对话中许多乐观的人正在谈论的事情。像 Stability AI 的首席执行官艾哈迈德·马托斯克这样的人说过，虽然外面有很多担心人工智能会取代人类工作岗位的人，但这在短期内并不一定是真的。他说人工智能不会取代人类。拥有 AI 的人会取代人类。

乐观的同事可能会说，把刚才关于 Microsoft Word 的话应用到文字处理效率低下的情况，并将发生在文字处理效率低下的情况应用到你职业生涯中任何重复性、数据密集型或耗时的部分。想想你目前的工作，无论是什么。

他们会问一个真正的问题。有多少工作时间不是你在充分发挥你的专业能力，而是在处理一些基本的、简单的、耗时的任务，如果人工智能稍微改进一下，这些任务就可以自动化？仅仅在目前的技术水平上，你的工作有多少可以提高效率？

现在，很多人从事的工作不是在电脑上。这些人会说，这并不意味着他们不能用人工智能优化工作的某些方面。如果他们不这样做，他们的雇主肯定会这样做。最终，人工智能素养将像 Microsoft Office 素养一样成为强制性的。

看，这种乐观的观点在这个剧集中必须在某个时候说出来。在这个关于生成式人工智能的对话中，有一些声音以一种非常积极的方式说，我们生活在一个令人惊叹、令人惊叹的时代，伙计们。就像，你有机会尽早了解这项技术，然后在你看着这些东西重塑人类生活是什么的时候，比你周围的其他人在很大程度上更有优势。只需访问 aidouchebag.com 并获得他们的五大成功支柱。

我们将讨论这可能对社会产生的积极影响。我们将讨论所有坏处。我只想再说一次，在我们开始讨论之前，我的工作是向你提供不同的观点。你的工作是弄清楚你在这一切中所处的位置。人们很容易陷入那种反向回音室阵营，他们对人工智能无休止地持怀疑态度，或者陷入那种致力于计算心灵理论的狂热宗教人士。只是

只是确保在我们讨论好坏之处时，你试图决定你认为哪些可能是基于现实的，以及当谈论它的人开始扮演角色游戏时。因为肯定有一些角色扮演正在进行。我想让他们扮演角色游戏。这很有趣。

但我不想浪费你的时间去做太多这样的事情，所以这里有一些可以为世界带来好处的应用，这些应用似乎比较合理。实际上，如果你想找到一个，你只需要想象一下社会的任何一个领域，在这个领域中，一个人的专业知识无法扩展到成千上万的人，然后在获得这些服务方面就会出现瓶颈。人们说，生成式人工智能可以极大地帮助解决这些问题。因此，这里显而易见的低垂果实将是医疗保健和教育。

平均每次医生就诊需要人们花费两个小时的时间，包括预约、排队等待、交通。这仅仅是因为人们正在使用一个系统，在这个系统中，少数合格的医生需要能够帮助所有人。

但是，在这些医生看病的大多数情况下，医生并没有 100% 地运用他们的创造性专业知识。根据医生的类型，他们正在查看粉刺并告诉人们这是粉刺，而不是皮肤癌。他们正在进行例行随访。在医学领域存在类似于繁琐工作的等价物。但想象一下，这些人说，一个世界，你可以将你整个病史输入手机上的 AI，所有进入图表的内容，以及

然后想象一下，在你最喜欢的电视剧的片场间隙，你可以坐在沙发上，给它发送你痘痘的照片，人工智能会将它与数据库中数十亿张其他痘痘照片进行比较，它可以诊断出你长了痘痘，而无需占用医院的床位，也无需担心那些常常阻止人们寻求信息的尴尬情绪。想象一下，在医疗诊断方面，它有无数潜在的应用。

或者筛选大量数据。想象一下，这项服务基本上可以免费提供给人们。这是这场讨论中乐观主义者可能会说的话。想想教育会发生怎样的变化。想想在辅导方面，对于那些无法获得优秀教师或考试准备的低收入儿童来说，它的应用。

这个人工智能，这个东西不必教授最高水平的量子力学，它只需要教授基础的学术知识。因此，虽然通常情况下，教师的时间必须分散在学生之间，但它不可扩展，班级规模越来越大，然后角落里有一个孩子在挣扎，需要额外的帮助，

想象一下，其中一个算法学习了关于那个孩子的所有信息，然后以生成式人工智能的意义上，为那个孩子生成专门为他们量身定制的课程。了解他们的学习方式，了解他们的偏见，他们分心的方式，了解哪些事情对他们来说很容易，哪些事情更难。同样，乐观主义者会说，想象一下，这可以以几乎零成本提供给每个人。世界可能会变成什么样子？

现在很多人都在谈论这如何应用于天气预报、洪水、地震、飓风以及交通预测。我的意思是，想象一下，如果你在城市的每个路灯处都有一名指挥交通的人，你能提高多少效率。是的，这很好，但我们现在就是做不到，因为它不可扩展。但如果我们可以呢？哦。

同样，人们会说：“农业呢？”对于一个农民来说，像稻草人一样到田里去，盯着每一平方英尺的庄稼看，目前是不可扩展的。但想象一下，这可能会如何改变灌溉和废物的世界。想象一下，它可能会如何改变我们谈论环境以及在如何使用这些资源方面什么是可接受的方式。很多人都在谈论这使得药物研发效率提高了多少。

就在几个月前，这项技术让在实验室里进行蛋白质折叠预测的人们花费了数千年的时间，人工智能只用了几个星期就完成了。这确实发生了。我在这里节省你一些时间。几乎在社会的任何领域，只要存在时间可扩展性的瓶颈，只要他们所做的事情不需要他们所有的专业知识，这些人就会说生成式人工智能距离自动化它不远了。

这也扩展到你的个人生活中。正如尤瓦尔·赫拉利所问，当人们可以仅仅询问一个预言机世界上正在发生的相关事情时，为什么还要花一个小时坐在那里阅读报纸喝咖啡呢？想想这如何改善孤独的人、只想和别人交谈的人的生活。想想这如何帮助老年人。想想这如何改变亲密关系。关键是，有一种乐观的方式来看待这一切，这项技术可以从根本上改变整个世界。

它可以使人类的效率更高，智力对普通人的可扩展性更强，从而创造出一种经济上的丰富，在这种经济中，没有人需要再缺任何东西了。在那个世界里，这些乐观主义者说，作为人类的意义也会从根本上改变。它将从一种思维方式转变为：我今天如何获得生存手段来养家糊口，转变为：我想做什么？

毫无疑问，这会给人们带来新的问题。乌托邦式的角色扮演从这里开始变得非常真实。所有这些当然都需要说明，好吧，但也应该说，基本上我们刚才谈到的每一件事，这项技术都可以用来在其他领域、其他应用中产生一些好的东西，同样的能力也可以同样有效地以掠夺性的方式使用。

然后想象一下，如果这项技术免费提供给几乎每个人，会产生什么影响。例如，我们刚才谈到的个性化教育。如果人工智能能够了解你的一切，并为你量身定制课程，那不是很棒吗？哇。

好吧，另一方面，想象一下，人工智能可以了解你的一切，然后利用所有这些信息来向你推销东西。我的意思是，如果你现在觉得算法知道推荐什么给你买东西很奇怪，想象一下一个世界，这些东西知道你所有的兴趣、所有的偏见、所有的恐惧。

而不仅仅是销售方面。想象一下，一些东西被优化到可以以任何方式利用你的心理。以及一些可以生成内容的东西，然后强化它正在告诉你的故事。

阿萨·拉斯金和特里斯坦·哈里斯谈论了很多事情，如果我们不谨慎对待这种生成式人工智能，可能会出错。但他们谈论的最可怕的事情之一是，当你考虑到这项技术的强大功能时，当你考虑到假新闻故事、当你考虑到深度伪造视频、当你考虑到能够接管评论区并可能影响选举的机器人时，最大的恐惧是人们将从他们现在所处的位置，即难以信任消息来源，转变为根本无法信任任何消息来源。

事实上，在这个世界里，一切很快就变得相当哲学化了，因为任何人都怎么知道他们是否可以相信他们通过内容接收到的关于世界现状的任何信息？任何人都怎么知道他们是否曾经与一个真实的人交谈过？我不喜欢在本集中再次提到老年人，但是，看，每个人都知道他们的亲戚或认识的人向他们展示他们几天前在手机上看到的疯狂视频是什么样的感觉。

对于那些拥有基本批判性思维能力并且一生都在互联网上生活的人来说，对你来说，很明显他们所看的东西是电脑生成的图像。对你来说，这是《星球大战：克隆人战争》2001年的电脑生成的图像水平。但对他们来说，他们无法分辨出区别。他们认为我们生活在一个上周新闻刚刚采访了外星人的世界里。

我的意思是，我们都可以看到，如果你真的无法区分现实和合成视频，你会多么无助。要想象一个世界，在这个世界里，这项技术得到了足够的改进，以至于你无法分辨出区别，这并不需要太多。

除了放弃，除了仅仅接受你无法知道任何不在你面前的东西，除了我们创造某种反技术之外，在一个人工智能可以生成操纵你注意力然后创造一个把你囚禁的虚假现实的内容的世界里，你能做什么？它现在只是使用算法和他们的政治偏见就对很多人这样做。

你知道，它只是让你想起了吉·德波和他的《景观社会》，以及他在20世纪60年代就说过，现实不再是人们参与的东西。几千年来，对你来说，与你相关的是你周围可以看到的事情。但他现在说，我们生活在一个你的社会角色不再是参与现实，而是仅仅思考你所获得的景象的世界里。

随着生成式人工智能的加入，这将是他所说的景象，达到了指数级更高的水平。想想这可能对民主制度，特别是对民主制度产生的所有影响。使现代民主运作的全部内容是，我们可以依靠存在自由公民，教育自己，彼此进行真实的讨论，试图对人民的普遍意愿达成越来越准确的理解。

但在一个人们消费的每一件信息都被策划，他们无法相信他们读到的任何东西，他们甚至不知道他们在线交谈的人是真实的人还是某种被意识形态部署的说服机器人，这种意识形态逐渐了解你并说服你加入他们的阵营的世界里，民主如何继续下去？建立在制衡和缓慢进展基础上的民主制度，如何防范暴政

这些类型的系统如何规范像生成式人工智能这样的东西，它可能比你能够规范它的速度更快？我很久以前听到过一个很好的比喻，是历史播客丹·卡林说的。顺便向山羊致敬。但他将美国等现代民主制度的状态比作一对夫妇买了一所房子。在一个周末，他们出去看他们的房子，他们注意到房子的外面有一些霉菌在生长。现在他们有一个问题需要解决。他们有霉菌。

所以他们开始讨论如何解决这个问题的方案。但他们达不成一致。他们无法就解决方案达成一致，所以他们只是把它推迟到下个周末。然后下个周末，这两个派别，在这个例子中，多年来一直在争论这个问题。双方都有很好的想法。但他们最终到达了一个地方，现在他们争论的霉菌变得更糟了。现在它已经蔓延到房子的地基里了。

现在，最初可以在一个周末解决的问题，现在这将需要彻底改变才能解决。他提出的问题之一是，这些旨在缓慢变化以防止激进组织接管它们的现代民主制度，如何解决系统性问题？现在，如此缓慢的东西如何才能有效地跟上像生成式人工智能一样高效改进的东西？

这让你想知道民主是否需要重新定位才能应对变化的速度。这让你想知道人们是否会失去信心，更多地转向选举能够实施大规模变革和规章制度的有权势的人。只是在未来几年需要注意的事情。但另一件需要提到关于这方面的潜在负面影响的事情是，乐观主义者非常希望这有可能提高人们的效率，并带来改变人类意义的经济繁荣。

但如果我们现实一点，这也有可能导致失业吗？我的意思是，如果一个人现在可以通过人工智能自动化基本工作来完成三个人所做的工作，那么什么更有可能？公司会完成三倍的工作吗？还是他们会解雇三分之二的员工，让10个人做30个人的工作？看，这就是这项技术的问题所在，它会采取任何它能够破坏的任务，然后放大它，无论是好是坏。

这只会放大现有系统中已经存在的问题吗？这项技术会导致技术驱动的、资源丰富的乌托邦，还是只会让富人更富，穷人更穷？这些超级富豪会接受超高的税率来资助普遍基本收入吗？

这甚至能解决问题吗？我在这里还可以谈论更多不好的事情。使用侵犯版权、剽窃的训练数据。仅算法偏差就可能是一个完整的主题，当你考虑到有多少人受到这些事情的影响时，人工智能与其说是一种技术，不如说是一种社会现象。如果你想找一些很酷的东西来读，凯特·克劳福德的作品在这方面很有启发性。

但我个人不想在这里坐下来，花几个小时推测所有可能发生的不好的事情，因为我认为你们明白了。正如阿萨·拉斯金和特里斯坦·哈里斯在人文技术中心所说，我们现在有一个窗口，生成式人工智能将如何推出的基本规则尚未确定。他们说，我们必须做一些与我们在社交媒体排名时代第一次接触人工智能时所做的事情不同的事情。那结果不太好。并考虑到这样一个事实，当我们试图弄清楚如何处理这一切时，

科技行业中有一些首席执行官实际上正在决定全人类的命运。这必须改变。即使是首席执行官也说这必须改变。如果你关心这件事，并且想了解更多关于你能做什么的信息，你可以访问互联网上的人文技术中心，或者你可以在你的黄页中查找它。但回到我们剧集开头提到的农业朋友，阅读一本关于即将到来的工业革命和机器时代的科幻小说，以及

正如我们在开头所说，那时没有人能够知道，对于生活在未来两代人的人来说，外星生命会是什么样子。记录工业革命后人们生活中的好处和挑战，这改变了西方世界人类的意义，这一点很重要。如果我们正处于类似于第三次工业革命的革命的边缘，世界经济论坛说，所有这些人工智能业务只是他们所谓的第四次工业革命的一部分，如果我们正处于这个边缘，

那么作为一个经历过它的人，一个喜欢哲学并思考大规模历史趋势和思维的人，你会发现自己处于一个非常独特的位置。你有能力为这样的事情做好准备。大多数人甚至都没有考虑这些事情。大多数人没有这个奢侈。大多数人只是尽力而为，努力工作，试图赚取工资并与家人共度一些时光。

当他们的手机上出现一个新的AI功能时，他们只是使用它。他们没有想过，当我使用这个应用程序时，它对地球上生命的未来意味着什么？

不，只有你。好吧，我们所有听众，以及说这话的人，我们都是真正、真正令人难以忍受的。好吧，我们在一起令人难以忍受。但如果你仔细想想，有时令人难以忍受也会带来一些好处。你知道，作为一个像这样喜欢哲学的人，你处于一个独特的位置，你可以在它真正发生之前看到亚历山大大帝帝国的衰落。你知道，最近很多人都在谈论斯多葛主义。

好吧，斯多葛主义是在亚历山大大帝死后出现的一个哲学学派。他死了，他的帝国被分成四块巨大的碎片，这些碎片变得更加复杂，当时地中海地区的人的生活变得几乎不断变化。因此，出现了一些试图处理这种不断变化的思想学派，特别是对于斯多葛主义来说，是处理你除了对事物的反应之外无法控制的任何事情。

关键是，你如何应对一个变化如此之快以至于你永远无法在其中找到立足点的世界？你如何才能强烈地感受到你是谁？如果生成式人工智能继续改进，然后继续破坏和取代人类的技能，想想看。人们将生活在一个他们活得足够长以见证自己过时的世界里。

人们花费数万小时开发、掌握的技能。构成他们身份很大一部分以及他们如何融入世界的东西。人们将活得足够长，看到人工智能能够在三秒钟内完成它。你想谈谈工业革命后影响人们的倦怠感。

你想谈谈像尼采这样的哲学家如何拥有哲学背景来预见它。想象一下，在这个可能被创造的新世界中，人们的倦怠感。而你就是决定让自己难以忍受并学习这些知识的哲学家。你是那个可以看到它到来的人。

这已经发生在世界上的老年人身上了。天哪，这一集里老年人是怎么回事？对不起。我的意思是，老年人经常会看到他们的技能因为新技术或世界变化而变得过时。但他们经常为他们的整个职业生涯工作，并且可以退休并骑着马走向日落。但如果你在20多岁的时候就见证了自己的过时呢？如果有人报名参加四年制学位，而当他们完成学业时，整个领域都被人工智能取代了呢？

如果这些东西继续改进，这种情况就会发生在某个人身上。唯一的问题是，另一方面，我们将生活在一个经济乌托邦中吗？一个全景监狱？介于两者之间？我不知道。但我知道的是，哲学可以帮助人们预见它。看，我们不像工业革命前生活的农民。就像我们面临的技术一样，我们与众不同。感谢收听。下次再聊。