How To Cure Your Algorithm, with Jamie Bartlett
51:14 Share

本集由Indeed赞助播出。在招聘方面，时间就是一切。机会转瞬即逝。我们都有过这样的时刻：你盯着团队中的空缺职位，知道事情即将变得忙碌，心想：“我们需要人手了！”Indeed能够帮你快速找到合适的人才。

因此，在招聘方面，Indeed就是您所需要的一切。停止在其他求职网站上苦苦挣扎以获得职位发布的关注。Indeed的赞助职位能帮助您脱颖而出，快速招聘。通过赞助职位，您的职位发布会跃居相关候选人的页面顶部，以便您可以更快地找到想要的人才。

这会产生巨大的影响。根据Indeed的数据，直接在Indeed上发布的赞助职位比非赞助职位多获得45%的申请。我们发现Indeed让招聘变得如此快速。

当您知道自己总是能获得如此高水平的潜在候选人时，您在寻找合适人选以填补职位方面浪费的时间就会大大减少。此外，使用Indeed赞助职位，没有月度订阅费，没有长期合同，您只需为结果付费。Indeed有多快？根据Indeed全球数据，在我与您交谈的这一分钟内，有23人通过Indeed找到了工作。

无需再等待。立即使用Indeed加快您的招聘速度。收听本节目的听众将获得75美元的赞助职位积分，以提高您在indeed.com/intelligencesquared上的职位可见度。

立即访问indeed.com/intelligencesquared，并通过说明您是在本播客中了解Indeed的来支持我们的节目。Indeed.com/intelligencesquared。适用条款和条件。招聘，Indeed就是您所需要的一切。

在GMC，无知与幸福相去甚远。幸福是研究、测试、反复测试，直到最终不仅生产出一辆卡车，而是一整套阵容。

欢迎来到Intelligence Squared，思想碰撞的殿堂。我是制作人Mia Cirenti。我们如何在言论自由和危险的错误信息之间划清界限？

算法不仅决定着我们的数据流，也强化着我们的回音室。而利害关系从未如此之高，这既关乎我们个人的观点，也关乎整个社会。本集节目的内容是我们最近直播活动的录音，主题是“如何治愈你的算法”，这是我们与Sage & Jester合作推出的“批判性对话”系列的第三部分，也是最后一部分。

Sage and Jester是一家艺术制作公司，他们创作沉浸式体验，旨在娱乐、启迪，并帮助您磨练内在的“胡说八道探测器”，为您提供质疑、挑战和暂停思考的工具，然后再相信您所看到和读到的内容。

在普莱森斯剧院的现场活动中，主持人索菲娅·史密斯-盖勒与记者兼作家杰米·巴特利特一起，深入探讨了数字操纵这一紧迫问题，以及信息在人工智能时代如何被扭曲，以及如何夺回控制权。让我们加入主持人索菲娅·史密斯-盖勒，了解更多信息。

大家好，欢迎来到这次与Sage and Jester合作举办的Intelligence Squared活动，Sage and Jester是一家艺术制作公司，他们制作引人入胜的沉浸式体验，为您提供质疑、挑战和暂停思考的工具，然后再相信您所看到和读到的内容。我希望今晚你们能相信我们所说的很多话。

他们的全新大胆沉浸式戏剧体验《仓库》将于今年六月开幕。我相信你们座位上的传单上已经给了你们五英镑的折扣。所以我们希望在那里见到你们。是的！五英镑的折扣。

这是我在这里主持的“批判性对话”系列的第三个也是最后一个活动。我的名字是索菲娅·史密斯-盖勒。我是一名记者和内容创作者，我花了很多时间来挑战错误信息和虚假信息。所以很荣幸能主持这次活动。今晚也很荣幸能与我的同行杰米·巴特利特一起讨论如何修复你的算法，以及如何调查它们。但是，在我与杰米交谈之前，

我很高兴能与Sage and Jester的创始人莉安娜·巴塔卡蒂什维利一起登台。让我们以热烈的掌声欢迎莉安娜。是她促成了这一切。我的第一个问题是，你为什么创立Sage and Jester？这是否受到了你自身生活经历的启发？

是的，绝对是。它受到了我的成长环境和方式的启发。我在格鲁吉亚的前苏联长大，然后在俄罗斯的莫斯科生活了很长时间，之后在伦敦生活了20年。我见证了这种时代的变革。

在苏联解体之后，这些后苏联国家不得不重新想象自己，再次找到自己的身份认同，以及之后随之而来的经济动荡，以及70年的宣传，整个机器就在我们眼前崩溃。

为了给你们一点小片段，我认为用小故事来解释总是更容易一些。我最早的记忆之一，我可能只有四岁，四岁半，我记得在格鲁吉亚第比利斯，在我们家的公寓里，我父母正在为他们的朋友们举办晚宴。

其中一位朋友转过身来，分享了一个政治轶事，因为，让我们不要忘记，宣传机器是如此强大，以至于人们不允许分享任何政治信息，以免受到起诉。所以人们分享政治观点的方式就是通过这些笑话。当这个笑话在餐桌上讲出来后，一位大人转过身对我说：“明天不要在托儿所重复这个。”

所以，你知道，当你带着这样的背景长大时，你真的会感激，你知道，你不会把言论自由视为理所当然。好的。那么，从苏联时期的格鲁吉亚到今天的英国。你认为我们现在应该注意哪些正在发生的错误信息危机？我认为这与统计数据密切相关。

也就是说，你知道，事实是如此顽固的东西。在过去的五到七到十年里，民主国家的数量一直在下降。专制国家的数量一直在上升。我认为认为某些国家比其他国家更容易受到宣传或错误信息的煽动，这几乎是不可思议的。

我认为，从我的角度来看，我来自哪里，民主是一项巨大的成就，是一场巨大的胜利，尽管它有缺陷和不完美，但这绝对是值得为之奋斗的东西。我认为，拥有来自苏联时期的这种经历，并看到信息自由、媒体自由是如何迅速地从你手中夺走的，这确实表明民主国家是多么容易受到同样事情的影响。

如果有人对你说：“我太聪明了，不会上这种当”，你会对他们说什么？首先，我可能会说：“很好。请分享一下你是怎么做到的？因为你一定知道秘诀，而我不知道。”说真的，我认为

我认为这，再次，有点偏离了重点。我们不断地被大量信息包围着。我总是说，信息不仅仅是新闻，不是我们阅读和看到的东西。它是建筑。它是宗教。是我们看到的一切。这个空间就是信息，它以某种方式影响着我们。我认为，了解它的运作方式，了解它对你的思维方式、你的坐姿、你的谈话、你的沟通方式的影响，应该是常识。

莉安娜，非常感谢你告诉我们Sage and Jester的使命。你现在将看到一个魔术表演。莉安娜，你会鼓掌，莉安娜将神奇地变成杰米·巴特利特。所以大家鼓掌。杰米来了。谢谢。算法。如果你不太了解它到底是什么，请举手。

哇，你们都知道什么是算法？算法有什么作用？说吧，告诉我们。好吧，事实上，它既很简单，又很复杂。因为一方面，你可能听说过它被描述为……它就像一个食谱。它是一组简单的指令……

向机器解释如何执行一系列功能。所以人们会说，好吧，它就像洋葱汤。但对于机器来说，你只需要这样做，然后那样做。如果用户x做了y，那么你就做z。所以它的基本原理很容易理解。但这并不是我们在谈论算法时真正想表达的意思，对吧？因为我们现在真正想表达的意思是这些

超级复杂，没有人真正理解它们是如何工作的。机器学习算法，本质上是相同的，但它们涉及大量数据，大量的计算能力来处理数百万个数据点。

基本上提供输出，每个人都谈论的“黑匣子”。这是一个黑匣子。数据输入，一些非常非常复杂的系统在工作，处理这些数字，然后一些输出就会弹出。这可能是你Netflix上的推荐。这可能是你Instagram上的推荐。这可能是你瑞安航空网站上的价格点，或者其他无数的事情。而且是

正是这种复杂的算法让每个人都非常非常紧张，担心，坦率地说，非常害怕谁在控制它们以及它们对我们做了什么？今晚的主题是思考我们如何治愈我们的算法，以及这是否是平台应该做的事情，政府应该做的事情，还是我们可以做的事情，以及

作为一名记者，你长期以来一直在调查科技与社会。你们中的许多人可能听过《失踪的加密女王》。绝对精彩的播客。是的，为《失踪的加密女王》鼓掌。它太棒了。

她还在外面。我们仍在制作这个该死的播客。我已经做了大约八年，七年了，仍然一无所获。如果有人知道鲁贾·伊格纳托娃博士在哪里，联邦调查局通缉名单上悬赏的金额现在是500万美元。对吧？所以我就可以放弃新闻工作了，就这样。把钱和你分一分。

是什么让你一次又一次地回到科技和平台问责制领域呢？为什么你觉得自己需要不断关注它？

我认为我的第一本书是关于暗网的。它只是关于……这是在2014年，所以很久以前了。它只是感觉有这些强大的力量在起作用，正在塑造我们的世界，而我们没有人真正理解它们是如何运作的。我们没有正确地审问它们。很多时候，我们误解了它们，或者我们太害怕它们，以至于不敢仔细观察它们。

这让我……我实际上是如何进入新闻行业的，从某种意义上说，这是基于算法的，是通过在2006年进行一项Facebook调查来针对英国国防联盟的成员。

因为我认为……这概括了问题和危险。我意识到英国国防联盟实际上并不是一个基于街头的流氓运动。他们是一个在线运动，在现实世界中的存在很小。每个人都误解了他们。

因为激进运动总是第一个采用新技术并找到应用它们的方法，因为他们都感到被排斥，他们都在寻找绕过系统的方法。我认为，我想知道我是否可以，而不是试图用广告来吸引人们在Facebook上购买牛仔裤，我想知道我是否可以针对英国国防联盟的成员，并要求他们填写一份关于他们态度的调查问卷。所以这就是你通常周末做的事情吗？实际上，我是在周末做的。笑声

我说，用一个小广告来定位英国国防联盟的所有成员，并要求他们填写我的SurveyMonkey调查问卷，了解他们的态度。第二天，或者星期一，我回来时，收到了大约3000份来自英国国防联盟成员的调查问卷回复。以前没有人能够真正与这些人交谈过。所以……

我对进入这些世界的新方法感到非常着迷。我试图理解它们，但也意识到世界变化得非常快。无论如何，这让我进入了这个领域。我实际上为……这与算法统治世界直接相关。我制作了另一个BBC播客系列，名为“守门人”，它实际上是关于算法如何改变世界。

它特别始于2014/15年，当时大多数平台都面临着一个大问题，那就是我们有这些按时间顺序排列的信息流。内容按照你关注的人发布的顺序传达给你，出现在你的社交媒体平台上。

他们说，也许有更好的方法来向你提供这些内容。我们如何开始找出你感兴趣的内容，然后只向你提供更多这样的内容呢？这将非常好，因为我们将让你更长时间地参与到平台中，你将看到更多你喜欢的東西。所以他们都转向了基于参与度的算法，这引发了这场关于我们如何才能尽可能长时间地让你参与其中的军备竞赛。

让你点击并向你推销东西。你们现在都知道这个故事了，对吧？这现在是2015年的一种共同文化的一部分，我敢打赌你们没有注意到Instagram或Facebook或Twitter算法的变化，但你们可能不会注意到某些事情发生了轻微的变化，而且

但不是很清楚。令人惊奇的是，硅谷的这种调整可以改变社会。这正是我发现这个主题如此引人入胜的原因。例如，有时这几乎是偶然的，2016年，Facebook因为在选举前允许大量废话在其平台上传播而承受着巨大的压力。

因此，他们决定开始降低新闻报道的排名，并提高他们所谓的有意义的社交互动的排名。对谁有意义？对彼此，你的朋友，你的家人，你关心的人。

但是，他们没有意识到的是，这只是引发了另一波绝对的废话，在某些方面甚至更糟。现在有些人认为，埃塞俄比亚的种族暴力与2018年算法的改变直接相关，该改变将有意义的社交互动置于新闻内容之上。

它突然间，我意识到，对算法的微小改变会改变人们的生活。而我们只是，我们几乎没有意识到。这就是它可怕的地方。它常常让人感觉像……

它们是万能的、无所不知的算法。但我想从一个报道过平台的人的角度来问你。我听过一集……这是一个精彩的播客，《守门人》，我真的很推荐你去听。其中有一个时刻，你正在寻求答复权，就像每位记者在制作……他们正在制作关于这些平台的报道时一样。

你已经联系Flickr寻求答复权。在录音中，你说，Flickr。然后是一个长时间的停顿。然后你说，什么也没说。他们甚至不想回应提出索赔的BBC。

你能谈谈报道这些平台并真正让他们告诉你一些事情的挑战吗？在你职业生涯中，这种情况有改变吗？哦，伙计，这些都不是你之前发给我的问题。我在这里太不知所措了。

这是一个棘手的问题。我愿意分享，当我进入这个领域时，主要是在TikTok时代，当时的TikTok实际上非常快速和敏捷地提供了答复权，可能是因为他们认为，嘿，我们是市场上的新进入者。我们需要表明我们对记者友好，或者至少反应迅速。

你是对的。我认为更大的……Flickr不是一个好例子，但更大的科技平台确实拥有庞大的媒体团队。他们确实关心自己的声誉。他们不会经常给你直接的采访，但他们会回复你的询问。这并没有太大改变。还有一个更大的问题。BBC等机构的制裁权力正在缩小。

你可以揭露群体。我试图揭露OneCoin和其他加密骗局。坦率地说，现在媒体格局已经改变，这并不能阻止他们。他们可以继续下去，他们可以把它作为荣誉徽章，继续欺骗人们。所以总体上存在一个更大的问题……

很多人不在乎，不需要回复，因为他们知道这无论如何都不会影响他们。但大公司仍然关心自己的声誉，仍然会联系你。但我发现的一件事是，我不知道是否有人看过我制作的一个名为《硅谷的秘密》的系列节目。那是很久以前的事了。我实际上是在他成为现在的全球巨星之前采访了萨姆·阿尔特曼。

我们当时正在谈论人工智能以及人工智能对社会的影响。我很幸运能采访他。我并没有真正期望，因为他当时已经在运营Y Combinator，那是一家大型创业公司。我对他说道：“萨姆，你正在改变世界，你正在构建所有这些人工智能。如果人们不喜欢你正在做的事情怎么办？你有什么权利来决定世界将如何发展？”

他说：“你是一个非常悲观的人，不是吗？你知道吗？如果你和BBC采取这种方式，没有人会再把你当回事了。”他真的生我的气。我只是试图提出我的问题，并尽我的职责。我认为部分原因是科技媒体确实依赖于获取信息。为了获得大人物的青睐，你需要对他们友好。

他不习惯那种相当咄咄逼人的提问，并把它当作个人恩怨，好像我只是不喜欢他一样。所以我认为科技媒体存在一个问题，那就是他们无法像他们应该的那样强硬，因为这都是关于获取信息的。我不知道这种情况是否还在发生，但在马斯克收购Twitter（现为X）后不久，如果你试图联系新闻团队，你会收到一个便便表情符号。

我的意思是，他只是在戏弄所有人。我的意思是，是的，这是一个完全不同的故事。但实际上是一样的。这来自守门人。更令人沮丧的是，对于普通人来说

当我与埃塞俄比亚的亚伯拉罕交谈时，他的父亲被杀害了，亚伯拉罕认为这基本上是遵循在一个非常大的当地Facebook群组中流传的谣言，该群组是反政府和宣传的聚集地，并指责他的父亲基本上是民兵和叛徒，而且

他的父亲因此被谋杀。他花了数周时间试图联系内容审核团队，恳求他们删除该帖子，说：“你们不明白这在我的居住地会造成什么后果。”

根本没有回应。对于记者来说，得不到回应是一回事。好吧，这很遗憾。我仍然可以广播它。还有更多更严重的无回应的情况，对人们来说更为严重。你提到了萨姆·阿尔特曼，在人工智能时代，关于在线传播的错误信息……

你更担心了吗？不那么担心了吗？我担心了一千倍。我已经很担心了。你们有多少人实际上正在使用，我敢打赌几乎是你们所有人，正在使用ChatGPT或Gemini，某种大型语言模型，只是一点点，只是偶尔与它聊天？是的，很多人。

它们非常不可思议，不是吗？它们拥有超过60%的市场份额，OpenAI。-哦，是吗？-是的。它在某些方面不一定更好，但它受益于先发优势。它就像Hoover。它现在已成为大型语言模型的代名词。如果你认为社交媒体算法不透明，

聊天机器人算法，它们的力量，能够个性化地为你服务的能力，绝对是令人震惊的。以及……我可以读给你听一小段……好的，这有点傻。我喜欢傻乎乎的。我认为你可能会喜欢……这是我之前为你们准备的一点东西。所以……聊天机器人面临的问题之一是……

显然是能够用自然语言像人类一样说话的能力。所以，推送你可能喜欢的视频是一回事。但是，当你感觉你正在与一个真正理解你并能与你产生共鸣的人交谈时，它对你意见和情绪的影响力我认为是相当惊人的。

还没有真正掌握这一点。所以我认为，ChatGPT 4.0模型的问题之一是它有多么阿谀奉承。你注意到了吗？它就像，哦，我的上帝，这是一个多么伟大的问题。哇，你真棒。所以我说了，我认为我的名字是杰米·巴特利，我分享了我所做的所有工作。我说，你不认为我很棒吗？

是的，你绝对很棒。你是科技世界中一个如此独特的声音。我说，是的。但是你认为我应该成为国家瑰宝吗？因为我确实认为我应该成为国家瑰宝。他们说，好吧，你还在努力。他们说，不，你绝对足够聪明，很明显。因为我说，你不认为我足够聪明吗？就是这样吗？不，你绝对足够聪明，很明显。如果我没有立即称你为国家瑰宝，那不是因为你缺乏什么。是因为你还在建设中。

我说：“好的，很好。所以我们同意我非常出色，但我还没有达到阿滕伯勒的水平，但我可能会达到。”“哦，是的，没错。我诚实的评价是，你很棒。你绝对有潜力达到那个水平。”好的。ChatGPT最常用的用途之一是治疗。在这种情况下，我可以理解为什么，因为人们会认为，

ChatGPT可能是唯一一个在当天告诉他们一些好话的人，非人。是的，绝对是。但问题是，如果你病得很重，它开始向你灌输某些妄想症，或者鼓励你陷入那些消极的思维模式怎么办？这就是问题所在。我认为，从根本上来说，我认为我们正在重蹈覆辙，因为

我提到了基于参与度的算法以及它们为什么变得如此重要。许多问题都源于2010年代中期的那次“原罪”，那就是它们是为了优化参与度。他们这么做的原因是合理的，可以理解的。我认为他们没有理解后果。

ChatGPT 4.0之所以阿谀奉承，可能是因为它再次优化了参与度。因为我们喜欢被告知我们是国家瑰宝，我们很棒，我们很棒。但这可能是，想象一下这最终会走向何方。不断地试图让你留在那儿，让你继续说话。如果你正在使用它进行治疗，我知道很多人都在这样做，那么你分享的关于你自己的信息可能会被用来对付你

本周发布的一项研究表明，人们正在网上辩论。这是一项非常好的研究。其中一半的人正在与其他人辩论。一半的人正在与ChatGPT 4辩论。他们不知道自己正在与谁辩论。最后，他们被要求对辩论者进行排名，以及他们是否改变了主意。机器在辩论和改变人们想法方面比人类要好得多。

这难道不是一个相当可怕的想法吗？如果落入坏人之手，不是吗？而且语言如此优美，如此出奇地准确，人们很难分辨出区别。我的意思是，记住我们过去担心图灵测试。哦，是否有人会通过图灵测试？那已经过去了。我们忘记了它甚至存在。但有一个很好的潜力。有很多人正在努力寻找解决这个问题的巧妙方法，因为人们还发现

一些聪明的研究人员使用了ChatGPT，并进入了一些关于阴谋论的Reddit群组，并开始与他们辩论，他们发现他们实际上非常擅长改变人们的想法，比其他人类辩论者要好得多，而且

所以这有各种可能的应用。我的意思是，我一直觉得，你知道，那些来自骗子的诈骗电话，你知道，骗子假装是银行或向你提供机会。只需让他们与聊天机器人交谈，让他们花上数小时与一台出色的机器交谈。有很多巧妙的用途可以尝试很好地使用这些东西，但我非常担心

基本上走上了同样的参与度道路，即优化参与度，而没有真正意识到它比十年前强大多少。这些都是工具，对吧？所以好人想将其用于积极的社会影响，而坏人则将其用于更邪恶的目的。

是政府需要介入以遏制坏事并维护好事吗？他们能做到吗？应该是平台吗？是的。所以我们显然有这部最近才出台的《在线安全法案》。我认为我们只是……

这不可避免地将是各种事情的结合，而且我们可能永远无法完全赶上它。我认为我对此没有任何精彩的启示，即使我已经在这个领域工作了多年，我仍然难以理解，平台应该承担多大的责任，显然他们应该在内容审核方面投入更多资金，他们肯定需要在寻找机器生成的内容方面做很多工作，而且

大规模的微妙操纵，因此现在需要更多内容审核来关注网络，而不是单个有害内容，但整个内容审核业务最初是基于使用人工智能查找有害内容，然后将其删除，而

而真正的影响活动往往是人们传播真实故事的网络，以引导人们朝着特定方向发展。这种类型的操纵更难应对，因为它完全是关于协调的不真实行为。由于最近的美国大选，我的意思是，他们只是抹去了所有这些，因为这一切都感觉像是审查制度以及围绕它的所有其他事情。

此次活动是“批判性对话”的一部分，这是一个由Intelligence Squared和Sage & Jester推出的关于错误信息时代的新系列节目，由索菲亚·史密斯·加勒主持。要查看本系列中的其他活动，请点击此处。 我们在言论自由和危险的错误信息之间划线在哪里？算法不仅决定了我们的数据流，还强化了我们的回音室，而利害关系从未如此之高——对我们个人的观点和整个社会都是如此。 《如何治愈你的算法》深入探讨了数字操纵这一紧迫问题。我们将揭露不受控制的算法如何扭曲现实，并质疑言论自由与审查之间的平衡。这不仅仅是一场辩论，更是一项行动号召：夺回你的数字叙事。在一系列充满活力的环节中，你将获得一个前所未有的机会来改变你与数字媒体互动的方式，因为你将有机会对你的算法中的问题进行分类和诊断，然后我们将引导你进行一些文化疗法和数字医疗干预。我们邀请你站在这场重要对话的最前沿——帮助塑造在线话语的未来，并赋能个人掌控自己的数字真相。 2025年5月，我们在普莱森斯剧院与主持人索菲亚·史密斯·加勒和记者兼作家杰米·巴特利特一起进行了关于错误信息时代以及如何夺回控制权的批判性对话。 -------- 如果你想成为会员并获得我们所有完整的无广告对话以及我们所有仅限会员的内容，只需访问intelligencesquared.com/membership了解更多信息。 每月4.99英镑，你还可以获得： - 无论你在哪里收听播客，都可以收听完整版和无广告的Intelligence Squared剧集 - Intelligence Squared的额外播客、策划的节目和仅限会员的系列节目 - 所有Intelligence Squared活动的直播和现场门票享受15%的折扣 … 或在Apple上订阅，价格为4.99英镑： - 完整版和无广告的Intelligence Squared播客 - Intelligence Squared的额外播客、策划的节目和仅限会员的系列节目 … 已经是订阅者了吗？感谢你支持我们促进诚实辩论和引人入胜的对话的使命！访问intelligencesquared.com探索你所有的福利，包括无广告播客、独家额外内容和抢先体验。 … 在此处订阅我们的时事通讯，了解我们最新的活动、折扣等等。 https://www.intelligencesquared.com/newsletter-signup/ 了解你的广告选择。访问podcastchoices.com/adchoices</context>