One: Wonderland
26:48 Share

现在花一些时间，在技术上，你走过去服务，然后进入附近。

这是混乱生活中的一天，可能和你们有点像，只是今天不是普通的一天，今天是我带家人在互联网学校环游世界的一天。

终于在家里安装了互联网电脑。现在我可以随时服务他们。

测试测试。

我刚才看到的日光。

西弗吉尼亚欢迎中心。

吉姆·贾斯蒂斯，弗吉尼亚州的野性、神奇和不那么弗吉尼亚。

州长名叫吉姆·贾斯蒂斯。我觉得竞选标语就像自己变好了。

所以，就像告诉我关于东京的故事。

好，这是。所以去年，你和我在车里。

我们只有那么一点时间。

你能告诉我你今天在忙什么，发生了什么事吗？

为了找到这个人？他的故事真的很有趣。他说他通过YouTube视频被激进化，花了数年时间，他的政治立场变得越来越极端。

今年3月新西兰发生枪击事件后，人们谈论了很多关于网络激进化的问题。枪手是一位白人民族主义者，显然在极右翼的互联网社区待了很长时间。我一直想找一个关于这种事情如何发生在一个人身上的好案例研究，看看那条路是什么样的。

我一直在和这个圈子里的人交谈，他们一遍又一遍地告诉我，你必须看看YouTube。有些方面对我来说很熟悉，有些则不那么熟悉。所以，我们没有让先生给我们讲解一下。

轮到我了。我太兴奋了，轮到我了。所以我们开车去了西弗吉尼亚州，他住的地方，向右转，很好，你站在那里，戴着耳机，咧嘴一笑。

我，你们。

我要拿着麦克风绕着你们走。

这就是他为什么穿着一件大猩猩T恤的原因。他打招呼，带我们进了他朋友的房子。谢谢你们允许。他做的第一件事是。

你能描述一下它是什么吗？

你正在放下很多东西。

四十三。

波拉第一次有了枪。

我一直喜欢枪支，我并不反对枪支。但是，是的，我一直是这样的。我并不真正需要一个。

但是，第二天，我收到死亡威胁，出去买了一个，但我永远不必使用它。这些人通常只是想看看你的团队、你的房子之类的。但是，你知道，为了安全起见。

我们应该坐在哪里？我们最终去哪里坐得最好？我们坐在沙发上，你知道，这里做个小测试，一、二、三，对我说，他开始讲述一个相当可靠和熟悉的故事。所以，你能简单地告诉我们你的名字和年龄吗？

我叫凯勒，我26岁。我在佛罗里达出生，但在弗吉尼亚长大。

你什么时候搬到弗吉尼亚的？

我妈妈和我生了一个我从未见过的人，然后她立刻离开了佛罗里达。我想我可能不知道所有细节。

他描述说，童年时期过得有点艰难。

它在那一刻被抚养长大。

祖父母并没有很多朋友。你小时候是什么样的？

很害羞，很书呆子，在公共汽车上，感觉自己不属于那里。

上高中简直是地狱。我讨厌它。

我看到每个人都像很多青少年一样顺从。

他非常喜欢视频。所以我是。

他在高中的新生。

年是无论我得到什么。

高速互联网，互联网。

我不知道。

我本可以没有。

互联网。

互联网。

就像滑板。对他来说，互联网是一场革命。

因为最终，那是我开始在家里玩很多在线视频游戏的时候。

他找到和他一样的人。

全国各地的人。

世界各地的人。

我结识了很多朋友。

所以快。

他建立了新的日常习惯，每天放学回家后，都坐在电脑前。

玩很多。

视频游戏，然后晚上。

我会打开YouTube。

打开YouTube。

YouTube。在。

那时，我大部分时间都在看视频和。

喜剧小品。

这就像很早很早，整晚都熬夜。

晚安。

如果他感觉自己没有在高中或周围的环境中找到自己的位置，他就会生气地大笑。

类别是，但我喜欢人们。

YouTube是他感觉最自在的地方。

我喜欢它们以短促的方式出现。

你在这里谈论得非常深入。我也经历过这种情况，高中时我不受欢迎，我记得互联网就像一个可以逃脱的地方，在某些情况下，它比你的现实生活更美好。你说得对。

那时它更好。

你当时有政治观点吗？

政治。而且，从非常表面的意义上来说，对吧？就像反权威。你知道，我十几岁时的政治观点来自加拿大。这是迈克尔。妈妈，我在这里为了让公民，迈克尔，制作更多纪录片，这影响了我。我的意思是，我希望CNN和其他主流媒体，或者至少一次，能说出这个国家正在发生的事情的真相，所以里面有很强的朋克摇滚影响。

他还非常喜欢。

这些新的无神论视频，所有的一切，我都在YouTube上观看。我的意思是，它会感染我们。你最基本的正直，你会得到旧的上传。对我来说，重要的是真相。就像理查德·道格拉斯的演讲一样，自行车没有什么特别的。

我记得这些视频，当时感觉有点耸人听闻。

对吧？它们感觉非常有冲击力。它们感觉就像在看人们说出一些令人不舒服的事情。

他想要的是道德上与一本书相符的东西。为什么给我们一本支持奴隶制的书？

按照今天的标准？显然，这非常温和，但在当时，这可是相当激进的东西。就像奥巴马早期执政时期。

对吧？奥巴马时期。

你喜欢奥巴马吗？你对他有什么感觉？

我喜欢他。我不知道他做了什么，因为我没有深入研究政治，所以不知道他做了什么。但是，是的，我喜欢他。

我认为，是的，我们有黑人总统。这很酷。你知道，第一个黑人总统，取得了进步。2011年冬天大学毕业。

然后他去了大学，又去了大学。这对他来说并没有什么意义。

我想去，你是否喜欢环境专业？我没有过得很愉快。大部分时间。即使在天气好的日子里，人们在户外玩飞盘，我也会待在房间里玩视频游戏。然后，还有一次尴尬的经历，我在校园里和一个孩子打架，然后被校园里的人嘲笑。那天晚上，我非常沮丧地离开了，因为我本来就不打算上课，所以我退出了课程，然后笑了。

然后我回到了西弗吉尼亚州。所以他搬回了祖父母家，在那里，他几乎没有事情可做。他没有工作。他也没有方向。

只是我在房间里。

在床上。他花了大量时间，睡得很少，感觉很沮丧。

坐在我的地下室里，只是像这样，非常沮丧。

他失去了他的游戏电脑。

我的游戏电脑被偷了，顺便说一下，这真的很糟糕，让我很沮丧。所以我甚至没有视频游戏。现在我有一台很差劲的小电脑，几乎只能运行。

它可以运行YouTube。所以现在。

他20多岁。他住在祖父母家。他感觉自己在这个人生阶段，应该找到自己的方向，应该开始职业生涯，考虑组建家庭。他只是在看U。

T。

我们。

然后，人脑是一个大约有1000亿个神经元的网络。

我找到了一份名为“神经元中的上帝”的文件。当我们长大后，我们的道德和伦理指南针几乎完全由我们的环境塑造。所以，你如何陷入行为模式。由于你具有神经可塑性，你可以摆脱父母的行为。

当我们有自我意识时，我们可以改变、改变情绪，因为我们可以控制成本。

所以我有了这样的想法，哦，我的大脑就像我可以塑造和塑造的工具，然后。

进入YouTube的这个新兴领域。

所以我开始看一些自我提升的内容。

自我提升视频。

你想要实现什么梦想或愿景？

价值观。诚实地说，一些简单的东西。

说实话。

自我调节的过程实际上。

感觉令人难以置信。

就像托尼。

罗宾逊之类的东西。

每一个珍贵的。

他们就像给你建议的人。

特别是为了让你继续做那些。

让你保持不变的行为，阻止你改变。

像凯勒这样的家伙。

然后，要真正自由，既容易又很难。

我找到了员工。

但是，我们只能被我们拒绝看到的笼子困住。所以，斯蒂芬·马卢是一位加拿大自由主义者，以前是一位历史学家和治疗师，然后他变成了一个好人。

身体三部分和广播。

我希望一切进展顺利。有一天，一些东西出现在侧边栏。

我点击了它。你真的必须打开你内心经常紧闭的大门。

当YouTube在其早期取消了视频长度的15分钟限制时，他开始制作名为“自由之声广播”的两小时节目。

我们采用的方法，即“自由之声广播”的风格，可以非常。

非常有助于你。他将深入探讨哲学思想。

哲学是一门古老的学科。它涵盖一切。对我来说，这才是最令人兴奋和根本的东西。

我一直在告诉他一些让他感觉更好的事情。你说你正在经历的抑郁症不是永久性的，情况会好转。许多像凯勒这样的年轻人面临的幻灭和痛苦实际上并不是他们的。

从年轻人的角度来看，这是社会的问题。

我的意思是，你可以按需获得色情内容。你会有令人难以置信、逼真、引人入胜且上瘾的视频游戏。他们还有什么可期待的呢？他们可以接受高等教育，平均欠下2.5万美元的债务，进入一个就业市场，这相当令人沮丧。

他发现自己说的很多话都很有道理。

学生有权感到沮丧。他们的社会是不可持续的，因为没有人提出关于为什么社会是。

事情如此糟糕的原因。是的。

是的，这是真的。他不仅仅在和人们说话。他邀请人们向他提问。

我收到了很多要求，想做一期关于如何认识漂亮女孩的播客，因为有很多邀请。

将他们融入他的生活。他会谈论他的成长经历。我。

从小就对现实世界感兴趣。我遭受过身体、情感和精神虐待。

他谈到自己变得更好。

我一直说，如果你有外貌问题，请咨询治疗师。

他接受了治疗，他的生活有所改善。

在我们见面之前，克里斯蒂娜花了一些时间来提升自己。

他们一起在直播中出现。

他有一个妻子，在这个频道上。

他们会谈论他们一起的生活。

我看着我的女儿学习如何讲笑话，发现什么对她来说是好笑的，什么不是，为什么我只是想整天亲吻她的头发。

只是因为你，我必须亲吻。

他谈到他对女儿的爱，就像我希望所有这些。我希望我的生活中有一个像这样的家庭，因为我希望我的生活中有一个稳定的家庭。我想，如果我继续观看更多内容，我。

我会像那样。

他的声音和视频成为他稳定性的来源。

他解决人们需要做的事情来获得幸福。

他说，他从YouTube上观看的所有内容实际上正在帮助他。

开始。

他找到了一份新工作。

然后我开始克服很多社交焦虑，因为我开始与人互动，并且和所有这些高中生一起出去玩。

他开始感觉事情正在好转。

最后，在那之后，我的意思是，有更多这样的事情。

所以。

我几乎一直在YouTube上。

他不仅观看斯蒂芬的自我提升内容。

很好。我开始。

非常喜欢乔·罗根。互联网上最大的播客、YouTube脱口秀主持人。

非常感谢。酷毙了。

但那时他刚刚开始尝试将他的访谈上传到YouTube，女士们先生们。

他只是不断地观看。

很多。

如果我当时有那么一刻。我在YouTube视频中看到自己。这可能需要5、10、12、13。

每天14个小时，5个人。

这听起来像个疯子，但这正是我所做的。

当凯勒谈到在这个人生阶段观看YouTube视频时，他谈到了一种坠落的感觉。但他甚至没有真正想到的是，在他屏幕的另一边，有一种力量在把他拉进去。这种力量与一个名叫埃德·乔的法国人有关，你好，这是凯文。

你好，你怎么样？嗯，你很好吗？即使他们从未见过面？

所以我想一切。

都是一个非常重要的。

平静故事的一部分。

我是迈克尔·戈德，我是《纽约时报》的政治记者。我的工作是报道今年的总统竞选。

《纽约时报》的报道如此宝贵，因为我们有现场人员可以提供信息，他们正在经历这些事情，我们有一支记者和编辑团队，正在筛选当天信息，为您提供实时更新。在任何特定时刻。你都有关于那天发生了什么、接下来会发生什么以及这一切意味着什么的概念。

在突发事件中，要弄清楚你真正需要知道的信息非常困难。我们正在将事情置于有助于你理解当下所见内容的背景中。你正在获得快速信息，但你知道它是可靠的。订阅《纽约时报》，即可访问我们为期选举而进行的所有报道。

在选举之夜，你可以在《纽约时报》上订阅。开始平静的闪光。订阅。

我获得了人工智能博士学位，然后在微软工作。

肖是位非常聪明的家伙。你研究过如何制造机器人。

基本上，正是如此。

他是一位研究机器学习的博士。然后在2010年，他得到了梦寐以求的工作，在谷歌工作。

所以，当我加入谷歌时，我实际上不知道我会被分配到哪个项目。

当他到达谷歌时，他得到了一个非常令人兴奋的。

任务需要有人负责YouTube的人工智能。我非常适合。

他被分配的项目最终将YouTube与互联网上的其他网站区分开来。这与推荐侧边栏和使整个系统运作的人工智能有关。这对你来说似乎是一件大事，在谷歌工作，负责YouTube的推荐吗？

是的，起初意识到我的工作会影响这么多人，这真的很棒。我想，这会是一件好事。我想，好吧，我们可以利用人工智能，让世界变得更美好。

当你到达那里时，我假设有一些算法正在为人们选择视频。这些算法是如何运作的？

是的。所以，最初，当YouTube开始时，最重要的是点击量。点击视频的人越多，就越好，尽管他两次都失败了。然后他们意识到这会导致太多点击诱饵。

人们会点击标题，然后意识到视频与标题中声明的内容完全不同，然后他们会立即离开平台。所以这对YouTube来说实际上是不利的。因此，我们将其衡量标准改为总观看时间。

这个算法的目标是如何向你解释的？你了解YouTube高管想要什么吗？

目标是尽一切可能最大化观看时间，让你尽可能地增长。

这似乎是一个简单的转变。

但这种转变具有根本性的。

这些数字是前所未有的。

YouTube现在每季度收入超过十亿美元。它拥有巨大的受众。我们正在消费越来越多的视频内容。这不仅仅是你在观看YouTube，而是你观看多少。

你对目前的工作有什么感觉？

我认为我们非常兴奋，在从事这个项目时，我们并没有真正质疑观看时间是否是一个好的指标。我们认为，如果人们观看的时间更长，他们可能会更喜欢他们正在观看的内容。所以当时，我对这项工作感觉不错。

我有一刻想。

你的嗡嗡声在我的耳边。

我以前以为自己只是在消费信息，和别人没有真正交流。嘿，大家好，这是由[平台名称]带来的帖子。

但我后来意识到有一些问题。人们注意到你对最大化观看时间存在问题，因为[平台名称]会创建这些过滤气泡。

关于那方面还有更多内容。

我以前在YouTube上交流的方式是……

当时是……

每个人当时……

你观看一只猫的视频，然后推荐系统会说：“哦，你看了只猫的视频。”所以我们会给你更多关于猫的视频。

然后又更多关于猫的视频。

然后又更多关于猫的视频，更多同样的内容，更多同样的内容。当时我真的很担心，如果大家都能这样一直看下去，会浪费人类的潜力。但最能让你持续观看的东西，这些猫，这是否正确？为了让你再次看到猫、猫、猫。

随着时间的推移，我意识到他一直注意到的过滤气泡问题，实际上比大家只是反复观看同样的猫视频更糟糕。

所以当时，这是一个演示……

在卡罗尔，在卡罗……

在埃及，卡罗爆发了埃及的冲突。

这些新闻视频，这些政治视频，比如当时埃及的冲突。他看到算法向不同群体的人展示同样的内容，一遍又一遍。

你会看到抗议者一方的视频。然后它会推荐抗议者一方的另一个视频。所以你只会看到抗议者一方。你从警察一方开始，你只会看到警察一方。

然后你只有一个……

现实的一面。你无法看到两面。所以这些不同的现实被创造出来了……

一旦你意识到存在这些过滤气泡，这些是算法回声室。你对此做了什么？

所以，嗯……

首先，我不想抱怨它，也不想找一些坏例子来展示它的问题，因为我不想成为那个抱怨的法国人。所以我做了些副业，比如我和另一位工程师（还在YouTube工作），我们创建了一个系统，它做了完全相反的事情，摆脱了过滤气泡。

这些副业有任何影响吗？YouTube黑人，他们开始测试，实施了类似的管理者。

它们一直只是原型，但从未在真正的用户身上测试过。

你认为这是为什么？

他的意思是，他们说的方法行吗？这不是我们的目标。我们的目标是增加观看时间。

所以，政治两极分化的问题，只给人们一个故事的一面，就像你注意到这个问题一样，而你的YouTube和它，听起来你正在尝试通过这些副业来解决它，但你知道你的老板们不会说：“哇，这是我们听过最好的主意。让我们现在就在网站上实施它。”你的YouTube从那以后是如何运作的？

是的，当我向我的经理提出第三个项目时，他告诉我，他们认为我需要太多时间，无法完成。然后我几个月没有做这个项目。当我再次开始工作时，我因为绩效评估不佳而被解雇，这是真的，因为我花太多时间在这个项目上，而我的主要项目就少了时间。

所以，他实际上离开了硅谷，回到了法国。他说，他差不多停止思考YouTube算法了。直到有一天，就像一个古老的法国浪漫故事，两人再次相遇。

我在……

从年轻到巴黎的最佳旅程。所以是六点。我在巴黎工作，但我还有家人和……

所以我去看望家人，然后回到巴黎工作。有新的有WiFi的巴士。所以我心想，好吧。

让我们试试。所以他坐在巴士上，打开笔记本电脑，在工作，他注意到屏幕上……

我的邻居一直在看视频。很长时间。

这个人只是从一个推荐视频到下一个推荐视频，再到下一个，再到下一个……

我有点自豪，因为我被允许……所以我帮了他很多。我有点好奇，哪些推荐如此优秀，以至于他如此着迷于YouTube。

然后我说他正在观看关于秘密计划杀死20亿人的阴谋论。所以，我自然想和他开个玩笑。谁想杀我们？试图开始对话。

他告诉我，这个秘密计划看起来是什么样的？因为媒体不会告诉你。但如果你在YouTube上搜索，你会找到所有真相。然后我们谈论了视频，我可能只看了一个视频，但我不确定情节，因为他告诉我，有很多这样的视频……

就像……

是真的。

这很强烈，因为我知道这个数字。所以我明白这不仅仅是一个人。这是数百万人在这种情况下。

大家好，到此结束。让我们回到邮件列表。

所以，我们尝试看看如果我们搜索历史，我们能追溯到世界多远。我做到了。是的。

是的，是的，是的，我记得这个。好的，现在看。

这是一个愿望文化……

系统设计，使用深度……

来吧，我的国家，要充满……

并反映那些有舒适感的文化。但是……