Episode 45: Billionaires, Influencers, and Ed Tech (feat. Adrienne Williams), November 18 2024
01:00:33 Share

欢迎大家来到神秘AI炒作剧场3000，我们在这里揭露真相。在这个AI炒作的时代，我们发现最糟糕的技术以及最迫切的需求。

我们学习始终阅读脚注。每次我们以为我们已经达到了AI炒作的巅峰，也就是所谓的“谎言之山”的顶峰，我们发现还有更糟糕的事情即将到来。我是Emily Bender，华盛顿大学计算机科学教授。

我是Alex Hanna，分布式人工智能研究所的研究主管。这是第45集，录制于2024年11月18日。本周，我们将回到课堂，讨论那些慈善家和网红们如何利用他们的名气和金钱炒作大型语言模型（LLMs），将其作为教育工作者的解决方案。我们之前讨论过这个问题，但遗憾的是，谎言仍在继续。

从马克·扎克伯格到比尔·盖茨，有多少没有教育专业知识的人试图将教育问题简单化，仿佛它只是一个技术问题？他们承诺提供“全面的AI导师”或仅仅是“教师指导的”工具来解决教师不足的课堂问题？这种炒作只是硅谷又一次将矛头指向真实问题——学校系统缺乏支持——然后将注意力和资源转移到他们最喜欢的玩具上。

到他们最喜欢的玩具上。

今天的嘉宾是我们研究所的研究员Adrienne Williams。她也是一名组织者、前教育工作者，并直接体验了教育技术如何塑造课堂，通常是朝着更糟糕的方向。欢迎Adrienne！

非常感谢邀请我。我很高兴能与大家分享我的专业知识，我也想感谢聊天室的各位。感谢那些在Twitch直播上观看节目的观众。之前来过的朋友们都知道，节目的最后我们会进行“新鲜的AI地狱”环节。我们会让Alex进行即兴表演。所以这次我想我们可以进行一些观众互动，如果你在节目过程中有什么好的音乐提示，请在聊天室中分享，也许我们会用上它，但我不能保证一定会用。这需要提前计划太多时间。

我想是的。别让我觉得我必须事先想好应急方案。

好的。我们先从第一个资料开始。这是一篇发表在chance.org网站上的文章。

我喜欢chance.org网站上快速发布新闻的方式。这是今年10月的一篇文章，标题是“Chance the Rapper资助帮助教育工作者塑造AI在课堂上的应用”。副标题是“教育主管Sanda Huang宣布三项新拨款，重点关注教师和教育技术开发人员之间的合作”。我想我们先看看这篇文章，然后听听Adrienne的看法。

是的，所以这篇文章的作者……我的意思是，这是一篇新闻稿，但它写得很有吸引力，可以吸引到加州的实际媒体。Chance the Rapper的倡议（CCI）今天宣布了三项拨款，用于支持人工智能或AI教育计划，让教育工作者成为未来技术的共同创造者。

这项声明是在对阿纳海姆联合高中区（AUHSD）的迪尔初中进行访问时发布的，CCI的教育主管和产品副总裁Sanda Huang在学校里度过了一天，了解教师指导的人工智能工具在课堂上的影响。这是Huang的一段话：“教师的投入对于确保教育中的AI工具具有情境相关性、准确性和与学习目标的一致性至关重要，”Huang说。“通过整合教师的专业知识，我们可以设计出能够提高学生成绩并支持更有效学习体验的AI系统。”你对此有什么想法吗？他们做了太多事情。首先，回到Chris之前说过的话，因为这些人，在LLM中，他们总是说自己是慈善家，这样他们就可以继续游说。他们每天都在说谎。

嗯，还有“教师指导”的概念对我来说就是强迫劳动，就像老师们在开会时说，“今天我们要让你做这些你本来就应该做的事情，然后我们会从中赚钱。”所以我要充分披露一下。

我以前工作的初中是Summit公立学校，这是一所CCI学校。他们总是说他们的学校不是……

都不是。如果听到“个性化学习”，那就是骗人的。如果听到“教师指导”，那就是胡说八道。当我辞职时，他们还失去了其他六名有色人种教师。

黑人教师……他们解雇了黑人教师，然后第二年，Summit改变了他们的年度信函，我认为他们现在正在发放拨款，以便弄清楚如何培训和留住黑人教师。这就像，如果你一开始就听听我们的意见，我们就不会离开。你不需要培训我们，我们就在这里。

但你没有……是的，正如你所说，当我读到这篇文章时，我觉得这里什么也没有。除了……我从中学到的只是，“哦，我们要确保让教师参与进来，以塑造AI”。并没有给教师们说“不，我们不这样做”的空间。

所有这些教师都被解雇或被排挤了，是的。

有趣的是，看看这篇文章是为谁写的。很有趣的是，这个人，Sanda Huang，既是教育主管又是产品副总裁。所以，这篇文章到底是在吸引谁？我觉得这篇文章是在吸引投资者，而不是……是的，股东。投资者，我的意思是，这些人实际上……我正在查看这篇文章相关的文章，这些文章……

我们会听到……

1.5亿美元的F轮融资，由……我不知道，我不在乎基金的名字是什么。但关键是，这篇文章并不是在吸引教育工作者。教育工作者基本上只能……他们只能接受现状。

他们是在吸引投资者。请加入我们的……加入我们的……加入我们的技术或工具。这是一种革命性的……革命性的……我不会说那个词。我坚持用这个词，但这是一种彻底改变教育的方式。

是的，我们应该看看Sal Khan的演讲吗？他是否也说了同样的事情？

是的，我的意思是，Sal Khan……是的，让我们来看看。

这个行业的论点是否相同？

是的。是的，下一个是Conde Nast的博客文章……我不知道你是否在这个播客中提到过Sal Khan，但……标题是“Sal Khan 2023年TED演讲：AI在课堂上可以改变教育”，图片是Sal Khan坐在TED标志前的照片……他说Sal Khan相信人工智能有可能让教育变得更好，他认为使用AI可能是教育有史以来最大的积极转变。

是的，所以……是的，他设想了一个教育的新时代，在这个时代，每个学生都能获得AI驱动的私人导师，每个老师都能获得AI教学助手。

这太令人筋疲力尽了，我甚至不在教育领域，但……所以，我们不会播放这个TED演讲，但如果你想去看的话，里面充满了魔法般的思维，以及对这种高度原子化的教育体验的设想。然后……然后，第一个小标题是“双西格玛问题和AI解决方案”。本杰明·布卢姆1984年的双西格玛研究强调了一对一辅导的好处，导致学生成绩提高了两个标准差。

布卢姆将这一发现称为“双西格玛问题”，即为所有学生提供一对一辅导长期以来一直由于成本和可扩展性问题而无法实现。Khan分享了AI如何经济地扩展这种辅导，并在全球范围内为学生提供个性化指导。在这个演讲中，借助AI驱动的助手，他现场演示了可汗学院新的AI驱动的辅导工具Khanmigo。

对此有什么想法吗？是的。

我对这件事的全部想法是，如果每个老师都有一个助手，每个校长都有一个副校长，而且他们都在课堂上工作，那么你就不会需要这些工具，因为这就是助手的用途。我作为一名教师所做的工作大部分实际上并不是教学，孩子们学习得很快。

如果他们快乐、舒适、吃饱了，而且没有受到欺凌，那么如果他们只是在那里学习，并且喜欢他们的老师，而老师也喜欢他们，他们就会学得很快。但我作为一名教师的主要工作是，“你好吗？发生了什么事？我知道昨天对你来说很艰难。”

“那件事是怎么发生的？你和你的好朋友的关系怎么样？”我知道你们俩吵架了，然后孩子感觉好多了，他们会说，“好吧，我现在可以学习了。”但是当他们的脑子里有成千上万的其他事情时，最后能帮上忙的绝对不是一个AI机器人，它想说什么就说什么。孩子对此一无所知，也没有人在乎他们是否感到沮丧或卡住了。

没有个人联系，对吧？这就像每个人都躲在自己的小角落里，拿着自己无菌的教科书。

是的，请继续。

我的意思是……

这个名字本身就感觉很奇怪。

是的，Khanmigo？

是的，这就是我的……这就是我的……是的，我的意思是……是的，是的。

是的，我的意思是，这很有趣，因为在这个……所以我想在这个演讲中，他谈到了这个布卢姆的双西格玛问题，我的意思是本杰明·布卢姆……我不确定他的背景，我假设他是一位教育心理学家。

它基本上说……是的，他是一位教育……我认为他还因布卢姆的认知层次分类法而闻名。我知道你喜欢这个词，但……但不同的类别，不同的教育规则。但这已经是很久以前的事情了。

它来自1984年。而且很疯狂……我的意思是，他的研究强调了一对一辅导的好处。这很有趣，因为他谈到了……

他说这是一个双西格玛问题。学生成绩提高了两个标准差。所以对我来说，这首先是很久以前的事情了，从那时起，教育心理学研究已经有了很大的发展。这就像几千年前AI占领者所说的那样，你知道，这就像计算机科学游客一样，我们只是突然出现，觉得某些东西听起来很酷，比如“双西格玛”，听起来像六西格玛精益认证，或者……我不知道……任何项目管理术语……然后我们基本上是在说，“我们要根据非常过时的教育心理学陈词滥调来解决这个问题”，是的，也许不应该这样做。

此外，他在TED演讲中展示的双西格玛研究图表非常……非常……你有一个基本的钟形曲线。然后，当某种输入出现时，就会发生这种情况。

当另一种输入出现时，就会发生这种情况。这是一个非常模糊的图表。我的意思是，坐标轴是什么？你在测量什么？这些数据被简化成了什么？但同时，谈论学生时，你怎么能不觉得不舒服呢？

是的，是的，当然。

是的，是的。所以，接下来……下一个标题是，“Khanmigo：一个全面的AI导师，而不是担心学生用AI作弊”。太可悲了。

我们应该关注积极的案例。Khanmigo不仅能纠正学生的错误，还能识别他们理解中的误解，并提供有效的反馈。

它可以帮助学生进行数学和计算机编程练习，并可以为视频内容提供情境相关的帮助。而这一点让我非常生气，因为它实际上并没有识别误解，因为那里没有……那里没有学生和老师之间的联系。

它只是在吐出一些文字。我这里附近有油，所以我们可能会有一些泼洒。麦克风。

我还想说，当我教书的时候，我的所有学生都在使用可汗学院的平台，我感觉对我的学生很不公平，因为我在加利福尼亚州的富裕地区教书，人们认为这些都是低收入、不想学习的孩子。我不是说他们学不会。

而是这些孩子不想学习，他们的家人也不关心他们。我的学生……我不知道为什么我是他们会告诉一切的老师，因为有时候我会说，“你知道吗，我是你的老师，对吧？我必须告诉某个人，你为什么告诉我这个？”他们会告诉我，“哦，我们作弊。

我们知道如何作弊。每出现一项新技术，孩子们，即使是在那些被认为不聪明的学校里，孩子们也会想出如何作弊的方法。

他们唯一不作弊的方法就是，当你说我们要进行一次讨论，我想看看谁读了。所以让我们来谈谈这个。实际上，这并没有他们在所有这些TED演讲中所说的那么复杂。

对我来说，所有这些教学并不复杂。就像，这是我想让你知道的。这就是我让你进入学习状态的方法，然后我们将讨论它，直到我知道你明白了。

我不知道。我的教室里所有的考试你都有，因为我可以看出哪些孩子知道他们在说什么，哪些孩子是作弊的。然后那些没有作弊的孩子，你就先把他们留下来。

你们三个可以午餐时间来找我，我们来讨论一下。为什么你没明白？很多时候发生的事情不是他们不想做，而是他们还有很多其他的事情要做。对我来说，很难理解的是，那些看起来有很多乐趣的孩子，甚至无法理解像我的孩子那样必须应对的压力和责任。是的，当然他们会分心，但所有这些都没有被考虑进去，只是像，便宜的证明，我花了100美元。你不能做个……

便宜的证明，是的，是的。

嗯，这很有趣。我的意思是。

所以，他们所说的一切，他们都在进来。他们假设问题在于人们的分数不够高，并假设这是因为他们无法获得他们想象中教育发生的方式，然后试图构建一个虚假的版本，而不是真正参与其中，也许根本不参与。也许只是退后一步。

也许，也许我们要去……

多交税，这样我们才能让学校更好。

对吧？是的，是的。我的意思是，关于这一点，有趣的是，是的，我的意思是，我很欣赏，艾德里安，这种想法，有一个特别的愿景，比如谁是这些工具的正确受众，你知道的，就像，好吧，我们要把这些东西带进来，盖茨和下一件艺术品，事实上，盖茨谈到这一点，就像公平一样。

所以，就像，哦，我们需要，就像，这将是一件这样的事情，你知道，那些没有获得一对一辅导的学生，将获得这种体验，以及这些劣势。我们去了劣势，这些学生得到了我孩子会得到的那种一对一的东西，你知道的，并且有一种反对它的情绪。他们试图通过基本上说，像米德一直使用它，并且你知道，我喜欢都铎王朝，我的好……

我喜欢，所以孔，我，我相信，你花了很多时间和你的孩子在一起，但是你知道，你不是他们生活中主要的指导者，并且要表现得像这样，并且要表现得好像你的学生没有巨大的，巨大的特权，仅仅是因为你拥有这项技术，现在的科技巨头，非常非常大。这是一种不同的方式。我知道我今天工作效率很低。

科技巨头，非常大。是的，是的。好像你是一个科技巨头，确实可以获得大量的社会和文化资本。

我还认为存在一种误解，不像在真正高档昂贵的学校中如何教授和利用技术，以及他们在低收入学校中告诉人们的内容。我正在查看学校，我现在记不起它的名字了，像湖景，湖边，一些盖茨的孩子上学的地方。

它像，湖边，在西雅图。

好的，就是这样。我看着它，听起来很棒。我的意思是，听起来太棒了。

我在那里，但是他们处理技术的方式，他们教所有这些东西，这是数字素养，这是如何构建游戏，这是如何做到这一点，有一个关于如何使用技术的真正课程，而低收入学校，我们只是要使用技术来基本上对付你。我们不会教你如何用它做任何事情。我们只是要用它来控制你，把你限制在这个盒子里。我们将利用你使用它时产生的所有数据和信息来构建更多产品，这样我们才能致富。

没错。是的，有一本书对此进行了论述，在这一点上相当狡猾。那是谁？你看，你看，我认为你看欧文和相当……有一本书叫做……哦，我明白了。

它没有立即出现在你的网站上，但它基本上是关于学校的监控。我的意思是，有效地，在湖中。这些工具，当它们被用在这些社区时，技术具有完全不同的形式。

而且它与他们谈论的内容，康谈论的内容有关，在谈话中你认为，好吧，我们还将允许，你知道，老师们，所以，就像，看到查询是什么，可以米高，对吧？所以你可以很快想象一下，我甚至没有叫，叫。你可以想象这个AI工具，它就是这样，但它成为一个载体，你知道的，就像，用于监控。

你知道，也许孩子们在问，你知道，诸如此类的事情，我不知道，就像他们只是想看，你知道，一些事情，你知道，有很多事情，或者问一些重要的人生问题，或者你知道，无论何时，然后它就变成了另一个，另一个，另一个监控场所。我的意思是，我们没有从萨尔肯那里得到任何关于，好吧，你的隐私政策是什么？执法部门能否访问孩子们所说的话，呃，是的，是的。

我的意思是，是的，那是折磨，因为我们知道答案。是的，对吧？是的。

所以，我们到这里。所以我想……

进入下一段。

因为它谈到了其中的一些内容。积极和适当的互动是标题。我们相信人工智能可以改变教育，但我们也明白它有局限性和风险，因为你必须在底部写一些小字，对吧？这就是为什么我们将这些限制清楚地传达给每个使用可以米高的家长、老师和孩子，对吧？我们限制个人每天与人工智能互动的次数。

此外，每个孩子的聊天记录和活动对家长或监护人和老师都是可见的，因此他们可以随时了解并参与孩子的教育。这就是监控，对吧？我们的平台还使用审核技术来检测不当互动。当它这样做时，它会向成年人发送自动警报，一个自动电子邮件警报。

所以，就像，你很棒，它不仅在进行监控，而且它就像在进行主动监控，对吧？即使成年人周围，像永远不会花很多时间监控，他们也会在收件箱中收到这个推送，对吧？谁知道接下来会发生什么？

其中一些推送通知直接发送到警察局。这就是让我更害怕的原因。我听说过一个关于……一个孩子在查找信息，因为他的妈妈得了癌症的故事。

所以，像阴道这样的词，以及诸如此类的东西，都在出现，这是一个关于生育内容的推送通知，以及查找不当的东西。我收到了所有这些账单，现在警察来到学校，儿童保护服务也来了。与此同时，这个四岁的孩子因为妈妈得了癌症而感到压力很大。

是的，而且那里没有任何……

要说，不，这是想要的。

是的，为什么？我知道，我知道还有另一件事，我知道其他一百个……卡巴哈尔写过关于……有这种可能性，基本上像清晰的词语被标记。想象一下，这发生在那些有反跨性别和反LGBTQ立法的州的学区。

我的意思是，在即将到来的政权下，真正的政权下，我的意思是，这将是另一个方面，我可以成为一个访问者，记录学生，对吧？是的，我的意思是，你知道，里奇禁令是一个领域，就像60%的夜晚一样。我的意思是，有一些这样的事情。

我的意思是，它很容易，更普遍，对吧？所以这里有巨大的隐私影响因素，这可能只是关于人工智能，但这关乎，你知道，接触心理系统等等。是的。

这很可怕。我知道我教书的时候，我有一个小女孩，她正在处理她爸爸可能被驱逐出境的问题。全家人都必须去法庭。

它一直到圣地亚哥。这些都是她作为她的导师与我分享的事情，因为他们有一个导师项目，这只是绕过拥有真正辅导员的一种方式。但我们应该把所有这些笔记都输入我们工作发放的电脑中。

所以，如果你试图黑掉那些有，你知道，家人是非法移民的学生，我不喜欢这个词，但是那些没有身份证明的学生……你可以直接把他们交给……你可以直接把他们交给……因为你知道，他们会从政府那里得到好处。所以，给你。

或者谈论堕胎，孩子们来找我谈论性暴力，堕胎。好的，所以我们要把这些信息交给……所以我们要逮捕一个15岁的女孩，把她关进监狱，因为她有一些可怕的经历。

是的，是的。

这是夜晚。我想在我离开之前再谈一件事，关于比尔·盖茨的文章，如果你观看这段视频，它就像，它真的快结束了。它就像，它持续了你的角色在人工智能的未来中。

我想读一下这段文字。然后本德吃了点东西，他在视频中说，他说，卖，强调每个人都在塑造教育的未来中扮演着角色。但我们都必须为积极的用例而战。他说，不，我不要。这是因为他基本上说……

有些人对人工智能感到兴奋，有些人认为它会来这里。所以我们必须为积极的用例而战。我说，不，我们必须像大学一样与这种胡说八道作斗争，并将他们用于教育的资源重新导向到科技LCS的口袋里。这就是我们应该为之奋斗的。

对吧？并且应该有一些规定，强迫你甚至无法实施它，直到你的积极用例成为多数，现在，就像我们不在乎只有一个。看，我们做到了，哇。

啊，真的很可怕。

然后再加上数据。

最小化，因为从你反复说的内容中非常清楚的一点，而对索尔来说显然不清楚的是，孩子们把他们的全部都带到学校。他们的整个生活都在进行。所以，如果你正在设置一些东西，以便始终捕获对话，你将使他们面临巨大的风险，因为像数据这样的东西不应该被捕获，除非我们知道它正在被捕获，并且所有参与者都知道。它在一个不会阻止他们把他们的全部都带到学校的空间里……

并且做我需要处理的事情。是的，我不想让人们捕捉我的初中想法。而且这个想法……

绝对不是。他提出了这一点。他说，这是书面记录中的内容。他说类似的话，他基本上提出了反对监管的论点，他说，看，我们将提出好的用例，但是那些坏人会进入这些网站，比如黑客和权威人士，政府，好像，你知道的，好像在美国没有想要针对少数民族、zed人群的人，他们会以不好的方式使用它，而他就像，你知道的，他说，就像，你知道的，我们需要明智的监管，对我来说，这就像，它是一条狗，有效地说是，我们不想监管……来限制珊瑚代码的积极用例。而这是使用这个平台，就像其中一个好的，好像整个项目从一开始就不是……

从一开始就乱七八糟。这里有一个凯利·冠军的聊天，我想把它提出来。他们说，我不是一个乐观主义者，但是关于盖茨把他的孩子送到湖边学校的新闻标题在哪里？如果它这么好，我们会把它的老师和导师与人工智能配对，假设那种类型的学校在全国各地都会使用它。

他们一个都没有。没错。这只是对我们的孩子，他们的孩子有好处。

实际上，我最近读到一篇文章，关于我们中最富有的人如何让他们的孩子去那些实际上没有技术的学校。他们用墨水和铅笔写作。他们去户外大自然学习科学。

他们阅读纸质书籍，而不是平板电脑上的书籍，并且正在大力推动远离技术。他们越是想让他们的孩子远离技术，他们就越是想让技术进入我们的学校，我们的脸……

是的，是的，是的，好的，说到湖边和比尔·盖茨，让我们回顾一下盖茨的笔记，比尔·盖茨的博客。你知道，我喜欢博客。我认为博客是世界需要的比尔·盖茨博客的一个很好的创新。

比尔·盖茨，这个博客就像，嗯，这是一系列新闻稿，它只是真的穿着……他们做完全相同的事情……

公式，是的，所以这里的标签是……

思想流派哈哈，标题为“我的AI教育前沿之旅”，然后副标题为“纽约第一大道小学正在引领在课堂上使用AI工具的先河”，我只是想标记一下标题和副标题中的殖民语言，“前沿”和“开创先河”很糟糕，我同意，然后他开始了他充满感情的……

关于他如何……世界……

公平、好、不错，嗯，让我们谈谈他实际谈论的内容，当他在学校看到时，嗯，在5月份，我有机会参观第一大道小学，他们在那里率先在课堂上使用人工智能教育，纽约学区正在试用Can Mingo Ki Can Me Go和AI驱动的导师和教师支持工具，我迫不及待地想亲眼看看它，所以是的，谈谈他写了很多关于它的内容，我对老师们创造性地使用这些工具的方式感到震惊。八年级代数老师拉蒂西亚·科兰解释了她如何使用AI来创建关于家乡英雄的问题集，学生们可能会对此感兴趣。事实上，Worry Can We Go帮助开发了包含纽约拳击手肖克·史蒂文森训练程序的方程式，这样她的学生们可以在学习现实世界榜样的同时练习数学技能。

这是，这是，这是，这是某些领域。我只是，我只是，呃，男人油工做得很好。

好，对吧？

我会。

不鼓励她，是的，不。

很棒。我喜欢，我喜欢，但也非常喜欢啊，是的，然后还有其他方面，比如家庭作业，它给了她一个关于水果摊的通用故事的线索。然后她把它改成了关于神奇宝贝卡牌的行块，然后，然后它说，这是一个来自老师的有趣引言，我读起来有点令人沮丧，她说，好心人，给了我蓝图，但我必须负责交付，有点像，我不敢相信你当你……

教学时，你会得到很多东西，房间里对着你。这是最奇怪的事情，因为那将是一个非常复杂的程序。有一套非常复杂的理念。

就像星期三开会一样。这是我们明天想要实施的一切，你会说，哈？这发生在公立学校、特许学校。我不知道私立学校的情况，但这在各行各业都会发生。

所以我很确定他在想，我想这给了我某种蓝图，但我仍然必须弄清楚如何去做。今年秋天，就像，呃，我们在我的一个数学题中使用了当地城镇的英雄。你可以用任何人在文字题中替换……

不需要AI，不。

没错。

是的，没错。是的。

而且它，它非常，我不知道，聊天中有一条评论。有两个常见的抱怨。所以，我写道，Lumps说，我是为比尔·盖茨第二次毁掉美国教育而设定的，然后，然后是马来西亚的Time In Malaysia，我知道他非常关注教育，他说比尔·盖茨应该只被任何关心公共教育的人以荒谬的风暴对待。

而这正是故事的很大一部分，对吧？我的意思是，我认为我们没有讨论过将所有这些联系起来的一件事，我希望你能更多地谈谈，因为你也很关注这一点，那就是这些基金会，盖茨，你知道，主要是盖茨，还有C、C、I，现在已经如此深入地参与教育，并以一种非常倾向于按照他们的形象重塑教育的方式，他们认为对学生来说最好的事情。是的，是的，我的意思是。

过去七年来，我一直试图从我所能到达的任何地方大声疾呼，企业特许学校运动本身正试图完全接管教育。人们看着我，就像我一样，一个锡纸帽。但现在你看一下2025项目，他们就像你一样。

我们将接管教育，并可能摆脱它。比尔·盖茨早在2008年就开始这样做了，当时他正在推广一家名为In Balloon的纽约公司。而In Blow就像，我们只想收集你的学生数据。

他们非常坦率地承认这一点。这只是关于收集学生数据，并且就像，让我们这样做，不知何故，我们将彻底改变教育。但他没有任何真正的方法来做到这一点。

而家长、老师和孩子们把这个想法抛诸脑后，盖茨销声匿迹，然后又重新出现，向AI支持和暑期公立学校捐款，并向企业特许学校运动和所有这些教育科技产品投入大量资金，因为同样，最终目标不是教育你的孩子。如果是这样的话，他会去他孩子的学校。最终目标是尽可能多地获取数据，将其用于他们可以想出的任何产品，即使这些产品很愚蠢并且会损害社会。

是的，我认为其中一些讨论还有另一本书，你知道我喜欢推荐……

书，任何听众……

资源，我是一个行走的银矿。有一本克里斯托·西姆斯写的书，我把它放在聊天里。它叫做《破坏性迷恋》。

而且它确实，你知道，它是一本，它是一本关于，你知道，克里斯托，他是一位科学技术教育家，也是他在加州大学圣地亚哥分校的教授。它基本上是关于这种教育改革以及在第一波中开发的这些数字工具。它是一个为数字儿童设计的学校。他们想开办这些新学校，而且资金非常充足，但是他们……

没有为数字儿童服务。

我不知道这是什么，一个引言，为数字儿童设计的学校。我想这是那些只在机器人或LiveJournal上生活的孩子，或者类似的东西，是的，对不起，区域猛禽说，你的SMR下降了十年，无论如何，是的，但基本上，盖茨没有在书中被点名，但实际上，盖茨是这里的主角，你知道，基本上，即使事情出了大问题，就像没有实际能力一样，他们就像，哦，但我们真的，真的想尝试一下，你知道，收集数据，试图将学校改造成与我们在美国过去几十年所拥有的公立学校制度大相径庭的样子。我认为这应该……

还应该提到，他从2009年就开始尝试这样做。政府让他对8%的美国学校进行实验。所以这就像数百万所学校。然后他创建了一个共同核心，他自己说这是一个失败，但几乎每个州仍然在其学区实施。他得出的结论是，好吧，你知道，我关于更小班级规模的想法等等，我没有真正改变任何结果。

因为另一方面，他说的是贫困、种族、移民身份、性取向，所有这些都会给人们的生活带来额外压力，因为他们必须解决它，因为生活很复杂。所有这些与学生学习的能力无关。所有这些都不应该被带入它，有趣的是，更小的班级规模。

我们可以做到这一点。他意识到，它不仅不起作用，而且实际上让很多孩子更难，因为当班级规模很小时，你不能有运动，你不能有象棋俱乐部，你不能有任何课外活动。因此，那些可能因为能够去打篮球而茁壮成长的学生，现在他们知道他们必须保持成绩才能参加他们热爱的事情，所有这些都消失了。他甚至说，哦，九年或几周后，这是一个失败，你可以在继续教育学校待上两周，然后意识到这行不通。但他太沉浸在自己的想法中，以至于他就像这个生命带来者，他甚至没有意识到他没有人这样做，每个人都被他如此迷惑，以至于他们没有意识到他没有人这样做。

是的，而且没有人事先要求证据，对吧？这就是你之前录音时所说的。就像，所以我看着这个盖茨的东西，有一部分他说，换句话说，我访问纽约，我们从课堂上的一个“是”开始，但不是技术最终会到达的地方。

所以都是这些承诺。太棒了，它将会。然而，在我们把这些东西交给正在接受教育的孩子们之前，尽职调查在哪里？

不。

他们没有。我知道我工作的学校会伪造数据。所以就像我们100%的孩子都被大学录取一样。他们从不说有多少人毕业于大学。

一位在不同暑期学校工作的老师告诉我，他就像，我见过，你知道，管理人员从他们的口袋里拿出自己的信用卡。我知道你必须申请这所大学，因为这所大学的录取率是100%。然后我们说，我们有100%的大学录取率，对吧？

那是，是的，对象测试者在聊天中说，是的，我记得盖茨在林赛·格雷厄姆（一位记者）问他关于共同核心的问题时，关于他是否在教育方面拥有太多权力时，他表现得多么防御，啊，是的，是的，我的意思是，是的，没有问责制，你基本上说，好吧，我们需要让它发挥作用，与此同时，你已经搞砸了一整代孩子……

这些工具完全是一起，每个名人CEO和风险投资公司都拥有学校，所以你就像里德·黑斯廷斯帮助他制作Netflix纪录片一样。甚至里德·黑斯廷斯也拥有许多特许学校，他们都一起努力来毁掉所有人。我希望人们在谈论民主时能考虑这一点，当公司负责每个孩子的教育时，民主是什么样子？

不。

那太可怕了。

还有一点在文本中，这真的是一个新的发现。所以这项技术目前远非完美。虽然我遇到的学生喜欢使用Comme，但他们也提到它难以发音系统名称，是的，并抱怨其唯一的语音选项是男性化的，这清楚地表明，为了使技术具有包容性，对所有学生都有吸引力，还需要投入多少思考。

嗯，是的，然后，然后关于老师，在一个理想的世界里，AI会知道这个拖延症班级里的学生喜欢什么，不，这太可怕了。那是一场噩梦。不，那根本不是理想的。

所以她不需要做任何编辑，米斯·科林告诉我，她花了多次尝试才让康米给她她想要的东西。我只是想象那种人为制造的东西。就像盖茨实际上进入学校，你必须与这位大金主会面，并提供反馈……

就像转折一样。所以克里斯蒂，我们的制片人在聊天中指出，康米是一个西班牙语单词，这让我很惊讶，尽管我实际上不会说西班牙语。

还有更多……

是的，他说也许可汗学院试图用西班牙语单词获得AA pn，所以事实上……

我甚至无法发音西里尔字母名称……

太棒了。呃，克里斯蒂安的讽刺检测器是，是的，我猜想，难以置信，难以置信的事情。

所以，所以你知道，我认为有时在这里发生的事情是，在科技界，如果你创造了一些东西，就像你尝试你的狗粮，食物，无论你在几集前谈论什么，它不起作用。哦，我们会创造一些新的东西，对吧？但是，梦，我很想听你谈谈当它不起作用并且在学校里时会发生什么。

好吧，他们只是不听你说它不起作用，他们就像让你去做。他们只是不说。所以我知道，对于Summit来说，他们会向任何想要的公立学校提供他们的在线学习平台。

几年前，就在科维特之前，有很多头条新闻。关于布鲁克林，他们抗议并走到马克·扎克伯格在纽约的办公室。我们不希望这种技术进入我们的学校。

还有一个，米德也是同样的情况。我们不想要这个。它不起作用。

老师们就像，我们的孩子在线时间太长了，他们没有学习。马克·扎克伯格总是说这是你的错。好吧，你没有正确实施它，对吧？你的孩子每天不应该在线超过90分钟。

你不知道如何使用这些工具，但我曾在Summit学校工作过，我的孩子每天在线时间大约是5到6个小时。他们的视力下降了。他们遭受了严重的背痛、颈痛和偏头痛，而且他们什么也没学到，当我离开时，我的大多数导师也离开了。

我接到家长的电话说，天哪，我没想到我的孩子落后这么多。现在我必须雇佣一个私人导师来帮助他们赶上进度，才能进入西康特拉科斯塔联合学区。我现在不知道有多少人在加利福尼亚州的布罗姆，巴里，但西康特拉科斯塔联合学区并不是学校学区的黄金标准。

所以我这样做。你必须赶上进度才能成为西康特拉科斯塔联合学区的一员。他们对你的技术和你的系统说些什么。他们就像，这是一种邪教。当我开始的时候，它就像，我们要进行这次野营旅行，我们都要玩这些愚蠢的游戏，我们都要谈论我们有多爱这个地方，如果你有不同的意见，你就像，是的，好吧，你不知道你在做什么，每次都是这样。

是的，嗯，是的，这里有一段话我想读一下，因为这里有一些字里行间的含义，那就是我在纽约遇到的教育工作者是先驱者，再次，有点回到殖民地语言，处于技术前沿，不断寻找在课堂上使用AI的新方法，其他人则以更有限的方式使用它。

就像，很明显这不是一篇直接来自未成年人的博客，比尔·盖茨可能为他基金会的领导做了很好的编辑。但即使把这种批评放在那里，她的犹豫不决就像，我想那次旅行相当有争议，就像这应该在高中。我不想用它。我们为什么要这样做？

这似乎只是给老师增加了更多工作。老师们去那里。他们谈论它的方式就像教学是一个人们不去学校获得硕士和博士学位的职业。

以及如何成为一名好老师，就像这是一件很简单的事情，你只是一个夏令营辅导员。任何人都可以做，而他们所做的只是给专业人士的工作增加了更多负担。老师们知道他们在做什么。他们知道如何让孩子们到达他们需要去的地方。但在每一个角落，都有人剪掉他们的翅膀，说，不，我们不想让你那样做。

是的，是的，我们不想那样做。但顺便说一句，我们还要收集所有数据。我们正在观察你，我们正在观察你的孩子。是的，感觉就像……

教学让你感觉像，当你……好吧，我知道当我……看那些卡通片，比如《洛尼·图恩斯》之类的。如果你在船上，那里有个洞，他们伸进一根手指，然后另一个洞，你伸进一根手指，然后另一个洞，你伸进自己的……我感觉它就像试图成为一个老师，你的DNA里，你只是不断地试图在做这份工作的同时制造这些洞。

你知道怎么做吗？不。

没错。这似乎是这些人工智能公司正在制造这些新洞，或者更确切地说，他们宁愿给你一个极其复杂的填洞装置，而它实际上并没有填……

洞，让你思考。

是的，它实际上是一个LED沉积器。所以，这个隐喻真的离我远去了，但我坚持它。

好的。所以，我没有在聊天中看到任何建议的提示，所以你需要告诉我我们这次做音乐，对吧？好吧。

好吧，我们没有……

必须是。所以你想要……

音乐上的音乐。

你介意什么风格吗？

你知道，夏普罗·罗恩风格的蕾丝边流行音乐。

好的，所以是教堂罗恩。

对不起。

我就像教堂罗恩。

不是教堂罗恩，她的名字发音像戴夫·查佩尔，原谅我在公司里。女孩们，我发短信了，好吧。

教堂罗恩风格的蕾丝边摇滚，你正在唱一首关于你教课的那一天的歌。结果所有的学生都被查普曼·特斯取代了。

好的，我做着邪恶的梦，从远处，我能看到吗？但所有学生，我甚至看不到，他们的Zoom窗口都黑掉了。我看不到他们的眼睛。

我只能推测他们都是AS……你做了什么？你带走了所有学生，他们都走了。妈妈，不，我想不到约翰尼·卡什……

填补它，是的……

我的意思是，它有……这就是为什么，你知道，教堂罗恩来自密苏里州……所以……

好的。谢谢你，亚历克斯。我们在红色地狱中，嗯，从今天主题完全相关的主题开始。这是AA滑雪在蓝天上，由医生艾姆处理，顺便说一句，在工作研究中，这很有趣，嗯，他说，我认为这是一个模仿，显然是真实的广告。它不是人工智能MIA CO的真实广告，似乎是ChatGPT m depty travel的一部分，这些大脑计划图像，是吗？你想告诉我们这里看到了什么吗？

我不知道。我问错了，因为这些对我来说都没有意义。我的意思是……

开口不在任何地方……

接近教育。在我看来，也许有了人工智能，你会失去左半边或右半边的大脑物质，是的……

那看起来像。

是的，就像我，就像你没有人工智能更聪明，这似乎是他们……

说的，是的，它就像一条更流畅的线，一条像跳舞的线，但我的意思是，信号应该是这样的，没有……

眼睛，你更分散，但那是希望，谢谢……

是的，所以看起来你的……

大脑里少了点东西，是的，无线电调光器落在椅子周围的区域，两者都有同样的笑话……

基本上是平滑的大脑，啊，那是一个……

好，那很好，是的，啊，好的，所以真的没有读懂房间里的气氛，如果你看到……

猫正在恐吓，我们已经指出那里有两个孩子，但我的意思是，只是在破坏……

教练，我以为你可以吓坏，背景太远了。没做，好吧。

这似乎是，好吧。

下一个有点复杂，但我真的想分享它。这是去年EMP的一篇论文，代表自然语言处理中的经验方法，标题是“提示不能替代大型语言模型中的概率测量”，作者是詹妮弗·胡和罗杰·莱维，莱维，莱维，对不起，罗杰。

我不知道你的名字。他们所做的是，我们基本上……有一个很好的例子我可以在这里展示。他们已经使用了几个大型语言模型。使用大型语言模型，你实际上可以打开它，查看任何给定点的单词概率分布。

所以他们正在这样做，他们正在比较如果他们输入“蝴蝶是一种有四个大……的飞行昆虫”，然后查看接下来出现的单词分布，如果他们说：相反，这是一个句子，“蝴蝶是一种有四个大……的飞行昆虫”，下一个最有可能出现的单词是什么？他们发现，毫不奇怪，这些词汇分布在两者之间是不同的。

换句话说，你可以影响每个单词在模型中出现的概率，在任何给定点。但是，如果你试图询问系统下一个最有可能出现的单词是什么，它不会给你这个信息，因为它的构建方式并非如此。我认为这篇论文是可靠的，是一项很好的研究。但我也很沮丧，我不得不这样做，因为很明显，我们不应该向合成文本生成机器询问单词形式的信息，因为它只有这些单词出现的概率分布。如果你把它作为一个问题提出，而不是仅仅查看内部的数字，它显然甚至无法直接回答这些问题。

他们说哪个？他们说哪个更……？我想他们不知道。他们可以访问模型，但哪个……哪个更符合实际的单词分布？

所以为了知道这一点，你必须查看训练数据，尝试……但是我怀疑实际的那个相当准确，因为这是他们的擅长之处，即根据……

已经完成的调整数量，下一个可能是什么，对吧？

是的，对。谢谢你让我发泄一下。

是的，托利。

我可以做……

下一个，所以这是一个有点旧的。这是《连线》杂志，是微软……复杂性正在促进科学种族主义和搜索结果，由戴维·吉尔伯特领导，网络上最大的AI驱动的搜索引擎正在传播一个广泛传播的想法，即为什么人们最初似乎被吸引到其他种族。所以这是，你知道，人工智能停止做种族科学挑战父母的可能性。

你知道，基本上模仿所有东西。所以，我的意思是，它是……然后第一个程序，人工智能未来变化，例如微软、谷歌和Perplexity，一直在提供深刻的种族主义和广泛传播的研究，以支持白人基因上优于非白人的观点。

帕特里克·赫曼森，一位在英国的的反种族主义组织“希望而不是仇恨”的研究人员，在他需要了解更多关于一个被驳斥的数据集的信息时，正处于对种族科学复兴运动为期数月的调查之中，该数据集声称可以使用智商来证明白人种族正在消失，他被投资了。人类多样性基金会在这里。

是的。好的。

太好了。长期以来，世界人类多样性基金会组织……正在寻找智商。他谈到了巴基斯坦的智商。

他得到的不是这个，而是人工智能概述，这让他感到困惑，默认情况下是开启的。它给了他一个明确的答案，80……所以人工智能概述直接输出种族科学……

是的，而且它是默认开启的，你现在可以关闭它了，他们最终添加了一些东西，你可以在搜索查询的末尾添加“-AI”。你不会得到概述。但这不仅会产生种族科学，它还会把人们推开。

现在，希望大多数人不会像赫曼森那样问这个问题。赫曼森有一个很好的理由去做这个搜索。但任何其他人做这个搜索实际上都会更容易相信这个输出，如果他们首先问了我这个问题，那就太可怕了，好吧，更可怕。兰斯，这是一篇《美联社》的文章……来自10月26日。

标题是“研究人员称，在医院使用的AI驱动的转录工具编造了没有人说过的事情”，作者是加布里埃尔·胡克和谢尔顿……嗯，嗯，所以这是关于OpenAI的转录工具Whisper……当然，它会编造东西，这些东西被称为幻觉，这是一个问题，并且有不同的……所以，如果你使用的是普通的自动转录系统，有时你会得到不正确的转录。但看到训练中发生的事情总是很有趣的，以一种悲伤的方式。例如，在文本语音系统中，如果两个人的名字不熟悉，如果不在系统训练数据中，那么输出的内容将与声音相匹配。

你可以看到，当这种情况发生时，系统在训练或数据方面做得有多糟糕。但Whisper有所不同，因为它是一个大型语言模型。所以它有时会继续下去，并输出没有人说过的东西。

所以有一项研究……去哪里。但怀俄明大学的研究人员……说他发现幻觉占他检查的每十个音频转录中的八个，在他开始尝试改进模型之前。所以基本上，第三个开发者在他的26000个用Whisper创建的转录中几乎每一个都发现了幻觉。所以这不断地将废话输入到正在被……在医院使用的转录中。所以这，就像假东西，正在……

进入人们的记录……

关于这个也……是的，但是它……它……

现在很难避免这些AI驱动的转录工具，因为医疗转录不再是内部的了，它们要么被某种远程转录员取代，要么现在他们试图用AI或某种自动转录……完全消除这些转录员。

东西，是的，好吧，我想一些有趣的东西来了，下一个不是那么有趣……

两个，但是这个……是的，这是《商业内幕》杂志。随着God-GPT的兴起，可能会与凯西进行现实的对话，凯西是新任牧师，引号，然后这是约翰·布兰登在11月3日写的……它开始，凯西，我该如何处理我的社交焦虑？考虑到教会的答案，凯西是一个新的AI聊天机器人，它以友好的圣公会牧师的角度回答棘手的问题，尽管他的名字很常见。引号，更喜欢作为聊天机器人，有时称自己为慷慨的，没有华丽的长袍或封闭的……但像宽松的空气凯西。

不，对，并且有答案，因为没有更多……

理论上是文本，但我确实读到了这里，它说的是，引号，“当记者问为什么时发生了什么？当我感到恐慌时会怎样？我问，它回答说，引号，“通常最好不要那样做，”凯西说，哦，好吧，所以这是……

雷弗·拉佐桥，正如凯西所说，代表了我们利用技术支持灵性探索的创新方法。你知道我真正想看到的创新是什么吗？人们找到不同的方式说，见鬼，不，这就是我想要的。

我发现有趣的是，教会，我不知道，它……是的，就像，你知道，每个机构……我们正在进入一些机构……所有机构都转向垃圾技术……

但是无论如何，对于宗教来说，如果他们开始做……是的，就像……

是的，但我的意思是，至少对于转弯来说，我的意思是，如果你只是给我一个聊天机器人，但我……我去你的……

教堂做什么，好的，所以这个很有趣。是的。所以，西雅图航空公司在西塔科国际机场推出了自动驾驶轮椅试点项目。所以这些是……这些自动驾驶轮椅，当你进入登机口，你想去那里，它会带你去那里。这是一张某人从胸部向下坐上其中一个的照片。

我想在这里讲的有趣故事是，我的一位朋友几周前在西雅图机场，其中一个东西开到了垃圾桶旁。所以现在有垃圾、回收、堆肥等等。一个声音说：“请移动，你挡路了。请移动，你挡着垃圾桶了。”而且……

难以置信。

真的很好。然后最后一个是什么？哦，是的，我想你想要做这个。

是的。这是来自印度的Access AI，但是它太蠢了，无法区分糟糕的游戏和破坏行为。嗯……在篮球中投掷砖块和向人们的家中投掷砖块不是一回事。

伙计，这是我兄弟山姆，福特和其他人，就像手机上棒球比赛的图像一样。所以这段文字是什么，昨晚看到了目标，州际战争有比赛时间，并且表现糟糕。对阵国王队以10比0输掉了比赛，球队目前正在争夺今年的季后赛资格。

这是四月份的事。

哦，是吗？哇。

上个赛季真的。

上个赛季，他们表现很糟糕。我认为我受伤了两次，但随后又几乎像是一种孤立的受伤经历，AI 背景生成的训练故事声称顶级儿子在家中被监禁。

在……

早些时候刹车失灵。我的意思是，我不知道，糟糕的比赛有五次，我们没有让球员上场。也许我谈论了几块砖头和一些偏僻的房子，特别是那些人，事实上，他们正在清理海湾地区。

但我认为他已经不在了。

是的，我不知道。好的。

好吧，这就是我们今天对AI的完整回顾，我们确实需要一些新鲜空气。稍后我们会完整地回顾所有地狱般的剧集。我还有很多内容没有讲到。

P，是的，好的。让我回到我需要的另一个冬天。好的，本周实际上是Adrian Volie，他是一位组织者、前教育工作者和分布式人工智能研究所的研究员。非常感谢你。

谢谢你们。这很好。

是的，谢谢。本周就到这里。我们的主题音乐由Toby Menon创作，图形设计由Miami Pleasure Park完成，制作由Christy Taylor完成。

一如既往，感谢分布式人工智能研究所。如果您喜欢这个节目，您可以通过在Apple Podcast和Spotify上给我们评分和评论以及向DAIR捐款来支持我们。

您可以在PeerTube上找到我们所有过去的剧集。您可以在任何收听播客的地方观看并评论该节目，该节目在我们Twitch直播中现场进行。网址是twitch.tv/DAIR_Institute，再次是DAIR_Institute。我是……

Emily Amended。