The Cost of Suicide Prevention Software
30:58 Share

在那些舒适的居家夜晚背后，数千名英国石油公司的员工每天都在工作。他们生产更多的美国天然气，建设电网规模的太阳能发电能力，将垃圾填埋场的废气转化为管道级的可再生天然气，并将所有这些能源输送到需要的地方。他们是英国石油公司在全国各地支持的30多万个工作岗位中的一部分。更多信息请访问BP.com/investinginamerica。

想象一下，成为第一个通过互联网发送付款的人。新事物可能令人害怕，加密货币也不例外。它很新，但像互联网一样，它也是一场革命。有了全天候的支持，进行您的第一次加密货币交易感觉很容易。访问Kraken.com，看看加密货币能做什么。

大家好，我是Lizzie。友情提示，本期节目讨论了自残和自杀。所以收听时请多加小心。到2020年，16岁的Maddy Cholka一直在与她的心理健康作斗争。

她和住在密苏里州尼奥肖的家人就她的自杀意念以及如何确保她的安全进行了艰难的谈话。一天晚上，她的母亲Angel被透过窗户照进来的警灯吵醒了，她告诉我。她走到门口，看到两名警官。这是艾伦·贝里，她在《纽约时报》撰写有关心理健康的文章。

警官问道：“这里住着名叫Maddie Cholka的人吗？” Angel很害怕，因为她首先想到的是Maddie离家出走了。但她不知道这究竟是怎么回事。于是她去了Maddie的房间，警察和她一起去了。事实证明，发生的事情是Maddie正在她的Chromebook上打字，这台Chromebook是她从尼奥肖公立学校网站上获得的。

她给她的一个朋友发了一条短信，说她计划结束自己的生命，她计划服用过量……是一种焦虑症药物。这条短信发给了……

一家软件公司，一家名为GoGuardian Beacon的教育科技公司，该公司会过滤该地区学生在其设备上输入的内容，并查找自残迹象。Maddie的信息被该软件标记。然后它被送交人工审核，然后送交学校的辅导主任，他阅读了信息并报了警。

警察去了Maddie的家，在她服用了一把药丸几分钟后到达那里。她妈妈说，这可能不会是致死剂量，但无论如何，她都很困倦。她的妈妈和警察，我想那里还有救护车，已经把她送到了医院。

近年来，越来越多的学校使用GoGuardian Beacon之类的软件来监控学生的电脑，以寻找他们可能伤害自己的迹象。有时它有效，但其他时候则更为复杂。艾伦写了另一个十几岁女孩的故事。这个女孩住在康涅狄格州费尔菲尔德。她的学校也使用了监控软件，该软件将她标记为面临自残的迫在眉睫的风险。警察……

在半夜出现在她家。我想是一点钟左右。他们描述的方式，这并没有让父母相信。他们不认为情况如此，但警察说他们必须看看这个女孩。所以他们叫醒他们的女儿，把她带下楼。她和警察进行了简短的交谈，很快就很清楚这是一个误报。

该软件被一篇旧的创意写作作业触发了。一位辅导员看到了一些语言，感到担忧。警察最终离开了，但并非没有留下损害。父母说，这对他们的女儿来说是一次非常令人不安的经历，在许多不同层面都造成了创伤。当然。

但他们也说，他们并没有真正觉得可以向学校投诉，原因有几个。一个是，你知道，他们的女儿对此非常敏感，认为她以某种方式自残，学校派警察去了她家。他们认为，如果他们在公开场合谈论此事或抱怨此事，只会引起人们的注意。

但这位母亲还说，你知道，她犹豫是否要投诉，因为辅导员说，也许，你知道，这是一种挽救生命的方式。确实有误报。但是，你知道，如果你能挽救生命，你可能就能容忍误报。今天的节目中，我们将讨论美国各地学区用来筛查学生自残行为的间谍软件。

它是一种革命性的工具，可以确保孩子们的安全，还是一种疗效存疑的高科技创可贴？我是Lizzie O'Leary，您正在收听What Next TBD，这是一个关于技术、权力以及未来如何决定的节目。请继续收听。

以更少的钱获得更多总是好的。所以这里有一个生活技巧，可以自动将一些额外的现金放入您的口袋。在您使用现金返还匹配的第一年结束时，Discover 将自动将您在信用卡上赚取的所有现金返还翻倍。因此，您可以在这个假期获得一些钱，并在下一个假期获得更多钱。使用Discover很划算。请访问discover.com/creditcard查看条款。

本播客由Progressive保险公司赞助播出。您是否想过更换保险公司以查看是否可以节省一些现金？Progressive让这一切变得简单。只需输入一些关于您自己的详细信息，看看当您捆绑您的房屋和汽车保单时是否有资格省钱。这个过程只需几分钟，您口袋里可能会有数百美元。

本期节目结束后，请访问Progressive.com查看您是否可以节省开支。Progressive意外险公司及其关联公司。潜在的节省金额会有所不同。并非所有州都可用。大流行期间，学校发放的电子设备的使用量激增，这也许不足为奇。随之而来的是，学校和学区增加了各种监控软件。最初的想法是防止孩子们接触不当内容。有些学校实际上是为学生提供

所有学生互联网接入。有一种责任感。还有一项法律要求学校建立一些防护措施。我们是否了解全国有多少孩子或有多少学校正在这些设备上使用某种心理健康监控软件？这很难找到可靠的数据，因为您有

十几家公司正在向学校推销这类工具，我能够计算出足够多的数量，我觉得大约三分之一到一半的美国学童在其设备上安装了某种心理健康监控软件。

大多数收到这些设备的孩子和家长，你知道，他们有一些协议规定，是的，这就是它的使用方法。这就是其中的内容。当您与家长和孩子交谈时，他们对这些程序可以看到什么内容了解多少？好吧，我和大约十几位到二十位家长谈过话，他们曾接到学校关于他们

输入的内容的电话。我认为总的来说，他们没想到会接到那个电话。他们不知道会发生这样的事情。我认为原因是

学校确实会告知家庭这些软件的存在，但这只是家长在学年开始时签署的技术协议的一部分。如果他们像我一样，他们会快速浏览一下，直接跳到复选框。所以答案是我认为家长并没有真正意识到他们的孩子在设备上输入的内容正在被使用。

被扫描。这些孩子和家长是否有选择，或者，你知道，你把Chromebook带回家，这就是上面的内容，结束了？所以我不能代表全国所有学区发言，但我认为在许多情况下，唯一的选择就是拒绝Chromebook，这对许多家庭来说是不可行的。我认为情况是这样的

贫困家庭更有可能依赖学校的设备，因为孩子们可能没有自己的设备。这意味着孩子们可能会在学校的设备上进行所有搜索或所有短信，或者他们输入的任何内容，他们更有可能在学校的设备上进行，这意味着它更有可能受到学校的监控。每个程序的运行方式略有不同，但它们都设置为搜索某些可能表明孩子处于困境的触发因素。

我认为大多数程序都使用关键词和关键短语。所以这方面有一些基本的东西。显然，这只会收集大量数据。然后它由算法进行排序。

由机器学习驱动的算法，试图尽量减少误报的数量。然后，一些公司使用人工审核员，这大概，你知道，是一个额外的层次，你知道，以提高准确性。

你在你的故事中提到过尼奥肖学区的辅导主任Talmadge Clubs，以及学生在教室里用Chromebook输入“如何死亡”的那一刻。我想知道你是否可以告诉我接下来发生了什么。所以Talmadge Clubs是这个系统的真正信徒。我和他在密苏里州尼奥肖的社区待了一段时间，在那里

这是一个经历过一系列学生自杀事件的城镇，这是一系列令人震惊的学生自杀事件。而且，你知道，在那之后，学校系统进行了一系列新的改变。其中一项就是使用Guardian Beacon系统。

无论如何，那天早上，我想是十月初，Talmadge Clubs来了，他收到了一堆警报，他认为这些警报来自一节正在进行自杀研究的健康课。所以这些都是，事实证明，这些都是误报。但随后他收到了一些更令人担忧的东西，那就是所谓的“积极计划警报”。

所以，你知道，这是最高级别的紧急情况。大概它已经过人工审核。他说的是，你知道，当我们收到这些积极计划警报时，我们会放下所有事情。他们会去教室，把

孩子从教室里带出来。我认为他们在学校里做的是进行哥伦比亚自杀筛查测试，这是一个六个问题的筛查工具，他们会问非常具体的问题，你知道，旨在检测某人的自杀想法有多严重，以及他们是否需要，例如，在最极端的情况下住院治疗。无论如何，在这种情况下，他们收到了一个积极计划警报，并且

他们把那个孩子从课堂上带出来，并与他们交谈。什么情况会导致警察半夜来我家？警察可能会进行家访的原因是，当学校开始使用这种类型的软件时，显然白天你可以和孩子交谈，给家长打电话。但如果半夜有警报，学校辅导员……

基本上在半夜不值班。他们也没有接触到孩子。因此，许多社区会将被认为非常严重的警报转发给执法部门，以进行儿童健康检查。我认为这仅仅是因为警察会进行儿童健康检查。这是他们工作的一部分，他们在半夜上班，这就是人们求助于警察的原因。

回来后，有没有办法判断这个软件是否有效？本播客由Progressive保险公司赞助播出。

您今天选择播放这个播客了吗？明智的选择。Progressive喜欢帮助人们做出明智的选择，这就是为什么他们提供名为AutoQuote Explorer的工具，该工具允许您将您的Progressive汽车保险报价与其他公司的费率进行比较，以便您可以节省研究时间，并且在选择最适合您的费率时可以节省开支。本期节目结束后，请访问Progressive.com试用一下，Progressive意外险公司及其关联公司。并非所有州和情况都可用，价格因购买方式而异。

想象一下，成为第一个通过互联网发送付款的人。新事物可能令人害怕，加密货币也不例外。它很新，但像互联网一样，它也是一场革命。有了全天候的支持，进行您的第一次加密货币交易感觉很容易。访问Kraken.com，看看加密货币能做什么。

非投资建议。加密货币交易涉及损失风险。加密货币服务由Payward Ventures, Inc.（PBI，DBA，Kraken）向美国和美国领土客户提供。请访问PVI的披露信息：kraken.com/legal/disclosures。

厌倦了枯燥的健身操？停止踏上通往无处之地的睡眠周期，尝试一些真正有趣的健身操。MetaQuest 上提供的 Supernatural Fitness。简·方达，不是吗？健身操将永远不再枯燥。在令人惊叹的虚拟景观中，随着数千首热门歌曲的节奏挥汗如雨。打赌你的固定自行车做不到这一点。访问GetSupernatural.com，加入下一场健身革命。Supernatural VR Fitness，仅限MetaQuest。等一个团队来组队。

如果接近一半的美国学童受到某种监控软件的监控，您会想知道它的性能如何，对吧？除了缺乏可以告诉我们结果的独立数据外。我基本上只是要求家长和老师告诉我，你知道，他们观察到了什么。我确实听到了一些故事，我也复述了其中一些故事。但这些都是轶事。它们不是数据。

在没有数据的情况下，我认为有一个合理的问题，你知道，当我们不知道时，这意味着我们应该继续实施它吗？还是这意味着我们应该在实施之前暂停？我认为自残问题如此紧迫，感觉如此紧迫。学校真的不知道该怎么办。所以我想在某些方面，技术解决方案感觉像是一个干净的解决方案，你知道，

而且，你知道，在大流行后的几年里，人们，学校承受着很大的压力，要求增加心理健康保护和服务。好吧，这就是我要说的，这些技术保护措施是否与疫苗一起分层？

更多的辅导员，更多关于经历大流行或失去或悲伤或在线青少年感觉如何的谈话。这些东西都在吗？或者我们是在谈论一个学区，他们说，好吧，我们必须做些什么。所以我们将安装GoGuardian Beacon。

我无法回答这个问题，因为我们谈论的是数百个学区，所有这些学区对这个问题的处理方式都不同。但理想情况下，你知道，只有当你例如有现场治疗师，或者你有足够的带宽让你的辅导员真正建立关系时，这样的工具才能发挥作用。我的意思是，我认为一个有希望的解决方案

的想法是，假设学校开始注意到较弱的信号，即类似于痛苦的信号，而不是迫在眉睫的伤害或迫在眉睫的紧急情况。

我认为这可能积极的一点是，它让孩子们在……之前与辅导员进行交谈，你知道，在拨打911电话或救护车或任何类似的事情之前。只是降低赌注，让他们与辅导员交谈。

一个只是问他们情况如何的成年人。我和一个17岁的女孩谈过话，她说，你知道，她被叫到辅导员那里，辅导员，她走进去，辅导员举起一张纸，那是她写的一张纸条的打印件。是她写给朋友的一封电子邮件。嗯，我想是在几天前，电子邮件说她正在考虑伤害自己。而且，嗯，

她说，你知道，这位辅导员已经成为她母亲般的人物。自从那一刻起，我一直和这位辅导员交谈，这真的让事情变得更容易了。这是一个例子，你知道，也许这不是迫在眉睫的紧急情况，但它确实有一个好的结果。我知道这不是你报道的重点，但这里还有一个有趣的问题，那就是康涅狄格州的年轻女子，对吧？

这种想法，你知道，这也是一种侵入性的行为，会让人感到尴尬，甚至在堪萨斯州劳伦斯公立学校，那里的学生记者与他们的学区争论，要求将软件从他们的设备中移除，称其侵犯了隐私和言论自由权。在你为这篇文章做报道时，隐私问题是否出现过？

是的，隐私问题确实是房间里的大象。许多社区出于这个原因决定不使用这些工具。而且，你知道，一些经常出现的事情，人们非常担心，如果你向家长传达

孩子可能在其设备上搜索的内容或他们可能访问的网站，我认为对于可能通过这种技术被公开身份的酷儿或跨性别孩子来说，这是一个特殊的问题。所以这是一个非常严重的担忧，许多数据隐私或技术隐私倡导组织已经就此发出了警告。另一个是

假设你出于良性原因进行搜索。你担心心理健康。但如果你看到关于枪支或刀具的语言怎么办？你知道，如果这成为一种检测暴力的工具。它已经被用作。一些学校说他们正在使用这个来，你知道，防止校园枪击事件。你实际上是在把你的学生关进监狱。

与警察在一起，这可能是没有必要的，事实上，可能会对他们造成非常糟糕的后果。所以这是关于这些软件的另一个非常严重的担忧。所以这些都是不同类型的隐私问题，但可以肯定的是，堪萨斯州劳伦斯的学生，

他们提出了许多不同的论点。他们首先说，这使得我们很难完成工作，因为很多，就像在美术课上，你知道，他们因为裸体而被标记，或者，你知道。但同样，就像试图为学校做正常的调查一样，你知道，这已经被证明是一个障碍。他们还说了一些有趣的事情，那就是他们认为，就心理健康而言，这……

破坏了学生和教师之间的信任，因为他们的交流被拦截或被过滤，或者被发送给管理人员。如果你真的希望学生信任教师，你就不会这样做。你会允许他们进行私人谈话。还有一个奇怪的层面，将网络生活与现实生活分开。

就像你可能对某些事情感到好奇，或者你想要答案，或者即使你使用的是网络速记KMS（自杀），就像它一样，这可能并不反映你现实中的处境。我想知道管理人员是否为此而苦苦挣扎。青少年是……

具有讽刺意味的。是的，而且夸张。他们夸张且具有讽刺意味，他们以各种复杂的方式说话。此外，你知道，孩子们了解算法。他们知道如何绕过算法。所以有很多原因，比如训练一个算法来

区分信号和噪声非常困难。这非常具有挑战性。也就是说，这些公司现在已经高强度地做了几年了，我认为他们正在做得越来越好。如果这完全是误报，我认为学校早就已经放弃了。这可能正在发生。人们可能会

减少他们对此的使用。同样，这很难知道，因为没有单一来源的透明数据。但我与许多学校管理人员和学校辅导员交谈过，他们对它评价很高。

你认为会有你所说的那种数据吗？一方面，能够说，这是一个强大的数据集，将是很好的。你知道，我们项目的有效性得到了这些独立研究人员工作的证实。

另一方面，这些是相互竞争的私营公司，争夺合同。所以我不知道是否有一些，你知道，商业秘密方面，他们就像，我们不想向你公开我们的算法。我认为学区应该要求这样做，因为也许它确实有效，但我们还没有看到任何证据。如果你正在接触家庭生活，或者在某些情况下你正在接触孩子的家，

我认为要求关于敏感性、阳性预测值以及使算法良好、有效或无效的所有方面的数据是公平的。所以GoGuardian Beacon，当我问他们这个问题时，他们说有一篇同行评审的论文即将发表。我想它会在接下来的几个月内发表。是的。

但事实仍然是，没有任何东西可以可靠地告诉你，你知道，这是误报与良好信号和挽救的生命数量的比例。我们开始这个故事时谈到了Maddie Choka。她的故事结局如何？是的，所以这是与Maddie妈妈的一次非常令人难忘的谈话，部分原因是……

和她交谈后，很清楚…… 照顾并试图保护那些真的在努力控制伤害自己冲动的孩子需要付出多大的代价。你可以在她的脸上看到这让她付出了多少。嗯，Maddie发生了什么事是，嗯，

在我们描述的轶事之后，警察到她家之后，她住院后，她回到了家，回到了学校。但她仍然有那些想法。这些冲动并没有消失。住院治疗，你知道，并不能消除这些感觉。她变得，我认为，更……

或者更清楚地意识到她在Chromebook上输入的内容，这样她就不会再被过滤器检测到。第二年，她最终死于自杀。艾伦·贝里，感谢你的精彩报道，感谢你来到这里和我交谈。谢谢。

这就是我们今天节目的全部内容。What Next TBD由Evan Campbell、Patrick Fort和Shaina Roth制作。我们的节目由Paige Osborne编辑。

Alicia Montgomery是Slate的音频副总裁，TBD是更大的What Next系列的一部分。如果你想支持我们的新闻工作，最好的方法是加入Slate Plus。你可以收听所有播客节目，没有广告，而且Slate.com上的任何内容都没有付费墙。只需访问Slate.com/WhatNextPlus注册即可。好吧，我们下周再见。我是Lizzie O'Leary。非常感谢您的收听。

当您是军人家属时，您会理解牺牲和支持。因此，在美国公共大学，我们通过将我们的军人学费优惠扩展到您的大家庭来表达对您奉献精神的敬意。父母、配偶、合法伴侣、兄弟姐妹和受抚养人都符合APU每学分250美元的优惠军人费率，适用于本科和硕士课程。美国公共大学，为整个家庭创造价值。更多信息请访问apu.apus.edu/military。

嘿，Slate听众，我是Mary Harris，来自Slate的每日新闻播客What Next。我来提醒您，在Slate，我们在这里帮助您理解接下来会发生什么。

使用Slate+，您将获得无限访问您需要用来应对当前局势的工具。这包括Amicus的独家剧集，该剧集详细介绍了正在塑造我们未来的法律斗争，以及Political Gab Fest，在该节目中，关于我们政治格局的最大问题都得到了深入而幽默的探讨。

此外，您还可以在您所有喜爱的Slate播客（包括我的节目What Next?）中收听无广告的节目，在该节目中，我会将当天的头条新闻联系起来。加入非常容易。直接在Apple Podcasts应用程序或Spotify上订阅Slate Plus。您也可以访问slate.com/podcastplus，以便在您收听的任何地方都能访问。我们以前经历过这种情况。我们可以一起理解接下来会发生什么。