Mini Episode: ICE/Clearview, Race Detection and Schools
06:03 Share

我们对上周值得关注的AI新闻的第十三期音频综述！ 本周，我们将关注ICE/Clearview AI合同、种族检测软件的增长以及AI如何用于给学生分配期末成绩和重新开放学校。 查看此处讨论的所有故事以及更多内容，请访问 www.skynettoday.com 主题：凯文·麦克劳德的深思熟虑 (incompetech.com) </context> <raw_text>0 您好，欢迎收听。我是丹尼尔·巴希尔，这是Skyden今天的AI周报。本周，我们将关注面部识别和学校。

如果花生酱和奶油奶酪是天作之合，那么我们本周看到的则是地狱般的组合。美国海关与移民执法局（ICE）与面部识别公司Clearview AI签署了一份任务支持合同。The Verge报道称，这份22.4万美元的采购订单描述了Clearview的许可证，并将ICE任务支持达拉斯列为合同办公室。

在过去的几个月里，Clearview因其从社交媒体网站上积极抓取图像、由此产生的针对它的停止侵权通知以及BuzzFeed新闻曝光的令人担忧的大量客户名单而臭名昭著。但它的合作伙伴也好不到哪里去。ICE已知使用面部识别技术。华盛顿邮报报道称，上个月，ICE和联邦调查局未经司机知情和同意就访问了州驾照。

ICE还在其美国南部边境的执法行为方面受到批评，例如将移民儿童与家人分开以及无限期拘留难民。人们只能想象一下这种伙伴关系可能会带来什么后果，不寒而栗。虽然通用面部识别技术越来越流行，但十多家公司也提供某种形式的种族或民族检测。

正如《华尔街日报》报道的那样，一些公司已经开始使用这种软件来了解某些客户如何使用他们的产品、谁在看他们的广告或不同种族的人喜欢什么，以及其他用途。

虽然该领域仍在发展，并且该技术未来将如何使用是一个悬而未决的问题，但研究人员和公司已经认识到该技术可能导致歧视。虽然一些公司可能认为，将种族检测软件用于零售目的并非有害，但一些研究人员和供应商表示，这种技术不应该存在。

种族检测软件存在这样的风险：机构可能会故意或无意地根据一个人的种族背景做出决策，这些决策很难被发现，因为它们发生在不透明算法的背景下。例如，公司可以使用种族识别来将边缘化人群推向特定产品或歧视性定价。

因此，即使是看似无害的用途，例如露华浓公司聘请迈阿密凯罗斯公司使用面部分析算法来确定不同种族女性涂抹了什么口红，也可能导致歧视行为。

接下来，如果你不用考试，而是由AI给你打分，你会有什么感觉？现在，如果这个分数是决定你未来四年去向的主要因素，你会有什么感觉？《卫报》报道称，由于A-level和GCSE考试无法像往常一样进行，这正是那些预定参加考试的学生所经历的。

但是，监管机构并没有考虑单个学生的信息，而是优先考虑实现正常的统计结果分布并避免成绩膨胀，方法是将教师对可能成绩的评估与学生的以往表现以及他们学校的过往记录结合起来。

但是，将预测成绩与过往记录和学校记录联系起来只会加剧现有的教育不平等现象，阻止有天赋的学生取得与来自更幸运背景的同样有天赋的同龄人相同的成绩。国际文凭组织采取的非常类似的措施已经预示了这种结果可能引发的强烈抗议。

参加这个享有盛誉的文凭项目的学校的学生，他们的期末成绩也由一个AI决定，该AI根据他们的过去工作和其他历史数据做出决定。结果是一场灾难。

IBO对这种情况的处理不当，允许AI做出改变人生的决定，而不增加检查并采用谨慎的申诉程序，这将不可避免地导致混乱。这种不负责任的AI使用可能会损害公众信任，尽管事实上，如果使用得当并与人类专业知识相结合，AI可以帮助显著提高决策质量。

最后，今年秋季学校的重新开放一直是一个有争议的问题，教师们不确定自己的安全，而联邦政府则威胁那些选择不开学的学校。学校的重新开放无疑对几乎所有相关人员都有好处，但它也带来了不容忽视的健康风险。

打算开学的学校必须采取严格的预防措施，拉斯维加斯的Meadows私立K-12学校有一个有趣的计划，即使用人工智能驱动的热成像系统来检查学生的体温。

Vox报道称，提供这项技术的AI公司Remark Holdings已经在中国为100多所学校提供了类似的系统一年多，并且正在重新利用其技术来协助大流行期间半公共场所的重新开放。Remark Holdings只是众多已经销售监控产品并正在调整其技术以适应大流行的企业之一，它们提供的工具可以检测学生是否戴着口罩，以及人们的社交距离保持得如何。

很难知道这些技术是否按预期工作，但学校似乎已经准备好尝试了。本周就到这里。非常感谢您的收听。如果您喜欢这个播客，请务必评分和分享。如果您想听到更多这样的新闻，请访问Skynetoday.com，在那里您可以找到我们每周的新闻摘要，其中包含类似的文章。