We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
Undercover AI ‘College Protester’ Bots for Cops
2025/5/1
Power User with Taylor Lorenz
J
Jason Koebler
T
Taylor Lorenz
通过深入探讨互联网文化和政治，Taylor Lorenz 为听众提供了对在线世界的深刻分析。
Jason Koebler: 我报道了美国警方使用AI驱动的社交媒体账号进行秘密监控的情况。这些AI机器人由Massive Blue公司创建，旨在收集目标人物的证据，目标包括罪犯、大学生抗议者和活动家等。这项技术始于2023年，得益于AI技术的进步，例如ChatGPT的出现。AI机器人可以与用户在社交媒体和私信中互动，收集信息。Massive Blue公司会向警方索取关键词，AI机器人会以此监控社交媒体并与相关用户互动。目前为止，该技术尚未导致任何逮捕，其有效性尚不明确。Massive Blue公司创建了多种AI人物形象，包括激进的女性活动家、阿拉伯裔女性和青少年等，这些形象旨在渗透到不同的在线社区。使用该技术收集大学生抗议者的信息侵犯了第一修正案赋予的权利。该技术带有明显的反移民和反左翼倾向。这项技术对外国学生，特别是那些对以色列袭击加沙的抗议者构成了特别的威胁，因为他们的签证可能会被吊销。这项技术可能被用来惩罚那些对政府持批评态度的人，即所谓的“思想犯罪”。目前AI技术还不够完善，但仍能欺骗很多人，很难判断Massive Blue使用的AI技术是相对简单的还是非常先进的。更强大的科技公司，如Palantir，可能会复制类似的工具，这将带来更大的风险。AI技术正在被整合到常规警务和移民执法中，这令人担忧。许多用于国内执法的技术最初是在军事或国防领域开发的，这令人担忧。用于海外战争的监视技术最终会被用于美国国内执法，最初针对的是不受欢迎的人群，然后逐渐扩大到普通民众。对这些技术的监管不足，即使某些技术被裁定为非法，也往往是在其被广泛使用多年之后。AI机器人可以潜入在线社区并收集信息，而不仅仅是直接与人互动。由于在线监控的增加，未来的行动主义可能需要更多地转向线下活动。由于对在线监控的担忧，人们可能更不愿意参与在线活动，这将对行动主义产生寒蝉效应。AI机器人可以渗透到各种私人沟通渠道，例如Telegram群组和Discord，因此仅仅退出社交媒体并不能完全避免监控。
Taylor Lorenz: 我与Jason Koebler讨论了美国警方使用AI机器人进行秘密监控的争议。这项技术令人担忧，因为它可能被用来侵犯言论自由和隐私权，特别是针对大学生抗议者和外国学生。民主党和共和党对加强网络监控的立场出奇一致，这令人担忧。缺乏对监控技术的强烈抵制，部分原因是这些技术最初被用于打击不受欢迎的人群，从而掩盖了其潜在的广泛危害。民主党不愿被视为对犯罪行为软弱，这阻碍了对监控技术的有效抵制。社交媒体平台有责任识别和标记AI用户或机器人账号。社交媒体平台对AI生成内容的监管不力，导致难以区分AI账号和普通用户账号。AI技术日益精进，未来可能难以区分AI和人类。虽然许多人能够识别AI生成内容，但AI技术仍在不断进步，并被用于各种诈骗活动。AI图像生成技术的进步速度很快，以至于很难区分真实图像和AI生成的图像。不要主动退出网络空间，因为这正是那些想要控制互联网的人所希望的。监控会先针对社会中最边缘化的人群，然后逐渐普及到所有人，因此每个人都应该关注这个问题。不要因为对互联网的负面看法而放弃使用互联网，因为这正是那些想要控制互联网的人所希望的。拥有特权的人应该利用他们的特权来抗议监控，而那些处于弱势地位的人则面临着更大的挑战。对抗监控需要多方面的努力，包括公开抗议、游说政府和反对对互联网的错误道德恐慌。
Deep Dive
Shownotes Transcript