莱拉·拉拉米的新小说《梦之酒店》设想了一个反乌托邦的未来,在这个未来,甚至我们的梦境也受到监控。人工智能工具可以扫描我们的梦境,以确定我们是否有可能犯罪,然后我们将被送往所谓的“拘留中心”进行监控,以维护“安全”。四月份,米娜在旧金山的“思想之夜”活动上与拉拉米坐下来,讨论了这部关于一位洛杉矶母亲的故事的时代性和灵感来源,这位母亲陷入政府监控、未经指控的拘留和人工智能工具的网络之中。我们将听到这段对话。
莱拉·拉拉米,《梦之酒店》一书的作者;她还著有其他五本书,包括《摩尔人的记述》和《其他美国人》了解更多关于您的广告选择的信息。请访问megaphone.fm/adchoices</context> <raw_text>0 KQED播客的支持来自旧金山国际机场。
您知道旧金山国际机场有一个世界级的博物馆吗?准备好被航站楼内的艺术、历史、科学和文化展览所震撼吧。了解更多信息,请访问flysfo.com/museum。切换到Comcast Business Mobile,每年节省数百美元的无线账单。Comcast Business,赋能无限可能。适用限制。需要Comcast Business互联网。比较了前三大运营商的两条无限入门线路和最低价格的5D套餐。税费另计。使用30GB数据后,速度会降低。数据阈值可能会有所不同。♪
来自KQED。来自旧金山的KQED,我是米娜·金。接下来在《论坛》节目中,莱拉·拉拉米的新小说《梦之酒店》设想了一个反乌托邦的未来,在这个未来,甚至我们的梦境也受到监控。人工智能工具可以扫描梦境,以确定我们是否有可能犯罪。然后我们将被送往所谓的“拘留中心”进行监控,以维护安全。
上个月,我在旧金山的“思想之夜”活动上与拉拉米坐下来,讨论了这部关于一位洛杉矶母亲的故事的时代性和灵感来源,这位母亲陷入政府监控、未经指控的拘留和人工智能工具的网络之中。我们将在新闻之后听到这段对话。♪
欢迎收听《论坛》节目。我是伊娜·金。洛杉矶作家莱拉·拉拉米以《摩尔人的记述》和《其他美国人》而闻名,她有一部新小说名为《梦之酒店》,讲述的是一个不太遥远的未来,在这个未来,人工智能工具可以扫描我们的梦境,并用它们来确定我们是否有可能犯罪。在拉拉米的这部小说中,这项技术使萨拉·侯赛因——一位加利福尼亚州的双胞胎母亲——被拘留和监控。
4月5日,我在旧金山“思想之夜”活动上,面对观众与拉拉米讨论了她虚构世界与我们当今社会之间的联系。哦,欢迎。欢迎来到“思想之夜”的《论坛》节目,来自KQED的《论坛》节目。我希望今晚有一些听众。我们能有莱拉·拉拉米与我们同在,真是太幸运了!你好。
谢谢。非常感谢。所以,话不多说,我想进入正题,因为莱拉,这是一个近未来的世界。但是存在政府监控。存在未经指控的拘留。洛杉矶甚至发生了一场野火。所以我想知道,你是指近未来世界吗?因为它听起来确实像是现在。是的。
我的确是指未来世界,我想它之所以感觉像现在,是因为有很多原因,我会解释的。但是当我于2014年开始构思这部小说时,它对我来说确实感觉像是一个未来世界。所以,我十年前就开始创作它了。当时,我最初的想法是把它设定在一个科技创业公司
并且它关注的是这家科技创业公司内的一位工程师,他的产品是一种帮助你睡眠的设备。我是一个失眠症患者。所以我认为这将是一款我肯定会感兴趣的产品。我非常渴望睡眠,以至于我相信,即使我知道该设备正在收集我的睡眠数据,我也可能会为了获得一夜好眠的便利而牺牲它。
所以,十年前我开始思考这个问题,最后我把这本书搁置一边了,因为科技创业公司的背景对我来说有点枯燥,而且感觉已经被写过了,我只是没有看到我将如何继续下去。我创作了另一部小说,它出版了。我们六年前谈论过它,是吗?六年前。是的,《其他美国人》。是的。
所以我直到2020年3月才再次拾起这个想法。
然后再次拾起它并开始创作。然后它在3月份出版了。我的意思是,我在2024年3月完成了它。我根本不知道现在正在发生的事情会以现在这种方式发生。我认为它之所以让读者感觉非常贴近现实,是因为我真正关注的是系统,对吧?
在我们社会中已经存在的系统,并将其追溯到它们的逻辑结论,对吧?所以,在过去的25年里,我们一直生活在一个基本上是全球性的监控系统之下。我认为,如果你去见阿尔巴尼亚的恩维尔·霍查,然后你说,如果时光倒流,我说我有一种方法可以告诉你阿尔巴尼亚每个公民在这一刻的确切位置,对吧?
每一个,你知道的,他们与亲人的交流,他们发送的每一封信,他们拍摄的每一张照片,我都可以提供给你。我相信恩维尔·霍查会对此非常感兴趣,其他人都会认为,这是什么暴政?但由于它发生得如此缓慢,我的意思是,它发生得如此缓慢,以至于我们真的没有意识到
理解它可能有多大,它可能有多具有侵入性。所以,因为牺牲是一步一步发生的,我们并没有真正注意到我们已经
我们已经跨越了多大的距离。而我,所以,所以这个想法只是把它追溯到它的逻辑结论。我听说早期真正让你感到害怕并帮助你巩固小说想法的事情之一是,有一天早上你醒来,看着你的手机,它告诉你,如果你现在就离开,你就能赶上一个约会,对吧?是的。是的。
是的。是的。所以,我记得我说我是一个失眠症患者,基本上我倾向于在深夜才最终入睡。所以当我醒来时,我非常恐慌。哦,我的上帝,我迟到了吗?所以我拿起手机看时间,看到了谷歌的通知。这是在2014年。它说,如果你现在就离开,你就能赶上我的瑜伽工作室。
在7点28分。当然,我从未告诉谷歌星期几,一天中的什么时间,甚至我没有去瑜伽。但因为它跟踪了我的行动,所以它知道每个星期二和星期四7点30分,我都去一个特定的地方,它的地图软件知道那是一个瑜伽工作室。所以它非常乐于提醒我我迟到了。
我应该走了。但是那天我没有去瑜伽。哦,你对此感到非常奇怪。你就像,算了吧。我要改变一下谷歌。是的。
但这确实是一个非常令人不安的时刻。这是那些时刻之一,当然,我们都知道关于我们所有人的数据都被收集了。但按照设计,这种数据收集应该是不可见的,对吧?它应该是非常流畅的。你可以获得你注册的服务、便利性和速度。你应该忘记你签署了允许这些公司收集的条款和条件
所有这些数据。那天早上,感觉就像窗帘被拉开了,我偷偷看了一眼这种监控。它只是短暂地显现了自己。而且,你知道的,我很不安。我记得我转向我的丈夫,我说,你知道的,很快我们所有人剩下的唯一隐私就在我们的梦境中了。
然后,当然,作为一个小说家,我想,哦,好吧,如果我们继续这些数据收集的趋势呢?如果我们很快就有能力收集关于梦境的数据呢?这些公司会如何利用这些数据?他们将如何从中获利?
好吧,就像在书中一样,我显然想出了他们可以利用这些数据的一系列服务和用途。当然,我选择了我认为最令人不安的一个,那就是预犯罪。我认为还有一些东西是如此具有侵入性,如果有人可以提取和解读你的梦境,那感觉是如此具有侵入性。
因为梦境有一些东西对我们来说感觉非常特殊或私密,对吧?绝对的。是的。我的意思是,我认为梦境可能是我们自己最私密的部分,因为梦境是唯一一件你完全私下参与的事情。你可以……
你可以与你爱的人分享,就像你早上醒来时问,你睡得好吗?然后你开始谈论你的梦境。但是那个人无法访问你脑海中的图像。而且它们非常……
当然,大多数梦境都会非常平淡无奇,对吧?所以你迟到了一个约会,或者你错过了火车,或者,你知道的。但偶尔,你会做一些非常可怕、非常激动人心或非常具有启发性,或者你感觉具有某种分量、某种预见性的梦境。我认为正是这些梦境……
本质上承载着这本书的分量,因为这些是你可能会用来预测未来可能发生的事情的梦境。是的,这就会引出一个问题
为什么有人愿意允许公司访问这些梦境?实际上,这让我想到几个问题,我希望我们的观众能够思考并回答。除了你可能想问莱拉的问题或关于谈话的问题之外,我还想知道……
你会怎么做,或者你已经如何交易你的隐私以及为什么。你为了什么这样做?我还希望大家思考一下,当他们知道自己被监视时,他们的行为会有哪些不同,以及以何种方式。所以在本书主人公萨拉·侯赛因的情况下,
她愿意为了什么放弃梦境的完全私密性,对吧?这正是你之前谈论的内容。是的,睡眠。是睡眠。而且我真的,你知道的,如果你非常幸运,没有失眠症,你很难理解持续的失眠会是什么样的。
会对一个人造成什么影响,我的意思是,我认为这并非巧合,睡眠剥夺在某些情况下可以算作酷刑,对吧?我的意思是,这是有原因的,对吧,我们从生物学上需要睡眠,当发生某些事情阻止我们睡觉时,我认为这会让我们非常绝望,我的主人公是,她是一位博物馆档案管理员,并且
但她也是一位非常忙碌的母亲,因为她有两个蹒跚学步的双胞胎,她试图在两者之间取得平衡,她试图成为这些孩子的好母亲。
当行动开始时,他们13个月大。她只是,你知道的,渴望睡眠,试图照顾两个孩子和她的工作。所以,因为这种设备存在于市场上,而且她的丈夫已经拥有它并且喜欢它,她决定,好吧,我也要买一个。它就像一个植入物。是的,它是一个小小的植入物。你得到了它,你知道的,两小时进出。然后你就可以睡觉了……
这种设备的一个好处是,如果你在床上睡了四个小时,你就能获得八小时睡眠的好处。所以,我的意思是,谁不会报名参加呢?几乎所有在书出版前读过这本书的人都告诉我,你知道的,如果市场上存在这样的设备,他们会买。因为想象一下,这个想法是你基本上……
最终可以控制时间,因为你一天会有额外的四个小时。你可以去上学,或者你可以找另一份工作,或者你可以花更多的时间和你祖母在一起,无论你认为适合在这段时间内做什么。因为你会感到如此轻松和幸福,是的。而且,在这个设备的细则中也嵌入了,他们说他们不会与任何人分享你的数据,但是……
除非某些情况下。是的。那么谁会阅读细则呢?这也让我们感觉非常可信,那些细节,那些例外。是的。我认为这个想法基本上是将我们所有人一直都在做的事情具体化了。你知道的,我们试图到达某个地方,我们需要应用程序来预订,或者我们需要应用程序来做这件事。就像,好吧,快点,快点,快点。你只是……
点击并同意,而不阅读。当然,在接下来的时间里,你将被这个应用程序跟踪。所以,你正在收听我上个月与作家莱拉·拉拉米进行的舞台对话,内容是她关于她新小说《梦之酒店》的讨论。我是米娜·金。请继续收听。
《论坛》节目的支持来自兰乔拉普埃塔,这是一个拥有85年健康经验的健康度假胜地,提供以健康为中心的夏季度假。8月份为期三晚和四晚的特别优惠包括日出徒步旅行、水上课程、瑜伽和水疗护理,所有这些都以梦幻般的夏日天空为背景。
一个六英亩的有机花园每天提供新鲜的水果和蔬菜。了解更多信息,请访问ranchoertuerta.com。问候,繁华小镇。Xfinity Wi-Fi正在蓬勃发展!Xfinity结合了互联网和移动的强大功能。所以我们在家和外出时都能获得闪电般的速度。这就是我们的制作人将我们的广播节目混合在一起的想法。♪
在6月23日之前,新客户可以获得400兆比特的Xfinity互联网,并获得一条无限移动线路,所有这些每月只需40美元,为期一年。访问Xfinity.com了解更多信息。使用无纸化账单和自动支付商店银行账户,适用限制。需要Xfinity互联网。德克萨斯州费用另计。一年后,费率将提高到每月110美元。两年后,将适用常规费率。实际速度会有所不同。
这是《论坛》节目。我是伊娜·金。我们正在收听我与莱拉·拉拉米进行的舞台对话,内容是她描述未来的小说,在这个未来,甚至我们的梦境也受到监控,名为《梦之酒店》。它是在4月5日的“思想之夜”活动上录制的。这是一个来自观众成员艾森的问题。你的书是基于电影《少数派报告》还是汤姆·克鲁斯主演的电影是基于你的书?因为它听起来有很多相似之处。
哦,太荣幸了。汤姆·克鲁斯是基于一部关于我的书的电影。那将是很好的,不是吗?不,不。所以这是基于菲利普·K·迪克的《少数派报告》。
它被改编成许多人都看过的电影。在《少数派报告》中,是预知者基本上在解读……我甚至忘记了他们在解读什么。但基本上,他们能够预测一个人是否会犯罪。所以……
所以这种故事,我最终又回到了它,因为我在90年代上映时看过这部电影。然后当我于2014年有了这本书的想法时,我做的第一件事就是去看这些电影并阅读这些书籍。《少数派报告》是我去看的其中一部。是的。
这种科幻小说引人注目之处在于,它感觉非常遥远,属于未来。所以有这三个预知者,他们拥有这些,无论是什么,超自然的力量。所以感觉几乎……而且有飞行汽车等等。所以感觉很舒服,对吧?因为它太遥远了。它不会在你的一生中发生。你可以坐下来,放松,享受这个模拟。
我认为创作这种推测性小说的一种方式是,实际上让它更接近我们,并让它更接近在我们的一生中可能发生的未来。所以在我的书中,它真的不是超自然的。它并不遥远。没有飞行汽车。它是一个非常像我们世界的世界。它只是……
它只是稍微有点遥远的未来。它基本上使用风险评估算法来评估这个房间里每个人、每个公民犯罪的可能性。这基于一系列因素。
首先,显然是你是否已经犯过罪,这将是一个巨大的因素,但也包括一系列其他因素,例如你的教育水平、你居住的社区、你的收入水平、你是否被驱逐,你知道的,所有这些都像是基于阶级的因素。然后
他们加入了其他一些东西,比如你的声誉水平、你使用社交媒体的情况以及你的梦境。如果你愿意提供这些数据,他们也会使用这些数据。它可以访问任何数据,它都可以这样做。这种监控系统之所以出现,是因为书中发生了一起大规模枪击事件,该事件被电视转播,而不是
做合乎逻辑的事情,即通过枪支管制等措施来解决枪支暴力问题,控制公民并为每个公民分配一个
犯罪分数,犯罪预测分数,比这样做容易得多。所以这就是发生的事情。所以它有点模仿了,我模仿了《爱国者法案》。是的。好吧,你知道的,它也让我想起了中国社会信用评分。那是灵感来源吗?我,
一旦我有了这个想法,我就回过头来,想,好吧,它是如何做到的?我最终读了这本书,我会推荐它。我认为它叫做,我希望我没有弄错。我认为它叫做《在集中营里》。它是一位名叫塞隆·拜勒的学者写的。它基本上是关于中国维吾尔族少数民族正在发生的事情。它肯定关注监控、暴力、
监控和信用评分系统等等。是的。你是否也受到我们的信用评分系统的启发?是的。是的。绝对的。思考如何的基础方式。我认为,是的。我认为这对我来说令人兴奋的是,当你告诉人们,你知道的,信用,
FICO评分只有大约40年的历史,对吧?在此之前,你必须走进银行,向某人陈述你的理由,然后才能借钱。现在这一切都通过信用评分实现自动化了。它已经如此融入到你进行的每一笔金融交易中,以至于你不会质疑,为什么我被,为什么这个我无法控制的数字在控制着我能够做出的关于我生活的决定?
所以,你知道的,这就是我试图使其可信时我的意思,因为我试图将其建立在我们已经拥有的东西之上,但只是将其推断到梦境的世界和未来。是的。请讲述萨拉第一次……
基本上在机场被拘留的故事。是的,是的。所以这本书以她已经被拘留开始,但紧随其后的是倒叙,我们发现她是如何最终到达那里的。基本上,她从国外的一个会议返回家中,她已经多次进行过这次旅行,因为这是同一个会议。她每年都去那里。
而这一次,当她通过海关时,她被告知,等等,你必须去二级检查,因为,你知道的,你的风险评分有点高。当然,就像任何人一样,你知道的,你听到机场有什么不对劲的地方。你很生气,因为有人在等你。你知道的,你有计划,你有晚餐预订。你只想继续你的生活。所以你很沮丧。
所以她被带到二级检查。从那里开始,你知道的,关于她的生活以及她所做的一切都有很多问题。事情就这样每况愈下。
任何曾在机场被拦下或因为护照问题或文件问题而被拦下的人可能都确切地知道这种感觉是什么样的。这种情况以前也发生在我身上。它发生在你身上了吗?当然。是的,它发生了。我的意思是,我经历了各种各样的经历,例如,你知道的,你拿到登机牌,你的登机牌上会有SSSS,4S代码,这意味着你将要
你将在你登机前被拦下,最后一刻。所以这是全方位的搜查,包括在登机前。
所以基本上,对我来说,机场通常是焦虑的场所。并不是因为发生了任何事情,任何事情都没有,因为我从未做过任何违法的事情,但它仍然让我感到焦虑。所以我喜欢写作它,因为我有这方面的经验。所以能够
拧紧螺丝,并在这位角色通过海关时施加越来越大的压力,这很有趣。是的。我听说你在一家科技创业公司工作过。是的。所以你用它来写这个吗?是的。是的。但我无法在科技创业公司中写完整部小说的部分原因是我得了创伤后应激障碍。我从那些年得了创伤后应激障碍。我想,我不能在400页的书中花几年时间
在一间科技创业公司里。所以在书的最终版本中,有一章发生在一家科技创业公司。这很好,只有一章。我了解一位观众成员克里斯从事风险评估工作。我们能找到克里斯吗?你好,你刚刚让我竖起了耳朵,因为我的工作是为那些要入狱的人进行风险评估。我为一个行为健康部门工作,私营部门,
我们面临的问题是,患有精神分裂症的人不断被送进我们的监狱。他们经常已经参加了县里的行为健康项目。他们进了监狱。我的工作是尽快让他们离开监狱,回到服务中。
我们做到这一点的方式是,我们必须使用风险评估来让法官相信这个人可以被释放。我们必须拥有大量数据,因为我们必须将他们重新连接到他们的项目中。所以,我的意思是,你可以用这些数据做一些好事。我非常尊重你对此的看法,因为我与你分享你对可能发生的事情的担忧。所以这是一个令人难以置信的挑战。但我必须说,
你的书将使我的工作更加困难,因为我的工作的一部分是,我必须说服人们与我分享数据,以便我们可以进行这项风险评估。但我认为这里有一个关键的区别,那就是克里斯在做这件事,对吧?在你的书中,这是一个算法,并且对这个算法有很大的信任。是的,我的意思是,我认为我们所有人,作为一个物种,我们一直在不断地评估风险,对吧?为了生存,对吧?作为一个女人,我相信这是
这是许多女性或房间里的女性的真实情况。当我走在街上时,我一直在不断地评估,我的安全级别是多少?例如,我从A点安全地到达B点是否安全?
所以,作为一个物种,我们一直在不断地这样做。在你的工作中,你正在为监狱里的人评估这种风险。问题在于,在使这些系统自动化时,技术无法与人类在人类如何评估风险方面相提并论。
当涉及到人类时,不是一般的风险,而是当涉及到其他人将如何行为时,所以当你自动化时
通常情况下,这种风险评估将因为它是平等对待每个人的,如果它没有全面地看待人的生活经历以及可能发生在他们身上的事情,那么它……基本上存在危险,因为它以一种方式被自动化了
以一种与人类不一定相同的方式,我觉得。是的。顺便说一句,这些风险评估实际上已经在某些警察局进行了测试。你知道吗?所以某些警察局使用了……
犯罪预测工具。结果并不积极。结果很糟糕。因为同样,当你依赖于一个自动化的工具时,你并不一定能像人类那样获得整个环境。所以它不是
我认为你的书之所以感觉非常贴近现在,不像我们之前与《少数派报告》谈论的那样,是因为这个想法
阻止人们或预测犯罪或预犯罪,干预预犯罪是已经尝试过的事情。是的。我要说的一件事是,每当人们想到预犯罪时,他们都会想到遥远的未来,但预犯罪现在正在发生。
它也发生在我们的过去。所以预犯罪的形式是,例如,纽约长期以来一直实行“拦截搜查”政策。这是一种预犯罪形式,对吧?因为警察只是根据他们可能犯罪的嫌疑来拦截没有犯罪的人,对吧?所以这是一个关于未来的评估。他们正在……
被搜查,基本上是第四修正案的情况。你有像“禁飞名单”这样的东西。这是一种预犯罪形式。在此之前,过去有像20世纪20年代的《不轨未成年人法案》这样的法律,其中有人,特别是年轻女性,因为像,你知道的,
狂欢或其他事情而被定罪,她们只是大声笑或笑得太大声,然后被送往感化院三年,对吧?所以这是一种监禁形式。所以我认为,你知道的,所以预犯罪有它在现实中的基础,它不是只发生在《少数派报告》中。它现在正在发生是的,这很有趣,在你的书中
因为它几乎是,这里还没有指控。他们如何对待那些他们认为风险评估分数有点高并且需要被监视一段时间的人的语言,他们称他们为被拘留者。嗯哼。
他们说他们被暂时送往拘留中心。你的书名为《梦之酒店》。所以谈谈语言以及你在这里如何使用它。是的。所以我认为对于一本关于这种监控以及正在发生的事情的书,而且它有点像反乌托邦,我认为有必要让语言非常温和,并且
莱拉·拉拉米的新小说《梦之酒店》设想了一个反乌托邦的未来,在这个未来,甚至我们的梦境也受到监控。人工智能工具可以扫描我们的梦境,以确定我们是否有可能犯罪,然后我们将被送往所谓的“拘留中心”进行监控,以维护“安全”。四月份,米娜在旧金山的思想之夜与拉拉米坐下来,讨论了她这部关于一位洛杉矶母亲的故事的时代性和灵感来源,这位母亲陷入政府监控、未经指控的拘留和人工智能工具的网络之中。我们将听到这段对话。
莱拉·拉拉米,《梦之酒店》一书的作者;她还著有其他五本书,包括《摩尔人的叙述》和《其他美国人》了解更多关于您的广告选择的信息。请访问megaphone.fm/adchoices</context> <raw_text>0 因为如果语言反映出这一点,那么说服人们这种制度是为了保护他们就容易得多。所以,因为这本书是关于莎拉因为她的梦暗示她会犯罪而被带走,我知道……
她不可能被带到监狱。她实际上并没有犯罪。所以它必须是一种介于两者之间的场所。所以我认为,它不能是拘留中心,但也许可以是拘留中心。而且里面没有狱警,而是服务人员。所以它起作用了。所以他们用这种方式使语言变得温和,一种安慰剂。
在我看来,这对于这种没有发生犯罪的情况是合适的。所以这些人是为了他们自己的安全而被拘留,对吧?因为他们被拘留是为了防止犯罪。所以他们是为了他们的安全和他人的安全而被拘留。然后是梦之酒店,因为其中一位服务员,主要的服务员,高级服务员说
他开玩笑地称他们被拘留的地方为梦之酒店,因为他旨在让每个女人的逗留都令人难忘。让我们听听听众成员珍妮的发言。
我现在已经把我的梦告诉人工智能了,因为它在梦境解读方面确实非常擅长。有一些聊天工具可以告诉你你的梦境在心理上发生了什么。所以我很好奇你对此有何看法。在小说中,它在梦境解读方面是擅长还是不擅长?
而且,你知道,这是你玩过或了解的东西吗?所以,听你谈论到这一点,让我想到的一件事是,在人类历史上,梦境对我们这个物种来说有多么重要,以及我们一直都觉得它们具有分量
它们具有经文的分量,对吧?所以在《圣经》和《古兰经》中,约瑟夫的故事等等。它们也具有世俗的分量。所以,你知道,我做了一个梦。在民权法案之前,演讲就发生了。所以我们有一种感觉,我们需要先做梦,事情才会发生,对吧?所以我们有一种感觉,梦境具有预测能力。我们赋予梦境很多
就像我说的,赋予梦境很多力量。听你谈到把你的梦告诉Chat GPT之类的东西以获得梦境解读,这与人类几个世纪以来所做的事情非常相似,那就是写梦日记,并反思并询问人们,你认为这意味着什么?纵观历史,有很多梦境收集的例子,
以及人们试图解释这些梦境意味着什么。所以这只是它的一个新版本。举几个例子,印度迈索尔的一位苏丹在,我相信,18世纪一丝不苟地写梦日记,因为他确信他的梦境正在帮助他
嗯,计划他的军事战略,以阻止英国人进入他的苏丹国,所以这是一个例子,另一个例子是,而这实际上是我在致谢中引用的一本书,是《梦的第三帝国》,这是一部由一位名叫夏洛特·贝拉特的德国作家收集的梦境集,她在1930年代的德国开始收集梦境,在她离开之前
1939年的纳粹德国。所以她收集了她认识的人的梦境,这些梦境令人难以置信,因为它们确实展现了梦想家们在他们国家与专制作斗争,并对专制对他们自身生活的影响做出了极其具有启发性的梦境。
所以,你知道,所以,所以,有很多这样的例子。我可以永远谈论这些梦境收集。所以你所做的本质上是一种新的形式,而不是收集它并与其他人或分析师分享,你只是与Chat GPT分享。所以我想这会发生。稍后休息一下,我们将听到更多关于我和作家莱拉·拉拉米关于她的新书《梦之酒店》的思想之夜对话。这是论坛。我是米娜·金。
本集由Indeed赞助播出。当你的电脑坏了,你不会等着它奇迹般地再次启动。你会解决问题。那么,为什么还要等到你的公司迫切需要的人才呢?使用Indeed的赞助职位快速招聘顶尖人才。更好的是,你只为结果付费。无需等待。使用indeed.com/podcast上的75美元赞助职位积分加快招聘速度。适用条款和条件。
问候,繁华小镇。Xfinity Wi-Fi正在蓬勃发展!Xfinity结合了互联网和移动的力量。所以我们在家和外出时都能获得闪电般的速度!这就是我们的制作人将我们的广播节目混合在一起的想法!Xfinity!
截至6月23日,新客户可以获得400兆比特的Xfinity互联网,并获得一条无限移动线路,每月只需40美元,持续一年。访问Xfinity.com了解更多信息。使用无纸化账单和自动支付储蓄账户,适用限制。需要Xfinity互联网。德克萨斯州费用另计。一年后,费率将提高到每月110美元。两年后,适用常规费率。实际速度会有所不同。
您正在收听论坛。我是妮娜·金。上个月,我在旧金山的思想之夜与洛杉矶作家莱拉·拉拉米坐下来,讨论梦境监控和她的新小说《梦之酒店》,这部小说讲述的是萨拉的故事,她是一位普通的加利福尼亚母亲,因为算法表明她有可能犯罪而被拘留和监控。但有一个时刻,萨拉开始质疑,你知道,
算法是否正确地解读了我?我是不是一个有倾向于做这些事情的人?这种对自我的质疑,我认为当你受到监控时也会出现。是的。这是你想要探索的东西吗?是的,是的,是的。是的,我的意思是,我真的认为这就是全面监控的影响。如果你持续受到监控,
我认为会有那么一刻,这种监控会转移到内部,你开始监控自己,因为你很害怕,对吧?你把它内化了。然后你变得偏执。我真的,你知道,我最好不要这样做,你知道,因为如果我真的是监控应该抓住的那种可怕的人怎么办?
所以,是的,她因为被告知她是因为她的梦境而被关在这里,她开始怀疑,也许,也许是真的。也许我确实做梦了。也许我真的打算犯下这起罪行。
在书中,当我们了解她作为人物时,我们发现了她童年的一些事情,这些事情确实让她感到内疚,这种内疚感一直延续到她的成年生活。然后问题就变成了,算法是否利用了她一直以来潜藏的内疚感?你知道,它是否感知到了?这就是为什么她的梦境被如此负面地解读的原因吗?
我可以问你,当整个社会都受到监控时,你认为会发生什么,对吧?如果我们自己正在内化并开始在某种程度上约束自己,或者不允许自己表达、参与或质疑自己的不同部分,因为我们害怕我们会发现什么,你认为当这种情况大规模地发生在一个社会或一个民族身上时会发生什么?
可能。是的,我的意思是,对我来说,我认为这个时刻真正有趣的是,美国正在发生的事情并非独一无二。我认为我们正在与全球公司打交道,对吧?所以这些公司不仅在美国运营,还在许多其他国家运营。而且
是的,你知道,在欧洲的某些地区,监管力度更大一些,但总的来说,在这些公司,在大科技公司运营的所有地方,数据都在被收集。
我认为我们现在看到的这种数据收集水平在人类历史上是前所未有的。在我刚刚完成并为《国家》杂志提交的一篇文章中,我把它比作《圣经》中所说的生命之书。
这是你的,以及《古兰经》中所说的你的行为记录,基本上是你一生中所做的一切,对吧?在审判日,会有那么一刻,它会被打开,你必须为你所做的一切负责。那是,你知道,我们真正谈论的那种权力和控制水平,你所做的一切都在一个你无法控制的档案中留下痕迹。
这个档案掌握在大科技公司手中,它已经对它宣称所有权。它已经对它拥有统治权。所以这是一个全球监控系统。我认为这本书中有趣的是试图将这个全球监控系统与我们生活中我们可能不太会质疑的其他监控系统联系起来,例如……
父权制是一个全球监控系统,对吧?因为我们,你知道,作为女性,你知道,我们监控自己。我们决定,你知道,这是,我不知道,是……
我穿的衣服对吗?我,你知道,我的头发做得对吗?什么是时尚?我本周应该做什么?下周我应该做其他事情。所以我们真的在不断地监控自己,我认为将两者联系起来很有趣。让我接下来去塔玛拉那里,然后去瑞安那里。
你好,非常感谢你的演讲。我实际上写过并思考过预先犯罪很多,所以听到它真是太棒了。迫不及待地想读这本书。我的问题是关于种族。你给人物取名为萨拉·侯赛因是有原因的,当然,在犯罪化中,你知道,
种族、民族、宗教在人们被视为潜在罪犯或已经犯罪的方式中具有分量。所以我想知道你是否可以稍微强调一下你在两者之间的决策过程,嗯,你人物的命名,种族是否在你的书中扮演的角色中扮演了角色,可能。是的,不,这是一个很好的问题。所以……
我认为这是一个好问题的原因是,当我谈到监控是一个全球系统时,此时的科技监控是普遍的。是的。但普遍并不意味着中立。所以在书中,这个人物像我一样。她是摩洛哥人,与众不同。
我所有的书都是关于摩洛哥人物的,因为这就是我感兴趣的写作内容。种族确实参与其中。这就是为什么这本书从机场开始,因为对于有穆斯林背景的人来说,这是一个极度监控的地方。
所以当她被拉到一边并被问到所有这些问题时,她开始发脾气,她说:“我,这是为什么?”当然,警官非常生气。他说:“当然不是,你知道,我们只是在做我们的工作。”但你知道,作为读者,你知道这显然是她被拉到一边的原因。
而我在这算法计算你的风险分数的方式中暗示的一件事是,表面上,所有这些构成评估你的风险分数的因素似乎都是一样的,似乎是普遍的,对吧?所以每个人都有……
我不知道,比如驱逐状态。你有没有被驱逐过?是或否,对吧?所以它看起来像是一个每个人都必须回答的问题。但实际上,这些数字在不同种族之间不会相同。所以它本质上是在看……
种族和阶级,但它提出的问题的方式是中性的。所有这些都进入算法。所以算法实际上给出了一个相当的,它再现了某种
关于犯罪的预测,犯罪在社会中已经被监管的方式,如果这说得通的话。所以是的。所以你问题的简短答案是,是的,种族确实扮演着角色,但它是通过这些风险分数来实现的。其中一件如此有趣的事情。所以,你知道,萨拉当然被拘留了,这本书的大部分内容都是关于她的经历。但她,她,
她坚持认为,即使发生了这么多事情,她受到了如此糟糕的待遇,她仍然保持着与其他被拘留者联系的能力。而且,我认为,她愿意相信人类有能力善良,有能力成为你可以与之联系的人,尽管她正在经历这些事情。
我想知道你是否可以稍微探讨一下这一点,因为其中一件事是,嗯,是整个活动的主题,是关于共同点。而这个活动挑战我们思考的想法和问题之一是,在一个日益数字化的世界中,是什么将我们联系在一起。
所以我想知道她的能力。她不仅生活在一个非常数字化的近未来世界,而且她还受到了解读这些数字数据的其他人类的糟糕对待。她怎么能保持这种状态?你认为保持这种状态对我们来说也很重要吗?这是一种反击的方式?嗯,简短的答案是肯定的。但我认为在她故事的开始,这并不是书的开始,
但当她在机场被拉到一边并被送到这个被称为麦迪逊的拘留中心时,当然,当她到达时,她仍然处于震惊之中。她不相信她应该被送到那里。她是无辜的。她什么也没做。所以她认为,她坚持认为这是一个错误。
所以,当然,因为她是无辜的,所以只能是一个错误。在文书工作中,在这个犯罪风险分数的计算方式中,有一些错误。某种让她出去的方法。所以当她第一次到达时,她……
有点把自己与设施里的其他人隔离开来,因为她想,嗯,我不像他们。我不是因为我有犯罪风险才来这里的。我什么都没做错。肯定在某个地方出了错。这需要她一些时间
当然,这本书在她在那里一段时间后才开始。但这需要她一些时间来真正意识到她与设施里的其他人并没有什么不同。而且,实际上,她确实与他们有一些共同点。所以在书中,她真正完全意识到自己是这个社区的一部分,这就是它是什么。这是一个社区,对吧?
而且她需要培养这个社区,并且
通过这个社区找到摆脱那个地方的方法。我不知道这是否回答了你的问题。是的。我想我还想知道,因为我认为我们很难联系,特别是当我们已经确定人们是某种特定的人时。比如,如果我是一个错误,这里其他人都是准确的。你知道我的意思吗?这是什么,我们如何克服这一点?
我们正在与莱拉·拉拉米交谈,您正在收听论坛。我是米娜·金。我答应瑞安我们会接下来去瑞安那里,所以瑞安在哪里?你之前谈到过这些公司、政府和其他实体提供的一些激励措施,这些激励措施让你如此愿意将大量你极其私人的数据提供给他们。这可能是方便,也可能是某种
上瘾可能是很多不同的东西。很高兴听到朋友们越来越怀疑所有这些类型的实体。但我认为还有一种普遍的态度,你知道,我没有……如果我没有隐藏什么,因为我是一个好人,一个行为端正的公民,
如果我只是把我的所有信息都给他们,有什么区别呢?因为我没有他们可以用它来对付我的东西,因为我是一个正直的公民。那么,你对这种普遍的态度有什么回应?我很想知道。谢谢。嗯,我认为答案是我们现在已经看到的东西,那就是这种态度的问题在于
犯罪的概念本质上是人为的,对吧?我的意思是,合法与非法之间的界限并非一成不变。它不是固定的。它会随着时间推移而变化。有些事情曾经是犯罪,例如吸食大麻,现在不再是犯罪了。还有一些事情过去不是犯罪,现在是犯罪了。所以犯罪是可以改变的。
而将所有这些数据掌握在本质上只有五家公司手中的问题在于,根据这条线的移动位置,你本质上是,他们有一种方法,比如他们有足够的数据来确定你可能在哪一边。所以想象一下,如果你有一个政府正在进行,你知道,
你知道,大规模清除,我不知道,例如学术界。想象一下。然后它就成为可能,对吧?因为此时所有这些数据都是可用的。所以这只是一个决定这条线在哪里,你知道,你可能认为第一修正案意味着
你有权抗议和平集会等等,那么其他人就可以上台说,实际上,这部分内容是,你知道,我们将从1956年的法律中寻找。突然之间,这实际上不再是将要应用的第一修正案的定义。所以,所以,
仅仅因为你是一个守法的公民,你没有什么可以隐藏的,并不意味着这些数据应该掌握在其他人手中。底线是,你拥有你的身体,你的身体正在产生这些数据,因此这些数据是你的。它不属于另一个,另一个,并且
而这本书的背景设定在未来。两本书之前,我写了一本设定在16世纪的书,讲述的是西班牙征服者登陆佛罗里达并将佛罗里达宣布为西班牙王冠所有权的故事。
我可以讲这个轶事吗?这非常非常简短。所以,征服者所做的事情之一,这是真的,他们从1513年开始这样做。每次西班牙远征新世界都必须这样做。他们必须阅读一份名为《要求书》的文件,它基本上告知土著居民,他们从此成为
他神圣的帝国陛下的臣民,他们必须服从刚刚降临到他们土地上的骑士。他们必须皈依,他们必须服从命令,如果他们应该反抗,那么这种反抗将受到迅速的惩罚。
在写这本书时,我真正看到的是,大科技公司本质上是在做同样的事情。它已经宣称拥有我们所有数据的所有权,这些数据是由我们的身体产生的,属于我们,并且
并且本质上是,你知道,有一份文件说所有这些数据都属于他们。这就是今天的条款和条件。它不是《要求书》,而是条款和条件。然而,莱拉,我认为我在一次采访中读到你说写这篇文章帮助你摆脱了对技术的恐惧。是的。那么,是怎么做到的呢?是的。是的。
确实如此。它真的做到了。因为它让我意识到几件事。首先,没有监控系统。因为我的意思是,我已经花了大约10年时间来思考这个问题。我只是认为,你能想到的每一个监控系统,总会有一个漏洞或监控系统遗漏的东西,那就是人类具有无限的创造力。
和创造力。所以很难完全控制和监控所有时间,每天24小时,每一个想法。你知道我的意思吗?特别是如果你在一个社会中大规模地这样做。所以也许对一个人你可以,但对一个社会不行。所以它只是……
所以这是一件事。然后我还意识到,关于我们的任何数据都无法真正捕捉到我们的想法、行为、感受、爱的方式。就像我们比收集到的关于我们的数据复杂得多。所以这两件事,它只是……
说实话,这给了我希望,因为我觉得我们一直在,我们总是,我们有创造和改变的能力。是的,我认为这是一个很好的结束点。而且我真的很想感谢你,莱拉,今天与我们交谈。我想感谢我们的观众提出的所有精彩问题以及收听这次对话。所以感谢您的到来。谢谢。
谢谢。
詹妮弗·吴和阿什利·吴是我们的参与制作人。苏西·布里顿是我们的首席制作人。我们的工程师是丹尼·布林格、克里斯托弗·比尔、凯瑟琳·莫纳汉和克里斯托弗·格里利。我们的实习生是布莱恩·沃和杰西·费舍尔。凯蒂·斯普林格是KQED播客的运营经理。我们的新闻副总裁是伊森·托宾-林赛,我们的首席内容官是霍莉·克纳南。我是米娜·金。祝您周末愉快。
论坛制作资金由约翰·S·和詹姆斯·L·奈特基金会、慷慨基金会和公共广播公司提供。对KQED播客的支持来自伯克利剧院,呈现Aves,一部关于记忆、宽恕和意外转变的引人入胜的新剧。
5月2日至6月8日演出。更多信息请访问berkeleyrep.org。问候,繁华小镇。Xfinity Wi-Fi正在蓬勃发展!Xfinity结合了互联网和移动的力量。所以我们在家和外出时都能获得闪电般的速度!这就是我们的制作人将我们的广播节目混合在一起的想法!Xfinity!
嘿。