Deep Dive
Shownotes Transcript
现在比以往任何时候，劳氏都知道您不只是想要低价。您想要最低价。凭借我们的最低价保证，您可以依靠我们在所有家居装修项目中获得具有竞争力的价格。如果您在其他地方找到同一商品的符合条件的更低价格，我们将与之匹配。劳氏。我们提供帮助。您节省开支。价格匹配适用于同一商品。符合条件零售商的当前价格。适用例外情况和条款。了解我们如何在 Lowe's.com/lowestpriceguarantee 上匹配价格。
本播客的支持来自 BU Questrom 商学院 Mehrotra 研究所的播客《Is Business Broken？》。最近的一集探讨了当前的政治环境如何影响当地的企业。请收听本播客的结尾部分以获取预览。WBUR 播客，波士顿。
这里是《On Point》。我是德布拉·贝克尔，代替玛格纳·查克拉·巴蒂主持。一个被称为“齐齐安人”的邪教组织被认为是一系列发生在美国各地的暴力死亡事件的幕后黑手。
2022 年除夕夜，丽塔和理查德·佐施科在家中被枪杀身亡，地点位于费城郊区。根据法庭文件，一个环形摄像头捕捉到了听起来像是喊叫“妈妈”的声音。然后是，“哦，我的上帝，哦，我的上帝”。这对夫妇的女儿米歇尔被问及这起凶杀案，但从未被指控。米歇尔与齐齐安人有关联。她后来与该组织的创始人一起被捕，
此前，2022 年 11 月，加利福尼亚州的一名房东柯蒂斯·林德被剑刺中胸部。
他的朋友帕特里克·麦克米兰告诉当局，林德是在一起关于未付租金的纠纷中被刺伤的。麦克米兰说，他 80 岁的房东遭到瓦列霍房产的其他租户的残酷袭击，林德正在驱逐他们，因为他们多年来一直没有支付租金。现在，林德在袭击中幸存下来，但他在今年 1 月再次被刺死。
同样在 1 月，佛蒙特州的一名边境巡逻人员在一次涉及两名人员的交通拦截枪战中丧生。当局说，这名特工昨天在科文垂的 91 号州际公路上执行公务时丧生。正如您在此处看到的，它位于加拿大边境以南约 20 英里处。联邦调查局表示，枪击案中的一名嫌疑人也被打死，第二名嫌疑人（一名美国公民）受伤并被拘留。
据称参与所有这些暴力事件的人与一位名叫齐兹的变性女性博主有联系。该组织似乎被一位匿名博主昵称为“齐齐安人”。齐齐安人起源于硅谷人工智能研究和一个被称为理性主义者的群体。那么，齐齐安人是谁？他们相信什么？他们与人工智能研究领域的理性主义者之间有何联系？
麦克斯·里德现在加入我们，回答其中一些问题。他是记者，也是 Substack 时事通讯《Reed Max》的作者。麦克斯，欢迎回到《On Point》。你好，德布拉。你好吗？我很好。让我们从齐齐安人这个群体开始吧，我们应该说他们可能不这么称呼自己，以及被称为齐兹的该群体的创始人。告诉我们更多信息。
所以齐兹来自阿拉斯加。她在费尔班克斯上学，并于 2016 年搬到海湾地区。她想在科技行业找到一份工作，并参与所谓的 AI 安全或 AI 对齐工作，当时，您知道，我们最近可能都听说过这些术语，因为人工智能行业发展得如此之大。但当时，这更像是一种利基关注点
其主要思想是，随着我们创建越来越强大的 AI 系统，我们可能有一天会创建一个如此强大、如此智能、如此有意识的系统，以至于我们有义务确保它与人类价值观相一致，可以这么说。当时，并且现在仍然是所谓的理性主义运动（倾向于自称为理性主义运动）的主要关注点。她开始与一群对类似想法感兴趣的人交往，特别是
她会去听讲座，参加研讨会，与人交谈。在某个时候，她与理性主义者分道扬鑣。基本上，她开始相信他们没有认真对待 AI 对齐问题，该运动的一些领导者存在公关问题。
当她和我们称之为齐齐安人的一群朋友抗议理性主义者的聚会时，她第一次引起了很多人的注意，尽管我认为他们不会自称齐齐安人。他们都戴着盖伊·福克斯面具，就像匿名者一样，分发传单，指示人们摒弃理性主义者的领导。他们被捕了。他们交了保释金。这发生在大流行之前。
因此，法院的审理速度极其缓慢，他们可以说是消失了。接下来的几年里，关于发生的事情的记录很少。然后我们来到了瓦列霍的那次争执，在那里，一位 80 岁的房东拥有一块房产，他将这块房产出租给人们停放房车，很多艺术家和程序员，
最终与一群居住在这处房产上多年未付租金的人对质，他们最终用武士刀从背后刺伤了他。他射杀了一名女子艾玛·博哈尼安，后者死亡。另一名名叫索姆尼的人（自称索姆尼）实际上刺伤了林德，幸存了下来。事实证明，齐兹（一段时间以来没有人听说过，她的律师此前曾表示她可能已经去世）还活着，并且当时在场。
无论出于何种原因，警察实际上并没有逮捕齐兹。他们把她送到了医院，因为她说她很痛苦，然后她再次消失，直到几周后在宾夕法尼亚州再次出现，在那里她因妨碍司法公正和扰乱公共秩序而被捕，这与佐施科夫妇的凶杀案有关，他们的女儿米歇尔（在线化名为 Plum）是齐兹的朋友。
齐兹再次获释，再次基本上没有消息。然后，正如我们听到的那样，在 1 月，卡尔·林德被刺死，据称凶手是一名名叫马克西米利安·斯奈德的数据科学家，事实证明，他此前曾与一名名叫特蕾莎·杨布朗特的女子申请结婚证，而特蕾莎·杨布朗特恰好是佛蒙特州那场枪战中涉及的人员之一。所以此时，有足够的……
证据表明齐兹参与了多起犯罪，因此她被捕，截至目前，她仍然在狱中。你需要一张图表来追踪。这非常像一个软木板和红线案。跟踪每个人。但我猜这里真正的大主题或主要主题与这些谋杀案有关？就像为什么
你知道，理性主义者，如果他们确实应该使用科学思想来改善世界和行善，我们如何从理性主义者转变为显然使用暴力的齐齐安人？这一切是如何相互关联的？你知道吗？
是的，这是一个很好的，也是一个很难回答的问题。我的意思是，值得注意的是，所谓的理性主义运动，在这种语境下以及在海湾地区和硅谷周围被称为理性主义，可能与勒内·笛卡尔或那些可能自称为理性主义者的哲学家的理性主义并不完全相同。在某种程度上，它是一种自助运动，在某种程度上，它也是对人工智能和其他各种长期思考特别感兴趣的人们的聚集地。其特征不仅仅是运用理性来过更好的生活或弄清楚好的政治是什么，而是要
摆脱不合理的、因此阻碍你理解生活中真正最好的东西的传统智慧或道德。我认为在实践中这意味着进行这些非常抽象的哲学游戏和实验，然后尝试根据你从中得出的结论来生活。
所以，也许这个不太困难的版本或不太令人担忧的版本最终被称为有效利他主义，这是一种慈善理念，即如果你在捐款，如果你在向慈善机构捐款，主要目标是尽可能多地挽救生命。如果你仔细计算并查看所有不同的方法，
事实证明，购买蚊帐以预防撒哈拉以南非洲的疟疾实际上是按美元计算的最佳挽救生命的方式。但我仍然只是……我不是想打断你，因为我们不会讨论这个问题，但我仍然试图弄清楚齐齐安人对这种理性主义的亚类采取了何种极端措施，以及是什么原因导致他们这样做？
我的意思是，答案基本上是素食主义。我的意思是，有三四种不同的方法可以做到这一点。是的。我的意思是，想想一个人如果相信工厂化养殖或杀害动物是犯罪行为，如果他们相信动物是有知觉的并且会感到疼痛，那么这个人可能会多么强烈地相信这一点。如果你认真对待这个想法，如果你认真对待这个想法以至于你围绕它重新安排你的生活，你可能会开始相信你有理由为了做到这一点而杀害人们，或者你在追求目标的过程中所夺去的任何生命，充其量都是
是最终正义事业中的附带损害。我认为从素食主义者到杀人犯是一个很大的飞跃。我不知道。好吧，我的意思是，我不想为齐齐安人辩护。好的，好的。所以正如你所说，齐兹无论如何都将这些想法推向了极端，或者至少是她对所谓的齐齐安人成员的辩护方式。但我很好奇，还有其他事情
表明这可能远远超出了人工智能，她所宣扬的这些思想和哲学不仅仅是人工智能或人类的命运。它实际上是关于人类本性的，对吧？是的。所以齐兹有这个想法……
我的意思是，你知道，我们想为所有这些做个前言。所有这些都发生在博客上。齐兹正在写这些博客，这些博客宣扬着这些漫长的哲学，我认为你或我如果读了它们，会说，这听起来很疯狂。我正要这么说，我怀疑你会对自己说，这听起来很疯狂。但齐兹的想法是每个人都有……
你的大脑中有两个独立的半球，这些半球包含不同的个体或个性，几乎就像解离性身份障碍一样。这些半球可以被分解并赋予独立的意识，以便它们各自拥有自己的身份和个性。你可以通过服用致幻药物来做到这一点。你可以通过实验性睡眠剥夺来做到这一点。而且，
齐兹对人有一种道德等级制度，有些人只在一个大脑中是好的。就“好”而言，她的意思是承认动物的个性。有些人实际上在两个大脑中都是好的。在两个大脑中都是好的的情况极其罕见。齐兹是少数几个在两个大脑中都很好的人之一。当然。所以正如你所说，齐兹在监狱里。它还是一个群体吗？它还是一股力量吗？齐齐安人还在吗？
据我们所知，并没有。我的意思是，这始终是一个规模相对较小的群体，而且他们中的许多人现在坦率地说已经死了或在监狱里。你知道，试图追踪这个故事的一个有趣的事情是，对于一个大部分活动都在线上的群体来说，成员和齐兹本人设法保持了相当快乐的状态。
设法保持了相当低调。因此，实际上很难确切知道任何给定时刻每个成员在哪里，他们在做什么，他们在做什么。但似乎并没有出现替代领导者，比如说，或者齐齐安人的其他成员决定在齐兹入狱后继续进行更多犯罪活动。好的，我们正在谈论一个被称为齐齐安人的群体。当我们回来时，我们将进一步讨论
齐齐安人与硅谷以及人工智能的联系。我是德布拉·贝克尔。这里是《On Point》。本播客的支持来自 BU Questrom 商学院 Mehrotra 研究所的播客《Is Business Broken？》。在最近的一集中，马萨诸塞州商业圆桌会议的主席对关税、狗狗币等等发表了看法。有一种哲学认为存在浪费，其中一些东西是浪费的。
我们需要解决这个问题。这比用链锯砍掉它更难反驳。关注你获取播客的任何地方，并收听本播客的结尾部分以获取该集的预览。
在 12 月 3 日举行的马萨诸塞州女性会议上投资于自己和你的团队。加入 WBUR，建立联系，发现新的机会，并掌握对您和您的整个团队都有益的技能和策略。不要等待。立即注册，并从西蒙妮·拜尔斯、梅尔·罗宾斯、戴安娜·尼亚德等演讲者那里获得灵感。
你不会在其他任何地方找到这些见解或联系。加入我们在 12 月 3 日举行的马萨诸塞州女性会议。在 maconferenceforwomen.org 获取门票。
齐齐安人组织起源于硅谷及其人工智能研究社区，以及另一个自称为理性主义者的组织。因此，我们现在想花一点时间仔细看看理性主义者是谁。理性主义的主要思想家之一是埃利泽·亚霍夫斯基，他以对人工智能危险的警告而闻名。在上个月的罗宾逊·厄哈特播客上，亚霍夫斯基解释说，他担心人工智能会杀死所有人。
人工智能公司不断推动他们的人工智能变得越来越聪明。他们最终会得到一些比我们更聪明的东西，可以杀死我们，并且有动机杀死我们，不是因为它天生就想要我们死，而是因为它在宇宙中获得它想要的东西最多。
所有的原子都被用于不是运行人类的事情。事实上，穆尔科夫斯基现在非常担心超级智能人工智能会使人类灭绝，他说根本不应该制造人工智能。他建议当局采取措施限制所谓的 GPU（图形处理单元），这是一种用于训练人工智能的技术。对 GPU 实施国际压制，而不是在一个国家。
这是每个人的问题。我的意思是，我对当前局势的基本描述是，如果有人制造它，每个人都会死。你不能制造它。你不会在接下来的几年里解决对齐问题。所以，麦克斯·弗里德，在休息之前，你正在谈论理性主义者以及齐齐安人实际上是如何理性主义者的一个分支。你能解释一下这种几乎是致命的、人工智能的想法是如何与理性主义思想相符的吗？
是的，我的意思是，我认为这是理性主义者喜欢对自己进行的哲学实验中最突出的一种。实验是这样的，你知道，人工智能正在进步。它最终会发展成超级智能。如果这种超级智能没有恰当地分享人类的价值观，它可能会意外地或故意地摧毁。
杀死我们所有人并摧毁整个世界。我个人承认，在对正在发生的事情的分步描述中，有很多逻辑飞跃。我认为理性主义者会坚持说我过于简化了它，他们在某种程度上是对的。但这就是基本方向。由于所想象的末日规模如此之大，因此对联盟的追求
确保人工智能是安全的，或者正如尤德科夫斯基现在相信的那样，根本不制造人工智能，排挤了任何其他需要在世界上做的事情的关注或想法。那么有多少理性主义者呢？我的意思是，我看到一些建议说，有数十万人参与这种思考并考虑其影响，我们应该说，不仅是人工智能，还有世界上的其他问题。
是的，我的意思是，如果你包括最广泛意义上的理性主义者，数十万这个数字并不疯狂。而且，你知道，我认为有很多受理性主义思想或理性主义运动强烈影响的人绝对不同意尤德科夫斯基喜欢提出的那种人工智能末日情景。
而且，你知道，理性主义不是……它不是一个教会。它不是一个会员组织。它是一些网站和一些非营利组织，人们聚集在周围，并且在各地的城市都有聚会。我认为这种理性主义的真正核心，主要集中在海湾地区，参加研讨会，参加研讨会，并深入参与这些网站上的辩论，其规模远小于数十万人。你知道，我会限制它。最多几千人，可能更少。然而，我们确实知道人工智能界的知名人士，彼得·泰尔，埃隆·马斯克，对吧？他们从理性主义社区内部招聘。他们在理性主义者的活动上发表过讲话，并做过类似的事情。所以是
理性主义几乎是对硅谷心理的观察，还是曾经是？我的意思是，你能这么说吗？是的，我认为可以。我的意思是，你知道，理性主义影响的最突出的例子之一是，OpenAI 成立之初是一个非营利组织，旨在构建与人类价值观相一致的人工智能，而不是一个明确的理性主义项目，但肯定与理性主义价值观一致。
我认为 OpenAI 的发展历程，从这个非营利组织到萨姆·阿尔特曼现在试图将其转变为一家更类似于苹果或脸书的盈利公司，有点反映了……
我认为许多硅谷巨头对理性主义和人工智能的矛盾态度。你说，这是一个对心理的观察吗？你知道，尤德科夫斯基试图讲述的人工智能征服世界的科幻故事，如果你换掉几个专有名词，也是一个关于软件征服世界的科幻故事，也是一个关于资本主义征服世界的科幻故事。对我来说，我认为有一种投射
正在进行，你知道，人们被这些故事所吸引，因为他们可以看到它在某个地方发生的版本，但难以面对它已经发生的方式。但我们谈论的这些人都是非常杰出的人，我们至少可以说，并且可能是这些信仰的信奉者。
是的。你知道，这又是过去几年硅谷一直在发生的一种有趣的转变，有一些非常杰出的人，特别是人工智能研究人员，他们是被购买和支付的理性主义者，他们真正相信即将到来的 AI 奇点可能会对人类造成灾难性的影响。
而且很长一段时间，我认为这对像阿尔特曼或微软首席执行官萨蒂亚·纳德拉，甚至埃隆·马斯克来说都是一个有用的虚构故事，因为存在一个……这几乎就像一个营销工具。你知道，我们非常接近于创造内容。
在我们电脑里的一位神。它感觉科幻、未来派且疯狂。现在我们已经到了一个可能开始从人工智能中赚钱的地步，而你们所有这些家伙都在大肆宣扬它实际上可能会杀死我们所有人，理性主义变得非常不方便，因为它曾经占据如此突出的地位。所以你会看到，你知道，像 18 个月前 OpenAI 那样的事情，萨姆·阿尔特曼因为这些辩论和讨论而被短暂地赶下台。
所以，你知道，理性主义在硅谷仍然具有巨大的影响力，但我认为它的影响力可能正在减弱，或者它正在发生一些变化，因为人工智能作为该行业的利润中心变得越来越突出。现在，你在休息前提到了有效利他主义的作用。所以我想知道你是否可以为我们稍微解释一下，并解释一下。这基本上是许多理性主义思想的资金支持者吗？
在某种程度上，你知道，有效利他主义，正如我认为我在休息前所说，它的分支更专注于诸如蚊帐以预防疟疾之类的事情，并且真正地试图尽可能多地挽救生命。但它确实有一个非常抽象的版本，也许最著名的是哲学家威尔·麦卡斯基及其所谓的长期主义思想，这实际上是说你应该——
将你的资金和慈善和慈善努力投入到不仅仅是今天活着的人，而是将来会活着的人身上，这些人可能比今天活着的人更值得我们考虑。而且，这同样是一种抽象的哲学游戏，最终会产生现实世界的影响。萨姆·班克曼·弗里德非常有名地
相信所谓的“赚钱捐赠”，那就是你应该尽可能多地赚钱，以便尽可能多地捐款，并将其引导到你喜欢的有效利他主义慈善机构。而且，你知道，这并不是一个很大的飞跃，认真对待这一点，然后决定，好吧，如果这意味着我赚更多的钱以便捐赠更多
给更好的慈善机构，以进一步实现这些目标，那么一点欺诈算什么呢。你知道，就像在任何形式的功利主义中一样，你很快就会遇到目的是否证明手段正当的问题。对于像萨姆·班克曼·弗里德这样很多人来说，目的非常清楚地证明了手段是正当的。
所以当我们谈论这个群体，齐齐安人时，那么解释一下那里的分裂。是因为即使在齐齐安人开始积累一些势头的那几年里，已经很清楚理性主义正在衰落或不一定是这样吗？不。所以当齐兹真正脱离时——我会说——
对所有这些进行对冲的是，这是一个……理性主义者的真正核心群体是一个紧密联系的，我会说情感强烈的人群，我认为在某种程度上，这种分裂的发生仅仅是因为个性不一致，我认为你知道关于齐兹的情况，她与许多其他人相处不好，难以融合和凝胶，这也许并不奇怪，但她最初的抱怨围绕着……
她与朋友和追随者一起抗议并分发小册子的地方，是认为理性主义的核心存在腐烂，这与当时关于性侵犯、强奸甚至恋童癖的相当严重的谣言有关，这些谣言发生在该组织的上层。
有趣的是，齐兹并没有完全说这是胡说八道，因为因为这些人是讨厌鬼、掠食者和坏人。她说，这些杰出人物被指控是讨厌鬼和掠食者的事实将破坏我们的运动。
这是一个复杂的问题，但此后通过大量细致的报道已经发现，理性主义中确实存在一种流行的性骚扰问题，有很多人正在以某种方式受到侵害。我认为这可能有助于已经发生的一些磨损以及影响力的减弱。是的。
那么除了齐齐安人之外，还有其他分裂的群体也说过这里存在问题，我想采用其中一些原则并以不同的方式继续努力，也许会有不同的领导吗？
是的，我的意思是，我认为肯定有很多分裂的群体或仍然可能自称为理性主义者的人。但正如我所说，我不相信尤德科夫斯基的整个 AI 理论。还有一些群体可以被合理地滥用，就像齐齐安人一样，被认为是邪教或类似邪教的组织。已经有一些不同的文章写道
你知道，在 2021 年，佐伊·克西写了一篇关于一个名为 Leverage Research 的非营利组织的文章，这是一个与理性主义相关的组织，它以所谓的调试会议为特色，他们会在会议上表达他们内心深处的恶魔，然后使用所谓的调试工具将其从他们的系统中清除。他们期望接管美国政府。这听起来很奇怪。
对我来说非常像一个邪教。杰西卡·泰勒是一位也写了很多关于齐齐安人的文章，并且参与了两个最突出的理性主义者组织——机器智能研究所和应用理性中心——的女性，她写了她在这两个组织中的经历，同样也涉及到这些所谓的调试、重新编程的想法，感觉她因为正在处理这些宇宙级的顶级问题而与朋友和家人隔绝，
有一位名叫迈克尔·瓦萨尔的人被指控在其周围营造了一种类似邪教的氛围。所以，你知道，你不想过度依赖这些确实是创造军队并在某个地下室里摆放床铺的特定教派或邪教的想法。但显然，理性主义运动的核心存在某种动态，
在理性主义运动的核心，这种动态导致了这些类似邪教的组织的形成。对。那么是什么样的动态呢？你会说这几乎是成员的心理动态，他们认为要离开传统的社会思想并提出自己的想法吗？那里可能有一些弱点被利用或操纵。我的意思是，你如何描述这里发生的事情？是的。
是的，我的意思是，我认为理性主义本身，理性主义的原则往往会助长对邪教的易感性。你知道，如果你想成为一个理性主义者，你需要
好奇。你需要想改善自己。你需要对你自己的某种认识论、本体论框架感到不安全。你需要相信可能存在一个更高、不同、更好、更理性的真理，而你目前还无法获得。你需要能够追求它。然后你还需要能够遵循你达到的结论。你可以说，你需要能够充分地遵循它们。
再说一次，这些都是，你知道，这些是我认为在抽象中或在个体中，我们可能会说这是好的。好奇心是好的。很好，你知道，要认识论上谦逊，并说，我真的不是什么都知道。但是你把这一切放在一起，你把它放在一个地方，你把一群感觉自己已经真正弄清楚了的人放在一起，他们感觉自己理解即将发生的事情。你有点……
这种邪教的温床，你有一群人可以被说服。你知道，我认为这里有一个历史背景，那就是加利福尼亚州，尤其是海湾地区，长期以来一直是寻求者和探索者的温床，他们来自全国各地，来到这些模糊的自助、模糊的政治、模糊的任何团体中，结果是
或多或少与邪教难以区分，有时甚至是相当暴力的邪教。所以我认为，你知道，正在发生的事情的一部分，例如，我不认为Ziz的群体主要由跨性别者组成是偶然的。并不是说，你知道，这与跨性别者本身有什么内在联系，但如果你离家出走，也许是因为你的父母并不真正接受你的身份，你来到一个新的地方
你正在努力解决身份认同问题。你正在努力解决归属感和家庭问题。你非常聪明。你是一个程序员。你对计算机感兴趣。你对哲学感兴趣。你可以看到，你知道，在错误的时间出现在错误的地方，你最终可能会遇到一群人，他们会利用你。所以你认为这是一个共同的特点。与其说是其他任何东西，不如说是群体成员的一个特点。
是的，我认为也许那些容易受到这种影响的人。我认为还有另一种说法是，那些可能总是会成为某种邪教领袖的人。你知道，这个运动也非常友好，专横、有魅力，我是对的
我知道什么是对的人，呃，他们可以这样走进来，引起注意。嗯，你知道，我认为，我认为这是，这是，这是，这是，
一种很难参与其中而不发现自己成为邪教式思想的牺牲品的混合物。对，但通常情况下，难道不也必须有一种恐惧吗？如果你不认同这种想法，就会发生一些事情的恐惧。那么，恐惧是人工智能毁灭世界吗？这是一个每个人都相信并真正想要努力避免的概念吗？
我认为这是主要的，是的。你知道，我认为对于Ziz来说，恐惧也与，我的意思是，与动物种族灭绝有关，实际上是动物大灭绝。人们担心我们都在参与某种令人难以置信的反感官犯罪，我们需要摆脱这种犯罪。但人工智能是某种占主导地位的，我认为某种人工智能的恐惧是围绕着
围绕着校园，围绕着我们正在谈论的研讨会和团体。我认为……
这种恐惧也有一方面是积极的，那就是相信你正在做的事情非常重要，以至于你可以把其他所有事情都放在一边。为了专注于将要毁灭我们所有人的这件事，你可以把你的家人、朋友、以前的联系、工作以及其他所有事情都放在一边。我们正在谈论理性主义及其在硅谷人工智能研究中的作用。回来后，我们将听取一位从事人工智能研究的人员讲述她在那里
与理性主义者的经历。我是黛布拉·贝克尔。这是《论点》。《论点》中对人工智能报道的支持来自MathWorks，它是用于技术计算和基于模型的设计的MATLAB和Simulink软件的创建者。MathWorks，加速工程和科学领域的发现速度。了解更多信息，请访问mathworks.com。
简要介绍一下我们本周晚些时候正在制作的一个节目。我们正在研究更健康、更长寿的最佳方法。我们想知道你如何看待你的寿命。你现在正在做什么来保持健康，直到老年？你什么时候开始调整你的日常活动？
此外，你对长寿有什么疑问吗？我们将把这些问题交给超级衰老专家埃里克·托波尔博士。通过在On Point VoxPop应用程序中录制消息来分享您的经验。如果您的手机上还没有，只需在您获取应用程序的任何地方搜索On Point VoxPop即可。
您也可以通过617-353-0683给我们留言。这是617-353-0683。我们这小时正在讨论关于人工智能研究和理性主义的辩论。这是一个专注于保护社会免受各种事物侵害的运动，包括失控的人工智能。
现在，索尼亚·约瑟夫在14岁时接触到了理性主义的思想。那时她偶然发现了一篇在线帖子
由伊莱泽·尤德科夫斯基撰写的《哈利·波特与理性方法》。所以它与原来的《哈利·波特》的设置相同，只是在这个版本中，哈利应该像一个超级天才。他就像一个神童。所以他运用他的智慧，也运用理性主义的这些原则来应对魔法世界。而且，它非常像一部小说，重视
理性、能动性、智慧，就像从第一性原理思考一样。所以你会有一些实验，比如哈利和德拉科会试图进行这些科学研究，以确定麻瓜出身的人在魔法方面是否真的不如人。他们发现事实并非如此。
索尼亚喜欢这篇同人小说，她想了解更多。当她大约在2013年上大学时，她发现了一个理性主义者社区，他们在线下和网上见面，讨论人工智能研究和其他想法。所以她开始参加理性主义者的聚会。
毕业后，索尼亚搬到旧金山，从事人工智能研究工作。她的许多室友都是理性主义者。我住过的一栋房子，它是一座位于阿拉莫广场附近的维多利亚式豪宅。你进去后，那里有很多房间，通常还有一个公共区域，人们会聚集在公共区域的沙发上，一起谈论人工智能会杀死我们。很多这些……
许多室友都在那里的两家主要人工智能实验室工作。这些房子经常成为闯入人工智能领域的专业人脉场所。我们会邀请演讲者过来做演讲。我们经常举办派对。这些房子里经常有吸毒行为，但它总是被描述为我们将使用LSD或ayahuasca来
探索意识。它不是以派对动物狂欢的方式来描述的。它被描述为一种知识性的脑力方式。索尼亚说，这个世界可能会变得吞噬一切。所以如果你和一群其他人工智能研究人员住在一个房子里，他们都相信我们两年后就会死，而这就像你周围唯一的事情，就像24/7一样，没有逃脱的办法。工作和生活非常模糊。当然，你还有数十亿美元流入这个生态系统。所以权力动态和关系动态，
以一种我认为充其量是不健康的方式变得模糊不清。最糟糕的是，它实际上会导致这些强烈的邪教式动态。尽管她花了很多时间与理性主义者相处，并且认真对待人工智能安全问题，但索尼亚说她认为自己处于理性主义者社区之外。
她说她不喜欢自己的感受以及她和社区中的其他女性受到的待遇。例如，她遇到一个理性主义者，告诉她他是理性主义者《哈利·波特》同人小说中伏地魔角色的灵感来源。
当我们一起吃晚饭时，他会对我说一些非常令人担忧的事情。比如，你需要从第一性原理思考。如果你从第一性原理思考，很多人类社会都没有意义。比如同意年龄实际上太高了。与年轻女孩，12岁女孩的关系实际上是正常的。这就像一种正常的知识转移。我发现非常有道德问题的事情。但我认为某些自由主义领域中存在一种刻板印象，这些领域与理性主义领域重叠。
你可以重新推导出道德。我们许多视为人权的东西再次成为可以讨论的问题。最终，索尼亚决定必须离开硅谷。现在，她告诉说她想要与一些所谓的“邪教行为”保持距离。
所以她搬到了蒙特利尔，现在她是Meta的访问人工智能研究员，正在攻读博士学位。她说，许多理性主义思想在过去几年中已经广为人知，但对她来说，它们不再具有同样的吸引力。因为大约10年前，它非常小众。
就像，妈妈，我在网上和这个边缘邪教组织聊天。但所有这些想法都变得如此主流，仅仅是因为人工智能已经变得主流。在我看来，这在很大程度上是一件好事，因为当你如此主流时，就很难成为邪教组织。但我确实经常怀念它的神秘方面。就像，
就像成为秘密社团的一员一样。那是索尼亚·约瑟夫。她是一位涉足理性主义者社区的人工智能研究员。马克斯·里德今天和我们在一起。他是记者，也是Substack时事通讯《阅读马克斯》的作者。马克斯，我想知道，你是否认为我们刚才从索尼亚那里听到的关于参与这个社区并可能因此而幻灭的经历是一种典型的经历？
是的，我认为是的。正如我所说，尤其是在疫情期间，许多人来写文章讲述他们的经历。我认为，尤其是那些参与其中并发现自己遭受了您刚才听到的那种故事的年轻女性。
认识到也许在正在发生的事情的核心并不是对理性思想的纯粹追求，而是他们在其他地方经历的相同类型的混乱的社会动态。我知道我们在休息前稍微谈到了这一点，但是……
这里的心理学，这种感觉自己以某种方式很特别的想法。在《哈利·波特》的同人小说中，你知道，关于这个。这是你很特别，你被选中来帮助拯救世界免受这种可怕的事情的想法。我想知道这种重要性的想法在这里是如何发挥作用的。
我认为我想说的一件事是，我认为被吸引到这种类型的人很可能是一个非常聪明的人，他们在学校的社交场合可能遇到了一些麻烦，你知道，所以你可能在数学、科学或阅读方面超过了你的同龄人，你与其他人相处时遇到了一些麻烦，你遇到了这个版本的哈利·波特，比如说，它说的是你，你思考事物的方式，也许
告诉你，你并不一定是怪人。你不是疯子，我并不是说这是一种普遍的经历，但这种经历可以通过各种方式发生，并且这建立在理性主义思想的结构之上，它不是，你知道，你是特别的人，你是你，你是哈利·波特，可以这么说
能够以正确的方式看待世界，能够看到支撑世界的理性结构。你可以成为这个群体中的一员，这个群体将拯救我们所有人免受……
人工智能的破坏。我的意思是，这是一个非常有力的故事，尤其是在你没有得到特别重视或没有感到特别重视的时候听到这个故事。我认为这是人们很容易被卷入其中的一个明显的方式
对。但在许多像这样被描述为邪教式的群体中，他们有方法来约束人们，以确保他们不会说出该群体不想公开的事情，比如你谈到的性骚扰和索尼亚谈到的性骚扰以及诸如此类的事情。那么他们使用的方法是什么呢？有什么吗？如果他们认为某些事情不准确或违背了该群体试图实现的目标，他们会如何报复？
这个问题有几种回答方式。我的意思是，一种是，我认为对于那些注意到性骚扰并感到有必要说出来，但可能仍然相信理性主义基本原则的人来说，影响力在于，如果你说出来，你将破坏我们的理性化使命。
你知道，阻止不良人工智能。所以你需要保持沉默，否则整个事情就会崩溃。另一件事是，你知道，我在休息前提到过，许多人与他们的朋友和家人隔绝，因为这项工作变得所谓的这项工作变得如此耗费时间，以至于他们如此深入地参与其中，以至于他们真的无处可去。所以那里的影响力与其说是威胁，不如说是他们的一种感觉，他们已经
一个人可能已经被完全孤立，没有人可以抱怨，也没有地方可以改变。然后，你知道，我认为最后，最后的挑战
这里的问题是，一旦你参与其中，就很难把自己完全拉出来，如果你进入这个领域是因为你已经以这种部分理性的方式看待世界，那么退出它并准确地看到所有让你陷入困境的联系，这真的很难做到，这是一件非常难以完成的事情。是的。
如果你有什么话要说的话，也许是什么取代了或现在补充了硅谷的理性主义？如果这是某种重要的信条，正如你所说，它正在逐渐消失，并且许多人都在质疑这里到底发生了什么。有什么东西取代了它吗？
不完全是。我的意思是，我认为人工智能作为一项商业努力现在在山谷中是如此的吞噬一切，以至于人们对此非常兴奋。也许不那么像邪教，也许不那么系统化，你知道，
但人们正在争先恐后地寻找他们可以在希望成为真正淘金热中的职位、初创企业和利基市场。你知道，你看到了出现。我们在这里有点深入细节了。对于不想听到这些内容的观众，我深表歉意。但是，那些自称后理性主义者的新群体的出现。
他们可能与理性主义者有相同的担忧，相同的想法，想要突破……你知道，墨守成规的传统智慧，并找到不同的存在方式，但试图抛开尤德科夫斯基式的哲学
书呆子留言板的想法，更多地关注神秘的哲学思想和在世界上生活。你知道，这一切都在变化。而且我不会，我永远不会排除理性主义者，比如说，因为我认为
超越虚假世界进入一个完全理性的美好世界的想法对那些成为程序员和工程师的人具有很大的吸引力。在这方面，硅谷总会有理性主义者。
某种类型的。我认为很多事情将取决于行业的发展方向、资金的来源以及未来10年的发展方向。我想，随着所有这些资金和权力集中在人工智能和这个运动上，我的意思是，你认为这对现在正在进行人工智能研究、正在构建人工智能的人意味着什么？
我的意思是，我怀疑甚至有一些人现在正在收听，感到沮丧，因为我没有说，可能绝大多数人工智能研究人员，无论是学术界还是私营部门，以及在私营公司工作的那些人，都不是硬核意义上的理性主义者，他们并不真正相信即将到来的……你知道，会造成大规模杀戮的机器神
这就是他所说的。停止建造它。
是的。
需要从一个可以随意为你生成文本的东西转变为一个将我们所有人置于……你知道，我不知道，监狱或用核武器摧毁我们或其他什么东西的东西。所以这种过度夸张的末日论调
因为它并没有真正实现，这不仅意味着它多年来受到的重视程度有所下降，而且还意味着从事其他领域、有其他担忧或对人工智能如何运作和如何实施的想法的人获得了更多空间。无论好坏。这并不一定意味着我们将获得对每个人都有益的无害人工智能，但也许我们可以少考虑某种
即将到来的世界末日，更多地考虑人工智能系统在日常政治中的实施方式，比如据说Doge使用某种人工智能系统来制定其削减方案的方式。这是一个迫在眉睫的问题，很容易被尤德科夫斯基式的长期主义者淹没，比如，小心这个东西会把我们所有人变成回形针的问题。嗯哼。
你认为理性主义者和作为理性主义者的一个分支的Zizians的想法，由于所涉及的耸人听闻的事件而真正揭示了理性主义思想和这个社区，这对普通人意味着什么？
你，你知道吗，真的，当你写这篇文章时，你花了很多时间来理解这一点。对于那些不在人工智能研究界的人来说，这意味着什么？马克斯，你从中得到了什么信息？
我认为它让你了解人工智能研究界的一个特定部分已经走到了多远，以及软件行业的一个特定部分已经走到了多远。我认为这是一个非常重要的见解，因为这意味着当你听到像尤德科夫斯基这样的人说，我们需要停止生产GPU，我们不可能再让人工智能发展了。
你可以带着一点……你知道，带着一种认识来做到这一点，这个人只与一个凶杀邪教相差几度，就像一个奇怪的凶杀邪教横跨全国一样。而且，你知道，这并不意味着我们不必听取尤德科夫斯基的意见，但我认为如果我们理解到存在一种社会、心理、你知道，文化、历史动态在起作用，这导致
一种特别具有末日色彩的、几乎是宗教式的对人工智能的看法，这种看法不太可能实现。真的吗？你不认为我们有机会担心某种超级智能会使人类灭绝吗？
不，我的意思是，当然不是基于LLM的，我不会这么说。我的意思是，再说一次，我已经足够使用ChatGPT了，真的不用担心它会胜过我。好吧，我们将接受这个信息。这将是一个充满希望的信息。不要太担心。我保证我没有参与任何邪教，所以每个人都可以非常认真地对待我。马克斯·里德，他是Substack时事通讯《阅读马克斯》的作者。非常感谢你今天加入我们。感谢你的邀请。
我是黛布拉·贝克尔。这是《论点》。本播客的支持来自《商业破产了吗？》，这是波士顿大学奎斯特罗姆商学院梅赫罗特拉研究所的播客。收听最近一集与马萨诸塞州商业圆桌会议总裁兼首席执行官J.D.切斯洛夫的访谈的抢先预览。我认为思考当前环境背后的哲学是有启发意义的。
我认为从哲学上讲，推动它的动力是试图扭转或解决全球化问题。我认为这是一个有趣的辩论机会。我们是否承认我们身处全球经济中，或者我们是否希望更加孤立？上周我们在华盛顿特区时，我们正在就此事进行交谈，有人对我们说，
你知道，我们正在谈论关税在我们每个州造成的这种不确定性。正如我所说，那里可能有大约17个州的圆桌会议。回应是，看，如果我们的国家依赖于另一个国家，如果他们控制我们的供应链，如果存在有利于他们的贸易逆差，那么他们可以在一瞬间影响供应链和我们的经济。这就是当前的倡导者
政策，恐怖主义政策，试图解决的问题，对吧？那里存在不确定性，这就是我们被告知的。这种不确定性是我们想要解决的问题。所以这是一种不同的哲学。因此，如果你希望在全球化、全球经济中减少活动，那么是的，我认为他们所做的事情是有道理的。如果你不相信这一点，并且你相信我们是全球经济的公民，那么也许这不是正确的策略。
通过搜索您获取播客的任何地方搜索《商业破产了吗？》来查找完整剧集，并了解有关波士顿大学梅赫罗特拉商业市场与社会研究所的更多信息，网址为ibms.bu.edu。