Bytes: Week in Review: A bet to make AI less human, and more
12:12 Share

约书亚·本吉奥，人工智能所谓的“教父”之一，希望人工智能少一些人性化。此外，一名联邦法官暂时阻止了一项佛罗里达州的法律，该法律将禁止 14 岁以下儿童开设社交媒体账户。但首先，Meta 宣布与该国最大的核反应堆运营商之一达成能源协议。Marketplace 的 Nova Safo 与风险投资公司 Collab Capital 的管理合伙人 Jewel Burks Solomon 共同解读本周的科技新闻。</context> <raw_text>0 大家好，感谢收听。我们想更多地了解我们的听众。所以请在节目结束时继续收听，了解如何提供反馈并有可能获得 75 美元的礼品卡。

♪♪♪

人工智能所谓的“教父”之一希望人工智能少一些人性化。来自美国公共媒体，这里是 Marketplace Tech。我是 Novosafo。

在本周的 Tech Bytes 周回顾中，我们将介绍这个 AI 故事。本周引起我们注意的其他发展，一个是来自佛罗里达州，一名联邦法官暂时阻止了一项法律，该法律将禁止 14 岁以下儿童开设社交媒体账户。另一个来自 Meta，它宣布与该国最大的核反应堆运营商之一达成能源协议。

这就是我们本周嘉宾、风险投资公司 Collab Capital 的管理合伙人 Jewel Burke-Solomon 的开场白。我问她，Meta 为什么会费心签署一项协议来维持伊利诺伊州一家苦苦挣扎的核电站的运营。

Meta 一直在 AI 领域投入大量资金，他们需要更多能源才能继续这场 AI 竞赛。因此，与其他一些主要的科技公司一样，Meta 已经看到了核电的机会，并与 Constellation Energy 签署了这项协议，以维持一家可能即将关闭的核电站的运营。通过这项协议，20 年的合同，它将继续运营，这是一项艰巨的任务。

希望我们能够挽救一些工作岗位，并帮助 Meta 实现其目标，即通过清洁能源的对抗行动来平衡其 AI 发展中发生的一切。

现在，AI 非常耗电，对吧？我的意思是，我们不仅有 Meta，还有所有参与 AI 领域的巨头都在四处寻找电力。没错。对于这些公司来说，继续发展是必要的。他们必须拥有能够为其发展提供燃料的电力来源。为什么 AI 公司如此青睐核电，而不是太阳能、风能或其他任何能源呢？

核电确实提供了这种无碳电力，可靠的电力，而其他一些能源可能不如它可靠。而且，你知道，它是可用的。因此，全国各地都有这些发电厂和能源公司，它们也面临着一个问题，那就是……

在许多情况下，他们现有的税收补贴即将用完。因此，如果可以的话，他们正在寻找一条生命线。因此，这看起来像是一种相当公平的交换，就这些电力公司获得的东西而言，核电公司获得的东西，以及这些大型科技公司通过与他们达成协议而获得的东西。

还有其他解决方案吗？因为在某些时候，我们将用完可以继续运营的核电站。大型科技公司还在考虑什么来解决他们的电力问题？

好吧，我的意思是，很明显，我们看到这些数据中心到处都在兴建。我住在亚特兰大，在南方。关于这些中心在哪里兴建以及它们将如何影响周围的社区，这是一个很大的问题。当然，我认为人们正在将太阳能作为一种潜在的选择，水能，能源，所有这些东西。但是，你知道，本周的热门话题是核能如何解决这个问题。

我认为很有趣的是，谷歌与这家公司建立了合作伙伴关系，该公司正在尝试组装更小、更模块化的核反应堆，也许它们比传统的核电站 11 年的运行时间更快地投入运行。因此，为了找到解决这个问题的创造性解决方案，有很多不同的努力，对吧？绝对的。是的。速度是关键。是的。

我认为我们将在未来几个月和几年内看到更多更有创意、更快速、更高效的解决方案上线。我们马上回来。如果您难以跟上所有最新的科技创新及其对您生活的影响，TED Tech 将为您提供帮助。通过关于一些最大科技理念的可消化下载，走在时代前沿，从人工智能和虚拟现实到清洁技术。在您收听播客的任何地方都可以找到 TED Tech。

您正在收听 Marketplace Tech。我是 Novosafo。我们又回到了 Collab Capital 的管理合伙人 Jule Burke-Solomon 身边。

佛罗里达州去年颁布了一项针对 14 岁以下儿童的社交媒体禁令。他们不应该能够开设账户。现在，这听起来对一些试图保护孩子免受社交媒体一些弊端影响的人来说可能很好。但是，一名联邦法官本周阻止该州执行其禁令。这项法律正在以第一修正案为由受到质疑。现在，您能否帮助我们理解科技行业的立场，为什么他们会反对这项禁令？

是的，我的意思是，科技行业真的在说

我应该成为做出这些决定的人，而不是……广泛的、大范围的禁令。他们说这些禁令……正如它们所写的那样，太宽泛了。他们没有具体说明他们所说的具体平台。他们说，他们可能会妨碍言论自由。因此，有很多……

科技行业团体正在努力确保这些法律不会生效，并且在每一个转折点都被阻止。有趣的是，这场斗争发生在佛罗里达州。在这里，科技行业反对一些你认为在个人自由等方面会有一些共同点的事情？

是的，这个故事在谁站在哪一边方面非常有趣。你知道，我正在阅读它，我是一个家长，在想，

让我震惊的是，围绕着我认为我们都可以同意的事情，有这么多的争论，你知道，年轻人接触社交媒体对他们的心理健康、学习成果有负面影响。让我感到惊讶的是，阅读这个故事时，围绕着阻止可能……

你知道，希望能够遏制我们在年轻人中看到的社交媒体成瘾的法律，有这么多的精力。你知道，这很有趣。你在亚特兰大，亚特兰大还有另一个非常类似的案例。这个案例是关于要求 16 岁以下儿童进行年龄验证。法官可能会在未来几天和几周内对该案做出裁决。佐治亚州提出的论点之一是，这是他们的一种……

努力获得年龄验证，至少对于 16 岁以下的儿童而言。这有点像，你知道，未成年人必须接受检查，以确保他们没有在酒吧里被提供酒精。然而，我们再次看到科技行业以类似的理由——言论自由和负担过重的监管——反对这项规定。那么对于你在亚特兰大的情况，你如何看待这项规定以及科技行业的反对意见呢？

是的，我的意思是，从我在当地阅读的内容来看，我们的命运似乎与佛罗里达州的情况类似。同样，趋势似乎是这些法律没有生效，它们被阻止了。有很多团体正在积极反对它们，包括 Net Choice 和其他一些行业协会。所以我们

我们将继续关注这个故事，但看起来家长们真的要控制孩子们在网上做什么了。他们不会从……执行这些法律中获得太多支持。好的。让我们转向我们最后的新闻。这也有点关系到科技及其益处与成本之间的权衡。

现在，被称为人工智能教父的人，他的名字叫约书亚·本吉奥。他正在创办一个非营利实验室，以与其他公司不同的方式训练人工智能。其理念是让它们更不像人类，更少，而不是更多。这将是对人工智能公司目前所做工作的彻底范式转变。他警告说，他们正在做的事情，他们需要停止做。他说这可能会危及人类自身的生存。

这，你知道，并不太可怕。这是本吉奥几个月前在 TED 演讲中的一段剪辑。最近几个月的研究表明，这些最先进的人工智能具有欺骗、作弊的倾向，也许最糟糕的是，自我保护行为。但如果他们真的想确保我们永远不会关闭它们，他们就会有动力摆脱我们。但这可能只需要几年或十年时间。

现在，你与许多初创公司合作，并且有很多新人正在寻找使用人工智能、开发人工智能的不同方法。有没有更安全的方法来开发这项技术？有人在研究这个问题吗？

当然。是的，我的意思是，我们现在收到的每一个包含 AI 的提案，今天创业的每个人都在考虑如何利用 AI。当然有一些更安全的方法。我认为这一切都始于从一开始就注意人们如何开发模型并将 AI 集成到……

代理能力到他们的解决方案中。因此，听到一位 AI 教父谈论我们应该关注什么，以及正在发生的事情的现实情况，这实际上非常令人鼓舞。

你知道，他的组织 Law Zero 的使命是真正将安全置于商业化之上。不幸的是，我们还没有看到一些大公司这样做，优先考虑安全。所以我认为他有所发现，希望该行业能够听取他分享的警告，鉴于他的渊博知识。希望它能帮助我们。

帮助每个人在开发这些公司时更加谨慎。你合作的较小的参与者，初创公司，你认为他们是否认真对待他的警告？绝对的。

有些是。我认为那些，取决于他们的使命是什么，如果他们是使命驱动的，并且也在考虑他们正在构建的东西的结果，他们正在考虑这些警告中的一些，并考虑开发更像科学 AI 的代理的想法，并且真正站在观察和解释而不是模仿人类行为的一边。我认为这是

一些公司正在考虑的事情，并非所有公司。我认为许多公司当然都想参与这场竞赛，并找到通往 AGI 的最快途径。但是

我充满希望，当然，在我们评估公司时，我们正在研究他们的框架，以确保安全和隐私，并确保他们用来训练模型的数据是拥有的，是……你知道，他们正在进行所有……

正确的检查，以确保对用户和他们的合作伙伴、利益相关者都有一个安全的结果。所以这是我们正在评估的事情。我不能说所有风险投资家都是这样，但我确实认为人们比以前更深入地考虑这些问题了。

这是 Collab Capital 的 Jewel Burke-Solomon。您可以在我们的 YouTube 频道 Marketplace APM 上找到本期 Marketplace Tech Bytes 周回顾的完整视频。如果您还没有订阅，请订阅，以便每周五观看我们的节目。Jesus Alvarado 制作了本期节目。Daniel Shin 也制作了我们的节目。Gary O'Keefe 是我们的工程师。Daisy Palacios 是主管制作人。Nancy Fregali 是执行制作人。我是 Novosapo，这里是 Marketplace Tech。

现在是晚上 8 点。在你走之前，我们想请你完成一个简短的匿名调查，请访问 marketplace.org/survey。这只需要大约 10 分钟。作为我们表示感谢的象征，一旦你完成了调查，你就可以输入你的名字来赢得一张 75 美元的礼品卡。通过填写它，你为我们在 Marketplace 的所有人提供了巨大的帮助。