AI is changing the cybersecurity threat landscape
55:25 Share

欢迎收听实用人工智能播客，让人工智能实用、高效且易于获取。就像本节目一样，您喜欢周五的访谈、精彩的谈话节目或周末的娱乐。通过搜索“变更日志”即可找到我们，无论您在哪里收听广播，感谢我们的合作伙伴 Fly.io，让您的 AI 应用在五分钟或更短时间内上线。了解详情请访问 [链接]。

为什么 Fly.io 会如此受欢迎？我是 Fly.io 的联合创始人兼首席执行官 Curt Maggi。我们很爱 Fly.io，所以我想和您谈谈云计算的神奇之处。

没错，对吧？我认为了解云计算的神奇之处非常重要，因为您可以为用户构建更好的功能。基本上，如果您了解这一点，那么您现在就可以做很多事情，特别是现在人们正在使用云计算，但如果您了解这一点，那么您就可以做很多事情，从而创造出很多东西。

所以，当您说云计算并非神奇，因为您正在为开发人员构建公共云，并进一步解释其工作原理时，这是否意味着您和……

某人意味着所有这些都来自某个地方，就像在云计算出现之前，我们曾经使用过一个简陋的棚屋，我们拥有或告诉 IT 部门，并将文件放在某个地方，并自己运行 Web 服务器以将其提供给用户。云计算并非神奇。最重要的是，有更多更复杂的方法来完成相同的事情，以满足更多人的需求，而不是仅满足一个人的需求。

我认为人们在很多方面都错过了这一点，实际上是因为 AWS 和 GCP 创建了如此大的黑盒服务，例如 Lambda，它们实际上是黑盒。您无法从外部分解 Lambda 并查看其工作原理。您只能使用现有的功能。

但实际上，Lambda 并非那么复杂。它只是以一种现代化方式来管理小型虚拟机并处理来自它们的请求，并让它们能够暂停和恢复，从而释放物理计算资源。了解云计算的工作原理很有趣，因为它可以让您为用户构建各种功能。

您是否曾经期望 IT 部门为我们提供类似考古学版本的云计算？当我们考虑如何希望用户编写代码时，我们决定公开这些机器的概念，这是一种更低级别的交互，您可以使用 Lambda 在其之上构建 Lambda。这些机器只是旨在快速启动或快速停止和重新启动或暂停并快速恢复的虚拟机，就像您的笔记本电脑一样。我们发现，让用户拥有持久性实际上创造了之前无法构建的新应用程序，特别是因为我们专注于最低级别的抽象，在通常的 Linux 内核功能之上。我们平台的大部分功能实际上只是在 Linux 内核功能周围提供了一个良好的用户界面，我认为这很有趣。但是，您仍然需要了解它们在做什么才能获得最佳使用效果。

非常酷。好的。所以体验 Fly.io 的神奇之处，并了解 Fly.io 的秘密，因为这就是他们希望您做的。

他们希望分享 Fly.io 云计算（面向开发人员的云计算平台）的神奇之处，以及面向开发人员的云计算公司，他们希望分享更多信息。您可以免费试用 Fly.io，访问 fly.io。再次强调，fly.io。

欢迎收听另一期实用人工智能播客。我是 Chris Benson，一位人工智能和自主性研究工程师。今天，我还有两位嘉宾。

他们将加入我们的谈话。他们都来自 BlackBerry。一位是 Gregory Richardson，他是副总裁兼全球咨询首席信息安全官。

所以，我认识 BlackBerry，还有 Ismael Valenzuela。我是否正确理解了？

是的，谢谢。

不仅如此，他还担任威胁研究和情报副总裁，真是位非常优秀的人。欢迎来到节目，非常感谢您能加入我们。

能在这里很荣幸。Chris，谢谢。

谢谢，Chris。

很高兴能有您。今天我们将讨论安全、威胁以及相关问题。我知道有一篇博客文章可以帮助我们入门，我想让你们自己来谈谈在 BlackBerry 博客上发布的文章。

那篇文章是关于“AI 对抗：攻击者与防御者”。我知道 Daniel 是第一个看到它的人，并说：“我们必须让这些人来节目上”。不幸的是，他今天没能来，我很遗憾。但是，我们可以从哪里开始呢？在深入探讨具体情况之前，您能否简单介绍一下这个主题，以及它会影响哪些人，以及为什么他们应该关注？

所以，这可能与背景有关，对吧？我不能说自己是 AI 专家，实际上，我不能说自己精通任何事情。我在这行待得越久，就越觉得我什么都不知道。

但我可以说，我的职业生涯主要致力于网络防御。我从攻击方开始，但后来随着时间的推移，我转到了防御方。所以我看到了两面。

而且我仍然喜欢从攻击方的角度来学习，我认为从攻击者的角度思考可以成为一名更好的防御者。所以，当我写这篇文章时，我必须加入 AI 的元素，因为这确实是一个非常重要的因素。

它将为攻击者或防御者带来优势。我们通常会得到这样的问题。所以我从网络防御的角度写了这篇文章，这就是您在文章中看到的内容。

在我们深入探讨文章之前，是什么驱动了这种需求？你们在 BlackBerry 都看到了什么？很明显，有需求驱动着我们来解决网络安全问题。请告诉我们，从网络攻击的角度来看，您是如何看待这个世界的，以及您在解决大问题时遇到的问题是什么？

让我给您提供一些不同的视角，因为我实际上不知道 Ismael 已经和我们一起工作了很多年了，甚至在加入 BlackBerry 之前也在不同的公司工作过。我不知道您是从攻击方转到防御方的。我恰恰相反。除了转行之外，我从攻击方开始，并且仍然是攻击方。

我最感兴趣的部分，也是我一直感兴趣的部分，我称之为“攻击者本体论”。我一直想了解是什么让攻击者像攻击者一样行事，这样我就能更好地进行防御。但是，我的主要研究领域和工作领域以及我的主要关注点一直是尝试预测攻击者接下来会做什么，以便帮助我们的客户制定战略。

即使在 AI 流行之前，从 AI 的角度来看，网络安全已经使用了 AI 超过二十年，甚至可能超过三十年。所以，这并不是像普通大众那样新颖。即使在过去两三年，像 OpenAI 这样的公司出现之前，我就非常感兴趣，我们如何制定战略来帮助客户、组织和政府更早地预测他们需要保护的目标。这就是我的视角。

所以，我并没有参与撰写博客文章，我相信主要由 Ismael 和他的团队撰写。但是，我博客文章的视角是，我们如何利用 AI 来帮助在攻击者和防御者之间取得平衡。这是一种持续的斗争，双方都在争夺胜利。所以，我们能做任何事情来帮助平衡这种力量，这始终是我的兴趣所在。

在深入探讨 AI 之前，我想了解一下，因为我们有非常关注 AI 的听众，但许多人可能从未真正关注过网络安全本身。

当您谈到这种相互关联以及谈论一些动机时，您知道为什么？这些人在哪里？他们代表谁？他们试图在没有 AI 的情况下做什么？我们正在处理什么样的世界？

我记得，我已经从事这项工作有一段时间了，可能比大多数人都要长。您知道，Chris，您快 60 岁了，实际上，我的职业生涯很长。所以，我正接近那个年龄，这让我感到害怕。

至少，这个年龄让我感到害怕。所以我记得关于网络安全行业的历史，这让我有了一些视角。我想是在 2010 年、2011 年或 2012 年左右。这是我第一次注意到 FBI 的年度威胁情报报告中，他们报告称，2010 年、2011 年或 2012 年左右，他们第一次报告称，网络犯罪的利润在全球范围内超过了海洛因、可卡因和毒品销售利润的总和。对我来说，这（我指的是 2010 年）是一个转折点。在我的叙述中，大约在那个时候，或者在那个时候一两年之前或之后，犯罪组织开始专注于网络犯罪，它从一个无害的、在祖母地下室里玩耍的人，变成了一个有目的的、有动机的行为者。他开始专注于从网络犯罪中获利。

您想补充什么？

嗯，首先，我很高兴知道我是房间里最年轻的一个。

对吧？我们都在展示一些东西，但没关系。

我们掌握着一切，伙计们。但是，是的，正如 Greg 所说的，我的团队……我们的工作是描述对手，并将其转化为我们所说的“对策”。例如，想象一下，您正在分析目标，并设计一件防弹背心来保护执法人员。因此，我们分析了武器、工具和动机，以及他们如何运作。

然后，我们将所有这些信息用于设计最有效的防弹背心来抵御这些子弹。但这不仅仅是子弹，还包括使用这些武器的人以及他们使用这些武器的原因。这就是动机。

这确实是关键。正如 Greg 所说的，这种财务动机正在迅速增长。这就是为什么我们都了解勒索软件，例如。

但是，还有很多其他动机，也许我们可以稍后讨论。其中一些是国家行为者，即所谓的“高级持续威胁”。我们经常在新闻中看到，尤其是在选举期间，人们会谈论国家行为者操纵信息。他们资金充足，通常是最先进的。

但是，还有其他动机，例如激进主义。我们看到过一些团体，例如过去的一些匿名团体，他们会进行攻击，只是因为他们想赚钱。我不知道，例如，出售记录。他们认为这是邪恶的。

但归根结底，网络只是武器，对吧？它可以用于善意，也可以用于恶意。AI 只是任何人的武器库中的一种工具。所以，我想谈谈动机，因为它可以帮助我们了解在这种网络战争中使用工具（在这种情况下是 AI）的目的。

那么，BlackBerry 如何将自己融入其中？在您已经为我们描绘的世界图景中，BlackBerry 如何开始融入其中？您在该领域的兴趣是什么？您想实现什么？

这是一个好问题。嗯，我们已经在这个安全通信领域工作了很长一段时间，对吧？我们不再生产 BlackBerry 设备，但我们确实提供软件来保护我们的设备，不仅仅是手机，还有世界各地的员工。我的团队……

我们所做的是，正如之前提到的，试图阻止这些攻击者，从而保护客户。这包括产品，也包括服务，从管理软件到零信任网络访问，再到军事级加密、安全通信，甚至危机管理软件，例如，如果发生火灾、攻击或自然灾害，我们需要立即做出反应。所以，当我们谈论威胁时，我们不仅仅谈论网络安全威胁。这是一个高层次的概述。Greg，如果您想深入探讨，请随时。

如果我深入探讨，我可能会偏离主题。我专注于 BlackBerry 的网络安全方面。当然，BlackBerry 做了很多事情，包括汽车和物联网部门，这是一个非常庞大的业务，可能价值数十亿美元，它拥有在任何带有数字功能的汽车中运行的各种操作系统。

但是，我专注于网络安全领域。我们一直在做的事情是帮助客户加强防御，从而实现我所说的“主动安全”。正如我之前提到的，我们需要能够预测攻击者会做什么，以便进行防御。

我帮助客户制定战略，构建这些平台、工具和不同工具的组合，以实现这一目标。网络安全行业之所以如此，是因为行业发展和风险投资的原因，我们已经非常深入地了解了这一点。有数千种工具可以完成这项工作，并且可能需要保护数千个不同的方面。您可能拥有计算机、服务器、网络、云端资源、运营技术或物联网技术，所有这些都需要保护，并且需要完全不同的工具集。

这种分散使得客户难以采用统一的方法来防御这些攻击。我们可能可以更深入地探讨攻击者非常擅长的一件事，那就是攻击我们工具之间的差距。如果他们发现您拥有一个很棒的工具来保护您的计算机端点，但您的网络防御相对薄弱，他们就会攻击网络中间，从而访问端点，反之亦然。

他们会看到您的网络和端点，但如果云端存在弱点，他们就会开始攻击云端。BlackBerry 试图解决的问题是，我们如何帮助客户收集所有这些遥测数据，以便能够获得所有攻击和防御措施的统一视图。

这就是我帮助客户制定的战略。我的客户包括政府部门（几周前我与某个政府部门会面）、大型企业、全球最大的银行和航空公司，等等。

最成熟的组织拥有完善的工具，而一些小型企业（SMB）的工具则相对较少。但是，问题是一样的，即使他们说：“我们可以投资这个工具”，他们仍然有漏洞，无法利用他们拥有的情报。

关于这个行业，有一些事情值得思考，我甚至要批评一下自己现在的工作。一个专注于这类问题的策略师在这个层级上仍然是必要的，这说明了这个行业的一些问题。就我所知，医疗行业没有这样的策略师，在汽车行业也一样。

例如，汽车行业，不需要整合人员来帮助你整合汽车使其正常工作。你只需说，我要一辆SUV，他们就会给你整套SUV。

他们不会说，先买发动机，然后去街上买四个轮胎，再到对面买变速箱。你把这些东西拼凑起来，让它工作。他们会给你整套产品。网络安全却做不到这一点。

我们不会给你整套产品，所以像我这样，以及支持我的团队，必要的策略师群体，需要亲自帮助客户穿过他们构建的工具网络。如果你可能不参加网络安全行业活动，我确实也闻到了这种气味。这种气味在许多活动中都存在。

展厅里供应商的数量。我记得13年前去过RSA。当时只有少数供应商，是一个小型会议。现在，早期有成千上万，三、四、五千人。

去年有四万人。

所以我认为那很糟糕。我参加了一个电话会议，天哪，在杰克逊，德克萨斯州，一个会议上，有数百万人讨论技术。这太疯狂了，太疯狂了。供应商数量，我想有四万人，太疯狂了，说明人们对所有这些工具的需求很大，客户正在推动它们，这使得他们的环境更加复杂。这就是我们经常介入的地方。

好的，朋友们，我非常喜欢Notion。我非常喜欢Notion。我认为Notion最近做出的所有改进，以及它内置的AI，都让我能够将笔记、项目或待办事项、仪表板等所有内容放在一个地方，设计得非常漂亮。

然后，在Notion AI之上，添加了搜索、分析、聊天，甚至可以指导你如何构建仪表板的功能。你可以问，我想做这个。它会帮助你构建出适合你的仪表板、数据库或模板。无论你是大型企业还是自由设计师，创业公司还是在兼顾课程和社团活动的大学生，Notion都非常适合你。

Notion AI可以帮助你组织任务、跟踪习惯，并与团队协作。

你可以用Notion做很多事情。所有这些工作的上下文也与多个知识来源相连接。它使用GPT-4的知识，并能与你分享任何主题的信息，在几秒钟内搜索数千个Notion文档，快速回答你关于你所有Notion文档的任何问题。

他们还提供AI连接器。这目前处于测试阶段。理论上，我可以搜索各种讨论、Google文档、Google幻灯片、Google表格，甚至我拥有的其他工具。

这些功能即将推出。Notion可以被小型团队、个人甚至大型企业使用。这是一个非常可扩展的工具，可以帮助你减少电子邮件和会议时间，节省你在工作中搜索时间，并减少使用多个工具的成本。

这将帮助每个人，超越同频共振，今天就免费试用Notion。访问notion.com/practicalai。

访问notion.com/practicalai，体验功能强大且易于使用的Notion AI。当然，使用我们的链接可以支持我们的节目，我们非常感谢。访问notion.com/practicalai。

好的，所以你们看到这个行业蓬勃发展，你们正在处理其他行业不必处理的事情，你们谈到了防御资产的蔓延以及它们之间的差距，以及有如此多工具来解决不同组件的问题。

我想这确实是一个挑战，这肯定也是这个行业发展如此之大的原因之一。当你看到这些新事物时，特别是那些更近期的AI工具，作为网络专家，AI是如何开始融入这个生态系统的？你们是如何看待这些利弊、风险和威胁的？你们能告诉我们这些工具是如何运作的吗？

是的，正如我之前所说，这是一个总是追逐新事物、新技术的行业，就像寻找能解决所有问题的“灵丹妙药”一样。但现实远比这复杂得多。

每次我们试图找到一个超级牛逼的工具时，我们往往都会失败，因为我们缺乏对所有这些工具如何协同工作进行理解。现在，这个工具就是AI，更具体地说，是大型语言模型。

因为我们知道，就像你们在节目中一样，我们谈论的是一个东西，但实际上有很多不同的东西。例如，BlackBerry多年来一直使用来自Silent Engine的预测AI引擎，这实际上是预测机器学习。

我记得，虽然当时我不在Silent Engine，但一些同事告诉我，他们当时在2016年左右就发现了黑客在使用这种技术。

很多人会说，这不可能，突然间，你就能检测到恶意软件。现在，我们已经向前发展，每个人都明白，你不能用签名来对抗恶意软件。我们定期发布这些报告。

我们谈到了上个季度恶意软件数量的最新增长。我们谈论的是恶意软件的独特样本增加了53%。我想，听众可能不熟悉哈希或指纹的概念。

你取一个二进制数据块，并创建一个指纹或哈希。这表示我们得到了独特的标识。不同的哈希对应不同的文件。因此，我们谈论的是，通过我们的遥测数据，我们已经发现了超过11000种独特的恶意软件样本。

维护一个...

数据库？好的，预测机器学习帮助我们解决了这个问题。多年来，它一直帮助我们有效地检测这些恶意软件。现在，大型语言模型也可以用于其他用途。

因此，总而言之，AI是防御者手中有用的工具，攻击者也会使用它。我们稍后可能会讨论这个问题。但我认为，一旦我们度过了这个行业总是会经历的炒作周期，我们就能明白，它只是我们工具箱中的一种工具，我们需要保持问题导向。仅仅因为我们找到了一种解决特定问题的方案，并不意味着它能解决所有问题。

但当然，它有所帮助。

如果我...

稍微谈谈这个。他只是简单地提了一下，我很高兴你只是简单地提了一下，因为我马上要说的就是这个。我们认为大型语言模型...

虽然它们很优秀，在某些用例中很有价值，但我认为它们加剧了行业中我们现在听到的许多噪音和炒作。我将专门谈论网络安全。

我还没有完全相信大型语言模型的实用性，特别是其自然语言处理能力，处理我们自然语言处理中遇到的问题。我不是说这是我们遇到的问题。我每天都在与安全分析师和首席信息安全官交谈。

这是我的工作。在过去30年里，我一直在做这件事，一些安全运营中心分析师和安全分析师告诉我，格雷格，我们不知道如何从我们的工具中提取数据。

如果我们能用自然语言表达，那将非常有帮助。但这并不是问题所在。这些在SOC中工作的人非常擅长使用他们的工具，他们并没有在与工具沟通或编写查询来提取数据方面遇到问题。

这并不是问题所在。AI和机器学习可以帮助解决很多问题。分类是一个很大的问题。我之前已经提到过预测。我认为这是当今被低估的一个非常重要的方面。

但是，如何对不仅仅是文件和哈希，还有行为、攻击指标和威胁指标进行分类？我们如何将这些相互关联的事物，或者在网络攻击的情况下，这些不同的行为或指标联系起来，并说，听着，这些东西是相关的？

你的网络上发现的10件事，你的终端上发现的15件事，以及云环境中同时在同一时间窗口发现的12件事，它们都是相关的。它们都是一次攻击的一部分。我认为分类过程是我们可以提供帮助的地方，因为这是差距所在。处理来自安全运营中心警报疲劳的传入数据流，并使其有意义。现在，我们已经将其缩小到少数几个案例。虽然我说的少数可能仍然是数千个，但它从数十万甚至数百万人次事件中减少到一个数量级或更多，然后处理这些案例，这是我看到AI在网络安全中非常有效地解决的问题。

很高兴听到你这么说。我想，对于本集的观众来说，这是一个我们经常讨论的话题。你似乎正在经历...你熟悉园丁炒作周期吗？当它达到最高炒作峰值时...

人们会感到沮丧，然后跌入幻灭的低谷，他们会说，我不想处理它。然后人们会重新审视，说，嗯，它对某些事情有帮助。它不是万能药，它并不能解决所有问题，他们会找到实际有用的东西。你似乎正在经历同样的过程，就像许多其他行业一样。你很务实。

你还在强调另一点，那就是在谈论大型语言模型和其他AI技术时，我们往往会忘记AI领域中还有其他技术，例如分类和其他方法。是的，你们说，我们这里还有其他工具，对我们正在做的事情非常有效，可能只是没有那么热门。我很高兴你与我们分享了这一点，因为我们这个节目致力于务实，并试图让大家保持在正确的轨道上。

我只是举个例子。对不起，这有点跑题了。我看到一个大型供应商...我不想说它的名字，但他们展示了生成式AI如何应用于SOC。

所以，安全运营中心通常使用仪表板，他们查看例如DNF请求数量、警报数量等。所以，有一个仪表板，并且在晚上7点左右活动高峰。

所以，大型语言模型会说，我看到了晚上7点左右的活动高峰。我心想，你为此付出了多少成本？这对于这种类型的客户来说是一个巨大的成本，我可以轻松地培训分析师来捕捉这一点，这个人可以给你提供更多上下文，可能还有更多直觉，甚至更多战略知识，格雷格，甚至比这更有创造力。

所以，绝对地，你需要知道这个工具的用途。它非常适合上下文总结、模式匹配和一般假设测试。我可以说，根据我写的所有报告、所有收集到的数据，给我一个模拟这个攻击者的计划。它不会非常有创造力，因为它会基于已经收集到的数据。

但这会节省我很多时间，因为我不必自己阅读所有这些文档，提取所有这些信息。所以我可以更快地完成这项工作，更快地找到答案。

有很多炒作。我从事这个行业快40年了，从大学毕业后，这几乎是我唯一做的专业工作。所以，我对它非常热衷。

因此，我也会用一种有时有点严厉的眼光来看待自己和这个行业。我马上要说的可能在网络安全之外也有效，但我从网络安全的角度来看待它。我们伤害了自己。

我们，特别是供应商，通过宣传周期和销售我们知道是纯粹的炒作或实用性有限的产品，伤害了自己。但它们听起来不错，例如，我们用AI增强SOC，你不再需要SOC运营人员了。

你不需要这些分析师了。随着AI完成所有这些工作，你将需要更少的分析师。我们越强调这一点，就越容易陷入园丁炒作周期，人们会发现，这根本行不通。

我仍然需要人类，人类的判断力、意识、情境、战略，更不用说金钱了，AI现在还做不好。AI可以处理大量数据，绝对可以。这就是我们一直谈论的，例如，一些更深奥的AI方面，我们每天并不谈论。

所以，我并不局限于预测、分类和大型语言模型，我只是说大型语言模型很棒。我经常使用它们来处理任何与语言相关的内容，无论是普通语言、指标语言还是技术语言。我几乎对所有我试图理解的内容都做的一件事是，我尝试获取音频，并使用转录软件进行转录。

我将其发送给Whisper或其他API，获取转录，分析转录，获取一些关键要点。我说了什么？我想要传达哪些关键信息？我想要分享哪些关键引语？我利用社交媒体建立我的品牌，并用我之前说过的话来丰富我的演讲。

我现在正在做这件事。此外，我还在录制自己的音频，以便我可以提取并使用大型语言模型。它们确实有用，但它们不是最终答案。

所有这些炒作，你知道吗？哦，天哪，它们很棒。我们应该抛弃所有东西。大型语言模型...我们越这样做，我认为我们对这个行业和最重要的是对客户防御能力造成的伤害就越大，因为攻击者至少我没有看到攻击者在制造炒作周期。我看到他们高效地共享威胁情报，利用它来构建新的攻击，以便他们以独特的方式实现目标，因为在我们的环境中，我们还没有像他们那样专注于手头的工作。

朋友们，我今天要分享一些令人兴奋的东西，一种在卧室中突破可能性的睡眠技术。让我向你们介绍Eight Sleep及其创新的Pod 4 Ultra。

我还没有拿到它，但它很快就要到了，我正在数着日子。Pod 4 Ultra到底是什么？想象一下，一个高科技床罩，你可以轻松地添加到任何床上，但它不仅仅是一个床罩。

它包含传感器、加热和冷却元件，所有这些都由复杂的AI算法控制。它就像一个睡眠实验室、一个智能恒温器和一个个人睡眠教练，所有功能都集成在一个设备中。它使用网络传感器来跟踪各种睡眠指标。

睡眠阶段的速率变化、呼吸速率、体温等指标，IT 使用精确的温度控制来调节你的身体睡眠周期。它可以将你的床温调至 75.5 华氏度（约 24.2 摄氏度）以促进深度睡眠，或将温度调高至 110 华氏度（约 43.3 摄氏度）以获得舒适的睡眠温度。而且，它会分别控制床的两侧温度。

这意味着你和你的伴侣可以拥有各自理想的睡眠温度，但真正酷炫的是，这款床垫使用 AI 和机器学习来随着时间学习你的睡眠模式，并利用这些数据来自动调整夜间温度，以满足你身体的偏好。它不会直接告诉你数据，而是理解这些数据，并据此采取行动，你的床会随着时间的推移变得越来越智能。所有这些功能都通过一个全面的移动应用程序访问，你可以查看睡眠趋势，甚至获得每日睡眠报告。

或者，我现在还没有我的。它正在路上。感谢朋友们。感谢 Eight Sleep。我真的很期待拥有它，因为我喜欢这些东西。

但如果你准备好将你的睡眠和恢复提升到一个新的水平，请访问 eightsleep.com/PRACTICALAI 并使用代码 PRACTICALAI，即可享受你的 Pod 4 Ultra 折扣 350 美元。你可以免费试用 30 天——但我们相信你不会想退货。一旦你体验了 AI 优化的睡眠，你就会想知道以前是如何没有它的。目前发货至：美国、加拿大、英国、欧洲和澳大利亚。

目前发货至：美国、加拿大、英国、欧洲和澳大利亚。再次提醒，访问 eightsleep.com/practicalai。

格雷格，你刚才解释了你们如何处理这个问题，试图让 AI 更加实用，将 AI 放在正确的位置，并很好地指出，像许多其他行业一样，你们的行业也存在着将 AI 应用于一切的倾向。

你知道，销售一些虚假的镜子之类的东西，你们正在努力提供切实可行的解决方案和策略，而不是建立在所有这些炒作之上。你能否深入探讨一下这一点？此外，如果可能的话，你还能谈谈博客本身，以便我们能够吸引一些听众阅读它，并在他们结束本期节目时阅读它，并理解这一点，我真的很感激。

所以，从实际意义上讲，你们在做什么？你们为客户提供了什么？然后，博客是如何为此做出贡献的？

你想从博客开始，谈谈你们正在构建的解决方案吗？是的，所以博客的核心目标是应对炒作，就像我们之前讨论的那样，说“好的，攻击者正在使用 AI 做什么？”从攻击者开始，有些人可能会认为，哦，你知道，攻击者现在正在设计这些，这简直是疯狂的，他们只是去寻找一个漏洞，比如零日漏洞，对吧？我们在这个行业称之为零日漏洞，是指我们还没有发现、没有人知道其存在的漏洞。

现在，这个自主代理将利用它。它将进入公司，窃取数据，破坏环境。不，然后你醒来，对吧？今天根本没有这样的事情，至少我认为我们正在谈论的是同龄人。

今天根本没有这样的事情。有深度伪造，这是一种不同的东西，看起来像人类。这是最接近的东西。但是，没有自主代理可以做到所有这些事情，或者我们没有看到有人，我不知道，比如你训练海豚，你一生都在训练它们。

然后突然间，由于 AI，你可以入侵公司并从中获利？可能不会。所以我们看到的是攻击者系统。这基本上是攻击初始阶段的工具，这意味着他们变得越来越好。例如，编写钓鱼邮件。

我们已经看到钓鱼邮件数量的增加，其中包含非英语语言。例如，以前我们会看到一些东欧组织或俄罗斯犯罪分子发送英语邮件，其中包含一些错误的英语，你可以很快发现它们，并说“哦，是的，这是钓鱼邮件或垃圾邮件”。如今，每个人都只说完美的英语，甚至完美的日语。我们已经看到针对日本公司的钓鱼邮件数量有所增加，其中使用了很少被网络犯罪分子使用的语言。

这明确地使用了大型语言模型。现在，在编码方面，有很多争论，非常有争议。你是否可以从头开始学习编码？或者你是否可以只使用这些模型来从头创建代码？我们可能会做到这些事情。

可能不会。这些模型正在变得越来越好。但我仍然发现，每当我要求这些代理为我创建一些代码时，我仍然需要理解代码，理解我想要做什么，并能够改进和调整它。

还要记住，这些模型是根据其接受的训练以及已知先前数据的基础上创建的。因此，当格雷格可能谈论预测性解决方案和 AI 时，这使得我们使用 AI 更加成功，因为我们已经用过去所有已知的东西训练了这些模型。所以，归根结底，我认为 AI 对攻击者来说不会有那么大的优势。

他们总是会有一些优势，因为他们是攻击者，因为他们迈出了第一步，而你处于不同的立场，你不知道，对吧？他们今晚来，还是明天早上来，还是下个月来。你可能可以预测到。

这就是我的团队进行情报工作的地方，它会关注地缘政治，关注天气预报，对吧？云层在暗示什么？然后根据数据调整你的模型，但你总是落后一步，这就是区别所在。尽管防御者可能会有暂时的优势，但我认为，如果防御者正确使用它，AI 可以用来做更多规模化的事情，尤其是在你拥有坚实策略的情况下。

这很有趣。这指的是更新我们的威胁模型吗？他用天气作了类比，你知道，就像你观察云层，然后根据你看到的云层做出相应的反应。你可能会带一把雨伞或类似的东西。

我认为这是一个非常恰当的类比，因为有趣的是，他七十年代出生，在加勒比海飓风区长大，我记得坐在客厅里的大电视机前，我想甚至还是黑白电视，因为我年纪大了，所以记得，正如我之前所说，观看预测的飓风路径，风暴从非洲西海岸出发，朝向鲁比岛。我的岛屿是一个长 5 英里，宽 7 英里的岛屿。我们经常受到飓风的袭击，所以如果飓风来袭，你需要知道那些预测路径，上面有小圆圈，显示风暴看起来会如何。

在 70 年代就已经有这些了，并且由 AI 计算出来，这是预测 AI 的早期广泛应用案例之一。所以，分析师使用它作为类比，这很有趣，因为我们正在做的事情正是如此。我们正在将天气预报这一经过充分发展的案例应用于攻击者预测。

所以，你问我们如何将其应用于客户环境。我目前最关注的事情之一，正如我之前所说，是帮助客户将所有这些联系起来。所以，我将要提到一些产品名称。

所以，这在销售演讲中，但我们刚刚开发了一些东西，属于检测和响应工具集的类别。我们在这方面的独特之处在于，这种方法根本不独特。几乎每个大型网络安全供应商都在这个领域提供类似的东西。

我们在这方面的独特之处是什么？我们非常关注你的安全堆栈是什么。

其他大多数供应商使用 XDR 等工具来表示，要充分利用我们的工具，你应该真正使用我们所有的东西。所以，你应该使用我们的云，然后最大化它的好处。我们的方法不同。我们的方法是，我们了解你作为客户可能面临的两个问题：广泛且多样化的安全工具生态系统。第二，特别是对于中小型企业，你可能难以找到人力资源来完成这些工作。

因此，我们提供了一种托管解决方案，我们的威胁分析师、安全分析师都是经过良好培训的人类专家，结合预测 AI，正如格雷格所说，它已经对我们过去 10-15 年收集的传感器和传感器数据以及威胁数据进行了充分的训练。通过这种方式，我们不仅能够处理所有数据，而且能够对攻击进行分类和识别，即使它使用之前从未见过的全新恶意软件，然后提供防御策略来应对它。我相信这就是 BlackBerry 如何最好地帮助市场和客户的方式。

我提到我从攻击者一方开始，我从未是恶意攻击者。我从渗透测试人员开始，然后你懂得，监督代码逆向工程和类似的工作。然后，我从那里开始，但我的大部分职业生涯都在客户方。大约十年前，我主动转换，或者说可能被说服转换到供应商方，因为我看到了差距。我作为客户看到了这一点，我购买了新工具和玩具，但它并没有真正让我更安全。

所以我来到供应商方，试图影响供应商的防御措施和产品策略，推出更多能够真正帮助客户解决这两个问题的产品：人力问题和工具集多样性问题。我经常被告知，格雷格会拆除所有东西，然后安装你们告诉我们的任何东西，这很棒，而且确实发生过。我不得不与一些从零开始的客户合作，并帮助他们替换所有东西，但这很少见。大多数客户要么有财务限制，要么有时间限制，或者有其他限制，因此他们需要利用现有资源。让我们构建一个工具集，让客户能够利用现有资源，最大限度地发挥其价值。

所以，在我们结束时，你已经很好地阐明了你们如何为客户创造价值。这是一个变化迅速的领域。你们在 AI 的应用方面采取了一种实用的方法或策略。但我们正在处理一个变化迅速的世界。你们两人或你们两人中任何一人，对未来几年会发生什么变化，你们认为事情会如何发展，有什么想法吗？

是的，我从这里开始。我认为我们将看到攻击者利用 AI，特别是深度伪造，进行更多欺骗活动。我认为这是 AI 在攻击能力方面非常强大的应用。

我们已经看到攻击规模和数量的增加趋势，对吧？我认为这是他们能够利用的另一个关键因素，这使得他们的现有能力能够扩展。但防御者也可以做到这一点，对吧？但最重要的是，我认为防御者可以提出的最强大问题是，我试图解决什么问题？因为 AI 或任何技术都不会改变你的组织的使命，对吧？你是医院，小医院还是大医院？你的目标、你的使命是保护公民，保护那些寻求医疗保健的人，你不想让这个环境遭到破坏，也不想让入院手续变成纸质文件，这样人们可能会因为在医院里被忽视而死亡。我们在这里关注的是保护关键基础设施、保护学校，孩子们在那里学习。所以 AI 不会改变组织的使命。

AI 甚至不会改变网络安全的战略方法。你只需要找出哪些领域可以帮助你扩展，以及如何弥补一些差距。我认为我们之前谈到过这一点，对吧？提高检测和响应时间，在攻击链的特定阶段破坏攻击，让你能够对大量数据进行语境化处理，从而给你一些输入，这样其他人就可以根据这些信息采取行动。然后，机器学习模型也可以从这些信息中学习，从而有效地结合人机团队，对吧？就像《银翼杀手》中的复制人，它充分利用了双方的优势。这就是我对它的看法。

我也同意这一点。目前全球市值排名前五的公司都是科技公司，这些公司都是由拥有丰富技术背景的个人创立或联合创立的。这在我们这个时代非常独特。

这正在以一种我们以前从未见过的领导力、创业精神和愿景与战略的方式改变领导力。我认为我们处于一个独特的境地，可以最大限度地利用一些十年前甚至不会谈论的技术应用。技术在那儿，大型语言模型在 1950 年代的教科书中就已经写出来了。

技术一直存在。由于最大的公司都是科技公司，它现在正成为焦点。我的女儿今年 15 岁，她很精通科技，当我 15 岁时，我是一个另类人物，因为我精通科技，他们看着我，你知道，好像我长了三个脑袋。

所以我的预测是什么？我预测，我们将看到这些类型的用例、机会和坦率地说，商业机会出现的加速。但我同时也看到了，所以总是有积极和消极的一面。

我看到了一个巨大的风险，即那些对技术进步缺乏平衡感的人的道德和品格失败。但潜在的低道德、潜在的低领导力、潜在的低精神力，也有机会弥补这些不足。就个人而言，这就是我的重点。这就是我与本播客的丹尼尔相遇的原因，因为你知道，我们在活动中谈论过这些话题，或者我们彼此在活动中相遇，我们试图讨论这些类型的主题。你知道，如何将技术与更具道德性的东西结合起来，利用技术，但保持平衡，反之亦然。

我认为我们必须非常谨慎，不要过度依赖，最终意外地将权力交给那些可能无法维持其品格的人。我认为我们面临着巨大的风险。所以，我认为未来将同时存在机遇和风险。

你们两位的见解都非常精彩，先生们。非常感谢你们来到节目中。这是一次很棒的谈话。我学到了很多东西，我希望随着事情的发展，我希望你们能再次来到节目中，并更新我们关于网络安全未来的信息。

很高兴有你们在节目中。谢谢，克里斯。谢谢，克里斯。

好的，这就是我们本周的节目。如果你还没有查看我们的 Changelog 新闻通讯，请访问 changelog.com/news。在那里，你会发现 29 个订阅的原因，是的，29 个订阅的原因。我会告诉你第 17 个原因，你可能会开始期待星期一。

听起来有人还有更多原因。

更多原因在 changelog.com/news 等候你。再次感谢我们的合作伙伴 Fly.io、Beat Maker Sylva 和所有听众。现在就到这里，我们下期节目再见。