🔒 Cisco AI Defense: Securing the Future of AI 
23:30 Share

🔒 Cisco AI Defense: Securing the Future of AICisco的AI防御是一种新的安全解决方案，旨在解决企业越来越多地采用AI带来的日益增长的安全风险。它提供了一种双管齐下的数据保护方法，通过提供网络级安全和实时监控来保护第三方AI应用程序和自定义AI模型开发，以防止数据泄露和未经授权的访问。该解决方案旨在减轻AI采用面临的主要障碍——即安全问题——使公司能够自信地将其AI集成到其运营中并保持竞争优势。思科将AI防御定位为企业在未来保持竞争力的关键要素，强调成为“AI先行者”的必要性。该解决方案的目标是建立安全部署AI的全球标准。🎥GeoVision AI在Djamgatech，我们将GIS和AI的强大功能相结合，为依赖实时数据收集的组织提供即时、可操作的情报。我们独特的解决方案利用🍇ArcGIS最佳实践和🍉Power Automate进行GIS集成，以无缝地收集现场数据——文本、照片和地理位置。然后，通过🍊生成式AI进行图像分析，我们将即时见解和建议直接传递到您团队的收件箱和聊天工具中。了解更多信息并申请演示，请访问https://djamgatech.com/ai，并通过[email protected]与我们联系以获得个性化的价值主张。</context> <raw_text>0 好的。系好安全带，各位，因为今天我们将深入探讨思科全新的AI安全计划。没错，他们称之为AI防御，它应该能解决一个非常大的问题：当AI变得越来越强大时，我们如何确保其安全？

而且说实话，也更容易受到攻击。当然。我们谈论的是未来，AI将成为几乎所有事物的一部分。这对安全有着巨大的影响。确实如此。但这不仅仅关乎未来。哦，事实是，许多公司现在已经在努力保护他们正在使用的AI。真的吗？是的。问题是，

AI的采用速度远远超过良好安全解决方案的开发速度。因此，许多公司都处于开放状态。所以这就像我们正在构建这些令人难以置信的AI系统，但却敞开大门，让任何人进来破坏一切。有点像，是的，想想看。

好的。公司正在投入大量资源来构建他们自己的自定义AI模型。他们使用最敏感的数据来训练这些模型。例如财务记录、客户详细信息，甚至是他们自己的秘密算法。对，对。

如果这些模型没有得到妥善保护，那就相当于把皇冠上的珠宝放在外面。这是一个很好的观点。这不仅仅是黑客试图窃取数据。对，绝对不是。还存在有人可能操纵AI或篡改AI的风险，这可能导致各种

各种意想不到的后果。比如什么？想象一下，一辆自动驾驶汽车的AI被黑客入侵，以至于它忽略交通信号，或者一个金融交易算法因为有人篡改而开始进行高风险的投注。对，潜在的损害是巨大的。风险绝对很高。所以思科的AI防御就派上用场了，对吧？我认为是的，是的。是什么让他们的方法与众不同？

与其他所有方法有何不同？思科正在采取一种完全全面的AI安全方法。有趣。他们不仅仅专注于保护AI模型本身。对。他们正在关注这些模型周围的整个生态系统。好的。他们使用的数据、他们使用的应用程序。对。他们运行的网络。明白了。一切。所以这不仅仅是在AI周围筑起一堵墙。而是要保护整个堡垒。明白了。有道理。

不过，我们可以更详细地解释一下吗？当然。思科AI防御在实践中是如何工作的？关键部分是什么？AI防御最重要的部分之一是它旨在保护第三方AI应用程序和自定义构建的AI模型。明白了。他们从两方面入手。

有趣。那么让我们从第三方应用程序开始吧。许多企业都依赖这些应用程序。但是那里的具体风险是什么？好吧，当您使用第三方AI应用程序时，您基本上是在信任该应用程序来处理您的所有数据。

这可能是从客户信息到敏感财务记录的任何内容。老实说，好的，并非所有第三方应用程序在安全性方面都是一样的。当然。那么AI防御是如何处理的呢？对。它只是阻止每个第三方应用程序吗？不，不，这不是要阻止一切。好的。而是能够看到正在发生的事情并对其进行控制。好的。

AI防御使安全团队能够准确地查看整个组织中正在使用的第三方应用程序。更重要的是，它允许他们设置规则以限制任何有风险的数据共享。

因此，如果有人试图将敏感数据上传到未经验证的AI应用程序，AI防御可以介入并说：“等等，你不能这样做。”没错。酷。这就像在门口有一个保安，在每个第三方AI应用程序访问您的数据之前检查其ID。

这是一层相当强大的保护。但是，对于正在构建自己AI模型的公司呢？对。AI防御如何帮助他们保护这些模型？这就是实时监控和异常检测发挥作用的地方。AI防御旨在密切关注整个AI开发过程。好的。从最初的训练到实际部署。它会查找任何可疑活动的迹象。

所以这就像一个安全摄像头，不断监视着AI模型。是的。确保没有发生任何可疑的事情。这是一个很好的思考方式。好的。AI防御会不断分析进入AI模型的数据。是的。以及输出的结果。好的。如果它看到任何异常情况，它可以发出警报。好的。

甚至可以自动采取措施来阻止威胁。哇，这真是先进的技术。假设有人试图在AI模型训练期间注入一些有害代码。对。AI防御真的能够在发生时捕获它吗？这是目标。它被设计得足够智能，可以识别表明恶意攻击正在发生的模式。有趣。它可以分析用于训练AI的代码、正在输入的数据以及正在生成的结果。

所有这些都是为了寻找任何操纵或篡改的迹象。哇。这太不可思议了。但是这种实时检测技术在现实世界中有多有效？是的，这是个大问题。它真的能跟上不断想出新花样的黑客吗？好吧，这是思科一直在努力改进的事情。好的。AI防御使用经过训练以发现已知威胁的机器学习算法。对。

但它也可以根据新的攻击出现而进行调整和学习。所以它有点像保安。是的。一直在学习最新的犯罪技术。没错。所以他们可以领先一步。没错。有道理。这一切都非常引人入胜。我相信我们的听众已经在考虑这对他们自己的公司意味着什么。是的。但在我们深入探讨之前，好的。我认为有必要退一步，看看更大的图景。好的。好的。

为什么思科要如此努力地进行AI安全工作？对。是什么促使他们这样做？我认为是几件事。好的。一方面，思科在这里看到了巨大的机遇。随着越来越多的公司开始使用AI，对真正好的安全解决方案的需求只会越来越高。这说得通。但这感觉不仅仅是一个商业决策，对吧？是的。

是的，我认为是的。思科试图将自己定位为整个领域的领导者。几乎就像他们试图定义未来AI安全的样子。我认为这是一个公平的评估。好的。思科真的押注于这样一个理念：AI安全不仅仅是一个利基问题，它是一个将影响我们数字生活各个方面的根本性挑战。对。他们希望走在最前沿。这是一个相当大胆的愿景。但是，你知道……

在所有关于AI接管世界的讨论中，我们现在依赖AI来保护我们免受AI的侵害，这几乎很有趣。这确实是一个悖论，不是吗？确实如此。但我认为这表明AI最终只是一个工具。对。像任何工具一样，它可以用于善或恶。我们有责任确保AI得到负责任的开发和使用。这包括实施强大的安全措施。说得对。

因此，我们已经确定AI安全是一件大事，思科正在认真对待AI防御。让我们深入了解细节。好的。这实际上如何影响企业的日常运营？对。使用AI防御等工具的真正切实好处是什么？我认为最直接的好处是它降低了风险。好的。AI防御可以帮助组织保护所有敏感数据。是的。防止

昂贵的数据泄露，并保护其AI驱动的系统免受篡改或破坏。对。所以这种安心感。是的。在当今世界，这肯定值很多钱。绝对的。

绝对的。我猜想也有一些不那么明显的好处，对吧？绝对的。通过拥有强大的AI安全公司，可以与客户和合作伙伴建立信任。对。他们可以向所有人展示他们致力于负责任地开发AI。这实际上可以给他们带来竞争优势。

在一个AI变得如此普遍的世界中，安全将成为区分公司的因素。这是一个很好的观点。所以这不仅仅是保护自己。而是要树立在AI领域中值得信赖和负责任的参与者的声誉。我认为许多公司已经开始意识到这一点。是的，我也这么认为。AI安全不再仅仅是一个技术问题了。它是一个战略问题。确实如此。

好吧，你已经给了我们的听众很多需要思考的东西。但在我们进入第二部分之前，我想给每个人留下一个最后的思考。如果思科是对的，而AI在不久的将来真的会无处不在，这对我们个人意味着什么？我们如何在AI驱动的世界中保护我们自己的数据和隐私？

这是我们都需要问自己的问题。绝对的。随着AI越来越成为我们生活的一部分。是的。至关重要的是，我们必须了解潜在的风险并采取措施来保护自己。所以这不仅仅是企业实施AI安全解决方案的问题。对。而是我们所有人。

我们所有人对我们的数字足迹以及我们与AI驱动的系统共享的数据更加谨慎。没错。想想看，这有点疯狂。AI的工作方式实际上创造了一整套我们从未遇到过的安全挑战。你的意思是？好吧，想想传统的安全。

它通常是关于设置障碍和规则。对，比如防火墙。是的，访问控制，诸如此类的事情。好的。但是AI系统，它们会学习。它们会适应。对。这使得它们更难以控制。所以这就像你试图为一个可以随时改变形状的东西建造一个笼子。没错。哇。AI系统可能会找到绕过传统安全措施的方法，这是人类黑客甚至想不到的。

说实话，这有点吓人。那么你如何开始保护一个不断发展和学习的东西呢？这就是AI安全领域真正尖端技术发挥作用的地方。我们需要能够保护AI免受我们已知的威胁的解决方案，而且还能预测和适应新的威胁。

所以你不能只是被动防御。对。你必须能够预测接下来会发生什么。没错。我明白了。这就是思科的AI防御策略如此有趣的原因。好的。他们构建的不是一个保持不变的安全解决方案。对。他们正在构建一个可以

随着它所保护的AI系统一起学习和变化的平台，那么这在现实世界中是如何运作的呢？好的，假设您有一个AI系统，对吧，它被用来发现欺诈性交易，好的，随着新型欺诈的出现，AI需要能够学习这些新的模式，但是这些变化，是的，它们实际上可以创建新的安全漏洞，所以让AI变得更聪明也可能使它更容易受到攻击，没错，这就是困难的部分，哇

但是有了AI防御，安全层的设计是与AI系统一起学习和适应的。好的。因此，随着AI系统变得更聪明，安全性也会增强。所以这就像有一个安全团队，他们不断地训练和提升他们的技能，以领先于坏人。这是一个完美的表达方式。好的，酷。这是持续的适应。

这至关重要，因为AI面临的威胁总是在变化。那么公司需要注意的一些新威胁是什么？一个主要关注领域是所谓的对抗性机器学习。那是什么？这是攻击者故意试图操纵用于训练AI系统的数据的地方。哦，哇。他们基本上是在“毒害水源”。

所以他们不是直接攻击AI，而是弄乱它正在学习的信息。没错。这很聪明。假设攻击者向AI系统提供略微修改的数据。好的。这会导致它将某些交易错误地分类为欺诈性交易，而实际上它们是合法的。这可能会严重损害企业，更不用说可能损失大量资金了。绝对的。是的，这很糟糕。而且这些类型的攻击非常难以检测。为什么？

因为它们利用了这样一个事实：我们相信AI系统会做出正确的决定。好的。我明白了。所以对抗性机器学习是一件需要注意的事情。嗯哼。还有哪些其他新威胁在你关注的范围内？是的。另一个大问题是AI在社会工程攻击中的兴起。这是什么意思？想想AI驱动的聊天机器人。好的。和深度伪造。对。它们比以往任何时候都更容易让攻击者假扮成真实的人。哦。

他们诱骗人们放弃敏感信息。所以我们现在谈论的不仅仅是保护AI系统了。我们谈论的是保护自己免受AI被用来对付我们的侵害。没错。哇。随着AI变得越来越先进，区分真实互动和虚假互动将变得越来越困难。

这太可怕了。这创造了一整套我们需要做好准备的新安全挑战。所以我们有对抗性机器学习。我们有使用AI的社会工程，以及可能还有许多我们甚至还没有想到的其他威胁。这开始感觉像一场军备竞赛了。黑客与防御者。是的，总是试图胜过对方。这是一个真正的担忧。是的。这表明领先一步的重要性。好的。在AI安全方面……

企业不能仅仅等待不好的事情发生。他们需要积极主动。那么在实践中这看起来像什么？企业可以做些什么来确保他们的AI系统安全？首先是要真正了解风险。公司需要进行彻底的风险评估，以找出他们的AI系统在哪里容易受到攻击，然后制定计划来解决这些弱点。

所以不要仅仅假设一切正常。真的花时间检查你的AI系统。

并寻找任何潜在的问题。没错。而且这不是一次性的事情。对。随着AI系统的发展以及新威胁的出现，公司需要不断地重新评估他们的安全措施。所以风险评估是第一步。对。公司还应该考虑什么？数据安全也很重要，就像我们一直在讨论的那样。用于训练AI系统的数据是攻击者的主要目标。是的。

公司需要实施强大的安全措施，以保护这些数据免遭未经授权的访问或操纵。例如加密、访问控制、数据治理策略。没错。明白了。这不仅仅是保护数据安全。好的。还要确保数据准确可靠。啊。

公司需要方法来发现和防止数据投毒攻击。所以这就像确保用来烘焙蛋糕的配料新鲜且未受污染一样。

这是一个很好的比喻。有道理。数据的质量直接影响AI系统的质量和安全性。有道理。所以我们有风险评估，我们有数据安全。还有什么？模型安全是另一个大问题。那是什么？这是关于保护AI模型本身。哦，好的。确保没有人可以在未经许可的情况下窃取或更改它们。就像保护你的秘密AI配方一样？没错。好的。公司需要采取措施来保护他们的AI模型。

无论是在开发过程中还是部署之后。这可能包括诸如

使代码更难以理解、使用访问控制以及安全地存储模型。明白了。我猜这也意味着要小心你在哪里以及如何使用你的AI模型。绝对的。你选择的云提供商、基础设施的安全性以及你实施的访问控制。所有这些对于保持AI模型安全都非常重要。这是很多信息。

但我认为这开始让我们的听众了解对话

全面的AI安全策略实际上涉及什么。我希望如此。这并不是要找到一个神奇的解决方案。而是要结合许多不同的安全措施来创建一个非常强大的防御体系。完全正确。好的，酷。AI安全是一个复杂的挑战。是的。你需要从各个角度来处理它。有道理。而且这不是你做一次然后就忘记的事情。公司需要不断地调整和更新他们的安全策略。

以跟上黑客的步伐。没错。我们已经谈了很多关于AI安全的技术方面，正在出现的新威胁以及公司可以做些什么来保护自己。但我很好奇。是的。所有这一切中的人为因素呢？对。我们不能仅仅依靠技术

技术来解决我们所有的安全问题吗？不幸的是，不能。人类通常是任何安全系统中最薄弱的环节。这是真的。无论你的技术多么先进，如果使用它的人犯了错误或不够小心，那么一切都是徒劳的。因此，即使有了所有这些复杂的AI安全解决方案，一个粗心的员工

仍然可能意外地为攻击打开大门。这是完全可能的。哇。这不仅仅是疏忽。好的。也是关于意识。好的。员工需要了解AI的潜在风险。是的。他们需要接受培训，学习如何发现和报告可疑活动。所以这是在组织内部创造一种安全文化。是的。每个人都了解他们在维护数据和系统安全方面的作用。没错。明白了。

这就是领导力如此重要的原因。好的。高管需要明确表示安全是重中之重。嗯哼。他们需要提供员工实施有效安全计划所需的资源和支持。所以这不仅仅是购买最新的安全设备。而是要创造一个每个人都对安全负责的环境。这是一个很好的观点。

这种文化转变非常重要，因为随着AI越来越融入我们的工作场所，攻击的机会只会越来越多。对。你需要确保每个人都了解风险，并知道如何保护自己和公司。

有道理。你给了我们的听众很多需要思考的东西。但在我们进入深入探讨的最后一部分之前，我想再谈一件事。我们一直在关注AI安全的风险和挑战。但我也很想知道潜在的好处。

AI实际上可以成为解决方案的一部分吗？绝对的。AI已经在改善许多不同行业的安全性方面发挥着重要作用。有趣。AI驱动的安全解决方案可以分析海量数据。好的。远远超过人类所能做到的。对。他们可以发现人类会错过的模式，并且可以实时响应威胁。

所以这就像有一支由数字安全警卫组成的军队，不断巡逻你的系统，寻找任何麻烦的迹象。这是一个很好的思考方式。酷。AI可以帮助我们自动化许多重复性任务……

安全专业人员现在必须处理。好的。这使他们可以专注于更重要的事情。我相信这也有助于解决网络安全专家短缺的问题。绝对的。如果AI可以处理一些更基本的任务，那么人类专家就可以专注于真正复杂和具有挑战性的威胁。没错。AI可以成为提高安全团队效率的非常强大的工具。好的。而且……

随着AI技术的不断进步，我们可以期待在安全领域看到更多令人惊叹的应用。因此，即使AI带来了一些风险，它也可以成为打击网络犯罪的有力武器。

没错。它就像一把双刃剑。没错。但如果我们了解风险和机遇。对。我们可以利用AI创造一个更安全的未来。我认为这是关键。我们已经谈了很多关于公司如何保护他们使用的AI。但是像我和你这样的普通人呢？所有这些安全措施如何影响我们的日常生活？这是一个非常重要的问题。你知道，随着AI越来越成为我们所做一切的一部分，比如我们如何银行业务、如何购物，甚至如何获取新闻。

了解AI安全不再是关于保护某些公司机密，而是关于保护我们自己。因此，公司仅仅实施这些AI安全解决方案是不够的。我们都必须更加了解风险并采取措施来保护自己。没错。想想我们每天与AI系统共享多少数据。哦，是的。我们的搜索历史、我们的位置数据、

我们的社交媒体活动。当你想到它的时候，这有点吓人。是的。所有这些信息都被算法收集和分析。随着AI变得越来越普遍，这种情况只会增加。对。那么，作为个人，我们如何在AI无处不在的世界中保护自己呢？好吧，我们可以做的一件事是更加小心我们共享的数据。

所以要对我们使用的应用程序更加挑剔。是的。我们赋予它们的权限以及我们在网上发布的内容。这一切都是关于更加了解我们的数字足迹，并了解AI系统如何使用这些数据。我们还需要对我们在网上看到的信息更加批判性地看待。你的意思是像深度伪造和AI生成的内容，那些用来传播虚假信息的东西。没错。随着AI变得越来越复杂，区分真实和虚假将变得越来越困难。

我们需要学习如何验证信息。所以这不仅仅是小心我们分享什么。还要对我们看到和听到的东西持怀疑态度。对。我们需要对我们消费的信息更加聪明。而这部分是了解AI系统中潜在的偏差。好吧，这是一个很好的观点。AI是根据数据进行训练的。如果这些数据有偏差，那么AI也会有偏差。没错。所以我们需要意识到AI可能会延续社会偏见。

我们需要让开发AI的人对创建公平且无偏见的系统负责。听起来在AI世界中导航需要一整套新的技能和更多的意识。会的。

我很乐观。我们以前也适应过新技术，我们也可以适应这项技术。关键是教育和意识。因此，我们对AI及其工作原理了解得越多，我们就越有能力保护自己并做出正确的决定。没错。这不仅仅是个人责任的问题。也是向构建和使用这些AI系统的公司提出更多要求的问题。我们需要推动更大的透明度、更大的责任感。

以及在开发AI时进行更多伦理方面的考虑。所以我们需要利用我们作为消费者和公民的力量来帮助塑造AI的未来，使之惠及所有人。没错。我们需要确保AI用于善，而不是用于恶。

并且它尊重我们的隐私、我们的安全和我们的基本权利。我认为这是一个很好的结束语。我们在这次深入探讨中涵盖了很多内容。AI安全的重要性、思科AI防御的工作原理、不断变化的威胁以及这一切对像我们的听众这样的普通人意味着什么。

随着AI变得越来越强大和越来越普遍，确保其安全变得更加至关重要。你确实如此。这是一个非常令人兴奋的时刻，可以关注这个领域。是的。但这也是一个需要小心和注意的时刻。当然。我们今天关于如何开发和使用AI所做的选择，这些选择将对我们的未来产生巨大的影响。毫无疑问。我们每个人都在塑造未来方面发挥着作用。所以要保持知情、保持好奇，并不断提出问题。这就是深入探讨的意义所在。感谢收听。