We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
TMT Predictions 2025: Insights from Deloitte
2025/1/16
Artificial Intelligence: AI News, ChatGPT, OpenAI, LLM, Anthropic, Claude, Google AI
主
主持人
专注于电动车和能源领域的播客主持人和内容创作者。
主持人：我最近一直在关注AI新闻，特别是关于AI代理的新闻。AI代理能够处理任务、做出决策，甚至与我们聊天，就像科幻小说中的场景一样。但是，很容易被炒作所迷惑，所以这次深入探讨，我们将关注实际情况，看看AI代理在企业中的实际应用情况，而不是新闻标题。首先，我们将了解来自NVIDIA的一些有趣见解。众所周知，NVIDIA以其显卡而闻名，但他们也在大力进军AI领域，特别是所谓的AI代理微服务。请耐心听我解释，因为这里面很有意思。
NVIDIA的这些微服务就像微小的软件构建块，旨在使AI代理对企业来说更安全、更可靠。其中一项服务解决了有害或有偏见输出的问题，可以将其视为AI对话的内容安全网。另一项微服务使AI代理专注于特定主题，确保它们不会突然偏离到无关的方面。还有一个真正引起我注意的服务，一个旨在防止越狱的微服务。
在本文中，“越狱”指的是试图移除对AI代理功能的限制，就像试图破解手机以绕过家长控制一样，但后果可能要严重得多。NVIDIA显然在此方面具有前瞻性，预料到了风险并试图建立安全措施。
但关键在于，NVIDIA并没有悄悄推出这些安全功能，他们正在大肆宣传。这告诉我一些重要的事情，他们认为安全和控制将是说服企业真正采用AI代理的关键因素。这确实是一个巧妙的策略，因为让我们面对现实，如果你是考虑将任务交给AI的企业，你肯定希望它不会失控，向你的客户散布阴谋论，或者做出可能让你陷入困境的决策。
但是，在我们被NVIDIA的愿景所吸引之前，我们需要从更大的角度来看待问题。企业是否真的像所有炒作所暗示的那样迅速采用AI代理？好吧，事情变得有点复杂了。我们在这里有一些相互矛盾的预测。一方面，Salesforce的首席执行官马克·贝尼奥夫基本上表示，AI代理即将爆炸式增长，他预测明年仅在其平台上运行的AI代理数量就将超过十亿。但另一方面，德勤是一家全球咨询公司，他们的研究描绘了一幅更为谨慎的图景。他们预测，到2025年，只有约25%的企业将使用或计划使用AI代理，到2027年，这一比例将上升到50%。这与十亿个AI代理接管世界之间存在相当大的差距。
以及不到一半的企业甚至只是尝试一下。那么到底发生了什么？是什么导致了这种差异？我认为这种预测差异归结于以下几点。一方面，AI代理具有巨大的潜力。它们可以自动化任务，提供个性化体验，甚至可以分析数据并提出建议。
很容易理解为什么像马克·贝尼奥夫这样的人会如此看好它们的未来。但另一方面，还有业务采用的现实情况。这就是德勤的数字开始有意义的地方。AI代理仍然是一项相对较新的技术，因此公司会谨慎行事。他们希望在投入使用之前看到明确的投资回报。然后是信任因素。你真的可以相信AI代理在复杂情况下做出正确的决定吗？如果它犯了错误怎么办？
更糟糕的是，如果它造成某种损害怎么办？这就是NVIDIA的策略及其安全微服务发挥作用的地方。他们试图直接解决这些担忧。
通过内置安全措施，它可以避免偏见、跑题，甚至黑客攻击。他们的目标是使AI代理对企业来说更可预测、更可靠。这样想吧，如果你是正在考虑使用AI代理与客户互动的公司，那么当你了解已经到位了可以防止事情偏离轨道的机制时，难道不会感觉更舒服吗？你知道AI不会突然开始使用攻击性语言或做出无法兑现的承诺。
NVIDIA本质上试图为AI代理创建一个更受控制的操作环境。这在说服企业尝试AI代理方面可能是一个改变游戏规则的因素。现在，即使这些安全措施到位，也必须记住AI代理仍然是工具。它们只与其训练数据一样好，并且仍然需要人工监督和指导。但这里真正令人着迷的是，我们看到了关注点的明显转变。
讨论不再仅仅是关于AI代理的原始能力了。而是关于如何使它们更安全、更可控，并最终更值得企业信赖。这又让我们回到了德勤的预测。即使他们的预测是正确的，并且采用速度比一些更乐观的预测慢，但他们预测在未来几年内，将有一半的企业将使用或计划使用AI代理，这仍然意义重大。
这告诉我这项技术不仅仅是一种时尚，它将继续存在。随着AI代理不断发展并变得越来越复杂，我们今天正在努力解决的关于安全、控制和信任的问题
这些问题只会变得越来越重要。那么这一切对你意味着什么？好吧，即使你不是科技公司首席执行官或数据科学家，也值得关注AI代理领域的发展情况。因为如果AI代理在企业中得到更广泛的采用，它将对整个经济产生连锁反应。它可以改变我们的工作方式、与公司互动的方式，甚至改变我们购物和做决策的方式。
所以在我们结束这次深入探讨之前，我想让你思考一些问题。想象一下，未来AI代理在企业中就像今天的智能手机一样普遍。你对它们的未来有什么希望？你有什么担忧？你认为AI代理是向善的力量，是一种让我们摆脱那些繁琐任务的方式，至少可以带来新的创造力和生产力水平吗？或者你感到不安，担心将如此多的控制权交给机器的潜在后果吗？
这很复杂，对吧？没有简单的答案，但这绝对是我们需要进行的讨论，尤其是在这些技术发展如此迅速的情况下。我希望这次深入探讨能让你对AI代理的世界有一些新的认识。也许它还会引发你自己的问题，因为最终，AI的未来并不是仅仅会发生在我们身上的事情，而是我们所有人将共同塑造的事情。感谢你加入我这次对不断发展的AI代理世界的深入探讨。下次再见，保持好奇心，继续探索。
Deep Dive
Shownotes Transcript