We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode Orchestrating agents, APIs, and MCP servers

Orchestrating agents, APIs, and MCP servers

2025/4/14
logo of podcast Practical AI: Machine Learning, Data Science, LLM

Practical AI: Machine Learning, Data Science, LLM

AI Deep Dive AI Chapters Transcript
People
D
Daniel Whitenack
P
Pavel Veller
Topics
Pavel Veller: 我是EPAM的首席技术专家,我们公司开发了一个名为Dial的AI编排平台,它可以连接多个AI代理和工具,并进行负载均衡。Dial是一个类似ChatGPT的对话式应用,但功能更强大,可以返回UI元素和交互式元素。它最初是一个负载均衡的模型无关代理,现在已经发展成为一个应用托管生态系统,并正在与MCP协议集成,以连接更多工具。我们还开发了一个名为CodeMe的AI助手,它在SWE bench排名第五,可以用于代码编写和维护。使用AI代理进行软件开发时,需要考虑如何构建工具的层次结构,以及如何平衡LLM的自主决策和人工干预。我曾经尝试使用AI代理提高效率,但由于过度指令导致失败,这说明迭代式开发和适度授权给LLM更有效。在大型代码库维护方面,AI代理的应用仍处于早期阶段,需要进一步探索其在代码修改和维护方面的应用。使用AI代理会改变工作流程,增加认知负荷,需要适应新的工作方式。将工具和功能连接到大型语言模型(LLM)时,技术实现相对容易,但确保其在实际应用中的实用性和有效性则更具挑战性,需要考虑用户提示、数据语义、身份验证和遗留系统等因素。在数据分析相关的用例中,语义层能够弥补底层系统在数据理解方面的不足。 Daniel Whitenack: 在大型代码库维护方面,AI代理的应用仍处于早期阶段,需要进一步探索其在代码修改和维护方面的应用。使用AI代理会改变工作流程,增加认知负荷,需要适应新的工作方式。

Deep Dive

Shownotes Transcript

In this episode, Daniel sits down with Pavel Veller, EPAM’s Chief Technologist, to explore the practical challenges of orchestrating many AI agents and managing connections to disparate systems/tools. Pavel shares insights from his hands-on work with agentic architectures and internal tools like "DIAL". Pavel also helps us understand things like MCP servers and why connecting assistants via APIs is easy—but making them useful is hard. 

Featuring:

Links:

** ★ Support this podcast ★) **