We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode 859: BAML: The Programming Language for AI, with Vaibhav Gupta

859: BAML: The Programming Language for AI, with Vaibhav Gupta

2025/2/4
logo of podcast Super Data Science: ML & AI Podcast with Jon Krohn

Super Data Science: ML & AI Podcast with Jon Krohn
AI Deep Dive Transcript
People
J
Jon Krohn
V
Vaibhav Gupta
Topics
Vaibhav Gupta: 我是Boundary的创始人兼首席执行官,我们开发了一种名为BAML的编程语言,旨在简化与大型语言模型(LLM)的交互,并显著提高开发效率。BAML的设计理念借鉴了网页开发的早期经验,它提供了一种更具表达能力的跨语言兼容方案,解决了现有AI SDK受限于编程语言本身的问题。BAML通过算法工作,重构了用户处理提示工程的方式,就像TypeScript提升了JavaScript一样。在开发BAML之前,我们经历了13次转型,最终选择专注于开发AI编程语言。 BAML的优势在于其清晰的语法,即使非技术人员也能轻松使用。此外,BAML的热重载循环极大地缩短了测试时间,使开发者能够在更短的时间内尝试更多提示。我们还解决了RAG(检索增强生成)中的痛点,例如如何有效地将上下文添加到提示中,以及如何处理提示中的歧义和错误。BAML通过强类型和语义化分块来处理这些问题,提高了AI应用的可靠性。 BAML通过模式对齐解析技术提高了令牌效率,并与不支持函数调用的模型兼容,例如DeepSeq R1和OpenAI O1。我们已经看到客户轻松节省了20%到30%的令牌。BAML的模式对齐解析技术可以处理模型输出,而无需显式JSON格式,这使得它与各种现有模型兼容。 未来,我们将继续改进BAML,使其支持更强大的功能,例如条件语句和循环语句,并改进数据平台以简化数据管道管理。我们还将提供更多工具来辅助用户使用BAML,例如在线playground和多种语言的安装包,以及代码生成工具。 Jon Krohn: 通过与Vaibhav Gupta的对话,我深入了解了BAML编程语言及其在提高AI效率和降低成本方面的优势。BAML通过提供热重载循环、令牌效率改进和与不支持函数调用的模型的兼容性等功能,显著简化了与大型语言模型的交互。此外,BAML的内置类型安全性和错误处理机制,提高了AI应用的可靠性。Boundary公司独特的招聘流程也给我留下了深刻印象,他们不进行技术面试,而是通过候选人自荐、深度参考面试和试用期来评估候选人。

Deep Dive

Shownotes Transcript

In this week’s guest interview, Vaibhav Gupta talks to Jon Krohn about creating a programming language, BAML, that helps companies save up to 30% on their AI costs. He explains how he started tailoring BAML to facilitate natural language generation interactions with AI models, how BAML helps companies optimize their outputs, and he also lets listeners into Boundary’s hiring process.

This episode is brought to you by ODSC), the Open Data Science Conference. Interested in sponsoring a SuperDataScience Podcast episode? Email [email protected]) for sponsorship information.

In this episode you will learn:

  • (04:53) What BAML stands for

  • (14:33) Making a prompt engineering a serious practice

  • (18:00) How BAML helps companies

  • (23:30) Using retrieval-augmented generation (RAG)

  • (43:09) How to get a job at Boundary

Additional materials: www.superdatascience.com/859)