We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
Snowflake's Baris Gultekin on Unlocking the Value of Data With Large Language Models - Ep. 231
2024/8/21
The AI Podcast
B
Baris Gultekin
N
Noah Kravitz
Baris Gultekin: Snowflake是一个AI数据云平台，其发展历程分为三个阶段：首先是简化数据访问和处理；其次是将数据存储与计算分离，实现数据共享；第三阶段是利用AI帮助更多用户解锁数据价值。Snowflake通过将数据存储与计算分离，极大地提升了数据访问和处理能力。数据仓库用于高效处理大量结构化数据，而数据湖则扩展到处理结构化和非结构化数据。没有数据策略就没有AI策略，Snowflake致力于将计算资源部署到数据所在位置，而非将大量数据转移到计算资源所在位置。Snowflake的AI平台允许客户进行自然语言分析、构建聊天机器人等，所有操作都在Snowflake内部运行，确保数据和AI的安全治理。Snowflake Cortex是一个托管服务，提供一系列大型语言模型，方便客户访问并简化AI应用构建。Snowflake Cortex强调AI的易用性、效率和可信度，并提供多种模型选择。2023年是AI概念验证之年，2024年企业开始将AI应用于实际生产环境。Snowflake的客户正在使用AI来改进业务流程，例如拜耳公司使用AI访问结构化数据，西门子公司使用AI访问其研究文档。企业客户在将AI从概念验证转向生产环境时，最关注的是：幻觉、数据安全和治理、成本。Snowflake的Cortex Search产品通过自定义RAG解决方案和混合搜索引擎来提高质量并减少幻觉。Cortex Search的混合搜索引擎结合了向量搜索和传统的基于关键词的文本搜索。减少大型语言模型幻觉的方法包括模型微调和混合搜索，后者可以评估文档与问题的相关性，从而避免在缺乏数据支持时产生幻觉。Arctic是Snowflake自研的一系列语言模型，包括大型语言模型、嵌入模型和文档模型，其特点是高效且高质量。Arctic模型在遵循指令、编码和SQL方面表现出色，训练成本也相对较低。Snowflake公开了Arctic模型的权重、研究成果和数据配方。混合专家模型(MOE)只激活一部分参数来回答问题，比密集模型更高效。Snowflake的Cortex Analyst产品提供最先进的文本到SQL功能，使业务用户能够使用自然语言查询数据。未来AI的发展趋势是智能体系统，能够进行推理、自我修复和协作。将AI计算资源部署到数据所在位置，可以简化流程并提高效率；构建高质量的生产系统比构建演示系统更具挑战性。建议对AI感兴趣的人不要被技术吓倒，积极尝试并发挥创造力。
Noah Kravitz: Snowflake致力于帮助客户将数据转化为洞察和应用，并采用创新方法来微调模型、构建模型以及将文本转换为SQL。
Deep Dive
Baris Gultekin introduces Snowflake as an AI data cloud that separates data storage from compute, enabling organizations to access and manage data at scale, and discusses the evolution from a data warehouse to a platform that unlocks value with AI.
Shownotes Transcript