We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
M
Maryam Ashoori
我于毕业后加入IBM，长期从事AI应用开发和设计工作，目前负责IBM企业AI平台WatsonX.AI的产品策略和交付。我选择这个团队是因为我相信生成式AI能够显著提升企业员工的生产力，释放更多时间用于创造更高价值的工作。
过去一年，市场对生成式AI的热情已从单纯的探索转向商业化应用。许多公司已从实验阶段转向试点阶段，甚至部分公司已进入生产阶段。然而，大型通用模型在生产和扩展方面面临诸多挑战，例如延迟、成本和能耗的增加。因此，小型可定制模型成为企业青睐的选择，因为它们可以在特定用例上提供高性能，同时降低成本。
Granite是IBM领先的旗舰模型系列，提供多种类型的模型，包括语言、代码、时间序列和地理空间模型，并提供担保。Granite模型涵盖多种语言，其代码模型性能优越，在某些情况下甚至超过流行的开源模型。Granite模型的主要企业应用包括内容生成、总结、信息提取和基于内容的问答。例如，在客户服务领域，Granite模型可以连接内部公司数据，快速准确地回答客户问题，从而提高效率。
IBM的模型策略是多模型和多部署，即不依赖单一模型，而是使用多种模型满足不同需求。WatsonX.ai平台提供多种高性能模型，包括开源模型、商业伙伴提供的模型和IBM自主研发的模型，并支持用户自带模型。我们能够快速将市场上新发布的模型（如LLaMA和Mistral Large 2）集成到平台中，并提供多种部署选项。
基础模型不仅仅是大型语言模型，还可以是代码生成器、时间序列模型或图像模型等。许多现有模型缺乏数据来源和训练过程的透明度，这给企业带来潜在风险，尤其是在受监管行业。Granite模型的训练数据中包含来自金融和法律领域的资料，并内置有害信息检测机制。在Watson X平台上使用Granite模型，可以获得客户保护和平台功能的优势，例如AI治理功能。WatsonX.governance能够自动记录模型使用过程中的信息，方便追溯和管理。
未来的生成式AI将具备推理、规划、行动和反思的能力。Granite模型正在扩展其功能调用能力，使其能够连接外部工具（如天气API）来执行任务。企业在评估AI工具时，应考虑其适用性、数据质量、合作伙伴的可靠性以及相关法规。项目经理应该保持敏捷性，拥抱实验、持续学习和快速采用新理念。我最大的目标是提高生产力，利用AI释放员工时间，专注于更有价值的工作。Granite模型的特点是开放、可靠和针对性强。它适合企业使用，因为它体积小、针对性强、易于定制，并经过企业数据的训练。小型模型在计算资源、成本、能耗和延迟方面具有优势。
五年后，AI将变得无处不在且难以察觉。人们对AI最大的误解是害怕它，而实际上AI是不可避免的。我给十年前的自己建议是培养更广泛的技能。下一个重要的商业AI应用是AI影响者生成内容。我日常生活中使用AI的一个例子是使用AI生成LinkedIn帖子。InstructLab提供了一种方法，让企业员工能够共同改进模型。我相信AI的未来是开放的，开源模型的兴起促进了AI技术的普及和改进。
Deep Dive
This chapter introduces Granite, IBM's family of foundation models, and explores its role in improving business efficiency. Maryam Ashoori discusses real-world applications of Granite, particularly in customer care, and the shift towards smaller, customizable AI models.
- Granite is IBM's industry-leading family of models.
- It's used to improve efficiency across various domains, especially customer care.
- Smaller, customizable models offer high performance at lower costs compared to large general-purpose models.
Shownotes Transcript