We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
Gorkem Ercan - Eclipse, AI/ML, CI/CD
2024/10/19
Swift Developer Podcast - App development and discussion
G
Gorkem Ercan
P
Peter Witham
Gorkem Ercan: 我认为AI/ML的采用应该与现有的CI/CD实践和标准紧密结合，以确保AI/ML模型的开发和部署过程安全可靠。我们公司Jozu致力于帮助企业建立标准，并重用现有标准来实现高端ML的采用。在过去的五年到十年里，我们认识到供应链安全的重要性，而CI/CD是保障供应链安全的重要环节。现代CI/CD不仅要能够构建和测试项目，还要记录构建过程中的所有信息，包括构建环境、依赖项和二进制文件，以及测试结果。这有助于生成SBOM（软件物料清单），确保供应链的安全性。KitOps项目使用OCI工件来存储AI/ML工件，包括模型权重、模型本身、数据集、代码、文档和配置。这使得我们可以利用现有的技术和工具，例如SBOM和Cosign，来确保AI/ML工件的安全性和可追溯性。AI/ML模型的训练结果并非完全可重复，这与传统的GitOps理念有所不同。我们需要适应这种非线性过程，并开发新的方法和工具来管理AI/ML项目的实验和迭代。在生产环境中进行推理时，也需要考虑额外的管道和流程。总的来说，AI/ML的CI/CD需要比传统软件更灵活和智能的方法，以应对实验性和迭代性。
此外，AI/ML的应用也并非完全取代软件工程师的工作，而是增强其能力。AI/ML可以帮助解决传统编程难以解决的问题，提高业务效率。我们需要学习如何快速、廉价地采用AI/ML来解决这些问题，并关注安全性和可重复性。
在AI/ML模型的应用中，我们不必完全理解其内部机制，只要能够理解其结果并验证其正确性即可。AI/ML可以自动化一些人力难以完成的任务，例如对大量电话录音进行情感分析，提高效率并改善客户满意度。
Peter Witham: 我关注的是开源软件的广泛应用以及由此带来的责任感。我们需要更负责任和严谨的态度，以避免因变更而造成重大影响。开源基金会（如Eclipse基金会）确保了项目维护的持续性，即使人员变动也不会导致项目消失。在AI/ML领域，我们需要建立对这些技术的信任，并学习如何有效地利用它们，而不是完全依赖AI生成的代码。我们需要理解AI/ML模型的结果，并进行人工审核和验证。AI/ML技术在不断发展，未来将会带来更多可能性，例如解决医疗问题和跨语言沟通。
Deep Dive
Shownotes Transcript