We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
How a Human-Centered Approach is Building Trustworthy AI
2021/11/18
Smart Talks with IBM
C
Christina Montgomery
S
Seth Dobrin
Seth Dobrin: 对AI伦理和信任的关注并非始于AI技术发展初期，而是随着AI应用于真实场景中，特别是涉及到偏见和社会公平问题时才逐渐凸显的。最初对AI的信任主要关注其结果的准确性，但随着AI技术的发展和应用场景的扩展，人们开始关注AI在处理偏见、公平性等问题上的表现。例如，在抵押贷款中，基于邮政编码的算法曾导致对某些种族人群的歧视。近年来，社会正义运动的兴起也加速了人们对AI伦理和信任的关注。
Seth Dobrin: 在AI应用中，尤其是在涉及个人隐私的场景下，需要明确界定哪些行为是可接受的，哪些是不可接受的，并对模糊地带进行讨论和决策。例如，在疫情期间，使用面部识别技术检测体温，以及使用接触追踪技术，都涉及到伦理和隐私问题。IBM的AI伦理委员会在这些问题上进行了深入讨论，并制定了相应的规则和指导方针。
Seth Dobrin: AI领域需要多元化和共享责任原则，这不仅是道德要求，也是为了获得更好的AI系统结果，因为多元化的团队能够更好地理解和解决社会问题。缺乏多元化会导致AI系统产生偏见，例如，一个主要由男性组成的团队开发的招聘算法可能会歧视女性求职者。
Seth Dobrin: IBM通过开源AI技术工具包，并在此基础上构建增值功能，来促进AI技术的公平、可解释性、稳健性和隐私保护。AI与传统软件不同，它会随着时间的推移不断学习和调整模型，因此需要持续监控AI系统的公平性、可解释性、稳健性和隐私保护等方面。
Seth Dobrin: 未来AI发展趋势：神经符号推理技术将提升AI的可解释性和透明度；AI将更多地被用于增强人类能力，而非取代人类工作；AI应用将更加注重以人为本，并提升人们的工作效率和满意度。神经符号推理技术能够让AI像人类一样进行推理，从而避免AI产生有害的言论或行为。
Christina Montgomery: IBM的AI伦理委员会在她的加入后，从一个单纯的讨论机构转变为一个拥有决策权，并能整合公司各方利益相关者意见的执行机构。委员会的成员来自公司各个部门，包括法律、研发、人力资源等，这使得委员会能够从多个角度审视AI伦理问题。
Christina Montgomery: IBM在应对COVID-19疫情期间，在AI技术应用方面，并非只关注技术的可行性，更注重伦理考量和公司社会责任，例如在疫苗护照和免疫证明等技术应用上，优先考虑公司是否愿意参与，而非仅仅考虑技术上的可行性。
Christina Montgomery: 良好的AI治理机制能够加速AI技术应用，而非阻碍其发展，关键在于制定清晰的规则和指导方针，明确哪些行为可以做，哪些不可以做。IBM的AI伦理委员会制定了明确的规则和指导方针，帮助公司员工在AI应用中遵循伦理原则。
Christina Montgomery: IBM通过“设计伦理”的方法，将伦理原则融入AI的整个生命周期，从概念阶段到部署阶段，以减少偏见并确保AI的公平性。
Christina Montgomery: IBM在AI伦理方面的实践方法相对独特，它采取了一种整体的、跨学科的方法，并致力于将这种方法开源共享，以推动整个行业的AI伦理发展。
Christina Montgomery: 政府在AI监管方面正在追赶企业，但企业已经开始主动制定并实施AI伦理规范，并积极向政府提供政策建议。
Christina Montgomery: 公众舆论对AI应用的影响力日益增强，甚至超过政府监管，企业需要同时关注公众和政府的反应。IBM在AI应用中，除了考虑法律法规，也注重公众舆论的影响，并根据伦理原则做出决策。
Deep Dive
Malcolm Gladwell introduces the episode and discusses IBM's approach to building trustworthy AI with Christina Montgomery and Dr. Seth Dobrin.
Shownotes Transcript