We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
Building Trustworthy AI: A Holistic Approach
2022/6/28
Smart Talks with IBM
M
Malcolm Gladwell
以深入浅出的写作风格和对社会科学的探究而闻名的加拿大作家、记者和播客主持人。
P
Phaedra Boinodiris
Phaedra Boinodiris：倡导负责任地构建和部署人工智能不再仅仅是合规问题，更是业务的必然要求。即使拥有良好意愿的组织也可能无意中造成潜在损害。她对负责任AI的兴趣源于游戏行业，最初关注的是如何利用AI提升游戏体验，后来才关注到AI伦理问题。许多公司对人工智能的投资停留在概念验证阶段，部分原因是投资与业务战略脱节，或人们不信任AI模型的结果。构建负责任的人工智能需要采取整体方法，考虑组织文化、流程和工程框架。领导负责任的人工智能倡议的领导者已经从技术领导者转变为非技术业务领导者。数据是人类经验的产物，所有数据都有偏差，如果不充分认识偏差，就会将系统性偏差固化到人工智能系统中。IBM在设计思维方面进行了大量投资，以在编写任何代码之前创建系统性同理心的框架，从而减轻潜在损害。伦理不应该作为事后质量保证，而应该从一开始就考虑在内。通过与客户互动，IBM不断学习，例如如何引导客户避免跳过重要步骤，以及如何利用社会科学家的视角来审视数据的适用性。IBM建立了卓越中心，以便员工分享经验教训，建立正确的文化。未来构建值得信赖的人工智能需要更多教育和理解，并使之更容易获取。
Malcolm Gladwell：人工智能无处不在且隐形，因此公司学习如何构建值得信赖的人工智能至关重要。赢得对人工智能的信任需要问一些以人为本的问题，例如：意图、准确性、公平性、可解释性、数据保护、稳健性等。赢得对人工智能的信任并非单纯的技术挑战，而是一个社会技术挑战。负责任的人工智能需要在流程的每个步骤中构建。构建人工智能的复杂性源于人的复杂性。构建值得信赖的人工智能需要像心理学家、人类学家一样思考，理解人的行为。
Laurie Santos：作为访谈主持人，Laurie Santos主要引导话题，提出问题，并与Phaedra Boinodiris进行讨论，并未提出自己独立的观点。
Deep Dive
Phaedra Boinodiris discusses her journey from the gaming industry to her current role at IBM, highlighting her initial interest in AI through gaming and her shift towards ethical AI concerns.
Shownotes Transcript