We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
The path towards trustworthy AI
2024/10/29
Practical AI: Machine Learning, Data Science, LLM
E
Elham Tabassi
Elham Tabassi: NIST 的使命是促进美国的创新和工业竞争力，通过发展测量科学和标准来增强人们对技术的信任，目前正将此应用于人工智能领域。NIST 通过与利益相关者进行开放透明的合作，开发工具、指南、框架、指标和标准来支持产业和技术发展。为了理解AI系统的信任构成，NIST与开发技术和研究技术影响的社区（包括经济学家、社会学家、心理学家和认知科学家）进行合作。NIST 的 AI 风险管理框架 (AI RMF) 是一个自愿框架，用于以灵活、结构化和可衡量的方式管理 AI 风险，并通过与 AI 社区的合作开发。AI RMF 将 AI 系统的信任定义为有效可靠、可问责透明、安全可靠、可解释和可理解、保护隐私并避免有害偏见的系统。NIST 试图通过示例（例如医疗保健中的 AI 系统）来解释 AI 中信任的概念，强调有效性、可靠性、安全性和隐私等关键因素。白宫关于安全、可靠和可信赖的人工智能开发和使用的行政命令加强了 NIST 在培养人们对人工智能的信任方面的努力。白宫的行政命令促使 NIST 加快了开发评估、安全和网络安全指南、促进共识标准以及为 AI 系统评估提供测试环境的工作。NIST 通过征求意见和公开评论来交付行政命令中规定的内容，并发布了关于生成式 AI 的 AI RMF 配置文件等文件。NIST 的生成式 AI 配置文件描述了生成式 AI 技术特有的或加剧的风险，包括信息操纵、有害内容、数据隐私风险和环境影响等。NIST 通过识别、测量和管理 AI 风险来促进 AI 系统的信任，这包括确定信任特征、测量方法和风险缓解策略。AI RMF 的建议分为治理、制图、衡量和管理四个功能，为风险管理提供结构化方法。组织可以通过阅读 AI RMF 和使用其配套工具包来实施 AI 风险管理，从治理和制图功能开始，并根据具体情况逐步实施其他建议。组织不必完全实施 AI RMF 中的所有建议，可以从阅读 AI RMF 和配套工具包开始，选择少量建议进行实施，并根据具体情况逐步实施。AI RMF 工具包为每个子类别提供了建议的行动、信息性文件和透明度建议。组织应根据自身资源和专业知识，优先考虑 AI RMF 建议的实施，并持续监控和管理风险。AI RMF 提供了特定行业或技术领域的配置文件，以帮助组织根据具体情况实施风险管理。已经有一些实体正在开发用于实施 AI RMF 的工具，NIST 正在与社区合作，关注工具的运营和实施。NIST 关注人工智能的未来发展，包括改进人工智能评估、建立更强的科学基础以及开发清晰易懂的技术健全的标准。NIST 希望看到人工智能技术被用作科学发现的工具，以促进精准医疗、个性化教育和气候变化研究等领域的进步。需要更好地理解人工智能模型的工作原理，并开发出可靠的评估方法来确保系统的可靠性和有效性。需要开发出清晰易懂的技术健全的标准，以促进人工智能评估、保证和治理的全球互操作性。
Chris Benson: 作为 AI 从业者，对 NIST 提供的指导表示赞赏，并强调了其在政府、行业和公众之间的作用。
Deep Dive
Elham Tabassi introduces NIST's mission and its role in advancing AI technology through multi-stakeholder collaborations, emphasizing the importance of trust and risk management in AI systems.
- NIST is a non-regulatory agency under the Department of Commerce focused on advancing U.S. innovation and industrial competitiveness.
- The agency cultivates trust in technology by advancing measurement science and standards.
- NIST's AI Risk Management Framework (AI RMF) is developed through open, transparent collaborations with diverse experts.
Shownotes Transcript