We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode Sean McGregor on the AI Incident Database and the AI XPRIZE

Sean McGregor on the AI Incident Database and the AI XPRIZE

2021/7/6
logo of podcast Last Week in AI

Last Week in AI
AI Deep Dive AI Chapters Transcript
People
S
Sean McGregor
Topics
Sean McGregor: AI事故数据库的灵感来自航空等行业，旨在收集和分析AI系统中的事故案例，以改进AI系统设计，提升安全性。数据库对"损害"的定义宽泛，包含任何存在损害或潜在损害的情况。数据库的目的是为了帮助AI工程师和研究人员了解AI系统的缺陷，并制定相应的解决方案，避免类似事件的发生。数据库收集了来自世界各地的案例，并允许第三方对数据进行分析和分类。最终目标是构建一个更安全可靠的AI系统，造福社会。 Sean McGregor: 在AI XPRIZE项目中，评判标准是项目对社会的益处，而非技术本身。该项目旨在奖励利用AI改善世界的项目。最终获奖的项目涵盖了打击人口贩卖、改善心理健康治疗和消灭疟疾等领域，体现了AI技术在改善人类福祉方面的巨大潜力。 Sharon Jo: 对AI事故数据库的讨论，涵盖了数据库的创建初衷、数据收集方法、公众和企业对数据库的反应，以及数据库在促进AI安全和责任方面的作用。对AI XPRIZE项目的讨论，涵盖了该项目的评判标准、参与团队及其项目，以及该项目对AI技术发展和应用的影响。

Deep Dive

Chapters
The AI Incident Database collects failures and incidents in AI to inform industrial practices and improve safety, inspired by similar databases in aviation.

Shownotes Transcript

An interview with Sean McGregor, the ML architect at the neural accelerator startup Syntiant who also works with the XPRIZE Foundation and is the creator and maintainer of the Partnership on AI's Incident Database.

Subscribe: RSS) | iTunes) | Spotify) | YouTube)

Music: Deliberate Thought, Inspired by Kevin MacLeod (incompetech.com)