We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
More Ethical Quagmires, More Surveillance, and more Academia Talk
2020/5/31
Last Week in AI
A
Andrey Kurenkov
S
Sharon Zhou
Andrey Kurenkov：对利用AI根据面部照片预测犯罪的研究表示担忧，认为其存在严重的方法论和伦理问题，数据来源存在偏差，并且此类研究背后存在着殖民主义、阶级结构和种族主义等历史因素。他认为此类研究不应该被学术会议接受。
Andrey Kurenkov：对自动驾驶汽车事故的案例表示关注，认为人们在使用高级驾驶辅助系统时应了解其局限性，并指出美国人对自动驾驶汽车的不信任感主要源于缺乏亲身体验，如果能够体验自动驾驶技术，或许可以改变人们对其的不信任感。
Andrey Kurenkov：对中国公司科大讯飞的语音识别技术被用于中国的数字监控网络表示担忧，认为这引发了对隐私和人权的担忧，科大讯飞的技术被认为是中国政府构建数字极权主义国家计划的重要组成部分。他认为我们应该关注现存的AI负面影响，而不是仅仅担忧遥远的AGI威胁。
Andrey Kurenkov：讨论了机器学习领域存在的一些令人担忧的趋势，例如对推测和解释的区分不足，未能识别经验性增益的来源，以及数学的滥用等，并认为机器学习领域目前存在大量增量式和粗糙的研究，但该领域也正在努力解决这些问题。
Sharon Zhou：赞同Andrey Kurenkov的观点，并指出NeurIPS会议要求提交论文时需包含更广泛的影响声明，这有助于研究者更好地反思其研究的社会影响。她认为政府利用AI进行大规模监控令人担忧，这可能对个人隐私和人权造成威胁，并提到学术机构应该谨慎考虑与可能存在伦理问题的公司合作。
Sharon Zhou：讨论了机器学习论文数量的快速增长导致审稿人负担过重，影响了论文质量，并认为机器学习论文数量的快速增长导致审稿人负担过重，影响了论文质量。
Deep Dive
The discussion revolves around an article about AI's ability to predict criminality based on facial features, highlighting historical and ethical issues with such research.
Shownotes Transcript