We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode 619. How to Poison the A.I. Machine

619. How to Poison the A.I. Machine

2025/1/24
logo of podcast Freakonomics Radio

Freakonomics Radio

AI Deep Dive Transcript
People
B
Ben Zhao
节目主持人
Topics
节目主持人: 本节目讨论了AI技术带来的艺术伪造问题,以及计算机科学家Ben Zhao为保护艺术家权益而开发的工具。AI技术能够模仿人类艺术家的风格,甚至盗用其作品,这引发了版权和身份盗窃等问题。同时,AI技术也带来了经济增长的潜力,但其发展速度过快,可能对人类社会造成负面影响。 Ben Zhao: 我开发了对抗性机器学习工具,旨在减轻生成式AI模型对人类创意的损害。我的团队致力于研究如何减少AI滥用对人类,特别是艺术家和作家的伤害。我们开发了Glaze和Nightshade两种工具来‘毒害’AI系统,以防止其盗用艺术家的作品。Glaze旨在保护个体艺术家免受他人使用本地模型模仿其作品。Nightshade通过修改图像,使其在训练AI模型时产生与实际内容不同的标签,从而提高训练成本。大型AI公司拥有巨大的权力和资源,可以轻易地影响政策和舆论,但我们希望通过这些工具,让AI公司不得不考虑与艺术家进行合法授权合作,从而保护艺术家的权益。当前AI模型的训练数据已接近极限,其发展可能正在放缓,AI的炒作程度过高,其实际价值远低于预期。即使最终无法彻底阻止AI的负面影响,但减轻其对人们的实时伤害也是有价值的。我的研究成果不以商业化为目的,我希望我的工具能够被其他机构或组织继续发展和完善。为了AI和人类创造力的共存,AI需要依赖人类的创作,并且人类需要为此获得报酬。 Ben Zhao: 我关注艺术家是因为他们的创造力鼓舞人心。公平的经济解决方案是让AI远离创意领域,专注于其他更合适的应用。

Deep Dive

Shownotes Transcript

When the computer scientist Ben Zhao learned that artists were having their work stolen by A.I. models, he invented a tool to thwart the machines. He also knows how to foil an eavesdropping Alexa and how to guard your online footprint. The big news, he says, is that the A.I. bubble is bursting.