B
Ben Zhao
S
Stephen Dubner
以《怪诞经济学》系列著名的美国作家、记者和广播电视人物。
Stephen Dubner: 我关注到AI正在进行一种新型的艺术伪造，AI模型模仿艺术家的作品，这是一种身份盗窃，对艺术家来说是严重的伤害。AI的快速发展令人惊叹，但也带来许多问题，我们需要找到AI如何更好地服务于人类，而不是取代人类的方法。大型科技公司拥有巨大的权力和影响力，这使得保护艺术家的权益变得更加困难。
我们需要关注AI对各个行业的冲击，包括对艺术家的影响。AI模型对艺术家的作品进行模仿和使用，是对其身份和生计的盗窃。AI公司利用法律诉讼和执法需要时间的特点来谋取利益。关于AI和艺术的争论不仅仅关乎知识产权，更关乎艺术的意图和意义。AI不能以更快的速度复制人类艺术，它只是将现有的艺术样本混合在一起。
人们总是会寻找以更低成本或免费获得某些东西并将其转化为利润的方法。我们需要找到一种公平的经济解决方案，让AI模型能够获得所需的数据，同时不会剥夺艺术家的权益。
Ben Zhao: 我致力于对抗性机器学习研究，开发工具来减轻生成式AI模型对人类创意的损害。我开发了Glaze和Nightshade两种工具来‘毒害’AI系统，以阻止其对艺术家的作品进行模仿和使用。Glaze旨在保护个体艺术家免受他人使用本地模型模仿其作品。Nightshade通过改变图像，使其在AI模型训练中被识别为不同的东西，从而增加AI模型训练的成本。
AI公司将数据投毒视为一种滥用行为，但AI训练模型很容易被愚弄。Nightshade可能会导致AI模型训练过程的延迟和成本增加，迫使AI公司寻求与艺术家进行合法授权交易。我的主要动机是让艺术家为他们的作品获得报酬。生成式AI模型的炒作过高，其发展正在达到瓶颈。生成式AI模型的实际应用价值远低于人们的预期。
我并不试图阻止AI的发展，而是希望保护人们免受其短期危害。AI模型的局限性最终会使其炒作破灭，而人类的创造力仍然不可替代。我关心艺术家是因为创造力是人类的精华。为了AI和人类创造力的共存，AI需要人类的创作，而人类也需要得到报酬。
Deep Dive
AI art generators are being used to create forgeries and steal artists' work. These AI models scrape images from the internet, including artists' portfolios, to train themselves, leading to concerns about copyright infringement and job displacement.
- AI art generators can create forgeries so realistic they've been mistaken for original artwork.
- Artists are concerned about AI models stealing their unique styles and impacting their livelihoods.
- AI art generators scrape images from the internet to train their models, raising copyright concerns.
Shownotes Transcript