What happens when you train your AI on AI-generated data?
2025/5/19
On Point | Podcast
A
Ari Morkos
K
Kalyan Viramachaneni
M
Mark Zuckerberg
创立Facebook和Meta的美国商人，致力于推动社交媒体和元宇宙技术的发展。
M
Meghna Chakrabarty
S
Sam Altman
领导 OpenAI 实现 AGI 和超智能，重新定义 AI 发展路径，并推动 AI 技术的商业化和应用。
Meghna Chakrabarty: 人工智能模型通过从现实世界中获取大量数据进行训练，学习如何创建与现实世界数据相匹配的响应。大型语言模型通过阅读互联网上的文本样本，寻找单词如何协同工作的模式，并尝试猜测句子中的下一个单词，通过不断纠正错误来学习，从而理解和书写像人类一样的文本。
Mark Zuckerberg: 我认为在未来，大型模型的训练可能更多地是推理生成合成数据，然后将其反馈到模型中。这意味着AI模型可以利用基于真实世界数据构建的模型来创建新的、人工的数据，即所谓的合成数据，以训练未来的模型。
Sam Altman: 只要能够克服合成数据事件视界，即模型足够智能，可以生成良好的合成数据，一切都应该没问题。这个观点强调了合成数据在AI模型训练中的潜力，但同时也提出了模型生成高质量合成数据的能力这一关键要求。
Ari Morkos: 合成数据点是由模型生成的数据点，而不是由人或现实世界创建的。这种数据只有在能够反映潜在现实的情况下才有用。虽然公共领域的数据正在耗尽，但总会有新数据产生，互联网上的数据量每天都在增加。然而，改进模型的关键在于更好地利用现有数据，而不是仅仅收集更多数据。互联网上的绝大多数数据对于训练模型来说并不是特别有用，因为其中存在大量冗余信息。高质量的数据依赖于模型的用例，并且需要针对特定任务进行优化。合成数据绝对是解决方案的重要组成部分，但许多主要基于合成数据训练的模型实际上存在很多问题，例如脆弱性和泛化能力差。
Kalyan Viramachaneni: 我们现在使用的AI在很大程度上仍然很小，我不是指规模，而是指它可以完成的任务。我们要求AI进行推理和思考，这需要我们提供更多的数据训练模型，这些模型在推理方面更加高效，并且可以解决我们尚未想到使用AI模型解决的问题。任何值得预测的事情都很少发生，为了训练这些模型来预测这种罕见的情况，我们必须创建合成数据，因为它们太罕见了，在现实世界中不会经常发生。例如，银行中的欺诈行为很少发生，因此需要合成数据来训练模型以检测欺诈。
Deep Dive
The traditional method of training AI models involves using vast amounts of real-world data. However, recent research suggests that this data may be running out. The podcast explores the shift from supervised learning to self-supervised learning and the resulting massive increase in data usage, questioning whether we are truly running out of data or simply failing to utilize existing data effectively.
- Shift from supervised to self-supervised learning massively increased data usage.
- Current AI models consume trillions of data points.
- The public internet's data is not static; it's constantly growing, but AI's demand may be growing faster.
- Data quality and targeted training are crucial for efficient AI model development.
Shownotes Transcript