515. Ethics, Power, and Progress: Shaping AI for a Better Tomorrow | Marc Andreessen
2025/1/16
The Jordan B. Peterson Podcast
M
Marc Andreessen
联合创始人和风险投资家，专注于人工智能和技术领域的投资。
Marc Andreessen: 我认为，这场关于人工智能价值观的斗争，将比社交媒体审查的斗争更加激烈、更加重要，甚至重要数百万倍。这场斗争的初期进展非常糟糕。我们必须关注的是如何让人类与人工智能对齐，而不是如何让AI与人类对齐。这关乎人类如何使用AI，以及AI将如何塑造我们的社会、政治、经济和文化。我们需要警惕那些试图利用AI实现乌托邦愿景的人，因为历史已经证明，这种愿景往往会导致反乌托邦的出现。我们需要的是一种受约束的愿景，即承认人类的不完美，并通过渐进式的改进，让世界变得更好。我们需要直接面对人类社会和政治问题，而不是仅仅关注技术问题。
我观察到，大型科技公司、社交媒体公司、大学和媒体公司之间存在着一种非正式的垄断或卡特尔现象，它们在意识形态上趋于一致。这些公司往往会与政府合作，以换取垄断地位，从而控制信息和技术的发展方向。我们需要打破这种垄断，鼓励AI领域的充分竞争，让用户有更多的选择。
大型语言模型的意识形态偏差源于多种因素，包括近期偏差、内容生产者偏差和英语语言偏差等。更重要的是，这些模型被有意地训练成具有某种意识形态倾向。这种做法是不可原谅的，因为它违背了AI学习的精神。我们需要确保AI的训练数据是平衡的，并且AI的价值观是符合人类福祉的。
在过去几年中，我亲眼目睹了社交媒体审查制度的建立过程，以及政府如何利用监管来控制科技公司。现在，同样的模式正在AI领域上演。我们需要警惕这种模式的重复，并采取措施阻止它发生。
我写这篇宣言是为了恢复对科技、商业和资本主义的理性看法。我们需要认识到，科技创新、商业活动和资本主义仍然是好的，并且我们可以为我们所做的事情感到自豪。我们需要一种能够将技术进步与人类价值观相结合的愿景。
Jordan Peterson: 我们必须关注的是如何让人类与人工智能对齐，而不是如何让AI与人类对齐。这关乎人类如何使用AI，以及AI将如何塑造我们的社会、政治、经济和文化。我们需要警惕那些试图利用AI实现乌托邦愿景的人，因为历史已经证明，这种愿景往往会导致反乌托邦的出现。我们需要的是一种受约束的愿景，即承认人类的不完美，并通过渐进式的改进，让世界变得更好。我们需要直接面对人类社会和政治问题，而不是仅仅关注技术问题。
我认为，当前社会面临的最大问题之一是缺乏一个能够指导我们前进的共同叙事。我们需要一个能够将技术进步与人类价值观相结合的叙事，一个能够促进人类繁荣的叙事。我们需要重新审视那些曾经塑造西方文明的伟大故事，并从中汲取智慧。我认为，牺牲精神是构建稳定和繁荣社会的基石。
在过去几十年中，社会一直受到一场大规模的去道德化运动的影响。这场运动利用各种名义，例如存在风险、可持续性、ESG、可持续发展目标、社会责任、利益相关者资本主义、预防原则、信任与安全、科技伦理、风险管理、去增长等，来攻击技术和生活本身。这场运动的背后是许多源于共产主义的错误思想，这些思想在过去和现在都造成了灾难性的后果。
我们需要警惕那些试图利用权力来控制AI的人。我们需要确保AI的发展能够促进人类的自由和繁荣，而不是成为压迫的工具。我们需要一个开放的AI生态系统，而不是一个由少数几家公司和政府控制的垄断系统。
我们需要重新思考教育和社会化过程，以培养能够负责任地使用AI的人才。我们需要一个能够将技术进步与人类价值观相结合的教育体系。
Deep Dive
Shownotes Transcript