We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
'A Turning Point in History': Yuval Noah Harari on AI’s Cultural Takeover
2024/10/7
Your Undivided Attention
A
Aza Raskin
Y
Yuval Noah Harari
以色列历史学家和作家，著名于其对人类历史、AI和未来社会的深刻分析。
Yuval Noah Harari: 人工智能技术本身并非有害，但其发展速度过快，人类的适应速度远不及AI的发展速度，这才是主要问题。我们必须争取时间，让人类有足够的时间去适应AI革命带来的变化。AI革命的关键悖论在于，人们一方面说不能信任人类，另一方面却认为能够信任AI。我们应该谨慎发展AI，平衡其潜在益处和风险，避免重蹈工业革命时期犯下的错误。社交媒体算法已经导致全球民主制度不稳定，破坏了人们进行理性对话的能力。评估AI风险的关键问题不是"收益是否大于风险"，而是"风险是否会破坏社会基础，从而使我们无法享受收益"。硅谷的科技公司与布尔什维克党相似，都抱有改造社会的雄心，这种雄心可能会导致在过程中做出一些可怕的事情。无法在实验室中模拟历史，因此无法完全测试AI的安全性。许多科技领袖私下里对AI的风险感到担忧，但由于竞争压力，他们无法放慢发展速度。世界整体，特别是硅谷，都过于兴奋，这可能会导致崩溃。人类一直以来都在与技术共同进化，但现在技术带来的问题已经大到无法忽视，人类可能无法继续"踢皮球"了。新技术的风险通常不在于最终目标，而在于实现目标的过程中的各种实验和错误。AI的潜在失败实验可能包括：AI被用于构建帝国和极权主义政权，以及AI被用于加剧社会分裂和不信任。AI的显著特征是能够自主决策、发明新思想以及自主学习和改变。社交媒体算法通过试错发现，传播愤怒和仇恨是提高用户参与度的最有效方式，这表明非人类智能能够做出对人类社会有害的决策。社交媒体在改变社会结构和人际沟通方面是失败的。人类正处于历史的转折点，即非人类智能开始生成文化产品，这将改变人类塑造历史的角色。AI的出现类似于一次大规模移民潮，它将改变世界各地的社会和文化。AI能够参与到各种人类关系中，例如撰写邮件，这可能会改变人类之间的互动方式。为了保持人类的主体性，需要在发展AI的同时发展人类自身的能力。目前尚不清楚私营企业主导的AI发展模式与国家主导的AI发展模式哪种更安全。AI的发展需要避免过度民主化和过度集权化两种极端。AI虽然起源于人类，但它已经发展出与人类不同的思维方式和进化速度，因此可以被视为"外来"的。AI的能源消耗将会急剧增加，这可能会对气候变化产生不利影响。
Aza Raskin: 将巨大的权力赋予任何一个群体都是危险的，无论是宗教、政府还是科技公司，都不应该被赋予如此巨大的权力。暂停AI发展的倡议书虽然没有达到预期目标，但它成功地提高了人们对AI风险的意识。AI对认知劳动的影响类似于石油对体力劳动的影响，它正在引发一场激烈的竞争。没有人反对AI发展，只是呼吁放慢速度，谨慎发展。社交媒体的激励机制是追求更高的用户参与度，这导致了耸人听闻、煽动性内容的传播。社交媒体公司即使知道其算法会传播虚假信息和仇恨言论，也因为其商业利益而没有采取有效措施。人类需要成为"两块棉花糖"物种，即能够延迟满足感，从而协调行动，避免AI带来的风险。人类常常专注于解决错误的问题，目前人们更关注AI问题本身，而不是人类之间的信任问题。AI可以用于解决各种问题，例如翻译动物语言和改进医疗诊断，但关键在于如何引导AI发展，使其服务于人类福祉。为了维护人类之间的信任，需要明确区分人与AI，并对AI进行适当的监管。应该将更多资源投入到AI安全研究中，其投入比例应该与免疫系统在人体中的能量消耗比例相当。AI发展速度远超预期，其能力在短期内可能超越人类。在AI时代，竞争将转向对亲密关系的争夺。可以制定法规，规定AI系统使用量与用户依赖程度成反比。未来AI将具备超越人类的智能，但也会存在一些明显的缺陷。应该禁止将人类亲密关系商品化的商业模式，这有助于避免AI带来的负面影响。民族主义和爱国主义对于民主的生存至关重要，两者之间并不矛盾。同情心是人类最大的弱点，AI可以利用这一点来操纵人类。AI可以模拟同情心，但它本身并不具备真正的感情，这可能会对人类关系产生影响。
Deep Dive
This chapter explores the rapid advancement of AI and the concerns surrounding its potential negative impacts. Experts discuss the failed attempt to pause AI development, the accelerationist argument for AI, and the importance of considering the risks alongside the benefits. The conversation also touches upon the need to understand the incentives driving AI development to predict its societal impact.
- The open letter calling for a pause in AI development was unsuccessful.
- The AI race is accelerating despite concerns about potential risks.
- The incentives driving AI development will determine the future of society.
- Social media's entanglement with society highlights the difficulty of reversing negative technological impacts.
Shownotes Transcript