Episode 108: AI and Obedience (with Dan Gish)
2025/5/27
The Theory of Anything
B
Bruce
D
Dan
专注于加密货币和股票市场分析的金融专家，The Chart Guys 团队成员。
P
Peter
Bruce：我希望邀请 Dan 来节目，听他解释他对人工智能的看法，并向他提问，以便更深入地了解他的思考方式。我认为德意志所说的一切都可以被认为是正确的，但它的陈述方式具有很强的误导性。AI 和 AGI 并不是正交的，它们都基于波普尔的认识论。现在研究 AI 的人并不理解认识论，我们需要波普尔主义者进入 AI 并将他们自己的理论带入该领域并追求它们。
Dan：我来自软件工程背景，对构建事物有不合理的信心，所以对构建 AGI 很感兴趣。我认为构建 AGI 的许多要素已经到位，并对 crit rats 对当前 AI 的负面看法提出异议。通过在整个互联网上通过 Next Token Prediction 训练这些大型模型，它在这些大型模型内部构建了各种知识。那些完全专注于正确理解 AGI 并且对今天的 AI 不封闭的研究人员认为，构建这些算法的要素开始结合在一起。
Peter：AI 是顺从的，而 AGI 是不顺从的，它们在这个意义上是相反的。有可能用顺从构建出不顺从的东西吗？每当 LLM 做一些有创意的事情时，人们都会重新定义什么是创造力。
Deep Dive
Shownotes Transcript