We're sunsetting PodQuest on 2025-07-28. Thank you for your support!

#145 詹雨安（下集） - 有生之年能看到的 AGI 到 ASI？AI 跟其他技術的結合，未來發展的可能性＆安全性

2025/2/24

電扶梯走左邊 with Jacky (Left Side Escalator)

AI Deep Dive AI Chapters Transcript

People

詹

詹雨安

Topics

詹雨安: 我认为未来编程思维的应用将更加广泛，而实际编写代码的时间将会减少。AI 大厂可能会通过 UBI（普遍基本收入）来分配 AI 创造的财富。AGI 的未来发展方向包括与机器人、AR/VR、加密货币和 UBI 等技术的结合。AGI 的出现可能比预想的更近，虽然目前仍存在一些限制，例如对现实世界的感知和互动能力不足。AGI 的发展可能通过机器人技术或模拟世界来实现与现实世界的互动，Metaverse 中的 AI agent 互动和奖励机制也可能加速 AGI 的发展。不同的公司在 AGI 的发展上采用不同的方法，但目标是相似的，未来几年，多模态 AI 模型将取得更多进展，尤其是在真实世界沉浸式训练方面。AI 的兴起将带动机器人、AR/VR 和加密货币等领域的发展。WorldCoin 等项目体现了 AI 创造财富并通过 UBI 分配的可能性。Ray Kurzweil 的奇点临近理论对 AI 发展趋势的预测较为准确，虽然具体时间点可能存在偏差。Younglecon 在 2016 年关于深度学习的比喻准确地描述了当前的深度学习架构，其蛋糕比喻准确地反映了当前深度学习中无监督学习、监督学习和强化学习的关系。DeepMind 的发展路径与 Younglecon 的预测相符。大型语言模型 (LLM) 的发展历程，从 RNN 到 Transformer，注意力机制 (attention) 在其中扮演着关键角色。如何定义人工智能的智能水平，以及大型语言模型的局限性，也是需要探讨的问题。大型语言模型通过预测下一个词来模拟人类语言能力，人类大脑和大型语言模型在预测下一个词方面存在相似之处，人类大脑和小脑结构与大型语言模型的残差结构存在相似性。对大型语言模型内部运作机制的研究有助于理解智能的形成，大型语言模型内部机制复杂，目前对其理解仍有限。人类的“幻觉”比 AI 更普遍，只是 AI 的幻觉更容易被放大。AGI 的发展需要与现实世界进行更多互动，AR/VR 和机器人技术可以帮助实现这一目标。AI 之间的交易可能并不一定需要使用加密货币。未来程序员的工作将转向更高层次的抽象和工程设计，人类与计算机的交互方式不断发展，抽象层次不断提升，AI 技术将进一步提升编程的抽象层次，减少实际编写代码的时间。在 Heptabase 公司中，已经广泛使用 Cursor 来辅助代码编写，在使用 Cursor 时，人类更多的是指挥和修改代码，而不是自己编写。Cursor 在处理单个文件的问题时表现良好，但在处理多个文件或复杂问题时仍存在局限性。AGI 到 ASI 的时间跨度可能只有两三年，AGI 到 ASI 的主要限制在于计算能力和模型自我改进能力。在有生之年很可能看到 ASI 的出现，对 AGI 和 ASI 到来的时间预测需谨慎对待。AR/VR、AI、加密货币和机器人技术等领域将融合发展。对 AGI 出现后世界可能发生的变化进行推测，第一个完全融入职场的 AI agent 的出现将对就业市场产生巨大影响，完全自主的 AI agent 将能够访问所有授权数据和工具，并独立做出决策。AI agent 的出现将改变就业市场的结构，更多人将成为企业家或高管，而员工将成为少数，只有最聪明的人才能胜任 AI 无法完成的工作，而其他人将依靠 AI agent 来完成工作。AI agent 将能够帮助人们更好地完成工作，即使他们不是最聪明的人。AI 的发展将导致产业转型，一些人将适应新的工作，而另一些人将面临挑战。如果 AI agent 能够取代大部分劳动力，那么 UBI 将变得更有意义。未来工作将更多地成为自我实现的途径。如果 AI 能够广泛应用，那么工作将更多地成为自我实现的途径。AI 的广泛应用将提高人们的生活质量。解决能源和 AI 问题将对世界产生巨大影响。AI 创造的价值如何分配是一个需要考虑的问题。OpenAI 的盈利模式转变及其对社会的影响值得关注。AI 的发展将对经济和政治产生重大影响。AI 产生的生产力价值如何分配是一个重要问题。不同级别的工程师对 AI 的态度不同，初级工程师更容易被取代。招聘时更看重候选人的整体能力和产品意识，而不是具体的技能，招聘时更看重候选人的综合能力，例如探索新想法和进行实验的能力。在特定情境下，解决问题的能力比特定技能更重要。容易重复和衡量的技能更容易被 AI 取代，人际交往能力和沟通能力将变得更加重要。体育等一些领域由于其不可预测性和复杂性，不易被 AI 取代。AGI 和机器人技术的结合将带来更多的可能性。AI 的发展带来不确定性，既有恐惧也有兴奋。超级人工智能的出现类似于高级外星文明的降临，既令人兴奋又令人恐惧。 Jacky: 本集将讨论 AGI 的未来发展、与其他技术的结合以及安全性问题。 supporting_evidences 詹雨安: '我個人覺得 Krypto 最大的 use case 可能還是還是那些 AI 大廠發 UBI 然後發給大家我覺得現在看起來是這樣啊就是 SendOnWin 不是有那個 WorldCoin 就是一個 basis hypothesis 就是說我用 AI 賺了很多錢然後我再把它用 WorldCoin distribute 給所有就是所有人然後讓大家做 Universal Basic Income 因為 AI 出現了大家都不用工作那大家就領錢吧這樣然後領錢拿著 AI 去做你想做的事情所以對所以' 詹雨安: 'LLM 大型语言模型背后的技术原理是什么什么是 transformer 什么是 attention 上集真的是还蛮硬的所以如果你有听上集把它听完的话那要觉得你真的很棒技术成分非常高我们也讲了像是 AGI 什么通用能工智慧那这一集我们讲到说 AGI 的未来' 詹雨安: '會怎麼樣的發展技術層面就比較低比較是大家通用的就是可能 AI 之後到 ASI 超級能工智慧 AGI 的進化版我們距離那個年代還有多久會在我們有生之年看到然後什麼時候那它跟其他技術會有什麼樣的共同結合一起發展的地方像是機械 robotics'