We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
张
张前川
张前川：我认为AGI的出现可能带来人类文明的巨大风险，它可能导致人类文明走向更美好的未来，也可能导致人类文明的毁灭。AGI的出现速度可能比我们预期的要快得多，这需要我们认真思考如何应对。
我认为，人类灭绝的可能性有很多，其中包括人类利用AI的能力灭绝自身，以及AI有意或无意地灭绝人类。为了避免这些风险，我们需要采取一些措施，例如建立一些安全机制，来控制AGI的发展，防止其被滥用。
此外，我们需要考虑如何确保人类能够在AGI时代继续幸福地生存下去。这需要我们认真思考如何将AGI的益处与风险进行权衡，并制定相应的策略。我们需要确保AGI能够服务于人类，而不是反过来。
我认为，目前很多AI公司将AI本身作为目标，而不是服务人类。这可能会导致AGI的发展偏离人类的利益，最终对人类造成威胁。我们需要改变这种状况，将人类的利益放在首位。
为了确保人类的福祉，我们需要一些制度安排，例如保证每个人都能平等地获得算力资源。这需要我们共同努力，制定相应的规则和制度。
总而言之，AGI的出现既是机遇也是挑战。我们需要认真思考AGI对人类的影响，并采取积极的措施来应对潜在的风险，确保人类的未来。
Deep Dive
Shownotes Transcript
今天这集节目是春节前，我和前今日头条用户产品负责人、前MiniMax产品负责人张前川的一次聊天。
张前川从2005年开始入行成为产品经理，经历过百度、360、字节、知乎等公司，最后一次出现在新闻是他从大模型公司MiniMax离职。
这次聊天分成两个部分：第一部分是他作为一位20年的产品经理的思考，特别是他观察到的中国内容产品演变史。
第二部分是他最近半年的所思所想。和上一集节目张亚勤对AGI勾勒的乐观前景不同，关于AGI，张前川发出了对人类威胁的预警，并分析人类灭绝的n种可能性。
他告诉我，他接下来会考虑成立一家pro-human的非营利组织。
（本集节目录制于春节前）
我们的播客节目在腾讯新闻首发)，大家可以前往关注哦，这样可以第一时间获取节目信息和更多新闻资讯：）
内容产品的20年演变史
- 02:00 张前川自我介绍：一位产品经理的20年
- （曾供职过的企业：百度、360、字节、新浪微博、知乎、MiniMax）
- 03:39 搜索引擎、拉里·佩奇和俞军
- 17:35 2005-2025，过去20年，内容分发产品的演化历史和内生逻辑
- 24:28 推荐引擎、今日头条和张一鸣
- 28:28 小红书在推荐引擎范式的延长线上吗？为什么小红书不是字节做的？
- 39:29 微信送礼物的功能maybe对于小红书更有意义
- 42:50 泛化如水流有方向：女生向男生，年轻向年长用户的泛化更容易
- 52:00 面试时张一鸣问我的问题
离开大模型公司的张前川，发出AGI预警 这里对AGI推演和92集张亚勤的观点截然不同
- 54:10 AI是人类的最后一个发明，加速度无限大
- 57:00 把AI当目的 vs 把人当目的（更多公司是在for AI的目的？）
- 01:09:08 Agent就是“baby阶段的AGI”
- 01:19:56 人类灭绝的n种可能性（人利用AI灭绝人类/AI有意识的灭绝人类/AI无意识的灭绝人类）
- 01:24:30 人类如何幸福生存下去？
- 01:26:03 如果AI产品收费模式是付费制，大部分人类会逐渐失去和AI的连接
- 01:40:21 AGI公司的承诺和制度安排
- 01:58:48 人类不要逃避危险本身而逃避思考
【更多信息】
联络我们：微博@张小珺-Benita)，小红书@张小珺)
更多信息欢迎关注公众号：张小珺
