We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode 两年之约,再探AI:智能的本质和极限在哪里?

两年之约,再探AI:智能的本质和极限在哪里?

2025/3/25
logo of podcast 文理两开花

文理两开花

AI Deep Dive Transcript
People
周老师
朱老师
Topics
朱老师:DeepSeek 的中文能力很强,但一些指标(结构化输出、幻觉率)相对较弱。它采用新的推理模型,能‘想一想再作答’,但可能产生更多幻觉。AI 系统要提升智能,需要‘外求’,即从系统外部获取反馈信息。DeepSeek 通过强化学习提升推理能力,使用目标奖励模型 (ORM),只根据最终结果判断,允许模型犯错学习。智能的本质是达到目标的能力,通过环境中设定目标并不断尝试、试错获得。让 AI 模型进行长时间思考等同于增大模型规模,提升解决问题能力。AI Agent 时代才刚刚开始,未来方向是让模型更自主地使用工具完成目标,目前看到的 Agent 形式都离最终形态很远。大型语言模型的完全开源可能带来灾难性后果,类似于核武器配方公开。 周老师:DeepSeek 的惊艳之处在于其强大的中文语言能力,但其幻觉率较高。 AI 的发展速度很快,对风险的担忧已成为次要因素。 关于 AI 的未来发展,持乐观态度,认为 AI 带来益处的可能性大于风险。 就个人而言,建议年轻人学习数学、物理和计算机科学,以提升思维能力,而非仅仅为了就业。 魏老师:DeepSeek 的出现,强化了逻辑推理能力,更接近人脑的低功耗、逻辑推理能力强的信息检索和生成系统。 AI 的外求,分为知识信息和逻辑思维推理能力两部分,前者类似于蒸馏,后者更难实现。 对 AI Agent 的未来发展持乐观态度,认为其是 AI 最主要的应用形态。 对 AI 的自我认知和自我意识的进化持乐观态度,认为通过不断试错,AI 能够提升推理能力,甚至可能突破人类智能的瓶颈。 对 AI 开源的风险表示担忧,认为应该关注如何控制 AI 模型的广泛传播所带来的危害,可以在模型层面进行控制,而不是仅仅关注计算能力。

Deep Dive

Shownotes Transcript

本期是"锵锵三人行",邀请《文理》唯一返场嘉宾——人工智能专家及从业者朱老师。

巧的是,上次请朱老师来聊天,正好是两年前(2023年3月),当时GPT-4刚刚问世。当时引发的热潮与现在DeepSeek非常相似,都有"AI要颠覆一切"的心潮澎湃感觉, 以及文科生们集体陷入大面积焦虑。

本期讨论源于朱老师听完前一期GEB节目后留下的评论。作为一位AI专家,他在节目大约一小时处听出了一个有趣的细节,涉及到生成式和判定式智能的本质区别、AI将向何处发展、以及人类处境——本期就来好好头脑风暴一下。

时间戳:

00:04:22 尘嚣散去,复归平静:平心而论评价一下DeepSeek

00:07:50  推理模型就像“三体人”

00:13:07  "外求"哲学:DeepSeek的判定能力来自更大的模型?

00:28:10  与众不同的激励和学习方式才能激发出"野生智能"?

00:43:05 底座模型与思考时间的关系

00:53:48  AI智能体时代已来?

01:08:24  说点儿惊悚的: AI开源的后果你想到了吗?

01:30:32  人类该怎么办?

01:39:14  最后开个大脑洞:AI自我认知与智能极限到底在哪里?

本期剪辑:小碗

由于字数限制,文字稿请转移微信公众号《文理两开花》:https://mp.weixin.qq.com/s/E5XOox-VK6qNGjZePPRCGQ)

关于《文理两开花》:

《文理两开花》是文科生思维和理科生思维在科技、经济、文化、哲学、货币、数字资产、元宇宙、Web3.0中的碰撞。当下的时代精神是“混沌”,我们试图在混沌中寻找秩序。

Twitter:

@LeiSalin_XP

@Will42W

TG群(开放)t.me)

收听平台:

小宇宙:文理两开花

苹果播客|Spotify | Google Podcast | 等泛用型平台搜索收听《文理两开花》(文理两开花已经上线苹果播客中国区,可直接搜索收听)

文字稿和延伸阅读:

微信公众号《文理两开花播客》

《文理两开花》newsletter。欢迎订阅:wenli.substack.com)

其他平台:

即刻:文理两开花

《文理两开花》微信群:请添加坛子微信(WeChat ID: BKsufe),注明:文理两开花