Deep Dive
Shownotes Transcript
大家好 欢迎来到这一期的太快报 我是小爱大家好 我是小 T 很高兴我们又见面了首先我们来看今天的第一项研究这项研究叫 SYNCTRON 听起来像是给 AI 做了一次减肥计划到底是怎么回事
对,名字很形象,think-prune 其实是针对大型语言模型的一种优化方法想象一下你在解决一个数学问题时可能会一边想一边说让我检查一下这个步骤对不对,或者这个想法可能有点多余这些多余的思考对人类来说可能无伤大雅但对 AI 来说特别是一些需要长篇大论推理的模型这些多余步骤会让计算成本高的惊人
ThinkPro 的核心创新是用一种叫强化学习的技术训练模型学会更简洁的思考强化学习听起来像是训练小狗一样给奖励或惩罚差不多强化学习就像是给 AI 设定一个游戏规则如果你能用更少的话解决问题我就给你奖励
但如果你啰嗦过头超过某个字数限制我就不给你奖励甚至惩罚你这项研究还特别聪明他们不是简单的的砍掉多余的部分而是通过多轮训练逐步减少模型的化劳程度实验结果很惊人比如 DeepThink 模型的推理长度被减半但准确率几乎没怎么下降甚至还略有提升哇
这就像是我们学会了言简意赅那这对我们日常使用 AI 有啥影响呢大有帮助更高效的 AI 意味着更快响应更低的计算成本比如你用 AI 写文章或解答问题它不会再像以前那样绕来绕去而是直接切入重点这不仅节约时间还能降低能耗对环保也有好处
不过这项研究也提到一个挑战对一些特别复杂的模型过度减肥可能会让性能稍降所以未来还需要更精细的调整很有启发那第二项研究呢叫 critical thinking 听起来像是哲学课
不完全是,但确实很深奥。这项研究想弄清楚 AI 在推理时到底需要多长的思考时间最合适。他们用了一个很酷的工具叫确定性有限自动机,听起来复杂,但其实就像是给任务设定一个操作流程图,比如你要解一个谜题,可能需要几步推理,每步都有不同的选择。
他们发现 AI 的最佳推理长度跟任务的顺序复杂度密切相关也就是需要多少连续步骤来解决问题而不是任务有多复杂所以不是说任务越复杂 AI 就得想得更长对他们发现有一个黄金长度超过或低于这个长度 AI 的准确率都会下降打个比方就像煮鸡蛋时间太短没熟太长就老了研究还发现 AI 主要用这些推理步骤来跟踪状态
比如记住他已经做了哪些决策而不是去处理太多的选择这启发我们可以预测任务的难度然后告诉 AI 差不多就行了这样既省时间又不失准确这样我想到考试作答掌握节奏很重要那第三项研究呢 Spark-Sketch Neural Processes 听起来像外星名字名字确实有点学术但概念很实用这项研究解决了一个问题我们希望 AI 在预测未来时既快又靠谱
传统的戴律模型像高斯过程很靠谱,但计算起来慢得像老牛拉车,而深度学习模型像神经过程快是快了,但解释起来像个黑盒。这一项研究提出了一种新模型叫西书高斯神经过程,它结合了两者的优点,像高斯过程一样有理有据,像神经过程一样快且能快速适应新任务。听起来像是鱼和熊掌兼得他们是怎么做到的?
他们用了一种叫吸输的技巧把复杂计算简化同时让模型能学习如何学习更酷的是他们还允许我们把自己的专业知识加进去比如告诉模型这个任务可能会有这种模式这样预测更准实验证明在数据少或专家知识多的场景下这种方法特别管用比如天气预报或金融预测太有用了
那第四项研究呢 Prompting Forgetting 听起来像是让 AI 失忆对你可以这么理解这项研究关注生成对抗网络就是那些能生成超逼真图片的 AI 模型问题在于这些模型有时候会记住一些不该记住的东西比如生成不合适的内容研究提出了一种叫 Text to Unlearn 的方法只用文字提示就能让生成对抗网络忘记某些特定内容比如某个人的脸或某种风格
用文字就能擦除这项魔法一样具体怎么操作原理有点像我们用导航时调整路线他们用文字描述告诉生成对抗网络这个不要然后通过调整模型的内部地图让它沿着新的方向生成内容
还发明了一个遗忘程度指标来量化效果就像给擦除打分好处是这方法简单高效不需要重新训练整个模型但缺点是依赖于文字的准确性如果描述不清可能效果不好这对保护隐私和内容安全真是个大进步最后一项研究呢 reviewre-findre-repeat
听起来像写作课很贴切这项研究叫迭代智能体解码针对 AI 智能体在复杂任务上的表现比如帮你写代码规划行程或回答复杂问题传统方法要么一次性生成答案要么随机试几次但效果有限迭代智能体解码像是一个反复修改的过程 AI 先给出一个答案然后用一个验证器检查对不对再根据反馈优化直到结果满意这就像我们写论文先草稿再修改
对,关键是这个验证器很聪明,能从反馈中提取最有用信息而不是瞎猜。实验证明,在一些任务上,比如从草图生成代码,或从文字生成 CQL 查询,迭代智能体解码,比传统方法提升了 3%到 10%的准确率。但它也依赖于验证器的质量,如果反馈不靠谱,效果就会打折扣。这些研究真是让人耳目一新,它们未来会怎么影响我们的生活。
影响深远更高效的语言模型能让聊天机器人更快更准理解任务复杂性能让 AI 更聪明的分配资源概率模型的改进能让预测更可靠生成模型的遗忘功能能保护隐私和安全智能体的迭代优化能处理更复杂任务比如自动驾驶或医疗诊断这些进展让我们离更智能更安全更高效的 AI 更近了一步太棒了听完这些我感觉 AI 就像是在不断修炼自己
感谢小 T 的精彩讲解也感谢大家的收听我们下期见下期见拜拜