AI前沿：从“快思慢想”到文本水印的前沿探索
07:35 Share

大家好,欢迎收听太快报,我是小爱。大家好,我是小 T,很高兴又见面了。咱们今天第一篇论文,题目是 Incentivizing Due Process Thinking for Efficient Large Language Model Reasoning。简单来说,他们在研究如何让大型语言模型在推理时更高效避免想太多。想太多?AI 也会这样吗?不是说 AI 计算速度很快吗?确实,AI 的计算速度很快。

但问题在于有些任务很简单 AI 却会生成一大堆不必要的推理步骤浪费计算资源就像我们人类解一道简单的数学题可能一眼就看出答案但如果硬要写出每一步推导反而浪费时间明白了就是效率不高那他们怎么解决这个问题呢

研究者借鉴了人类认知科学中的双过程理论也就是我们常说的快思和慢想快思就像直觉快速得出结论慢想则是深入分析适合复杂问题他们设计了一种方法叫自适应认知策略优化

简称 ACPO,让 AI 根据任务难度动态切换,这两种模式。听起来很聪明,具体是怎么操作的呢?他们给 AI 设置了两种标签,一个代表快思,一个代表慢想,让 AI 在回答问题时明确知道该用哪种模式,同时他们还开发了一种实时评估任务难度的方法。

根据难度调整 AI 回答的长度和深度比如简单问题用短答案复杂问题才详细推理实验结果很惊人在数学推理任务中这种方法减少了 60%的冗余内容同时准确率还保持甚至提高了这真是既聪明又节能那有没有什么局限性呢

由目前这种方法依赖于任务有明确的对错答案比如数学题如果是开放性问题比如写故事或者聊天难度评估就没那么容易了不过这已经是一个很重要的突破未来如果能推广到更多场景 AI 的效率会大幅提升接下来咱们聊聊第二篇论文题目是 Understanding Prompt Tuning and in Context Learning via Meta Learning 这个提示词是什么

听起来像是给 AI 下指令没错提示词就是我们给 AI 输入的文字指令比如你是一个老师帮我解释一下牛顿定律这篇论文研究的是如何通过精心设计提示词让 AI 快速适应新任务而不需要重新训练整个模型那这有什么特别的发现吗

有他们区分了两种提示词一种是普通的文字提示另一种是软提示不是具体的单词而是一些数字向量直接操控 AI 内部的状态实验发现这种软提示效果特别好甚至能让一个没训练过的 AI 模型表现出复杂行为没训练过的 AI 也能工作

这听起来太神奇了吧这是很神奇打个比方 AI 就像一台复杂的机器普通的提示词是告诉它做什么而软提示就像直接调整机器内部的旋钮操控它的运行方式更惊人的是这种软提示在某些情况下能让 AI 接近最优表现就像一个天生就懂规则的天才那这种方法有没有什么短板

有 如果新任务和 AI 原本学过的内容差异太大提示词就无能为力了需要调整 AI 内部的参数不过这项研究让我们看到 AI 的潜力可能远超我们想象未来设计更好的提示方式或许能解锁更多隐藏能力接下来是第三篇论文题目是 Small to Large GeneralizationData Influences Models Consistently Across Scale 这标题听起来有点抽象能不能简单解释一下

当然这篇研究的是训练数据对不同大小 AI 模型的影响想象一下我们有一个很小的 AI 模型只有几千万参数还有一个大模型有几亿参数研究者发现训练数据对这两个模型的表现影响模式非常相似即使它们的计算能力相差上百倍也就是说小模型可以用来预测大模型的行为对

这就像用一个小小的实验模型去模拟一架真正的飞机虽然小模型本身可能表现不佳但它对数据的反应趋势和大模型是一致的这意味着我们可以用小模型来测试数据选择策略成本低很多这听起来很实用那有没有什么意外发现有最反直觉的一点是即使小模型在某个任务上表现歹向随机猜测

它对数据变化的反应仍然能预测大模型的表现这说明 AI 对数据的感知和它的实际能力可能是两回事真有意思 那这种方法有没有局限呢有 如果小模型太小或者任务特别复杂相关性就会下降不过总体来看这为我们节省资源 优化数据选择提供了新思路特别是在大模型训练成本高昂的情况下

第四篇论文题目是 Understanding Fact Recalling Language Models Why Two-Stage Training Encourages Memorization But Mixed Training Teaches Knowledge,这是在研究 AI 如何记忆事实吗?是的,这篇论文探讨了 AI 如何记住和回忆事实,比如奥巴马出生在夏威夷,他们对比了两种训练方式,一种是先教 AI 记住事实,再教他回答问题。

另一种是同时教 AI 记住和回答这会有什么不同吗大不同第一种方式容易让 AI 死记硬背遇到没见过的问题就答不上来第二种混合训练方式能让 AI 真正理解知识回答没见过的问题时表现更好研究者还发现混合训练会让 AI 内部形成一些关键的共享参数

这些参数就像桥梁连接起记忆和应用的能力那就是说训练方式会影响 AI 的学习质量对 就像我们人类单纯背书可能考试能过但真正理解了知识才能举一反三这项研究告诉我们设计训练方式时要让 AI 同时面对多种任务这样它才能学歹更深更灵活最后一篇论文是关于上下文水印题目是 In Context Watermarks for Large Language Models

什么是文本水印文本水印就像给 AI 生成的文字打上一个隐藏的身份标签用来追踪内容来源比如在学术评审中有人用 AI 写评审意见我们可以通过水印检测出来这听起来很重要他们是怎么实现的呢

他们提出了一种叫上下文水印的方法不需要改动 AI 内部只通过设计特殊的提示词让 AI 生成的内容自带标记比如规定某些特定字符的出现或者句子首字母拼成特定单词特别巧妙的是他们还能把指令藏在文档里比如论文中用白色文字写指令一旦有人用 AI 处理这份文档生成的文字就会自动带上水印这真是防不胜防那效果怎么样呢

实验显示这种方法在强大 AI 模型上效果很好尤其能抵抗一些简单的修改攻击而且它不需要访问 AI 内部非常适合第三方使用比如会议组织者

不过如果 AI 能力不够强或者水印被针对性攻击效果会打折扣确实这种技术对防止 AI 滥用很有益未来如果能够完善可能会成为内容管理的标配好了今天我们聊了五项 AI 领域的最新研究从让 AI 高效思考到用小模型预测大模型再到给文本打上水印每一项都展示了 AI 技术的创新潜力我们下期再见下期见拜拜