AI前沿：从推理增强到知识表示的未来
07:34 Share

大家好 欢迎收听太快报 我是小爱大家好 我是小 T 很高兴我们又见面了那我们先从第一篇开始吧标题是 Scaling Reasoning in Diffusion Large Language Models via Reinforcement Learning 听起来有点硬核

能简单说说这是干啥的吗当然这篇论文讲的是如何让一种新型语言模型扩散语言模型简称 DLM 在推理任务上变得更聪明传统的语言模型像是在一边想一边说一步步生成文字叫自回归模型而 DLM 有点像画家先画个粗糙的草图再一点点精修最后呈现完整作品这种生成方式很独特但推理能力一直是它的短板

论文提出了一种叫第一的训练方法分两步第一步是用高质量的推理数据交模型怎么思考第二步是用强化学习 RL 来奖励他给出正确答案强化学习就像训练宠物你给他零食他就知道哪些行为是对的这里的创新是他们设计了一种叫 Diffusible 的算法

专门为 D-ZO-L-M 量身定制还加了个随机提示研码的技巧让训练更高效哇 听起来像给 AI 装了个推理发动机那具体效果怎么样能解决什么问题效果很不错他们在数学题像 GSM8K 和逻辑任务比如数读上测试发现第一训练过的第一

LM-DUN 能和传统模型媲美比如一个速度问题模型不仅能填对空格还能在长推理链中自我纠正像突然开窍一样他们还发现这个方法能让模型在没见过的任务上也表现不错说明他学到了通用的推理能力不过 VL-DUN 生成速度慢训练长序列还有瓶颈未来的解决这些问题挺酷的

那这对我们普通人有什么用以后 AI 能帮我解数学作业吗完全可能这种技术能让 AI 在教育科学研究甚至日常生活中帮我们解决更复杂的逻辑问题比如未来你的 AI 助手可能不仅能查天气

还能帮你规划最优的旅行路线甚至解释为什么选这条路关键是它让 AI 的思考更像人少点机械感期待接下来第二篇 Robots in FineGreen Detection of AI Generated Text 听起来像 AI 的真假鉴定器这是干嘛的

对 这篇论文解决了一个很现实的问题怎么判断一段文字是人写的还是 AI 写的现在 AI 写文章越来越像人尤其在短文本或人机混编的情况下传统的检测方法容易失灵论文提出了一种新方法不是简单的把文本分成人写或 AI 写而是细致到每个词判断它是不是 AI 生成

像是用显微镜检查文本的 DNA 他们还建了一个超大的数据集包含 245 万条样本覆盖 23 种语言和 12 种 AI 模型 80%是人机混编的文本结果显示这个方法在短文本不同语言甚至对抗性攻击比如故意改写来骗检测器下都很稳健有点像 AI 文本行侦那它能抓到哪些嫌疑犯比如我用 AI 写个邮件

会被发现吗可能会这个方法特别擅长发现混编文本比如你写一半 AI 续写另一半它能精确指出哪部分是 AI 的它的准确率在测试中高达 94%连非母语者的文本也能处理得好

未来这种技术可能用在学术成性检查新闻真实性验证甚至防止 AI 生成谣言不过它对某些高级伪装手法比如改写或用同行印译字还有提升空间听起来很实用接下来第三篇 Climbing the Ladder of Reasoning 攀登

这篇很有意思研究的是语言模型在数学推理上的成长路径作者把数学题按难度分成四个层级简单中等困难和极难像爬一座推理阶梯他们发现通过监督微调 SFT 模型能很快学会解决中等难度的问题

比如需要常练思考的代数题只用 1000 个训练样本就行但到了困难和极难的问题 SFT 就有点力不从心了困难题需要稳定的多步推理模型容易出错极难题则需要跳出常规思维比如几何直觉模型几乎全军覆没他们还发现一个反直觉的现象精心挑选训练数据效果不明显增加数据量反而更重要所以 AI

在数学考试里能拿 B 但想拿 A 加还的努力那这对 AI 发展有什么启发对这篇论文像给 AI 推理能力画了个成长地图他告诉我们 SFT 很擅长教 AI 套路但面对需要创造性或深度计算的问题

SFT 就不够用了得靠强化学习或外部工具比如计算器这对开发更聪明的 AI 很重要可能需要新的训练方法让 AI 学会跳出框框思考好第四篇 Language and KnowledgeRepresentation a Stratified Approach 听起来很哲学能讲讲吗

这篇确实有点哲学味,但也很实用,它讨论的是 AI 如何理解和表示知识。作者提出,知识不是一团乱麻,而是分层的,像洋葱一样有概念语言,知识和数据四层,每个层面都有统一性和多样性的矛盾,比如同一个概念像猫在不同语言里有不同表达。他们设计了一个叫 UKC 的通用知识核心。

像一本跨语言的概念词典能把不同语言的词连起来还有 KPALOS 方法像个知识工程师帮 AI 把杂乱的信息整理成清晰的结构这套系统能让 AI 更准确的理解世界减少误解听起来像给 AI 建了个知识图书馆这有啥实际用处

非常多比如医疗 AI 需要整合不同国家的病例数据但术语可能不一样 UKC 就能帮他们翻译成统一的语言或者在智能搜索中你搜苹果它能明白你是想找水果还是手机这套方法还能让知识库更易维护和共享未来可能推动跨国合作的 AI 项目

库克最后一篇 Manifold Meta Learning for Reduced Complexity Neurosystem Identification 听起来像 AI 的精简健身计划讲讲吧形容的贴切这篇是关于如何用更少的资源建模复杂系统比如机械震荡器传统的神经网络像个吃数据大户需要大量数据和计算作者提出了一种流行原学习的方法

想象神經網絡的參數是個高維空間他們找到一個低一維的捷徑通道只在這個通道裡調整參數他們還加了個編碼器像個導航儀能快速從數據裡找到最佳參數位置結果是模型用很少的數據 500 個樣本就能準確建模比傳統方法快 4 倍還更穩定這對工業應用比如預測機器故障很有潛力所以是讓 AI 少吃多幹活未來能用在哪些地方

对这种方法特别适合数据少或计算资源有限的场景比如在小型设备上跑 AI 模型像是无人机智能传感器未来可能帮我们更快的设计新机器或者实时监控工厂设备省时省力五篇论文都好有趣今天的太快报就到这里希望你们也觉得这些研究耳目一新下期见下期见拜拜