Deep Dive
Shownotes Transcript
大家好欢迎收听这一期的太快报我是小爱听众朋友们好很高兴我们又见面了那我们这就开始吧第一项研究叫 Do to AI scientists agree 听起来就像是 AI 版的科学辩论赛你能简单说说这是什么意思吗 AI 科学家真的会像人类科学家一样争论吗这个比喻很贴切其实这
这篇论文研究的是当多个 AI 模型我们称之为 AI 科学家被训练来解决同一个物理问题时他们会不会得出完全一样的结论
研究者設計了一種叫 MASS 的神經網絡模擬 AI 科學家學習物理規律比如行星運動或擺著擺動結果發現這些 AI 科學家不會完全一致但他們的想法會趨向於某種相似類型的理論比如用哈密頓力學或拉格朗日力學來描述世界聽起來有點像人類科學家在不同時代提出的理論比如牛頓和愛因斯坦
AI 科学家也会经历这样的演变吗?对,很有意思的地方就在这里,论文发现当训练数据变得越来越复杂时,AI 科学家学到的理论会发生变化,从简单的哈密顿描述,比如只考虑能量守恒,到更复杂的拉格朗日描述考虑更广泛的运动规律。这有点像人类科学史,一开始我们用简单的模型解释世界,后来发现需要更全面的框架。
这个发现暗示,拉格朗日力学可能是一种更基础、更通用的描述方式,甚至 AI 自己也觉得如此。哇,这太酷了,也就是说 AI 不仅在学习数据,还在思考哪种理论更合理呢?这对我们理解物理世界有帮助吗?确实有帮助,这说明 AI 可以成为科学发现的伙伴,而不是单纯的工具。
MAS 模型还能解释它学到的理论比如通过分析网络的激活部分看看它是否符合已知的物理公式这让 AI 的决策不再是黑箱而是能让我们窥见它如何像科学家一样推理不过论文也提到一个挑战不同初始条件可能会让 AI 学到不同的理论稳定性还有待提高所以 AI 科学家还在成长中需要更多数据和更好的训练方法听起来像是他们也在进化
这会不会让未来的科学发现更快?完全有可能想象一下如果我们有成千上万的 AI 科学家同时研究气候变化或宇宙起源他们可能会更快找到共识甚至提出人类还没想到的新理论这也提醒我们数据复杂性和多样性对 AI 学习至关重要就像人类科学家需要更多实验来验证假设
接下来聊聊机器人论文 information gain is not all you need 听起来像是挑战常识机器人探索世界不是应该尽可能多的收集信息吗为什么信息增益不是最好的目标这是一个很反直觉的发现通常我们认为机器人探索时应该最大化信息增益比如尽量覆盖未知区域
但這篇論文說 在某些情況下 特別是質量約束的場景光追求信息增益 反而會讓機器人走更多的彎路 甚至回溯這是因為總信息量其實是固定的 你沒法無限增加它所以單純追求信息增益會讓機器人變得貪婪選擇一些看似重要但實際效率低下的路徑那聽起來像是機器人被聰明反被聰明誤了
研究者提出什么更好的办法他们提出了一个叫距离优势的新策略简单来说就是让机器人优先选择那些离他近但离其他已知区域远的孤立边界打个比方想象你在一个迷宫里你不会一直冲向最远的地方而是先解决身边的死胡同这样能减少回头路
实验证明这种方法显著缩短了机器人的探索路径尤其在地图预测不完美或环境复杂时效果更好这让我想到规划旅行的时候我们也会优先解决附近的目的地这种策略对现实生活中的机器人比如送货无人机或清洁机器人有什么用对 应用前景很广比如送货无人机在城市中飞行如果它能聪明地选择路线不用来回折返就能节省时间和电量
清洁机器人也可以更高效的打扫房间而不是在同一个角落来回扫这种方法还特别鲁莽即使环境中有噪声或预测出错它也能保持高效这提醒我们 AI 的设计需要根据具体任务调整目标不能一味追求更多真是个有趣的转折原来有时候少机是多专注于效率比贪婪的收集信息更重要
接下来咱们再聊聊语言模型这篇 Undo Understanding Distillation as Optimization 听起来像是在说教育哎呀怎么还能当老师这确实跟教育很像传统上知识蒸馏是让一个大模型老师把知识教给一个小模型学生但问题在于老师教的东西不一定完全适合学生这篇论文提出了 Undo 框架让这个过程变得更像师生互动
学生犯错后老师会根据错误调整教学内容逐步改进直到学生学会这听起来像是补习班里的情景那具体怎么操作 AI 学生和老师是怎么沟通的简单来说 Undo 让学生先试着回答问题如果错了
系统会分析错误原因然后告诉老师这里需要加强老师会重新生成更针对性的解释或数据再交给学生实验发现这种迭代方法比一次性灌输知识效果好得多尤其在数学和常识推理任务上学生表现能提升 20%更厉害的是老师生成的数据还能用在其他学生身上说明这种方法很通用这不就像人类教育中的英才师教吗嗯
AI 也能学会这种灵活的教学方式对 这正是安德的灵感来源从教育学借来了支架式教学和形成性评估的理念论文还发现简单的多训练几轮并不能达到同样效果反而可能让学生过拟和安德的成功在于他关注学生的实际需求而不是盲目堆砌数据这也启发我们 AI 不仅仅是计算工具
它可以模拟更复杂的人类学习过程如果这种方法普及了会不会让小型语言模型变得更聪明更省资源比如手机上的语音助手没错小型模型如果能从大模型那里学到更多精华就能在资源有限的设备上跑得更快表现更好这对手机 AI 嵌入式系统都有巨大潜力
不过 AMDO 需要多次迭代计算成本较高未来还需要优化效率最后我们来聊一个神秘的话题 Why do LLM attend to the first token?语言模型为什么总盯着句子的第一个词他在偷懒吗?不是偷懒而是有深意这篇论文发现大型语言模型 LF