Deep Dive
Shownotes Transcript
我们每个人都有过学生时代为了准备一场重要的考试我们是怎么做的呢是把教科书从头到尾死记硬背地读十遍还是会自己动手把厚厚的书本知识重新整理成自己的笔记画出思维导图甚至编出记忆口角呢大多数会学习的人都会选择后者因为我们知道学习不是被动地接触知识而是一个主动地把外部知识内化成自己理解体系的过程你用自己的话把外部知识
把知识复述一遍效果远远好于原文照搬这个过程我们称之为会学习但你有没有想过我们现在天天在谈的那些强大的人工智能大圆模型他们是怎么学习的呢其实他们更像那个死记硬背的学生你给他什么数据他就学什么数据过程非常被动这导致了一个问题当遇到新知识新任务的时候他们适应的非常慢甚至很笨拙
那么能不能让 AI 也学会我们人类这种主动学习的诀窍呢?今天我们就来聊聊一篇名为《Self-Adapting Language Models》自适应语言模型的论文它就朝着这个方向迈出了关键的一步这篇研究的核心思想一句话就能说清楚让 AI 学会自己给自己生成学习笔记并从中找到最高效的学习方法这篇研究的核心思想
这篇论文设计了一个非常巧妙的机制我把它叫做 AI 的备考三部曲第一部是生成专属笔记 self-edit 当给模型一段新的知识材料时比如一篇关于阿波罗登月计划的文章它不再是直接把整篇文章吞下去
相反模型会主动对这篇文章进行再创作生成一份自己的学习笔记这份笔记可能包含对原文的总结推理出的隐身含义或者是把信息重组成更容易吸收的格式比如问答对第二步模拟小考并打分笔记做好了到底管不管用呢接下来就是模拟考试模拟会用自己生成的这份笔记来复习也就是对
这
这是最关键的一步叫做强化学习通过大量的模拟小考模型不断地试错它会慢慢摸索出规律到底生成什么样的笔记用什么样的格式比如是长篇大论还是经练要点用什么样的复习参数比如学习率训练次数等等才能在考试中拿到最高分最终它就掌握了一套给自己的划重点和高效复习的独门秘籍
这个方法听起来很酷但效果怎么样呢论文里的实验结果相当惊人在一个实验中研究人员让模型学习新的事实知识结果发现经过这种自我调教后模型回答相关问题的准确率从 33.5%飙升到了 47.0%更厉害的是它靠自己生成的学习笔记所达到的效果
甚至超过了用更强大的模型 GPT4.1 给他生成的笔记这就像是一个中学生通过自己摸索出的学习方法考试成绩超过了直接背诵尖字生笔记的同学在另一个更难的抽象推理任务中模型需要从极少的几个例子中学会解决一种新类型的谜题
经过训练模型能够自主地决定应该如何扩充样本如何设置训练参数最终的成功率从 20%提升到了 72.5%它不仅学会了知识更学会了如何学习这篇论文给了我们三个非常深刻的启发第一我们可能正在接近数据墙的解决方案很多人担心用来训练 AI 的高质量人类数据总有一天会用完到那时 AI
AI 的进步会不会停滞呢这项研究指明了一个方向未来的 AI 或许能成为永动机通过自我生成高质量的学习材料实现持续的自我进化摆脱对人类新增数据的绝对依赖第二 AI 正从一个静态的工具变成一个
动态的生命体以前的模型训练好之后就定型了像一本印好的字典而自我适应的 AI 则更像一个能不断学习不断成长的学生它可以持续地吸收新知识更新自己的认知而不会轻易地学了新的忘了旧的虽然论文也指出彻底解决灾难性遗忘问题仍然是未来的重大挑战之一
第三这位更高级的智能体铺平了道路想象一个 AI 管家他在与你互动的过程中不断总结经验把学到的东西刻进自己的参数里从而变得越来越懂你越来越智能他不是靠开发者更新代码而是靠自己与世界的互动实现了真正的成长总而言之
Self-Adapting Language Models 这篇论文描绘了一篇激动人心的蓝图未来的 AI 不再仅仅是知识的容器更是智慧的创造者他们通过自我反思自我编辑和自我优化真正掌握了学习这门艺术这或许就是通往更通用更强大人工智能的必经之路了