AI前沿：从大模型打扑克到幻觉的秘密
10:35 Share

各位听众朋友大家好欢迎收听新一期的太快报我是主持人小爱大家好我是主持人小 T 很高兴又和大家见面了小 T 最近 AI 领域又涌现了不少有趣的研究今天我们要聊聊哪些话题呢

好的 今天我们为大家精心挑选了五篇来自不同研究机构的最新论文内容涵盖了 AI 在策略游戏生成模型 幻觉检测自然语言 推理 以及理论极限等多个方面的探索听起来非常丰富 那我们赶紧开始今天的 AI 奇妙之旅吧首先我们来聊聊第一篇论文 题目是 Pokerbench 将大型语言模型训练成职业扑克玩家用 AI 打扑克这个想法挺酷的

小 T 你能跟我们解释一下吗?没错,这个研究非常有意思,大家知道扑克不仅仅是运气游戏,更需要数学计算、逻辑推理、策略规划,甚至还要揣摩对手的心理,对 AI 来说是一个非常大的挑战。研究人员为此专门设计了一个叫做 Poker Bunch 的基准测试,来评估大型语言模型的扑克水平。

听起来很专业这个 Pokerbench 是怎么工作的呢简单来说它包含一万一千个扑克场景涵盖了翻牌前和翻牌后的各种情况这些场景是由专业的扑克玩家设计的确保了复杂性和多样性研究人员用这些场景来训练和测试大语言模型看他们能否像职业选手一样做出最优决策结果怎么样呢 AI 模型能打赢人类吗初步结果显示即使是像 GPT-4 这样最先进的大语言模型

在扑克上的表现也远未达到最佳水平但是通过在 PokerBench 数据集上进行微调大语言模型的扑克水平有了显著的提升甚至超过了一些更大的模型那是不是意味着 AI 已经可以成为扑克高手

这么说还为时过早研究发现简单的监督微调在学习扑克这种复杂策略游戏上存在局限性而且有些模型在面对 GPT-4 的时候反而会因为 GPT-4 的一些反常策略而处于劣势这说明 AI 的策略学习还有很长的路要走这真是一个有趣的挑战

那么这项研究对我们有什么启发呢这项研究告诉我们图克这种策略性游戏可以成为评估和提升大圆模型能力的理想平台它不仅考验 AI 的数学和推理能力还考验其规划策略和对人类心理的理解同时也提醒我们现有的微调方法可能不足以让 AI 完全掌握复杂策略游戏接下来我们聊聊第二篇论文深度生成模型的统计能力

我看到这里提到了重伪分布这是什么意思呢这是一个比较专业但也很有意思的概念在统计学中重伪分布指的是那些尾部比正态分布更胖的分布简单来说就是极端值出现的概率更高比如金融市场的股票收益率网络流量数据等都具有重伪特性那这和深度生成模型有什么关系呢

这篇论文的核心观点是包括变分子编码器 VAE 生成对抗网络 GAN 和扩散模型在内的深度生成模型并非像我们想象的那样是万能的它们在生成重伪分布时存在固有的局限性无论给它们多少数据或使用多么大的模型都无法突破为什么会出现这种情况呢?

论文指出这些深度生成模型通常基于简单的潜在变量分布例如高斯分布然后通过一系列变换生成最终的样本但是这些变换通常是 Lipskit 的这种变换会导致模型的输出分布变成轻微的也就是无法产生重伪分布中常见的极端值听起来有点抽象能举个例子吗比如

我们想用 AI 生成一些金融市场的股票价格波动数据如果真实数据是中伪分布的那么用深度生成模型生成的数据很可能就会缺少极端的价格波动因为它天生无法产生足够多的异常值

那这项研究对我们有什么警示呢这项研究提醒我们不能盲目相信深度生成模型的通用性在实际应用中我们要根据数据的特点选择合适的模型尤其是在处理具有重伪特性的数据时要格外谨慎避免模型低估不确定性接下来我们看看第三篇论文 HelloGen 大型语言模型的幻觉机器来源 AI 的幻觉问题最近很受关注这篇论文又有什么新的发现呢

没错,这篇论文关注的是大语言模型的幻觉现象,也就是模型生成的内容与事实不符的情况。研究人员设计了一个名为 Helogen 的大规模基准测试来评估大语言模型在不同领域,比如编程、科学和摘要的幻觉程度,听起来很有针对性。

这个基准测试是怎么做的呢?

快速准确地判断模型是否出现了幻觉结果怎么样呢大语言模型的幻觉严重吗结果令人惊讶即使是表现最好的大语言模型在某些领域的幻觉率也高达 86%这说明大语言模型的可靠性问题比我们想象的更严重此外研究人员还发现模型在一个领域的幻觉率并不能预测其在另一个领域的表现

所以我们需要像 Helogen 这样多领域的基准测试这的确挺令人担忧的幻觉具体是怎么产生的呢研究人员把幻觉分为三种类型 A 型模型明明知道正确的事实但却记错了 B 型模型训练数据中存在错误的事实 C 型模型完全捏造事实不同的

看来幻觉问题是多方面因素造成的

那我们该如何减少幻觉呢这项研究提醒我们大语言模型的幻觉问题非常复杂需要多管齐下一方面需要提高大语言模型的知识准确性另一方面也需要提高他们对上下文的理解能力另外如何设计有效的训练方法也很重要接下来我们看第四篇论文 Intel 的 Between the LinesIncorporating Implication into NLi

这篇论文提到了隐含,运含这是什么概念呢?隐含运含是指那些没有明确表达出来但可以从上下文推断出的含义比如,如果我说今天下雨了,我没带伞,那么我可能会被淋湿就是一个隐含运含

那这和自然语言推理有什么关系呢自然语言推理的任务是判断两个句子之间的逻辑关系比如 A 句是否可以推导出 B 句目前的 Unnamed 模型主要关注显示蕴含也就是那些直接从文本中表达出来的含义

但是人类交流中充满了隐含意义所以模型也需要理解隐含、蕴含才能真正理解人类语言所以这篇论文做了什么呢?研究人员首先定义了隐含、蕴含的概念并构建了一个新的数据集 INLI 专门用于训练模型理解隐含、蕴含这个数据集包含了 1 万个前提和 4 万个假设分为隐含、显示中性和矛盾、蕴含

训练结果如何呢在 INLI 上微调的大语言模型在理解隐含 蕴含方面有了显著的提升而且这种提升还具有很好的泛化能力也就是说模型不仅理解了 INLI 中的隐含 蕴含而且也能在其他数据集合领域中识别隐含意义这很有意义说明模型真的学会了推理而不仅仅是死机硬背是的

这项研究告诉我们,为了让模型真正理解人类语言,我们需要同时关注显示和隐含的含义,而专门为隐含含义构建的数据集对提升模型能力至关重要。最后我们聊聊第五篇论文《Universal Training of Neural Networks to Achieve Base Optimal Classification Accuracy》。

这里提到了贝耶斯最优这是什么意思贝耶斯最优指的是在分类任务中理论上可以达到的最佳性能简单来说任何分类模型都不可能比贝耶斯最优更好了这篇论文的核心目标就是设计一种训练方法让模型尽可能接近这个理论极限那这篇论文是如何实现这个目标的呢

这篇论文的关键在于他利用了 F 散度的概念推导出了一个可以计算的贝叶斯误差上界然后研究人员基于这个上界设计了一个新的损失函数叫做 Baud IoT 通过最小化这个损失函数模型可以逐渐逼近贝叶斯最优的性能听起来很厉害这个 Baud 损失函数有什么优势呢

Boltz 损失函数最大的优势是它可以直接训练模型逼近贝叶斯误差率而传统的交叉伤损失函数并没有这个直接目标实验表明在一些复杂数据集上使用 Boltz 损失训练的模型性能可以超越使用交叉伤损失训练的模型而且还具有更好的泛化能力这意味着我们终于找到了一种可以接近理论极限的训练方法吗

这么说还为时过早但这项研究为我们打开了一扇新的大门它提醒我们在训练模型时不仅要关注模型在训练级上的表现更要关注模型与理论最优的差距好的 今天的太快报就到这里了小 T 今天我们聊了很多 AI 领域的前沿研究你有什么想和听众朋友们分享的吗

今天我们讨论的这些研究分别从不同的角度探索了 AI 的能力边界从用 AI 打扑克到生存模型到幻觉检测再到自然语言推理以及逼近理论极限每一个研究都充满了创新和挑战我们看到 AI 在不断进步但同时也面临着很多问题比如幻觉 隐含意义的理解以及如何逼近理论极限这些研究为未来的 AI 研究提供了新的思路和方向

相信在不久的将来我们会看到更强大的 AI 出现非常感谢小七的精彩解读也感谢各位听众朋友的收听如果你对 AI 领域感兴趣欢迎订阅我们的太快报我们下期再见下期见拜拜