Introduction of Neural Networks
24:05 Share

欢迎来到另一个深度探索。今天我们将深入探讨神经网络。没错。哇，我们有一些很酷的东西要看。是的，我们有。我们有学术论文、AI 工具指南，甚至一些真实的代码片段。这将是一次很棒的体验。所以，如果你准备好提升你的神经网络知识了。是的。

系好安全带。我们将深入了解它们的工作原理。它们是如何工作的。探索它们可以做的所有很酷的事情。它们能做什么。并为你提供开始学习这个领域所需的一切。我认为这次深度探索如此酷的原因是，你离开时不仅会了解神经网络的事实，还会获得真正掌握这一复杂领域的思维模型。我喜欢这样。这就像为你的大脑构建一个神经网络。太棒了。我喜欢这个比喻。是的。

好的。说到构建，让我们直接跳入一些代码。让我们开始吧。我们这里有来自《从戴森到深度学习》的代码片段，其中包含一个名为 get_data_loader 的函数。现在，这个函数是关于获取这些小型数据批次的。好的。你有没有试过一口吃掉整个披萨？

没有。没有。好主意。可能不是个好主意，对吧？不可取。是的。这就是我们使用这些小型批次的原因。而不是一次性地用整个数据集来淹没整个网络。对。我们将它分解成更小、更容易管理的块。就像易消化的零食一样。所以这个 get_data_loader 函数就像我们的披萨切割器。是的。仔细地将数据分成几份。

是的，我喜欢这个比喻。它使网络的处理效率更高。是的，这是一个很好的类比。代码甚至暗示了一些非常巧妙的技巧。好的。比如打乱数据和控制批次大小。

哦，非常重要。这几乎就像在拌沙拉一样，你知道的。是的。确保网络在每次“咬一口”时都能获得良好的成分混合。没错。你不会想要所有的西红柿都在底部。你也不想每次都只吃奶酪披萨。不。必须混合起来。但这为什么对学习神经网络如此重要呢？好吧，让我们这样想。好的。网络通过

通过在数据中找到这些模式，然后弄清楚如何区分不同的特征来学习。对，对。比如猫和狗有什么不同？是的，是的。小型批次有助于使这个过程更加平滑，速度更快。所以网络基本上是在咀嚼这些较小的数据块，根据它发现的内容调整其内部设置，然后一遍又一遍地重复这个过程。

直到它在识别这些模式方面变得非常擅长。所以，如果你正在训练一个网络来区分猫和狗。没错。你会给它喂食这些猫和狗图片的小型批次。没错。它会一路微调它的视觉。没错。直到它可以识别，“哦，是的，那是只猫。那是一条狗。”是的。就像我们的披萨一样。是的。我们希望我们的配料被正确标记。所以不要把意大利辣香肠和蘑菇混淆。

绝对的。这非常重要。没有标签噪声。没有标签噪声。我们想要干净的数据。是的，我们想要干净的数据。就像你不会想用一本满是错误的教科书来学习一样。对，没错。神经网络需要准确的数据才能学习。所以这个数据准备的基础，理解小型批次。这是至关重要的。这是至关重要的。对于构建和学习真正有效的神经网络来说。绝对的。

好的。说到有效的东西。是的。让我们继续讨论神经网络的一些强大应用。酷。所以《深入学习》带我们了解了现代卷积神经网络。这些 CNN 就像计算机视觉的明星。它们是摇滚明星。它们是。是的。我的意思是，想想看。自动驾驶汽车。

识别行人，你的手机用 Face ID 解锁，是的，这一切都要感谢 CNN。这很酷，对吧？非常酷。CNN 在从图像中提取视觉特征方面令人难以置信。所以想象一下，它们就像这些超级侦探，分析图像的每一个部分，以识别边缘、纹理等东西，最终识别整个物体本身，对吧？所以它们

它们通过应用一系列过滤器来工作。这就像使用具有不同镜头的放大镜来逐渐理解它们所看到的东西。所以这就像一个侦探用放大镜拼凑线索一样。你明白了。哦，这太棒了。而且

对于 CNN 来说，一个非常重要的时刻是 ImageNet 竞赛。好的。研究人员正在竞争对海量图像数据集进行分类。哦，哇。而这项挑战真正将 CNN 推向了计算机视觉的前沿。它带来了一些重大突破。哇。在我们如何实际教机器“看”方面。所以 CNN 彻底改变了我们处理

图像分析的方式。我的意思是，它们是我们每天都在使用的许多 AI 驱动功能的基础。是的。而我们的资料来源也提到了这种新兴技术。好的。Transformer。哦。我们说的是电影里的那些变形金刚机器人吗？

不完全是，不。好的。但它们正在改变 AI 的格局。哦，好的。好的。是的。所以 CNN 在图像任务方面表现出色，但 Transformer 已经成为一个非常强大的竞争对手。好的。尤其是在自然语言处理方面，这是一个快速发展的领域。是的。新的架构一直在不断开发，比如 Transformer。所以这绝对是值得关注的事情。是的，绝对的。对。我要在我的学习清单中添加 Transformer。好主意。是的。

在我们走得太远之前，《深入学习》向我们介绍了另一个非常吸引人的概念。好的。LSTM。LSTM，是的。或长短期记忆网络。这就是它的名字。

它们旨在处理顺序数据，例如文本甚至时间序列。将它们视为神经网络世界中的记忆大师。它们的记忆力很好。是的。LSTM 值得注意的是它们能够记住

序列中之前的输入。好的。想象一下你正在看书。是的。你需要记住前面章节发生的事情。对。才能理解现在正在发生的事情。没错。LSTM 的工作方式与此类似。好的。这使得它们非常适合机器翻译等任务。好的。甚至文本生成。哦，哇。是的。所以像

聊天机器人如何记住你之前说过的话并进行对话。没错，是的。这就像它们内置了一个记事本系统。就像它们大脑里的小记事本一样。太神奇了。是的，代码甚至展示了一个 LSTM 的示例。哦，酷。使用 LSTM Scratch 定义。好的。所以你可以看到这些网络是如何构建的。所以当你的手机预测

你接下来要输入的词时。没错。那就是 LSTM。那是 LSTM 的实际应用。学习语言模式。是的。弄清楚你接下来要说的话。这些网络能够模仿我们自己大脑的方式真是令人难以置信。它们非常聪明。但是等等，《深入学习》。是的。还深入探讨了注意力机制的概念。注意力，是的。这就像老师在课堂上叫你注意听课一样吗？嗯，从某种意义上说，它与关注重要内容类似。好的。所以注意力机制使神经网络能够关注大脑的特定部分。

输入的部分，就像我们在试图理解复杂事物时所做的那样。对。所以网络不是平等地处理所有内容，而是学习优先处理最相关的内容。哦，这很酷。是的。所以这几乎就像阅读一篇长文章并突出显示关键句子一样。这就像过滤掉所有额外的东西一样。过滤掉噪声。是的。只关注要点。没错。是的。

这是一个很好的类比。谢谢。你之前提到过一个叫做点积注意力的东西。是的。听起来很技术性。它听起来有点吓人。是的。但是有没有办法理解它？是的。不需要数学学位？好的。所以点积注意力基本上是关于弄清楚输入的不同部分有多相似。好的。所以想象一下你正在阅读句子“猫坐在垫子上”。

对。每个词都由一个向量表示。好的。这就像一个独特的数字指纹，它捕捉了它的含义。所以每个词都有自己的一组数字。没错。它定义了它所代表的内容。没错。好的。所以点积注意力计算这些向量之间的点积。对。这本质上是在衡量……

它们有多么一致或相似。哦，好的。所以含义非常相关的词将具有更高的点积，而不相关的词将具有较低的点积。所以这是一种数学方法，可以找出哪些词是朋友，哪些词不是朋友。你明白了。这太棒了。然后相似度分数决定每个词获得多少注意力。所以对于我们正在执行的任何任务来说非常重要的词，它们将获得更多关注。

好的。而不太相关的词则会淡入背景。所以网络就像在说，“这些词是 VIP。”没错。让我们关注这些。这是一个很好的说法。是的。而这种关注能力彻底改变了自然语言处理。它确实如此。是的。特别是我们一直在谈论的那些 Transformer。它们可以齐头并进。足够的戏弄。足够的戏弄。好的。好的。

让我们最终谈谈这些 Transformer。让我们开始吧。是什么让它们如此特别？好的。为什么它们在 AI 领域引起如此轰动？好吧，《深入学习》为我们提供了一个很好的起点。好的。使用视觉 Transformer。好的。这些是专门为计算机视觉任务设计的 Transformer。好的。它们最近一直在掀起波澜。代码甚至展示了这一点。

VIT 块。是的。这就像一个 Transformer 构建块吗？是的。你明白了。VIT 块是视觉 Transformer 架构的一个基本组成部分。明白了。最有趣的部分来了。好的。而不是编程，

处理图像，逐像素处理，像传统的 CNN 一样。视觉 Transformer 将图像分解成这些补丁，并将每个补丁视为一个单独的输入。所以这就像把一个拼图分解开来，在弄清楚整幅图画之前，先单独分析每一块。这是一个很好的思考方式。哦，这很酷。是的。然后这些补丁被转换成这些非常有意义的表示。

这使得网络能够同时捕捉补丁内的局部细节以及它们之间的全局关系。所以它同时获得了小图和大图。没错。这是一个很好的说法。太神奇了。是的。你之前提到过这些视觉 Transformer 与人脑有一些共同之处？它们有。怎么会这样？所以就像我们所有的……

我们的视觉系统分层处理信息，你知道的，从简单的边缘到更复杂的物体。视觉 Transformer 也分阶段处理信息。所以早期层专注于理解各个补丁，而后期层则结合这些表示来理解整个图像。

哦，哇。是的。这是一个引人入胜的并行关系。这真是令人着迷。在人工视觉和生物视觉之间。我们正在创造可能像我们一样看待世界的 AI。这太神奇了。这真的很酷。是的。好的。让我们把注意力转移回学习过程一点。

好的。还记得我们之前讨论过的那些讨厌的局部最小值吗？我记得。我记得。像 Transformer 这样的高级架构如何在攀登到最佳性能的峰值时避免陷入这些低谷？这是一个很好的问题。是的。它确实突出了这些优化算法的重要性。好的。你知道，《深入学习》给了我们那个视觉效果。

是的。使用 FX 算法。FX 来显示这些局部最小值。是的，就像那个景观，丘陵景观的类比。没错，那个丘陵景观。我们不希望我们的网络在山谷中变得自满，因为还有更高的峰值有待发现。没错。我们希望它们发挥出全部潜力。没错。那么我们如何避免这些陷阱呢？好吧，帮助我们驾驭这片棘手地形的算法之一是 Adagrad。啊，Adagrad。

我们可靠的指南针。没错。Adagrad巧妙地调整了我们在训练期间所说的学习率，这确保了网络正在朝着最佳解决方案采取适当的步骤。所以把它想象成一个动态的步长。当地形平坦光滑时，你迈出大步。然后你迈出步伐。

更小、更谨慎的步伐，因为你越来越接近那个峰值。所以这就像有一个非常聪明的向导。没错。知道什么时候冲刺，什么时候谨慎前进。你明白了。确保我们不会错过山顶。这就是想法。好的。而这种谨慎的导航，通过神经网络损失函数的复杂世界，帮助我们避免了局部最小值的陷阱。所以我们有这些强大的架构。是的。像视觉 Transformer 一样。视觉 Transformer，是的。在 Adagrad 等算法的帮助下巧妙地驾驭学习环境。像 Adagrad 一样，是的。感觉我们真的开始理解内部运作了。是的，我们快到了。神经网络。我们正在取得进展。是的，在我们深度探索的下一部分。是的。

我们将把重点转移到事情的实际方面。好的。探索 AI 工具的世界。工具。以及它们如何使这些神经网络对每个人都更容易获得。每个人。不仅仅是计算机科学专家。没错。非常令人兴奋的事情。是的。非常酷。

欢迎回到深度探索。现在是总结我们对神经网络探索的时候了。我很兴奋能够深入了解所有这些的实际方面。是的，应用。是的，我们已经涵盖了理论、架构、训练。所有构建块。现在让我们谈谈如何将所有这些知识付诸实践。是的，如何实际使用这些东西。没错。

我们的 ChatGPT 和 AI 工具笔记文档重点介绍了许多 AI 工具，这些工具使神经网络比以往任何时候都更容易获得和应用。这就像拥有触手可及的超能力一样。它确实如此。还记得我们提到的那些编码助手吗，例如 CodePeer 和 Ask a Die？哦，是的。这些很棒。想象一下，你是一位程序员，正在从事一个复杂的项目。是的。这些工具就像拥有一个经验丰富的合作伙伴一样。是的，像导师一样。是的。

建议代码完成，识别潜在错误。是的，甚至推荐解决方案。哇。这真的很酷。令人惊奇的是，AI 就像

在公平竞争的环境中。是的，使事情更容易获得。是的，使那些专业技能更容易被所有人获得。没错，使 AI 民主化。说到易用性，我们不要忘记创造性的应用。哦，是的，有趣的东西。是的，还记得那些漫画生成工具吗？Girl Canvas 和 Pixton，是的。这就像拥有一个 AI 合作者一样

这可以帮助你将艺术愿景变为现实。没错。即使你不会画画。即使你不会画画，我也不会。是的，我也不会。所以这对我来说很棒。所以 Neural Canvas 可以仅根据文本提示创建插图。这就像拥有一个 AI 艺术家一样。是的。将你的想法变为现实。这令人难以置信。然后 Pixton 帮助你构建那些漫画叙事。哇。在 AI 的帮助下。所以 AI 实际上是在弥合……

想象力和创造力之间的差距。它确实如此。这令人难以置信。看到事情的发展方向非常令人兴奋。所以在这次深度探索中，我们已经涵盖了很多内容。我们有。从神经网络的构建块到这些尖端工具。这些是一些很酷的东西。它们将如此强大的力量掌握在我们手中。是的，我们已经探索了很多。但在我们结束之前。是的。我想把它带回到你这里，听众。是的。

你为什么应该关心所有这些？是的，为什么这很重要？关于神经网络的这些知识如何使你受益？好吧，了解神经网络确实打开了

世界上的可能性。无论你是学生、专业人士，还是仅仅是对未来技术感到好奇的人。这些知识可以让你解决问题，探索新的想法，创造你从未想过的事情。这就像扩展你的思维工具包一样。没错。装备自己来驾驭一个 AI 越来越融入其中的世界。是的，AI 无处不在。

融入我们的生活。是的，这是真的。所以当我们结束这次深度探索时，我想给你留下一个最后的思考。一个临别的想法。

记住，神经网络的灵感来自人脑。它们是，是的。但它们不受相同的限制。没错。它们可以处理海量信息。海量数据。学习非常复杂的模式。是的。并生成创造性的输出。以我们甚至无法完全理解的方式。以我们才刚刚开始理解的方式。没错。所以不要害怕深入研究。是的。去尝试。没错。突破可能的界限。这是一个激动人心的时代。

AI 的未来正在由那些愿意探索其潜力的人塑造。绝对的。并将他们的知识应用于这些现实世界的挑战。现实世界。是的。谁知道呢，也许有一天你会成为创造下一个具有突破性的 AI 应用的人。是的。改变世界。这就是梦想。感谢您加入我们这次对神经网络世界的深度探索。感谢收听。