皮皮网

1.BERT源码逐行解析
2.神经网络量化入门--Add和Concat
3.pytorch源码学习03 nn.Module 提纲挈领
4.TVM源语-Compute篇
5.PyTorch源码学习系列 - 2. Tensor
6.PyTorch 源码解读之 BN & SyncBN：BN 与 多卡同步 BN 详解

BERT源码逐行解析

       解析BERT源码，神经随书神经书籍关键在于理解Tensor的计算计算形状，这些我在注释中都做了标注，原理源码原理以来自huggingface的神经随书神经书籍PyTorch版本为例。首先，计算计算BertConfig中的原理源码原理体感游戏unity源码参数，如bert-base-uncased，神经随书神经书籍包含了word_embedding、计算计算position_embedding和token_type_embedding三部分，原理源码原理它们合成为BertEmbedding，神经随书神经书籍形状为[batch_size,计算计算 seq_len, hidden_size]，如( x x )。原理源码原理

       Bert的神经随书神经书籍基石是Multi-head-self-attention，这部分是计算计算理解BERT的核心。代码中对相对距离编码有详细注释，原理源码原理通过计算左右端点位置，形成一个[seq_len, seq_len]的相对位置矩阵。接着是BertSelfOutput，执行add和norm操作。

       BertAttention则将Self-Attention和Self-Output结合起来。BertIntermediate部分，对应BERT模型中的一个FFN（前馈神经网络）部分，而BertOutput则相当直接。最后，BertLayer就是将这些组件组装成一个完整的层，BERT模型就是由多个这样的层叠加而成的。

神经网络量化入门--Add和Concat

       本文旨在深入探讨神经网络量化中的关键操作：ElementwiseAdd（简称EltwiseAdd）和Concat。我们将逐步解析这两个运算在量化过程中的处理方式，以便为读者提供清晰、直观的理解。

       EltwiseAdd量化：

       在论文附录中，EltwiseAdd的量化流程被详尽阐述。了解量化基础原理后，牛彩纽约源码可以轻松推导出其量化过程。量化公式如下：

       \[Q(x) = \text{ scale} \times (x - \text{ offset})\]

       假设两个输入张量的数值分别为 \(x\) 和 \(y\)，其相加的结果为 \(z\)，在全精度下的EltwiseAdd可以表示为：

       \[z = x + y\]

       将量化公式代入上述过程，可以得到：

       \[Q(z) = \text{ scale} \times (Q(x) + Q(y))\]

       简化后，我们可以观察到两个关键步骤：输出需要按照特定公式进行放缩，其中一个输入同样需要放缩，即论文中提及的rescale。尽管在PyTorch中实现这部分代码较为简单，主要工作集中在统计输入和输出的min-max值，推理引擎实现更为关键。在实际应用中，通常采用TFLite的实现方法来处理量化问题。

       Concat量化：

       Concat操作与EltwiseAdd类似，可以通过对其中一个输入进行rescale后再进行拼接，最后对输出进行调整。量化过程如下：

       \[Q(concat(x, y)) = scale_{ output} \times (Q(x) + Q(y))\]

       将量化公式代入，可以得到：

       \[Q(concat(x, y)) = scale_{ output} \times (scale_x \times Q(x) + scale_y \times Q(y))\]

       在实际量化过程中，为了避免精度损失，论文建议统一输入输出的scale值。尽管在没有rescale的情况下实现统一scale较为复杂，TFLite源码中提供了一种解决方案：当其中一个输入的范围覆盖整个输出范围时，将范围较小的输入进行重新量化，以匹配输出的scale和zeropoint。

       总结：

       EltwiseAdd和Concat量化操作在神经网络中具有重要意义。尽管量化可以减少计算资源需求，但可能引入精度损失。因此，在量化网络时，需关注输入范围的合理匹配，以避免精度损失过大。本文旨在提供这两个运算在量化过程中的网站大全 源码直观解释，帮助读者深入理解其处理机制。

pytorch源码学习 nn.Module 提纲挈领

       深入理解 PyTorch 的 nn.Module：核心概念与底层逻辑

       掌握核心思想，探索底层逻辑，通过解析 PyTorch 的 nn.Module 来构建深度学习模型。此模块是 PyTorch 的基石，封装了一系列函数和操作，构成计算图，是构建神经网络的首选工具。

       nn.Module 初始化（__init__）

       在定义自定义模块时，__init__ 方法是关键。通过调用 super().setattr 方法，设置 nn.Module 的核心成员变量，如训练状态、参数、缓存等，这决定了模块的主要功能。这些设置包括：

       控制训练/测试状态

       初始化参数集合

       初始化缓存集合

       设置非持久缓存集

       注册前向和反向钩子

       初始化子模块集合

       理解这些设置对于高效初始化模块至关重要，避免了默认属性设置的冗余和潜在的性能影响。

       训练与测试模式（train/val）

       nn.Module 通过 self.training 属性区分训练和测试模式，影响模块在不同状态下的行为。使用 model.train() 和 model.eval() 设置，可使模块在训练或测试时表现不同，如控制 Batch Normalization 和 Dropout 的行为。

       梯度管理

       requires_grad_ 和 zero_grad 函数管理梯度，用于训练和微调模型。requires_grad_ 控制参数是否参与梯度计算，zero_grad 清理梯度，释放内存。正确设置这些函数是训练模型的关键。

       参数转换与转移

       通过调用 nn.Module 提供的函数，如 CPU、type、mmm互助网站源码CUDA 等，可以轻松转换模型参数和缓存到不同数据类型和设备上。这些函数通过 self._apply 实现，确保所有模块和子模块的参数和缓存得到统一处理。

       属性增删改查

       模块属性管理通过 add_module、register_parameter 和 register_buffer 等方法实现。这些方法不仅设置属性，还管理属性的生命周期和可见性。直接设置属性会触发 nn.Module 的 __setattr__ 方法。

       常见属性访问

       nn.Module 提供了方便的访问器，如 parameters、buffers、children 和 modules，用于遍历模块中的参数、缓存、子模块等。这些访问器通过迭代器简化了对模块属性的访问。

       前向过程与钩子

       nn.Module 中的前向过程与钩子管理了模块的执行顺序。forward_pre_hooks、forward_hooks 和 backward_hooks 用于在模块的前向和后向计算阶段触发特定操作，实现如内存管理、中间结果保存等高级功能。

       模型加载与保存

       模型的保存与加载通过 hook 机制实现，确保在不同版本间兼容。使用 state_dict() 和 load_state_dict() 函数实现模型状态的导出和导入，支持模块及其子模块参数的保存与恢复。

       通过深入理解 nn.Module 的设计与实现，可以更高效地构建、优化和管理深度学习模型，实现从概念到应用的无缝过渡。

TVM源语-Compute篇

       本文探讨TVM源码中的计算相关(primitives)模块，深入讲解如何在非神经网络场景下，eclipse无法查看源码如基于张量的密集计算中，通过TVM的原生指令实现算法。通过分解计算与调度，TVM提供了一种灵活高效的并行计算框架。本文将首先通过向量相加（Vector Addition）实例，展示如何将算法数学表达式转化为TVM指令，实现输出矩阵的生成。接着，以矩阵乘法（GEMM）为例，说明TVM如何通过三层for循环来处理矩阵操作，并引入te.compute和te.reduce_axis等关键指令。进一步，通过简化卷积实现，解释了如何使用TVM DSL（数据描述语言）来处理多通道输入和输出特征图的卷积操作。最后，文章总结了TVM DSL的使用方式，强调其功能性编程风格，以及lambda表达式和reduce_axis在隐藏for循环细节、增强算法理解与优化后端性能方面的优势。

       在向量相加（Vector Addition）部分，我们定义数组长度n，两个数组A和B，通过lambda表达式将每个元素相加，存储到数组C中。TVM的te.compute指令用于指定输出结果的形状，lambda表达式则对应于循环逻辑，create_schedule构建出计算流程。利用tvm.lower将生成的schedule映射至IR（中间表示）上，展示与常规C代码相似的流程。

       矩阵乘法（GEMM）示例中，我们定义了矩阵A、B和C的维度，通过三层for循环实现矩阵乘法和加法。引入te.reduce_axis指令以优化循环结构，展示矩阵乘法运算的关键步骤和优化潜力。进一步，通过简化卷积实现，我们深入探讨了如何处理单通道输入图像和滤波器的卷积运算，解释了补零操作和使用te.compute处理多输入的实现方式。最终，总结了TVM DSL在表达计算逻辑、隐藏低级循环细节、优化算法性能方面的优势，以及其功能性编程风格对理解与优化算法带来的便利。

PyTorch源码学习系列 - 2. Tensor

       本系列文章同步发布于微信公众号小飞怪兽屋及知乎专栏PyTorch源码学习-知乎(zhihu.com)，欢迎关注。

       若问初学者接触PyTorch应从何学起，答案非神经网络（NN）或自动求导系统（Autograd）莫属，而是看似平凡却无所不在的张量（Tensor）。正如编程初学者在控制台输出“Hello World”一样，Tensor是PyTorch的“Hello World”，每个初学者接触PyTorch时，都通过torch.tensor函数创建自己的Tensor。

       编写上述代码时，我们已步入PyTorch的宏观世界，利用其函数创建Tensor对象。然而，Tensor是如何创建、存储、设计的？今天，让我们深入探究Tensor的微观世界。

       Tensor是什么？从数学角度看，Tensor本质上是多维向量。在数学里，数称为标量，一维数据称为向量，二维数据称为矩阵，三维及以上数据统称为张量。维度是衡量事物的方式，例如时间是一种维度，销售额相对于时间的关系可视为一维Tensor。Tensor用于表示多维数据，在不同场景下具有不同的物理含义。

       如何存储Tensor？在计算机中，程序代码、数据和生成数据都需要加载到内存。存储Tensor的物理媒介是内存（GPU上是显存），内存是一块可供寻址的存储单元。设计Tensor存储方案时，需要先了解其特性，如数组。创建数组时，会向内存申请一块指定大小的连续存储空间，这正是PyTorch中Strided Tensor的存储方式。

       PyTorch引入了步伐（Stride）的概念，表示逻辑索引的相对距离。例如，一个二维矩阵的Stride是一个大小为2的一维向量。Stride用于快速计算元素的物理地址，类似于C/C++中的多级指针寻址方式。Tensor支持Python切片操作，因此PyTorch引入视图概念，使所有Tensor视图共享同一内存空间，提高程序运行效率并减少内存空间浪费。

       PyTorch将Tensor的物理存储抽象成一个Storage类，与逻辑表示类Tensor解耦，建立Tensor视图和物理存储Storage之间多对一的联系。Storage是声明类，具体实现在实现类StorageImpl中。StorageImp有两个核心成员：Storage和StorageImpl。

       PyTorch的Tensor不仅用Storage类管理物理存储，还在Tensor中定义了很多相关元信息，如size、stride和dtype，这些信息都存在TensorImpl类中的sizes_and_strides_和data_type_中。key_set_保存PyTorch对Tensor的layout、device和dtype相关的调度信息。

       PyTorch创建了一个TensorBody.h的模板文件，在该文件中创建了一个继承基类TensorBase的类Tensor。TensorBase基类封装了所有与Tensor存储相关的细节。在类Tensor中，PyTorch使用代码自动生成工具将aten/src/ATen/native/native_functions.yaml中声明的函数替换此处的宏${ tensor_method_declarations}

       Python中的Tensor继承于基类_TensorBase，该类是用Python C API绑定的一个C++类。THPVariable_initModule函数除了声明一个_TensorBase Python类之外，还通过torch::autograd::initTorchFunctions(module)函数声明Python Tensor相关的函数。

       torch.Tensor会调用C++的THPVariable_tensor函数，该函数在文件torch/csrc/autograd/python_torch_functions_manual.cpp中。在经过一系列参数检测之后，在函数结束之前调用了torch::utils::tensor_ctor函数。

       torch::utils::tensor_ctor在文件torch/csrc/utils/tensor_new.cpp中，该文件包含了创建Tensor的一些工具函数。在该函数中调用了internal_new_from_data函数创建Tensor。

       recursive_store函数的核心在于

       Tensor创建后，我们需要通过函数或方法对其进行操作。Tensor的方法主要通过torch::autograd::variable_methods和extra_methods两个对象初始化。Tensor的函数则是通过initTorchFunctions初始化，调用gatherTorchFunctions来初始化函数，主要分为两种函数：内置函数和自定义函数。

PyTorch 源码解读之 BN & SyncBN：BN 与 多卡同步 BN 详解

       BatchNorm原理

       BatchNorm最早在全连接网络中提出，旨在对每个神经元的输入进行归一化操作。在卷积神经网络（CNN）中，这一原理被扩展为对每个卷积核的输入进行归一化，即在channel维度之外的所有维度上进行归一化。BatchNorm带来的优势包括提高网络的收敛速度、稳定训练过程、减少过拟合现象等。

       BatchNorm的数学表达式为公式[1]，引入缩放因子γ和移位因子β，作者在文章中解释了它们的作用。

       PyTorch中与BatchNorm相关的类主要位于torch.nn.modules.batchnorm模块中，包括如下的类：_NormBase、BatchNormNd。

       具体实现细节如下：

       _NormBase类定义了BN相关的一些属性。

       初始化过程。

       模拟BN的forward过程。

       running_mean、running_var的更新逻辑。

       γ、β参数的更新方式。

       BN在eval模式下的行为。

       BatchNormNd类包括BatchNorm1d、BatchNorm2d、BatchNorm3d，它们的区别在于检查输入的合法性，BatchNorm1d接受2D或3D的输入，BatchNorm2d接受4D的输入，BatchNorm3d接受5D的输入。

       接着，介绍SyncBatchNorm的实现。

       BN性能与batch size密切相关。在batch size较小的场景中，如检测任务，内存占用较高，单张显卡难以处理较多，导致BN效果不佳。SyncBatchNorm提供了解决方案，其原理是所有计算设备共享同一组BN参数，从而获得全局统计量。

       SyncBatchNorm在torch/nn/modules/batchnorm.py和torch/nn/modules/_functions.py中实现，前者负责输入合法性检查以及参数设置，后者负责单卡统计量计算和进程间通信。

       SyncBatchNorm的forward过程。

       复习方差计算方式。

       单卡计算均值、方差，进行归一化处理。

       同步所有卡的数据，得到全局均值mean_all和逆标准差invstd_all，计算全局统计量。

       接着，介绍SyncBatchNorm的backward过程。

       在backward过程中，需要在BN前后进行进程间通信。这在_functions.SyncBatchNorm中实现。

       计算weight、bias的梯度以及γ、β，进一步用于计算梯度。