1.捋一捋Swin Transformer
2.Stable Diffusion详解与模型源码
3.使用Cleanlab、码解PCA和Procrustes可视化ViT微调
4.轻松理解ViT(Vision Transformer)原理及源码
5.源代码阅读+一个示例 详解timm库背后的码解create_model以及register_model函数
6.Swin Transformer

捋一捋Swin Transformer

       Swin Transformer是ICCV 的最佳论文，它证明了Transformer在视觉领域的码解通用性，特别体现在Swin-T模型上。码解其结构区别于ViT，码解采用4x4的码解clickhouse 源码解读初始切分和Window Attention，允许获取多尺度信息，码解适用于目标检测和语义分割。码解下面，码解我们通过源码解析Swin Transformer的码解工作原理。

       首先，码解Swin Transformer的码解架构包括PatchEmbed层，将图像切割成小patch，码解之后通过多个BasicLayer处理，码解每个BasicLayer由Swin Transformer Block和Patch Merging组成。码解与ViT不同，Swin-T的PatchEmbed使用4x4切分并逐渐增大patch尺寸，以实现多尺度变化。BasicLayer中的核心模块Swin Transformer Block包含两个Window Attention，一个在窗口内操作，另一个解决窗口间信息交流问题。

       Window Attention通过将输入分割成小窗口，c pos 源码降低计算复杂度，但通过shift操作引入了窗口之间的信息交互。Shifted Window Attention通过调整窗口位置并使用掩码来控制注意力，使得并行计算更高效。此外，Window Attention还包括了相对位置编码，增强对局部上下文的理解。

       Patch Merging则模仿CNN，通过合并小patch以提取不同分辨率的特征，有助于多尺度特征的提取。在实验中，Swin Transformer在图像分类、目标检测和语义分割等多个领域展现了出色性能，尽管面临如Convnext的竞争，但它在视觉领域的创新性和多模态潜力仍值得关注。

Stable Diffusion详解与模型源码

       Stable Diffusion，由CompVis、Stability AI和LAION共同推出，是一种在任何文本输入下生成逼真图像的潜在扩散模型（Latent Diffusion Model）。其创新之处在于通过在较低维度的latent空间上应用扩散过程，而不是蚂蚁源码破解直接使用像素空间，以降低内存和计算复杂度。该模型使用LAION-5B数据集中的高清进行训练，尺寸为x，结合冻结的CLIP ViT-L/文本编码器进行条件设置。Stable Diffusion的轻量级设计，使其具备在多台消费级GPU上运行的能力，模型参数包括M UNet和M文本编码器。

       Stable Diffusion的推理过程简洁高效。以输入“a photograph of an astronaut riding a horse”为例，模型会生成相应的。其推理流程如图所示。Stable Diffusion具有两个输出。首先，U-Net在文本嵌入指引下，通过多次迭代（通常为次）去除latent image representation的噪音。调度器算法，如Denoising Diffusion Probabilistic Models（DDPM）或Denoising Diffusion Implicit Models（DDIM）等，基于上一次预测的latent image representation与噪音残差，预测新的去噪后的latent image representation。

       最终，去噪后的动画缓冲源码latent image representation通过Variational Autoencoder（VAE）的解码器转换回与用户提示相匹配的图像。VAE模型由编码器和解码器组成，编码器将图像转换为低维潜在表示，解码器则将潜在表示转换回图像。在潜扩散训练过程中，编码器得到图像的潜在表示，用于前向扩散过程，每一步增加噪声。在推理过程中，反向扩散过程产生的去噪后的潜在波通过VAE解码器转换为图像。

       Stable Diffusion的文本编码器负责将输入提示转换为U-Net可以理解的嵌入空间。它通常是一个基于转换器的编码器，将一系列输入标记映射为潜在文本嵌入。在训练期间，稳定扩散不训练文本编码器，而是使用CLIP已经训练的文本编码器CLIPTextModel。

       AutoencoderKL的模型结构包括编码器和解码器，编码器将图像转换为低维潜在表示，用于前向扩散过程。解码器则将潜在表示转换回图像。在潜扩散训练中，编码器得到图像的e源码修复潜在表示，用于生成过程。在推理阶段，反向扩散过程产生的去噪后的潜在波通过解码器转换为与用户提示相匹配的图像。

       参考文献

使用Cleanlab、PCA和Procrustes可视化ViT微调

       在图像处理领域，与传统的CNN不同，基于Transformers架构的ViT模型因其在自然语言处理任务中的成功而被引入。微调这些模型以获得理想性能的过程往往涉及精细的操作。下面，我们将通过一步步的示例，展示如何通过Cleanlab、PCA和Procrustes技术可视化ViT模型在CIFAR-数据集上的微调过程。

       首先，微调从预训练的ViT模型开始，使用CIFAR-的6万张和类标签。微调过程中，通过设置save_strategy和save_step来频繁保存检查点，确保动画有足够的数据点。然后，利用Transformers库的AutoFeatureExtractor和automodel获取不同阶段模型的嵌入，每个嵌入都是维的。

       嵌入分析中，Cleanlab的离群值检测功能识别出分类错误的特征。接着，通过scikit-learn的PCA将维向量降维到2维，以便可视化。然而，PCA可能导致动画帧间出现不必要的轴翻转或旋转。为解决这个问题，我们应用了Procrustes Analysis进行几何变换，确保动画过渡平滑。

       在最终的动画制作中，我们使用make_pca和get_ood函数创建图表，展示嵌入的二维分布和前8个异常值。此外，还会加载训练损失数据，以线形图的形式呈现。整个过程在Spotlight中进行最后检查，确保所有数据准确无误。

       这个可视化过程不仅有助于理解微调ViT模型的步骤，还是一个有效的教学工具，能够直观地展示模型调整的过程和结果。源代码可在GitHub上查看，作者为Markus Stoll。

轻松理解ViT(Vision Transformer)原理及源码

       ViT，即Vision Transformer，是将Transformer架构引入视觉任务的创新。源于NLP领域的Transformer，ViT在图像识别任务中展现出卓越性能。理解ViT的原理和代码实现在此关键点上进行。

       ViT的核心流程包括图像分割为小块、块向量化、多层Transformer编码。图像被分为大小为x的块，块通过卷积和展平操作转换为向量，最终拼接形成序列。序列通过多层Transformer编码器处理，编码器包含多头自注意力机制和全连接前馈网络，实现特征提取和分类。模型输出即为分类结果。

       具体实现上，Patch Embedding过程通过卷积和展平简化，将大小为x的图像转换为x的向量序列。Transformer Encoder模块包括Attention类实现注意力机制，以及Mlp类处理非线性变换。Block类整合了这两个模块，实现完整的编码过程。

       VisionTransformer整体架构基于上述模块构建，流程与架构图保持一致。代码实现包括关键部分的细节，完整代码可参考相关资源。

       综上所述，ViT通过将图像分割与Transformer架构相结合，实现高效图像识别。理解其原理和代码，有助于深入掌握这一创新技术。

源代码阅读+一个示例 详解timm库背后的create_model以及register_model函数

       深入理解timm库的核心，本文将重点剖析create_model和register_model这两个关键函数的工作原理。timm库以其封装的便捷性和SOTA模型集成而闻名，但内部细节往往被隐藏。本文将通过一个实例，揭示create_model的全貌，包括register_model的作用，帮助读者更好地掌握这两个函数的使用。

       首先，create_model从model_name入手，如vit_base_patch_，通过parse_model_name函数将其解析。这个过程包括urlsplit函数，用于解析model_name，如timm和vit_base_patch_被分别赋值给model_source和model_name。

       进一步，split_model_name_tag函数被调用，将model_name拆分为基础模型名称和配置参数。例如，model_name='vit_base_patch_'，tag=''。

       然后，is_model函数检查model_name是否已注册在timm的_model_entrypoints字典中。register_model实际上是一个函数修饰器，它允许用户自定义模型，并将其添加到timm的框架中，以便无缝使用timm的训练工具，如ImageNet训练。

       在is_model验证后，create_fn通过model_entrypoint(model_name)创建模型。register_model的__name__属性在此过程中起到关键作用，它将用户自定义的函数与timm的框架连接起来。

       通过以上步骤，本文旨在解构create_model的内部逻辑，帮助读者更好地掌握register_model的修饰器功能，从而在项目中更自信地运用timm库。现在，让我们跟随代码实例，深入了解这两个函数的运作细节。

Swin Transformer

       ç›®å‰transformer从语言到视觉任务的挑战主要是由于这两个领域间的差异：

        为了解决以上两点，我们提出了层级Transformer，通过滑动窗口提取特征的方式将使得 self.attention 的计算量降低为和图像尺寸的线性相关。

        我们观察到将语言领域迁移到视觉领域的主要问题可以被总结为两种：

       åœ¨æºç å®žçŽ°ä¸­ä¸¤ä¸ªæ¨¡å—合二为一，称为 PatchEmbedding 。输入图片尺寸为 的RGB图片，将 4x4x3 视为一个patch，用一个linear embedding 层将patch转换为任意dimension(通道)的feature。源码中使用4x4的stride=4的conv实现。->

        这是这篇论文的核心模块。

        window partition 分为 regular window partition 和 shift window partition ，对应于 W-MSA 和 SW-MSA 。通过窗口划分，将输入的 feature map 转换为 num_windows*B, window_size, window_size, C ，其中 num_windows = H*W / window_size / window_size 。然后resize 到 num_windows*B, window_size*window_size, C 进行attention。源码如下：

        由 regular window partition 模块 和 mutil-head self attention 模块组成。

        W-MSA相比于直接使用MSA主要是为了降低计算量。传统的transformer都是基于全局来计算注意力，因此计算复杂度非常高。但是swin transformer通过对每个窗口施加注意力，从而减少了计算量。attention的主要计算过程如下：

        假设每一个 window 的区块大小为 ，输入的尺寸为 ，以下为原始的 和 的计算复杂度：

       è™½ç„¶ 降低了计算量，但是由于将attention限制在 window 内，因此不重合的 window 缺乏联系，限制了模型的性能。因此提出了 模块。在 MSA 前面加上一个 cycle shift window partition

        swin transformer中没有使用 pooling 进行下采样，而是使用了和yolov5中的 focus 层进行 feature map 的下采样。 -> ，在使用一个全连接层-> ，在一个stage中将feature map的高宽减半，通道数翻倍。

       åŸºå‡†æ¨¡åž‹ç»“构命名为 Swin-B ，模型大小和计算复杂度和 ViT-B / DeiT-B 相近。同时我们也提出了 Swin-T ， Swin-S 和 Swin-L ，分别对应 0.× , 0.5× 和 2× 倍的模型尺寸和计算复杂度。 Swin-T 和 Swin-S 的计算复杂度分别和 ResNet- 、 ResNet- 相近。 默认设置为7。 代表第一层隐藏层的数量。