1.在vscode中对比两个文件夹的苹果代码
2.[fastllm]cuda-kernels源码解析
3.Apple Mac装机必备苹果软件推荐及安装方法
4.MaskFormer源码解析
5.UGUI源码阅读之Mask

在vscode中对比两个文件夹的代码

       在探索代码的进阶过程中，研究已有的源码代码库并理解其演变过程是非常有帮助的。以maskfreevis为例，苹果它是源码基于mask2former的进一步发展。通过对比这两个版本，苹果可以洞察代码的源码wgcloud专业版源码增删改，有助于深入学习与理解代码逻辑。苹果为了在Visual Studio Code（简称VSCode）中实现这一对比操作，源码以下步骤将引导你进行具体实践。苹果

       首先，源码我们需要获取mask2former与maskfreevis的苹果源代码。可以通过Git命令执行克隆操作，源码确保从官方仓库中获取完整且最新版本的苹果代码，包括.git文件夹。源码这一步骤确保了获取代码的苹果原始状态，为后续对比分析奠定了基础。

       接下来，在VSCode中，将maskfreevis的代码文件全部复制到mask2former目录下。需要注意的是，这里仅替换同名文件，而不是整个目录结构。这一步操作相当于将两个版本的代码置于同一层次，方便进行后续对比。

       对比功能的实现主要依赖于Git的源代码管理特性。在VSCode中，通过观察Git的差异显示功能，可以直观地看到maskfreevis相对于mask2former的增加、删除与修改部分。这不仅揭示了功能与设计的变化，同时也展示了实现策略与优化的libreoffice 源码方向。

       若需进一步整理这些差异，以方便后续分析与分享，可以考虑打包这些被Git追踪的文件。执行“git archive --format=zip HEAD -o aaa.zip”命令，可以将当前版本的差异文件压缩为zip格式的打包文件。这样，不仅方便保存，也便于在其他环境中进行对比分析。

       最后，如果希望撤销对mask2former的修改并重新观察差异，可以先撤销上一次的提交操作。这样，你将能够再次在mask2former目录下观察到maskfreevis的最新修改情况，有助于持续跟踪代码的进化。

       通过以上步骤，你不仅能够在VSCode中高效对比两个文件夹中的代码差异，还能更深入地理解代码的演变过程，以及背后的逻辑与设计考量。这种方法不仅适用于mask2former与maskfreevis，对于探索任何代码库的迭代与优化过程，都具有广泛的适用性与价值。

[fastllm]cuda-kernels源码解析

       在fastllm中，CUDA-kernels的使用是关键优化点之一，主要涉及以下几个高频率使用的kernel：gemv_int4、gemv_int8、gemm_int8、RMSNorm、softmax、RotatePosition2D、swiglu等。quicksearchbox源码其中，gemm是计算密集型的，而其余大部分都是内存受限型。利用量化bit进行计算，比原始的torch转为浮点数更快，同时，没有进行融合操作，为后续优化留下了空间。

       gemv_int4 kernel：主要用于实现float*int4的GEMV乘积，其中偏置值设定为最小值。在计算中，矩阵被划分为不同的tile，不同tile之间并行操作。在遍历m/2的过程中，找到对应int4值的位置，通过保存的mins找到最小值minv。同一组的两个int4值共享同一个minv，计算结果的最终和被保存在sdata[0]上，用于更新对应m列位置的output值。结果向量为n*1。

       gemv_int8 kernel：在功能上与gemv_int4类似，但偏置值由保存的minv变为了zeros。

       gemm_int8 kernel：此kernel负责计算n*m矩阵与m*k矩阵的乘积。计算过程涉及多个tile并行，block内部保存的是部分和。考虑到线程数量限制，通常会有优化空间。最终结果通过为单位进行更新。

       layerNorm实现：此kernel实现layernorm计算，通过计算均值和方差来调整数据分布。fastjson 源码计算中，sdata存储所有和，sdata2存储平方和。每个block内计算部分和后，规约得到全局的均值和方差，从而更新output。

       RMS kernels解析：RMSNorm kernel实现RMS归一化，通过计算输入的平方和和均值，进而更新output。

       softmax kernels解析：计算输入的softmax值，涉及最大值查找、指数计算和规约求和等步骤，以防止浮点数下溢。

       RotatePosition2D Kernels解析：用于旋转位置编码，线程展开成三层循环。LlamaRotatePosition2D、NearlyRotatePosition和RotatePosition2D在旋转方式上有所区别，体现在不同的位置上进行计算。

       AttentionMask Kernels解析：对输入按照mask掩码置值，普通mask直接置为maskv，而Alibimask则是置为相对位置的值之和。具体含义可能涉及空间上的概念，但文中未详细说明。

       swiglu kernels解析：作为激活函数，这些kernel在原地操作中执行常见函数，线程足够使用，直接按照公式计算即可。

       综上所述，fastllm中CUDA-kernels的使用旨在通过优化计算过程和内存操作，提升模型的装箱 源码计算效率，实现更高效的推理和训练。

Apple Mac装机必备苹果软件推荐及安装方法

视频编辑：ScreenFlow (汉化方法可查)、Final Cut Pro、Premiere Pro、DaVinci Resolve、VideoProc、Wondershare Filmora、Motion

图像处理：Lightroom Classic、Affinity Photo、Capture One、Luminar Neo、DxO PhotoLab、PhotoBulk、Topaz Mask

写作与文本：Ulysses、Scrivener、Final Draft、Outline、WonderPen、Effie、SideNotes

照片滤镜：ON1 Effects、CameraBag Photo、Alien Skin Exposure、Nik Collection、DxO FilmPack、Luminar Flex、Topaz Studio

开机运行：Magnet Pro、Bartender、Power Menu、Mouseless、HoudahSpot、Snipaste、App Cleaner & Uninstaller

效率提升：Dropzone、OmniPlan、Things、Aclock、Text Scanner、Alfred Powerpack、Paste

思维导图：MindNode、SimpleMind、Focusplan、XMind、Diagrams、OmniGraffle、draw.io

设计：Cinema 4D、AutoCAD、Sketch、Figma、Principle、SketchUp、ZBrush、Affinity Publisher

电子书阅读/RSS订阅：Clearview X、BookReader、calibre、Koodo Reader、DjVu Reader、Reeder、NetNewsWire

安装方法：源码、二进制包、JAVA包、Homebrew、图形化桌面、应用商店

       安装软件时，需根据软件类型选择对应的方法，如源码安装需解压并执行configure、make、make install，应用商店则直接搜索下载安装。这些工具和应用能提升你的Mac使用体验，让新用户更快适应苹果电脑的生态系统。

MaskFormer源码解析

       整个代码结构基于detectron2框架，代码逻辑清晰，从配置文件中读取相关变量，无需过多关注注册指令，核心在于作者如何实现网络结构图中的关键组件。MaskFormer模型由backbone、sem_seg_head和criterion构成，backbone负责特征提取，sem_seg_head整合其他部分，criterion用于计算损失。

       在backbone部分，作者使用了resnet和swin两种网络，关注输出特征的键值，如'res2'、'res3'等。在MaskFormerHead中，核心在于提供Decoder功能，这个部分直接映射到模型的解码过程，通过layers()函数实现。

       pixel_decoder部分由配置文件指定，指向mask_former/heads/pixel_decoder.py文件中的TransformerEncoderPixelDecoder类，这个类负责将backbone提取的特征与Transformer结合，实现解码过程。predictor部分则是基于TransformerPredictor类，负责最终的预测输出。

       模型细节中，TransformerEncoderPixelDecoder将backbone特征与Transformer结合，生成mask_features。TransformerEncoderPixelDecoder返回的参数是FPN结果与Transformer编码结果，后者通过TransformerEncoder实现，关注维度调整以适应Transformer计算需求。predictor提供最终输出，通过Transformer结构实现类别预测与mask生成。

       损失函数计算部分采用匈牙利算法匹配查询和目标，实现类别损失和mask损失的计算，包括dice loss、focal loss等。整个模型结构和输出逻辑清晰，前向运算输出通过特定函数实现。

       总的来说，MaskFormer模型通过backbone提取特征，通过Transformer实现解码和预测，损失函数计算统一了语义分割和实例分割任务，实现了一种有效的方法。理解代码的关键在于关注核心组件的功能实现和参数配置，以及损失函数的设计思路。强烈建议阅读原论文以获取更深入的理解。

UGUI源码阅读之Mask

       Mask主要基于模版测试来进行裁剪，因此先来了解一下unity中的模版测试。

       Unity Shader中的模版测试配置代码大致如上

       模版测试的伪代码大概如上

       传统的渲染管线中，模版测试和深度测试一般发生在片元着色器（Fragment Shader）之后，但是现在又出现了Early Fragment Test，可以在片元着色器之前进行。

       Mask直接继承了UIBehaviour类，同时继承了ICanvasRaycastFilter和IMaterialModifier接口。

       Mask主要通过GetModifiedMaterial修改graphic的Material。大致流程：

       1.获取当前Mask的层stencilDepth

       2.StencilMaterial.Add修改baseMaterial的模板测试相关配置，并将其缓存

       3.StencilMaterial.Add设置一个unmaskMaterial，用于最后将模板值还原

       MaskableGraphic通过MaskUtilities.GetStencilDepth计算父节点的Mask层数，然后StencilMaterial.Add修改模板测试的配置。

       通过Frame Debugger看看具体每个batch都做了什么。先看第一个，是Mask1的m_MaskMaterial，关注Stencil相关的数值，白色圆内的stencil buffer的值设置为1

       这个是Mask2的m_MaskMaterial，根据stencil的计算公式，Ref & ReadMask=1，Comp=Equal，只有stencil buffer & ReadMask=1的像素可以通过模板测试，即第一个白色圆内的像素，然后Pass=Replace，会将通过的像素写入模板值（Ref & WriteMask=3），即两圆相交部分模板值为3

       这个是RawImage的Material，只有模板值等于3的像素可以通过模板测试，所以只有两个圆相交的部分可以写入buffer，其他部分舍弃，通过或者失败都不改变模板值

       这是Mask2的unmaskMaterial，将两个圆相交部分的模板值设置为1，也就是还原Mask2之前的stencil buffer

       这是Mask1的unmaskMaterial，将第一个圆内的模板值设置为0，还有成最初的stencil buffer

       可以看到Mask会产生比较严重的overdraw。

       2.drawcall和合批

       每添加一个mask，一般会增加2个drawcall（加上mask会阻断mask外和mask内的合批造成的额外drawcall），一个用于设置遮罩用的stencil buffer，一个用于还原stencil buffer。

       如图，同一个Mask下放置两个使用相同的RawImage，通过Profiler可以看到两个RawImage可以进行合批

       如图，两个RawImage使用相同的，它们处于不同的Mask之下，但是只要m_StencilValue相等，两个RawImage还是可以进行合批。同时可以看到Mask1和Mask1 (1)，Mask2和Mask2 (1)也进行了合批，说明stencilDepth相等的Mask符合合批规则也可以进行合批。

       StencilMaterial.Add会将修改后的材质球缓存在m_List中，因此调用StencilMaterial.Add在相同参数情况下将获得同一个材质球。