1.GTX 1080 + macOS10.13.2 + MXNet
2.制作MXNET数据集
3.GroupSoftmax：利用COCO和CCTSDB训练83类检测器
4.零基础入行图像算法工程师需要学习哪些课程?
5.（三十八）通俗易懂理解——MXNet如何生成.lst文件和.rec文件
6.retinaface人脸检测在fddb数据集上的测试

GTX 1080 + macOS10.13.2 + MXNet

       æœ€åˆæ‰“ç®—ä¹° Ti，发现 Ti+拓展坞的组合比Gigabyte AORUS GTX Gaming Box贵很多，犹豫再三，还是购买了，妥妥地够用。

        Gigabyte AORUS GTX 官方驱动不支持macOS。我的系统是macOS..4，查过很多资料后，发现解决方案比较麻烦，需要使用macOS ..3的kext，如下图：

        最终还是将系统从..4降到了..2。严格按照 步骤 安装：

       å®‰è£…成功后在Graphics/Displays和NVIDIA Driver Manager可查到外置显卡的信息：

        目前无法通过pip安装GPU版本的MXNet，只能通过 源码 )安装：

       å®‰è£…好CUDA9.1后，测试GPU：

        安装好cuDNN7.0.5，构建MXNet，最后采用基于MXNet的测试用例验证一下包：

        安装过程中需要注意的是：

        用install_name_tool将lib指向修改为正确的即可：

制作MXNET数据集

       在MXNet框架中，读取图像主要采用两种方法：一种是处理.rec格式文件，类似于Caffe框架中的LMDB，优点在于文件稳定，移植性强，但在空间占用和数据增删灵活性上存在不足。社交站源码另一种方式是结合.lst文件与图像，首先在生成.rec文件过程中会同步创建.lst文件，即图像路径与标签对应列表，以此灵活控制训练集与测试集变化，但对图像格式要求严格，且在图像路径变更或删除时可能无法找到对应图像。MXNet提供im2rec.py文件来生成.lst和.rec文件，源码可从官方GitHub下载，具体参数解释详尽，使用时只需指定.lst文件位置、图像文件夹及数据前缀。

       使用im2rec.py文件生成.lst和.rec文件的步骤如下：

       1. 首先，使用命令行运行im2rec.py，参数包括输出.lst文件位置、文件夹路径和数据前缀，例如：python im2rec.py --list /home/mark7/Downloads/data /home/mark7/Downloads/test_images。这将生成对应.lst文件，格式为：路径与标签的对应列表。

       2. 其次，sping 源码讲解视频使用已生成的.lst文件和文件夹路径，运行另一条命令生成.rec文件，如：python im2rec.py /home/mark7/Downloads/data /home/mark7/Downloads/test_images，这将完成.rec文件的生成。

       在自定义数据集时，需自行制作.lst文件。一种常用工具是labelme，其生成的标签文件可通过Python的json处理模块读取，获取标注数据。MXNet要求lst文件格式固定，需参照官方文档理解具体意义。在处理标注数据后，可自动生成lst文件，如使用python处理后的json文件内容制作lst文件，再使用im2rec.py生成.rec文件。最终，通过调用MXNet函数，即可利用自定义的rec、lst和inx文件进行模型训练。

GroupSoftmax：利用COCO和CCTSDB训练类检测器

       在CV领域，工程师常利用YOLO、Faster RCNN、CenterNet等检测算法处理业务数据，旨在优化模型性能。租人源码程序然而，当模型在实际业务中发挥作用时，CEO的质疑往往紧随而来。为解决这一问题，我们设计了GroupSoftmax交叉熵损失函数，以解决模型训练的三大挑战。该函数允许类别合并，形成新的组合类别，从而在训练时计算出各类别对应梯度，完成网络权重更新。理论上，GroupSoftmax交叉熵损失函数兼容多种数据集联合训练。

       我们利用了COCO和CCTSDB数据集，基于Faster RCNN算法（SyncBN），联合训练了一个包含类的检测器。在COCO_minival测试集上，使用GroupSoftmax交叉熵损失函数训练的模型在mAP指标上提升了0.7个点，达到.3，相比原始Softmax交叉熵损失函数，性能显著提升。此外，我们还训练了一个trident*模型，6个epoch在COCO_minival测试集上的mAP为.0，充分验证了GroupSoftmax交叉熵损失函数的c windows 源码下载有效性。

       基于SimpleDet检测框架，我们实现了mxnet版本的GroupSoftmax交叉熵损失函数，并在GitHub上开源了源码。GroupSoftmax交叉熵损失函数的原理在于允许类别合并形成群组，计算群组类别概率的交叉熵损失，进而对激活值进行梯度计算。具体而言，当目标类别属于某个群组类别时，其梯度为群组类别梯度与子类别预测概率的比值。这样，GroupSoftmax交叉熵损失函数在处理类别合并情况时，能够有效更新网络权重。

       实现GroupSoftmax交叉熵损失函数时，需要注意以下几点：

       1. 对于未标注类别的数据集，可理解为与背景组成新的群组类别。

       2. 在两阶段检测算法中，RPN网络应根据数据集特性调整为多分类，以适应模型训练需求。

       3. 联合训练COCO和CCTSDB数据集时，最终分类任务为1+类，未标注类别的数据集可与背景组成组合类别。

       4. 编写CUDA代码时，计算群组类别概率时，需加微小量避免分母为0导致的顺序表的源码计算错误。

零基础入行图像算法工程师需要学习哪些课程?

       学习图像算法工程师的课程，首先需要掌握扎实的数学基础，尤其是线性代数、矩阵论、概率论与统计。数学是图像算法的基石，确保你在理解复杂算法时能够得心应手。

       其次，熟悉编程语言是不可或缺的。无论是C++还是Python，都能在图像处理领域大显身手。C++的性能优势在处理大型数据集时更为明显，而Python因其简洁易学的特点，对于初学者更为友好。

       建议从实战出发，通过实践项目来加深对图像处理的理解。选择一些实际问题进行解决，不仅能提升技术能力，还能培养解决实际问题的能力。

       掌握图像处理库也是重要的一步，例如OpenCV。通过跟随教程编写示例代码，创建小应用，不仅能熟悉库的使用，还能直观理解图像处理的基本概念。

       深入研究算法是图像处理学习的关键。可以阅读经典教材如《数字图像处理》等，了解常用的图像处理函数背后的理论依据。同时，结合OpenCV的源代码，深入理解算法的实现细节。

       学习深度学习和机器学习是图像处理领域的新趋势。掌握常用的深度学习库，如Keras、Caffe、TensorFlow或MXnet，以及机器学习库如scikit-learn，是实现图像处理任务的关键。

       阅读相关领域的论文和书籍，是深入理解深度学习和机器学习的途径。推荐《统计学习方法》、《机器学习》、《An Introduction to Statistical Learning》、《ESL》、《PRML》等书籍，提供理论与实践的结合。

       实践是学习图像算法的最好方式。尝试使用各种模型在数据集上进行实验，调整参数，通过实践来理解模型的工作原理。

       通过以上步骤，你将能够系统地学习图像算法工程师所需的知识和技能。记住，理论与实践相结合，持续探索与实践，是提高技能的关键。希望你在这个过程中能够不断进步，实现自己的目标。

（三十八）通俗易懂理解——MXNet如何生成.lst文件和.rec文件

       在MXNet中进行图像项目的处理时，图像读取方法有两路：一是通过.rec格式，虽然文件稳定可移植，但文件较大占用空间；二是利用.lst文件与图像结合，lst文件记录路径和标签，便于数据管理，但对图像格式要求高，且对文件路径的完整性敏感。对于分类和目标检测，流程略有差异。

       首先，从文件结构开始，需在根目录下建立文件夹，如im2rec源码、空的mxrec存放打包文件，以及hot_dog、not_hot_dog等子文件夹。针对分类任务，执行im2rec.py工具，通过参数如`--list`生成lst文件，`--recursive`遍历子目录，`--train_ratio`设置训练与测试的比例，以及指定文件前缀和文件夹路径。打包完成后，就生成了lst和相应的rec、idx文件。

       目标检测略有不同，不能直接使用im2rec，如VOC数据集，其xml文件包含了的标注信息。制作lst文件时，需要从xml中提取锚框坐标、id、名称和尺寸等信息，以'\t'分隔。然后，遵循分类的打包流程，将这些信息与图像一起打包成rec文件。

       总结来说，MXNet通过lst和rec文件的配合，提供了灵活和稳定的数据管理方式，但需要注意文件格式的兼容性和路径完整性，具体操作根据任务类型（分类或目标检测）进行适当的调整。

retinaface人脸检测在fddb数据集上的测试

       近期对retinaface人脸检测算法在fddb数据集上的表现进行了测试，以下为测试过程记录。

       首先，为了满足fddb数据集的格式要求，对retinaface官方代码进行了修改，将检测结果保存为fddb格式。由于mxnet框架的限制，在输入尺度变化时，会重新选择最优的CUDNN，导致测试过程耗时较长，此问题尚未解决。为了保证输入图像尺度一致，将所有图像统一设置为x像素（FDDB数据集中所有图像最长边），不满足大小要求的图像通过copyMakeBorder补全，并将检测结果保存。

       其次，直接下载fddb官方测试源码，并使用C/C++代码进行测试。由于习惯使用Windows系统，建立了VS工程并配置了opencv，即可运行测试。需要注意的是，官网代码对应的opencv版本较旧，使用opencv3时需要添加一些头文件。编译过程中遇到问题，可查阅相关资料解决。运行后，保存了两个文档，分别是*ContROC.txt和*DiscROC.txt。

       最后，下载Python源码，计算第二步ROC曲线的AUC。将txt文件放入对应文件夹，即可运行得到结果。整个过程没有遇到问题，以下为测试结果（temp）。