点击上方“AI算法与图像处理”，选择加"星标"或“置顶”
重磅干货，第一时间送达
作者：Mostafa Ibrahim
编译：ronghuaiyang 来源：AI公园
作者在kaggle比赛中从建立基线到一步一步的优化过程，最终将performance提升了一倍，非常好的竞赛经验总结文章。
我花了三个月的时间深入研究物体检测。我尝试了很多方法，从实现最先进的模型，如YoloV5、VFNets、DETR，到将目标检测模型与图像分类模型融合以提高性能。在比赛的早期阶段，我努力提高基准模型的分数，但我找不到有用的在线资源，这就是我写这篇文章的原因。我想带你们踏上一段从头到尾的旅程，简要地向你们展示我所走的每一步，我的成绩几乎翻了一倍。
官方的竞赛指标是(mean) Average Precision，这是最常用的目标检测指标之一。为了向你展示每一步的进步，我将在旁边加上它的分数。
1、第一步是建立一个简单的基线，0.126 mAP
我敢肯定，这是大量数据科学家早前落入的陷阱。我们总是很兴奋地用我们能想到的每一种技术来做最复杂的模型。这是一个巨大的错误，你最终会感到沮丧并离开ML项目，即使你不这样做，你也很可能会过拟合。
我经历了惨痛的教训，但最终还是用以下规范构建了一个初始模型：
-
YoloV5-XL -
图像的分辨率从3K调整为512
我知道这听起来很简单，一开始我也是这么想的。但是，实际上，构建基线可能是最烦人的步骤之一。因为有很多步骤，比如将输出处理成竞赛的格式等等(我不想深入讨论)。
另外，我实际的初始YoloV5-XL模型只有0.064(上面的一半)，我花了2周的时间调试它，结果发现我没有正确地归一化输入数据！
2、去掉一个输入类别！0.143 mAP (+13%)
这个trick当时对我来说没有多大意义。14个输入类别，13种不同疾病，1个“No Finding”类别。大约70%的数据集属于“No Finding”类，只有30%属于其他类。有个参赛者发现，你可以去掉这个类，并使用“2 class filter”技巧来预测它(见下文)。这使得数据集的倾斜度大大降低。此外，它允许训练明显更快(因为你将训练更少的图像)。
3、增加训练和推理图像的分辨率，0.169 mAP (+18%)
第二步是将图像分辨率从512提高到1024。这是一个微不足道的改进，但我想在这里传达的重点是，如果我以这个分辨率开始，我可能不会进一步提高我的分数。原因很简单，因为在这个更高的分辨率上进行训练会导致批大小从16减少到4(为了不耗尽GPU内存)，这大大减慢了训练过程。这意味着更慢的实验，你不会想用更慢的实验来比赛……
4、融合EfficientNet和YoloV5，0.196 mAP (+16%)
这不是我的主意，我是从一个public kernel中得到的想法。但是，这是我在Kaggle比赛中遇到的最好的主意之一。我想强调的是，在Kaggle上进行比赛的一个主要好处是你可以从社区中学到很多东西。
这里的主要思想是训练一个图像分类模型(EfficientNet)，它可以实现非常高的AUC(约0.99)，并找到一种方法将其与目标检测模型融合。这被称为“2 class filter”，比赛中的每个人都采用了这个方法，因为它大大提高了分数。我会在下一篇文章中介绍。
5、加权框融合(WBF)后处理，0.226 mAP (+15%)
这对我来说也是一个全新的想法，在网上很难找到。加权框融合是一种对目标检测模型产生的框进行过滤，从而使结果更加准确和正确的技术。它的性能超过了现有的类似方法，如NMS和soft-NMS。具体内容我会在另一篇文章介绍。
应用WBF的结果是这样的：
6、用5折交叉验证使用WBF融合，0.256 mAP (+13%)
我犯过的一个最大的错误是我忘记做交叉验证，这也是我写这篇文章的主要原因之一，就是为了强调ML基础知识的重要性。我太专注于应用新技术和提高性能，以至于忘记了应用这个基本的ML技术。
如果你想知道我是如何得到0.256的，那是因为我读了一些在竞赛结束后发布的解决方案，这是在类似于我的模型的交叉验证后他们大多数能得到的结果。最终的pipeline可以在这里看到：
7、我尝试过的其他的东西，但是没有成功
-
DETR训练。DETR是一个了不起的目标检测transformer ，我想把它实践，但是，我没有发现他们提供的代码文档有什么帮助，我也找不到很多有用的资源。此外，我花了大约3周的时间(大约是比赛持续时间的四分之一)尝试让它工作。我这么说的原因是，虽然离开你一直在研究的解决方案可能很难，但在实验性ML的世界里，这有时不得不做，说实话，我希望我可以早一点离开。但是，好的一面是，我发现另一个名为 MMDetection 的库提供了DETR，而且使用起来容易得多。 -
WBF预处理，虽然很多竞争对手都说这提高了他们的分数，但并没有提高我的分数。这就是ML的特点，并不是所有的技术都能以同样的方式使不同的模型受益。
我最终的代码：https://github.com/mostafaibrahim17/VinBigData-Chest-Xrays-Object-detection-
英文原文：https://towardsdatascience.com/a-journey-of-building-an-advanced-object-detection-pipeline-doubling-yolov5s-performance-b3f1559463bf
个人微信（如果没有备注不拉群！）
请注明：
地区+学校/企业+研究方向+暱称
![]()
下载1：何恺明顶会分享
在「AI算法与图像处理」公众号后台回复：何恺明，即可下载。总共有6份PDF，涉及 ResNet、Mask RCNN等经典工作的总结分析
下载2：终身受益的编程指南：Google编程风格指南
在「AI算法与图像处理」公众号后台回复：c++，即可下载。历经十年考验，最权威的编程规范！
下载3 CVPR2021
在「AI算法与图像处理」公众号后台回复：
CVPR
，即可下载1467篇CVPR 2020论文 和 CVPR 2021 最新论文
点亮 
，告诉大家你也在看
本文分享自微信公众号 - AI算法与图像处理（AI_study）。
如有侵权，请联系 [email protected] 删除。
本文参与“OSC源创计划”，欢迎正在阅读的你也加入，一起分享。