Region-Based CNN

摘要 ​ RCNN可以说是利用深度学习进行目标检测的开山之作。在当时的VOC 2012数据集上，将mAP提升了30%以上，达到了53.3%。 ​ 这篇论文主要提出两个关键见解： 可以将高容量的卷积神经网络应用在自底向上的区域建议(region proposal)，以此来定位和分割对象。 当训练数据不足时，可以选择进行辅助任务的监督预训练，再针对具体任务进行fine-tuning，以此获得显著的性能提升。 算法流程 一张图像生成1k~2k个候选区域(使用Selective Search) 对每个候选区域，使用深度网络提取特征 特征送入每一类的SVM分类器，判别种类 使用回归器对候选框进行微调 候选区域生成 ​ 使用Selective Search算法。算法大致思路是通过聚类的方法在图像上初步分割，找到 颜色/纹理/大小/相似度比较相似的区域，再根据这些区域进行加权合并，最后(希望)得到一些包括了GT box的候选框。 AlexNet 提取特征 ​ 对于每个候选框，将框中的内容提取出来，并缩放至227x227的大小，送入AlexNet中提取特征，产生4096维的

深度学习 · 2023-03-22 · 330 人浏览
Region-Based CNN

Attention Is All You Need

论文地址 [1706.03762] Attention Is All You Need (arxiv.org) Abstract ​ 目前的主流序列转译模型基本是编码器-解码器架构的复杂RNN或CNN网络（当然现在已经是Transformer了），本文提出了一个简单的网络结构——Transformer。Transformer完全基于注意力机制，在机器翻译上可以达到比RNN/CNN更好的效果，同时并行化效率更高，训练时间更少。作者测试了模型在英翻德/英翻法翻译任务的效果，并尝试证明了Transformer对其它任务的泛化能力。 Introduction ​ 简单介绍了一下当前序列建模和预测的主流方法——LSTM/GRU。 ​ RNN在每个时间步都会生成一个隐状态Ht，Ht中保存了以往单词的历史信息，使RNN在序列任务上表现较好。当然，Ht需要按时间步依次计算，并行度比较低，计算效率比较低。同时历史信息是逐步传递的，对于序列比较长的输入，较早时间步的信息有可能被遗忘，当然这个可以通过增加隐藏层单元来缓解，不过这也会进一步导致内存过大的问题。 ​ Attention机制其实已

深度学习 · 2023-03-22 · 344 人浏览

YOLOv5解读

模型对比 不同版本的YOLOv5的表现如下,参数量从小到大为n-s-m-l-x，mAP也逐渐升高，不过推理速度也近乎翻了一倍(V100) 表格后一部分带6的模型是针对高分辨率图片的，参数更多，mAP更高，具体差异将在网络结构提及 网络结构 网络主体 Backbone: New CSP-Darknet53 Neck: SPPF, New CSP-PAN Head: YOLOv3 Head ​ YOLOv5针对不同大小（n, s, m, l, x）的网络整体架构都是一样的，只不过会在每个子模块中采用不同的深度和宽度，分别应对yaml文件中的depth_multiple和width_multiple参数。 官方除了n, s, m, l, x版本外还有n6, s6, m6, l6, x6，区别在于后者是针对更大分辨率的图片比如1280x1280，当然结构上也有些差异，后者会下采样64倍，采用4个预测特征层，而前者只会下采样到32倍且采用3个预测特征层。 Backbone ​ YOLOv5在Backbone部分较于v4没太大变化。但是YOLOv5在v6.0版本后相比之前版本

深度学习 · 2023-03-22 · 316 人浏览

MyYOLOv4

摘要 YOLOv4使用了一些新特性： WRC/CSP/CmBN/SAT/Mish && activation/Mosaic && data augmentation/DropBlock && regularization/CIou loss Introduction ​ 当前(2020)最精确的现代神经网络无法实时进行目标检测，并且需要多块GPU进行训练（对显存有较高要求）。 ​ 而YOLOv4可以在一个传统GPU上进行训练/推断，降低了使用门槛。具体来说，GPU可以是1080 Ti/2080 Ti。 ​ 除此之外，在YOLOv4上对比了“Bag-of-freebies” 和 “Bag-of-Specials”这两类方法对模型的影响。 ​ 最后，通过改进CBN/PAN/SAM，使YOLOv4更适合单GPU训练 Related work Ordinary object detector ​ 一般来说，一个现代detector应该由两部分组成——一个在ImageNet预训练过的backbone、一个检测头用于类别和BBox

深度学习 · 2023-03-22 · 288 人浏览

MyYOLOv3

网络 ​ 网络整体框图如下。 输入为416*416*3的图像，经过若干卷积三件套和ResN残差结构抽取图像特征。并通过控制卷积stride实现下采样，最终将图片下采样32倍 在下采样8倍/16倍/32倍产生的特征图上进行多尺度的预测，特征图大小分别为52x52、26x26、13x13。最终*通道数都是255 = (3(80+5))** 和SSD类似采用多级检测方法。在三个尺度上进行预测，尺寸越大的特征图负责检测小物体，尺寸越小的特征图负责检测大物体（related to 感受野） 负责预测的浅层特征图还使用了深层特征图的特征（也就是所谓的特征金字塔FPN），通过上采样和通道融合实现。这个好处是让浅层特征图预测小(或者说复杂)物体时更容易(因为深层特征图提取的大多是语义特征，容易区分复杂目标) 具体解读 主干网络backbone：DarkNet-53 相较于YOLOv2中所使用的DarkNet19，新的网络使用了更多的卷积——52层卷积（外加一个全连接层），同时，添加了残差网络中的残差连结结构，以提升网络的性能。DarkNet53网络中的降采样操作没有使用Maxpoolin

深度学习 · 2023-03-22 · 333 人浏览
2023 - 2024 Axuanz的学习日记. All Rights Reserved.
Theme Jasmine by Kent Liao