🚀🚀🚀本文改进：可变形大核注意力（D-LKA Attention）,大卷积核增强注意力机制，引入到YOLOv8，与C2f结合实现二次创新

🚀🚀🚀D-LKA Attention在人脸检测小目标识别算法中， mAP@0.5从原始的0.929提升至0.933

🚀🚀🚀YOLOv8改进专栏：http://t.csdnimg.cn/hGhVK

1.人脸识别小目标数据集介绍

数据集来源：GitHub - HCIILAB/SCUT-HEAD-Dataset-Release: SCUT HEAD is a large-scale head detection dataset, including 4405 images labeld with 111251 heads.

本文章主要通过小目标来进行优化，因此数据集只选择partA部分，总共 2000张，按照7:2:1随机进行分配；

下图可以看出都是小目标人脸识别

1.1 小目标检测难点

本文所指的小目标是指COCO中定义的像素面积小于32*32 pixels的物体。小目标检测的核心难点有三个：

由本身定义导致的rgb信息过少，因而包含的判别性特征特征过少。
数据集方面的不平衡。这主要针对COCO而言，COCO中只有51.82%的图片包含小物体，存在严重的图像级不平衡。具体的统计结果见下图。

2.YOLOv8介绍

改进点：

1 .Backbone：使用的依旧是CSP的思想，不过YOLOv5中的C3模块被替换成了C2f模块，实现了进一步的轻量化，同时YOLOv8依旧使用了YOLOv5等架构中使用的SPPF模块；

2 .PAN-FPN：毫无疑问YOLOv8依旧使用了PAN的思想，不过通过对比YOLOv5与YOLOv8的结构图可以看到，YOLOv8将YOLOv5中PAN-FPN上采样阶段中的卷积结构删除了，同时也将C3模块替换为了C2f模块；

3.Decoupled-Head：是不是嗅到了不一样的味道？是的YOLOv8走向了Decoupled-Head；

4.YOLOv8抛弃了以往的Anchor-Base，使用了Anchor-Free的思想；

5.损失函数：YOLOv8使用VFL Loss作为分类损失，使用DFL Loss+CIOU Loss作为分类损失；

6.样本匹配：YOLOv8抛弃了以往的IOU匹配或者单边比例的分配方式，而是使用了Task-Aligned Assigner匹配方式。

2.1 C2f模块介绍

C2f模块就是参考了C3模块以及ELAN的思想进行的设计，让YOLOv8可以在保证轻量化的同时获得更加丰富的梯度流信息。

代码：

class C2f(nn.Module):
    # CSP Bottleneck with 2 convolutions
    def __init__(self, c1, c2, n=1, shortcut=False, g=1, e=0.5):  # ch_in, ch_out, number, shortcut, groups, expansion
        super().__init__()
        self.c = int(c2 * e)  # hidden channels
        self.cv1 = Conv(c1, 2 * self.c, 1, 1)
        self.cv2 = Conv((2 + n) * self.c, c2, 1)  # optional act=FReLU(c2)
        self.m = nn.ModuleList(Bottleneck(self.c, self.c, shortcut, g, k=((3, 3), (3, 3)), e=1.0) for _ in range(n))
 
    def forward(self, x):
        y = list(self.cv1(x).split((self.c, self.c), 1))
        y.extend(m(y[-1]) for m in self.m)
        return self.cv2(torch.cat(y, 1))

3.D-LKA Net介绍

摘要：医学图像分割通过 Transformer 模型得到了显着改进，该模型在掌握深远的上下文和全局上下文信息方面表现出色。然而，这些模型不断增长的计算需求（与平方令牌数量成正比）限制了它们的深度和分辨率能力。目前的大多数方法都是逐片处理 D 体图像数据（称为伪 3D），缺少关键的片间信息，从而降低了模型的整体性能。为了应对这些挑战，我们引入了可变形大核注意力（D-LKA Attention）的概念，这是一种采用大卷积核来充分理解体积上下文的简化注意力机制。这种机制在类似于自注意力的感受野中运行，同时避免了计算开销。此外，我们提出的注意力机制受益于可变形卷积来灵活地扭曲采样网格，使模型能够适当地适应不同的数据模式。我们设计了 D-LKA 注意力的 2D 和 3D 适应，后者在跨深度方面表现出色数据理解。这些组件共同塑造了我们新颖的分层 Vision Transformer 架构，即 D-LKA Net。根据流行的医学分割数据集（Synapse、NIH 胰腺和皮肤病变）上的领先方法对我们的模型进行的评估证明了其卓越的性能。

为了解决这些挑战，我们引入了Deformable Large Kernel Attention (D-LKA Attention)}的概念，这是一种采用大卷积核来充分理解体积上下文的简化注意力机制。

这种机制在类似于自注意力的感受野中运行，同时避免了计算开销。此外，我们提出的注意力机制受益于可变形卷积来灵活地扭曲采样网格，使模型能够适当地适应不同的数据模式。我们设计了 D-LKA Attention 的 2D 和 3D 适应，后者在跨深度数据理解方面表现出色。

4.实验结果分析

mAP@0.5从原始的0.929提升至0.933

YOLOv8_C2f_deformable_LKA summary (fused): 189 layers, 4336387 parameters, 0 gradients, 12.8 GFLOPs
                 Class     Images  Instances      Box(P          R      mAP50  mAP50-95): 100%|██████████| 17/17 [01:24<00:00,  4.98s/it]
                   all        540      18086      0.917      0.889      0.933       0.43

基于YOLOv8的人脸检测小目标识别算法：可变形大核注意力（D-LKA Attention）,实现涨-灵析社区