YOLOv11涨点改进| ICML 2026顶会| 独家注意力改进篇| 引入PloyAttn多项式注意力,利用多项式注意力核和归一化完成动态特征聚合,适合目标检测、实例分割、遥感目标检测任务,有效涨点
一、本文介绍🔥本文给大家介绍使用 PloyAttn多项式注意力 改进YOLOv11网络模型,PloyAttn利用其“多项式注意力核 + Query/Key共享映射 + Q/K/V深度卷积局部增强”的结构,在保留Self-Attention长距离依赖建模能力的同时,用多项式运算替代Softmax指数计算,并通过深度卷积补充目标边缘、纹理和邻域细节,从而增强YOLOv11对复杂背景、多尺度目标、遮挡目标以及需要上下文辅助判断的小目标的特征表达能力。相比标准注意力,PolyAttn具有局部与全局信息协同、Q/K参数共享、模块可替换性强以及可与窗口化、稀疏注意力进一步结合等优势;论文消融还表明,完整PolyAttn相比直接使用标准Attention具有更好的分类表现,且其性能提升不仅来自多项式核,共享Q/K和深度卷积同样是关键因素。需要注意的是,原始PolyAttn仍包含全局位置间交互,因此更适合部署在YOLOv11较低分辨率的中深层特征,而不宜直接大量用于高分辨率浅层。🔥欢迎订阅我的专栏、带你学习使用最新-最前沿-独家YOLOv11创新改进!🔥YOLOv11专栏改进目录:YOLOv11改进专栏包含卷积、主干网络、各种注意力机制、检测头、损失函数、Neck改进、小目标检测、二次创新模块、C2PSA/C3k2二次创新改进、全网独家创新等创新点改进全新YOLOv11-发论文改进专栏链接:全新YOLOv11创新改进高效涨点+永久更新中(至少500+改进)+高效跑实验发论文本文目录一、本文介绍二、PloyAttn多项式注意力介绍2.1 PloyAttn多项式注意力结构图2.2 PloyAttn多项式注意力模块的作用:2.3 PloyAttn多项式注意力模块的原理2.4 PloyAttn多项式注意力模块的优势三、完整核心代码四、手把手教你配置模块和修改tasks.py文件1.首先在ultralytics/nn/newsAddmodules创建一个.py文件2.在ultralytics/nn/newsAddmodules/__init__.py中引用3.修改tasks.py文件五、创建涨点yaml配置文件🚀创新改进1🔥: yolov11n_C3k2_PolyAttn.yaml🚀创新改进2🔥: yolov11n_C2PolyAttn.yaml🚀创新改进3🔥: yolov11n_PolyAttn.yaml六、正常运行二、PloyAttn多项式注意力介绍摘要:现代视觉骨干网络通常将逐点激活函数(如 ReLU、 GELU)与指数型 Softmax 视为非线性变换的核心来源;然而,我们证明在 MetaFormer 式的视觉骨干网络中,这些组件并非必需。为此,我们为三种核心运算单元(多层感知机、卷积运算及注意力机制)设计了无激活函数的多项式替代方案——在这些方案中,采用 Hadamard 乘积替代传统的非线性变换,从而生成输入信号的多项式函数。这些模块可无缝集成到现有架构中:当在面向视觉骨干网络的模块化框架 MetaFormer 中实例化时,我们的 PolyNeXt 模型在 ImageNet 分类任务、ADE20K 语义分割任务以及分布外鲁棒性测试中,其性能均达到或超越了基于激活函数的传统对应模型(无论模型规模如何)。此外,我们的模型在降低计算成本的同时,显著优于现有的多项式网络,这表明标准模块的多项式变体能够超越复杂的定制化架构。

相关新闻

最新新闻

日新闻

周新闻

月新闻