深度学习领域中的耦合与解耦

在阅读论文的时候应该会看到两个操作,一个是耦合,一个是解耦,经常搭配着出现的就是两个词语,耦合头(Coupled head)以及Decoupled head(解耦合头),那为什么要耦合,又为什么要解耦

耦的概念

以下是来自耦的词语百科

耦耕(两人并力一起耕种。为古代犁田的一种方式);耦犁(一种耕作法)。引申为二人一组。

可见,耦的基础含义是共同为某一目标同时作用,再看Coupled和Decoupled这俩单词,是不是觉得耦合解耦这俩翻译很精妙呢。

同时在知乎某文章中,也很通俗易懂的阐述了耦合解耦的区别:通俗地理解耦合、解耦这两个概念 - 知乎

深度学习耦合解耦的作用

在论文《An Integrated Model for On-Site Teaching Quality Evaluation Based on Deep Learning》中有一张简洁明了的图表面了深度学习耦合解耦的区别;

目标检测中,分类任务和回归任务之间的冲突是不可避免的。因此,用于分类和定位的解耦合头被广泛用于大多数单阶段检测器。YOLO系列的骨干网络和特征金字塔网络在不断发展,但检测头仍然是耦合的。对于每一级FPN特征,首先通过1×1卷积归一化激活函数进行特征积分,以将特征通道的数量减少到256个。然后分别为分类和回归任务添加两个并行分支(如图2所示)。每个分支有两个3×3卷积归一化激活函数用于特征提取。Cls分支通过1×1卷积来确定输入特征点的类型。另一个分支也分为两个平行的分支。其中,Reg分支通过1×1卷积获得特征点的回归系数,以调整预测帧;并且Obj分支通过1×1卷积来确定特征点是否具有对应的对象。实验表明,将耦合头替换为解耦头大大提高了收敛速度,而解耦合头对于端到端版本的YOLO至关重要。

 


http://www.niftyadmin.cn/n/5201102.html

相关文章

Docker 安装 Oracle Database 23c

目录 访问 Oracle 官方网站 使用 Docker 运行 Oracle Database 23c 免费容器映像 创建并运行 Oracle Database 23c 容器 查看已下载的镜像 列出正在运行的容器 进入容器 sqlplus 命令 访问 Oracle 官方网站 Database Software Downloads | Oracle 中国 使用 Docker 运行…

SSD傻傻分不清楚

固态硬盘(SSD)有几种主要类型,主要区别在于它们的接口和技术规格。下面是一些常见的SSD类型: 1. **SATA SSD**: - 使用标准的SATA接口,这是最常见的SSD类型之一。 - 它们通常有2.5英寸的尺寸,…

Transformer的一点理解,附一个简单例子理解attention中的QKV

Transformer用于目标检测的开山之作DETR,论文作者在附录最后放了一段简单的代码便于理解DETR模型。 DETR的backbone用的是resnet-50去掉了最后的AdaptiveAvgPool2d和Linear这两层。 self.backbone nn.Sequential(*list(resnet50(pretrainedTrue).children())[:-2…

姓氏情侣家庭亲子谐音顽梗头像分销流量主微信抖音小程序开发

姓氏情侣家庭亲子谐音顽梗头像分销流量主微信抖音小程序开发 姓氏情侣头像:提供各种姓氏的情侣头像模板,用户可根据自己的姓氏选择合适的头像进行定制。 家庭头像:为家庭成员提供多种形式的头像模板,让用户可以选择合适的家庭头像…

Python数据结构基础教学,从零基础小白到实战大佬!

文章目录 前言 Python有那几种数据结构?1)列表(list)1.1 什么是列表?1.2列表的增删改查 2)字典(Dictionary)2.1 什么是字典?2.2 字典的增删改查 3)元组(Tuple)4)集合(Set…

Android codec2 视频框架之输出端的内存管理

文章目录 前言setSurfacestart从哪个pool中申请buffer解码后框架的处理流程renderOutbuffer 输出显示 前言 输出buffer整体的管理流程主要可以分为三个部分: MediaCodc 和 应用之间的交互 包括设置Surface、解码输出回调到MediaCodec。将输出buffer render或者rele…

C语言--判断年月日是否合理

一.题目描述 比如输入2001,2,29,输出: 不合理 。因为平年的二月只有28天 比如输入2000,6,31,输出:不合理。因为6月是小月,只有30天。 二.思路分析 本题主要注意两个问…

现货白银MACD实战分析例子

MACD这个技术指标的全称是平滑异同移动平均线,主要表示经过平滑处理后均线的差异程度,一般用来研判现货白银价格变化的方向、强度和趋势。MT4中的MACD指标,主要是由信号线、(上升/下跌)动能柱、0轴这三部分组成。 MACD…