YOLO训练中的标签平滑(Label Smoothing):防止过拟合的调参实战
训练集mAP飙到95%,验证集直接掉到70%?你的模型不是在“学习”,而是在“背答案”。标签平滑,可能是你忽略的最强正则化武器。一、开篇:那个让你夜不能寐的过拟合问题做目标检测的兄弟,你一定遇到过这种场景——训练集上mAP一路飙升到95%,你兴高采烈地跑验证集,结果直接掉到70%,惨不忍睹。这不是模型不够聪明,恰恰相反——是模型太聪明了,聪明到把训练数据里的噪声、标注错误、甚至背景纹理都记住了。打个比方,这就像准备考试:正确的做法是理解知识点、掌握解题思路,这样不管题目怎么变都能应对。但过拟合的模型就像一个只会背答案的学生——它把训练集里每道题的答案都死记硬背下来了,遇到新题就傻眼了。过拟合的本质是什么?从数学角度看,当一个模型的参数量远大于训练数据所能提供的有效约束时,问题就来了。假设你有一个100万参数的模型,但训练集只有1万张图片,那模型有99万度的自由度是“无人看管”的——这些自由度就会去拟合训练数据中的噪声。更具体地说,当模型的容量远超任务所需时,损失函数的优化空间里会出现大量“尖锐”的极小值点。这些极小值点在训练集上损失很低,但对应的决策边界非常复杂、扭曲,稍微偏离训练分布就完全失效。怎么判断过拟合?最直观的信号就是训练损失和验证损失之间的“剪刀差”:训练损失持续下降,验证损失却开始抬头。那么问题来了:我们怎么阻止模型“背答案”?正则化,就是我们应对