飘天文学

第961章 AI里的白盒黑盒和正则化（第7页）

“过度训练”，相当于在

“模型复杂度随训练次数增长”

的过程中，选择

“泛化能力最强”

的中间状态。

操作步骤

：

将数据分为训练集、验证集、测试集；

每次迭代后，计算验证集损失；

若验证集损失连续k次（如

10

次）未下降，停止训练，保存此时的模型参数。

5.

数据增强（data

augmentation）

原理

：通过对训练数据进行

“随机变换”（不改变标签），人工扩大训练集规模，让模型接触更多样化的样本，减少对原始数据噪声的依赖。

常见手段

（以图像数据为例）：

几何变换：随机裁剪、翻转、旋转、缩放；

像素变换：随机调整亮度、对比度、饱和度、添加高斯噪声；

高级变换：mixup（将两张图像按比例混合）、cutmix（将一张图像的部分区域替换为另一张图像）。

核心优势

：不增加模型复杂度，仅通过数据层面的优化提升泛化能力，是计算机视觉、nlp（如文本同义词替换）中最常用的正则化方法之一。

6.

其他深度学习正则化技术

label

sothing（标签平滑）

：将硬标签（如分类任务的

[0，1，0]）替换为软标签（如

[0.1，0.8，0.1]），避免模型对

“正确标签”

过度自信，缓解过拟合。

mixupcutmix

：通过样本混合，让模型学习更通用的特征（如

mixup

将

请勿开启浏览器阅读模式，否则将导致章节内容缺失及无法阅读下一章。

www.baquge.cc www.cwzww.com www.9kutxt.com www.shuhuangxs.com www.du8.org

相邻推荐:穿越万界之fate神父  盗墓：我，二白长子，炸了青铜门  衍衍瑶台月  世子妃她手拿白月光剧本  遇见向阳的你  这就是龙之后裔的宿命吗  玄幻，我的神器能进化  星际大佬在年代文里修仙  在超神杨卧起坐  影帝家的小玫瑰  四合院：地窖往事  词条返还，一统天下从收徒朱元璋开始  画令天下  悦仙楼  超级游戏登录器  直播算命太疯狂，鬼王夫君来帮忙  我的太公是神医  冬夜的黑道生涯  直播算命，同妻被吃绝户  难哄！年下影帝每天求贴贴