1.1.5 范数
1.1.5范数
范数是一种强化了的距离概念,通常为了提高模型的抗过拟合能力被加入到损失函数中,下面介绍常见的几种范数的定义。
1.L0范数
L0范数并不是一个真正的范数,它主要用于度量向量中非零元素的个数。在对抗样本中,L0范数通常指的是对抗样本相对原始图片,所修改像素的个数。
2.L1范数
L1范数有很多的名字,例如曼哈顿距离、最小绝对误差等。使用L1范数可以度量两个向量间的差异,表示向量中非零元素的绝对值之和。
3.L2范数
L2范数是我们最常用的范数,欧氏距离就是一种L2范数,表示向量元素的平方和再开方。在对抗样本中,L2范数通常指的是对抗样本相对原始图片,所修改像素的变化量的平方和再开方。
4.无穷范数
无穷范数也被记作Linf,主要用于度量向量元素的最大值。在对抗样本中,Linf范数通常指的是对抗样本相对原始图片,所修改像素的变化量绝对值的最大值。