全心思齐网

l2和l1的区别?

区别:

1.L1是模型各个参数的绝对值之和。


L2是模型各个参数的平方和。


2.L1会趋向于产生少量的特征,而其他的特征都是0


因为最优的参数值很大概率出现在坐标轴上,这样就会导致某一维的权重为0 ,产生稀疏权重矩阵


L2会选择更多的特征,这些特征都会接近于0。


最优的参数值很小概率出现在坐标轴上,因此每一维的参数都不会是0。当最小化||w||时,就会使每一项趋近于0


匿名回答于2023-09-13 12:06:43


相关知识问答