1 引言
在深度学习中,损失函数
(Loss Function)至关重要,它决定着深度模型的训练学习的方式,其设计的恰当与否,往往会影响到最终模型的有效性。
虽然在很多通用型任务上,业内逐渐形成使用惯例,(如点击率建模,默认都用对数损失,logloss),但对损失函数的认识越清楚,会有助于算法工程师在面临新任务时,在模型设计上事半功倍。
2 常用损失函数
损失函数的任务是:针对一个样本,度量模型的预估值 logit 即$\hat y$和对应真实 Label 即$y$之间的差异。
不同的损失函数有不同的含义,主要是模型学习逼近样本分布的方式。所以它是一个非负实值函数,主要特点为:恒非负;误差越小,函数值越小;收敛快。