损失函数

若分布的参数θ的可能变化范围是Ω，定义一个由Ω×Ω→R₁的二元非负实值函数L(θ，a)，它表示用a去估计θ时，因a与θ的不同而产生的损失，则称L为损失函数。

通常损失L是非负数。常用的标准损失函数有：(1)平方误差损失函数L(θ，a)=(θ－a)²。(2)线性损失函数L(θ，a)=’可选择常数K₀，K₁使之分别反映偏低和偏高估计的相对重要性。

它们一般不等。若相等，则损失等价于L(θ，a)=｜θ－a｜。它被称为绝对误差损失。(3)0－1损失函数。在含有两个行为的决策中，若θ∈，a₀是“正确”的；若θ∈，则a₁是“正确”的。定义损失L(θ，a_i)二(j≠i)称为0－1损失函数，其意为：若决策正确，损失为零；否则，损失为1。(4)相对差损失函数L(θ，“)=(1-)²。注意：由于L是样本x₁，x₂，…，x_n的函数，故L也是随机变量。