추정량 $\hat{\theta}$의 추정오차 $\hat{\theta} - \theta$의 제곱의 기대값 $E(\hat{\theta} - \theta)^{2}$을 $\hat{\theta}$의 평균제곱오차라 부르고 $MSE(\hat{\theta})$으로 표기한다.
$$ MSE(\hat{\theta}) = E(\hat{\theta} - \theta)^{2} = Var(\hat{\theta}) + B^{2} $$