ước lượng

Trong thống kê suy luận, ta thường không có điều kiện khảo sát toàn bộ tổng thể, nên phải dựa vào dữ liệu mẫu để suy ra các đặc trưng của tổng thể đó. Ước lượng chính là công cụ thực hiện việc này: nó là một hàm số tính trên các quan sát trong mẫu, cho ra một giá trị đại diện cho tham số cần biết. Ví dụ, trung bình mẫu $\bar{x}$ được dùng để ước lượng trung bình tổng thể $\mu$, còn tỉ lệ mẫu $\hat{p}$ được dùng để ước lượng tỉ lệ tổng thể $p$.

Một tiêu chí quan trọng để đánh giá chất lượng của ước lượng là tính không chệch (unbiased). Một ước lượng được gọi là không chệch nếu kỳ vọng của nó qua nhiều lần lấy mẫu bằng đúng tham số cần ước lượng, tức là $E(\hat{\theta}) = \theta$, trong đó $\hat{\theta}$ là ước lượng và $\theta$ là tham số tổng thể. Ngược lại, một ước lượng chệch (biased) có phân phối mẫu không tập trung quanh tham số thực, dẫn đến sai số hệ thống dù cỡ mẫu có lớn đến đâu. Vì vậy, khi tính phương sai mẫu, ta chia cho $n - 1$ thay vì $n$ để có ước lượng không chệch cho phương sai tổng thể $\sigma^2$: công thức $s^2 = \frac{\sum(x_i - \bar{x})^2}{n-1}$ đảm bảo $E(s^2) = \sigma^2$.

Độ lệch chuẩn của phân phối mẫu của một ước lượng được gọi là sai số chuẩn (standard error). Sai số chuẩn phản ánh mức độ biến thiên của ước lượng từ mẫu này sang mẫu khác: sai số chuẩn càng nhỏ thì ước lượng càng ổn định. Do đó, một ước lượng lý tưởng cần đạt cả hai điều kiện — không chệch lẫn có sai số chuẩn nhỏ — để vừa chính xác vừa đáng tin cậy.