AP Statistics

quan sát có ảnh hưởng

influential observation

Quan sát có ảnh hưởng (influential observation) là điểm dữ liệu mà khi loại bỏ sẽ làm thay đổi rõ rệt hệ số góc hoặc vị trí của đường hồi quy.

Trong phân tích hồi quy tuyến tính, không phải mọi điểm dữ liệu (data) đều tác động như nhau lên đường hồi quy. Một quan sát có ảnh hưởng thường nằm xa trung tâm (center) của biến dự báo theo phương ngang, tức là có giá trị $x$ bất thường so với phần còn lại của mẫu. Do đó, khi bỏ điểm này đi, đường hồi quy bình phương tối thiểu (least-squares regression line) sẽ xoay hoặc dịch chuyển đáng kể, làm thay đổi cả hệ số góc lẫn hệ số chặn.

Nguyên nhân của hiện tượng này nằm ở khái niệm đòn bẩy, đo bằng $h_{ii}$ . Giá trị $h_{ii}$ càng lớn thì điểm thứ $i$ càng có khả năng kéo đường hồi quy về phía mình. Tuy nhiên, đòn bẩy cao chưa chắc đồng nghĩa với ảnh hưởng lớn, bởi vì điểm đó còn phải có phần dư đủ lớn để thực sự kéo đường hồi quy lệch khỏi vị trí ban đầu. Vì vậy, người ta thường kết hợp cả hai yếu tố vào một thước đo duy nhất gọi là khoảng cách Cook:

$D_i = \frac{e_i^2}{p \cdot MSE} \cdot \frac{h_{ii}}{(1 - h_{ii})^2}$

Công thức trên cho thấy $D_i$ lớn khi phần dư $e_i$ lớn hoặc đòn bẩy $h_{ii}$ gần bằng 1, hoặc cả hai. Quy tắc thực hành phổ biến là xem xét kỹ những quan sát có $D_i > 1$ hoặc $D_i > 4/n$ với $n$ là cỡ mẫu.

Nhờ đó, khi phát hiện một giá trị ngoại lai có khoảng cách Cook vượt ngưỡng, nhà phân tích cần kiểm tra xem điểm đó có phải do sai sót đo lường hay thuộc về một quần thể khác. Nếu không, việc giữ lại hay loại bỏ phải được biện minh rõ ràng, vì quyết định này có thể đảo ngược kết luận của toàn bộ mô hình hồi quy.

Ký hiệu

D_i

(khoảng cách Cook),

h_{ii}

(đòn bẩy)

Trực giác: Giống như một người nặng 120 kg ngồi lên một đầu của chiếc bập bênh, chỉ cần người đó đứng dậy là tấm ván nghiêng hẳn sang hướng khác — vị trí và độ nghiêng thay đổi rõ rệt so với khi họ còn ngồi.

Khái niệm này sinh ra từ đâu

1938Cochran

Khái niệm quan sát có ảnh hưởng gắn với hồi quy tuyến tính, và một trong những tài liệu sớm nhất bàn đến nó là công trình của Cochran năm 1938; việc nghiên cứu có hệ thống ảnh hưởng của một quan sát lên phương trình hồi quy thì xuất hiện muộn hơn nhiều.

Khi thống kê chuyển từ mô tả dữ liệu sang xây dựng mô hình, người làm nghề gặp một rắc rối rất thực tế: cả một đường hồi quy dựng trên hàng trăm điểm đôi khi lại nghiêng hẳn đi chỉ vì một điểm duy nhất. Câu hỏi đặt ra không còn là "số này có lạ không" mà là "bỏ số này ra thì kết luận có đổi không". Một trong những tài liệu sớm nhất được nhắc tới cho hướng suy nghĩ này là công trình của Cochran năm 1938. Tuy vậy, việc khảo sát một cách bài bản mức độ chi phối của từng quan sát lên phương trình hồi quy (regression equation) chỉ thành một nhánh riêng ở giai đoạn về sau, khi ba khái niệm gần nhau được tách bạch rõ ràng.

Thử nghiệm tương tác

Bỏ một điểm ra rồi cho vào lại — nhìn đường hồi quy ngả theo

Hay hiểu sai

Giá trị ngoại lai và quan sát có ảnh hưởng không phải là một khái niệm.

Phần dư nhỏ không có nghĩa là điểm đó vô hại.

Chưa bỏ điểm ra tính lại thì chưa được kết luận là có ảnh hưởng.

Không được xóa một quan sát chỉ vì nó làm mô hình xấu đi.

Mẹo phòng thi

Ví dụ có lời giải

1Ví dụ 1/1

Một nhóm học sinh khảo sát mối liên hệ giữa số giờ tự học mỗi tuần (x) và điểm kiểm tra cuối kỳ (y) của 6 bạn trong lớp. Năm bạn đầu có số liệu (1; 2), (2; 4), (3; 5), (4; 8), (5; 9). Bạn thứ sáu là một trường hợp bất thường: học 15 giờ mỗi tuần nhưng chỉ được 8 điểm, tức cặp (15; 8).

aTìm đường hồi quy bình phương tối thiểu (least-squares regression line) khi bỏ bạn thứ sáu, rồi khi giữ lại bạn thứ sáu. Điểm (15; 8) có phải là quan sát có ảnh hưởng không? Giải thích.
bTính phần dư (residual) của điểm (15; 8) đối với đường hồi quy dựng từ cả 6 quan sát, và giải thích vì sao phần dư nhỏ vẫn không đủ để kết luận điểm đó vô hại.

1Bước 1: Với 5 quan sát đầu:

\bar{x}=3

\bar{y}=5{,}6

S_{xx}=10

S_{xy}=18

. Do đó

b=18/10=1{,}8

và

a=5{,}6-1{,}8(3)=0{,}2

, cho

\hat{y}=0{,}2+1{,}8x

. Mỗi giờ tự học thêm gắn với khoảng 1,8 điểm cao hơn.

Bạn nắm chắc chưa?

Quiz câu thật từ ngân hàng đề

Vài câu thật gắn đúng khái niệm này, chấm ngay kèm giải thích từng đáp án — hệ thống ghi nhớ bạn nắm tới đâu.

Tạo tài khoản miễn phí

Học tiếp từ đây

Bài học chứa thuật ngữ nàyPhân tích hồi quy · bài “Mô hình hồi quy tuyến tính” — khoá AP Statistics

Cần trướcđường hồi quy bình phương tối thiểu

Hay nhầm với

Thuật ngữKhác nhau ở đâuHay nhầm khi

điểm có đòn bẩy caohigh-leverage point

Khác nhau ở đâuĐiểm có đòn bẩy cao nằm xa phần còn lại theo chiều biến giải thích nhưng chưa chắc làm lệch đường hồi quy, còn quan sát có ảnh hưởng thì thực sự thay đổi hệ số hồi quy khi bị loại bỏ

Hay nhầm khiđề cho một điểm ở rìa biểu đồ phân tán và hỏi liệu nó có ảnh hưởng hay không — thí sinh hay chọn có chỉ vì điểm đó nằm xa

giá trị ngoại lệoutlier

Khác nhau ở đâuGiá trị ngoại lệ lệch khỏi xu hướng chung theo chiều phần dư, còn quan sát có ảnh hưởng được xác định bằng mức độ thay đổi của đường hồi quy khi điểm đó bị loại — hai tiêu chí này không đồng nhất

Hay nhầm khiđề hỏi điểm nào 'ảnh hưởng nhiều nhất đến độ dốc' nhưng thí sinh lại chọn điểm có phần dư lớn nhất