Đang tải bài học…

AP Statistics

điểm có đòn bẩy cao

high-leverage point

Điểm có đòn bẩy cao là điểm dữ liệu nằm xa các điểm khác theo phương trục hoành, nên có khả năng kéo đường hồi quy về phía mình.

Trong phân tích hồi quy tuyến tính, mỗi điểm dữ liệu đều có một mức đòn bẩy (leverage) nhất định, phản ánh vị trí của nó theo phương trục hoành so với các điểm còn lại. Khi một điểm nằm xa trung bình của biến dự báo, nó có đòn bẩy cao hơn, nghĩa là nó có tiềm năng kéo đường hồi quy bình phương tối thiểu về phía mình. Tuy nhiên, đòn bẩy cao chỉ là điều kiện cần chứ chưa đủ để một điểm thực sự làm thay đổi kết quả hồi quy.

Để đo lường mức đòn bẩy, người ta dùng giá trị mũ (hat value) $h_{ii}$ , nằm trong khoảng từ $0$ đến $1$ . Một điểm có $h_{ii}$ càng gần $1$ thì đòn bẩy càng cao. Quy tắc thực hành thường dùng là: nếu $h_{ii} > \frac{2(k+1)}{n}$ , trong đó $k$ là số biến dự báo và $n$ là cỡ mẫu, thì điểm đó được xem là có đòn bẩy cao. Công thức này cho thấy ngưỡng phát hiện phụ thuộc vào cả độ phức tạp của mô hình lẫn số lượng quan sát.

Một điểm có đòn bẩy cao chỉ thực sự có ảnh hưởng lớn (influential) khi nó cũng có phần dư lớn, tức là nằm xa đường hồi quy dự đoán. Ngược lại, nếu điểm đó nằm gần đường hồi quy dù có đòn bẩy cao, nó vẫn không làm thay đổi đáng kể các hệ số ước lượng. Vì vậy, khi kiểm tra chất lượng mô hình, nhà thống kê thường vẽ đồ thị phần dư theo giá trị mũ để phát hiện những điểm vừa có đòn bẩy cao vừa có ảnh hưởng lớn.

Ký hiệu

h_{ii}

Trực giác: Giống như một người đứng ở đầu bập bênh — chỉ cần hơi nhích người là cả tấm ván nghiêng hẳn về phía mình, dù những người còn lại ngồi im ở giữa.

Công thức

h_{ii} = \htmlClass{fp-0}{\frac{1}{n}} + \htmlClass{fp-2}{\frac{\htmlClass{fp-1}{(x_i - \bar{x})^2}}{\sum_{j=1}^{n}(x_j - \bar{x})^2}}

Công thức này tính đòn bẩy (leverage) của quan sát thứ $i$ trong hồi quy tuyến tính đơn giản. Giá trị $h_{ii}$ nằm trong khoảng $[1/n,\, 1]$ ; một điểm thường được coi là có đòn bẩy cao khi $h_{ii} > 2(p+1)/n$ , trong đó $p$ là số biến dự báo.

Trong đó

h_{ii}

đòn bẩy của quan sát thứ

i

n

số quan sát trong tập dữ liệu

x_i

giá trị biến giải thích của quan sát thứ

i

\bar{x}

trung bình của toàn bộ giá trị biến giải thích

Khái niệm này sinh ra từ đâu

1938–1980William G. CochranJohn TukeyDavid A. BelsleyEdwin KuhRoy E. Welsch

Thử nghiệm tương tác

Kéo điểm được đánh dấu ra xa về bên phải — nhìn đường bình phương tối thiểu xoay theo nó

Hay hiểu sai

Đòn bẩy cao nói về vị trí theo trục $x$ , không phải theo trục $y$ .

Đòn bẩy cao không tự động có nghĩa là điểm đó làm lệch đường hồi quy.

Đừng đi tìm điểm đòn bẩy cao bằng cách săn phần dư lớn.

Không được loại bỏ một điểm chỉ vì nó nằm xa các điểm khác.

Ví dụ có lời giải

1Ví dụ 1/1

Một giáo viên ghi lại số giờ ôn bài trong tuần (

x

) và điểm kiểm tra (

y

) của 5 học sinh:

(2,4)

(3,6)

(4,7)

(5,9)

(6,9)

. Sau đó em thứ sáu nộp phiếu ghi nhận của mình: em này ôn 16 giờ và được 22,6 điểm (bài kiểm tra chấm thang 25). Đường hồi quy bình phương nhỏ nhất (least-squares regression line) của 5 điểm đầu là

\hat{y} = 1{,}8 + 1{,}3x

aGiải thích vì sao quan sát thứ sáu là điểm có đòn bẩy cao.
bTính lại đường hồi quy cho cả 6 quan sát và cho biết điểm này có phải điểm ảnh hưởng hay không.
cGiả sử em thứ sáu vẫn ôn 16 giờ nhưng chỉ được 12 điểm. Kết luận ở ý (b) thay đổi thế nào?

Bạn nắm chắc chưa?

Quiz câu thật từ ngân hàng đề

Vài câu thật gắn đúng khái niệm này, chấm ngay kèm giải thích từng đáp án — hệ thống ghi nhớ bạn nắm tới đâu.

Tạo tài khoản miễn phí

Học tiếp từ đây

Bài học chứa thuật ngữ nàyPhân tích hồi quy · bài “Mô hình hồi quy tuyến tính” — khoá AP Statistics

Cần trướcđường hồi quy

Hay nhầm với

Thuật ngữKhác nhau ở đâuHay nhầm khi

quan sát có ảnh hưởnginfluential observation

Khác nhau ở đâuĐiểm có đòn bẩy cao chỉ mới nằm xa trung bình các giá trị x; nó trở thành quan sát có ảnh hưởng khi việc loại bỏ nó làm thay đổi đáng kể đường hồi quy bình phương tối thiểu.

Hay nhầm khiĐề cho một scatterplot và hỏi điểm được khoanh tròn có phải influential point hay không — học sinh trả lời 'có' chỉ vì nó xa các điểm khác theo chiều x, bỏ qua rằng đường hồi quy hầu như không đổi khi bỏ nó đi.

giá trị ngoại lệoutlier

Khác nhau ở đâuGiá trị ngoại lai được nhận diện qua phần dư lớn (cực đoan theo chiều y), còn điểm có đòn bẩy cao được nhận diện qua giá trị x nằm xa trung bình (cực đoan theo chiều x); một điểm có thể là cái này mà không phải cái kia.

Hay nhầm khiĐề hỏi 'điểm A có phải outlier hay không' nhưng học sinh lại lập luận dựa trên vị trí x xa thay vì kiểm tra phần dư, hoặc ngược lại, đề hỏi về leverage nhưng học sinh chỉ xét độ lớn của y.

\sum_{j=1}^{n}(x_j - \bar{x})^2

tổng bình phương độ lệch của biến giải thích, đo độ phân tán của toàn bộ các giá trị

x

Ý tưởng về những quan sát nằm xa hẳn phần còn lại theo trục biến giải thích đã được Cochran nhắc tới từ năm 1938, được Tukey phát triển thêm, rồi định hình thành công cụ chuẩn trong cuốn "Regression Diagnostics" năm 1980 của David A. Belsley, Edwin Kuh và Roy E. Welsch.

Khi hồi quy tuyến tính (regression) trở thành công cụ làm việc hằng ngày của các nhà kinh tế lượng, người ta phát hiện ra một điều khó chịu: chỉ một quan sát duy nhất cũng có thể kéo lệch cả đường thẳng khớp được, khiến mọi kết luận rút ra sau đó đều đáng ngờ. Một trong những tài liệu sớm nhất đặt vấn đề này là công trình của Cochran năm 1938, và Tukey về sau đặt nền cho cách đo lường nó một cách hệ thống. Đến năm 1978, các giá trị đòn bẩy được gắn thẳng với việc nhận diện những quan sát có khả năng chi phối mô hình bất thường. Nhờ đó, cuốn sách năm 1980 mới có thể gom chúng thành một bộ công cụ chẩn đoán hoàn chỉnh cho người dùng thực tế.

Vì sao mang đúng cái tên này? Cái tên nghe như trong vật lý, và đúng là nó mượn hình ảnh từ vật lý. Đại lượng đòn bẩy đo xem giá trị biến độc lập của một quan sát nằm xa các quan sát còn lại đến mức nào; quan sát càng xa trung tâm của các giá trị $x$ thì "cánh tay đòn" của nó càng dài, nên chỉ cần nó nhích lên hay xuống một chút theo phương dọc là cả đường hồi quy đã xoay theo. Về mặt kỹ thuật, đại lượng này được lấy từ các phần tử trên đường chéo của ma trận mũ (hat matrix), và chính vì thế mà điểm có đòn bẩy cao thường được xem là giá trị ngoại lai (outlier) xét riêng theo biến giải thích. Tuy nhiên, tên gọi chỉ nói về tiềm năng chứ không nói về hậu quả: một điểm ảnh hưởng (influential point) thường có đòn bẩy cao, nhưng đòn bẩy cao không nhất thiết kéo theo ảnh hưởng lớn.

Kéo điểm được đánh dấu ra xa về bên phải — nhìn đường bình phương tối thiểu xoay theo nó

Kéo tham số, thấy khái niệm chuyển động — mở khoá bằng tài khoản 0đ.

Tạo tài khoản miễn phí

Mẹo phòng thi

Khi đề hỏi bỏ một điểm thì hệ số góc đổi thế nào, phải nói rõ HƯỚNG đổi.

Viết đúng từ: xa theo $x$ thì gọi là đòn bẩy, xa theo $y$ thì gọi là ngoại lai.

Trước khi nhận xét về mô hình, luôn nhìn biểu đồ tán xạ chứ đừng nhìn mỗi con số $r$ .

Tần suất trong đề AP StatisticsHay gặp

Bước 1: Ý (a): xét vị trí của quan sát mới theo trục

x

. Với 5 học sinh đầu,

\bar{x} = (2+3+4+5+6)/5 = 4

và các giá trị

x

chỉ trải từ 2 đến 6. Quan sát mới có

x = 16

, cách

\bar{x}

tới 12 đơn vị trong khi cả nhóm còn lại chỉ cách nhiều nhất 2 đơn vị. Vì đòn bẩy chỉ phụ thuộc vào khoảng cách theo phương ngang, đây là điểm có đòn bẩy cao.

2Bước 2: Ý (b): tính hồi quy cho cả 6 quan sát. Tổng

x

là

2+3+4+5+6+16 = 36

nên

\bar{x} = 6

; tổng

y

là

4+6+7+9+9+22{,}6 = 57{,}6

nên

\bar{y} = 9{,}6

. Các tích chéo cho

S_{xy} = 22{,}4 + 10{,}8 + 5{,}2 + 0{,}6 + 0 + 130 = 169

và

S_{xx} = 16+9+4+1+0+100 = 130

3Bước 3: Do đó

b = 169/130 = 1{,}3

và

a = 9{,}6 - 1{,}3 \times 6 = 1{,}8

, tức

\hat{y} = 1{,}8 + 1{,}3x

— trùng khít đường cũ. Lý do là điểm mới nằm đúng trên đường cũ:

1{,}8 + 1{,}3 \times 16 = 22{,}6

, nên phần dư (residual) bằng 0 và nó không kéo đường đi đâu cả. Vậy đây là điểm có đòn bẩy cao nhưng không phải điểm ảnh hưởng (influential point).

4Bước 4: Ý (c): thay

y = 12

. Khi đó

\bar{y} = 47/6 \approx 7{,}83

S_{xy} = 63{,}0

, còn

S_{xx} = 130

vì các giá trị

x

không đổi. Suy ra

b = 63/130 \approx 0{,}485

và

a \approx 7{,}83 - 0{,}485 \times 6 \approx 4{,}93

, tức

\hat{y} \approx 4{,}93 + 0{,}485x

Quan sát của học sinh thứ sáu có đòn bẩy cao trong cả hai trường hợp, vì số giờ ôn 16 nằm rất xa trung tâm của các giá trị $x$ còn lại. Tuy nhiên, khi điểm số là 22,6 thì nó nằm ngay trên xu thế chung nên đường hồi quy giữ nguyên $\hat{y} = 1{,}8 + 1{,}3x$ : có đòn bẩy mà không gây ảnh hưởng. Ngược lại, khi điểm số chỉ còn 12, quan sát đó lệch hẳn khỏi xu thế và kéo độ dốc tụt từ 1,3 xuống khoảng 0,485 — lúc này nó vừa có đòn bẩy cao vừa là điểm ảnh hưởng, và mô hình sẽ ước lượng thấp đi rất nhiều tác dụng của mỗi giờ ôn bài.

Mục tiêu và lộ trình unit xem miễn phí — làm bài tập và lưu tiến độ cần tài khoản 0đ.