AP Statistics
regression line
Còn gọi: đường thẳng hồi quy · đường dự đoán · line of regression · line of best fit

Đường hồi quy là đường thẳng mô tả xu hướng tuyến tính giữa hai biến định lượng, dùng để dự đoán biến phản hồi từ biến dự báo.
Đường hồi quy (regression line) là đường thẳng mô tả xu hướng tuyến tính giữa hai biến định lượng, dùng để dự đoán giá trị của biến phản hồi từ biến dự báo. Khi các điểm trên biểu đồ phân tán kéo dài theo một hướng gần thẳng, ta cần một đường duy nhất đi sát qua đám mây điểm đó nhất. Phương trình của đường có dạng , trong đó là độ dốc và là tung độ gốc.
Do đó, phương pháp bình phương tối thiểu chọn và sao cho tổng bình phương các phần dư — khoảng cách thẳng đứng từ mỗi điểm đến đường — đạt giá trị nhỏ nhất. Độ dốc được tính bằng , với là hệ số tương quan (correlation coefficient), còn và là độ lệch chuẩn của hai biến; từ đó suy ra . Nhờ công thức này, đường luôn đi qua điểm trung bình của tập dữ liệu, nên khi thì giá trị dự đoán đúng bằng .
Vì vậy, đường hồi quy chỉ đáng tin trong phạm vi đã quan sát. Ngoại suy ra ngoài vùng dữ liệu là rủi ro vì quan hệ tuyến tính có thể không còn đúng. Ngoài ra, một điểm có đòn bẩy — tức hoành độ nằm xa — có thể kéo đường lệch khỏi xu hướng chung, nên ta luôn phải kiểm tra đồ thị phần dư trước khi tin vào các hệ số.
Trực giác: Giống như căng một sợi chỉ qua những chiếc đinh ghim trên bảng: sợi chỉ tự tìm vị trí mà mọi chiếc đinh đều nằm gần nó nhất.
Dùng khi có sẵn các thống kê tóm tắt — trung bình, độ lệch chuẩn, hệ số tương quan — để tính nhanh độ dốc mà không cần phần mềm.
Trong đó
Phương trình đường hồi quy bình phương nhỏ nhất (least squares regression line), dùng để dự đoán giá trị phản hồi từ giá trị của biến giải thích.
Trong đó
cuối thế kỷ 19 (bài báo năm 1886)Francis Galton (1822–1911)
Vào những năm 1870, Galton muốn biết các đặc điểm được truyền từ đời này sang đời khác như thế nào, nên ông thu thập số liệu chiều cao của cha mẹ và của con họ. Ông vẽ các cặp số ấy lên biểu đồ phân tán (scatterplot) rồi kẻ một đường thẳng đi qua đám điểm để tóm tắt mối liên hệ. Nhờ đường thẳng đó, ông có thể dự đoán chiều cao của con khi biết chiều cao của cha mẹ, và đây chính là nền móng của hồi quy tuyến tính ngày nay. Điều làm Galton ngạc nhiên là con của những người rất cao thường không cao bằng cha mẹ, mà nhích về phía mức trung bình. Ông công bố phát hiện này trong một bài báo năm 1886.
Hệ số góc là mức thay đổi dự đoán, không phải mức thay đổi thật của từng cá thể.
Nhiều bài chấm mất điểm chỉ vì thiếu một chữ. Khi diễn giải hệ số góc (slope), câu trả lời phải nói rõ rằng khi biến giải thích (explanatory variable) tăng một đơn vị thì giá trị dự đoán của biến phản hồi thay đổi bấy nhiêu đơn vị. Nếu viết "điểm trung bình tăng 0.8 điểm" thì người chấm hiểu là mọi học sinh đều tăng đúng 0.8, điều mà dữ liệu không hề khẳng định. Đường thẳng chỉ mô tả xu hướng chung, còn mỗi điểm dữ liệu vẫn lệch khỏi nó một khoảng gọi là phần dư (residual). Do đó hãy tập phản xạ đặt chữ "dự đoán" vào ngay trước tên biến phản hồi.
Diễn giải hệ số góc mà không nhắc tên hai biến và đơn vị thì coi như chưa trả lời.
Đề luôn hỏi "interpretation in context", nghĩa là bắt buộc phải gọi tên biến cụ thể chứ không được nói chung chung theo x và y. Với phương trình dự đoán nhiệt độ thấp trung bình bằng , câu trả lời đạt điểm phải là: mỗi khi vĩ độ tăng thêm 1 độ về phía bắc, nhiệt độ thấp trung bình được dự đoán giảm 0.70 độ F. Câu "hệ số góc bằng −0.70" hay "y giảm khi x tăng" đều không được tính. Ngoài ra, dấu âm phải được dịch thành chữ "giảm" chứ đừng bỏ mặc cho người chấm tự suy.
Đường hồi quy luôn đi qua — đây là công cụ giải toán, không chỉ tính chất học thuộc.
Rất nhiều học sinh gặp câu cho phương trình và một trong hai trung bình rồi bí, vì không nhớ tính chất này. Chẳng hạn với và , ta thay thẳng vào để được , suy ra . Điểm mấu chốt là chỉ có cặp trung bình mới thay được vào phương trình như vậy; một cặp bất kỳ trong bảng dữ liệu thì không. Nhờ đó, dạng bài tưởng thiếu dữ kiện này thực ra chỉ là một phương trình bậc nhất một ẩn.
"Bình phương tối thiểu" nghĩa là cực tiểu hóa tổng bình phương phần dư, không phải tổng phần dư.
Nếu chỉ cộng các phần dư lại thì tổng luôn bằng 0 với mọi đường hồi quy hợp lệ, nên tiêu chuẩn đó vô nghĩa. Vì vậy phương pháp bình phương tối thiểu (least-squares) chọn đường làm nhỏ nhất đại lượng , tức tổng bình phương các khoảng cách theo phương thẳng đứng từ mỗi điểm tới đường thẳng. Hai phương án nhiễu quen thuộc trong đề trắc nghiệm là "tổng khoảng cách vuông góc tới đường thẳng" và "tổng các phần dư"; cả hai đều sai. Hãy nhớ rằng ta đang dự đoán từ , nên sai lệch được đo dọc theo trục .
Quiz câu thật từ ngân hàng đề
Vài câu thật gắn đúng khái niệm này, chấm ngay kèm giải thích từng đáp án — hệ thống ghi nhớ bạn nắm tới đâu.
Biên soạn bởi DucklingStudy, bản quyền thuộc DucklingStudy. Xuất bản .
Vì sao mang đúng cái tên này? Cái tên nghe rất vô lý nếu đọc theo nghĩa đen: "regression" trong tiếng Anh thông thường nghĩa là "lùi lại, thoái lui", trong khi công cụ này lại dùng để dự đoán tới trước. Lý do nằm ở hiện tượng mà Galton quan sát được và đặt tên là hồi quy về trung bình (regression to the mean): trong một quần thể có người cao người thấp, chỉ số ít là giá trị ngoại lai (outlier) rất cao hay rất thấp, còn thế hệ sau có xu hướng "lùi" về gần mức trung bình của quần thể. Ban đầu đó thuần túy là một nhận xét sinh học, nhưng vì kỹ thuật kẻ đường thẳng qua đám điểm ra đời cùng lúc với nhận xét ấy, tên gọi đã dính luôn vào phương pháp. Do đó, ngày nay ta vẫn gọi là đường hồi quy dù ý nghĩa sinh học ban đầu đã phai mờ hoàn toàn — nó là một dấu vết lịch sử còn sót lại từ các bảng chiều cao của Galton.
Kéo một điểm ở rìa phải — nhìn đường hồi quy bị bẻ nghiêng theo
Kéo tham số, thấy khái niệm chuyển động — mở khoá bằng tài khoản 0đ.
Hệ số góc và hệ số tương quan là hai đại lượng khác nhau, đừng diễn giải lẫn.
Hệ số tương quan (correlation coefficient) không có đơn vị và luôn nằm trong đoạn từ −1 đến 1, còn hệ số góc mang đơn vị của chia cho đơn vị của và có thể lớn tùy ý. Chúng liên hệ qua , nên chỉ giống nhau ở dấu chứ không giống nhau ở độ lớn. Một hệ số góc bằng 1.2 hoàn toàn không nói lên rằng mối liên hệ rất mạnh, và một hệ số góc nhỏ cũng không có nghĩa là quan hệ yếu. Tuyệt đối tránh câu "hệ số góc cho biết mối liên hệ mạnh hay yếu".
Viết câu diễn giải hệ số góc theo một khuôn cố định để không sót thành phần.
Khuôn đó là: "Với mỗi [1 đơn vị] tăng thêm của [tên biến giải thích], [tên biến phản hồi] được dự đoán [tăng/giảm] [giá trị hệ số góc] [đơn vị]." Trước khi nộp, hãy soát xem câu của mình có đủ bốn thứ: chữ "dự đoán", tên hai biến, đơn vị, và đúng chiều tăng hay giảm. Nếu đề hỏi chênh lệch nhiều đơn vị thì phải nhân lên, ví dụ chênh 5 năm với hệ số góc 1.1 sẽ cho chênh lệch dự đoán đơn vị. Chỉ cần thiếu một chữ "dự đoán" là mất trọn điểm của phần đó.
Không dùng đường hồi quy để dự đoán ngoài khoảng dữ liệu, và không kết luận nhân quả.
Việc thay một giá trị nằm ngoài phạm vi dữ liệu quan sát được gọi là ngoại suy (extrapolation), và kết quả không đáng tin vì ta không có bằng chứng nào cho thấy xu hướng tuyến tính còn đúng ở đó. Tương tự, dù có gần 1 đến đâu, dữ liệu quan sát cũng chỉ cho phép nói về mối liên hệ chứ không cho phép nói biến này gây ra biến kia; chỉ thí nghiệm có phân nhóm ngẫu nhiên mới cho kết luận nhân quả. Trong bài tự luận, một câu nhắc tới hai giới hạn này thường là điểm cộng, còn viết "tăng thời gian học sẽ làm điểm tăng" thì bị trừ.
Với hệ số chặn, chỉ diễn giải khi nằm trong vùng dữ liệu hợp lý.
Hệ số chặn (y-intercept) là giá trị dự đoán của biến phản hồi khi biến giải thích bằng 0, nhưng rất nhiều tình huống không có ý nghĩa thực tế, chẳng hạn cân nặng dự đoán khi chiều cao bằng 0. Trong trường hợp đó hãy viết thẳng rằng hệ số chặn không có ý nghĩa diễn giải trong bối cảnh này vì nằm ngoài phạm vi dữ liệu. Cách trả lời như vậy an toàn hơn nhiều so với việc cố gán một ý nghĩa vô lý.
(a) Với mỗi độ vĩ tăng thêm, nhiệt độ thấp trung bình được dự đoán của các thành phố châu Âu giảm độ F. (b) Tại vĩ độ độ bắc, nhiệt độ thấp trung bình được dự đoán là độ F. (c) Phần dư bằng độ F: nhiệt độ thật của Paris thấp hơn giá trị mà đường hồi quy dự đoán độ F, nên điểm dữ liệu của Paris nằm dưới đường hồi quy. (d) Không nên, vì vĩ độ nằm ngoài khoảng vĩ độ của các thành phố trong mẫu; dự đoán ở đó là ngoại suy và không đáng tin cậy.
(a) Vì đường hồi quy bình phương tối thiểu luôn đi qua , trung bình doanh thu mỗi ngày ở cửa hàng B là đô la. (b) Từ ta có , nghĩa là độ lệch chuẩn của doanh thu hằng ngày ở cửa hàng B là đô la — doanh thu ở B biến động mạnh hơn ở A.