AP Statistics
residual
Còn gọi: số dư · y − ŷ · sai số dự đoán

Phần dư là hiệu số giữa giá trị quan sát thực tế và giá trị dự đoán từ đường hồi quy, đo mức độ lệch của từng điểm dữ liệu so với mô hình.
Trong hồi quy tuyến tính, mô hình chỉ có thể dự đoán xu hướng chung, không thể tái tạo chính xác từng quan sát. Vì vậy, với mỗi điểm dữ liệu, luôn tồn tại một khoảng chênh lệch giữa giá trị thực và giá trị mà đường hồi quy (regression line) ước tính . Khoảng chênh lệch đó được gọi là phần dư (residual) và được tính theo công thức
trong đó là giá trị quan sát (observed values), là giá trị dự đoán tương ứng, và là phần dư. Nếu phần dư dương thì điểm dữ liệu nằm trên đường hồi quy; ngược lại, nếu phần dư âm thì điểm nằm dưới đường này.
Do đó, phần dư đóng vai trò trung tâm (center) trong việc đánh giá chất lượng mô hình. Cụ thể, đường hồi quy bình phương tối thiểu (least-squares regression line) được xây dựng bằng cách cực tiểu hóa , tức tổng bình phương các phần dư, nhờ đó không đường thẳng nào khác có tổng bình phương nhỏ hơn. Hệ quả tất yếu của việc này là tổng tất cả phần dư luôn bằng không: .
Trên nền tảng đó, để kiểm tra xem mô hình tuyến tính có phù hợp hay không, người ta vẽ đồ thị phần dư với trên trục hoành và trên trục tung. Nếu các điểm phân tán ngẫu nhiên quanh đường mà không tạo thành hình dạng rõ ràng, thì mô hình tuyến tính là hợp lý. Ngược lại, nếu đồ thị có dạng cong hoặc hình parabol, dữ liệu (data) có quan hệ phi tuyến và cần biến đổi hoặc chọn mô hình khác. Ngoài ra, một điểm có phần dư rất lớn so với các điểm còn lại có thể là giá trị ngoại lai và cần được xem xét kỹ trước khi kết luận.
Trực giác: Phần dư là phần "sai số còn sót lại" sau khi đường hồi quy đã cố gắng giải thích hết xu hướng — giống như phần cơm còn dính dưới đáy nồi sau khi đã múc hết phần ăn được.
Công thức này dùng sau khi đã xây dựng đường hồi quy tuyến tính để đo độ lệch của từng điểm so với mô hình. Nếu e_i > 0 thì điểm nằm trên đường hồi quy, còn e_i < 0 thì nằm dưới đường hồi quy.
Trong đó
Khi người ta bắt đầu vẽ một đường thẳng đi xuyên qua đám điểm dữ liệu, một vấn đề thực tế lập tức xuất hiện: đường thẳng gần như không bao giờ đi qua mọi điểm. Câu hỏi tự nhiên là phần chênh lệch còn thừa lại ấy nói lên điều gì — mô hình sai, hay dữ liệu vốn dao động ngẫu nhiên. Phần dư sinh ra để trả lời câu hỏi đó. Bằng cách lấy giá trị quan sát trừ đi giá trị dự đoán cho từng cá thể, người phân tích có một đại lượng đo được, quan sát được, cho biết mô hình hụt hay dư bao nhiêu ở mỗi điểm. Nhờ vậy việc kiểm tra mô hình chuyển từ cảm tính sang xem xét trực tiếp những gì mô hình chưa giải thích nổi.
Phần dư là giá trị thực trừ giá trị dự đoán, không phải ngược lại.
Công thức luôn là , trong đó là giá trị quan sát (observed value) còn là giá trị đường hồi quy cho ra tại cùng một . Rất nhiều bài mất điểm chỉ vì học sinh lấy , ra đúng độ lớn nhưng sai dấu, và dấu mới là thứ câu hỏi đang hỏi. Vì vậy hãy tập thói quen viết chữ "observed − predicted" ra bên cạnh trước khi bấm máy.
Phần dư dương nghĩa là mô hình dự đoán THẤP hơn thực tế.
Chẳng hạn với và , ta được trong khi giá trị thực là , nên phần dư bằng . Điểm quan trọng là ở chỗ này: số dương cho biết thực tế nằm CAO hơn đường thẳng, tức mô hình đã ước lượng thiếu (underestimate). Học sinh hay nói ngược thành "dự đoán quá cao" vì thấy số dương thì nghĩ là dư thừa; hãy nhớ dấu của phần dư mô tả vị trí của điểm dữ liệu so với đường thẳng, không mô tả đường thẳng.
Biểu đồ phần dư không có quy luật là bằng chứng ỦNG HỘ mô hình tuyến tính.
Nhiều bạn thấy các điểm rải rác lộn xộn liền kết luận "hai biến không có liên hệ", nhưng đó là hiểu ngược hoàn toàn. Trên biểu đồ phần dư (residual plot), phần liên hệ tuyến tính đã bị đường hồi quy "hút" hết đi rồi, nên cái còn sót lại đáng ra phải là nhiễu vô hướng. Ngược lại, nếu các điểm uốn thành hình chữ U hoặc loe rộng dần thì mới là dấu hiệu mô hình tuyến tính chưa phù hợp.
Hệ số tương quan lớn không thay thế được việc xem biểu đồ phần dư.
Một tập dữ liệu cong đều vẫn có thể cho gần , và nếu chỉ nhìn con số đó thì ta kết luận sai rằng quan hệ là tuyến tính. Do đó khi đề yêu cầu đánh giá tính phù hợp của mô hình, câu trả lời phải dựa vào hình dạng của phần dư chứ không dựa vào hay . Cũng đừng nhầm một phần dư riêng lẻ với độ lệch chuẩn của các phần dư — cái trước là sai lệch của một điểm, cái sau là sai lệch điển hình của cả tập.
Đề cho sẵn phần dư thì phải giải ngược để tìm giá trị quan sát.
Với và , ta có ; nếu phần dư là thì giá trị thực bằng . Nói cách khác, từ suy ra , cộng chứ không trừ. Học sinh vội vàng thường trừ tiếp theo quán tính rồi tình cờ ra đúng ở trường hợp phần dư dương và sai ở trường hợp phần dư âm.
Quiz câu thật từ ngân hàng đề
Vài câu thật gắn đúng khái niệm này, chấm ngay kèm giải thích từng đáp án — hệ thống ghi nhớ bạn nắm tới đâu.
Biên soạn bởi DucklingStudy, bản quyền thuộc DucklingStudy. Xuất bản .
Vì sao mang đúng cái tên này? Chữ "residual" đi thẳng từ tiếng Latin residuus, nghĩa là "còn lại", và cái tên ấy mô tả rất đúng bản chất: sau khi mô hình đã giải thích xong mối liên hệ giữa biến giải thích và biến phản hồi, phần dư chính là số dư còn thừa mà mô hình không nắm bắt được. Phần thừa ấy chứa hai thứ trộn lẫn — dao động ngẫu nhiên thật sự của dữ liệu và những quy luật có hệ thống mà mô hình đã bỏ sót — nên toàn bộ công việc phân tích phần dư là tách xem cái còn lại thuộc loại nào. Tiếng Việt dịch là "phần dư" cũng theo đúng logic đó. Cần phân biệt phần dư với sai số (error): sai số là độ lệch so với giá trị thật của tổng thể, một con số không quan sát được, còn phần dư là độ lệch so với giá trị ước lượng từ mẫu, hoàn toàn tính ra được. Chính vì phân biệt này mà trong hồi quy người ta gọi riêng hai khái niệm là regression errors và regression residuals, và từ đó phát triển tiếp thành phần dư đã chuẩn hóa (studentized residuals).
Kéo một điểm lên xuống — nhìn đoạn dọc nối nó với đường hồi quy dài ra, biến mất, rồi đổi dấu
Kéo tham số, thấy khái niệm chuyển động — mở khoá bằng tài khoản 0đ.
Viết ra dòng trước khi thay số, kể cả khi làm nhẩm được.
Ở phần tự luận, giám khảo cho điểm theo quy trình: một dòng công thức, một dòng thay số, một dòng kết quả kèm đơn vị. Nếu bạn nhảy thẳng tới đáp số mà sai dấu thì không còn gì để vớt điểm, còn nếu công thức đúng mà bấm máy lệch thì vẫn được điểm phương pháp.
Câu hỏi "overestimate hay underestimate" phải trả lời bằng câu văn, không bằng mỗi con số.
Hãy viết đủ ba ý: giá trị dự đoán là bao nhiêu, giá trị thực là bao nhiêu, và vì thực lớn hơn (hoặc nhỏ hơn) dự đoán nên mô hình ước lượng thiếu (hoặc thừa). Một câu như "Because the residual is positive, the observed value is above the prediction, so the model underestimates" là đủ trọn điểm.
Khi mô tả biểu đồ phần dư, nêu hình dạng rồi mới kết luận, đừng đảo thứ tự.
Diễn đạt an toàn là "no apparent pattern in the residual plot", sau đó mới nói mô hình tuyến tính phù hợp với dữ liệu này. Nếu thấy dạng cong hay hình phễu, hãy gọi tên nó ra và nói rằng cần một mô hình khác. Cũng nên nhớ phần dư đo theo phương thẳng đứng: đường hồi quy bình phương tối thiểu (least squares) tối thiểu hóa , không phải khoảng cách vuông góc.
Đừng tính phần dư cho một giá trị nằm ngoài khoảng dữ liệu đã cho.
Việc thay một quá xa vào phương trình là ngoại suy (extrapolation), và mọi kết luận rút ra từ đó đều bị trừ điểm dù phép tính đúng. Nếu đề cố tình đưa một lạ, hãy tính nhưng kèm một câu cảnh báo rằng dự đoán này không đáng tin.
Giá trị dự đoán là calo, còn phần dư là calo. Vì phần dư âm nên mô hình ước lượng vượt quá: món bánh mì kẹp trứng chứa g chất béo thực tế chỉ cung cấp calo, ít hơn calo so với mức calo mà đường hồi quy dự đoán, và điểm dữ liệu tương ứng nằm dưới đường hồi quy.
Năm phần dư lần lượt là ; ; ; và phút, có tổng bằng . Biểu đồ phần dư theo liều thuốc có dạng cong hình chữ U — dương ở hai đầu, âm ở giữa — nên mô hình tuyến tính không phù hợp để mô tả quan hệ giữa liều thuốc và thời gian hết đau; dữ liệu gợi ý một quan hệ cong, và nhóm nghiên cứu nên biến đổi biến rồi hồi quy lại thay vì dùng thẳng đường thẳng này để dự đoán.