学习指南

残差

AP 统计学· 12 分钟阅读

1. 正确计算残差★★☆☆☆⏱ 3 min

所有最小二乘回归线的构造都满足所有残差之和恰好为0，且残差平方和最小。残差计算的唯一允许公式遵循观测值减预测值的顺序，没有例外。

📘 定义

残差

ee

原始观测数据点与回归线之间的垂直距离，衡量模型预测值与实际观测值的偏差大小。

ei=yi−y^ie_i = y_i - \hat{y}_i
📐 例题

某条根据学习时长预测学生考试分数的回归线为(\hat{y} = 62 + 7.2x)。一名学习了3小时的学生得分85，计算其残差。

  1. 1

    步骤1：计算x=3小时学习时长对应的预测考试分数

  2. 2
    y^=62+7.2(3)=62+21.6=83.6\hat{y} = 62 + 7.2(3) = 62 + 21.6 = 83.6
  3. 3

    步骤2：用观测分数减去预测值得到残差

  4. 4
    e=85−83.6=1.4e = 85 - 83.6 = 1.4
  5. 5

    最终残差=+1.4，代表该学生的得分比模型预测值高1.4分。

✓ 快速检测

测试你对残差计算的理解

  1. 如果回归模型预测一辆车的油耗为32英里/加仑，实际观测油耗为29英里/加仑，残差是多少？

    • +3

    • -3

    • 32

    • 29

    显示答案
    -3 —

    残差 = 观测值 - 预测值 = 29 - 32 = -3

Exam tip:

如果将计算顺序颠倒为预测值减观测值，AP阅卷者会扣除该题全部分值，务必始终先写观测值。

2. 残差的语境化解释★★★☆☆⏱ 3 min

对残差的通用数学解释无法在AP考试中获得满分。你必须明确指出解释变量、响应变量、单位以及预测误差的方向。

📐 例题

解释面积为1200平方英尺的住宅对应的残差-2.3，该回归模型预测房价单位为千美元。

  1. 1

    步骤1：确认残差符号为负，因此观测值低于预测值

  2. 2

    步骤2：正确转换单位：-2.3千美元 = -$2300

  3. 3

    步骤3：完整语境解释：该残差为-2.3意味着这套1200平方英尺住宅的实际售价比房屋面积与售价的线性回归模型预测的价格低2300美元。

Exam tip:

在残差解释中务必带上单位，避免丢失部分分数。

3. 残差图模式分析★★★★☆⏱ 4 min

残差图是检查线性模型是否适用的主要诊断工具，x轴对应解释变量的值，y轴绘制每个数据点的残差值。

残差图模式

解释

推荐操作

围绕0随机散布，无明显趋势

线性模型完全适用

继续进行线性推断

清晰的U形或倒U形曲线

线性性假设不满足

对x或y变量进行变换（例如对数变换）以修正非线性

向外扇形展开（残差大小随x增大而增大）

等方差（同方差性）假设不满足

应用加权最小二乘法或对y变量进行变换

📐 例题

根据植物生长天数预测株高的回归残差图呈现清晰的向上开口抛物线模式，这说明原线性模型存在什么问题？

  1. 1

    步骤1：识别残差点中存在的非随机曲线趋势

  2. 2

    步骤2：将该模式与回归假设关联：线性性假设不满足

  3. 3

    步骤3：结论：直线模型不适用于该数据集，二次或指数增长模型的拟合效果会好得多。

4. 用残差检测异常值★★★★☆⏱ 2 min

标准化残差大于+2或小于-2的点被归类为潜在异常值。这些极端点会将整条回归线向自身拉动，大幅偏斜斜率和截距值。

✓ 快速检测

识别异常值阈值

  1. 以下哪个标准化残差值代表潜在异常值？

    • 0.7

    • 1.2

    • -2.4

    • -0.9

    显示答案
    -2.4 —

    任何绝对值大于2的标准化残差都会被标记为潜在异常值。

5. 常见陷阱

错误做法:

将残差计算为预测值减观测值

原因:

颠倒顺序会翻转残差的符号，导致解释完全错误

正确做法:

始终使用公式 残差 = 观测y - 预测\hat{y}

错误做法:

不参考数据集语境就解释残差

原因:

AP阅卷者会不给不提及变量和单位的通用解释任何分数

正确做法:

明确说明语境、单位，以及观测值和预测值之间的比较

错误做法:

看到图中微小的非零平均残差就判定模型无效

原因:

所有最小二乘回归线的平均残差都恰好为0，微小偏差只是绘图噪声

正确做法:

忽略微小的垂直偏移，重点关注残差点的可见模式

错误做法:

认为随机散布的残差图代表模型精度很高

原因:

随机散布仅证实线性性和等方差性，不代表模型解释了很高比例的变异

正确做法:

将残差图分析与R平方值结合以评估整体模型拟合度

错误做法:

计算平方误差和之前去掉残差的负号

原因:

这会导致SSE值错误，模型误差估计有偏

正确做法:

平方前保留每个残差的完整符号以得到正确的求和结果

6. 速查表

公式 / 规则

定义

AP考试注意事项

e = y - \hat{y}

残差值

观测值在前，预测值在后，避免符号错误

残差随机散布

线性模型适用

不允许存在曲线或扇形模式

|标准化残差| > 2

潜在异常值

移除点之前先检查其影响力

7. 常见问题

残差可以是负数吗？

可以，负残差意味着观测y值低于回归线预测的值，代表模型对该特定数据点预测过高。

无明显模式的残差图可以证实什么？

以0为中心随机散布、无明显曲线、扇形或聚类的残差图可以证实线性模型适用于该数据集，线性性和等方差假设均满足。

真题中的出现

AI 根据考纲规律估算的考点位置,请对照官方真题核实准确性。仅作复习重点参考。

  • 2023 · Paper 1

    残差解释自由作答题

  • 2022 · Paper 2

    残差图模式分析

  • 2021 · Paper 1

    通过残差值检测异常值

下一步

掌握残差分析是学习更高级回归诊断前的关键关卡，因为残差模式是识别会产生无效推断结果的缺陷模型的第一步。该技能几乎在每一场AP统计学自由作答考试中都会被考察，经常与R平方、斜率解释或回归斜率推断的题目结合。你将在运行斜率t检验之前使用残差验证条件，识别可能偏斜模型结果的点。接下来练习处理标准化残差，然后探索非线性数据集的残差变换，之后学习完整的回归推断工作流。