R语言 lm() 函数实战：3步手动计算 Multiple R、R-Squared 与 Adjusted R-Squared
R语言实战：手动计算线性回归三大核心指标
1. 理解线性回归的核心指标
在数据分析领域，线性回归是最基础也最常用的统计方法之一。当我们使用R语言的lm()函数拟合线性回归模型后，通常会调用summary()函数查看模型摘要。其中，Multiple R、R-Squared和Adjusted R-Squared是评估模型拟合优度的三个核心指标。
Multiple R（多重相关系数）衡量的是预测变量与响应变量之间的线性关系强度。对于简单线性回归（只有一个预测变量），它就是预测变量和响应变量的Pearson相关系数；对于多元线性回归，它表示响应变量的观测值与模型预测值之间的相关系数。
R-Squared（决定系数）是Multiple R的平方值，表示模型能够解释的响应变量方差比例。它的取值范围在0到1之间：
- 0表示模型完全不能解释响应变量的变异
- 1表示模型完美解释响应变量的所有变异
R-Squared的计算公式为：
R² = 1 - (SSE/SST)其中：
- SSE（Sum of Squared Errors）是残差平方和
- SST（Total Sum of Squares）是总平方和
Adjusted R-Squared（调整决定系数）是对R-Squared的修正，考虑了模型中预测变量的数量。随着预测变量的增加，R-Squared总会增大（即使新增变量与响应变量无关），这可能导致过拟合。Adjusted R-Squared通过惩罚多余变量来解决这个问题，其计算公式为：
Adj_R² = 1 - [(1-R²)*(n-1)/(n-k-1)]其中：
- n是观测值数量
- k是预测变量数量
提示：在实际应用中，当比较不同模型的解释力时，Adjusted R-Squared比R-Squared更为可靠，特别是当模型包含不同数量的预测变量时。
2. 准备示例数据
为了演示如何手动计算这些指标，我们使用一个教育领域的示例数据集，包含12位学生的学习时间、课程成绩和考试成绩：
examResult <- data.frame( hours = c(1,1,2,2,1,2,2,3,3,4,4,5), c_score = c(65,78,76,76,79,80,81,84,88,85,96,90), e_score = c(58,61,62,65,65,68,72,74,78,85,90,95) )我们以考试成绩(e_score)作为响应变量，学习时间(hours)和课程成绩(c_score)作为预测变量，拟合多元线性回归模型：
fit <- lm(e_score ~ hours + c_score, data = examResult) summary(fit)3. 手动计算Multiple R
summary()函数的输出中并不直接显示Multiple R的值（对于多元回归），但我们可以手动计算响应变量观测值与模型预测值之间的相关系数来得到它。
首先，获取模型的预测值：
# 提取模型系数 coef(fit) # (Intercept) hours c_score # 17.175357 6.383963 0.486071 # 计算预测值 examResult$predicted <- 17.1754 + 6.3840 * examResult$hours + 0.4861 * examResult$c_score然后计算观测值与预测值的相关系数：
multiple_r <- cor(examResult$e_score, examResult$predicted) multiple_r # [1] 0.97766764. 手动计算R-Squared
R-Squared可以直接通过Multiple R的平方得到：
r_squared <- multiple_r^2 r_squared # [1] 0.955834或者通过方差分解公式计算：
# 计算总平方和(SST) mean_y <- mean(examResult$e_score) SST <- sum((examResult$e_score - mean_y)^2) # 计算残差平方和(SSE) SSE <- sum((examResult$e_score - examResult$predicted)^2) # 计算R-Squared r_squared <- 1 - (SSE/SST) r_squared # [1] 0.9558345. 手动计算Adjusted R-Squared
根据调整R方的公式，我们需要知道样本量(n)和预测变量数量(k)：
n <- nrow(examResult) # 样本量=12 k <- 2 # 两个预测变量：hours和c_score adjusted_r_squared <- 1 - ((1 - r_squared)*(n-1)/(n-k-1)) adjusted_r_squared # [1] 0.94601936. 验证手动计算结果
为了验证我们的手动计算是否正确，可以将其与summary()函数的输出进行比较：
summary(fit) # ... # Multiple R-squared: 0.9558, Adjusted R-squared: 0.946 # ...对比结果显示：
- 手动计算的R-Squared: 0.955834 ≈ 0.9558
- 手动计算的Adjusted R-Squared: 0.9460193 ≈ 0.946
两者基本一致，验证了我们的计算方法是正确的。
7. 指标解释与应用
理解这些指标的实际意义对于模型评估至关重要：
Multiple R (0.978): 表明预测变量与响应变量之间存在很强的线性关系。
R-Squared (0.956): 模型可以解释考试成绩95.6%的变异，拟合效果非常好。
Adjusted R-Squared (0.946): 考虑变量数量后的解释力为94.6%，与R-Squared接近，表明新增的预测变量对模型有实质贡献。
注意：当预测变量增加时，如果新增变量对模型没有实质贡献，Adjusted R-Squared可能会下降，这可以作为变量选择的依据。
下表总结了三个指标的特点和用途：
| 指标 | 计算公式 | 特点 | 主要用途 |
|---|---|---|---|
| Multiple R | 观测值与预测值的相关系数 | 反映线性关系强度，[-1,1] | 评估预测变量与响应变量的关联强度 |
| R-Squared | 1-SSE/SST 或 (Multiple R)^2 | [0,1]，值越大拟合越好 | 评估模型解释变异的能力 |
| Adjusted R-Squared | 1-[(1-R²)(n-1)/(n-k-1)] | 惩罚多余变量，≤ R² | 比较不同复杂度模型的解释力 |
8. 深入理解指标背后的数学原理
为了更深入地理解这些指标，我们需要了解一些关键的统计量：
总平方和(SST): 衡量响应变量的总变异
SST = Σ(y_i - ȳ)^2回归平方和(SSR): 衡量模型解释的变异
SSR = Σ(ŷ_i - ȳ)^2残差平方和(SSE): 衡量模型未能解释的变异
SSE = Σ(y_i - ŷ_i)^2
它们之间的关系是：
SST = SSR + SSER-Squared实际上就是SSR与SST的比值：
R² = SSR/SST = 1 - SSE/SST在R中，我们可以直接从模型对象中获取这些统计量：
# 获取ANOVA表 anova_result <- anova(fit) anova_result # Analysis of Variance Table # # Response: e_score # Df Sum Sq Mean Sq F value Pr(>F) # hours 1 698.34 698.34 121.680 7.996e-07 *** # c_score 1 41.29 41.29 7.195 0.02404 * # Residuals 9 51.66 5.74 # --- SSR <- sum(anova_result$`Sum Sq`[1:2]) # 回归平方和 SSE <- anova_result$`Sum Sq`[3] # 残差平方和 SST <- SSR + SSE # 总平方和 # 验证R-Squared计算 r_squared_verify <- SSR / SST r_squared_verify # 应与之前结果一致9. 模型诊断与指标局限性
虽然R-Squared和Adjusted R-Squared是评估模型拟合优度的重要指标，但它们也有局限性：
不能反映模型是否正确设定：即使R-Squared很高，如果模型忽略了重要变量或包含不必要变量，仍可能导致错误推断。
对异常值敏感：极端值可能人为地抬高或降低R-Squared值。
不适用于非线性关系：这些指标专为线性模型设计，不适用于评估非线性模型的拟合优度。
因此，在实际应用中，我们还应结合其他诊断方法：
# 绘制诊断图 par(mfrow = c(2, 2)) plot(fit) par(mfrow = c(1, 1))关键诊断检查包括：
- 残差是否随机分布（无模式）
- 残差是否符合正态分布
- 是否存在有影响的观测点
- 方差是否恒定
10. 实际应用建议
基于这些指标，在实际数据分析中可以遵循以下实践建议：
变量选择：当比较不同模型时，优先选择Adjusted R-Squared较高的模型。
模型简化：如果加入新变量后Adjusted R-Squared没有显著提高，考虑简化模型。
结果报告：在学术论文或报告中，应同时报告R-Squared和Adjusted R-Squared值。
结合其他指标：不要仅依赖这些指标，还应考虑AIC、BIC、残差标准误等其他评估标准。
# 计算AIC和BIC AIC(fit) BIC(fit) # 残差标准误 sigma(fit)- 领域知识结合：统计指标只是工具，最终模型选择还应考虑实际问题的背景知识和理论支持。
通过手动计算这些指标，我们不仅能够更深入地理解线性回归模型的评估原理，还能在模型出现问题时更快地定位原因。这种理解对于数据科学家和统计分析师来说至关重要，它使我们能够超越"黑箱"操作，真正掌握模型评估的本质。