基于CatBoost回归模型的完整预测分析：从建模到SHAP可解释性分析

一、引言

在机器学习领域，梯度提升决策树（GBDT）算法因其强大的预测能力和鲁棒性而备受青睐。CatBoost作为俄罗斯Yandex公司开发的高性能梯度提升库，在处理类别特征和防止过拟合方面表现出色。本文将详细介绍如何使用CatBoost回归模型进行完整的预测分析流程，包括数据预处理、超参数优化、模型评估、残差分析以及SHAP可解释性分析。

二、环境准备与数据导入

2.1 所需库导入

首先，我们需要导入所有必要的Python库：

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
from scipy import stats
from catboost import CatBoostRegressor
from sklearn.preprocessing import MinMaxScaler
from sklearn.model_selection import train_test_split
from sklearn.metrics import r2_score, mean_squared_error, mean_absolute_error
import shap
import warnings
import os

2.2 数据加载与探索

# 1. 导入数据
data = pd.read_excel(r'E:\regression_dataset.xlsx', sheet_name='Sheet1')
print(f"数据形状: {data.shape}")

# 获取特征名称
feature_names = data.columns[:-1].tolist()
print(f"特征名称: {feature_names}")

# 2. 分割特征和目标
X_df = data.iloc[:, :-1]
X = X_df.values
y = data.iloc[:, -1]