当前位置: 首页 > news >正文

高斯分布 Python 3.11 实战:5个真实数据集拟合与3种可视化对比

高斯分布 Python 3.11 实战:5个真实数据集拟合与3种可视化对比

当我们面对一组未知分布的数据时,高斯分布(正态分布)往往是第一个被考虑的模型。这不仅因为它在统计学中的核心地位,更因为自然界中大量现象都遵循或近似这种分布。本文将带你用Python 3.11的最新特性,对五个真实数据集进行高斯分布拟合与检验,并通过三种可视化方法对比分析结果。

1. 环境准备与数据加载

在开始之前,确保你的Python环境已安装以下库:

pip install numpy scipy matplotlib pandas seaborn statsmodels

我们将使用五个经典数据集:

  • 鸢尾花花瓣长度(Iris dataset)
  • 某城市日平均温度(气象数据)
  • 学生考试成绩(模拟数据)
  • 股票日收益率(金融数据)
  • 人类身高分布(人口统计数据)

以鸢尾花数据为例,加载数据并查看基本统计量:

import seaborn as sns iris = sns.load_dataset('iris') setosa_petal = iris[iris['species'] == 'setosa']['petal_length'] print(f"均值: {setosa_petal.mean():.2f}") print(f"标准差: {setosa_petal.std():.2f}") print(f"偏度: {setosa_petal.skew():.2f}")

2. 参数估计与分布拟合

2.1 最大似然估计(MLE)

对于高斯分布,MLE给出的参数估计与样本均值、方差一致:

from scipy.stats import norm mu, sigma = norm.fit(setosa_petal) print(f"MLE估计 - 均值: {mu:.2f}, 标准差: {sigma:.2f}")

2.2 拟合优度检验

Kolmogorov-Smirnov检验可以量化拟合效果:

from scipy.stats import kstest ks_stat, p_value = kstest(setosa_petal, 'norm', args=(mu, sigma)) print(f"KS统计量: {ks_stat:.3f}, p值: {p_value:.3f}")

注意:当p值>0.05时,不能拒绝数据来自高斯分布的原假设

2.3 多数据集对比

下表展示了五个数据集的拟合结果:

数据集样本量均值(μ)标准差(σ)KS统计量p值
鸢尾花花瓣501.460.170.0720.791
城市温度36518.25.30.0420.152
考试成绩20073.512.10.0380.214
股票收益2520.0010.0230.1210.003
身高数据1000170.28.50.0180.482

从结果可见,股票收益率数据明显偏离高斯分布(p=0.003),这与金融数据的"厚尾"特性一致。

3. 可视化对比分析

3.1 直方图与PDF叠加

最直观的方法是叠加理论PDF曲线:

import matplotlib.pyplot as plt import numpy as np plt.figure(figsize=(10,6)) counts, bins, _ = plt.hist(setosa_petal, bins=15, density=True, alpha=0.6) x = np.linspace(bins[0], bins[-1], 100) plt.plot(x, norm.pdf(x, mu, sigma), 'r-', lw=2) plt.title('花瓣长度分布与高斯拟合') plt.xlabel('长度(cm)') plt.ylabel('概率密度')

3.2 Q-Q图检验

分位数-分位数图能更敏感地检测分布偏离:

from statsmodels.graphics.gofplots import qqplot plt.figure(figsize=(10,6)) qqplot(setosa_petal, line='s') plt.title('花瓣长度Q-Q图')

理想的高斯分布应使数据点落在红色参考线上。若出现以下情况需注意:

  • 两端偏离:厚尾或薄尾
  • S型曲线:偏态分布
  • 凸/凹曲线:峰度差异

3.3 箱线图与分布特性

箱线图能直观展示关键分布特征:

plt.figure(figsize=(8,6)) plt.boxplot(setosa_petal, vert=False) plt.title('花瓣长度箱线图') plt.yticks([]) plt.xlabel('长度(cm)')

重点关注:

  • 箱体位置对应四分位数
  • 须线长度反映1.5IQR范围
  • 离群点标识异常值

4. 高级应用与陷阱规避

4.1 数据变换技巧

当数据明显偏离高斯分布时,可尝试:

# 对数变换 log_data = np.log1p(skewed_data) # Box-Cox变换 from scipy.stats import boxcox transformed, _ = boxcox(positive_data)

4.2 混合分布建模

对于多峰数据,考虑高斯混合模型(GMM):

from sklearn.mixture import GaussianMixture gmm = GaussianMixture(n_components=2).fit(data.reshape(-1,1))

4.3 常见误区

  • 忽视样本量影响:小样本KS检验功效低
  • 盲目假设正态性:金融、极端事件数据常非正态
  • 过度依赖p值:结合图形判断更可靠

5. 自动化检验流程

封装一个完整的检验函数:

def gaussian_check(data, name=""): # 参数估计 mu, sigma = norm.fit(data) # 检验 ks_stat, p_val = kstest(data, 'norm', args=(mu, sigma)) skew = stats.skew(data) kurt = stats.kurtosis(data) # 绘图 fig, ax = plt.subplots(1, 3, figsize=(18,5)) # 直方图 ax[0].hist(data, bins=20, density=True, alpha=0.6) x = np.linspace(min(data), max(data), 100) ax[0].plot(x, norm.pdf(x, mu, sigma), 'r-') ax[0].set_title(f'{name}分布拟合') # Q-Q图 qqplot(data, line='s', ax=ax[1]) ax[1].set_title('Q-Q图') # 箱线图 ax[2].boxplot(data, vert=False) ax[2].set_title('箱线图') plt.tight_layout() return { 'mean': mu, 'std': sigma, 'ks_stat': ks_stat, 'p_value': p_val, 'skewness': skew, 'kurtosis': kurt }

实际项目中,发现温度数据和身高数据最容易通过正态性检验,而金融数据即使经过对数变换,仍常表现出明显的峰度和偏度。最实用的建议是:永远先用可视化方法检查数据,再决定合适的建模策略。

http://www.jsqmd.com/news/1126779/

相关文章:

  • Anthropic与OpenAI芯片争霸:定制芯片研发、算力难题与股权博弈谁能胜出?
  • 工业4-20mA电流环传输技术及XTR116应用详解
  • RimSort终极指南:告别《环世界》模组冲突,轻松管理上百个模组
  • 【小白也能轻松玩转龙虾】虾壳云一键部署新版实测,体验 OpenClaw v2.7.9 全部办公功能(附最新安装包)
  • AI教材生成新突破!低查重AI工具,一键打造20万字专业教材!
  • STM32F407与MC6470的高精度运动控制方案
  • 如何快速掌握视频下载:开源工具的完整使用指南
  • STM32与DC-DC转换器的I2C控制及电源管理优化
  • AI驱动mRNA序列最小编辑优化:提升翻译效率的工程实践
  • ICM-42688-P与STM32F107VC在机器人姿态控制与振动监测中的应用
  • LTC6904与STM32实现高精度方波脉冲方案
  • SLO2016与STM32F423RH在工业通信中的优化应用
  • ASM330LHH与STM32G031K8运动跟踪方案详解
  • ASM330LHH与STM32F429NI运动跟踪系统开发指南
  • 2026宝宝生辰八字排盘工具怎么选:看信息核对、解释层级和隐私保护
  • 基于TPS65263与STM32的智能电源管理方案设计
  • PUBG罗技鼠标宏压枪脚本:从零开始掌握精准射击的终极指南
  • 一文吃透 C 语言指针核心
  • Trition程序编写:从“Hello CUDA“到“Hello Triton“:向量加法背后的编译黑魔法
  • 得物小程序sign与data加密逆向分析:从抓包到Python算法还原实战
  • OpenCV 4.8 相机标定实战:5步完成棋盘格标定与畸变矫正(附Python代码)
  • uos-tc-exporter进阶指南:并发收集器原理与性能优化技巧
  • 高效电机驱动系统设计:TC78H660FTG与TM4C1299NCZAD方案
  • STM32与WSEN-ISDS三轴加速度计运动追踪系统开发指南
  • ASM330LHH与STM32F101ZG在运动跟踪系统中的应用与优化
  • TranslucentTB:5种透明魔法让你的Windows桌面瞬间呼吸起来
  • 收放板机如何应对特殊板件——从超薄板到厚铜板的取放策略
  • MAX9744与STM32F732IE的高效音频放大方案解析
  • ASM330LHH与STM32F334R8运动跟踪系统开发指南
  • AI时代产品经理转型指南:从执行者到人机协同策略指挥官