人工智能之数学基础：伯努利大数定律

本文重点

伯努利大数定律由瑞士数学家雅各布·伯努利于1713年提出，是概率论中描述随机事件频率稳定性的核心定理。它揭示了当独立重复试验次数趋于无穷时，事件发生的频率会依概率收敛于其真实概率的数学规律，被誉为“偶然与必然的统一”。这一理论不仅为概率论奠定了基础，更深刻影响了现代科学、经济与社会的运行逻辑。

伯努利大数定律

设nA是n重伯努利试验中事件A发生的频数，p是每次试验中A发生的概率。

对于任意正数ε，于是伯努利大数定律可以表示为：

伯努利大数定律表明：当重复试验次数n充分大时，事件A发生的频率nA/n与事件A发生的概率p有一定偏差的概率很小。

上述推论是最早的大数定理的形式，称为伯努利定理。该定理表明事件A发生的频率以nA/n依概率收敛于事件A的概率p，以严格的数学形式表达了频率的稳定性。这个和之前我们介绍的频率基本等于概率是一致的。

用频率来估计概率提供了一个理论依据

这个事实为我们在实际应用中用频率来估计概率提供了一个理论依据。比如

• 正态分布的参数估计
• 朴素贝叶斯做垃圾邮件分类