2.4 逻辑回归算法详解：从数学原理到Python实现，分类问题首选

2.4 逻辑回归算法详解：从数学原理到Python实现，分类问题首选

引言

逻辑回归是分类问题中最基础也最常用的算法之一。虽然名字叫"回归"，但它实际上是分类算法。本文将深入解析逻辑回归的数学原理，并用Python实现完整的逻辑回归模型。

一、逻辑回归原理

1.1 数学原理

逻辑回归使用Sigmoid函数将线性回归的输出映射到0-1之间：

P ( y = 1 ∣ x ) = 1 1 + e − ( w T x + b ) P(y=1|x) = \frac{1}{1 + e^{-(w^Tx + b)}}P(y=1∣x)=1+e−(wTx+b)1​

其中：

• w ww是权重向量
• b bb是偏置
• x xx是特征向量