欢迎访问宙启技术站
智能推送

了解逻辑斯蒂回归中sigmoid函数的计算过程

发布时间:2023-12-19 03:48:40

逻辑斯蒂回归(Logistic Regression)是一种广泛应用于分类问题的机器学习算法。在逻辑斯蒂回归中,sigmoid函数是一个重要的函数,其将输入值映射到0和1之间的概率值。

sigmoid函数的数学表示为: 

f(z) = 1 / (1 + e^(-z))

其中,z是逻辑斯蒂回归模型的线性函数。具体而言,对于一个二分类问题,逻辑斯蒂回归模型的线性函数可以表示为:

z = w^T * x + b

其中,w是一个维度为d的向量,x是输入样本的特征向量,b是偏置量。

使用例子来说明sigmoid函数的计算过程:

假设我们有一个二分类问题,要根据学生的学习时间(小时)来预测他们是否通过考试(通过考试用1表示,未通过用0表示)。我们已经收集到了一些训练样本,并且通过逻辑斯蒂回归算法训练得到了模型参数w和b。

现在我们要对一个新的学生进行预测,他的学习时间为7小时。我们将他的学习时间代入逻辑斯蒂回归模型的线性函数中:

z = w^T * x + b

假设得到的模型参数为w = [0.5, 0.8],b = -2.5,则可以计算得到:

z = [0.5, 0.8] * [7, 1] + (-2.5) = 4.9

接下来,我们将计算sigmoid函数的值:

f(z) = 1 / (1 + e^(-z))

代入z = 4.9,可以计算得到:

f(4.9) = 1 / (1 + e^(-4.9)) = 1 / (1 + 0.0074) = 0.992

我们得到了一个非常接近1的概率值,说明这名学生通过考试的概率非常高。

通过这个例子,我们可以看出sigmoid函数的计算过程:将输入值代入sigmoid函数的数学表达式中,得到一个0到1之间的概率值,用于进行分类问题的预测。

在实际应用中,我们使用逻辑斯蒂回归模型进行分类预测时,通常将sigmoid函数输出值大于0.5的样本划分为正例,将输出值小于等于0.5的样本划分为负例。也就是说,sigmoid函数的输出可以作为通过考试的概率值,我们可以根据这个概率值来预测学生是否通过考试。