使用python实现二进制交叉熵计算的binary_crossentropy()函数

在Python中，可以使用NumPy库来实现二进制交叉熵（Binary Cross Entropy）。二进制交叉熵是一种常用的损失函数， 用于衡量两个概率分布之间的差异。下面是一个实现二进制交叉熵的函数binary_crossentropy()的例子，并提供了一个使用示例。

import numpy as np

def binary_crossentropy(y_true, y_pred):
    epsilon = 1e-7
    y_pred = np.clip(y_pred, epsilon, 1 - epsilon)
    return -np.mean(y_true * np.log(y_pred) + (1 - y_true) * np.log(1 - y_pred))

# 使用示例
y_true = np.array([1, 0, 1])
y_pred = np.array([0.9, 0.2, 0.8])

loss = binary_crossentropy(y_true, y_pred)
print("Binary Cross Entropy Loss:", loss)

在以上代码中，函数binary_crossentropy()接受两个参数：y_true是真实的二进制标签，y_pred是预测的二进制概率。其中，y_true和y_pred都是NumPy数组。

函数首先定义了一个非常小的常数epsilon，用于避免取对数时出现无穷大（Infinity）或无定义（NaN）。然后，通过使用np.clip()函数，将y_pred的值限制在区间[epsilon, 1 - epsilon]内，以确保计算的稳定性。

接下来，函数计算二进制交叉熵损失，使用np.mean()函数计算平均值。计算公式为：-np.mean(y_true * np.log(y_pred) + (1 - y_true) * np.log(1 - y_pred))。其中，y_true * np.log(y_pred)部分计算了真实值为1时的损失，(1 - y_true) * np.log(1 - y_pred)部分计算了真实值为0时的损失。最后，两部分损失相加并取负数，然后求平均值即得到二进制交叉熵损失。

在使用示例中，我们定义了真实的二进制标签y_true和预测的二进制概率y_pred。函数计算了二进制交叉熵损失，并输出结果。