二分类交叉熵损失

2025/4/11 15:39:16 来源：https://blog.csdn.net/yes666666/article/details/146985348 浏览: 次关键词：二分类交叉熵损失

二分类交叉熵损失（Binary Cross-Entropy Loss）是用于二分类问题的常见损失函数。它衡量的是模型输出的预测概率分布与真实标签之间的差异。

在二分类问题中，每个样本的目标输出是 0 或 1，表示样本属于某一类或另一类。例如，假设我们有一个分类任务，模型的输出是某个样本属于类别 1 的概率： $\hat{y}$ ，而类别 0 的概率就是 $1 - \hat{y}$ 。

对于一个单独的样本，二分类交叉熵损失可以表示为：

$L(y, \hat{y}) = -[y \cdot \log(\hat{y}) + (1 - y) \cdot \log(1 - \hat{y})]$

其中：

y是真实标签，取值为 0 或 1。

$\hat{y}$ 是模型预测的类别 1 的概率，通常通过 Sigmoid 函数计算得到，输出的值在 [0, 1] 之间。

如果真实标签 y=1，则损失函数变为 $L(y, \hat{y}) = -\log(\hat{y})$ ，即当预测的概率 $\hat{y}$ 越接近 1 时，损失越小，越接近 0 时，损失越大。
如果真实标签 y=0，则损失函数变为 $L(y, \hat{y}) = -\log(1 - \hat{y})$ ，即当预测的概率 $\hat{y}$ 越接近 0 时，损失越小，越接近 1 时，损失越大。