常用

BCE Loss

二值交叉熵（Binary Cross Entropy, 简称 BCE）损失函数是二值图像分割中的常用损失函数之一。它用于衡量模型预测的二值输出与实际标签之间的差异。下面是对 BCE 损失函数的详细解释。

Lbce=−1N∑i=1N(yi⋅log⁡(y^i)+(1−yi)⋅log⁡(1−y^i))\mathcal{L}_{bce} = - \frac{1}{N} \sum_{i=1}^{N} (y_i \cdot \log(\hat{y}_i) + (1 - y_i) \cdot \log(1 - \hat{y}_i))

基于交叉熵的概念，交叉熵是一种衡量两个概率分布之间差异的指标。在二值图像分割中，真实标签 yiy_i 和预测概率 y^i\hat{y}_i 可以被看作两个二元分布。其中

  • yiy_i 是第 ii 个像素的真实标签（0 或 1）。
  • y^i\hat{y}_i 是模型预测的第 ii 个像素属于前景的概率（0 到 1 之间的值）。
  • 当真实标签 yi=1y_i = 1 时，损失函数的第一部分 yi⋅log⁡(y^i)y_i \cdot \log(\hat{y}_i) 起作用，如果 y^i\hat{y}_i 越接近 1，损失值越小。
  • 当真实标签 yi=0y_i = 0 时，损失函数的第二部分 (1−yi)⋅log⁡(1−y^i)(1 - y_i) \cdot \log(1 - \hat{y}_i) 起作用，如果 y^i\hat{y}_i 越接近 0，损失值越小。

因此，当模型预测的概率接近真实值时，BCE 损失会较小；反之，如果预测值与真实值偏离较大，损失值就会增大。

原文链接☞

L2 Norm

v=vmax(∥v∥p,ϵ)v = \frac{v}{max(\Vert v \Vert_p, \epsilon)}

归一化输出，使最终结果更加稳定。

t-SNE

可视化效果最好的降维算法。可用于绘图。