pytorch中的BCELoss与BCEWithLogitsLoss实现

最新推荐文章于 2024-04-19 15:34:46 发布

不解不惑

最新推荐文章于 2024-04-19 15:34:46 发布

阅读量1k

点赞数

CC 4.0 BY-SA版权

分类专栏：深度学习文章标签： pytorch 深度学习 python

本文链接：https://blog.csdn.net/qq_24815615/article/details/125196321

深度学习专栏收录该内容

27 篇文章

订阅专栏

本文探讨了PyTorch中BCELoss和BCEWithLogitsLoss两种常用的损失函数，重点讲解了它们如何使用不同的对数函数底数，并通过代码实例展示了两者的计算过程。理解这一细节对于深度学习任务的优化至关重要。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

pytorch中的BCELoss与BCEWithLogitsLoss计算交叉采用的对数函数的底为自然对数e，下面代码是直接调用函数和代码实现。

import torch
import torch.nn as nn

input = torch.FloatTensor([[ -0.4089,  -1.2471,  0.5907],
        [ -0.4897, -0.8267,  -0.7349],
        [ 0.5241,  -0.1246, -0.4751]])
print(input)
target = torch.FloatTensor([[0, 1, 1],
                            [0, 0, 1],
                            [1, 0, 1]])

m = nn.Sigmoid()
sigmoid_res = m(input)
loss = nn.BCELoss()
# 公式为-1/n * （累加（y*lnx + （1-y）* ln（1-x）））
res = loss(sigmoid_res, target)
print(res)

#BCEWithLogitsLoss就是把Sigmoid-BCELoss合成一步。
loss1 = nn.BCEWithLogitsLoss()
res1 = loss1(input, target)
print(res1) #tensor(0.7193)

res2 = torch.Tensor([0.0])
for i in range(3):
    for j in range(3):
        print(i,j,res2)
        res2 += target[i,j] * torch.log(sigmoid_res[i,j]) + (1-target[i,j]) * torch.log(1-sigmoid_res[i,j])
res2 = -1 * res2 / 9
print('res2', res2)

运行结果：