逻辑损失函数为什么是凸函数

最新推荐文章于 2025-06-06 21:59:04 发布

原创

最新推荐文章于 2025-06-06 21:59:04 发布 · 687 阅读

·

1

·

CC 4.0 BY-SA版权

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

文章标签：

#算法 #推荐算法 #人工智能 #机器学习 #深度学习 #python

逻辑损失函数（Logistic Loss Function），也称为对数损失函数（Log Loss）或二元交叉熵损失函数（Binary Cross-Entropy Loss），是凸函数。这是因为其二阶导数总是非负的。让我们通过数学推导来理解为什么逻辑损失函数是凸函数。

首先，回顾逻辑损失函数的定义：

$L(y, \hat{y})=-[y \log (\hat{y})+(1-y) \log (1-\hat{y})]$

其中， $y$ 是实际标签（0 或 1）， $\hat{y}$ 是预测值（0 到 1 之间的概率）。

对于凸性分析，我们需要计算并分析函数的二阶导数。对预测值 $\hat{y}$ 求导

1.一阶导数：

假设 $y=1$ 的情况下，损失函数变为：

最低0.47元/天解锁文章

200万优质内容无限畅学

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。