李宏毅机器学习2021】机器学习模型的可解释性 (Explainable ML)

最新推荐文章于 2024-08-16 22:19:38 发布
最新推荐文章于 2024-08-16 22:19:38 发布
阅读量634 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： # 深度学习可解释性
版权声明：本文为博主原创文章，遵循 CC 4.0 BY 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40199232/article/details/118975368
本文探讨了机器学习模型的可解释性和解释能力的区别。explainable ML致力于为原本难以理解的黑箱模型提供解释，而Interpretability则关注于模型内部的透明性和可理解性，允许直接洞察其工作原理。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

explainable 和 Interpretability是有区别的：
explainable是指的是一个东西原来是个黑箱，我们想办法赋予其解释的能力，就是explainable，

Interpretability，是指的是这个东西本来就不是黑箱，本来就知道其内容，叫做Interpretability。

李宏毅2020机器学习作业5-Explainable AI：解释CNN模型
⚡
01-27 1922
本次任务需要解释我们在作业3中训练出来的CNN模型，即把作业3训练得到的checkpoint拿来用，需要完成 4 个小任务
李宏毅机器学习-explainable machine learning（机器学习的可解释性）及代码
iwill323的博客
10-30 1081
explainable machine learning（机器学习的可解释性） Local Explanation Global Explanation
李宏毅机器学习笔记——13. Explainable ML（可解释的机器学习）
weixin_44790306的博客
07-13 1752
摘要： 文章目录1. Explainable machine learning的分类2. Why we need Explainable ML?个人观点可解释性和能力的对比3. Local Explanation4. Global Explanation5. 总结与展望 1. Explainable machine learning的分类 机器不仅要告诉我们结果是什么，而且告诉我们判断理由是什么？ Explainable machine learning分为两种： 1.local explanatio
李宏毅机器学习笔记第16周_机器学习的可解释性（Explainable ML）
peaunt1的博客
07-25 673
Explainable ML
[李宏毅-机器学习]解释性机器学习 Explainable ML
炼丹师
02-23 590
local explaination 移除图片中的一部分，如果识别结果发现很大变化，则该部分对于识别这个物体很重要 计算最后类别的概率那个节点对每个pixel的梯度，梯度大的话就说明该pixel重要 global explaination 用一个可以被解释的model去解释另一个不可被解释的model ...
【机器学习】李宏毅——Explainable ML(可解释性的机器学习)
FavoriteStar的博客
09-21 1470
本文介绍了Explainable ML(可解释性的机器学习)的相关内容，抱愧这项技术的相关概述、当前发展等等。
[datawhale202210]李宏毅机器学习2021：机器学习模型的可解释性
qq_40990057的博客
10-16 1157
可解释性是不可缺少的，因为我们需要在借助机器学习模型做出决策时了解机器学习模型做出决策的原因。 模型原生的可解释性和模型本身的拟合能力之间存在着一定的矛盾，线性模型可解释性好，但拟合能力差，而神经网络则恰恰相反。兼具强可解释性和强拟合能力的决策树模型，在实际应用当中也会陷入可解释性变差的困境。我们所探讨的可解释性，是试图给黑箱的模型一个原因，来帮助决策。 模型的可解释性分为Local和Global的，一个探讨做出具体决策的原因，另一个探讨做出某一类决策的道理。
2021李宏毅机器学习笔记--11 explainable ML
guoxinxin0605的博客
06-19 506
2021李宏毅机器学习笔记--11 explainable ML摘要一、局部可解释性1.1 基本思想1.2 移除组成要素1.3 改变组成要素1.4 局限性1.5 实例（pokemon vs digimon）二、全局可解释性2.1 反向寻找理想输入2.2 输入正则化三、用模型解释模型3.1 使用线性模型3.2 使用决策树总结 摘要 可解释性分为两种，一种是局部可解释性，一般指的是机器说明如何判断这个样例(例如分类问题中，机器如何将一张猫的图片分成猫)；另一种是全局可解释性，一般指的是机器如何对总体进行特征判断
李宏毅 机器学习与深度学习【2022版】 01 深度学习总览
最新发布
weixin_42830015的博客
08-16 1066
李宏毅 机器学习与深度学习【2022版】 01
李宏毅机器学习笔记(十八)——可解释性机器学习
Unique13的博客
08-31 2790
文章目录一.可解释的概念和意义二.局部可解释性1.移除组成要素2.改变组成要素3.局限性三.全局可解释性1.反向寻找理想输入2.输入正则化   前言：老师的课程中强调了课上举的例子都与图像相关，其实其他领域也是同理的。 一.可解释的概念和意义   所谓的可解释性其实也分为两种，一种是局部可解释性，一般指的是机器说明如何判断这个样例(例如分类问题中，机器如何将一张猫的图片分成猫)；另一种是全局可解释性，一般指的是机器如何对总体进行特征判断(例如分类问题中，机器认为猫长什么样子)   为什么我们需要这种可解释性
机器学习-25-Explainable ML(可解释机器学习)
迷雾总会解
12-19 732
所谓的可解释性其实也分为两种，一种是局部可解释性，一般指的是机器说明如何判断这个样例(例如分类问题中，机器如何将一张猫的图片分成猫)；另一种是全局可解释性，一般指的是机器如何对总体进行特征判断(例如分类问题中，机器认为猫长什么样子) 为什么我们需要这种可解释性呢？神经网络一般都是黑盒算法这确实，但并不是黑盒本身让我们难受，因为我们人的大脑也是个黑盒；而是如果我们没有一定的解释的话，我们可能会不爽。就例如一个神经网络来计算成绩，如果你分低还不知道为什么，那绝对会不爽，而如果机器能够解释每道题扣了多少分这种等
ALPS_2021:XAI面向2021年ALPS冬季学校的可解释AI轨迹的教程
05-22
ALPS_2021-实验2：NLP中的XAI-2021年1月22日 ALPS冬季学校2021年的可解释AI跟踪库。 该实验室包括两个部分-一个关于可解释性，一个关于探索性可解释性。 您应该尝试在两个实验室之间分配时间。 实验2.1 实验的第一部分重点介绍自然语言处理模型的可解释性。 在这一部分中，我们将为事后解释性技术及其评估方法奠定基础。 实验2.1程式码 <-复制此Colab笔记本，并在其中添加代码以进行练习。 对于本实验笔记本，我们建议您分小组工作，以便您可以拆分工作并讨论结果。 LAB 2.1的目标： 学习如何实现两种基本且常用的基于梯度的可解释性技术 学习如何实现基于近似的解释性技术 练习如何应用可解释性技术来发现机器学习模型的缺陷并使用它们来构造对抗性实例 了解如何评估具有常见诊断属性的可解释性技术 使用诊断属性进行练习，以查找模型的哪些架构参数使之难以解释 如果您
李宏毅 机器学习模型的可解释性 explainable ML
Stephanie的博客
07-09 437
【李宏毅机器学习2021】机器学习模型的可解释性 (Explainable ML)_哔哩哔哩_bilibili 我们因为神经网络不可解释而不用他吗？不，我们可以用强大的模型，并且尝试去解释他那么比linear model更强大的可解释性的decision tree可以吗？但其实decision tree也有的时候效果不好，且当decision tree太多的时候，我们也无法知道到底为什么要选择这个 可解释性机器学习模型的目标打印机心理学实验人多出一个理由的时候，接受度就会更高，人就是需要一个理由，即使这个
2021李宏毅机器学习课程笔记——Explainable AI
xiongxyowo的博客
01-01 1055
I. Interpretable v.s. Powerful 从某种程度来讲，可解释性与模型性能是不可兼得的。比方说，线性模型是可解释的(直接看特征的权重)，但是性能有限；深度模型不可解释，但是性能很强。 从目前的现状看，大部分人还是会选择性能更强的模型，而去牺牲一些可解释性。实际上的话，大脑的工作原理我们也不清楚，但我们在许多情况下依然是可以去信任人类的决策。 II. Local Explanation 通过标记出图像中模型认为"重要的"部分，从而侧面反映出模型的决策依据： 例如，如果模型认为图像中的耳
李宏毅老师机器学习课笔记-对模型的攻击以及模型的可解释性
weixin_43113135的博客
06-09 164
机器学习可解释性的理解 Explainable Machine Learning
Alphonse_Huang的博客
05-16 773
算法的可解释性 本文参考南洋理工大学李宏毅教授对数据可解释性的看法。 Model Explaination 1. 为什么要解释算法 在某些场景，我们在使用一些机器学习模型处理数据以得到结果时，往往也会寻求一个解释，也就是数据的结果是从何而来的。 举个例子，医生在使用医疗诊断的模型获得诊断结果时。医生或是病人不可能仅仅依靠得到的结果就决定病情。重要的是，通过结果得到的过程，也就是结果的解释最终确定结果是可以被认可的。 除此之外，还有一个原因：也就是利用算法的解释以提升其在实际场景的表现。 2. Power
【笔记】机器学习 - 李宏毅 -- Explainable ML 可解释性机器学习
YanqiangWang的专栏
03-03 334
课程笔记 前言 两种可解释性： 局部解释：为什么这种图是猫？ 全局解释：猫是什么样子的？ 为什么需要可解释机器学习？(打开黑盒) 一般的提升效果的方法就是一顿暴调参数，可解释性可以帮助我们更好地提升模型性能。 其实人也是个黑盒(这个观点太6了)。 可解释机器学习的目标，不需要真正知道模型如何工作，只需要给出可信服的解释，让人满意就行。 对此还可以针对不同人的接受能力给出不同层次的解...
【机器学习】李宏毅——Flow-based Generative Models
FavoriteStar的博客
09-21 1531
本文主要介绍了Flow-based Generative Models的概念，以及其内部各个模块的主要思想，可结合我之前写过的生成模型的博客共同阅读。
2021版李宏毅机器学习，已更新完毕
06-14 1143
简介李宏毅老师，是宝岛台湾大学电机工程系教授，他分别于2010年和2012年获得硕士和博士学位，主要研究机器学习尤其是深度学习、语言理解和语音识别。李宏毅老师的机器学习课程可以说是最具代表...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

SimonChenHere

打赏奖励，以资鼓励

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值