当前位置： 首页 > news >正文

机器学习：可解释学习

news 2025/7/6 22:15:50

文章目录

  • 可解释学习
    • 为什么需要可解释机器学习
    • 可解释还是强模型
    • 可解释学习的目标
    • 可解释机器学习
      • Local Explanation
      • Global Explanation

可解释学习

在这里插入图片描述
在这里插入图片描述
神马汉斯，只有在有人看的时候能够答对。

为什么需要可解释机器学习

在这里插入图片描述

贷款，医疗需要给出理由，让人们相信该算法的预测结果。
在这里插入图片描述

可解释还是强模型

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
决策树是有比较好的解释性的。
在这里插入图片描述
在这里插入图片描述
随机森林作出的判断也无法明确指出是什么原因得到的答案。

可解释学习的目标

在这里插入图片描述
人需要一个理由，才会被说服去做什么事。
在这里插入图片描述

可解释机器学习

在这里插入图片描述
两大类，局部可解释，全局可解释

Local Explanation

在这里插入图片描述
移除某一部分导致发生大的判断改变，这一部分就是关键部分。
在这里插入图片描述
用黑色方块移动遮盖区域，再看算法是否能正确得到预测结果，如果不能，说明是重要部分，蓝色区域就是重要部分。
在这里插入图片描述
saliency map，白色区域说明值越大，表明像素值重要。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
结果是图片格式导致的这种准确率，而不是真的学到了相关特征判断。
在这里插入图片描述
这个是学错了，觉得左下角的文字是更重要，只要有文字就判断为马。
在这里插入图片描述
SmoothGrad：加噪音并平均下来的结果，比原来的结果好。

梯度色度的局限性
在这里插入图片描述

鼻子变长，越来越长也不会让人们觉得变得更像大象，只看偏微分的结果不足以告诉我们。

在这里插入图片描述
在这里插入图片描述
直接拿网络的输出可以明确的区分开来。
在这里插入图片描述
也可以看注意力部分的特征输出。
在这里插入图片描述
可以使用探针方式去查看想要看学习到的特征，要注意分类器的学习好坏，只有学习比较好的分类器能比较多表现出特征。

在这里插入图片描述
只保留了内容，而没有保留声音身份信息。
在这里插入图片描述
过滤掉女声男声，过滤掉杂音。

Global Explanation

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
filter检测的内容不一样，某个笔画
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
用小模型且可观察的模型去逼近复杂模型

相关文章：

机器学习：可解释学习

文章目录 可解释学习为什么需要可解释机器学习可解释还是强模型可解释学习的目标可解释机器学习Local ExplanationGlobal Explanation 可解释学习 神马汉斯，只有在有人看的时候能够答对。 为什么需要可解释机器学习 贷款，医疗需要给出理由，让…...

编程日记 2023/9/7 20:50:27

UE5- c++ websocket里实现调用player里的方法

# UGameInstance里直接调用 获取到引用了，就可以自然的调用。忽略 # UGameInstance里间接调用，通过代理调用 前置已经添加了websocket,具体步骤参考，链接在UWebSocketGameInstance.h里新增代理，并在链接成功后进行绑定。 #pragma…...

编程日记 2023/9/7 20:49:23

线性代数的学习和整理18：什么是维度，什么是秩？秩的各种定理秩的计算 (计算部分未完成)

目录 0 问题引出：什么是秩？ 概念备注： 1 先厘清：什么是维数？ 1.1 真实世界的维度数 1.2 向量空间的维数 1.2.1 向量空间，就是一组最大线性无关的向量组/基张成的空间 1.3 向量α的维数 1.3.1 向量的…...

编程日记 2023/9/7 20:48:22

Centos 6.5 升级到Centos7指导手册

一、背景 某业务系统因建设较早，使用的OS比较过时，还是centos6.5的系统，因国产化需要，需将该系统升级到BClinux 8.6，但官方显示不支持centos 6.x升级到8，需先将centos6.5升级到centos7的最新版&#xff0c…...

编程日记 2023/9/7 20:47:20

详解python中的映射类型---字典

概述 映射类型是“键-值”数据项的组合，每个元素是一个键值对，即元素是（key，value），元素之间是无序的。键值对（key，value）是一种二元关系，源于属性和值的映射…...

编程日记 2023/9/7 20:46:19

gdal求矢量图形的形心

gdal求矢量图形的形心 #include "gdal_priv.h" #include "ogrsf_frmts.h"int main() {OGRRegisterAll();OGRPolygon* square_1 new OGRPolygon();OGRLinearRing* ring_1 new OGRLinearRing();// 添加 square_1 的点ring_1->addPoint(0, 0);ring_1-&g…...

编程日记 2023/9/7 20:45:17

＜深度学习基础＞ Batch Normalization

Batch Normalization批归一化 BN优点 减少了人为选择参数。在某些情况下可以取消dropout和L2正则项参数，或者采取更小的L2正则项约束参数；减少了对学习率的要求。现在我们可以使用初始很大的学习率或者选择了较小的学习率，算法也能够快速训…...

编程日记 2023/9/7 20:44:14

Ubuntu yolov5 环境配置

查看Ubuntu版本 $ cat /proc/version Linux version 5.4.0-150-generic (builddbos03-amd64-012) (gcc version 7.5.0 (Ubuntu 7.5.0-3ubuntu1~18.04)) #167~18.04.1-Ubuntu SMP Wed May 24 00:51:42 UTC 2023虚拟机磁盘扩容 因为在环境搭建过程中遇到了磁盘空间不足的问题&a…...

编程日记 2023/9/7 20:43:11

【自执行闭包JS逆向】某网站登录MD5加密分析

文章目录 一、写在前面二、抓包分析三、加密函数分析 一、写在前面 最近工作比较忙，不过还是在督促自己利用有限的时间学习更新一些技术文章。互联网这个行业大家目前也都知道是非常内卷的，所有大家在工作之余养成良好的自主学习习惯是非常好的&#xff…...

编程日记 2023/9/7 20:42:10

Stable Diffuse 之 安装文件夹、以及操作界面 UI 、Prompt相关说明

Stable Diffuse 之 安装文件夹、以及操作界面 UI 、Prompt相关说明 目录 Stable Diffuse 之 安装文件夹、以及操作界面 UI 、Prompt相关说明 一、简单介绍 二、安装文件相关说明 三、界面的简单说明 四、prompt 的一些语法简单说明 1、Prompt ：正向提示词 &am…...

编程日记 2023/9/7 20:41:09

【Linux】- 一文秒懂shell编程

shell编程 1.1 Shell 是什么1.2 Shell 脚本的执行方式1.3 编写第一个 Shell 脚本2.1 Shell 的变量2.2 shell 变量的定义2.3 设置环境变量3.1 位置参数变量3.2 预定义变量4.1 运算符4.2 条件判断5.1 流程控制5.2 case 语句5.3 for 循环5.4 while 循环5.5 read基本语法6.1函数6.2…...

编程日记 2023/9/7 20:40:08

CentOS下多网卡绑定多IP段时导致只有一个会通的问题解决

CentOS下多网卡绑定多IP段时导致只有一个会通的问题解决 虚拟机配置多个网络地址，结果同时只能有一个ip是通的， 原因：Linux默认开启了反向路由检查导致的，比如说外面访问eth0的网卡，而网关在eth1上，又或者从…...

编程日记 2023/9/7 20:39:07

关于实现 Vue 动态数据显示，比如数字 0 或 1 怎么显示为 男 或 女等等的动态显示实现方法

具体 Vue 代码演示&#xff1a; test.vue 文件演示&#xff1a; <template> <!-- 方法一 --> <div>{{ test.data 0 ? 男 : 女}}</div><!-- 方法二 --> <div>{{ test.data 0 ? 男 : }}{{ test.data 1 ? 女 : }}{{ test.d…...

编程日记 2023/9/7 20:38:05

mac制作ssl证书|生成自签名证书，nodejs+express在mac上搭建https+wss(websocket)服务器

注意 mac 自带 openssl 所以没必要像 windows 一样先安装 openssl&#xff0c;直接生成即可 生成 ssl/自签名 证书 生成 key # 生成rsa私钥&#xff0c;des3算法&#xff0c;server_ssl.key是秘钥文件名 1024位强度 openssl genrsa -des3 -out server_ssl.key 1024让输入两…...

编程日记 2023/9/7 20:37:04

Unix System V BSD POSIX 究竟是什么？

学习Linux系统，很多同学对这些单词概念很模糊、一脸懵逼！ 黄老师觉得，了解了历史，才会真正明白这些单词的含义，坐稳、黄老师发车了！！！ 首先介绍一下什么是Unix？ UNIX（非复用信息和计算机服务，英语：Uniplexed Information and Computing Service，UnICS）取“UNI…...

编程日记 2023/9/7 20:36:03

数据集学习笔记(六)：目标检测和图像分割标注软件介绍和使用，并转换成YOLO系列可使用的数据集格式

文章目录 一、目标检测1.1 labelImg1.2 介绍1.3 安装1.4 使用1.5 转换1.6 验证 二、图像分割2.1 labelme2.2 介绍2.3 安装2.4 使用2.5 转换2.6 验证 一、目标检测 1.1 labelImg 1.2 介绍 labelImg是一个开源的图像标注工具&#xff0c;用于创建图像标注数据集。它提供了一个…...

编程日记 2023/9/7 20:35:02

【高阶数据结构】红黑树 {概念及性质；红黑树的结构；红黑树的实现；红黑树插入操作详细解释；红黑树的验证}

红黑树 一、红黑树的概念 红黑树&#xff08;Red Black Tree&#xff09; 是一种自平衡二叉查找树&#xff0c;在每个结点上增加一个存储位表示结点的颜色&#xff0c;可以是Red或Black。 通过对任何一条从根到叶子的路径上各个结点着色方式的限制&#xff0c;红黑树确保没有…...

编程日记 2023/9/7 20:34:00

获取对象占用内存

添加依赖 <dependency><groupId>org.apache.lucene</groupId><artifactId>lucene-core</artifactId><version>4.0.0</version> </dependency>添加vm启动参数 --add-opens java.base/java.langALL-UNNAMED --add-opens java.ba…...

编程日记 2023/9/7 20:32:58

mysql UUID 作为主键的问题

UUID 在MySQL中&#xff0c;可以使用UUID()函数来生成一个新的UUID值。该函数的返回值是一个字符串类型&#xff0c;表示一个32位的十六进制数字&#xff0c;其中包含4个连字符“-”&#xff0c;例如&#xff1a;“6ccd780c-baba-1026-9564-0040f4311e29”。 varchar(32) 32*4…...

编程日记 2023/9/7 20:31:57

2023高教社杯全国大学生数学建模竞赛选题建议

如下为C君的2023高教社杯全国大学生数学建模竞赛&#xff08;国赛&#xff09;选题建议&#xff0c; 提示&#xff1a;DS C君认为的难度&#xff1a;C<B<A&#xff0c;开放度&#xff1a;B<A<C 。 D、E题推荐选E题&#xff0c;后续会直接更新E论文和思路&#xf…...

编程日记 2023/9/7 20:30:56

手游刚开服就被攻击怎么办？如何防御DDoS？

开服初期是手游最脆弱的阶段&#xff0c;极易成为DDoS攻击的目标。一旦遭遇攻击&#xff0c;可能导致服务器瘫痪、玩家流失&#xff0c;甚至造成巨大经济损失。本文为开发者提供一套简洁有效的应急与防御方案&#xff0c;帮助快速应对并构建长期防护体系。 一、遭遇攻击的紧急应…...

编程新知 2025/7/6 0:29:09

shell脚本--常见案例

1、自动备份文件或目录 2、批量重命名文件 3、查找并删除指定名称的文件&#xff1a; 4、批量删除文件 5、查找并替换文件内容 6、批量创建文件 7、创建文件夹并移动文件 8、在文件夹中查找文件...

编程新知 2025/7/6 0:29:21

java 实现excel文件转pdf | 无水印 | 无限制

文章目录 目录 文章目录 前言 1.项目远程仓库配置 2.pom文件引入相关依赖 3.代码破解 二、Excel转PDF 1.代码实现 2.Aspose.License.xml 授权文件 总结 前言 java处理excel转pdf一直没找到什么好用的免费jar包工具，自己手写的难度，恐怕高级程序员花费一年的事件，也…...

编程新知 2025/6/15 11:32:55

深入浅出：JavaScript 中的 `window.crypto.getRandomValues()` 方法

深入浅出&#xff1a;JavaScript 中的 window.crypto.getRandomValues() 方法 在现代 Web 开发中&#xff0c;随机数的生成看似简单&#xff0c;却隐藏着许多玄机。无论是生成密码、加密密钥&#xff0c;还是创建安全令牌&#xff0c;随机数的质量直接关系到系统的安全性。Jav…...

编程新知 2025/6/15 19:02:54

Module Federation 和 Native Federation 的比较

前言 Module Federation 是 Webpack 5 引入的微前端架构方案&#xff0c;允许不同独立构建的应用在运行时动态共享模块。 Native Federation 是 Angular 官方基于 Module Federation 理念实现的专为 Angular 优化的微前端方案。 概念解析 Module Federation (模块联邦) Modul…...

编程新知 2025/7/5 3:39:28

DBAPI如何优雅的获取单条数据

API如何优雅的获取单条数据 案例一 对于查询类API&#xff0c;查询的是单条数据&#xff0c;比如根据主键ID查询用户信息&#xff0c;sql如下&#xff1a; select id, name, age from user where id #{id}API默认返回的数据格式是多条的&#xff0c;如下&#xff1a; {&qu…...

编程新知 2025/7/4 11:34:06

拉力测试cuda pytorch 把 4070显卡拉满

import torch import timedef stress_test_gpu(matrix_size16384, duration300):"""对GPU进行压力测试&#xff0c;通过持续的矩阵乘法来最大化GPU利用率参数:matrix_size: 矩阵维度大小&#xff0c;增大可提高计算复杂度duration: 测试持续时间&#xff08;秒&…...

编程新知 2025/6/21 10:39:11

C++ 求圆面积的程序（Program to find area of a circle）

给定半径r&#xff0c;求圆的面积。圆的面积应精确到小数点后5位。 例子&#xff1a; 输入&#xff1a;r 5 输出&#xff1a;78.53982 解释&#xff1a;由于面积 PI * r * r 3.14159265358979323846 * 5 * 5 78.53982&#xff0c;因为我们只保留小数点后 5 位数字。 输…...

编程新知 2025/7/6 14:14:15

GC1808高性能24位立体声音频ADC芯片解析

1. 芯片概述 GC1808是一款24位立体声音频模数转换器&#xff08;ADC&#xff09;&#xff0c;支持8kHz~96kHz采样率&#xff0c;集成Δ-Σ调制器、数字抗混叠滤波器和高通滤波器&#xff0c;适用于高保真音频采集场景。 2. 核心特性 高精度&#xff1a;24位分辨率&#xff0c…...

编程新知 2025/7/5 3:27:00

关键领域软件测试的突围之路：如何破解安全与效率的平衡难题

在数字化浪潮席卷全球的今天&#xff0c;软件系统已成为国家关键领域的核心战斗力。不同于普通商业软件&#xff0c;这些承载着国家安全使命的软件系统面临着前所未有的质量挑战——如何在确保绝对安全的前提下&#xff0c;实现高效测试与快速迭代&#xff1f;这一命题正考验着…...

编程新知 2025/7/6 10:43:18