当前位置： 首页 > news >正文

决策树 算法原理

news 2026/5/16 10:11:27

决策树 算法原理

决策树的原理

在这里插入图片描述

  • 决策树: 从训练数据中学习得出一个树状结构的模型

  • 决策树属于判别模型

  • 决策树是一种树状结构，通过做出一系列决策 (选择)
    来对数据进行划分，这类似于针对一系列问题进行选择。

  • 决策树的决策过程就是从根节点开始，测试待分类项中对应的特征属性，并按照其值选择输出分支，直到叶子节点，将叶子节点的存放的类别作为决策结果。

  • 决策树算法是一种归纳分类算法它通过对训练集的学习，挖掘出有用的规则，用于对新数据进行预测。

  • 决策树算法属于监督学习方法

  • 决策树归纳的基本算法是贪心算法自顶向下来构建决策树。

  • 贪心算法:在每一步选择中都采取在当前状态下最好/优的选择

  • 在决策树的生成过程中，分割方法即属性选择的度量是关键。

决策树的特点

优点

  • 推理过程容易理解，计算简单，可解释性强
  • 比较适合处理有缺失属性的样本。
  • 可自动忽略目标变量没有贡献的属性变量，也为判断属性变量的重要性减少变量的数目提供参考。
    缺点
  • 容易造成过拟合，需要采用剪枝操作.
  • 忽略了数据之间的相关性。
  • 对于各类别样本数量不一致的数据，信息增益会偏向于那些更多数值的特征

决策树的三种基本类型

  • 建立决策树的关键，即在当前状态下选择哪个属性作为分类依据。根据不同的目标函数，建立决策树主要有一下三种算法: ID3(lterativeDichotomiser)、C4.5CART(Classification And Regression Tree).
    在这里插入图片描述

下次博客简述ID3算法、C4.5算法、CART算法

相关文章：

决策树 算法原理

决策树 算法原理 决策树的原理 决策树: 从训练数据中学习得出一个树状结构的模型 决策树属于判别模型 决策树是一种树状结构，通过做出一系列决策 (选择) 来对数据进行划分，这类似于针对一系列问题进行选择。 决策树的决策过程就是从根节点开始&#…...

编程日记 2023/12/9 6:20:46

Git全局设置命令---设置提交人邮箱

介绍 使用git命令设置提交人邮箱。 命令 git config --global user.email "xxxxxxxx.com"...

编程日记 2023/12/9 6:19:46

3DCAT+上汽奥迪：打造新零售汽车配置器实时云渲染解决方案

在 5G、云计算等技术飞速发展的加持下，云渲染技术迎来了突飞猛进的发展。在这样的背景下，3DCAT应运而生，成为了业内知名的实时云渲染服务商之一。 交互式3D实时云看车作为云渲染技术的一种使用场景，也逐步成为一种新的看车方式&a…...

编程日记 2023/12/9 6:18:45

物联网+AI智慧工地云平台源码（SaaS模式）

智慧工地云平台充分运用数字化技术，聚焦施工现场岗位一线，依托物联网、互联网、AI等技术，围绕施工现场管理的人、机、料、法、环五大维度，以及施工过程管理的进度、质量、安全三大体系为基础应用，实现全面高效的工程管…...

编程日记 2023/12/9 6:17:44

python打开相机，用鼠标左键框选矩形区域，支持一次框选多个矩形区域，通过鼠标右标清除上一次画的矩形。

方案一 import cv2# Global variables rectangles [] current_rectangle [] drawing False# Mouse callback function def mouse_callback(event, x, y, flags, param):global rectangles, current_rectangle, drawingif event cv2.EVENT_LBUTTONDOWN:drawing Truecurren…...

编程日记 2023/12/9 6:16:43

卷积之后通道数为什么变了

通道数增多与卷积之后得到的图像特征数量有关 卷积层的作用本来就是把输入中的特征分离出来变成新的 feature map，每一个输出通道就是一个卷积操作提取出来的一种特征。在此过程中ReLU激活起到过滤的作用，把负相关的特征点去掉，把正相关的留…...

编程日记 2023/12/9 6:15:42

ubuntu18.04安装opencv-4.5.5+opencv_contrib-4.5.5

一、安装opencv依赖 sudo apt-get install build-essential sudo apt-get install cmake git libgtk2.0-dev pkg-config libavcodec-dev libavformat-dev libswscale-dev sudo apt-get install python-dev python-numpy libtbb2 libtbb-dev libjpeg-dev libpng-dev libtiff-d…...

编程日记 2023/12/9 6:13:41

实验3.5 路由器的单臂路由配置

实验3.5 路由器的单臂路由配置 一、任务描述二、任务分析三、具体要求四、实验拓扑五、任务实施1.SWA的基本配置2.RA的基本配置3.在RA上查看接口状态 六、任务验收七、任务小结 一、任务描述 某公司对部门划分了需VLAN之后，发现两个部门之间无法通信，但…...

编程日记 2023/12/9 6:12:40

nodejs微信小程序＋python＋PHP的基于大数据的家电销售分析系统设计与实现-计算机毕业设计推荐django

目 录 摘 要 I ABSTRACT II 目 录 II 第1章 绪论 1 1.1背景及意义 1 1.2 国内外研究概况 1 1.3 研究的内容 1 第2章 相关技术 3 2.1 nodejs简介 4 2.2 express框架介绍 6 2.4 MySQL数据库 4 第3章 系统分析 5 3.1 需求分析 5 3.2 系统可行性分析 5 3.2.1技术可行性：…...

编程日记 2023/12/9 6:10:36

Windows server flask

1、Windows server 通过python的flask执行命令 from flask import Flask, request, abort import subprocess from flask_basicauth import BasicAuth app Flask(__name__) # 获取url是进行账号密码认证，设置url的账号密码 app.config[BASIC_AUTH_USERNAME] 账号…...

编程日记 2023/12/9 6:09:36

maven工程的pom.xml文件中增加了依赖，但偶尔没有下载到本地仓库

maven工程pom.xml文件中的个别依赖没有下载到本地maven仓库。以前没有遇到这种情况，今天就遇到了这个问题，把解决过程记录下来。 我在eclipse中编辑maven工程的pom.xml文件，增加对mybatis的依赖，但保存文件后，依赖的j…...

编程日记 2023/12/9 6:08:33

Navicat 技术指引 | 适用于 GaussDB 分布式的用户/权限功能

Navicat Premium（16.3.3 Windows 版或以上）正式支持 GaussDB 分布式数据库。GaussDB 分布式模式更适合对系统可用性和数据处理能力要求较高的场景。Navicat 工具不仅提供可视化数据查看和编辑功能，还提供强大的高阶功能（如模型、结…...

编程日记 2023/12/9 6:06:31

基于支持向量机SVM的新鲜度等级预测，基于自适应粒子群优化长短期神经网络的新鲜度等级预测

目录 背影 支持向量机SVM的详细原理 SVM的定义 SVM理论 粒子群算法原理 SVM应用实例，基于支持向量机SVM的新鲜度等级预测，基于自适应粒子群优化长短期神经网络的新鲜度等级预测 代码 结果分析 展望 完整代码：基于支持向量机SVM的新鲜度等级预测，基于自适应粒子群优化长短期…...

编程日记 2023/12/9 6:05:30

麒麟系统系统添加路由

系统添加路由 一、路由的解释： 路由工作在OSI参考模型第三层——网络层的数据包转发设备（TCP/IP）路由器根据收到数据包中的网络层地址以及路由器内部维护的路由表决定输出端口以及下一跳地址，并且重写链路层数据包头实现转发数据…...

编程日记 2023/12/9 6:04:30

考研真题数据结构

【2021年山西大学真题】将二叉树中所有非终端结点的左右子树交换位置，可以得到原二叉树的 镜像二叉树，如图。假设二叉树的存储形式为（lchild，data，rchild），给出求镜像二叉树的算法: &#xff0…...

编程日记 2023/12/9 6:03:29

python爬取 HTTP_2 网站超时问题的解决方案

问题背景 在进行网络数据爬取时，使用 Python 程序访问支持 HTTP/2 协议的网站时，有时会遇到超时问题。这可能会导致数据获取不完整，影响爬虫程序的正常运行。 问题描述 在实际操作中，当使用 Python 编写的爬虫程序访问支持 HTT…...

编程日记 2023/12/9 6:01:26

学会用bash在linux写脚本 (二)

接着上一章继续 数值的对比 判断语句 循环语句 22.5 比较、对比、判断 在写脚本时，有时需要做一些比较，例如，两个数字谁大谁小，两个字符串是否相同等。 做对比的表达式有[]、[[]]、test，其中[]和 test这两种表达式的…...

编程日记 2023/12/9 6:00:25

QML中Dialog获取close与open状态

1.新建MyDialog.qml import QtQuick 2.15import QtQuick.Dialogs 1.2Dialog {id: rootvisible: falsetitle: qsTr("弹出对话框")width: 250height: 200} 2.main.qml中调用MyDialog import QtQuick 2.15 import QtQuick.Window 2.15 import QtQuick.Controls 2.15…...

编程日记 2023/12/9 5:59:24

用C语言实现队列的顺序结构

用C语言实现队列的初始化、队列的判空操作、入队操作、出队运算、取队头元素运算、顺序打印队列。 #include<stdio.h> #define QueueSize 100 typedef char ElemType; typedef struct//队列结构体 {ElemType data[QueueSize];//保存队中元素int front, rear;//队头和队尾…...

编程日记 2023/12/9 5:58:23

Vue 子路由页面发消息给主路由页面 ，实现主页面显示子页面的信息

需求 子页面进入后&#xff0c;能在主页面显示子页的相关信息&#xff0c;比如说主页面的菜单激活的是哪个子页面的菜单项 如上图&#xff0c;当刷新浏览器页面时&#xff0c;让菜单的激活项仍保持在【最近浏览】。 实现方式&#xff1a; 在子页面的create事件中增加&#xff…...

编程日记 2023/12/9 5:57:22

用Wireshark抓包实战，手把手教你读懂LwIP里的TCP/IP数据帧（附真实数据解析）

Wireshark与LwIP实战&#xff1a;从抓包数据到协议栈实现的深度解析 当你第一次在Wireshark中看到那些密密麻麻的十六进制数据时&#xff0c;是否感到无从下手&#xff1f;作为嵌入式开发者&#xff0c;理解网络数据包的底层结构不仅是调试网络问题的关键&#xff0c;更是优化L…...

编程新知 2026/5/16 10:11:08

FreeRTOS和RT-Thread的内存管理怎么选？从pvPortMalloc到rt_malloc的配置详解

FreeRTOS与RT-Thread内存管理实战&#xff1a;从算法原理到工程配置 在嵌入式开发中&#xff0c;内存管理往往是决定系统稳定性的关键因素。当项目从裸机迁移到RTOS环境时&#xff0c;开发者会面临一个现实选择&#xff1a;继续使用标准C库的malloc/free&#xff0c;还是转向RT…...

编程新知 2026/5/16 9:51:53

VN5640硬件驱动从11.1升级后必看：Network-base访问模式的完整配置流程与避坑指南

VN5640硬件驱动升级至11.1后的Network-base访问模式全流程配置与实战避坑指南 当车载以太网测试工程师将VN5xxx系列硬件驱动升级到11.1版本后&#xff0c;一个关键但容易被忽视的变化是Network-base访问模式的引入。这种新模式彻底改变了传统channel-base的配置逻辑&#xff0…...

编程新知 2026/5/16 9:51:52

Kaggle竞赛技能加速器：从特征工程到模型集成的系统化实战指南

1. 项目概述&#xff1a;一个为Kaggle竞赛量身定制的技能加速器如果你在数据科学竞赛的圈子里待过一阵子&#xff0c;大概率听说过Kaggle。这个平台就像一个全球数据科学家的“奥林匹克竞技场”&#xff0c;从预测房价到识别癌细胞&#xff0c;各种现实世界的问题被包装成竞赛&…...

编程新知 2026/5/16 8:25:27

Go语言模板方法模式：算法骨架

Go语言模板方法模式&#xff1a;算法骨架 1. 模板方法实现 type AbstractClass struct{}func (a *AbstractClass) TemplateMethod() {a.Step1()a.Step2()a.Step3() }func (a *AbstractClass) Step1() {} func (a *AbstractClass) Step2() {} func (a *AbstractClass) Step3() {…...

编程新知 2026/5/16 8:21:11

md-wechat：让Markdown完美兼容微信公众号排版的工具实战

1. 项目概述&#xff1a;一个让Markdown在微信生态里“活”起来的工具如果你和我一样&#xff0c;是个重度Markdown爱好者&#xff0c;同时又需要在微信生态里频繁地分享技术文档、产品说明或者个人笔记&#xff0c;那你一定体会过那种割裂感。在Typora或VS Code里写得行云流水…...

编程新知 2026/5/16 7:57:47

2026亚洲消费电子展！媒体曝光资源加码

北京讯——2026年6月10日至12日&#xff0c;2026亚洲消费电子展将在北京盛大启幕。作为亚太消费电子领域极具影响力的行业盛会&#xff0c;本届展会全面升级品牌传播矩阵&#xff0c;百家主流媒体集结现场全程报道&#xff0c;全媒体曝光资源重磅加码。目前展会赞助合作席位余量…...

编程新知 2026/5/16 7:47:05

从‘冠军策略’到实盘失效：深度复盘菲阿里四价在A股期货市场的7年表现

菲阿里四价策略的七年之痒&#xff1a;量化交易者必须警惕的经典策略陷阱 1. 当冠军策略遭遇市场进化 2015年&#xff0c;当某位日本期货冠军公开其赖以成名的菲阿里四价策略时&#xff0c;整个亚洲量化圈为之震动。这个看似简单的日内突破策略&#xff0c;凭借其清晰的逻辑和可…...

编程新知 2026/5/16 7:31:50

Docker 部署 SpringBoot 项目超详细教程

Docker 部署 SpringBoot 项目超详细教程一篇适合新手的 Docker 部署 SpringBoot 实战教程&#xff0c;包含&#xff1a; Docker 安装镜像加速SpringBoot 打包Dockerfile 编写构建镜像容器部署日志查看防火墙开放常见问题解决 图文并茂&#xff0c;保姆级教学。本文假设你已拥有…...

编程新知 2026/5/16 7:14:52

ARM ETMv4跟踪寄存器架构与调试实践

1. ARM ETMv4 跟踪寄存器架构概述ARM嵌入式跟踪宏单元(ETM)是处理器调试架构中的关键组件&#xff0c;ETMv4作为其第四代架构&#xff0c;提供了更强大的指令和数据跟踪能力。与传统的断点调试不同&#xff0c;ETM采用实时跟踪技术&#xff0c;能够在不中断处理器运行的情况下&…...

编程新知 2026/5/16 5:57:05