当前位置：首页 > news >正文

decison tree 决策树

news 2025/11/10 21:42:40

熵

信息增益

信息增益描述的是在分叉过程中获得的熵减，信息增益即熵减。

熵减可以用来决定什么时候停止分叉，当熵减很小的时候你只是在不必要的增加树的深度，并且冒着过拟合的风险

决策树训练(构建)过程

离散值特征处理：One-Hot编码

一个具有 N 个取值的离散特征可以转换为 N 个二进制特征，每个二进制特征对应一个可能的取值。

连续值特征处理：

计算不同阈值的熵减，选取熵减最大的阈值作为分叉阈值

回归树

回归树用来预测一个连续值，训练时跟决策树的区别是训练时最小化方差，而决策树是最大化熵减

集成树

单个决策树的一个缺点是对数据的变化比较敏感，我们需要尝试降低树的敏感度提高鲁棒性，此时我们可以构建集成树，即一组决策树

有放回抽样(sample with replacement)

从训练集中随机取出一个之后放回，确保它在后续抽取中仍有可能被再次抽到。

随机森林

利用有放回抽样，我们可以连续抽样并组成新的训练集，使用新的训练集训练一棵新的树。重复该行为可以生成多棵树，称为随机森林。

如果有 n 个特征，一般要生成 $k = \sqrt{n}$ 棵树

XGBoost

对随机森林的提升：从第二次迭代开始，不是等概率随机抽样，而是让上一轮预测错误的样本有更大的概率被抽样到，以类似错误修正的方式训练树。

决策树与神经网络的选择

决策树在结构化数据下可用，非结构化数据不推荐；可解释

decison tree 决策树

熵信息增益信息增益描述的是在分叉过程中获得的熵减，信息增益即熵减。熵减可以用来决定什么时候停止分叉，当熵减很小的时候你只是在不必要的增加树的深度，并且冒着过拟合的风险决策树训练(构建)过程离散值特征处理：One-Hot…...

编程日记 2025/1/27 14:52:53

GO语言链表（单向链表

链表的前提 GO语言的链表类似于C语言的链表，它通过结构体和结构体指针实现。结构体 GO语言定义结构体如下 type user struct {name stringage intnext *user } 结构体指针结构体指针就是指向结构体的指针，我们在链表中会用到结构体指针实现链…...

编程日记 2025/1/27 14:51:44

Java：初识Java

初识Java 一.Java语言概述 1. Java是什么 Java是一种优秀的程序设计语言，它具有令人赏心悦目的语法和易于理解的语义。不仅如此，Java还是一个有一系列计算机软件和规范形成的技术体系，这个技术体系提供了完整的用于软件开发和跨平台部署的…...

编程日记 2025/1/27 14:48:21

Spring WebSocket 与 STOMP 协议结合实现私聊私信功能

目录后端pom.xmlConfig配置类Controller类DTO 前端安装相关依赖websocketService.js接口javascripthtmlCSS 效果展示简单测试连接： 报错解决方法1、vue3 使用SockJS报错 ReferenceError: global is not defined 功能补充拓展1. 安全性和身份验证2. 异常处理3. 消息…...

编程日记 2025/1/27 14:36:36

从0到1：C++ 开启游戏开发奇幻之旅（一）

目录为什么选择 C 进行游戏开发性能卓越内存管理精细跨平台兼容性强搭建 C 游戏开发环境集成开发环境（IDE） Visual Studio CLion 图形库 SDL（Simple DirectMedia Layer） SFML（Simple and Fast Multim…...

编程日记 2025/1/27 14:34:29

基于Flask的哔哩哔哩综合指数UP榜单数据分析系统的设计与实现

【Flask】基于Flask的哔哩哔哩综合指数UP榜单数据分析系统的设计与实现（完整系统源码开发笔记详细部署教程）✅ 目录一、项目简介二、项目界面展示三、项目视频展示一、项目简介该系统旨在通过大数据分析和数据挖掘技术，结合Flask轻量级We…...

编程日记 2025/1/27 14:25:56

在php中怎么打开OpenSSL

（点击即可进入聊天助手） 背景在使用php做一些项目时,有用到用户邮箱注册等,需要开启openssl的能力在php系统中openssl默认是关闭状态的,在一些低版本php系统中,有的甚至需要在服务器终端后台,手动安装要打开OpenSSL扩展，需要进行以下步骤 …...

编程日记 2025/1/27 14:23:34

oracle 分区表介绍

oracle 分区表介绍 Oracle 分区表是一个非常强大的数据库功能，可以将一个大的表分割成多个更小、更易管理的块（分区）。这种分区结构在处理大规模数据时非常有用，因为它能改善性能、简化维护和管理，并支持高效的数据存取…...

编程日记 2025/1/27 14:18:04

wxwidgets直接获取系统图标，效果类似QFileIconProvider

目前只做了windows版本，用法类似QFileIconProvider // 头文件 #ifndef WXFILEICONPROVIDER_H #define WXFILEICONPROVIDER_H#include <wx/wx.h> #include <wx/icon.h> #include <wx/image.h> #include <wx/bmpcbox.h> // Include for wxB…...

编程日记 2025/1/27 14:14:47

Arduino大师练成手册 -- 控制 PN532 NFC 模块

要在 Arduino 上控制 PN532 NFC 模块，你可以按照以下步骤进行： 硬件连接 VCC：连接到 Arduino 的 3.3V 引脚。 GND：连接到 Arduino 的 GND 引脚。 SDA：连接到 Arduino 的 SDA 引脚（通常是 A4&#xff09…...

编程日记 2025/1/27 14:13:44

解决日志中 `NOT NULL constraint failed` 异常的完整指南

在开发和运维过程中，日志是我们排查问题的重要工具。然而，当日志中出现类似 NOT NULL constraint failed 的异常时，往往意味着数据库约束与代码逻辑不匹配。本文将详细分析此类问题的原因，并提供完整的解决方案。 © ivwdcwso (ID: u012172506) 问题描述在同步 AWS …...

编程日记 2025/1/27 14:07:23

C动态库的生成与在Python和QT中的调用方法

目录一、动态库生成 1）C语言生成动态库 2）c类生成动态库二、动态库调用 1）Python调用DLL 2）QT调用DLL 三、存在的一些问题 1）python调用封装了类的DLL可能调用不成功 2）DLL格式不匹配的问题四、…...

编程日记 2025/1/27 14:04:15

UE求职Demo开发日志#7 强化属性完善

1 实现思路设计定义一个结构体记录技能树一个单元的信息，命名为FStrengthenCellInfo，一个TArray记录技能树整体信息，需要以下信息： 1.TArray前置技能index 2.FString 描述文本 3.TArray<FMyItemInfo>激活需要的物品ID和…...

编程日记 2025/1/27 14:02:03

Day35：字符串的大小写转换

在 Python 中，字符串的大小写转换是一个常见的操作，它可以帮助我们快速地将字符串中的字母从大写转换为小写，或者从小写转换为大写。Python 提供了多种方法来进行字符串大小写的转换，包括 upper()、lower()、capitalize()、title(…...

编程日记 2025/1/27 14:00:52

喜报丨迪捷软件入选2025年浙江省“重点省专”

根据《浙江省经济和信息化厅浙江省财政厅关于进一步支持专精特新中小企业高质量发展的通知》（浙经信企业〔2024〕232号）有关要求，经企业自主申报、地方推荐、材料初审以及专家评审等程序，浙江省经济和信息化厅发布了2025年浙江省…...

编程日记 2025/1/27 13:58:38

深度剖析 PyTorch框架：从基础概念到高级应用的深度学习之旅！

目录一、引言二、PyTorch 简介 （一）诞生背景与发展历程 （二）核心特点三、PyTorch 基础概念 （一）张量（Tensor）：数据的基石 （二）自动微分&…...

编程日记 2025/1/27 13:56:30

基于C++的DPU医疗领域编程初探

一、大型医院数据处理困境与 DPU 的崛起在数字化浪潮的席卷下，医疗行业正经历着深刻变革，大型医院作为医疗服务的核心枢纽，积累了海量的数据，涵盖患者的基本信息、诊断记录、检验报告、影像资料等多个维度。这些数据不仅规模庞大，而且增长速度迅猛，传统的中央处理器（C…...

编程日记 2025/1/27 13:50:13

Linux 执行 fdisk -l 出现 GPT PMBR 大小不符解决方法

目录前言1. 问题所示2. 原理分析3. 解决方法前言 🤟 找工作，来万码优才：👉 #小程序://万码优才/r6rqmzDaXpYkJZF 1. 问题所示执行fdisk -l的时候出现如下提示： [root@VMS-Centos-test1 ~]# fdisk -l GPT PMBR 大小不符（419430399 != 4294967295），将用写入予以更正…...

编程日记 2025/1/27 13:49:07

图漾相机搭配VisionPro使用简易教程

1.下载并安装VisionPro软件请自行下载VisonPro软件。 VisionPro 9.0 /9.5/9.6版本经测试，可正常打开图漾相机，建议使用图漾测试过的版本。 2.下载PercipioCameraForVisionPro软件包使用浏览器下载：https://gitee.com/percipioxyz/camport…...

编程日记 2025/1/27 13:47:51

第一届“启航杯”网络安全挑战赛WP

misc PvzHE 去这个文件夹有一张图片 QHCTF{300cef31-68d9-4b72-b49d-a7802da481a5} QHCTF For Year 2025 攻防世界有一样的 080714212829302316092230 对应Q 以此类推 QHCTF{FUN} 请找出拍摄地所在位置柳城顺丰 forensics win01 这个软件云沙盒分析一下 md5 ad4…...

编程日记 2025/1/27 13:46:33

vscode里如何用git

打开vs终端执行如下： 1 初始化 Git 仓库（如果尚未初始化） git init 2 添加文件到 Git 仓库 git add . 3 使用 git commit 命令来提交你的更改。确保在提交时加上一个有用的消息。 git commit -m "备注信息" 4 …...

编程新知 2025/8/24 20:45:38

uniapp 集成腾讯云 IM 富媒体消息（地理位置/文件）

UniApp 集成腾讯云 IM 富媒体消息全攻略（地理位置/文件） 一、功能实现原理腾讯云 IM 通过消息扩展机制支持富媒体类型，核心实现方式： 标准消息类型：直接使用 SDK 内置类型（文件、图片等）自…...

编程新知 2025/10/25 5:53:05

云安全与网络安全：核心区别与协同作用解析

在数字化转型的浪潮中，云安全与网络安全作为信息安全的两大支柱，常被混淆但本质不同。本文将从概念、责任分工、技术手段、威胁类型等维度深入解析两者的差异，并探讨它们的协同作用。一、核心区别定义与范围网络安全：聚焦于保…...

编程新知 2025/11/10 2:48:09

Appium下载安装配置保姆教程（图文详解）

目录一、Appium软件介绍 1.特点 2.工作原理 3.应用场景二、环境准备安装 Node.js 安装 Appium 安装 JDK 安装 Android SDK 安装Python及依赖包三、安装教程 1.Node.js安装 1.1.下载Node 1.2.安装程序 1.3.配置npm仓储和缓存 1.4. 配置环境 1.5.测试Node.j…...

编程新知 2025/11/9 11:18:51

接口 RESTful 中的超媒体：REST 架构的灵魂驱动

在 RESTful 架构中，** 超媒体（Hypermedia）** 是一个核心概念，它体现了 REST 的 “表述性状态转移（Representational State Transfer）” 的本质，也是区分 “真 RESTful API” 与 “伪 RESTful AP…...

编程新知 2025/10/6 10:28:44

深入浅出JavaScript中的ArrayBuffer：二进制数据的“瑞士军刀”

深入浅出JavaScript中的ArrayBuffer：二进制数据的“瑞士军刀” 在JavaScript中，我们经常需要处理文本、数组、对象等数据类型。但当我们需要处理文件上传、图像处理、网络通信等场景时，单纯依赖字符串或数组就显得力不从心了。这时&#xff…...

编程新知 2025/8/25 20:54:10

C++课设：实现本地留言板系统（支持留言、搜索、标签、加密等）

名人说：路漫漫其修远兮，吾将上下而求索。—— 屈原《离骚》创作者：Code_流苏(CSDN)（一个喜欢古诗词和编程的Coder😊） 专栏介绍：《编程项目实战》目录一、项目功能概览与亮点分析1. 核心功能…...

编程新知 2025/11/10 10:47:53

Python[数据结构及算法 --- 栈]

一.栈的概念在 Python 中，栈（Stack）是一种 “ 后进先出（LIFO）”的数据结构，仅允许在栈顶进行插入（push）和删除（pop）操作。二.栈的抽象数据类型 1.抽象数…...

编程新知 2025/11/10 14:18:19

Docker 镜像上传到 AWS ECR：从构建到推送的全流程

一、在 EC2 实例中安装 Docker（适用于 Amazon Linux 2） 步骤 1：连接到 EC2 实例 ssh -i your-key.pem ec2-useryour-ec2-public-ip步骤 2：安装 Docker sudo yum update -y sudo amazon-linux-extras enable docker sudo yum in…...

编程新知 2025/10/4 10:09:52

Qt Quick模块功能及架构

Qt 6.0 中的 Qt Quick 模块是构建现代、动态用户界面的核心框架，基于声明式编程（QML）和 JavaScript，专注于高性能、流畅的动画和跨平台 UI 开发。、一、主要功能改进 1. Qt Quick 核心架构 QML 引擎升级：Qt 6.0 使用…...

编程新知 2025/8/12 20:23:38

熵