【人工智能基础05】决策树模型习题

1. 归一化对决策树的影响

题目：对于一些机器学习模型（例如，神经网络），对特征进行归一化(normalization)是一个有效的预处理操作。一个常见的归一化方式是对每一个特征数据，减去该特征的均值，然后除以该特征的方差。请回答，对于基于决策树的一系列算法，归一化是否会影响训练结果？

解答：
对于基于决策树的一系列算法，归一化通常不会影响训练结果。

决策树算法在构建树的过程中主要依据特征的信息增益、基尼系数等标准来进行分裂，并不依赖于特征的绝对数值大小。它更关注的是特征之间的相对关系以及特征对分类或回归目标的区分能力。
而归一化主要是改变特征的数值范围和分布，对于决策树算法来说，特征的相对大小关系和顺序通常不会因归一化而改变。

所以，对基于决策树的算法进行特征归一化一般不会对训练结果产生实质性的影响。

 

2. 选择决策树模型

 

3. 决策树计算

 
 

4. 基尼系数的优势

 

 

5. 在叶子上使用线性模型的优缺点

 

参考：《人工智能基础-姚期智》