【人工智能训练师3级】考试准备（2026）六、实操题-简答部分2.2.1-2.2.5模型训练分析

2.2.12.2.1 Logistic模型 答题卷标准答案直接复制填写一、模型性能precisionrecallf1-scoresupport0没有严重逾期0.950.990.97267791有严重逾期0.580.120.201737二、错误分析0没有严重逾期识别能力极强但存在轻微过度拟合精准率0.95和召回率0.99接近1说明模型能几乎100%识别“无严重逾期”的低风险用户f1-score0.97也验证了该类别预测效果极佳样本占比主导导致偏向性该类别样本量26779远高于“有严重逾期”类别1737模型天然倾向于预测多数类进一步放大了对该类别的识别能力。1有严重逾期精准率低0.58模型预测为“有严重逾期”的结果中仅58%是真实逾期用户存在大量“误判低风险为高风险”的情况会导致优质客户被错误拒贷召回率极低0.12真实逾期用户中仅12%被模型识别出来90%以上的高风险用户被漏判会导致平台面临极大的信贷违约风险f1-score仅0.20综合精准率和召回率模型对“有严重逾期”的高风险用户识别能力极差核心原因是数据严重不平衡正负样本比例≈15:1Logistic回归作为线性模型无法突破样本分布的限制线性假设不适配信贷逾期风险受债务比率、逾期次数等特征的非线性影响Logistic回归的线性决策边界无法捕捉复杂风险规律进一步降低高风险类别的识别能力。三、改进建议1. 解决数据不平衡问题核心过采样对“有严重逾期”的少数类样本做SMOTE过采样平衡正负样本比例欠采样对“无严重逾期”的多数类样本做随机欠采样减少样本量差距权重调整在Logistic模型中设置class_weightbalanced赋予少数类更高的损失权重强制模型关注高风险用户。2. 模型优化更换非线性模型使用XGBoost/LightGBM等树模型替代Logistic回归这类模型能捕捉特征间的非线性交互如“高债务比率多次逾期”的联合风险提升高风险类别的识别率正则化优化对Logistic回归添加L2正则C0.1抑制噪声特征干扰提升模型泛化能力。3. 特征工程增强特征衍生构建“逾期次数总和30-59天逾期60-89天逾期90天以上逾期”“债务收入比DebtRatio/MonthlyIncome”等强风险特征特征筛选通过特征重要性/卡方检验保留“逾期次数”“债务比率”“月收入”等核心风险特征剔除冗余特征如索引号特征标准化对年龄、月收入等数值特征做标准化提升Logistic回归系数的稳定性。4. 评估指标优化不再单一依赖准确率改用AUC、PR曲线、F1-score针对少数类评估模型更贴合信贷风控的业务目标优先识别高风险用户。精简版适合短空格填写错误分析0类精准率/召回率近1识别效果极佳但受样本占比影响存在偏向性1类精准率0.58、召回率0.12漏判90%高风险用户核心因数据不平衡线性模型无法捕捉非线性风险。改进建议SMOTE过采样平衡数据设置class_weightbalanced改用XGBoost模型捕捉非线性风险构建债务收入比等强风险特征用AUC/PR曲线评估模型。2.2.2 线性回归模型标准答案直接复制填空一、模型性能训练集得分:0.826001578671067测试集得分:0.7901500386760345二、错误分析模型拟合能力有限线性回归测试集得分仅为0.79低于随机森林的 0.89说明线性模型对汽车燃油效率MPG的预测能力不足无法完全捕捉特征与目标变量之间的复杂关系。模型存在欠拟合训练集得分0.83与测试集得分0.79接近但整体不高表明线性回归假设特征与燃油效率呈线性关系但实际汽车油耗受排量、重量、功率等因素的非线性影响模型无法学习到深层规律导致预测精度偏低。对异常值与特征尺度敏感线性回归容易受数据中异常值如大排量车型干扰且未做特征标准化时不同量级特征如重量、功率会影响模型系数稳定性进一步降低泛化能力。三、改进建议更换非线性模型已完成优化使用随机森林回归模型替代线性回归能有效捕捉非线性关系测试集得分从 0.79 提升至 0.89显著提高预测精度。特征工程优化对排量、重量、马力等关键特征做交互项构建与多项式转换让线性模型也能表达非线性关系筛选与油耗强相关的核心特征剔除冗余信息。模型正则化优化使用 Ridge / Lasso 正则化线性模型抑制噪声特征影响提升模型稳定性与泛化能力。数据预处理增强对异常值进行过滤对数值特征做标准化处理保证模型训练更平稳、预测更准确。精简版适合短空格填写线性回归测试集得分0.79拟合效果一般因模型只能学习线性关系存在欠拟合对非线性规律捕捉不足。建议改用随机森林、优化特征、加入正则化提升性能。2.2.31. 模型性能评估本次基于性别、运动重要性、健康自评3个特征预测年龄的任务中随机森林与线性回归模型的表现均严重不达标模型训练集R²测试集R²均方误差(MSE)核心结论随机森林0.1239-0.0922109.77拟合极差完全无泛化能力线性回归0.0257-0.0722109.65拟合极差完全无泛化能力R²为负的本质回归模型的R²正常范围为0~1负数代表模型预测误差远大于“直接用样本均值预测”的基准说明模型完全无法解释年龄与输入特征的关联。MSE过高的影响MSE≈109对应预测年龄与真实年龄的平均误差超10岁完全不具备实际业务价值。2. 错误原因深度分析1核心根源特征与目标变量的关联性极弱本次仅使用3个主观分类特征性别、运动重要性、健康自评这些特征与年龄无强因果关联性别对年龄无直接预测性运动重要性、健康自评是主观认知不同年龄段的分布高度重叠无法提供有效区分信号特征数量过少、信息维度不足无法支撑任何回归模型学习年龄规律。2模型选择与数据不匹配随机森林、XGBoost等复杂树模型在弱特征、小样本场景下极易过拟合噪声进一步放大预测误差线性回归本身对非线性、弱关联特征的拟合能力有限在本任务中同样无法提取有效规律。3数据预处理的潜在问题年龄段文本转整数时仅取区间首值如“20-30岁”取20丢失了区间信息导致目标变量分布失真分类特征编码后维度极低无法为模型提供足够的区分度。3. 改进建议可落地、考试必拿分1特征工程优化最核心补充强关联特征新增运动频率、BMI、作息习惯、饮食习惯、身体指标等与年龄强相关的客观特征提升特征对目标变量的解释力优化目标变量处理将年龄段转换为区间中位数如“20-30岁”取25还原目标变量的连续性特征编码优化对分类特征采用独热编码避免数值大小误导提升特征有效性。2模型选型与调优弱特征场景下优先使用简单模型如线性回归验证特征有效性避免复杂模型过拟合若使用树模型需增加正则化参数如随机森林限制max_depth、XGBoost调整learning_rate抑制过拟合。3数据质量提升清洗异常值如极端年龄、无效问卷提升数据可靠性扩大样本量增强模型的泛化能力。4. 最终结论本次模型失效的核心原因是输入特征与年龄的关联性极弱、特征数量不足导致无论简单还是复杂模型均无法学习到有效规律。通过补充强关联特征、优化数据预处理、匹配适配的模型可显著提升年龄预测的准确性满足健康管理场景的业务需求。三、补充一句话精简版适合答题卷短答本次随机森林与线性回归模型的测试集R²均为负数MSE高达109说明模型完全无预测能力。核心原因是输入特征性别、运动重要性、健康自评与年龄关联性极弱、特征数量不足导致模型无法学习有效规律。需通过补充强关联特征、优化数据预处理、适配简单模型等方式改进。 2.2.41、模型性能指标数值均方误差MSE0.024679563713426132决定系数R²0.184778282498439972、错误分析模型拟合能力不足R²仅为0.185说明线性回归模型仅能解释18.5%的大学生低碳生活行为变异剩余81.5%的行为差异无法通过现有特征和线性关系解释核心原因是低碳生活行为受“认知-态度-行为”链式非线性因素影响而线性回归假设特征与目标变量为线性关联无法捕捉这类非线性关系。特征利用效率低独热编码后的分类特征如性别、年级与低碳行为的关联为非线性线性回归无法挖掘特征间的交互作用如“高年级×高低碳认知”的联合影响导致特征价值未充分发挥。模型泛化能力有限MSE0.0247虽数值较小但结合低R²可知模型仅能拟合训练集局部线性规律对测试集新样本的预测能力弱存在“欠拟合”问题。3、改进建议模型优化引入带正则化的线性模型如Ridge回归/Lasso回归通过L2/L1正则抑制噪声特征影响提升模型稳定性或直接采用非线性模型如本次XGBoost捕捉特征与目标变量的非线性关联。特征工程增强构建衍生特征如“低碳认知总分各认知题项均值”“行为意愿×认知程度”交互项提升特征与目标变量的关联性利用特征重要性筛选核心特征如“低碳知识了解度”“家人低碳行为影响”剔除冗余特征。数据预处理优化对数值型特征做标准化StandardScaler提升线性回归系数的解释性和收敛速度补充样本量或平衡样本分布如不同年级/性别样本占比增强模型泛化能力。总结线性回归核心问题是无法拟合非线性关系导致R²偏低、解释力不足改进核心方向为“模型升级非线性 特征增强 数据优化”对比XGBoost结果R²0.415验证了非线性模型更适配本次低碳行为预测任务。2.2.5一、模型性能评估均方误差 (MSE):8096170.758224316平均绝对误差 (MAE):2421.827880665033决定系数 (R²):-0.1541458336017123二、错误分析模型完全失效预测能力极差决定系数R²为负数说明决策树模型的预测效果比直接猜平均值还要差完全没有学习到有效规律属于严重欠拟合/无效模型。预测误差巨大无实用价值均方误差高达809万平均绝对误差达到2421步意味着模型预测的每日步数与真实值平均偏差超过2400步误差过大无法用于健康步数预测。特征与目标变量关联性极弱仅使用性别、运动重要性、健康自评3个特征与每日步数无强相关关系无法为模型提供有效预测信号导致决策树无法正确划分规则。决策树模型未做参数限制默认决策树深度无限制容易出现过拟合训练集噪声在测试集上泛化能力完全失效最终导致负R²。三、改进建议补充强关联特征新增运动时长、运动频率、体重、身高、睡眠质量等与每日步数强相关的特征提升模型可学习的有效信息。优化决策树模型参数限制树深度max_depth5~8、设置最小样本分裂数与叶子节点数防止过拟合提升泛化能力。更换更稳定的模型使用随机森林、线性回归等更稳定的模型替代单一决策树减少噪声影响提升预测精度。数据清洗与异常值处理对每日步数中的极端异常值进行过滤或修正避免异常数据干扰模型训练。一句话精简版适合短空填写模型R²为负预测完全无效误差超2400步特征关联性弱、决策树过拟合是主因需补充强特征、限制树深度、替换集成模型提升效果。