当前位置: 首页 > article >正文

别再只盯着准确率了!用Python手把手教你画出分类模型的PR和ROC曲线(附代码)

实战指南用Python绘制分类模型的PR与ROC曲线在机器学习项目中评估分类模型性能时很多开发者习惯性地依赖单一准确率指标这往往会导致对模型真实效果的误判。特别是在样本分布不均衡的场景下准确率可能给出极具误导性的乐观结果。本文将带你用Python实战演练两种更可靠的评估工具——PR曲线和ROC曲线通过可视化手段全面把握模型在不同阈值下的表现差异。1. 环境准备与数据加载首先确保你的Python环境已安装以下核心库# 基础数据处理与建模 import numpy as np import pandas as pd from sklearn.datasets import make_classification # 模型训练与评估 from sklearn.model_selection import train_test_split from sklearn.linear_model import LogisticRegression from sklearn.ensemble import RandomForestClassifier # 评估指标与可视化 from sklearn.metrics import precision_recall_curve, roc_curve, auc import matplotlib.pyplot as plt import seaborn as sns我们使用make_classification生成模拟数据刻意构造样本不均衡场景# 生成1000个样本其中正类仅占20% X, y make_classification(n_samples1000, n_classes2, weights[0.8, 0.2], random_state42) # 划分训练集和测试集 X_train, X_test, y_train, y_test train_test_split( X, y, test_size0.3, random_state42) print(f正样本比例 - 训练集: {y_train.mean():.2%}, 测试集: {y_test.mean():.2%})提示实际项目中建议使用class_weightbalanced参数或过采样技术处理样本不均衡问题2. 训练基准分类模型我们选择逻辑回归和随机森林作为对比模型# 初始化模型逻辑回归设置class_weight以处理样本不均衡 lr LogisticRegression(class_weightbalanced, random_state42) rf RandomForestClassifier(class_weightbalanced_subsample, random_state42) # 训练模型 lr.fit(X_train, y_train) rf.fit(X_train, y_train) # 获取预测概率注意使用predict_proba而非predict lr_probs lr.predict_proba(X_test)[:, 1] # 正类的预测概率 rf_probs rf.predict_proba(X_test)[:, 1]关键点说明class_weight参数帮助模型关注少数类必须使用predict_proba获取概率值而非硬分类结果概率值将作为绘制曲线的阈值调节依据3. PR曲线绘制与解读PR曲线展示的是精确率(Precision)与召回率(Recall)之间的权衡关系def plot_pr_curve(y_true, y_probs, model_name): precision, recall, _ precision_recall_curve(y_true, y_probs) pr_auc auc(recall, precision) plt.plot(recall, precision, labelf{model_name} (AUC {pr_auc:.2f})) plt.xlabel(Recall) plt.ylabel(Precision) plt.title(PR Curve) plt.legend() plt.grid(True) plt.figure(figsize(10, 6)) plot_pr_curve(y_test, lr_probs, Logistic Regression) plot_pr_curve(y_test, rf_probs, Random Forest) # 添加基准线正样本比例 baseline y_test.mean() plt.axhline(ybaseline, colorgray, linestyle--, labelfBaseline ({baseline:.2%})) plt.legend() plt.show()PR曲线的关键特征特征解释实际意义曲线位置越靠近右上角越好模型在精确率和召回率间取得更好平衡AUC值曲线下面积(0-1)综合评估指标值越大性能越好基准线正样本比例随机猜测模型的性能水平典型应用场景欺诈检测关注少数类疾病筛查不能漏检病例推荐系统确保推荐内容精准4. ROC曲线绘制与对比分析ROC曲线展示的是真正率(TPR)与假正率(FPR)的关系def plot_roc_curve(y_true, y_probs, model_name): fpr, tpr, _ roc_curve(y_true, y_probs) roc_auc auc(fpr, tpr) plt.plot(fpr, tpr, labelf{model_name} (AUC {roc_auc:.2f})) plt.plot([0, 1], [0, 1], k--) # 随机猜测线 plt.xlabel(False Positive Rate) plt.ylabel(True Positive Rate) plt.title(ROC Curve) plt.legend() plt.grid(True) plt.figure(figsize(10, 6)) plot_roc_curve(y_test, lr_probs, Logistic Regression) plot_roc_curve(y_test, rf_probs, Random Forest) plt.show()ROC曲线与PR曲线的核心区别特性ROC曲线PR曲线关注点整体分类性能正类识别能力横坐标FPR (假正率)Recall (召回率)纵坐标TPR (真正率)Precision (精确率)样本不均衡影响相对稳定非常敏感适用场景均衡数据集不均衡数据集注意当正样本比例低于10%时优先参考PR曲线评估模型5. 高级技巧与实战建议5.1 多模型对比可视化将PR和ROC曲线组合展示更直观fig, (ax1, ax2) plt.subplots(1, 2, figsize(18, 6)) # PR曲线 for model, probs in [(LR, lr_probs), (RF, rf_probs)]: precision, recall, _ precision_recall_curve(y_test, probs) ax1.plot(recall, precision, labelf{model} (AUC{auc(recall, precision):.2f})) ax1.set_title(PR Curve Comparison) ax1.legend() # ROC曲线 for model, probs in [(LR, lr_probs), (RF, rf_probs)]: fpr, tpr, _ roc_curve(y_test, probs) ax2.plot(fpr, tpr, labelf{model} (AUC{auc(fpr, tpr):.2f})) ax2.plot([0, 1], [0, 1], k--) ax2.set_title(ROC Curve Comparison) ax2.legend() plt.show()5.2 阈值选择策略通过曲线确定最佳分类阈值# 寻找PR曲线上F1分数最大的阈值 def find_optimal_threshold(y_true, y_probs): precision, recall, thresholds precision_recall_curve(y_true, y_probs) f1_scores 2 * (precision * recall) / (precision recall 1e-8) optimal_idx np.argmax(f1_scores) return thresholds[optimal_idx], f1_scores[optimal_idx] lr_threshold, lr_f1 find_optimal_threshold(y_test, lr_probs) rf_threshold, rf_f1 find_optimal_threshold(y_test, rf_probs) print(f逻辑回归最佳阈值: {lr_threshold:.4f} (F1{lr_f1:.2f})) print(f随机森林最佳阈值: {rf_threshold:.4f} (F1{rf_f1:.2f}))5.3 实际应用中的陷阱常见问题与解决方案曲线波动剧烈检查样本量是否足够尝试使用平滑技术AUC值异常高验证是否存在数据泄露检查特征工程合理性测试集与训练集表现差异大确保数据分布一致考虑使用交叉验证在电商用户流失预测项目中我们发现当正样本比例低于5%时ROC曲线的AUC值仍然保持在0.85以上但PR曲线的AUC仅为0.3这提示模型的实际业务价值可能被高估。通过调整分类阈值和引入代价敏感学习最终将召回率从0.6提升到0.8虽然精确率有所下降但更符合业务需求。

相关文章:

别再只盯着准确率了!用Python手把手教你画出分类模型的PR和ROC曲线(附代码)

实战指南:用Python绘制分类模型的PR与ROC曲线 在机器学习项目中,评估分类模型性能时,很多开发者习惯性地依赖单一准确率指标,这往往会导致对模型真实效果的误判。特别是在样本分布不均衡的场景下,准确率可能给出极具误…...

用Python玩转Jetson Nano串口:一个脚本实现数据收发与回显测试

用Python玩转Jetson Nano串口:一个脚本实现数据收发与回显测试 在物联网和嵌入式开发中,串口通信就像设备之间的"普通话"——简单、通用且无处不在。Jetson Nano作为一款强大的边缘计算设备,其UART串口功能让开发者能够轻松连接各…...

告别VSCode!用Qt Creator 10.0.1 + ROS Noetic打造你的专属机器人开发IDE(含Qt组件集成指南)

Qt Creator 10.0.1 ROS Noetic:打造机器人开发的终极生产力工具链 在机器人开发领域,工具链的选择往往决定了开发效率的上限。当大多数开发者还在VSCode、CLion和终端之间频繁切换时,一个被低估的解决方案正在悄然崛起——Qt Creator 10.0.1…...

为AI智能体构建带权限的知识图谱记忆系统:架构、部署与实战

1. 项目概述:为AI智能体构建带权限的知识图谱记忆系统 在构建复杂的AI智能体时,一个核心挑战是如何让它们拥有“记忆”——不仅仅是记住对话历史,而是能像人类一样,将信息结构化地存储、关联,并在需要时精准地回忆起来…...

微软Bing视觉搜索优化:多模态AI与GPU加速实践

1. 微软Bing视觉搜索优化项目概述 微软Bing视觉搜索是一项革命性的图像检索技术,它允许用户通过上传照片来搜索网络上的相关内容。这项技术的核心是微软的TuringMM视觉嵌入模型,该模型能够将图像和文本映射到一个共享的高维空间中。每天需要处理数十亿张…...

R数据报告自动化失效全复盘(Tidyverse 2.0迁移血泪实录)

更多请点击: https://intelliparadigm.com 第一章:R数据报告自动化失效的根源诊断 R语言中基于rmarkdown、knitr或quarto构建的数据报告自动化流程常在生产环境中意外中断。失效往往并非源于单一错误,而是多个隐性依赖环节的连锁退化。 常见…...

MAA明日方舟自动化助手:5个步骤轻松实现全日常一键长草

MAA明日方舟自动化助手:5个步骤轻松实现全日常一键长草 【免费下载链接】MaaAssistantArknights 《明日方舟》小助手,全日常一键长草!| A one-click tool for the daily tasks of Arknights, supporting all clients. 项目地址: https://gi…...

双势阱系统与Boltzmann采样的同步机制研究

1. 双势阱系统与Boltzmann采样的物理基础 双势阱系统作为研究随机动力学和概率计算的经典模型,其核心特征在于具有两个稳定的能量最低点(势阱)和一个中间的势垒。这种势能结构广泛存在于自然界和人工系统中——从磁隧道结(MTJ)的自由层磁化方…...

3步解决Dell G15笔记本过热问题:开源温度控制中心完全指南

3步解决Dell G15笔记本过热问题:开源温度控制中心完全指南 【免费下载链接】tcc-g15 Thermal Control Center for Dell G15 - open source alternative to AWCC 项目地址: https://gitcode.com/gh_mirrors/tc/tcc-g15 你是否在游戏时遭遇笔记本过热降频&…...

大模型推理安全防护:PART方法与动态指纹技术解析

1. 项目背景与核心挑战大模型在推理过程中产生的中间计算结果和决策路径,往往包含大量敏感信息。这些"推理痕迹"可能被恶意攻击者通过模型蒸馏等手段提取,导致核心算法泄露或隐私数据暴露。传统防御方法通常采用差分隐私或模型混淆技术&#x…...

探索小红书内容宇宙:5个颠覆性方法深度挖掘数据价值

探索小红书内容宇宙:5个颠覆性方法深度挖掘数据价值 【免费下载链接】xhs 基于小红书 Web 端进行的请求封装。https://reajason.github.io/xhs/ 项目地址: https://gitcode.com/gh_mirrors/xh/xhs 你是否曾在小红书的内容海洋中迷失方向?面对海量…...

ncmdump:网易云音乐NCM文件无损解密转换终极指南

ncmdump:网易云音乐NCM文件无损解密转换终极指南 【免费下载链接】ncmdump ncmdump - 网易云音乐NCM转换 项目地址: https://gitcode.com/gh_mirrors/ncmdu/ncmdump ncmdump是一个专为网易云音乐NCM加密文件设计的开源解密工具,能够将受限的NCM格…...

别再死记硬背时序参数了!用Verilog在FPGA上驱动VGA显示器(附800x480完整代码)

从时序参数到实战代码:FPGA驱动VGA显示器的工程化实现 在数字系统设计领域,VGA接口作为经典的显示输出方案,至今仍在FPGA图像处理、嵌入式显示等场景中广泛应用。许多初学者虽然能够理解VGA时序参数表的概念,却在实际编码时无从下…...

Orange Pi R1 Plus LTS金属外壳套件深度评测与应用指南

1. 产品概述:Orange Pi R1 Plus LTS金属外壳套件 去年11月发布的Orange Pi R1 Plus LTS开发板终于迎来了官方金属外壳套件。这款基于Rockchip RK3328四核处理器的路由器开发板,以35.99美元的套件价格(单独外壳9美元)提供了完整的网…...

RLOO强化学习在数学推理中的应用与优化

1. RLOO强化学习在数学推理中的核心机制 数学推理任务对语言模型提出了独特挑战,不仅需要语言理解能力,更需要严格的逻辑推导能力。传统监督微调方法在数学推理场景中存在明显局限——它只能教会模型模仿解题步骤,却无法让模型真正理解"…...

从DIY 3D打印机到小型CNC:聊聊步进电机和伺服电机的实战应用与调参心得

从DIY 3D打印机到小型CNC:聊聊步进电机和伺服电机的实战应用与调参心得 去年给朋友改装一台老旧的FDM 3D打印机时,遇到一个奇怪的问题:每当打印头移动到Y轴特定位置,整台机器就会发出刺耳的共振噪音。经过三天排查,最终…...

用Python和akshare库5分钟搞定全市场LOF基金实时行情数据(附完整代码与CSV导出)

用Python和akshare高效获取LOF基金实时行情数据实战指南 对于量化投资者和金融数据分析师来说,获取实时、准确的基金行情数据是构建投资策略的基础。LOF基金作为可在交易所交易的开放式基金,其行情数据对套利分析和组合管理尤为重要。传统手动收集方式不…...

AI编程助手Sage:在代码生成前进行“计划层审查”的自动化同行评审工具

1. 项目概述:当你的AI编程伙伴有了“导师” 如果你和我一样,日常开发已经离不开像Claude Code、Cursor这类AI编程助手,那你肯定也经历过这样的时刻:AI助手信心满满地给出了一段代码或一个方案,你乍一看觉得“嗯&#x…...

权限系统设计避坑指南:从MongoDB的RBAC到转转的‘混合模型’,我们踩过的那些雷

权限系统设计避坑指南:从RBAC基础到混合模型实战 当技术团队从零开始构建一个后台管理系统时,权限模块往往是最早被设计却最后被重构的组件。我见过太多团队在初期选择简单的RBAC实现,却在业务扩张后陷入权限分配的泥潭——市场部门突然需要…...

TTT3R:3D重建中的测试时训练技术解析

1. TTT3R:3D重建领域的测试时训练革新 在计算机视觉领域,3D重建一直是个极具挑战性的任务。想象一下,你手头有一堆从不同角度拍摄的室内照片,如何让计算机自动还原出这个房间的三维结构?这就是3D重建要解决的核心问题。…...

039、Agent的微调策略:使用自有数据优化模型表现

039、Agent的微调策略:使用自有数据优化模型表现 当你的Agent在通用场景下表现尚可,但一遇到专业术语、特定流程或公司内部知识就“卡壳”时,是时候考虑用自有数据为其“开小灶”了。 前言 在之前的实战中,我们构建了客服、教育等领域的专属Agent。这些Agent基于强大的基础…...

038、构建领域专属Agent:以客服、教育等场景为例

038、构建领域专属Agent:以客服、教育等场景为例 通用Agent已足够智能,但要让它在特定领域(如客服、教育)真正“专业”起来,你需要一套量身定制的构建方法论。 前言 在之前的文章中,我们掌握了如何为Agent集成外部API,赋予其调用各种工具的能力。这就像为一位通才配备了…...

037、集成第三方API:扩展Agent的外部能力

037、集成第三方API:扩展Agent的外部能力 当你的Agent被困在信息孤岛,如何让它连接整个世界?第三方API就是那扇任意门。 前言 在上一篇《Agent的性能监控与日志记录:保障稳定运行》中,我们学会了如何为Agent构建“健康监测系统”,确保其内部运行稳定可靠。然而,一个真正…...

ICRL框架:大模型工具调用的强化学习解决方案

1. 项目背景与核心价值 去年在部署一个客服对话系统时,我发现大模型在工具调用(Tool Calling)场景存在明显短板——要么需要大量监督微调数据来训练工具使用能力,要么依赖复杂的提示工程来维持稳定性。而ICRL框架的出现&#xff0…...

考虑扰动的欠驱动船舶轨迹跟踪自适应滑模控制Matlab/simulink实现模型

💥💥💞💞欢迎来到本博客❤️❤️💥💥 🏆博主优势:🌞🌞🌞博客内容尽量做到思维缜密,逻辑清晰,为了方便读者。 ⛳️座右铭&a…...

告别提取码烦恼:baidupankey 如何让你秒速获取百度网盘资源

告别提取码烦恼:baidupankey 如何让你秒速获取百度网盘资源 【免费下载链接】baidupankey 项目地址: https://gitcode.com/gh_mirrors/ba/baidupankey 还在为百度网盘分享链接的提取码而烦恼吗?每次看到那个熟悉的"请输入提取码"提示框…...

移动处理器能效优化:big.LITTLE架构解析与实践

1. 移动处理器能效困境与架构演进 现代智能手机和平板电脑正面临前所未有的性能与功耗平衡挑战。2012年我在参与某旗舰手机开发项目时,团队曾为这样一个数据震惊:当四核处理器全速运行时,满电状态下的设备续航时间竟然不足两小时。这个典型案…...

Hyperf的生命周期的庖丁解牛

它的本质是:Hyperf 的应用生命周期被严格划分为两个截然不同的阶段—— “启动阶段” (Bootstrapping/Initialization) 和 “运行时阶段” (Runtime/Request Handling)。 启动阶段:只发生一次(Worker 进程启动时)。负责加载配置、…...

从NeuroScan到EGI:一个BCI研究员的7款脑电设备真实上手体验与避坑指南

从NeuroScan到EGI:一个BCI研究员的7款脑电设备真实上手体验与避坑指南 第一次接触脑电设备时,我像个拿着手术刀的厨师——明明是在实验室里操作价值百万的精密仪器,手法却笨拙得像是要切土豆。那台NeuroScan的64导联设备,成了我学…...

qmcdump终极指南:一键解锁QQ音乐加密文件,实现跨平台音乐自由

qmcdump终极指南:一键解锁QQ音乐加密文件,实现跨平台音乐自由 【免费下载链接】qmcdump 一个简单的QQ音乐解码(qmcflac/qmc0/qmc3 转 flac/mp3),仅为个人学习参考用。 项目地址: https://gitcode.com/gh_mirrors/qm/…...