当前位置: 首页 > article >正文

【Python】贝叶斯,条件概率是怎么回事儿

【Python】贝叶斯,条件概率是怎么回事儿

  • 一、原理简介
    • 1.1 贝叶斯定理
    • 1.2 朴素贝叶斯假设
  • 二、算法实现过程
    • 2.1 数据准备与预处理
    • 2.2 模型训练与预测
      • 2.2.1 高斯朴素贝叶斯 - 对应连续型数据
      • 2.2.2 多项式朴素贝叶斯 - 离散型数据
    • 2.3 模型评估
  • 三、算法优缺点分析
    • 3.1 核心优势
    • 3.2 主要局限
  • 四、典型应用场景
  • 五、完整实现示例:垃圾邮件分类

一、原理简介

1.1 贝叶斯定理

在这里插入图片描述

贝叶斯定理是概率论中的核心公式,用于计算在已知某些条件下事件发生的后验概率,即我们常说的条件概率(面试会考哦):
P(A∣B)= P(B∣A)⋅P(A) / P(B)

其中:

  • P(A∣B) 是后验概率(已知B发生时的A概率)
  • P(B∣A) 是似然概率(已知A发生时B的条件概率)
  • P(A) 是先验概率(A的独立发生概率)
  • P(B) 是边际概率(B的总发生概率)

1.2 朴素贝叶斯假设

朴素贝叶斯算法基于特征条件独立性假设,即所有特征在类别确定的条件下相互独立。
这一简化使得计算复杂度显著降低划重点),适用于高维数据场景。

二、算法实现过程

在这里插入图片描述

2.1 数据准备与预处理

还是老样子,咱们使用Scikit-learn库加载鸢尾花数据集,并进行标准化处理:

from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split   # 数据集划分
from sklearn.preprocessing import StandardScaler       # 数据标准化处理# 加载数据集
iris = load_iris()
X, y = iris.data, iris.target# 划分训练集与测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)# 标准化处理数据 便于后续处理 
scaler = StandardScaler()
X_train = scaler.fit_transform(X_train)
X_test = scaler.transform(X_test)

2.2 模型训练与预测

2.2.1 高斯朴素贝叶斯 - 对应连续型数据

from sklearn.naive_bayes import GaussianNB   # 高斯朴素贝叶斯# 创建模型
gnb = GaussianNB()# 训练与预测
gnb.fit(X_train, y_train)
y_pred = gnb.predict(X_test)

2.2.2 多项式朴素贝叶斯 - 离散型数据

from sklearn.naive_bayes import MultinomialNB  # 多项式朴素贝叶斯# 文本分类示例(需先进行词袋向量化)
from sklearn.feature_extraction.text import CountVectorizer texts = ["free investment", "normal message", "urgent promotion"]
vectorizer = CountVectorizer()
X_text = vectorizer.fit_transform(texts)mnb = MultinomialNB()
mnb.fit(X_text, [1, 0, 1])  # 1:垃圾邮件,0:正常邮件

2.3 模型评估

from sklearn.metrics import accuracy_score, classification_report  # 分析评估报告生成# 计算准确率
print(f"准确率: {accuracy_score(y_test, y_pred):.2%}")# 输出分类报告
print(classification_report(y_test, y_pred, target_names=iris.target_names))

三、算法优缺点分析

3.1 核心优势

  • ​计算效率高:时间复杂度为O(n⋅d),适合高维数据(如文本分类)
  • ​增量学习能力:支持在线学习,新数据可直接更新概率分布
  • ​抗噪声能力强:对小规模数据仍能保持较好性能

3.2 主要局限

  • 独立性假设缺陷:实际场景中特征往往存在相关性
  • 零概率问题:未出现的特征组合会导致概率估计失效(可通过拉普拉斯平滑解决)
  • 先验敏感度:先验概率的选择显著影响结果准确性

四、典型应用场景

领域应用实例适用算法类型
自然语言处理垃圾邮件过滤、情感分析多项式朴素贝叶斯
生物医学疾病诊断、基因分类高斯朴素贝叶斯
推荐系统用户兴趣预测贝叶斯网络
金融风控欺诈检测层次贝叶斯模型
图像处理手写数字识别伯努利朴素贝叶斯

五、完整实现示例:垃圾邮件分类

import pandas as pd
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.naive_bayes import MultinomialNB
from sklearn.pipeline import make_pipeline# 构建示例数据集
data = {'text': ['free lottery', 'meeting notes', 'win cash now', 'project update'],'label': [1, 0, 1, 0]  # 1:垃圾邮件,0:正常邮件
}
df = pd.DataFrame(data)# 创建处理管道
model = make_pipeline(TfidfVectorizer(stop_words='english'),MultinomialNB(alpha=0.1)
)# 训练模型
model.fit(df['text'], df['label'])# 预测新样本
test_emails = ["urgent money offer", "weekly report"]
predictions = model.predict(test_emails)
print(f"预测结果: {predictions}")  # 输出: [1 0]

相关文章:

【Python】贝叶斯,条件概率是怎么回事儿

【Python】贝叶斯,条件概率是怎么回事儿 一、原理简介1.1 贝叶斯定理1.2 朴素贝叶斯假设 二、算法实现过程2.1 数据准备与预处理2.2 模型训练与预测2.2.1 高斯朴素贝叶斯 - 对应连续型数据2.2.2 多项式朴素贝叶斯 - 离散型数据 2.3 模型评估 三、算法优缺点分析3.1 …...

Flink介绍——实时计算核心论文之Storm论文详解

引入 我们通过以下两篇文章,深入探索了S4是如何抽象流式计算模型,如何设计架构和系统,存在那些局限: 论文详解论文总结 Yahoo推出的S4 并没有在历史舞台上站稳脚跟,在S4的论文发表的同一年,我们今天的主…...

001 使用单片机实现的逻辑分析仪——吸收篇

本内容记录于韦东山老师的毕设级开源学习项目,含个人观点,请理性阅读。 个人笔记,没有套路,一步到位,欢迎交流! 00单片机的逻辑分析仪与商业版FPGA的逻辑分析仪异同 对比维度自制STM32逻辑分析仪商业版逻…...

es基本概念

Elasticsearch 的架构与基本概念 Elasticsearch(简称 ES)是一个开源的分布式搜索和分析引擎,基于 Apache Lucene 构建。它被广泛用于全文搜索、日志分析、实时数据分析等场景。以下是其架构概述及其基本概念的详细解释。 Elasticsearch 的架…...

可以使用费曼学习法阅读重要的书籍

书本上画了很多线,回头看等于没画出任何重点。 不是所有的触动都是有效的。就像你曾经看过很多好文章,当时被触动得一塌糊涂,还把它们放进了收藏夹,但一段时间之后,你就再也记不起来了。如果让你在一本书上画出令自己…...

11-产品经理-创建产品

在“产品”-“仪表盘”内,可以查看系统中关于产品及相关需求的统计。 在“产品”-“产品列表”页面,可以按项目集、项目查看其关联产品。还可以添加产品、编辑产品线、或者导出产品列表。 产品看板,通过看板方式查看产品、产品计划和产品下的…...

JavaScript学习教程,从入门到精通,JavaScript 基础语法全面指南(5)

JavaScript 基础语法全面指南 一、JavaScript 基本概念 JavaScript 是一种轻量级的解释型或即时编译型的编程语言,主要用于网页开发,为网页添加交互功能。 1.1 JavaScript 的特点 解释型语言:不需要编译,由 JavaScript 引擎直…...

低代码开发平台:飞帆制作网页并集成到自己的网页中

应用场景: 有时,我们的网页使用了某个模版,或者自己写的 html、css、javascript 代码。只是网页中的一部分使用飞帆来制作。这样的混合网页如何实现呢? 其实很容易,来体验一下飞帆提供的功能! 还记得这个…...

语法: result=log (x);

LOG( ) 语法: resultlog (x); 参数: x是一个浮点数; 返回值: result等于返回值,是一个浮点数; 功能: 该函数是用来计算浮点数x的自然对数(即ln x);如果x小于或等于0,或x太大,则行为没有定义; 注意:存在error挂起; 如果在编写程序里包含了errno.h头文件,则范围和等级…...

Hibernate核心方法总结

Session中的核心方法梳理 1、save方法 这个方法表示将一个对象保存到数据库中,可以将一个不含OID的new出来的临时对象转换为一个处于Session缓存中具有OID的持久化对象。 需要注意的是:在save方法前设置OID是无效的但是也不会报错,在save方…...

IntelliJ IDEA Maven 工具栏消失怎么办?

一、问题现象与背景 在使用 IntelliJ IDEA(简称 IDEA)开发 Maven 项目时,偶尔会遇到右侧或侧边栏的 Maven 工具栏(显示依赖、生命周期等信息的窗口)突然消失的情况。这可能影响开发者快速操作 Maven 构建、依赖管理等…...

消息队列(kafka 与 rocketMQ)

为什么要使用消息队列?作用1: 削峰填谷(突发大请求量问题)作用2: 解耦(单一原则)作用3: 异步(减少处理时间) 如何选择消息队列(kafka&RocketMQ)成本功能性能选择 rocketMQ是参考kafka进行实现的为什么rocketMQ与kafka性能差距很大呢?kafka 的底层数据储存实现rocketMQ 的…...

【STM32】Flash详解

【STM32】Flash详解 文章目录 【STM32】Flash详解1.Flash闪存概念1. 1核心区别:NOR Flash vs. NAND Flash1.2 为什么常说的“Flash”多指 NAND Flash?1.3技术细节对比(1) 存储单元结构(2) 应用场景(3) 可靠性要求 1.4总结 2.STM32内部的Flash2.1为什么是…...

CV - 目标检测

物体检测 目标检测和图片分类的区别: 图像分类(Image Classification) 目的:图像分类的目的是识别出图像中主要物体的类别。它试图回答“图像是什么?”的问题。 输出:通常输出是一个标签或一组概率值&am…...

node-modules-inspector 可视化node_modules

1、node_modules 每个vue的项目都有很多的依赖,有的是dev的,有的是生产的。 2、使用命令pnpx node-modules-inspector pnpx node-modules-inspector 3、node_modules可视化 4、在线体验 Node Modules Inspector 5、github地址 https://github.com/a…...

远程服务器下载llama模型

适用于有防火墙不能直接从HF上下载的情况 然后,你可以克隆 Llama-3.1-8B-Instruct 模型: git clone https://你的用户名:你的访问令牌hf-mirror.com/meta-llama/Llama-3.1-8B-Instruct用户名,令牌来自huggingface官网 注意:要提…...

Spring 中的 @Autowired 和 @Resource

🧩 一、Autowired 和 Resource 的基本作用 注解来源作用AutowiredSpring 提供(org.springframework.beans.factory.annotation.Autowired)按类型 自动注入ResourceJDK 提供(javax.annotation.Resource)默认按名称 注入…...

自定义汇编语言(Custom Assembly Language) 和 Unix Git

1. 什么是自定义汇编语言(Custom Assembly Language)? 汇编语言(Assembly Language)是一种低级编程语言,它直接与 CPU 指令集(Instruction Set Architecture, ISA)对应,…...

Python菜鸟教程(小程序)

目录 一.简易计算器 二.学生成绩分级 三.密码设置 四.作业选择 点赞收藏,评论支持 一.简易计算器 print(-------使用的运算符-------\n) print(1.加号) print(2.减号) print(3.乘号) print(4.除号) Aint(input(请输入第一个数: )) Bint(input(请输入第二个数: )) Fi…...

2011-2019年各省地方财政金融监管支出数据

2011-2019年各省地方财政金融监管支出数据 1、时间:2007-2019年 2、来源:国家统计局、统计年鉴 3、指标:行政区划代码、地区、年份、地方财政金融监管支出 4、范围:31省 5、指标说明:地方财政在金融监管方面的支出…...

Java大厂面试题 -- JVM 优化进阶之路:从原理到实战的深度剖析(2)

最近佳作推荐: Java大厂面试题 – 深度揭秘 JVM 优化:六道面试题与行业巨头实战解析(1)(New) 开源架构与人工智能的融合:开启技术新纪元(New) 开源架构的自动化测试策略优…...

SQL LIKE 语句详解

SQL LIKE 语句详解 引言 SQL(Structured Query Language)是用于管理关系数据库的标准语言。在SQL中,LIKE 语句是一种常用的字符串匹配操作符,用于在查询中搜索包含特定模式的字符串。本文将详细介绍 LIKE 语句的用法、规则以及注意事项。 一、什么是 LIKE 语句? LIKE …...

现代Web应用中的时光机器:深入解析撤销/重做功能的艺术与科学

引言:数字世界的安全网 在现实世界中,我们拥有橡皮擦、撤销键和后悔药(比喻意义上)。数字世界同样需要这样的安全保障。研究表明: **85%**的用户会在完成复杂表单时犯至少一个错误 提供撤销功能的界面可将用户满意度…...

存储引擎 / 事务 / 索引

1. 存储引擎 MySQL 中特有的术语。 (Oracle 有,但不叫这个名字) 是一种表存储 / 组织数据的方式 不同的存储引擎,表存储数据的方式不同 1.1 查看存储引擎 命令: show engines \g(或大写:G…...

Go语言-初学者日记(八):构建、部署与 Docker 化

🧱 一、go build:最基础的构建方式 Go 的构建工具链是出了名的轻量、简洁,直接用 go build 就能把项目编译成二进制文件。 ✅ 构建当前项目 go build -o myapp-o myapp 指定输出文件名默认会构建当前目录下的 main.go 或 package main &a…...

【ESP32】ESP32物联网应用:MQTT控制与状态监测

ESP32物联网应用:MQTT控制与状态监测 引言 在物联网时代,远程监测和控制设备已经成为现实生活中常见的需求。本文将介绍如何使用ESP32微控制器配合MQTT协议,实现一个简单而强大的物联网应用:远程状态监测和设备控制。我们将以巴…...

RabbitMQ运维

RabbitMQ运维 一.集群1.简单介绍2.集群的作用 二.搭建集群1.多机多节点搭建步骤 2.单机单节点搭建步骤 3.宕机演示 三.仲裁队列1.简单介绍2.Raft协议Raft基本概念主节点选举选举过程 3.仲裁队列的使用 四.HAProxy负载均衡1.安装HAProxy2.HAProxy的使用 一.集群 1.简单介绍 Ra…...

Ansible 实战:Roles,运维的 “魔法函数”

一、介绍 你现在已经学过tasks和handlers,那么,最好的playbook组织方式是什么呢?答案很简单:使用roles!roles基于一种已知的文件结构,能够自动加载特定的vars_files、tasks以及handlers。通过roles对内容进…...

CVAT安装和使用(Windows)

必要组件安装 WSL2 Docker Git Chrome Install WSL2 (Windows subsystem for Linux) refer to this official guide. WSL2 requires Windows 10, version 2004 or higher. After installing WSL2, install a Linux Distribution of your choice. 安装 WSL2(适用…...

Spring 中的 bean 生命周期

🌱 一、什么是 Bean 生命周期? 在 Spring 容器中,一个 Bean 从“创建 → 初始化 → 使用 → 销毁”,经历了完整的生命周期。 Spring 提供了 多个扩展点 让你可以在这些阶段做事情,比如注入资源、日志记录、连接资源、清…...