当前位置： 首页 > news >正文

pandas数据预处理

news 文章来源：https://blog.csdn.net/qq_59969777/article/details/131024879 2025/5/11 9:31:39

pandas数据预处理

  • pandas及其数据结构
    • pandas简介
      • Series数据结构及其创建
      • DataFrame数据结构及其创建
  • 利用pandas导入导出数据
    • 导入外部数据
      • 导入数据文件
    • 导出外部数据
      • 导出数据文件
  • 数据概览及预处理
    • 数据概览分析
      • 利用DataFrame的常用属性
      • 利用DataFrame的常用方法
    • 数据清洗
      • 缺失值处理
        • 删除法
        • 替换法
      • 重复值处理
        • 去重
      • 异常值检测与处理
      • 数据抽取与合并
        • 数据抽取
        • 数据合并
      • 数据增删改
      • 数据转换
  • 数据的描述性统计分析
    • 数据排序
    • 常见数据计算
      • 数值型特征的描述性统计
      • 类别型特征的描述统计
  • 分组统计分析
    • 数据分组
    • 分组聚合

pandas及其数据结构

pandas简介

pandas是Python语言的一个第三方库，开放源码，提供高性能、易于使用的数据结构和数据分析工具。pandas是一个强大的分析结构化数据的工具集，基于numpy实现的。
在这里插入图片描述

Series数据结构及其创建

pandas的核心是Series和DataFrame两大数据结构

  • Series数据结构是用于存储一个序列的一维数组，而DataFrame数据结构则是用于存储复杂数据的二维数据结构。
  • Series是一种类似于一维数组的对象，它是由一组数据，这组数据可以是Numpy中任意类型的数据，以及一组与之相关的数据标签组成。
  • Series对象的内部结构是由两个相互关联的数组组成，即数值和索引。
    在这里插入图片描述
    Series类型是带索引的一维数组对象。包含了一个值序列，并且包含了数据标签，称为索引(index)，可通过索引来访问数组中的数据。
    Series的创建格式:
    pandas.Series(data[, index])
    函数中的参数：
    data是输入给Series构造器的数据。
    index是Series对象中数据的标签（即索引）。
    例如：
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

DataFrame数据结构及其创建

DataFrame是一个表格型的数据结构，它含有一组有序的列，每列可以是不同的值类型(数值、字符串、布尔值等)。
分别有行索引和列索引。
常用于表达二维数组，也可以表达多维数组。DataFrame的创建格式:
在这里插入图片描述
pandas.DataFrame(data[,index[,columns]])
函数中的参数说明：

  • data是输入给DataFrame构造器的数据，见下页。
  • Index是DataFrame对象中行索引的标签。
  • columns是DataFrame对象中列索引的标签。
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

利用pandas导入导出数据

导入外部数据

导入数据文件

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

导出外部数据

导出数据文件

在这里插入图片描述

数据概览及预处理

数据概览分析

数据概览是在数据分析之前对数据的规模、数据的类型及数据的质量等进行概览性的分析
在这里插入图片描述

利用DataFrame的常用属性

在这里插入图片描述

利用DataFrame的常用方法

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

数据清洗

数据清洗是通过预处理，剔除数据中的噪声，恢复数据完整性和一致性
在这里插入图片描述

缺失值处理

删除法

在这里插入图片描述

替换法

在这里插入图片描述

重复值处理

去重

在这里插入图片描述

异常值检测与处理

在这里插入图片描述

数据抽取与合并

数据抽取

在这里插入图片描述

数据合并

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

数据增删改

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

数据转换

在这里插入图片描述

数据的描述性统计分析

数据排序

在这里插入图片描述
在这里插入图片描述

常见数据计算

在这里插入图片描述

数值型特征的描述性统计

在这里插入图片描述

类别型特征的描述统计

在这里插入图片描述
在这里插入图片描述

分组统计分析

数据分组

在这里插入图片描述
在这里插入图片描述

分组聚合

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

相关文章：

pandas数据预处理

pandas数据预处理 pandas及其数据结构pandas简介Series数据结构及其创建DataFrame数据结构及其创建 利用pandas导入导出数据导入外部数据导入数据文件 导出外部数据导出数据文件 数据概览及预处理数据概览分析利用DataFrame的常用属性利用DataFrame的常用方法 数据清洗缺失值处…...

编程日记 2023/6/4 9:49:33

Jupyter Notebook如何导入导出文件

目录 0.系统：windows 1.打开 Jupyter Notebook 2.Jupyter Notebook导入文件 3.Jupyter Notebook导出文件 0.系统：windows 1.打开 Jupyter Notebook 1）下载【Anaconda】后，直接点击【Jupyter Notebook】即可在网页打开 Jupyte…...

编程日记 2023/6/4 9:44:32

Linux：/dev/tty、/dev/tty0 和 /dev/console 之间的区别

在Linux操作系统中，/dev/tty、/dev/tty0和/dev/console是三个特殊的设备文件，它们在终端控制和输入/输出过程中扮演着重要的角色。尽管它们看起来很相似，但实际上它们之间存在一些重要的区别。本文将详细介绍这三个设备文件之间的区别以及它们…...

编程日记 2023/6/4 9:39:31

Linux 上安装 PostgreSQL——Ubuntu

打开 PostgreSQL 官网 PostgreSQL: The worlds most advanced open source database，点击菜单栏上的 Download ，可以看到这里包含了很多平台的安装包，包括 Linux、Windows、Mac OS等 。 Linux 我们可以看到支持 Ubuntu 和 Red Hat 等各个平台…...

编程日记 2023/6/4 9:34:30

合并两个有序链表（java）

leetcode 21题：合并两个有序链表 题目描述解题思路：链表的其它题型。 题目描述 leetcode21题：合并两个有序链表 将两个升序链表合并为一个新的 升序 链表并返回。新链表是通过拼接给定的两个链表的所有节点组成的。 示例： 输入&…...

编程日记 2023/6/4 9:29:29

KEYSIGHT是德DSOX4034A 示波器 350 MHz

KEYSIGHT是德DSOX4034A 示波器 350 MHz，是德4000 X 系列拥有一系列引以为傲的配置，包括采用了电容触摸屏技术的 12.1 英寸显示屏、InfiniiScan 区域触摸触发、100 万波形/秒捕获率、MegaZoom IV 智能存储器技术和标配分段存储器。 是德DSO-X4034A 主要特…...

编程日记 2023/6/4 9:24:28

局域网技术

共享信道的分配技术是局域网的核心技术，而这一技术又与网络的拓扑结构和传输介质有关。 拓扑结构： 1.总线型拓扑： 总线一种多点广播介质，所有的站点通过接口硬件连接到总线上。 传输介质主要是同轴电缆（基带和宽带…...

编程日记 2023/6/4 9:19:27

Pixhawk无人机-ArduPilot 软件SITL仿真模拟飞行（SITL+MAVProxy）

1 引言 本人是先看了多个博客实现了：在ubuntu下建立完整的ardupilot开发环境。 该文是基于搭建完编译环境后，也就是搭建好ardupilot的仿真环境实现的。 在文章: 《Pixhawk无人机扩展教程(5)—SITL仿真模拟飞行：开发环境搭建》.中指出&#…...

编程日记 2023/6/4 9:14:26

vue实现深拷贝的方法

在 vue中，深拷贝是一个很有用的功能，在不改变原来对象状态的情况下，进行对象的复制。 但要实现深拷贝，需要两个对象具有相同的属性。如果两个对象不同，深拷贝也不能实现。 1.我们将变量A的属性赋给变量B，但…...

编程日记 2023/6/4 9:09:24

LAMP架构

文章目录 LAMP架构一.简述各组件的主要作用如下： 二.过程展示1.编译安装Apache httpd服务(1)关闭防火墙，将安装Apache所需软件包传到/opt目录下(2)安装环境依赖包(3)配置软件模块(4)编译及安装(5)优化配置文件路径，并把httpd服务的可执行程序…...

编程日记 2023/6/4 9:04:22

javascript基础七：说说你对Javascript中作用域的理解?

一、作用域 作用域，即变量（变量作用域又称上下文）和函数生效（能被访问）的区域或集合 换句话说，作用域决定了代码区块中变量和其他资源的可见性 举个粟子 function myFunction(){let name小爱同学 } undef…...

编程日记 2023/6/4 8:59:21

chatgpt赋能python：Python变量赋值

Python 变量赋值 在 Python 中，我们可以使用多种符号来给变量赋值。本文将介绍这些符号以及它们在编程中的应用。 等号（） 在 Python 中，我们最常用的符号是等号（），它可以将一个值赋给一个变量…...

编程日记 2023/6/4 8:54:20

SAP-QM-物料主数据-质量管理视图字段解析

过账到质检库存：要勾选，否则收货后库存不进入质检库存HU检验：收货到启用HU管理的库位时产生检验批，例如某个成品物料是收货到C002库位，该库位启用了HU管理，那么此处要勾选。但是如果勾选了，却收…...

编程日记 2023/6/4 8:49:19

【Netty】一行简单的writeAndFlush都做了哪些事（十八）

文章目录 前言一、源码分析1.1 ctx.writeAndFlush 的逻辑1.2 writeAndFlush 源码1.3 ChannelOutBoundBuff 类1.4 addMessage 方法1.5 addFlush 方法1.6 AbstractNioByteChannel 类 总结 前言 回顾Netty系列文章： Netty 概述（一）Netty 架构设…...

编程日记 2023/6/4 8:44:18

STM32U575 DMA配置

起个摘要，后期维护 1、DMA原理：参考：【STM32】DMA原理，配置步骤超详细，一文搞懂DMA_dma配置_~Old的博客-CSDN博客 2、STM32U575的DMA资源： （datasheet摘要） 3、UART的使用 4、I2…...

编程日记 2023/6/4 8:39:17

14-Vue3快速上手

目录 1.Vue3简介2. Vue3带来了什么2.1 性能的提升2.2 源码的升级2.3 拥抱TypeScript2.4 新的特性 1、海贼王，我当定了！——路飞 2、人，最重要的是“心”啊！——山治 3、如果放弃，我将终身遗憾。——路飞 4、人的梦想是…...

编程日记 2023/6/4 8:34:16

Docker registry 搭建

1、安装 docker 环境 参考：https://mp.csdn.net/mp_blog/creation/editor/104673841 2、准备 registry 镜像 机器有外网访问权限，直接 docker pull registry 通过 docker images 查看本地镜像 3、启动 registry docker run -d -p 5000:5000 --rest…...

编程日记 2023/6/4 8:29:15

关于三维布尔运算的几点思考

目录 三维布尔运算概述三角网格布尔运算效率提升思考BSPTree方式优化 参考 三维布尔运算概述 三维布尔运算根据三维实体数据结构表达分为CSG布尔运算、Brep布尔运算、三角网格布尔运算等类型。这几种类型算法在不同情境下有不同的优势，根据情况进行选择。但这也不能…...

编程日记 2023/6/4 8:24:14

【03.04】大数据教程--html+css基础

当谈到大数据时，HTML和CSS可能并不是最相关的技术。HTML和CSS主要用于构建网页和应用程序的用户界面，而大数据则涉及处理和分析大规模数据集。但是，如果您想展示有关大数据的信息或结果，并在网页上呈现，那么HTML和CSS可…...

编程日记 2023/6/4 8:19:13

深入理解与实践Seata：分布式事务解决方案

✅作者简介：热爱Java后端开发的一名学习者，大家可以跟我一起讨论各种问题喔。 🍎个人主页：Hhzzy99 🍊个人信条：坚持就是胜利！ 💞当前专栏：微服务 🥭本文内容&…...

编程日记 2023/6/4 8:14:12

Python学习笔记 - 探索元组Tuple的使用

欢迎各位，我是Mr数据杨，你们的Python导游。今天，我要为大家讲解一段特殊的旅程，它与《三国演义》有关，而我们的主角是元组（tuple）。 让我们想象这样一个场景，三国演义中的诸葛亮&am…...

编程日记 2023/6/4 8:09:10

JAVA网络编程（一）

一、什么是网络编程 定义：在网络通信协议下，不同计算机上运行的程序，进行的数据传输。 应用场景：即时通信，网游，邮件等 不管什么场景，都是计算机与计算机之间通过网络在进行数据传输 java提供一…...

编程日记 2023/6/4 8:04:09

Python 线程队列

文章目录 Python 中的线程在 Python 中使用队列限制线程 本篇文章将介绍限制 Python 中的活动线程数。 Python 中的线程 Python 中的线程允许多个执行线程在单个进程中同时运行。 每个线程独立于其他线程运行，允许并发执行并提高性能。 线程对于执行受 I/O 限制或…...

编程日记 2023/6/4 7:59:08

创建web后端程序(servlet程序搭建)

目录 一、Servlet概述 二、创建servlet程序 1.创建类继承HttpServlet 2.重写HttpServlet类中 service、destroy、init方法 3.重新启动服务器 一、Servlet概述 Server Applet的简称，用Java编写的服务器端的程序。它运行在web服务器中，web服务器负责…...

编程日记 2023/6/4 7:54:07

【章节1】git commit规范 + husky + lint-staged实现commit的时候格式化代码

创建项目我们不多说，可以选择默认的，也可以用你们现有的项目。注意章节1和章节2请一起看！ 章节1: commit规范 husky lint-staged格式化代码 章节2: husky 检测是否有未解决的冲突 预检查debugger 自动检查是否符合commit规范 前言&#x…...

编程日记 2023/6/4 7:49:06

【入门】拐角III

【入门】拐角III Description 输入整数N&#xff0c;输出相应方阵。 Input 一个整数N。&#xff08; 0 < n < 10 ) Output 一个方阵&#xff0c;每个数字的场宽为3。 Sample Input 1 5 Sample Output 1 5 5 5 5 55 4 4 4 45 4 3 3 35 4 3 2 25 4…...

编程日记 2023/6/4 7:44:05

如何使用 Fail2ban 防止对 Linux 的暴力攻击？

在当今数字化世界中&#xff0c;网络安全成为了一个极其重要的话题。Linux 作为一种广泛使用的操作系统&#xff0c;也面临着各种网络攻击的风险&#xff0c;包括暴力攻击、密码破解和恶意登录等。为了保护 Linux 系统的安全&#xff0c;我们可以使用 Fail2ban 这样的工具来防止…...

编程日记 2023/6/4 7:39:04

2023年，真的别裸辞....

作为IT行业的大热岗位——软件测试&#xff0c;只要你付出了&#xff0c;就会有回报。说它作为IT热门岗位之一是完全不虚的。可能很多人回说软件测试是吃青春饭的&#xff0c;但放眼望去&#xff0c;哪个工作不是这样的呢&#xff1f;会有哪家公司愿意养一些闲人呢&#xff1f;…...

编程日记 2023/6/4 7:34:02

规则引擎架构-基于easy-rules

目录 概念理解实例和编码抽象出2条规则简单的规则引擎事实1的处理事实2的处理 easy-rules 规则的抽象和执行事实描述规则的抽象默认的规则 动态代理执行规则和动作规则的执行&#xff1a;org.jeasy.rules.core.DefaultRulesEngine#doFirepublic class RuleProxy implements Inv…...

编程日记 2023/6/4 7:29:00

【数据结构】第七周

目录 稀疏矩阵快速转置 三元组的矩阵加法 九宫格数独游戏 数组主元素 螺旋数字矩阵 蛇形矩阵 数组循环右移K位 稀疏矩阵快速转置 【问题描述】 稀疏矩阵的存储不宜用二维数组存储每个元素&#xff0c;那样的话会浪费很多的存储空间。所以可以使用一个一维数组存…...

编程日记 2023/6/4 7:23:59