当前位置： 首页 > news >正文

pandas数据预处理

news 2025/7/9 12:22:24

pandas数据预处理

  • pandas及其数据结构
    • pandas简介
      • Series数据结构及其创建
      • DataFrame数据结构及其创建
  • 利用pandas导入导出数据
    • 导入外部数据
      • 导入数据文件
    • 导出外部数据
      • 导出数据文件
  • 数据概览及预处理
    • 数据概览分析
      • 利用DataFrame的常用属性
      • 利用DataFrame的常用方法
    • 数据清洗
      • 缺失值处理
        • 删除法
        • 替换法
      • 重复值处理
        • 去重
      • 异常值检测与处理
      • 数据抽取与合并
        • 数据抽取
        • 数据合并
      • 数据增删改
      • 数据转换
  • 数据的描述性统计分析
    • 数据排序
    • 常见数据计算
      • 数值型特征的描述性统计
      • 类别型特征的描述统计
  • 分组统计分析
    • 数据分组
    • 分组聚合

pandas及其数据结构

pandas简介

pandas是Python语言的一个第三方库，开放源码，提供高性能、易于使用的数据结构和数据分析工具。pandas是一个强大的分析结构化数据的工具集，基于numpy实现的。
在这里插入图片描述

Series数据结构及其创建

pandas的核心是Series和DataFrame两大数据结构

  • Series数据结构是用于存储一个序列的一维数组，而DataFrame数据结构则是用于存储复杂数据的二维数据结构。
  • Series是一种类似于一维数组的对象，它是由一组数据，这组数据可以是Numpy中任意类型的数据，以及一组与之相关的数据标签组成。
  • Series对象的内部结构是由两个相互关联的数组组成，即数值和索引。
    在这里插入图片描述
    Series类型是带索引的一维数组对象。包含了一个值序列，并且包含了数据标签，称为索引(index)，可通过索引来访问数组中的数据。
    Series的创建格式:
    pandas.Series(data[, index])
    函数中的参数：
    data是输入给Series构造器的数据。
    index是Series对象中数据的标签（即索引）。
    例如：
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

DataFrame数据结构及其创建

DataFrame是一个表格型的数据结构，它含有一组有序的列，每列可以是不同的值类型(数值、字符串、布尔值等)。
分别有行索引和列索引。
常用于表达二维数组，也可以表达多维数组。DataFrame的创建格式:
在这里插入图片描述
pandas.DataFrame(data[,index[,columns]])
函数中的参数说明：

  • data是输入给DataFrame构造器的数据，见下页。
  • Index是DataFrame对象中行索引的标签。
  • columns是DataFrame对象中列索引的标签。
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

利用pandas导入导出数据

导入外部数据

导入数据文件

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

导出外部数据

导出数据文件

在这里插入图片描述

数据概览及预处理

数据概览分析

数据概览是在数据分析之前对数据的规模、数据的类型及数据的质量等进行概览性的分析
在这里插入图片描述

利用DataFrame的常用属性

在这里插入图片描述

利用DataFrame的常用方法

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

数据清洗

数据清洗是通过预处理，剔除数据中的噪声，恢复数据完整性和一致性
在这里插入图片描述

缺失值处理

删除法

在这里插入图片描述

替换法

在这里插入图片描述

重复值处理

去重

在这里插入图片描述

异常值检测与处理

在这里插入图片描述

数据抽取与合并

数据抽取

在这里插入图片描述

数据合并

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

数据增删改

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

数据转换

在这里插入图片描述

数据的描述性统计分析

数据排序

在这里插入图片描述
在这里插入图片描述

常见数据计算

在这里插入图片描述

数值型特征的描述性统计

在这里插入图片描述

类别型特征的描述统计

在这里插入图片描述
在这里插入图片描述

分组统计分析

数据分组

在这里插入图片描述
在这里插入图片描述

分组聚合

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

相关文章：

pandas数据预处理

pandas数据预处理 pandas及其数据结构pandas简介Series数据结构及其创建DataFrame数据结构及其创建 利用pandas导入导出数据导入外部数据导入数据文件 导出外部数据导出数据文件 数据概览及预处理数据概览分析利用DataFrame的常用属性利用DataFrame的常用方法 数据清洗缺失值处…...

编程日记 2023/6/4 9:49:33

Jupyter Notebook如何导入导出文件

目录 0.系统：windows 1.打开 Jupyter Notebook 2.Jupyter Notebook导入文件 3.Jupyter Notebook导出文件 0.系统：windows 1.打开 Jupyter Notebook 1）下载【Anaconda】后，直接点击【Jupyter Notebook】即可在网页打开 Jupyte…...

编程日记 2023/6/4 9:44:32

Linux：/dev/tty、/dev/tty0 和 /dev/console 之间的区别

在Linux操作系统中，/dev/tty、/dev/tty0和/dev/console是三个特殊的设备文件，它们在终端控制和输入/输出过程中扮演着重要的角色。尽管它们看起来很相似，但实际上它们之间存在一些重要的区别。本文将详细介绍这三个设备文件之间的区别以及它们…...

编程日记 2023/6/4 9:39:31

Linux 上安装 PostgreSQL——Ubuntu

打开 PostgreSQL 官网 PostgreSQL: The worlds most advanced open source database，点击菜单栏上的 Download ，可以看到这里包含了很多平台的安装包，包括 Linux、Windows、Mac OS等 。 Linux 我们可以看到支持 Ubuntu 和 Red Hat 等各个平台…...

编程日记 2023/6/4 9:34:30

合并两个有序链表（java）

leetcode 21题：合并两个有序链表 题目描述解题思路：链表的其它题型。 题目描述 leetcode21题：合并两个有序链表 将两个升序链表合并为一个新的 升序 链表并返回。新链表是通过拼接给定的两个链表的所有节点组成的。 示例： 输入&…...

编程日记 2023/6/4 9:29:29

KEYSIGHT是德DSOX4034A 示波器 350 MHz

KEYSIGHT是德DSOX4034A 示波器 350 MHz，是德4000 X 系列拥有一系列引以为傲的配置，包括采用了电容触摸屏技术的 12.1 英寸显示屏、InfiniiScan 区域触摸触发、100 万波形/秒捕获率、MegaZoom IV 智能存储器技术和标配分段存储器。 是德DSO-X4034A 主要特…...

编程日记 2023/6/4 9:24:28

局域网技术

共享信道的分配技术是局域网的核心技术，而这一技术又与网络的拓扑结构和传输介质有关。 拓扑结构： 1.总线型拓扑： 总线一种多点广播介质，所有的站点通过接口硬件连接到总线上。 传输介质主要是同轴电缆（基带和宽带…...

编程日记 2023/6/4 9:19:27

Pixhawk无人机-ArduPilot 软件SITL仿真模拟飞行（SITL+MAVProxy）

1 引言 本人是先看了多个博客实现了：在ubuntu下建立完整的ardupilot开发环境。 该文是基于搭建完编译环境后，也就是搭建好ardupilot的仿真环境实现的。 在文章: 《Pixhawk无人机扩展教程(5)—SITL仿真模拟飞行：开发环境搭建》.中指出&#…...

编程日记 2023/6/4 9:14:26

vue实现深拷贝的方法

在 vue中，深拷贝是一个很有用的功能，在不改变原来对象状态的情况下，进行对象的复制。 但要实现深拷贝，需要两个对象具有相同的属性。如果两个对象不同，深拷贝也不能实现。 1.我们将变量A的属性赋给变量B，但…...

编程日记 2023/6/4 9:09:24

LAMP架构

文章目录 LAMP架构一.简述各组件的主要作用如下： 二.过程展示1.编译安装Apache httpd服务(1)关闭防火墙，将安装Apache所需软件包传到/opt目录下(2)安装环境依赖包(3)配置软件模块(4)编译及安装(5)优化配置文件路径，并把httpd服务的可执行程序…...

编程日记 2023/6/4 9:04:22

javascript基础七：说说你对Javascript中作用域的理解?

一、作用域 作用域，即变量（变量作用域又称上下文）和函数生效（能被访问）的区域或集合 换句话说，作用域决定了代码区块中变量和其他资源的可见性 举个粟子 function myFunction(){let name小爱同学 } undef…...

编程日记 2023/6/4 8:59:21

chatgpt赋能python：Python变量赋值

Python 变量赋值 在 Python 中，我们可以使用多种符号来给变量赋值。本文将介绍这些符号以及它们在编程中的应用。 等号（） 在 Python 中，我们最常用的符号是等号（），它可以将一个值赋给一个变量…...

编程日记 2023/6/4 8:54:20

SAP-QM-物料主数据-质量管理视图字段解析

过账到质检库存：要勾选，否则收货后库存不进入质检库存HU检验：收货到启用HU管理的库位时产生检验批，例如某个成品物料是收货到C002库位，该库位启用了HU管理，那么此处要勾选。但是如果勾选了，却收…...

编程日记 2023/6/4 8:49:19

【Netty】一行简单的writeAndFlush都做了哪些事（十八）

文章目录 前言一、源码分析1.1 ctx.writeAndFlush 的逻辑1.2 writeAndFlush 源码1.3 ChannelOutBoundBuff 类1.4 addMessage 方法1.5 addFlush 方法1.6 AbstractNioByteChannel 类 总结 前言 回顾Netty系列文章： Netty 概述（一）Netty 架构设…...

编程日记 2023/6/4 8:44:18

STM32U575 DMA配置

起个摘要，后期维护 1、DMA原理：参考：【STM32】DMA原理，配置步骤超详细，一文搞懂DMA_dma配置_~Old的博客-CSDN博客 2、STM32U575的DMA资源： （datasheet摘要） 3、UART的使用 4、I2…...

编程日记 2023/6/4 8:39:17

14-Vue3快速上手

目录 1.Vue3简介2. Vue3带来了什么2.1 性能的提升2.2 源码的升级2.3 拥抱TypeScript2.4 新的特性 1、海贼王，我当定了！——路飞 2、人，最重要的是“心”啊！——山治 3、如果放弃，我将终身遗憾。——路飞 4、人的梦想是…...

编程日记 2023/6/4 8:34:16

Docker registry 搭建

1、安装 docker 环境 参考：https://mp.csdn.net/mp_blog/creation/editor/104673841 2、准备 registry 镜像 机器有外网访问权限，直接 docker pull registry 通过 docker images 查看本地镜像 3、启动 registry docker run -d -p 5000:5000 --rest…...

编程日记 2023/6/4 8:29:15

关于三维布尔运算的几点思考

目录 三维布尔运算概述三角网格布尔运算效率提升思考BSPTree方式优化 参考 三维布尔运算概述 三维布尔运算根据三维实体数据结构表达分为CSG布尔运算、Brep布尔运算、三角网格布尔运算等类型。这几种类型算法在不同情境下有不同的优势，根据情况进行选择。但这也不能…...

编程日记 2023/6/4 8:24:14

【03.04】大数据教程--html+css基础

当谈到大数据时，HTML和CSS可能并不是最相关的技术。HTML和CSS主要用于构建网页和应用程序的用户界面，而大数据则涉及处理和分析大规模数据集。但是，如果您想展示有关大数据的信息或结果，并在网页上呈现，那么HTML和CSS可…...

编程日记 2023/6/4 8:19:13

深入理解与实践Seata：分布式事务解决方案

✅作者简介：热爱Java后端开发的一名学习者，大家可以跟我一起讨论各种问题喔。 🍎个人主页：Hhzzy99 🍊个人信条：坚持就是胜利！ 💞当前专栏：微服务 🥭本文内容&…...

编程日记 2023/6/4 8:14:12

Java 语言特性(面试系列2)

一、SQL 基础 1. 复杂查询 （1）连接查询（JOIN） 内连接（INNER JOIN）：返回两表匹配的记录。 SELECT e.name, d.dept_name FROM employees e INNER JOIN departments d ON e.dept_id d.dept_id; 左…...

编程新知 2025/6/19 11:42:45

C++实现分布式网络通信框架RPC(3)--rpc调用端

目录 一、前言 二、UserServiceRpc_Stub 三、 CallMethod方法的重写 头文件 实现 四、rpc调用端的调用 实现 五、 google::protobuf::RpcController *controller 头文件 实现 六、总结 一、前言 在前边的文章中，我们已经大致实现了rpc服务端的各项功能代…...

编程新知 2025/7/8 22:12:46

docker详细操作--未完待续

docker介绍 docker官网: Docker：加速容器应用程序开发 harbor官网：Harbor - Harbor 中文 使用docker加速器: Docker镜像极速下载服务 - 毫秒镜像 是什么 Docker 是一种开源的容器化平台，用于将应用程序及其依赖项（如库、运行时环…...

编程新知 2025/7/6 18:34:54

R语言AI模型部署方案：精准离线运行详解

R语言AI模型部署方案：精准离线运行详解 一、项目概述 本文将构建一个完整的R语言AI部署解决方案，实现鸢尾花分类模型的训练、保存、离线部署和预测功能。核心特点： 100%离线运行能力自包含环境依赖生产级错误处理跨平台兼容性模型版本管理# 文件结构说明 Iris_AI_Deployme…...

编程新知 2025/6/15 6:20:40

逻辑回归：给不确定性划界的分类大师

想象你是一名医生。面对患者的检查报告（肿瘤大小、血液指标），你需要做出一个**决定性判断**：恶性还是良性？这种“非黑即白”的抉择，正是**逻辑回归（Logistic Regression）** 的战场&a…...

编程新知 2025/6/20 12:22:50

Redis相关知识总结（缓存雪崩，缓存穿透，缓存击穿，Redis实现分布式锁，如何保持数据库和缓存一致）

文章目录 1.什么是Redis？2.为什么要使用redis作为mysql的缓存？3.什么是缓存雪崩、缓存穿透、缓存击穿？3.1缓存雪崩3.1.1 大量缓存同时过期3.1.2 Redis宕机 3.2 缓存击穿3.3 缓存穿透3.4 总结 4. 数据库和缓存如何保持一致性5. Redis实现分布式…...

编程新知 2025/7/8 13:22:11

安宝特方案丨XRSOP人员作业标准化管理平台：AR智慧点检验收套件

在选煤厂、化工厂、钢铁厂等过程生产型企业，其生产设备的运行效率和非计划停机对工业制造效益有较大影响。 随着企业自动化和智能化建设的推进，需提前预防假检、错检、漏检，推动智慧生产运维系统数据的流动和现场赋能应用。同时，…...

编程新知 2025/7/8 17:05:28

MMaDA: Multimodal Large Diffusion Language Models

CODE ： https://github.com/Gen-Verse/MMaDA Abstract 我们介绍了一种新型的多模态扩散基础模型MMaDA，它被设计用于在文本推理、多模态理解和文本到图像生成等不同领域实现卓越的性能。该方法的特点是三个关键创新:(i) MMaDA采用统一的扩散架构&#xf…...

编程新知 2025/7/6 2:30:53

【JavaSE】绘图与事件入门学习笔记

-Java绘图坐标体系 坐标体系-介绍 坐标原点位于左上角，以像素为单位。 在Java坐标系中,第一个是x坐标,表示当前位置为水平方向，距离坐标原点x个像素;第二个是y坐标，表示当前位置为垂直方向，距离坐标原点y个像素。 坐标体系-像素 …...

编程新知 2025/7/9 8:30:10

如何理解 IP 数据报中的 TTL？

目录 前言理解 前言 面试灵魂一问：说说对 IP 数据报中 TTL 的理解？我们都知道，IP 数据报由首部和数据两部分组成，首部又分为两部分：固定部分和可变部分，共占 20 字节，而即将讨论的 TTL 就位于首…...

编程新知 2025/7/6 6:06:41