当前位置： 首页 > news >正文

pandas由入门到精通-数据清洗-扩展数据类型

news 2026/1/18 16:10:27

pandas-02-数据清洗&预处理

  • 扩展数据类型
    • 1. 传统数据类型缺点
    • 2. 扩展的数据类型
    • 3. 如何转换类型

文中用S代指Series，用Df代指DataFrame
数据清洗是处理大型复杂情况数据必不可少的步骤，这里总结一些数据清洗的常用方法：包括缺失值、重复值、异常值处理，数据类型统计，分箱，随机采样，向量化编码等方法。每种方法都给出了代码和实例，并用表格进行总结。

扩展数据类型

1. 传统数据类型缺点

  • Pandas中很多数据类型都来自于Numpy，但实际这些数据类型有以下几个问题：
  1. 在整数类型，布尔型数据类型等数据中，若含有缺失值（缺失值都会判断为float），则对Series类型判断则会出现问题，比如整数会判断为浮点数，布尔类型会判断为混合类型
  2. 字符串类型存储和计算成本大
  3. 没有有效支持时间的数据类型，如时间间隔，时间增量，区时时间。
    在这里插入图片描述

2. 扩展的数据类型

  • 因此pand

相关文章：

pandas由入门到精通-数据清洗-扩展数据类型

pandas-02-数据清洗&预处理 扩展数据类型1. 传统数据类型缺点2. 扩展的数据类型3. 如何转换类型文中用S代指Series，用Df代指DataFrame 数据清洗是处理大型复杂情况数据必不可少的步骤，这里总结一些数据清洗的常用方法：包括缺失值、重复值、异常值处理，数据类型统计，分…...

编程日记 2023/8/27 23:11:58

深入理解 Vue Router：构建可靠的前端路由系统

目录 01-什么是前端路由以及路由两种模式实现原理02-路由的基本搭建与嵌套路由模式03-动态路由模式与编程式路由模式04-命名路由与命名视图与路由元信息05-路由传递参数的多种方式及应用场景06-详解route对象与router对象07-路由守卫详解及应用场景 01-什么是前端路由以及路由两…...

编程日记 2023/8/27 23:10:57

Mysql B+数索引结构

一、B树和B树区别 二、 B 树形成过程 三、页分裂过程 3.1 页分裂过程实例 3.1.1 原有数据1、3、5形成如下数据页 3.1.2 先新插入数据4，因为 页10 最多只能放3条记录所以我们不得不再分配一个新页： 新分配的数据页编号可能并不是连续的，也…...

编程日记 2023/8/27 23:09:56

在window上配置NASM

NASM是支持x86、x64架构CPU的汇编器(汇编软件)；NASM也支持大量的文件格式，包括Linux，*BSD，a.out，ELF，COFF，Mach−O，Microsoft 16−bit OBJ，Win32以及Win64，同…...

编程日记 2023/8/27 23:08:53

用QT实现MVP模式

近些天用qt 作项目,遇到参数界面.偷闲写个mvp模式示例. mvp模式重要的有两点 1 低耦合: 界面与后端数据类,不直接引用,可方便替换. 2 形成界面驱动-界面更新的闭环.:通过函数指针类技术,让数据自动回流. MVP (Model-View-Presenter) 视图（View）: 接…...

编程日记 2023/8/27 23:07:53

（2023）Linux安装pytorch并使用pycharm远程编译运行

（2023）Linux安装pytorch并使用pycharm远程编译运行 安装miniconda 这部分参考我这篇博客的前半部分Linux服务器上通过miniconda安装R（2022）_miniconda 安装r_Dream of Grass的博客-CSDN博客 创建环境 创建一个叫pytorch的环境…...

编程日记 2023/8/27 23:06:50

poi带表头多sheet导出

导出工具类 package com.hieasy.comm.core.excel;import com.hieasy.comm.core.excel.fragment.ExcelFragment; import com.hieasy.comm.core.utils.mine.MineDateUtil; import org.apache.poi.hssf.usermodel.*; import org.apache.poi.ss.usermodel.*; import org.apache.po…...

编程日记 2023/8/27 23:05:47

RedisDesktopManager（redis客户端，可输入用户名密码）

RedisDesktopManager（redis客户端，可输入用户名密码） Redis桌面管理器（又名RDM） - 是一个用于Windows，Linux和MacOS的快速开源Redis数据库管理应用程序。可以使用url连接或账号密码。 redis设置账号密码后…...

编程日记 2023/8/27 23:04:46

【Adobe After Effects】关于ae点击空格不会播放反而回退一帧的解决方案

最近玩ae的时候遇见了一个小问题，就是有时候敲空格，视频没办法播放，反而会回退一帧，经过摸索发现了一个解决办法： 点击编辑---首选项 然后选择“音频硬件” 然后选择正确的默认输出，点击确定即可...

编程日记 2023/8/27 23:03:44

Linux网络编程：多路I/O转接服务器（select poll epoll）

文章目录： 一：select 1.基础API select函数 思路分析 select优缺点 2.server.c 3.client.c 二：poll 1.基础API poll函数 poll优缺点 read函数返回值 突破1024 文件描述符限制 2.server.c 3.client.c 三：epoll …...

编程日记 2023/8/27 23:02:43

Mybatis系列原理剖析之项目实战：自定义持久层框架

Mybatis系列原理剖析之：项目实战：自定义持久层框架 持久层是JAVA EE三层体系架构中，与数据库进行交互的一层，持久层往往被称为dao层。需要说明的是，持久层的技术选型有很多，绝不仅仅只有mybatis一种。像早…...

编程日记 2023/8/27 23:01:42

阿里云 Serverless 应用引擎 2.0，正式公测！

阿里云 Serverless 应用引擎 SAE2.0 正式公测上线！全面升级后的 SAE2.0 具备极简体验、标准开放、极致弹性三大优势，应用冷启动全面提效，秒级完成创建发布应用，应用成本下降 40% 以上。 此外，阿里云还带来容器服务 Se…...

编程日记 2023/8/27 23:00:41

西北大学计算机考研844高分经验分享

西北大学计算机考研844经验分享 个人介绍 ​ 本人是西北大学22级软件工程研究生，考研专业课129分，过去一年里在各大辅导机构任职，辅导考研学生专业课844，辅导总时长达288小时，帮助多名学生专业课高分上岸。 前情回顾…...

编程日记 2023/8/27 22:59:39

【java并发编程的艺术读书笔记】volatile关键字介绍、与synchronized的区别

volatile的简介 volatile是轻量级锁，只用来修饰变量，保证这个变量在多线程下的可见性以及一致性（一个volatile变量被线程修改时会立刻通知其他所有线程），防止指令重排序，但是并不能保证绝对的线程安全 vol…...

编程日记 2023/8/27 22:58:37

LinkedList的顶级理解

目录 1.LinkedList的介绍 LinkedList的结构 2.LinkedList的模拟实现 2.1创建双链表 2.2头插法 2.3尾插法 2.4任意位置插入 2.5查找关键字 2.6链表长度 2.7遍历链表 2.8删除第一次出现关键字为key的节点 2.9删除所有值为key的节点 2.10清空链表 2.11完整代码 3.…...

编程日记 2023/8/27 22:57:36

再学http-为什么文件上传要转成Base64？

1 前言 最近在开发中遇到文件上传采用Base64的方式上传，记得以前刚开始学http上传文件的时候，都是通过content-type为multipart/form-data方式直接上传二进制文件，我们知道都通过网络传输最终只能传输二进制流，所以毫无疑问他们本…...

编程日记 2023/8/27 22:56:35

使用oracleVM搭建虚拟机

选择新建，点击 取名字，选择你的安装路径，选择你爹镜像光盘，再勾选下面的，表示跳过一些步骤 其他的都可以默认，下一步即可 创建好了，点击设置，改变光驱，硬盘的顺序 等待它…...

编程日记 2023/8/27 22:55:34

深入探讨C存储类和存储期——Storage Duration

🔗 《C语言趣味教程》👈 猛戳订阅！！！ ​—— 热门专栏《维生素C语言》的重制版 —— 💭 写在前面：这是一套 C 语言趣味教学专栏，目前正在火热连载中，欢迎猛戳订阅&#…...

编程日记 2023/8/27 22:54:33

医学图像融合的深度学习方法综述

文章目录 Deep learning methods for medical image fusion: A review摘要引言非端到端的融合方法基于深度学习的决策映射基于深度学习的特征提取 端到端图像融合方法基于卷积神经网络(CNN)的图像融合方法单级特征融合方法多级特征融合基于残差神经网络的图像融合方法基于密集神…...

编程日记 2023/8/27 22:53:31

【Qt学习】04：QDialog

QDialog OVERVIEW QDialog一、自定义对话框1.模态对话框2.非模态对话框3.练习代码 二、标准对话框1.消息对话框2.文件对话框3.颜色对话框4.字体对话框 对话框是 GUI 程序中不可或缺的组成部分，对话框通常会是一个顶层窗口出现在程序最上层，用于实现短期任…...

编程日记 2023/8/27 22:52:26

Zustand 状态管理库：极简而强大的解决方案

Zustand 是一个轻量级、快速和可扩展的状态管理库，特别适合 React 应用。它以简洁的 API 和高效的性能解决了 Redux 等状态管理方案中的繁琐问题。 核心优势对比 基本使用指南 1. 创建 Store // store.js import create from zustandconst useStore create((set)…...

编程新知 2026/1/18 8:30:25

C++中string流知识详解和示例

一、概览与类体系 C 提供三种基于内存字符串的流&#xff0c;定义在 <sstream> 中&#xff1a; std::istringstream&#xff1a;输入流&#xff0c;从已有字符串中读取并解析。std::ostringstream&#xff1a;输出流&#xff0c;向内部缓冲区写入内容&#xff0c;最终取…...

编程新知 2025/11/30 11:30:47

Mysql中select查询语句的执行过程

目录 1、介绍 1.1、组件介绍 1.2、Sql执行顺序 2、执行流程 2.1. 连接与认证 2.2. 查询缓存 2.3. 语法解析&#xff08;Parser&#xff09; 2.4、执行sql 1. 预处理&#xff08;Preprocessor&#xff09; 2. 查询优化器&#xff08;Optimizer&#xff09; 3. 执行器…...

编程新知 2026/1/15 5:01:54

Kafka主题运维全指南：从基础配置到故障处理

#作者&#xff1a;张桐瑞 文章目录 主题日常管理1. 修改主题分区。2. 修改主题级别参数。3. 变更副本数。4. 修改主题限速。5.主题分区迁移。6. 常见主题错误处理常见错误1&#xff1a;主题删除失败。常见错误2&#xff1a;__consumer_offsets占用太多的磁盘。 主题日常管理 …...

编程新知 2025/6/10 21:14:43

tomcat指定使用的jdk版本

说明 有时候需要对tomcat配置指定的jdk版本号&#xff0c;此时&#xff0c;我们可以通过以下方式进行配置 设置方式 找到tomcat的bin目录中的setclasspath.bat。如果是linux系统则是setclasspath.sh set JAVA_HOMEC:\Program Files\Java\jdk8 set JRE_HOMEC:\Program Files…...

编程新知 2025/6/10 21:11:28

Docker拉取MySQL后数据库连接失败的解决方案

在使用Docker部署MySQL时&#xff0c;拉取并启动容器后&#xff0c;有时可能会遇到数据库连接失败的问题。这种问题可能由多种原因导致&#xff0c;包括配置错误、网络设置问题、权限问题等。本文将分析可能的原因&#xff0c;并提供解决方案。 一、确认MySQL容器的运行状态 …...

编程新知 2026/1/15 21:57:16

第八部分：阶段项目 6：构建 React 前端应用

现在&#xff0c;是时候将你学到的 React 基础知识付诸实践&#xff0c;构建一个简单的前端应用来模拟与后端 API 的交互了。在这个阶段&#xff0c;你可以先使用模拟数据&#xff0c;或者如果你的后端 API&#xff08;阶段项目 5&#xff09;已经搭建好&#xff0c;可以直接连…...

编程新知 2025/9/21 1:58:01

解析两阶段提交与三阶段提交的核心差异及MySQL实现方案

引言 在分布式系统的事务处理中&#xff0c;如何保障跨节点数据操作的一致性始终是核心挑战。经典的两阶段提交协议&#xff08;2PC&#xff09;通过准备阶段与提交阶段的协调机制&#xff0c;以同步决策模式确保事务原子性。其改进版本三阶段提交协议&#xff08;3PC&#xf…...

编程新知 2026/1/17 12:13:02

拟合问题处理

在机器学习中&#xff0c;核心任务通常围绕模型训练和性能提升展开&#xff0c;但你提到的 “优化训练数据解决过拟合” 和 “提升泛化性能解决欠拟合” 需要结合更准确的概念进行梳理。以下是对机器学习核心任务的系统复习和修正&#xff1a; 一、机器学习的核心任务框架 机…...

编程新知 2025/9/6 11:47:54

高抗扰度汽车光耦合器的特性

晶台光电推出的125℃光耦合器系列产品&#xff08;包括KL357NU、KL3H7U和KL817U&#xff09;&#xff0c;专为高温环境下的汽车应用设计&#xff0c;具备以下核心优势和技术特点&#xff1a; 一、技术特性分析 高温稳定性 采用先进的LED技术和优化的IC设计&#xff0c;确保在…...

编程新知 2026/1/17 15:48:32