6Python的Pandas：数据读取与输出

Pandas是一个强大的Python数据分析库，提供了读取和输出数据的多种功能。以下是一些常见的数据读取与输出方法：

1. 读取CSV

读取数据

1. 从CSV文件读取数据

import pandas as pd# 读取CSV文件
df = pd.read_csv('file_path.csv')
print(df.head())

2. 从Excel文件读取数据

# 读取Excel文件
df = pd.read_excel('file_path.xlsx', sheet_name='Sheet1')
print(df.head())

3. 从SQL数据库读取数据

import sqlite3# 连接到SQLite数据库
conn = sqlite3.connect('database.db')# 读取SQL查询结果
df = pd.read_sql_query("SELECT * FROM table_name", conn)
print(df.head())

4. 从JSON文件读取数据

# 读取JSON文件
df = pd.read_json('file_path.json')
print(df.head())

输出数据

1. 将数据写入CSV文件

# 写入CSV文件
df.to_csv('output_file.csv', index=False)

2. 将数据写入Excel文件

# 写入Excel文件
df.to_excel('output_file.xlsx', index=False, sheet_name='Sheet1')

3. 将数据写入SQL数据库

# 将DataFrame写入SQLite数据库
df.to_sql('table_name', conn, if_exists='replace', index=False)

4. 将数据写入JSON文件

# 写入JSON文件
df.to_json('output_file.json', orient='records', lines=True)

示例操作

以下是一个从CSV文件读取数据并将其写入Excel文件的示例：

import pandas as pd# 读取CSV文件
df = pd.read_csv('input_file.csv')# 数据处理（例如：查看前五行数据）
print(df.head())# 写入Excel文件
df.to_excel('output_file.xlsx', index=False)

列数据处理

1. 选择列

# 选择指定的列
df_selected = df[['column1', 'column2']]
print(df_selected.head())

2. 新增列

# 新增一列，值为两列相加
df['new_column'] = df['column1'] + df['column2']
print(df.head())

3. 删除列

# 删除指定的列
df = df.drop(columns=['column1'])
print(df.head())

真假值转换

1. 将布尔值转换为0和1

# 将布尔值转换为0和1
df['boolean_column'] = df['boolean_column'].astype(int)
print(df.head())

2. 将0和1转换为布尔值

# 将0和1转换为布尔值
df['int_column'] = df['int_column'].astype(bool)
print(df.head())

跳过指定行

1. 跳过CSV文件的前几行

# 跳过前两行
df = pd.read_csv('file_path.csv', skiprows=2)
print(df.head())

读取指定行

1. 读取CSV文件中的特定行

# 读取第5行到第10行（注意，行索引从0开始）
df = pd.read_csv('file_path.csv', skiprows=lambda x: x not in range(5, 11))
print(df)

空值替换

1. 用指定值替换空值

# 用0替换所有空值
df = df.fillna(0)
print(df.head())

2. 用列的平均值替换空值

# 用列的平均值替换空值
df['column1'] = df['column1'].fillna(df['column1'].mean())
print(df.head())

示例操作

以下是一个综合示例，展示了如何进行这些操作：

import pandas as pd# 读取CSV文件，跳过前两行
df = pd.read_csv('file_path.csv', skiprows=2)# 选择指定的列
df_selected = df[['column1', 'column2']]# 新增一列，值为两列相加
df['new_column'] = df['column1'] + df['column2']# 将布尔值转换为0和1
df['boolean_column'] = df['boolean_column'].astype(int)# 用0替换所有空值
df = df.fillna(0)print(df.head())

这些操作可以帮助你高效地处理和转换数据，根据具体需求进行调整和组合。

2.读取Excel

Pandas可以方便地读取Excel文件并进行数据处理。以下是一些常见的操作和示例：

读取整个Excel文件

import pandas as pd# 读取整个Excel文件中的默认工作表
df = pd.read_excel('file_path.xlsx')
print(df.head())

读取指定工作表

# 读取指定的工作表
df = pd.read_excel('file_path.xlsx', sheet_name='Sheet1')
print(df.head())

读取多个工作表

# 读取多个工作表，将结果存储在字典中
dfs = pd.read_excel('file_path.xlsx', sheet_name=['Sheet1', 'Sheet2'])# 打印Sheet1的前几行
print(dfs['Sheet1'].head())# 打印Sheet2的前几行
print(dfs['Sheet2'].head())

读取所有工作表

# 读取所有工作表，将结果存储在字典中
dfs = pd.read_excel('file_path.xlsx', sheet_name=None)# 打印每个工作表的前几行
for sheet_name, df in dfs.items():print(f"Sheet: {sheet_name}")print(df.head())

跳过指定行

# 跳过前两行
df = pd.read_excel('file_path.xlsx', sheet_name='Sheet1', skiprows=2)
print(df.head())

读取指定行和列

# 读取第5到10行，指定列
df = pd.read_excel('file_path.xlsx', sheet_name='Sheet1', skiprows=4, nrows=6, usecols='A:C')
print(df)

空值处理

# 用指定值替换空值
df = pd.read_excel('file_path.xlsx', sheet_name='Sheet1')
df.fillna(0, inplace=True)
print(df.head())

示例操作

以下是一个综合示例，展示了如何读取Excel文件中的指定工作表、跳过行、读取特定行和列，并进行空值处理：

import pandas as pd# 读取指定的工作表，并跳过前两行
df = pd.read_excel('file_path.xlsx', sheet_name='Sheet1', skiprows=2)# 读取第5到10行，指定列
df = pd.read_excel('file_path.xlsx', sheet_name='Sheet1', skiprows=4, nrows=6, usecols='A:C')# 用0替换所有空值
df.fillna(0, inplace=True)print(df)

这些操作可以帮助你灵活地读取和处理Excel文件中的数据，根据需要进行调整和组合。

3.Pandas的输出

Pandas提供了多种将数据输出到不同格式文件的方法，包括CSV、Excel、JSON、SQL等。以下是一些常见的数据输出操作和示例：

输出到CSV文件

import pandas as pd# 创建示例数据
data = {'Name': ['Alice', 'Bob', 'Charlie'], 'Age': [25, 30, 35]}
df = pd.DataFrame(data)# 输出到CSV文件，不包含行索引
df.to_csv('output_file.csv', index=False)

输出到Excel文件

# 输出到Excel文件，不包含行索引
df.to_excel('output_file.xlsx', index=False, sheet_name='Sheet1')

输出到JSON文件

# 输出到JSON文件
df.to_json('output_file.json', orient='records', lines=True)

输出到SQL数据库

import sqlite3# 连接到SQLite数据库（如果数据库不存在，则会自动创建）
conn = sqlite3.connect('database.db')# 输出到SQL数据库
df.to_sql('table_name', conn, if_exists='replace', index=False)

设置分隔符、编码和格式

CSV文件设置分隔符和编码

# 输出到CSV文件，设置分隔符为分号，编码为UTF-8
df.to_csv('output_file.csv', sep=';', encoding='utf-8', index=False)

Excel文件格式化输出

# 输出到Excel文件，设置列宽
with pd.ExcelWriter('output_file.xlsx', engine='xlsxwriter') as writer:df.to_excel(writer, sheet_name='Sheet1', index=False)# 获取工作表对象worksheet = writer.sheets['Sheet1']# 设置列宽worksheet.set_column('A:A', 20)worksheet.set_column('B:B', 10)

示例操作

以下是一个综合示例，展示了如何将数据输出到CSV、Excel、JSON和SQL文件：

import pandas as pd
import sqlite3# 创建示例数据
data = {'Name': ['Alice', 'Bob', 'Charlie'], 'Age': [25, 30, 35]}
df = pd.DataFrame(data)# 输出到CSV文件，不包含行索引
df.to_csv('output_file.csv', index=False)# 输出到Excel文件，不包含行索引，设置列宽
with pd.ExcelWriter('output_file.xlsx', engine='xlsxwriter') as writer:df.to_excel(writer, sheet_name='Sheet1', index=False)worksheet = writer.sheets['Sheet1']worksheet.set_column('A:A', 20)worksheet.set_column('B:B', 10)# 输出到JSON文件
df.to_json('output_file.json', orient='records', lines=True)# 连接到SQLite数据库
conn = sqlite3.connect('database.db')# 输出到SQL数据库
df.to_sql('table_name', conn, if_exists='replace', index=False)

这些操作可以帮助你将Pandas DataFrame数据输出到多种格式文件，根据具体需求进行调整和组合。