当前位置: 首页 > news >正文

如何使用EasyExcel导入百万数据

摘要: 本文将详细探讨如何利用EasyExcel库,以及结合Java编程,高效地导入大规模数据至应用程序中。我们将逐步介绍导入流程、代码实现细节,并提供性能优化建议,旨在帮助读者在处理百万级别数据时,提高效率与可靠性。


在处理大规模数据时,内存溢出和性能瓶颈是常见的挑战。EasyExcel作为一款功能强大的Java库,提供了优秀的解决方案,可轻松应对这些挑战。本文将分步骤介绍如何使用EasyExcel来高效地导入大量数据。

准备工作

首先,确保项目中已经引入了EasyExcel库。您可以通过Maven或Gradle进行添加。以下是Maven的依赖配置示例:

<dependency><groupId>com.alibaba</groupId><artifactId>easyexcel</artifactId><version>2.2.9</version>
</dependency>

实现导入逻辑

我们首先创建一个名为LargerReadExcelUtil的工具类,其中包含了批量读取Excel的逻辑。这个类中包含了一个内部类ExcelListener,用作Excel的监听器,负责处理每行数据。

public class LargerReadExcelUtil {// 批次大小private static final int BATCH_SIZE = 10000;public void batchReadExcel(InputStream in) {// 创建Excel读取的监听器LargerReadExcelUtil.ExcelListener excelListener = new LargerReadExcelUtil.ExcelListener();// 分批读取// 注意:这里没有直接操作startRow和BATCH_SIZE,而是通过监听器和EasyExcel的配置进行读取EasyExcel.read(in, excelListener).sheet(0).doRead();}public class ExcelListener extends AnalysisEventListener<Map<Integer, String>> {private List<Map<String, Object>> dataList = new ArrayList<>();@Overridepublic void invoke(Map<Integer, String> data, AnalysisContext context) {// 将数据加工处理添加到 dataList 中。加工略//dataList.add(加工后的数据);// 当读取到 BATCH_SIZE 指定的行数时,处理数据,并清空列表if (dataList.size() >= BATCH_SIZE) {processBatchData(dataList);}}@Overridepublic void doAfterAllAnalysed(AnalysisContext context) {// 确保最后的数据也被处理if (!dataList.isEmpty()) {processBatchData(dataList);dataList.clear();}}@Overridepublic void invokeHeadMap(Map headMap, AnalysisContext context) {// 处理表头信息}public void processBatchData(List<Map<String, Object>> dataList) {// 批量插入逻辑//略}}
}

相关文章:

如何使用EasyExcel导入百万数据

摘要&#xff1a; 本文将详细探讨如何利用EasyExcel库&#xff0c;以及结合Java编程&#xff0c;高效地导入大规模数据至应用程序中。我们将逐步介绍导入流程、代码实现细节&#xff0c;并提供性能优化建议&#xff0c;旨在帮助读者在处理百万级别数据时&#xff0c;提高效率与…...

【解决】Unity Build 应用程序运行即崩溃问题

开发平台&#xff1a;Unity 2021.3.7f1c1   一、问题描述 编辑器 Build 工程结束&#xff0c;但控制台 未显示 Build completed with a result of Succeeded [时间长度] 信息。该情况下打包流程正常&#xff0c;但应用程序包打开即崩溃。   二、问题测试记录 测试1&#xf…...

C++数据结构——红黑树

前言&#xff1a;本篇文章我们继续来分享C中的另一个复杂数据结构——红黑树。 目录 一.红黑树概念 二.红黑树性质 三.红黑树实现 1.基本框架 2.插入 3.判断平衡 四.完整代码 总结 一.红黑树概念 红黑树&#xff0c;是一种二叉搜索树&#xff0c;但在每个结点上增加一个…...

Java并发编程:学习路线图

文章目录 一、操作系统内核原理1、进程管理详解2、内存管理详解3、IO输入输出系统详解4、进程间通信机制详解5、网络通信原理剖析 二、Java内存模型三、并发集合1、Map&#xff08;1&#xff09;ConcurrentHashMap&#xff08;2&#xff09;ConcurrentSkipListMap 2、List&…...

算法_前缀和

DP34 【模板】前缀和 import java.util.Scanner;// 注意类名必须为 Main, 不要有任何 package xxx 信息 public class Main {public static void main(String[] args) {Scanner in new Scanner(System.in);// 注意 hasNext 和 hasNextLine 的区别int n in.nextInt(),q in.ne…...

C语言(指针)7

Hi~&#xff01;这里是奋斗的小羊&#xff0c;很荣幸各位能阅读我的文章&#xff0c;诚请评论指点&#xff0c;关注收藏&#xff0c;欢迎欢迎~~ &#x1f4a5;个人主页&#xff1a;小羊在奋斗 &#x1f4a5;所属专栏&#xff1a;C语言 本系列文章为个人学习笔记&#x…...

线程纵横:C++并发编程的深度解析与实践

hello &#xff01;大家好呀&#xff01; 欢迎大家来到我的Linux高性能服务器编程系列之《线程纵横&#xff1a;C并发编程的深度解析与实践》&#xff0c;在这篇文章中&#xff0c;你将会学习到C新特性&#xff0c;并发编程&#xff0c;以及其如何带来的高性能的魅力&#xff0…...

在阿里云服务器上安装MySQL

目录 一、先卸载不需要的环境 1.关闭MySQL服务 2.查看安装包以及卸载安装包 3.依次卸载所有包 4. 获取mysql官⽅yum源 二、安装&#xff08;密钥过期解决方法&#xff09; 三、启动并进入 关于MySQL MySQL是一个广泛使用的开源关系型数据库管理系统&#xff08;RDBMS&…...

国标GB28181协议EasyCVR视频汇聚平台获取设备录像仅展示部分片段的原因排查

国标GB28181协议EasyCVR安防平台可以提供实时远程视频监控、视频录像、录像回放与存储、告警、语音对讲、云台控制、平台级联、磁盘阵列存储、视频集中存储、云存储等丰富的视频能力&#xff0c;平台支持7*24小时实时高清视频监控&#xff0c;能同时播放多路监控视频流&#xf…...

Java的类和对象(一)—— 初始类和对象,this关键字,构造方法

前言 从这篇文章开始&#xff0c;我们就进入到了JavaSE的核心部分。这篇文章是Java类和对象的第一篇&#xff0c;主要介绍类和对象的概念&#xff0c;this关键字以及构造方法~~ 什么是类&#xff1f;什么是对象&#xff1f; 学过C语言的老铁们&#xff0c;可以类比struct自定义…...

富格林:曝光虚假套路规避亏损

富格林指出&#xff0c;在现货黄金市场中&#xff0c;交易时间很充足投资机会也多的是&#xff0c;但为什么还是有人亏损甚至爆仓呢&#xff1f;其实导致这种情况&#xff0c;是因为有一些投资者不知道其中的虚假套路&#xff0c;很容易就一头栽进去了。要规避虚假套路带来的亏…...

数据源网站分享

1. 国家统计局&#xff1a; http://www.stats.gov.cn/提供国家宏观经济数据 2. 工业和信息化部&#xff1a; http://www.miit.gov.cn 发布工业运行及信息化相关数据 3. 中国人民银行&#xff1a; http://www.pbc.gov.cn/ 提供金融市场政策及运行相关数据 4. 国家金融监督…...

Flutter 中的 CupertinoAlertDialog 小部件:全面指南

Flutter 中的 CupertinoAlertDialog 小部件&#xff1a;全面指南 在Flutter中&#xff0c;CupertinoAlertDialog是用于在iOS风格的应用中显示警告或提示信息的模态对话框。它以其圆角卡片和模糊背景为特点&#xff0c;为用户提供了一个简洁而直观的交互界面。CupertinoAlertDi…...

【RAG 论文】UPR:使用 LLM 来做检索后的 re-rank

论文&#xff1a;Improving Passage Retrieval with Zero-Shot Question Generation ⭐⭐⭐⭐ EMNLP 2022, arXiv:2204.07496 Code: github.com/DevSinghSachan/unsupervised-passage-reranking 论文&#xff1a;Open-source Large Language Models are Strong Zero-shot Query…...

安全风险 - 如何解决 setAccessible(true) 带来的安全风险?

可能每款成熟的金融app上架前都会经过层层安全检测才能执行上架&#xff0c;所以我隔三差五就能看到安全检测报告中提到的问题&#xff0c;根据问题的不同级别&#xff0c;处理的优先级也有所不同&#xff0c;此次讲的主要是一个 “轻度问题” &#xff0c;个人认为属于那种可改…...

创建继承自QObject的线程:一个详细指南

目录标题 步骤 1&#xff1a;创建一个新的QObject子类步骤 2&#xff1a;在新的QObject子类中实现工作代码步骤 3&#xff1a;创建一个新的QThread对象步骤 4&#xff1a;管理线程的生命周期步骤 5&#xff1a;处理线程间通信结论 在Qt中&#xff0c;线程可以通过继承QThread类…...

java项目之智慧图书管理系统设计与实现(springboot+vue+mysql)

风定落花生&#xff0c;歌声逐流水&#xff0c;大家好我是风歌&#xff0c;混迹在java圈的辛苦码农。今天要和大家聊的是一款基于springboot的智慧图书管理系统设计与实现。项目源码以及部署相关请联系风歌&#xff0c;文末附上联系信息 。 项目简介&#xff1a; 智慧图书管理…...

分享一些人生道理,希望能对大家有所帮助!

1. 别总想出风头&#xff0c;炫耀就是深渊&#xff0c;贪心就是毁灭&#xff0c;人性的恶一旦被激发&#xff0c;后果不堪设想。 2. 戒取怨之言&#xff1a;不要说招人怨恨的话&#xff0c;播下使人怨恨的种子。 3. 学会感恩&#xff0c;因为感恩能够让你更加幸福。 4. 玉碎不能…...

【设计模式】JAVA Design Patterns——Abstract-document(抽象文档模式)

&#x1f50d; 目的 使用动态属性&#xff0c;并在保持类型安全的同时实现非类型化语言的灵活性。 &#x1f50d; 解释 抽象文档模式使您能够处理其他非静态属性。 此模式使用特征的概念来实现类型安全&#xff0c;并将不同类的属性分离为一组接口 真实世界例子 考虑由多个部…...

5.13网络编程

只要在一个电脑中的两个进程之间可以通过网络进行通信那么拥有公网ip的两个计算机的通信是一样的。但是一个局域网中的两台电脑上的虚拟机是不能进行通信的&#xff0c;因为这两个虚拟机在电脑中又有各自的局域网所以通信很难实现。 socket套接字是一种用于网络间进行通信的方…...

21 鸿蒙LiteOS软件定时器实战:多定时器周期性任务完整示例(源码+解析)

鸿蒙LiteOS软件定时器实战&#xff1a;多定时器周期性任务完整示例&#xff08;源码解析&#xff09; 一、前言 在嵌入式鸿蒙&#xff08;OpenHarmony LiteOS&#xff09;开发中&#xff0c;软件定时器是实现周期性任务、延时任务、定时触发逻辑的核心内核工具&#xff0c;无…...

BilibiliDown终极指南:5分钟掌握B站视频下载与音频提取

BilibiliDown终极指南&#xff1a;5分钟掌握B站视频下载与音频提取 【免费下载链接】BilibiliDown (GUI-多平台支持) B站 哔哩哔哩 视频下载器。支持稍后再看、收藏夹、UP主视频批量下载|Bilibili Video Downloader &#x1f633; 项目地址: https://gitcode.com/gh_mirrors/…...

3种方法彻底解决Realtek RTL8125 2.5GbE网卡驱动兼容性问题

3种方法彻底解决Realtek RTL8125 2.5GbE网卡驱动兼容性问题 【免费下载链接】realtek-r8125-dkms A DKMS package for easy use of Realtek r8125 driver, which supports 2.5 GbE. 项目地址: https://gitcode.com/gh_mirrors/re/realtek-r8125-dkms 你是否正在为Linux系…...

从零开始学大模型Agent:收藏这份反向学习路线,助你避开99%小白踩坑!

本文揭示当前大模型Agent学习路线普遍顺序错误&#xff0c;建议反向学习&#xff1a;先理解底层机制&#xff08;动手写最小Agent&#xff09;&#xff0c;再掌握LangGraph流程建模&#xff08;重点StateGraph、条件边、Checkpointer&#xff09;&#xff0c;深入核心模块工程&…...

别再乱用sleep了!Linux C++高精度延时实战指南(从usleep到std::sleep_for的避坑总结)

Linux C高精度延时实战&#xff1a;从传统陷阱到现代方案 在开发高性能服务器、嵌入式实时系统或音视频处理程序时&#xff0c;精确控制时间延迟是保证系统稳定性和响应速度的关键。许多开发者在使用sleep、usleep等延时函数时&#xff0c;常常遇到CPU占用率飙升、时序漂移或信…...

在树莓派等arm设备上观测大模型API调用的延迟与稳定性表现

&#x1f680; 告别海外账号与网络限制&#xff01;稳定直连全球优质大模型&#xff0c;限时半价接入中。 &#x1f449; 点击领取海量免费额度 在树莓派等ARM设备上观测大模型API调用的延迟与稳定性表现 在边缘计算或资源受限的环境中&#xff0c;例如使用树莓派等基于ARM架构…...

从‘Hello World’到工业通信:我的第一个C++ ADS客户端连接倍福PLC踩坑实录

从零搭建C ADS客户端&#xff1a;一位工程师的倍福PLC连接实战手记 第一次在Visual Studio里看到那个红色的编译错误时&#xff0c;我盯着屏幕足足愣了五分钟。"LNK2019: 无法解析的外部符号 __imp_AdsPortOpen"&#xff0c;这行冰冷的报错彻底击碎了我以为照着官方…...

如何免费突破网盘限速?8大平台直链下载终极指南

如何免费突破网盘限速&#xff1f;8大平台直链下载终极指南 【免费下载链接】Online-disk-direct-link-download-assistant 一个基于 JavaScript 的网盘文件下载地址获取工具。基于【网盘直链下载助手】修改 &#xff0c;支持 百度网盘 / 阿里云盘 / 中国移动云盘 / 天翼云盘 /…...

【职场】为什么越努力的人,在职场死得越惨?

为什么越努力的人&#xff0c;在职场死得越惨&#xff1f; ——没有人告诉你&#xff0c;努力本身是一种暴露。一、先说一个你亲眼见过&#xff0c;但从没想明白的现象 你身边一定有这样的人&#xff1a; 工作最拼的那个&#xff0c;最后被裁了。 加班最多的那个&#xff0c;升…...

【工业相机】大恒万兆网相机原生RS232串口调试|无需转换板、直连通信、最简接线教程(实测)

【工业相机】大恒万兆网相机原生RS232串口调试&#xff5c;无需转换板、直连通信、最简接线教程&#xff08;实测&#xff09;&#x1f4d1; 前言一、硬件说明二、最简接线方式&#xff08;重点&#xff09;2.1 接线逻辑2.2 实物接线&#xff08;直接照抄&#xff09;2.3 通俗口…...