当前位置： 首页 > news >正文

CV-OCR经典论文解读|An Empirical Study of Scaling Law for OCR/OCR 缩放定律的实证研究

news 文章来源：https://blog.csdn.net/paixiaoxin/article/details/144612682 2025/5/10 15:03:32

论文标题

An Empirical Study of Scaling Law for OCR

OCR 缩放定律的实证研究

论文链接：

An Empirical Study of Scaling Law for OCR论文下载

论文作者

Miao Rang, Zhenni Bi, Chuanjian Liu, Yunhe Wang, Kai Han

内容简介

本论文在光学字符识别（OCR）领域首次系统性地研究了模型规模、数据量、计算量与模型性能之间的扩展规律（Scaling Law）。研究团队构建了大规模数据集REBU-Syn，并基于此数据集和发现的扩展规律，训练了一个场景文本识别模型，该模型在多个测试基准上达到了业界领先的准确率。

方法详解

1.模型规模与性能关系

  • 实验设计：研究者选择了基于Transformer的模型，包括TrOCR和PARSeq，并在不同的模型规模下进行了实验，参数数量从50M到1B不等。
  • 幂律关系：实验结果表明，模型性能与模型规模之间存在平滑的幂律关系，即模型性能随着模型规模的增加而提高。

2.数据量与性能关系

  • 数据集构建：研究者创建了REBU-Syn数据集，包含600万真实样本和1800万合成样本。
  • 实验分析：通过改变训练数据量，研究者发现数据量与模型性能之间也遵循幂律关系，即增加数据量可以提升模型性能。

3.计算量与性能关系

计算资源分析：研究者探讨了模型训练的计算量（以训练小时数计）与模型性能之间的关系，并发现它们之间也符合幂律分布。

4.数据来源比例

真实与合成数据的平衡：研究指出，模型训练中真实数据与合成数据的比例对性能有显著影响，提出了1:3的合成数据与真实数据比例为最佳。

5.预训练模型的有效性

特定任务预训练：研究比较了在OCR相关数据上预训练的模型与在一般图像数据上预训练的模型，发现特定于OCR任务的预训练模型在OCR任务上表现更优。

6.大规模数据集REBU-Syn

  • 数据集构成：REBU-Syn数据集结合了真实世界数据和合成数据，提供了丰富的样本以支持大规模模型训练。
  • 数据集影响：该数据集对模型训练和性能提升起到了关键作用。

7.实验设置和评估指标

  • 超参数调整：研究者根据模型的不同调整了训练周期和学习率。
  • 评估指标：使用单词准确率作为主要评估指标，确保了评估的公平性。

结果与讨论

  • 幂律关系的确立：研究确立了OCR领域中模型规模、数据量和计算量与模型性能之间的幂律关系。
  • 模型训练原则：发现大规模模型更有效利用样本，特定任务预训练模型更有效，以及数据来源比例对模型性能有显著影响。
  • 性能提升：基于上述原则，研究者训练的模型在多个测试基准上达到了97.42%的新最高准确率。
  • 成本与效益：虽然大规模模型性能更好，但其训练成本也更高，因此需要仔细选择超参数以优化性能。
  • 未来方向：研究者提出未来将探索在更具挑战性的数据集上应用扩展规律，如手写文本和历史文献。

本论文的研究不仅为OCR领域提供了宝贵的见解，也为未来模型设计和训练提供了指导性原则。-

CV-OCR必读论文合集：

CV-OCR必读论文合集

希望这些论文能帮到你！如果觉得有用，记得点赞关注哦~ 后续还会更新更多论文合集！！

相关文章：

CV-OCR经典论文解读|An Empirical Study of Scaling Law for OCR/OCR 缩放定律的实证研究

论文标题 An Empirical Study of Scaling Law for OCR OCR 缩放定律的实证研究 论文链接： An Empirical Study of Scaling Law for OCR论文下载 论文作者 Miao Rang, Zhenni Bi, Chuanjian Liu, Yunhe Wang, Kai Han 内容简介 本论文在光学字符识别&#xf…...

编程日记 2024/12/24 1:00:28

力扣274. H 指数

给你一个整数数组 citations ，其中 citations[i] 表示研究者的第 i 篇论文被引用的次数。计算并返回该研究者的 h 指数。 根据维基百科上 h 指数的定义：h 代表“高引用次数” ，一名科研人员的 h 指数 是指他（她）至少发…...

编程日记 2024/12/24 0:58:25

挑战一个月基本掌握C++（第五天）了解运算符，循环，判断

一 运算符 运算符是一种告诉编译器执行特定的数学或逻辑操作的符号。C 内置了丰富的运算符，并提供了以下类型的运算符： 算术运算符关系运算符逻辑运算符位运算符赋值运算符杂项运算符 1.1 算术运算符 假设变量 A 的值为 10，变量 B 的值为…...

编程日记 2024/12/24 0:57:24

Python的sklearn中的RandomForestRegressor使用详解

文章目录 Python的sklearn中的RandomForestRegressor使用详解一、引言二、RandomForestRegressor简介1、随机森林回归原理2、RandomForestRegressor的主要参数 三、构建和训练模型1、数据准备2、数据划分3、模型训练 四、模型评估1、预测2、评估指标 五、特征重要性分析六、可视…...

编程日记 2024/12/24 0:53:20

ReactPress 1.6.0：重塑博客体验，引领内容创新

ReactPress 是一个基于Next.js的博客&CMS系统， Github项目地址：https://github.com/fecommunity/reactpress 欢迎Star。 体验地址：http://blog.gaoredu.com/ 今天，我们自豪地宣布ReactPress 1.6.0版本的正式发布，…...

编程日记 2024/12/24 0:50:17

人脸生成3d模型 Era3D

从单视图图像进行3D重建是计算机视觉和图形学中的一项基本任务，因为它在游戏设计、虚拟现实和机器人技术中具有潜在的应用价值。早期的研究主要依赖于直接在体素上进行3D回归，这往往会导致过于平滑的结果，并且由于3D训练数据的限制&#xff0…...

编程日记 2024/12/24 0:41:09

kubeadm搭建k8s集群

前置环境： 准备三台虚拟机 192.168.1.104（用来做k8s的mater节点） 192.168.1.105（节点node2） 192.168.1.109（节点node3） 关闭防火墙 systemctl stop firewalld systemctl disable firewalld安装…...

编程日记 2024/12/24 0:40:08

centOS系统进程管理基础知识

进程的概念与属性 1.进程是系统中正在执行的代码片段，也可以称为一个程序。 2.操作系统通过分配进程编号（PID）来管理进程。 3.进程属性包括PID、PPID、UID、GID、状态、优先级、终端名和资源占用等。 PS命令与进程查看 1.PS命令用于查看进程…...

编程日记 2024/12/24 0:30:59

STM32中ADC模数转换器

一、ADC简介 ADC模拟-数字转换器 ADC可以将引脚连续变化的模拟电压转换为内存中存储的数字变量，建立模拟电路到数字电路的桥梁 12位逐次逼近型ADC，1us转换时间 输入电压范围： 0~3.3V，转换结果范围：0~4095 18个输入…...

编程日记 2024/12/24 0:27:56

初学stm32 --- 外部中断

目录 STM32 IO 口中断基础知识 相关库函数： 使用 IO 口外部中断的一般步骤 STM32 IO 口中断基础知识 STM32 的每个 IO 都可以作为外部中断的中断输入口。STM32F103 的中断控制器支持 19 个外部中断/事件请求。每个中断设有状态位，每个中断/事件都有独立…...

编程日记 2024/12/24 0:26:54

wordpress调用指定分类ID下 相同标签的内容

要在WordPress中调用分类ID为1、3、7的分类下，具有相同标签的前10个内容，可以使用自定义的WordPress查询(WP_Query)。以下是实现此功能的步骤和示例代码： 步骤： 确定共同标签： 首先，你需要确定分类1、3、…...

编程日记 2024/12/24 0:25:54

SQL语法基础知识总结

一、引言 在当今数字化时代，数据的存储和管理至关重要。SQL（Structured Query Language），即结构化查询语言，是用于管理关系型数据库的强大工具。无论是开发 Web 应用、进行数据分析还是处理企业级数据，掌握…...

编程日记 2024/12/24 0:24:52

css 实现呼吸灯效果

先看效果&#xff1a; 动画的结果就想实在呼吸,完整的代码如下&#xff1a; <template><div class"container"><div class"long-breath"></div></div> </template><style lang"less"> html, body{h…...

编程日记 2024/12/24 0:23:51

IMX6ULL开发板如何关掉自带的QT的GUI界面和poky的界面的方法

重要说明&#xff1a;其实最后发现根本没必要去关掉自带的QT的GUI界面&#xff0c;直接把屏幕先刷黑就可以看到测试效果了&#xff0c;把屏蔽先刷黑的代码见博文&#xff1a; https://blog.csdn.net/wenhao_ir/article/details/144594705 不过&#xff0c;既然花了时间摸索如何…...

编程日记 2024/12/24 0:21:49

几种广泛使用的 C++ 编译器

C 编译器有很多种&#xff0c;它们在不同的操作系统和开发环境中提供服务。以下是几种广泛使用的 C 编译器&#xff1a; 1. GCC (GNU Compiler Collection) 平台&#xff1a;跨平台&#xff08;Linux, macOS, Windows&#xff09;特点&#xff1a;GCC 是一个自由软件编译器套…...

编程日记 2024/12/24 0:19:47

《Vue进阶教程》第十六课：深入完善响应式系统之单例模式

往期内容&#xff1a; 《Vue进阶教程》第五课&#xff1a;ref()函数详解(重点) 《Vue进阶教程》第六课&#xff1a;computed()函数详解(上) 《Vue进阶教程》第七课&#xff1a;computed()函数详解(下) 《Vue进阶教程》第八课&#xff1a;watch()函数的基本使用 《Vue进阶教…...

编程日记 2024/12/24 0:17:45

C语言版解法力扣题：将整数按权重排序

1.题目描述 我们将整数 x 的 权重 定义为按照下述规则将 x 变成 1 所需要的步数&#xff1a; 如果 x 是偶数&#xff0c;那么 x x / 2 如果 x 是奇数&#xff0c;那么 x 3 * x 1 比方说&#xff0c;x3 的权重为 7 。因为 3 需要 7 步变成 1 &#xff08;3 --> 10 -->…...

编程日记 2024/12/24 0:14:42

Unity ECS和OOP优劣对比

OOP的优劣 面向对象编程&#xff08;OOP, Object-Oriented Programming&#xff09;是一种通过对象及其交互来组织代码的编程范式&#xff0c;广泛应用于软件开发中。以下是OOP的优缺点&#xff1a; 优点 代码可重用性 继承机制&#xff1a;通过继承&#xff0c;子类可以复用…...

编程日记 2024/12/24 0:11:38

【Java基础面试题026】Java中的String、StringBuffer和StringBuilder的区别是什么？

回答重点 他们都是Java中处理字符串的类&#xff0c;区别主要体现在可变性、线程安全和性能上 1&#xff09;String 不可变&#xff1a;String是不可变类&#xff0c;字符串对象创建&#xff0c;存储在堆中&#xff0c;字符串内容存储在字符串常量池中&#xff0c;一旦创建内…...

编程日记 2024/12/24 0:10:37

解析在OceanBase创建分区的常见问题｜OceanBase 用户问题精粹

在《分区策略和管理分区计划的实践方案》这篇文章中&#xff0c;我们介绍了在ODC中制定分区策略及有效管理分区计划的经验。有不少用户在该帖下提出了使用中的问题&#xff0c;其中一个关于创建分区的限制条件的问题&#xff0c;也是很多用户遭遇的老问题。因此本文以其为切入&…...

编程日记 2024/12/24 0:07:34

Flutter组件————Container

Container Container 是 Flutter 中最常用的布局组件之一 参数 参数名称类型描述alignmentAlignmentGeometry定义子组件在其内部的对齐方式&#xff0c;默认为 null&#xff0c;即不改变子组件的位置。paddingEdgeInsetsGeometry内边距&#xff0c;用于在子组件周围添加空间…...

编程日记 2024/12/24 0:05:31

Java重要面试名词整理（二）：SpringMyBatis

文章目录 Spring篇Spring核心推断构造方法AOP动态代理Advice的分类Advisor的理解AOP相关的概念 定义BeanASM技术JFR依赖注入循环依赖LifecycleSpring AOT Spring事务Spring事务传播机制Spring事务传播机制是如何实现的呢?Spring事务传播机制分类 SpringMVCHandlerHandlerMappi…...

编程日记 2024/12/24 0:03:29

Excel生成DBC脚本源文件

Excel制作 新建一个Excel&#xff0c;后缀为“.xls” 工作本名称改为“CAN_Matrix” 在首行按照列来起名字&#xff0c;在里面只需要填写必须的内容即可。 列数名称第0列Message Name第1列Message Format第2列Message ID第3列Message Length (byte)第4列Message Transmitte…...

编程日记 2024/12/23 23:59:26

Git进阶：本地或远程仓库如何回滚到之前的某个commit

在Git的使用过程中&#xff0c;我们经常会遇到需要回滚到之前某个commit的情况。无论是为了修复错误、撤销更改&#xff0c;还是为了重新组织代码&#xff0c;回滚到特定commit都是一个非常有用的技能。本文将介绍几种常用的回滚方法&#xff0c;帮助读者更好地掌握Git版本控制…...

编程日记 2024/12/23 23:56:23

linux 中文输入法设置的宏观思路 (****)

乱是永远的不乱，变是永远的不变。 $ ibus help # 注意：help 前没有杠符号 $ setxkbmap -help # 注意：help 前只有一个杠符号 $ localectl --help # 注意：help 前有 2 个杠符号 $ man im-config # 注意：-h, --help 只出来提示信息：请参考。。。。。。。 $ man abc…...

编程日记 2024/12/23 23:48:16

271-基于XC7V690T的12路光纤PCIe接口卡

一、板卡概述 基于XC7V690T的12路光纤PCI-E接口卡&#xff0c;用于实现多通道高速光纤数据接收和发送&#xff0c;板卡兼容PCIe 2.0和PCIe 3.0规范&#xff0c;利用PCI-E Switch PEX 8748实现FPGA芯片与计算机的通信&#xff0c;计算机与板卡接口处提供PCI-e 16速接口&#xff…...

编程日记 2024/12/23 23:41:09

Semaphore UI安装和实践

本次实验环境采用centos7.9操作系统&#xff0c;使用rpm包安装方式。 1.配置yum源 --下载centos华为云镜像仓库 wget -O /etc/yum.repos.d/CentOS-Base.repo https://mirrors.huaweicloud.com/repository/conf/CentOS-7-anon.repo[rootlocalhost ~]# wget -O /etc/yum.repos.…...

编程日记 2024/12/23 23:35:04

Redis篇--常见问题篇7--缓存一致性2（分布式事务框架Seata）

1、概述 在传统的单体应用中&#xff0c;事务管理相对简单&#xff0c;通常使用数据库的本地事务&#xff08;如MySQL的BEGIN和COMMIT&#xff09;来保证数据的一致性。然而&#xff0c;在微服务架构中&#xff0c;由于每个服务都有自己的数据库&#xff0c;跨服务的事务管理变…...

编程日记 2024/12/23 23:34:02

Docker Compose 安装 Harbor

我使用的系统是rocky Linux 9 1. 准备环境 确保你的系统已经安装了以下工具&#xff1a; DockerDocker ComposeOpenSSL&#xff08;用于生成证书&#xff09;#如果不需要通过https连接的可以不设置 1.1 安装 Docker 如果尚未安装 Docker&#xff0c;可以参考以下命令安装&…...

编程日记 2024/12/23 23:29:59

使用docker compose安装gitlab

使用docker compose安装gitlab GitLab简介设置GITLAB_HOME路径创建docker挂载目录获取可用的GitLab版本编写docker-compose.yml文件启动docker基础配置GITLAB_OMNIBUS_CONFIG修改配置 中文设置数据库配置系统邮箱配置 GitLab简介 ‌GitLab是一个基于Git的开源项目&#xff0c;…...

编程日记 2024/12/23 23:26:55