ets:tab2list的不足之处与替代方法,以及gen_server中使用ets的优缺点
ets:tab2list 是 Erlang/OTP 中的一个函数,用于将 ETS(Erlang Term Storage)表转换为列表。ETS 是 Erlang 中的一个内建数据库,允许开发者在内存中存储大量数据。
一、ets:tab2list 的不足之处:
- 性能问题:对于非常大的 ETS 表,
ets:tab2list可能会消耗大量的内存和时间,因为它一次性地返回整个表的内容。这可能导致长时间的阻塞和高内存使用。- 不适合生产环境:在生产环境中,频繁地将整个 ETS 表转换为列表可能会导致性能瓶颈。
二、ets:tab2list 替代方法:
1、迭代查询:使用 ets:first/1 和 ets:next/2 函数进行迭代查询,而不是一次性获取整个表的内容。这样可以按需获取数据,降低内存消耗,代码如下:
iterate_ets(Table) -> iterate_ets(Table, ets:first(Table)). iterate_ets(_Table, '$end_of_table') -> done;
iterate_ets(Table, Key) -> [{Key, Value}] = ets:lookup(Table, Key), io:format("Key: ~p, Value: ~p~n", [Key, Value]), iterate_ets(Table, ets:next(Table, Key)).
使用这个函数,你可以按需迭代 ETS 表的内容,而不是一次性加载到内存中。
举例:
-module(ets_iterate_example).
-compile(export_all). start() -> Tab = ets:new(test_tab, [set, public]), ets:insert(Tab, {1, "one"}), ets:insert(Tab, {2, "two"}), ets:insert(Tab, {3, "three"}), iterate(Tab), ets:delete(Tab). iterate(Tab) -> case ets:first(Tab) of '$end_of_table' -> ok; Key -> [{Key, Value}] = ets:lookup(Tab, Key), io:format("Key: ~p, Value: ~p~n", [Key, Value]), iterate(Tab, Key) end. iterate(Tab, Key) -> case ets:next(Tab, Key) of '$end_of_table' -> ok; NextKey -> [{NextKey, NextValue}] = ets:lookup(Tab, NextKey), io:format("Key: ~p, Value: ~p~n", [NextKey, NextValue]), iterate(Tab, NextKey) end.
2、流式处理:对于需要处理 ETS 表中所有数据的情况,考虑使用流式处理,每次只处理一小部分数据。
3、分页查询:根据业务需求,设计分页查询逻辑,每次只查询和处理一页数据。假设我们想要每次查询2条记录:
-module(ets_page_example).
-compile(export_all). start() -> Tab = ets:new(test_tab, [set, public]), ets:insert(Tab, {1, "one"}), ets:insert(Tab, {2, "two"}), ets:insert(Tab, {3, "three"}), page_query(Tab, 1). page_query(_Tab, PageNum) when PageNum > 2 -> ok; % Assuming we know the total number of pages here for simplicity
page_query(Tab, PageNum) -> StartKey = start_key(PageNum), iterate_page(Tab, StartKey). start_key(1) -> '$end_of_table'; % Special case for first page
start_key(PageNum) -> {PageNum * 2 - 3, '_'}. % Just an example key calculation based on page number iterate_page(_Tab, '$end_of_table') -> ok;
iterate_page(Tab, StartKey) -> case ets:next(Tab, StartKey) of '$end_of_table' -> ok; Key -> [{Key, Value}] = ets:lookup(Tab, Key), io:format("Key: ~p, Value: ~p~n", [Key, Value]), NextKey = case ets:next(Tab, Key) of '$end_of_table' -> '$end_of_table'; ActualNextKey -> ActualNextKey end, iterate_page(Tab, NextKey) end.
4、优化查询:确保你的 ETS 表已经正确配置和优化,比如设置适当的键类型和访问模式。
5、异步处理:使用 Erlang 的并发特性,将 ETS 表的处理逻辑移至后台进程或任务中异步执行,避免阻塞主业务逻辑。
6、考虑其他数据存储方案:如果 ETS 不是最佳选择,根据你的具体需求,也可以考虑使用其他数据存储方案,如 Mnesia、DETS 或外部数据库。
三、gen_server中使用ets的优缺点
在Erlang的gen_server中使用ETS表有一些优点和缺点。
优点:
- 高效存储:ETS表提供了一种高效的方式来存储大量数据。它们使用内存存储,因此可以快速地访问和操作数据。ETS表在处理大量数据时,可以提供比传统数据库更好的性能。
- 快速查询:ETS表支持基于键的查询,可以快速地定位和获取数据。这使得在gen_server中查询数据变得非常方便和高效。
- 内存管理:ETS表使用Erlang的内存管理机制,可以自动处理内存的分配和释放。这有助于减少内存泄漏和优化内存使用。
- 数据共享:ETS表可以在不同的Erlang进程之间共享数据。这使得在gen_server中实现进程间的通信变得更加容易和高效。
缺点:
- 数据持久性:ETS表是内存中的数据结构,如果Erlang节点崩溃或重启,数据将丢失。因此,ETS表不适合存储需要持久化的数据。对于需要持久化的数据,可以考虑使用其他数据库系统。
- 并发性:虽然ETS表提供了高效的读写性能,但在高并发的情况下,可能会遇到性能瓶颈。如果需要处理大量的并发读写操作,可能需要使用其他技术或数据库系统来提高性能。
- 类型限制:ETS表只支持有限的 数据类型,例如整数、原子、字符串和元组。如果需要存储更复杂的数据类型,可能需要使用其他技术或数据库系统。
总之,在gen_server中使用ETS表可以提供高效的存储和查询功能,适用于处理大量数据和实现进程间通信。但是需要注意ETS表的缺点,特别是数据持久性和并发性问题,并考虑在必要时使用其他数据存储方案。
相关文章:
ets:tab2list的不足之处与替代方法,以及gen_server中使用ets的优缺点
ets:tab2list 是 Erlang/OTP 中的一个函数,用于将 ETS(Erlang Term Storage)表转换为列表。ETS 是 Erlang 中的一个内建数据库,允许开发者在内存中存储大量数据。 一、ets:tab2list 的不足之处: 性能问题:…...
软件测试之压力测试详解
一、什么是压力测试 软件测试中:压力测试(Stress Test),也称为强度测试、负载测试。压力测试是模拟实际应用的软硬件环境及用户使用过程的系统负荷,长时间或超大负荷地运行测试软件,来测试被测系统的性能、…...
SpringBoot之请求的详细解析
1. 请求 在本章节呢,我们主要讲解,如何接收页面传递过来的请求数据。 1.1 Postman 之前我们课程中有提到当前最为主流的开发模式:前后端分离 在这种模式下,前端技术人员基于"接口文档",开发前端程序&…...
mac 环境下 goframe安装GF开发工具 gf-cli(安装包方式安装)
mac 环境下 goframe安装GF开发工具 gf-cli(安装包方式安装) 安装包网址 链接: link 终端输入命令进行安装 ./gf_darwin_amd64 但是产生如下报错,无法安装 使用一下命令给安装权限 chmod 0777 gf_darwin_amd64 && ./gf_darwin_a…...
Navicat 技术指引 | 适用于 GaussDB 分布式的数据迁移工具
Navicat Premium(16.3.3 Windows 版或以上)正式支持 GaussDB 分布式数据库。GaussDB 分布式模式更适合对系统可用性和数据处理能力要求较高的场景。Navicat 工具不仅提供可视化数据查看和编辑功能,还提供强大的高阶功能(如模型、结…...
【TiDB理论知识10】TiDB6.0新特性
新特性 Placement Rules in SQL 小表缓存 内存悲观锁 Top SQL TiDB Enterprise Manager 一 Placement Rules in SQL Placement Rules in SQL 之前会遇到的问题 比如 北京的业务需要访问 T2 和 T3表 ,但是T3表的数据在纽约 纽约的业务需要问访T4 T5 T6表…...
MySQL笔记-第15章_存储过程与函数
视频链接:【MySQL数据库入门到大牛,mysql安装到优化,百科全书级,全网天花板】 文章目录 第15章_存储过程与函数1. 存储过程概述1.1 理解1.2 分类 2. 创建存储过程2.1 语法分析2.2 代码举例 3. 调用存储过程3.1 调用格式3.2 代码举…...
12月12日作业
设计一个闹钟 头文件 #ifndef WIDGET_H #define WIDGET_H#include <QWidget> #include <QTimerEvent> #include <QTime> #include <QTime> #include <QTextToSpeech>QT_BEGIN_NAMESPACE namespace Ui { class Widget; } QT_END_NAMESPACEclass …...
基于Python+WaveNet+MFCC+Tensorflow智能方言分类—深度学习算法应用(含全部工程源码)(二)
目录 前言引言总体设计系统整体结构图系统流程图 运行环境模块实现1. 数据预处理1)数据介绍2)数据测试3)数据处理 相关其它博客工程源代码下载其它资料下载 前言 博主前段时间发布了一篇有关方言识别和分类模型训练的博客,在读者…...
secrets --- 生成管理密码的安全随机数
3.6 新版功能. 源代码: Lib/secrets.py secrets 模块用于生成高度加密的随机数,适于管理密码、账户验证、安全凭据及机密数据。 最好用 secrets 替代 random 模块的默认伪随机数生成器,该生成器适用于建模和模拟,不宜用于安全与加密。 参见…...
宇视科技视频监控 main-cgi 文件信息泄露漏洞
宇视科技视频监控 main-cgi 文件信息泄露漏洞 一、产品简介二、漏概述三、复现环境四、漏洞检测手工抓包自动化检测 免责声明:请勿利用文章内的相关技术从事非法测试,由于传播、利用此文所提供的信息或者工具而造成的任何直接或者间接的后果及损失&#…...
【数学建模】《实战数学建模:例题与讲解》第十一讲-因子分析、聚类与主成分(含Matlab代码)
【数学建模】《实战数学建模:例题与讲解》第十一讲-因子分析、聚类与主成分(含Matlab代码) 基本概念聚类分析Q型聚类分析R型聚类分析 主成分分析因子分析 习题10.11. 题目要求2.解题过程3.程序4.结果 习题10.21. 题目要求2.解题过程3.程序4.结…...
Python查找列表中不重复的数字
Python每日一练 文章目录 Python每日一练问题:函数输入函数输出 代码实现示例输入:示例输出: 总结 问题: 编写一个程序来查找列表中不重复的数字。 定义函数find_unique(),它接受一个列表作为参数。 在函数内部&…...
用docker创建jmeter容器,如何实现性能测试?
用 docker 创建 jmeter 容器, 实现性能测试 我们都知道,jmeter可以做接口测试,也可以用于性能测试,现在企业中性能测试也大多使用jmeter。docker是最近这些年流行起来的容器部署工具,可以创建一个容器,然后把项目放到…...
pytest-fixtured自动化测试详解
fixture的作用 1.同unittest的setup和teardown,作为测试前后的初始化设置。 fixture的使用 1.作为前置条件使用 2.fixture的的作用范围 1.作为前置条件使用 pytest.fixture() def a():return 3def test_b(a):assert a3 2.fixture的作用范围 首先实例化更高范围的fixture…...
计算机网络:应用层(一)
我最近开了几个专栏,诚信互三! > |||《算法专栏》::刷题教程来自网站《代码随想录》。||| > |||《C专栏》::记录我学习C的经历,看完你一定会有收获。||| > |||《Linux专栏》࿱…...
mybatis的快速入门以及spring boot整合mybatis(二)
需要用到的SQL脚本: CREATE TABLE dept (id int unsigned PRIMARY KEY AUTO_INCREMENT COMMENT ID, 主键,name varchar(10) NOT NULL UNIQUE COMMENT 部门名称,create_time datetime DEFAULT NULL COMMENT 创建时间,update_time datetime DEFAULT NULL COMMENT 修改…...
lua基本语法使用
Lua 是一个小巧的脚本语言。Lua由标准C编写而成,几乎在所有操作系统和平台上都可以编译,运行。Lua并没有提供强大的库,这是由它的定位决定的。所以Lua不适合作为开发独立应用程序的语言。 1.基本语法 注解 -- 单行 -- [[ ]] -- 多行 …...
Git远程操作
目录 1.远程操作 1.1理解分布式版本控制系统 1.2远程仓库. 1.2.1新建远程仓库 1.2.2克隆远程仓库 1.2.3向远程仓库推送 1.2.4拉取远程仓库 1.3配置Git 1.3.1忽略特殊文件 1.3.2给命令配置别名 2.标签管理 2.1理解标签 2.2创建标签 2.3操作标签 1.远程操作 1.1理…...
链表基础知识(一、单链表)
一、链表表示和实现 顺序表的问题及思考 问题: 1. 中间/头部的插入删除,时间复杂度为O(N) 2. 增容需要申请新空间,拷贝数据,释放旧空间。会有不小的消耗。 3. 增容一般是呈2倍的增长,势必会有一定的空间浪费。例如当…...
mongodb源码分析session执行handleRequest命令find过程
mongo/transport/service_state_machine.cpp已经分析startSession创建ASIOSession过程,并且验证connection是否超过限制ASIOSession和connection是循环接受客户端命令,把数据流转换成Message,状态转变流程是:State::Created 》 St…...
Opencv中的addweighted函数
一.addweighted函数作用 addweighted()是OpenCV库中用于图像处理的函数,主要功能是将两个输入图像(尺寸和类型相同)按照指定的权重进行加权叠加(图像融合),并添加一个标量值&#x…...
【第二十一章 SDIO接口(SDIO)】
第二十一章 SDIO接口 目录 第二十一章 SDIO接口(SDIO) 1 SDIO 主要功能 2 SDIO 总线拓扑 3 SDIO 功能描述 3.1 SDIO 适配器 3.2 SDIOAHB 接口 4 卡功能描述 4.1 卡识别模式 4.2 卡复位 4.3 操作电压范围确认 4.4 卡识别过程 4.5 写数据块 4.6 读数据块 4.7 数据流…...
深入理解JavaScript设计模式之单例模式
目录 什么是单例模式为什么需要单例模式常见应用场景包括 单例模式实现透明单例模式实现不透明单例模式用代理实现单例模式javaScript中的单例模式使用命名空间使用闭包封装私有变量 惰性单例通用的惰性单例 结语 什么是单例模式 单例模式(Singleton Pattern&#…...
在Ubuntu中设置开机自动运行(sudo)指令的指南
在Ubuntu系统中,有时需要在系统启动时自动执行某些命令,特别是需要 sudo权限的指令。为了实现这一功能,可以使用多种方法,包括编写Systemd服务、配置 rc.local文件或使用 cron任务计划。本文将详细介绍这些方法,并提供…...
TRS收益互换:跨境资本流动的金融创新工具与系统化解决方案
一、TRS收益互换的本质与业务逻辑 (一)概念解析 TRS(Total Return Swap)收益互换是一种金融衍生工具,指交易双方约定在未来一定期限内,基于特定资产或指数的表现进行现金流交换的协议。其核心特征包括&am…...
mysql已经安装,但是通过rpm -q 没有找mysql相关的已安装包
文章目录 现象:mysql已经安装,但是通过rpm -q 没有找mysql相关的已安装包遇到 rpm 命令找不到已经安装的 MySQL 包时,可能是因为以下几个原因:1.MySQL 不是通过 RPM 包安装的2.RPM 数据库损坏3.使用了不同的包名或路径4.使用其他包…...
使用Spring AI和MCP协议构建图片搜索服务
目录 使用Spring AI和MCP协议构建图片搜索服务 引言 技术栈概览 项目架构设计 架构图 服务端开发 1. 创建Spring Boot项目 2. 实现图片搜索工具 3. 配置传输模式 Stdio模式(本地调用) SSE模式(远程调用) 4. 注册工具提…...
【C++进阶篇】智能指针
C内存管理终极指南:智能指针从入门到源码剖析 一. 智能指针1.1 auto_ptr1.2 unique_ptr1.3 shared_ptr1.4 make_shared 二. 原理三. shared_ptr循环引用问题三. 线程安全问题四. 内存泄漏4.1 什么是内存泄漏4.2 危害4.3 避免内存泄漏 五. 最后 一. 智能指针 智能指…...
站群服务器的应用场景都有哪些?
站群服务器主要是为了多个网站的托管和管理所设计的,可以通过集中管理和高效资源的分配,来支持多个独立的网站同时运行,让每一个网站都可以分配到独立的IP地址,避免出现IP关联的风险,用户还可以通过控制面板进行管理功…...
