ets:tab2list的不足之处与替代方法,以及gen_server中使用ets的优缺点
ets:tab2list 是 Erlang/OTP 中的一个函数,用于将 ETS(Erlang Term Storage)表转换为列表。ETS 是 Erlang 中的一个内建数据库,允许开发者在内存中存储大量数据。
一、ets:tab2list 的不足之处:
- 性能问题:对于非常大的 ETS 表,
ets:tab2list可能会消耗大量的内存和时间,因为它一次性地返回整个表的内容。这可能导致长时间的阻塞和高内存使用。- 不适合生产环境:在生产环境中,频繁地将整个 ETS 表转换为列表可能会导致性能瓶颈。
二、ets:tab2list 替代方法:
1、迭代查询:使用 ets:first/1 和 ets:next/2 函数进行迭代查询,而不是一次性获取整个表的内容。这样可以按需获取数据,降低内存消耗,代码如下:
iterate_ets(Table) -> iterate_ets(Table, ets:first(Table)). iterate_ets(_Table, '$end_of_table') -> done;
iterate_ets(Table, Key) -> [{Key, Value}] = ets:lookup(Table, Key), io:format("Key: ~p, Value: ~p~n", [Key, Value]), iterate_ets(Table, ets:next(Table, Key)).
使用这个函数,你可以按需迭代 ETS 表的内容,而不是一次性加载到内存中。
举例:
-module(ets_iterate_example).
-compile(export_all). start() -> Tab = ets:new(test_tab, [set, public]), ets:insert(Tab, {1, "one"}), ets:insert(Tab, {2, "two"}), ets:insert(Tab, {3, "three"}), iterate(Tab), ets:delete(Tab). iterate(Tab) -> case ets:first(Tab) of '$end_of_table' -> ok; Key -> [{Key, Value}] = ets:lookup(Tab, Key), io:format("Key: ~p, Value: ~p~n", [Key, Value]), iterate(Tab, Key) end. iterate(Tab, Key) -> case ets:next(Tab, Key) of '$end_of_table' -> ok; NextKey -> [{NextKey, NextValue}] = ets:lookup(Tab, NextKey), io:format("Key: ~p, Value: ~p~n", [NextKey, NextValue]), iterate(Tab, NextKey) end.
2、流式处理:对于需要处理 ETS 表中所有数据的情况,考虑使用流式处理,每次只处理一小部分数据。
3、分页查询:根据业务需求,设计分页查询逻辑,每次只查询和处理一页数据。假设我们想要每次查询2条记录:
-module(ets_page_example).
-compile(export_all). start() -> Tab = ets:new(test_tab, [set, public]), ets:insert(Tab, {1, "one"}), ets:insert(Tab, {2, "two"}), ets:insert(Tab, {3, "three"}), page_query(Tab, 1). page_query(_Tab, PageNum) when PageNum > 2 -> ok; % Assuming we know the total number of pages here for simplicity
page_query(Tab, PageNum) -> StartKey = start_key(PageNum), iterate_page(Tab, StartKey). start_key(1) -> '$end_of_table'; % Special case for first page
start_key(PageNum) -> {PageNum * 2 - 3, '_'}. % Just an example key calculation based on page number iterate_page(_Tab, '$end_of_table') -> ok;
iterate_page(Tab, StartKey) -> case ets:next(Tab, StartKey) of '$end_of_table' -> ok; Key -> [{Key, Value}] = ets:lookup(Tab, Key), io:format("Key: ~p, Value: ~p~n", [Key, Value]), NextKey = case ets:next(Tab, Key) of '$end_of_table' -> '$end_of_table'; ActualNextKey -> ActualNextKey end, iterate_page(Tab, NextKey) end.
4、优化查询:确保你的 ETS 表已经正确配置和优化,比如设置适当的键类型和访问模式。
5、异步处理:使用 Erlang 的并发特性,将 ETS 表的处理逻辑移至后台进程或任务中异步执行,避免阻塞主业务逻辑。
6、考虑其他数据存储方案:如果 ETS 不是最佳选择,根据你的具体需求,也可以考虑使用其他数据存储方案,如 Mnesia、DETS 或外部数据库。
三、gen_server中使用ets的优缺点
在Erlang的gen_server中使用ETS表有一些优点和缺点。
优点:
- 高效存储:ETS表提供了一种高效的方式来存储大量数据。它们使用内存存储,因此可以快速地访问和操作数据。ETS表在处理大量数据时,可以提供比传统数据库更好的性能。
- 快速查询:ETS表支持基于键的查询,可以快速地定位和获取数据。这使得在gen_server中查询数据变得非常方便和高效。
- 内存管理:ETS表使用Erlang的内存管理机制,可以自动处理内存的分配和释放。这有助于减少内存泄漏和优化内存使用。
- 数据共享:ETS表可以在不同的Erlang进程之间共享数据。这使得在gen_server中实现进程间的通信变得更加容易和高效。
缺点:
- 数据持久性:ETS表是内存中的数据结构,如果Erlang节点崩溃或重启,数据将丢失。因此,ETS表不适合存储需要持久化的数据。对于需要持久化的数据,可以考虑使用其他数据库系统。
- 并发性:虽然ETS表提供了高效的读写性能,但在高并发的情况下,可能会遇到性能瓶颈。如果需要处理大量的并发读写操作,可能需要使用其他技术或数据库系统来提高性能。
- 类型限制:ETS表只支持有限的 数据类型,例如整数、原子、字符串和元组。如果需要存储更复杂的数据类型,可能需要使用其他技术或数据库系统。
总之,在gen_server中使用ETS表可以提供高效的存储和查询功能,适用于处理大量数据和实现进程间通信。但是需要注意ETS表的缺点,特别是数据持久性和并发性问题,并考虑在必要时使用其他数据存储方案。
相关文章:
ets:tab2list的不足之处与替代方法,以及gen_server中使用ets的优缺点
ets:tab2list 是 Erlang/OTP 中的一个函数,用于将 ETS(Erlang Term Storage)表转换为列表。ETS 是 Erlang 中的一个内建数据库,允许开发者在内存中存储大量数据。 一、ets:tab2list 的不足之处: 性能问题:…...
软件测试之压力测试详解
一、什么是压力测试 软件测试中:压力测试(Stress Test),也称为强度测试、负载测试。压力测试是模拟实际应用的软硬件环境及用户使用过程的系统负荷,长时间或超大负荷地运行测试软件,来测试被测系统的性能、…...
SpringBoot之请求的详细解析
1. 请求 在本章节呢,我们主要讲解,如何接收页面传递过来的请求数据。 1.1 Postman 之前我们课程中有提到当前最为主流的开发模式:前后端分离 在这种模式下,前端技术人员基于"接口文档",开发前端程序&…...
mac 环境下 goframe安装GF开发工具 gf-cli(安装包方式安装)
mac 环境下 goframe安装GF开发工具 gf-cli(安装包方式安装) 安装包网址 链接: link 终端输入命令进行安装 ./gf_darwin_amd64 但是产生如下报错,无法安装 使用一下命令给安装权限 chmod 0777 gf_darwin_amd64 && ./gf_darwin_a…...
Navicat 技术指引 | 适用于 GaussDB 分布式的数据迁移工具
Navicat Premium(16.3.3 Windows 版或以上)正式支持 GaussDB 分布式数据库。GaussDB 分布式模式更适合对系统可用性和数据处理能力要求较高的场景。Navicat 工具不仅提供可视化数据查看和编辑功能,还提供强大的高阶功能(如模型、结…...
【TiDB理论知识10】TiDB6.0新特性
新特性 Placement Rules in SQL 小表缓存 内存悲观锁 Top SQL TiDB Enterprise Manager 一 Placement Rules in SQL Placement Rules in SQL 之前会遇到的问题 比如 北京的业务需要访问 T2 和 T3表 ,但是T3表的数据在纽约 纽约的业务需要问访T4 T5 T6表…...
MySQL笔记-第15章_存储过程与函数
视频链接:【MySQL数据库入门到大牛,mysql安装到优化,百科全书级,全网天花板】 文章目录 第15章_存储过程与函数1. 存储过程概述1.1 理解1.2 分类 2. 创建存储过程2.1 语法分析2.2 代码举例 3. 调用存储过程3.1 调用格式3.2 代码举…...
12月12日作业
设计一个闹钟 头文件 #ifndef WIDGET_H #define WIDGET_H#include <QWidget> #include <QTimerEvent> #include <QTime> #include <QTime> #include <QTextToSpeech>QT_BEGIN_NAMESPACE namespace Ui { class Widget; } QT_END_NAMESPACEclass …...
基于Python+WaveNet+MFCC+Tensorflow智能方言分类—深度学习算法应用(含全部工程源码)(二)
目录 前言引言总体设计系统整体结构图系统流程图 运行环境模块实现1. 数据预处理1)数据介绍2)数据测试3)数据处理 相关其它博客工程源代码下载其它资料下载 前言 博主前段时间发布了一篇有关方言识别和分类模型训练的博客,在读者…...
secrets --- 生成管理密码的安全随机数
3.6 新版功能. 源代码: Lib/secrets.py secrets 模块用于生成高度加密的随机数,适于管理密码、账户验证、安全凭据及机密数据。 最好用 secrets 替代 random 模块的默认伪随机数生成器,该生成器适用于建模和模拟,不宜用于安全与加密。 参见…...
宇视科技视频监控 main-cgi 文件信息泄露漏洞
宇视科技视频监控 main-cgi 文件信息泄露漏洞 一、产品简介二、漏概述三、复现环境四、漏洞检测手工抓包自动化检测 免责声明:请勿利用文章内的相关技术从事非法测试,由于传播、利用此文所提供的信息或者工具而造成的任何直接或者间接的后果及损失&#…...
【数学建模】《实战数学建模:例题与讲解》第十一讲-因子分析、聚类与主成分(含Matlab代码)
【数学建模】《实战数学建模:例题与讲解》第十一讲-因子分析、聚类与主成分(含Matlab代码) 基本概念聚类分析Q型聚类分析R型聚类分析 主成分分析因子分析 习题10.11. 题目要求2.解题过程3.程序4.结果 习题10.21. 题目要求2.解题过程3.程序4.结…...
Python查找列表中不重复的数字
Python每日一练 文章目录 Python每日一练问题:函数输入函数输出 代码实现示例输入:示例输出: 总结 问题: 编写一个程序来查找列表中不重复的数字。 定义函数find_unique(),它接受一个列表作为参数。 在函数内部&…...
用docker创建jmeter容器,如何实现性能测试?
用 docker 创建 jmeter 容器, 实现性能测试 我们都知道,jmeter可以做接口测试,也可以用于性能测试,现在企业中性能测试也大多使用jmeter。docker是最近这些年流行起来的容器部署工具,可以创建一个容器,然后把项目放到…...
pytest-fixtured自动化测试详解
fixture的作用 1.同unittest的setup和teardown,作为测试前后的初始化设置。 fixture的使用 1.作为前置条件使用 2.fixture的的作用范围 1.作为前置条件使用 pytest.fixture() def a():return 3def test_b(a):assert a3 2.fixture的作用范围 首先实例化更高范围的fixture…...
计算机网络:应用层(一)
我最近开了几个专栏,诚信互三! > |||《算法专栏》::刷题教程来自网站《代码随想录》。||| > |||《C专栏》::记录我学习C的经历,看完你一定会有收获。||| > |||《Linux专栏》࿱…...
mybatis的快速入门以及spring boot整合mybatis(二)
需要用到的SQL脚本: CREATE TABLE dept (id int unsigned PRIMARY KEY AUTO_INCREMENT COMMENT ID, 主键,name varchar(10) NOT NULL UNIQUE COMMENT 部门名称,create_time datetime DEFAULT NULL COMMENT 创建时间,update_time datetime DEFAULT NULL COMMENT 修改…...
lua基本语法使用
Lua 是一个小巧的脚本语言。Lua由标准C编写而成,几乎在所有操作系统和平台上都可以编译,运行。Lua并没有提供强大的库,这是由它的定位决定的。所以Lua不适合作为开发独立应用程序的语言。 1.基本语法 注解 -- 单行 -- [[ ]] -- 多行 …...
Git远程操作
目录 1.远程操作 1.1理解分布式版本控制系统 1.2远程仓库. 1.2.1新建远程仓库 1.2.2克隆远程仓库 1.2.3向远程仓库推送 1.2.4拉取远程仓库 1.3配置Git 1.3.1忽略特殊文件 1.3.2给命令配置别名 2.标签管理 2.1理解标签 2.2创建标签 2.3操作标签 1.远程操作 1.1理…...
链表基础知识(一、单链表)
一、链表表示和实现 顺序表的问题及思考 问题: 1. 中间/头部的插入删除,时间复杂度为O(N) 2. 增容需要申请新空间,拷贝数据,释放旧空间。会有不小的消耗。 3. 增容一般是呈2倍的增长,势必会有一定的空间浪费。例如当…...
Linux应用开发之网络套接字编程(实例篇)
服务端与客户端单连接 服务端代码 #include <sys/socket.h> #include <sys/types.h> #include <netinet/in.h> #include <stdio.h> #include <stdlib.h> #include <string.h> #include <arpa/inet.h> #include <pthread.h> …...
椭圆曲线密码学(ECC)
一、ECC算法概述 椭圆曲线密码学(Elliptic Curve Cryptography)是基于椭圆曲线数学理论的公钥密码系统,由Neal Koblitz和Victor Miller在1985年独立提出。相比RSA,ECC在相同安全强度下密钥更短(256位ECC ≈ 3072位RSA…...
智慧工地云平台源码,基于微服务架构+Java+Spring Cloud +UniApp +MySql
智慧工地管理云平台系统,智慧工地全套源码,java版智慧工地源码,支持PC端、大屏端、移动端。 智慧工地聚焦建筑行业的市场需求,提供“平台网络终端”的整体解决方案,提供劳务管理、视频管理、智能监测、绿色施工、安全管…...
多场景 OkHttpClient 管理器 - Android 网络通信解决方案
下面是一个完整的 Android 实现,展示如何创建和管理多个 OkHttpClient 实例,分别用于长连接、普通 HTTP 请求和文件下载场景。 <?xml version"1.0" encoding"utf-8"?> <LinearLayout xmlns:android"http://schemas…...
2024年赣州旅游投资集团社会招聘笔试真
2024年赣州旅游投资集团社会招聘笔试真 题 ( 满 分 1 0 0 分 时 间 1 2 0 分 钟 ) 一、单选题(每题只有一个正确答案,答错、不答或多答均不得分) 1.纪要的特点不包括()。 A.概括重点 B.指导传达 C. 客观纪实 D.有言必录 【答案】: D 2.1864年,()预言了电磁波的存在,并指出…...
c++ 面试题(1)-----深度优先搜索(DFS)实现
操作系统:ubuntu22.04 IDE:Visual Studio Code 编程语言:C11 题目描述 地上有一个 m 行 n 列的方格,从坐标 [0,0] 起始。一个机器人可以从某一格移动到上下左右四个格子,但不能进入行坐标和列坐标的数位之和大于 k 的格子。 例…...
cf2117E
原题链接:https://codeforces.com/contest/2117/problem/E 题目背景: 给定两个数组a,b,可以执行多次以下操作:选择 i (1 < i < n - 1),并设置 或,也可以在执行上述操作前执行一次删除任意 和 。求…...
Nuxt.js 中的路由配置详解
Nuxt.js 通过其内置的路由系统简化了应用的路由配置,使得开发者可以轻松地管理页面导航和 URL 结构。路由配置主要涉及页面组件的组织、动态路由的设置以及路由元信息的配置。 自动路由生成 Nuxt.js 会根据 pages 目录下的文件结构自动生成路由配置。每个文件都会对…...
Rust 异步编程
Rust 异步编程 引言 Rust 是一种系统编程语言,以其高性能、安全性以及零成本抽象而著称。在多核处理器成为主流的今天,异步编程成为了一种提高应用性能、优化资源利用的有效手段。本文将深入探讨 Rust 异步编程的核心概念、常用库以及最佳实践。 异步编程基础 什么是异步…...
Unity | AmplifyShaderEditor插件基础(第七集:平面波动shader)
目录 一、👋🏻前言 二、😈sinx波动的基本原理 三、😈波动起来 1.sinx节点介绍 2.vertexPosition 3.集成Vector3 a.节点Append b.连起来 4.波动起来 a.波动的原理 b.时间节点 c.sinx的处理 四、🌊波动优化…...
