当前位置: 首页 > news >正文

pg ash自制版 pg_active_session_history

一、 实现功能

        由于pgsentinel插件存在严重的内存占用问题,本篇改为自行实现,但其语句仍可以参考pgsentinel插件。PostgreSQL ash —— pgsentinel插件 学习与踩坑记录_CSDN博客

        v1.0 根据pg 14版本设计及测试,仅支持收集主库信息。默认每10秒收集一次 active与idle in transaction 状态会话信息,保留两个月。

二、 历史会话与阻塞信息

       参考 pgsentinel插件的pg_active_session_history视图及pg pg_stat_activity视图,根据不同版本,其中部分字段的值可能为空。

pg_ash表

列名

数据类型

字段含义

ash_timetimestamp with time zone采样时间
datidoid会话连接的dbid
datnamename会话连接的DB名
pidinteger会话进程ID
leader_pidinteger并行进程leader id,pg 13新增
usesysidoiduser id
usenamename用户名
application_nametext应用程序名
client_addrinet客户端ip
client_hostnametext客户端主机名
client_portinteger客户端端口
backend_starttimestamp with time zone会话连接到服务器的时间
xact_starttimestamp with time zone当前事务开始的时间,若无活跃事务则为 NULL
query_starttimestamp with time zone当前活跃查询的开始时间。如果state不为active,则表示上个查询的开始时间
state_changetimestamp with time zonestate上次更改的时间
wait_event_typetext正在等待的事件类型(如果有)
wait_eventtext正在等待的事件名(如果有)
statetext当前会话状态
backend_xidxid该会话的顶层事务id(如果有)
backend_xminxid该会话的xmin horizon
querytext

active状态下,为当前正在执行的查询;其他状态下,表示最后执行的查询。

默认情况下,查询文本被截断为 1024 字节(由参数track_activity_query_size控制)

query_idbigint查询id,类似Oracle的sql_id,pg 14新增
backend_typetext当前会话类型,例如client backend, checkpointer, startup, walreceiver... pg 10新增
blockersinteger阻塞者数量
blockerpidinteger阻塞者进程id
blocker_statetext阻塞者状态

三、 表结构创建

1. 按月进行分区

CREATE TABLE public.pg_ash (

    ash_time timestamp with time zone,

    datid oid,

    datname name,

    pid integer,

    leader_pid integer,

    usesysid oid,

    usename name,

    application_name text,

    client_addr inet,

    client_hostname text,

    client_port integer,

    backend_start timestamp with time zone,

    xact_start timestamp with time zone,

    query_start timestamp with time zone,

    state_change timestamp with time zone,

    wait_event_type text,

    wait_event text,

    state text,

    backend_xid xid,

    backend_xmin xid,

    query text,

    query_id bigint,

    backend_type text,

    blockers integer,

    blockerpid integer,

    blocker_state text

) PARTITION BY RANGE(ash_time);

-- 索引创建

CREATE INDEX idx_pg_ash_n1 ON pg_ash(ash_time);

-- 分区创建,超出最大范围的值会落入默认的final分区

CREATE TABLE pg_ash_history PARTITION OF pg_ash DEFAULT;

CREATE TABLE pg_ash_202310 PARTITION OF pg_ash FOR VALUES FROM ('2023-10-01'TO ('2023-11-01');

CREATE TABLE pg_ash_202311 PARTITION OF pg_ash FOR VALUES FROM ('2023-11-01'TO ('2023-12-01');

CREATE TABLE pg_ash_202312 PARTITION OF pg_ash FOR VALUES FROM ('2023-12-01'TO ('2024-01-01');

2. 定期自动新增分区

3. 自动清理旧分区

四、 数据插入

vi pg_ash.sh

#!/bin/bash

. ~/profile << EOF

5432

EOF

psql << EOF

insert into pg_ash

select now(), act.datid, act.datname, act.pid, act.leader_pid, act.usesysid, act.usename,

 act.application_name, act.client_addr, act.client_hostname,

 act.client_port, act.backend_start, act.xact_start, act.query_start,

 act.state_change, act.wait_event_type, act.wait_event, act.state, act.backend_xid,

 act.backend_xmin,act.query,act.query_id,act.backend_type,cardinality(pg_blocking_pids(act.pid))

 as blockers,(pg_blocking_pids(act.pid))[1] as blockerpid ,blk.state as blocker_state

 from pg_stat_activity act left join pg_stat_activity blk

 on (pg_blocking_pids(act.pid))[1] = blk.pid

 where act.state in ('active''idle in transaction') and act.pid != pg_backend_pid();

EOF

五、 设置定时执行

由于crontab最小只能按分钟执行,这里利用while true+sleep实现每十秒执行。

vi run.sh   与pg_ash.sh放在相同目录

#!/bin/bash

source .bash_profile

while true ]

do

sh ./pg_ash.sh

sleep 10

done

后台运行run.sh

nohup ./run.sh &

六、 测试运行效果

1. pgbench压测

  • 初始化数据

-bash-4.2$ createdb pgbench       

-bash-4.2$ pgbench -i pgbench

dropping old tables...

NOTICE:  table "pgbench_accounts" does not exist, skipping

NOTICE:  table "pgbench_branches" does not exist, skipping

NOTICE:  table "pgbench_history" does not exist, skipping

NOTICE:  table "pgbench_tellers" does not exist, skipping

creating tables...

generating data (client-side)...

100000 of 100000 tuples (100%) done (elapsed 0.23 s, remaining 0.00 s)

vacuuming...

creating primary keys...

done in 0.49 s (drop tables 0.00 s, create tables 0.01 s, client-side generate 0.27 s, vacuum 0.11 s, primary keys 0.10 s).

-bash-4.2$

-bash-4.2$ psql

psql (14.0)

Type "help" for help.

postgres=# \l

                                 List of databases

   Name    |  Owner   | Encoding |  Collate   |   Ctype    |   Access privileges  

-----------+----------+----------+------------+------------+-----------------------

 pgbench   | postgres | UTF8     | en_US.utf8 | en_US.utf8 |

 postgres  | postgres | UTF8     | en_US.utf8 | en_US.utf8 |

 template0 | postgres | UTF8     | en_US.utf8 | en_US.utf8 | =c/postgres          +

           |          |          |            |            | postgres=CTc/postgres

 template1 | postgres | UTF8     | en_US.utf8 | en_US.utf8 | =c/postgres          +

           |          |          |            |            | postgres=CTc/postgres

 testdb    | postgres | UTF8     | en_US.utf8 | en_US.utf8 |

(5 rows)

postgres=# \c pgbench

You are now connected to database "pgbench" as user "postgres".

pgbench=# \d

              List of relations

 Schema |       Name       | Type  |  Owner  

--------+------------------+-------+----------

 public | pgbench_accounts | table | postgres

 public | pgbench_branches | table | postgres

 public | pgbench_history  | table | postgres

 public | pgbench_tellers  | table | postgres

(4 rows)

  • 压测脚本

vi test.sql

\set aid random(1, 100000 * :scale)

\set bid random(1, 1 * :scale)

\set tid random(1, 10 * :scale)

\set delta random(-5000, 5000)

BEGIN;

UPDATE pgbench_accounts SET abalance = abalance + :delta WHERE aid = :aid;

SELECT abalance FROM pgbench_accounts WHERE aid = :aid;

UPDATE pgbench_tellers SET tbalance = tbalance + :delta WHERE tid = :tid;

UPDATE pgbench_branches SET bbalance = bbalance + :delta WHERE bid = :bid;

INSERT INTO pgbench_history (tid, bid, aid, delta, mtime) VALUES (:tid, :bid, :aid, :delta, CURRENT_TIMESTAMP);

END;

  • 执行压测

pgbench -c 4 -t 30000 pgbench -r -f test.sql

2. 运行ash脚本

nohup ./run.sh &

3. 查询ash数据

postgres=# select from pg_ash;       

-[ RECORD 1 ]----+-----------------------------------------------------------------------

ash_time         | 2023-10-12 05:44:07.152751+08

datid            | 41585

datname          | pgbench

pid              | 1530

leader_pid       |

usesysid         | 10

usename          | postgres

application_name | pgbench

client_addr      |

client_hostname  |

client_port      | -1

backend_start    | 2023-10-12 05:44:04.461672+08

xact_start       | 2023-10-12 05:44:07.144351+08

query_start      | 2023-10-12 05:44:07.145214+08

state_change     | 2023-10-12 05:44:07.145215+08

wait_event_type  | Lock

wait_event       | transactionid

state            | active

backend_xid      | 677819

backend_xmin     | 677814

query            | UPDATE pgbench_branches SET bbalance = bbalance + 3177 WHERE bid = 1;

query_id         | -6995838559535145041

backend_type     | client backend

blockers         | 1

blockerpid       | 1533

blocker_state    | active

-[ RECORD 2 ]----+-----------------------------------------------------------------------

ash_time         | 2023-10-12 05:44:07.152751+08

datid            | 41585

datname          | pgbench

pid              | 1531

leader_pid       |

usesysid         | 10

usename          | postgres

application_name | pgbench

client_addr      |

client_hostname  |

client_port      | -1

backend_start    | 2023-10-12 05:44:04.463697+08

xact_start       | 2023-10-12 05:44:07.151628+08

query_start      | 2023-10-12 05:44:07.152311+08

state_change     | 2023-10-12 05:44:07.152312+08

wait_event_type  | Lock

wait_event       | transactionid

state            | active

backend_xid      | 677821

backend_xmin     | 677817

query            | UPDATE pgbench_tellers SET tbalance = tbalance + 1637 WHERE tid = 8;

query_id         | -9151069917332221911

backend_type     | client backend

blockers         | 1

blockerpid       | 1530

blocker_state    | active

...

参考:

PostgreSQL Observability

GitHub - pgsentinel/pgsentinel: postgresql extension providing Active session history

相关文章:

pg ash自制版 pg_active_session_history

一、 实现功能 由于pgsentinel插件存在严重的内存占用问题&#xff0c;本篇改为自行实现&#xff0c;但其语句仍可以参考pgsentinel插件。PostgreSQL ash —— pgsentinel插件 学习与踩坑记录_CSDN博客 v1.0 根据pg 14版本设计及测试&#xff0c;仅支持收集主库信息。默认每10秒…...

Elasticsearch系列组件:Kibana无缝集成的数据可视化和探索平台

Elasticsearch 是一个开源的、基于 Lucene 的分布式搜索和分析引擎&#xff0c;设计用于云计算环境中&#xff0c;能够实现实时的、可扩展的搜索、分析和探索全文和结构化数据。它具有高度的可扩展性&#xff0c;可以在短时间内搜索和分析大量数据。 Elasticsearch 不仅仅是一个…...

phpcms_v9模板制作及二次开发常用代码

0:调用最新文章&#xff0c;带所在版块 {pc:get sql"SELECT a.title, a.catid, b.catid, b.catname, a.url as turl ,b.url as curl,a.id FROM v9_news a, v9_category b WHERE a.catid b.catid ORDER BY a.id DESC " num"15" cache"300"} {lo…...

自然语言处理(NLP)-概述

NLP 一、什么是自然语言处理&#xff08;NLP&#xff09;二、NLP的发展三、相关理论1 语言模型2 词向量表征和语义分析3 深度学习 一、什么是自然语言处理&#xff08;NLP&#xff09; 什么是自然语言处理 二、NLP的发展 三、相关理论 1 语言模型 序列数据形式多样&#xf…...

Python开发者的宝典:CSV和JSON数据处理技巧大公开!

更多资料获取 &#x1f4da; 个人网站&#xff1a;涛哥聊Python 在Python中处理CSV和JSON数据时&#xff0c;需要深入了解这两种数据格式的读取、写入、处理和转换方法。 下面将详细介绍如何在Python中处理CSV和JSON数据&#xff0c;并提供一些示例和最佳实践。 CSV数据处理…...

Unity中Commpont类获取子物体的示例

// 本脚本用于演示Component类 方法 //任何一个组件 都可以从游戏物体获取或者从其父对象哪里 子对象哪里获取&#xff0c;一个组件也可以拿到同一个物体上的其他组件 using System.Collections; using System.Collections.Generic; using UnityEngine; public class Component…...

【Vue面试题二十一】、Vue中的过滤器了解吗?过滤器的应用场景有哪些?

文章底部有个人公众号&#xff1a;热爱技术的小郑。主要分享开发知识、学习资料、毕业设计指导等。有兴趣的可以关注一下。为何分享&#xff1f; 踩过的坑没必要让别人在再踩&#xff0c;自己复盘也能加深记忆。利己利人、所谓双赢。 面试官&#xff1a;Vue中的过滤器了解吗&am…...

Unity 3D基础——缓动效果

1.在场景中新建两个 Cube 立方体&#xff0c;在 Scene 视图中将两个 Cude的位置错开。 2.新建 C# 脚本 MoveToTarget.cs&#xff08;写完记得保存&#xff09; using System.Collections; using System.Collections.Generic; using UnityEngine;public class MoveToTarget : M…...

高校教务系统登录页面JS分析——南京邮电大学

高校教务系统密码加密逻辑及JS逆向 本文将介绍南京邮电大学教务系统的密码加密逻辑以及使用JavaScript进行逆向分析的过程。通过本文&#xff0c;你将了解到密码加密的基本概念、常用加密算法以及如何通过逆向分析来破解密码。 本文仅供交流学习&#xff0c;勿用于非法用途。 一…...

css实现排行榜样式(vue组件)

先看效果图&#xff1a; <template><div class"lawyer-refund-wrap"><div class"content"><divv-for"(item, index) in dataList" :key"index":style"{width: calc(100% - ${(index 1) * 10}px)}"c…...

I2VGen-XL高清图像生成视频大模型

本项目I2VGen-XL旨在解决根据输入图像生成高清视频任务。I2VGen-XL由达摩院研发的高清视频生成基础模型之一&#xff0c;其核心部分包含两个阶段&#xff0c;分别解决语义一致性和清晰度的问题&#xff0c;参数量共计约37亿&#xff0c;模型经过在大规模视频和图像数据混合预训…...

Angular知识点系列(1)-每天10个小知识

目录 1. Angular工作原理和与其他前端框架的区别2. 使用Angular的经验和最喜欢的特性3. 使用的最复杂的Angular组件或指令4. Angular的依赖注入系统和示例5. Angular的模块和组件生命周期6. 使用Angular路由和路由保护7. 在Angular应用中实现延迟加载8. 处理Angular应用中的状态…...

【从0开发】百度BML全功能AI开发平台【实操:以部署情感分析模型为例】

目录 一、全功能AI开发平台介绍二、AI项目落地应用流程&#xff08;以文本分类为例&#xff09;2-0、项目开始2-1、项目背景2-2、数据准备介绍2-3、项目数据2-4、建模调参介绍2-5、项目的建模调参2-6、开发部署2-7、项目在公有云的部署 附录&#xff1a;调用api代码总结 一、全…...

源码解析FlinkKafkaConsumer支持punctuated水位线发送

背景 FlinkKafkaConsumer支持当收到某个kafka分区中的某条记录时发送水位线&#xff0c;比如这条特殊的记录代表一个完整记录的结束等&#xff0c;本文就来解析下发送punctuated水位线的源码 punctuated 水位线发送源码解析 1.首先KafkaFetcher中的runFetchLoop方法 public…...

vue3学习(五)--- 父子组件传值

文章目录 defineProps普通写法TS写法 defineEmits普通写法TS写法 defineExpose defineProps 和 defineEmits 都是只能在 <script setup> 中使用的编译器宏。他们不需要导入&#xff0c;且会随着 <script setup> 的处理过程一同被编译掉。 defineProps 接收父组件传…...

寻找AI时代的关键拼图,从美国橡树岭国家实验室读懂AI存力信标

超算&#xff0c;是计算产业的明珠&#xff0c;是人类探索未知的航船。超算的发展与变化&#xff0c;不仅代表着各个国家与地区间的科技竞争力&#xff0c;更将作为趋势风向标&#xff0c;影响整个数字化体系的走向。 在目前阶段&#xff0c;超算与AI计算的融合是大势所趋。为了…...

多线程并发篇---第十二篇

系列文章目录 文章目录 系列文章目录一、说说ThreadLocal原理?二、线程池原理知道吗?以及核心参数三、线程池的拒绝策略有哪些?一、说说ThreadLocal原理? hreadLocal可以理解为线程本地变量,他会在每个线程都创建一个副本,那么在线程之间访问内部 副本变量就行了,做到了…...

P7537 [COCI2016-2017#4] Rima

由于题目涉及到后缀&#xff0c;不难想到用 trie 树处理。 将每个字符串翻转插入 trie&#xff0c;后缀就变成了前缀&#xff0c;方便处理。 条件 LCS ( A , B ) ≥ max ⁡ ( ∣ A ∣ , ∣ B ∣ ) − 1 \text{LCS}(A,B) \ge \max(|A|,|B|)-1 LCS(A,B)≥max(∣A∣,∣B∣)−1&…...

SwiftUI Swift CoreData 计算某实体某属性总和

有一个名为 Item 的实体&#xff0c;它有一个名为 amount 的 Double 属性&#xff0c;向你的 View 添加一个计算属性&#xff1a; Code: struct ContentView: View {Environment(\.managedObjectContext) private var viewContextFetchRequest(sortDescriptors: [NSSortDescri…...

docker安装skyWalking笔记

确保安装了docker和docker-compose sudo docker -v Docker version 20.10.12, build 20.10.12-0ubuntu4 sudo docker-compose -v docker-compose version 1.29.2, build unknown 编写docker-compose.yml version: "3.1" services: skywalking-oap:image: apach…...

【OSG学习笔记】Day 18: 碰撞检测与物理交互

物理引擎&#xff08;Physics Engine&#xff09; 物理引擎 是一种通过计算机模拟物理规律&#xff08;如力学、碰撞、重力、流体动力学等&#xff09;的软件工具或库。 它的核心目标是在虚拟环境中逼真地模拟物体的运动和交互&#xff0c;广泛应用于 游戏开发、动画制作、虚…...

大型活动交通拥堵治理的视觉算法应用

大型活动下智慧交通的视觉分析应用 一、背景与挑战 大型活动&#xff08;如演唱会、马拉松赛事、高考中考等&#xff09;期间&#xff0c;城市交通面临瞬时人流车流激增、传统摄像头模糊、交通拥堵识别滞后等问题。以演唱会为例&#xff0c;暖城商圈曾因观众集中离场导致周边…...

Nuxt.js 中的路由配置详解

Nuxt.js 通过其内置的路由系统简化了应用的路由配置&#xff0c;使得开发者可以轻松地管理页面导航和 URL 结构。路由配置主要涉及页面组件的组织、动态路由的设置以及路由元信息的配置。 自动路由生成 Nuxt.js 会根据 pages 目录下的文件结构自动生成路由配置。每个文件都会对…...

Java-41 深入浅出 Spring - 声明式事务的支持 事务配置 XML模式 XML+注解模式

点一下关注吧&#xff01;&#xff01;&#xff01;非常感谢&#xff01;&#xff01;持续更新&#xff01;&#xff01;&#xff01; &#x1f680; AI篇持续更新中&#xff01;&#xff08;长期更新&#xff09; 目前2025年06月05日更新到&#xff1a; AI炼丹日志-28 - Aud…...

Cloudflare 从 Nginx 到 Pingora:性能、效率与安全的全面升级

在互联网的快速发展中&#xff0c;高性能、高效率和高安全性的网络服务成为了各大互联网基础设施提供商的核心追求。Cloudflare 作为全球领先的互联网安全和基础设施公司&#xff0c;近期做出了一个重大技术决策&#xff1a;弃用长期使用的 Nginx&#xff0c;转而采用其内部开发…...

unix/linux,sudo,其发展历程详细时间线、由来、历史背景

sudo 的诞生和演化,本身就是一部 Unix/Linux 系统管理哲学变迁的微缩史。来,让我们拨开时间的迷雾,一同探寻 sudo 那波澜壮阔(也颇为实用主义)的发展历程。 历史背景:su的时代与困境 ( 20 世纪 70 年代 - 80 年代初) 在 sudo 出现之前,Unix 系统管理员和需要特权操作的…...

均衡后的SNRSINR

本文主要摘自参考文献中的前两篇&#xff0c;相关文献中经常会出现MIMO检测后的SINR不过一直没有找到相关数学推到过程&#xff0c;其中文献[1]中给出了相关原理在此仅做记录。 1. 系统模型 复信道模型 n t n_t nt​ 根发送天线&#xff0c; n r n_r nr​ 根接收天线的 MIMO 系…...

【Java学习笔记】BigInteger 和 BigDecimal 类

BigInteger 和 BigDecimal 类 二者共有的常见方法 方法功能add加subtract减multiply乘divide除 注意点&#xff1a;传参类型必须是类对象 一、BigInteger 1. 作用&#xff1a;适合保存比较大的整型数 2. 使用说明 创建BigInteger对象 传入字符串 3. 代码示例 import j…...

VM虚拟机网络配置(ubuntu24桥接模式):配置静态IP

编辑-虚拟网络编辑器-更改设置 选择桥接模式&#xff0c;然后找到相应的网卡&#xff08;可以查看自己本机的网络连接&#xff09; windows连接的网络点击查看属性 编辑虚拟机设置更改网络配置&#xff0c;选择刚才配置的桥接模式 静态ip设置&#xff1a; 我用的ubuntu24桌…...

使用LangGraph和LangSmith构建多智能体人工智能系统

现在&#xff0c;通过组合几个较小的子智能体来创建一个强大的人工智能智能体正成为一种趋势。但这也带来了一些挑战&#xff0c;比如减少幻觉、管理对话流程、在测试期间留意智能体的工作方式、允许人工介入以及评估其性能。你需要进行大量的反复试验。 在这篇博客〔原作者&a…...