当前位置： 首页 > news >正文

ApachePulsar原理解析与应用实践（学习笔记一）

news 2025/12/26 10:15:11

随着时代的发展，软件设计的理念也在不断发展，从单体服务、面向服务、微服务，发展到云原生以及无服务。其演变的过程是一个能力不断增强，领域边界不断微分细化的过程。比如无服务就是将函数作为服务，就类似dns模式的服务设计。

大数据系统往往需要处理流式数据，通过消息队列将数据进行采集和汇总，然后导入大数据计算引擎或者存储。

目前各种云原生技术都比较丰富，但是消息中间件MQ的云原生技术目前了解到的只有pulsar。Pulsar是新一代的消息中间件，其最大的特点是支持云原生，Pulsar采用分布式存储Bookeeper策略进行消息存储（考虑网络速率越来越快，存储和计算混用的架构缺点逐渐显现），将计算和存储能力分开，理论上具有无限消息处理和消息存储的能力。其设计架构采用分级路由的策略，实现多租场景，具有百万Topic的能力。采用可插拔的协议处理，支持各种协议，可以实现业务无缝迁移。具有跨域复制能力；

pulsar的基本架构如下：

ad26ae89158f0f9746a896421a44f301.png

相关文章：

ApachePulsar原理解析与应用实践（学习笔记一）

随着时代的发展，软件设计的理念也在不断发展，从单体服务、面向服务、微服务，发展到云原生以及无服务。其演变的过程是一个能力不断增强，领域边界不断微分细化的过程。比如无服务就是将函数作为服务，就类似dns模式的服务…...

编程日记 2023/9/9 3:02:11

2023开学礼《乡村振兴战略下传统村落文化旅游设计》许少辉八一新书南京财经大学图书馆

2023开学礼《乡村振兴战略下传统村落文化旅游设计》许少辉八一新书南京财经大学图书馆...

编程日记 2023/9/9 3:01:10

qt 信号与槽机制，登录界面跳转

登录界面跳转 配置文件 .pro QT core gui texttospeechgreaterThan(QT_MAJOR_VERSION, 4): QT widgetsCONFIG c11# The following define makes your compiler emit warnings if you use # any Qt feature that has been marked deprecated (the exact warnings # d…...

编程日记 2023/9/9 3:00:08

uniapp的两个跳转方式

uniapp内置多种跳转方式，我这里介绍两个最常用的跳转，uni.navigateTo和uni.switchTab，前者为跳转到非TabBar页面，后者为跳转到TabBar页面，所谓TabBar就是底部导航栏配置的页面，例如下方的index.vue。 在pa…...

编程日记 2023/9/9 2:59:07

【LeetCode】1654：到家的最少跳跃次数的解题思路 关于力扣无法return的BUG的讨论

文章目录 一、题目二、题解与代码三、神奇的BUG3.1 无法执行的 return 和 break 语句3.2 通过另一个 break 解决 一、题目 有一只跳蚤的家在数轴上的位置 x 处。请你帮助它从位置 0 出发，到达它的家。 跳蚤跳跃的规则如下： 它可以 往前 跳恰好 a 个位…...

编程日记 2023/9/9 2:58:05

Calico IP In IP模拟组网

Calico IP In IP模拟组网 网络架构 模拟组网 先在k8s-master-1节点执行如下命令： # 创建veth-pair设备对ip link add veth1 type veth peer name eth0# 创建ns1网络命名空间ip netns add ns1# 将eth0网卡插入ns1网络命名空间ip link set eth0 netns ns1# 为ns1网…...

编程日记 2023/9/9 2:57:05

在linux上挂载windows共享目录

挂载要求 非root用户（普通用户）能够读写windows共享目录，比如查看文件、创建文件、修改文件、删除文件 # 让普通用户也可以正常读写 uidvalue and gidvalue Set the owner and group of the root of the file system (default: uidgid0, bu…...

编程日记 2023/9/9 2:56:04

drone的简单使用

（一）简介 Drone 是一个基于Docker容器技术的可扩展的持续集成引擎，用于自动化测试、构建、发布。每个构建都在一个临时的Docker容器中执行，使开发人员能够完全控制其构建环境并保证隔离。开发者只需在项目中包含 .drone.yml文件&…...

编程日记 2023/9/9 2:55:02

day 52 | 84.柱状图中最大的矩形

84.柱状图中最大的矩形 本题跟接雨水的思路是差不多的，不同的是接雨水找到的凹，这个找的是凸。因此是找到左右第一个比他小的值。因此单调栈中的顺序是从栈头到栈尾单调增。 需要注意的是，为了防止给定的元素是单调增或者单调减，…...

编程日记 2023/9/9 2:54:01

BUUCTF刷题十一道(08)

文章目录 [HITCON 2017]SSRFme[b01lers2020]Welcome to Earth[CISCN2019 总决赛 Day2 Web1]Easyweb[SWPUCTF 2018]SimplePHP[NCTF2019]SQLi[网鼎杯 2018]Comment[NPUCTF2020]ezinclude[HarekazeCTF2019]encode_and_encode[CISCN2019 华东南赛区]Double Secret[网鼎杯2018]Unfin…...

编程日记 2023/9/9 2:52:59

快速构建基于Paddle Serving部署的Paddle Detection目标检测Docker镜像

快速构建基于Paddle Serving部署的Paddle Detection目标检测Docker镜像 项目介绍需要重点关注的几个文件构建cpu版本的docker构建gpu版本的docker（cuda11.2cudnn8） 阅读提示： （1）Paddle的Serving项目中，在t…...

编程日记 2023/9/9 2:51:58

SOLIDWORKS工程图自动零件序号的极致体验

在装配体工程图中零件序号的标注要求不能漏标、要和明细表项目相对应、位置适当并且要按序排列。 这些要求看似简单，但是却需要极大的精力去完成。当然在SOLIDWORKS中这些问题都被很好的解决了，这也是本次分享的内容。 自动序号标注 1) 在进行尺寸标注前…...

编程日记 2023/9/9 2:50:56

将ROS bag转成CSV

在放了bag包的工作空间下，执行如下命令 rostopic echo -b recorded_bag.bag -p /topic_name > csv_file.csv # -b表示接bag包 # -p表示将消息转为适合matlab或octave plot画图的格式 # recorded_bag.bag是记录下来的bag包 # /topic_name，以/开头&…...

编程日记 2023/9/9 2:49:53

jframe生成柱状图片+图片垂直合并+钉钉机器人推送

需求： 后端根据数据自动生成2个图片，然后把两张图片合并成一张图片，再发到钉钉群里，涉及到定时生成和推送，当时我们测试同事说他们写定时脚本放到服务器上，然后让我提供生成图片的方法和钉钉机器人的逻辑 天…...

编程日记 2023/9/9 2:48:52

如何用J-Link仿真PY32F003系列芯片

在用国产ARM芯片，仿真和烧录是必须的，但KEIL MDK也支持国产芯片在线仿真和下载。相信大家和我一样，苦于不会设置J-Link走了很多弯路。不管你用盗版的，还是正版的，都支持在线仿真和下载，只要是ARM核&#xf…...

编程日记 2023/9/9 2:47:49

# Go学习-Day10

Go学习-Day10 个人博客：CSDN博客 反射 编写函数适配器，序列化和反序列话可以用到 反射可以在运行时，动态获取变量的各种信息，例如类型，结构体本身的信息，修改变量的值，调用关联的方法 反射是…...

编程日记 2023/9/9 2:46:48

vue3：5、组合式API-reactive和ref函数

<script setup> /* reactive接收一个对象类型的数据&#xff0c;返回一个响应式的对象 *//*** ref:接收简单类型或复杂类型&#xff0c;返回一个响应式对象* 本质&#xff1a;是在原有传入数据的基础上&#xff0c;外层报了一层对象&#xff0c;包成了复杂类型* 底层&…...

编程日记 2023/9/9 2:45:47

Unity Inspector面板上显示Api

serializeField】——将私有类型和保护类型可视化到面板上【System.serializeField】——将自定义类型可视化到面板上【HideIninspector】——将公共变量隐藏【Header&#xff08;“分组说明”&#xff09;】——将可视化变量进行分组【Tooltip&#xff08;“内容说明”&#x…...

编程日记 2023/9/9 2:44:46

Redis功能实战篇之附近商户

在互联网的app当中&#xff0c;特别是像美团&#xff0c;饿了么等app。经常会看到附件美食或者商家&#xff0c; 当我们点击美食之后&#xff0c;会出现一系列的商家&#xff0c;商家中可以按照多种排序方式&#xff0c;我们此时关注的是距离&#xff0c;这个地方就需要使用到我…...

编程日记 2023/9/9 2:43:44

selenium 自动化测试——元素定位

WebDriver 提供了8种元素的定位方法&#xff0c;分别是&#xff1a; id 定位&#xff1a;find_element(By.ID, "kw") name 定位: find_element(By.NAME, "") tag 定位: find_element(By.TAG, "") class 定位: find_element(By.CLASS_NAME, &quo…...

编程日记 2023/9/9 2:42:42

【kafka】Golang实现分布式Masscan任务调度系统

要求&#xff1a; 输出两个程序&#xff0c;一个命令行程序&#xff08;命令行参数用flag&#xff09;和一个服务端程序。 命令行程序支持通过命令行参数配置下发IP或IP段、端口、扫描带宽&#xff0c;然后将消息推送到kafka里面。 服务端程序&#xff1a; 从kafka消费者接收…...

编程新知 2025/12/22 9:15:22

模型参数、模型存储精度、参数与显存

模型参数量衡量单位 M&#xff1a;百万&#xff08;Million&#xff09; B&#xff1a;十亿&#xff08;Billion&#xff09; 1 B 1000 M 1B 1000M 1B1000M 参数存储精度 模型参数是固定的&#xff0c;但是一个参数所表示多少字节不一定&#xff0c;需要看这个参数以什么…...

编程新知 2025/12/20 12:32:08

【磁盘】每天掌握一个Linux命令 - iostat

目录 【磁盘】每天掌握一个Linux命令 - iostat工具概述安装方式核心功能基础用法进阶操作实战案例面试题场景生产场景 注意事项 【磁盘】每天掌握一个Linux命令 - iostat 工具概述 iostat&#xff08;I/O Statistics&#xff09;是Linux系统下用于监视系统输入输出设备和CPU使…...

编程新知 2025/9/30 16:39:11

4. TypeScript 类型推断与类型组合

一、类型推断 (一) 什么是类型推断 TypeScript 的类型推断会根据变量、函数返回值、对象和数组的赋值和使用方式&#xff0c;自动确定它们的类型。 这一特性减少了显式类型注解的需要&#xff0c;在保持类型安全的同时简化了代码。通过分析上下文和初始值&#xff0c;TypeSc…...

编程新知 2025/11/2 1:48:43

人工智能--安全大模型训练计划：基于Fine-tuning + LLM Agent

安全大模型训练计划&#xff1a;基于Fine-tuning LLM Agent 1. 构建高质量安全数据集 目标&#xff1a;为安全大模型创建高质量、去偏、符合伦理的训练数据集&#xff0c;涵盖安全相关任务&#xff08;如有害内容检测、隐私保护、道德推理等&#xff09;。 1.1 数据收集 描…...

编程新知 2025/11/26 23:56:17

Python 训练营打卡 Day 47

注意力热力图可视化 在day 46代码的基础上&#xff0c;对比不同卷积层热力图可视化的结果 import torch import torch.nn as nn import torch.optim as optim from torchvision import datasets, transforms from torch.utils.data import DataLoader import matplotlib.pypl…...

编程新知 2025/11/24 9:42:16

Kubernetes 节点自动伸缩（Cluster Autoscaler）原理与实践

在 Kubernetes 集群中&#xff0c;如何在保障应用高可用的同时有效地管理资源&#xff0c;一直是运维人员和开发者关注的重点。随着微服务架构的普及&#xff0c;集群内各个服务的负载波动日趋明显&#xff0c;传统的手动扩缩容方式已无法满足实时性和弹性需求。 Cluster Auto…...

编程新知 2025/12/24 4:36:31

向量几何的二元性：叉乘模长与内积投影的深层联系

在数学与物理的空间世界中&#xff0c;向量运算构成了理解几何结构的基石。叉乘&#xff08;外积&#xff09;与点积&#xff08;内积&#xff09;作为向量代数的两大支柱&#xff0c;表面上呈现出截然不同的几何意义与代数形式&#xff0c;却在深层次上揭示了向量间相互作用的…...

编程新知 2025/12/25 10:54:49

深入理解 React 样式方案

React 的样式方案较多，在应用开发初期，开发者需要根据项目业务具体情况选择对应样式方案。React 样式方案主要有： 1. 内联样式 2. module css 3. css in js 4. tailwind css 这些方案中，均有各自的优势和缺点。 1. 方案优劣势 1. 内联样式: 简单直观，适合动态样式和…...

编程新知 2025/11/1 6:38:03

C# WPF 左右布局实现学习笔记(1)

开发流程视频&#xff1a; https://www.youtube.com/watch?vCkHyDYeImjY&ab_channelC%23DesignPro Git源码&#xff1a; GitHub - CSharpDesignPro/Page-Navigation-using-MVVM: WPF - Page Navigation using MVVM 1. 新建工程 新建WPF应用&#xff08;.NET Framework) 2.…...

编程新知 2025/12/25 1:32:40