当前位置： 首页 > news >正文

谁能讲清楚Spark之Spark系统架构

news 2025/11/24 7:30:33

### 整体架构概述
        Spark与Hadoop MapReduce的结构类似，Spark也采用Master-Worker结构。如果一个Spark集群由4个节点组成，即1个Master节点和3个Worker节点，那么在部署Standalone版本后，Spark部署的系统架构图如图2.1所示。简单来说，Master节点负责管理应用和任务，Worker节点负责执行任务。

### 具体功能

        我们接下来先介绍Master节点和Worker节点的具体功能，然后介绍一些Spark系统中的基本概念，以及一些实现细节。

1.Master节点和Worker节点的职责如下所述。

        Master节点上常驻Master进程。该进程负责管理全部的Worker节点，如将Spark任务分配给Worker节点，收集Worker节点上任务的运行信息，监控Worker节点的存活状态等。
        Worker节点上常驻Worker进程。该进程除了与Master节点通信，还负责管理Spark任务的执行，如启动Executor来执行具体的Spark任务，监控任务运行状态等。

2.执行顺讯

        启动Spark集群时，Master节点上会启动Master进程，每个Worker节点上会启动Worker进程。启动Spark集群后，接下来可以提交Spark应用到集群中执行，Master节点接收到应用后首先会通知Worker节点启动Executor，然后分配Spark计算任务（task）到Executor上执行，Executor接收到task后，为每个task启动1个线程来执行。

3.这里有几个概念需要解释一下。

        Spark application，即Sp

相关文章：

谁能讲清楚Spark之Spark系统架构

### 整体架构概述 Spark与Hadoop MapReduce的结构类似，Spark也采用Master-Worker结构。如果一个Spark集群由4个节点组成，即1个Master节点和3个Worker节点，那么在部署Standalone版本后，Spark部署的系统架构图如图2.1所示。简单来说，Master节点负责管理应用和任务，…...

编程日记 2023/8/13 9:50:20

力扣：59. 螺旋矩阵 II（Python3）

题目： 给你一个正整数 n ，生成一个包含 1 到 n2 所有元素，且元素按顺时针顺序螺旋排列的 n x n 正方形矩阵 matrix 。 来源：力扣（LeetCode） 链接：力扣（LeetCode）官网 - 全…...

编程日记 2023/8/13 9:49:17

【electron】electron项目创建的方式：

文章目录 【1】npm init quick-start/electron（推荐）【2】 克隆仓库，快速启动【3】 通过脚手架搭建项目【4】 手动创建项目 【Electron官网】https://www.electronjs.org/zh/docs/latest/api/app 【1】npm init quick-start/electron&#xf…...

编程日记 2023/8/13 9:48:15

Vim学习（一）——基本命令与三种模式

写在前面， 致敬 8月3日，Vim创始人Bram Moolenaar去世，在此向老爷子致敬！感谢他为这个世界带来的优秀编辑器Vim。 基本介绍 Vim全称叫Vi IMproved. 而vi则是Visual Interface的缩写，他们处理都是ASCII码字符数据&am…...

编程日记 2023/8/13 9:47:14

unity新输入系统的简单使用（New InputSystem）

1、在包管理器 unity注册表中下载安装InputSystem 2、给玩家添加组件PlayerInput，点击CreatAction,创建一个InputAct InputAct,这是玩家的输入文件，在里面可以设置玩家输入 3、使用 例如玩家控制角色移动 在InputAct中，默认已经设置好了移…...

编程日记 2023/8/13 9:46:13

Redis——特性介绍与应用场景

Redis特性介绍 In-memory data structrues 众所周知，MySQL是一种关系型数据库，其通过表的结构存储数据，就类似于建立了一个excel表格来存储数据。但是像视频这类数据并不适合存储在关系型数据库中，因此存在非关系型数据库——通…...

编程日记 2023/8/13 9:45:11

网络：路由

1. 路由器 路由器工作在三层，每个接口都处于不用的网段中，即不同的广播域。但大多情况下，两台路由器直接相连的接口是同一个广播域，即一个网段。 路由器具有判断网络地址和选择路径的功能，能在多网络互联的环境中&…...

编程日记 2023/8/13 9:44:10

利用三维内容编辑器制作VR交互课件，简单好用易上手

随着虚拟现实技术的不断发展，越来越多的教育机构开始尝试将其应用于教育教学中。然而，要实现这一目标并不容易，需要专业的技术支持和开发团队。 为了解决这一问题，广州华锐互动研发了三维内容编辑器，它是一种基于虚拟现…...

编程日记 2023/8/13 9:43:09

中国首款量子计算机操作系统本源司南 PilotOS正式上线

中国安徽省量子计算工程研究中心近日宣布，中国国产量子计算机操作系统本源司南 PilotOS 客户端正式上线。 如果把量子芯片比喻成人的“心脏”，那么量子计算机操作系统就相当于人的“大脑”，量子计算应用软件则是人的“四肢”。 据安徽省量子…...

编程日记 2023/8/13 9:42:07

基层社会治理平台建设方案[113页PPT]

导读：原文《基层社会治理平台建设方案[113页PPT]》（获取来源见文尾），本文精选其中精华及架构部分，逻辑清晰、内容完整，为快速形成售前方案提供参考。 完整版领取方式 完整版领取方式： 如需获取完…...

编程日记 2023/8/13 9:41:06

认识vite

一.了解vite的不同版本的更新 vite1版本是基于vue项目的，无法跨框架使用vite2可以跨框架（vue2，vue3，react）vite3模板变更；vite cli优化；import.meta.glob API变化；其他vite4主版本主…...

编程日记 2023/8/13 9:40:05

华为运动健康，十年创新天地宽

我听一位朋友讲过这样一个故事。某天早上，急诊科的医生迎来了一位患者，患者进来后直接说：“大夫，我房颤了。” 这位医生非常诧异，因为心脏房颤确实非常危急，但很多时候并没有明显的生理体征，患者…...

编程日记 2023/8/13 9:39:03

深度学习（37）—— 图神经网络GNN（2）

深度学习（37）—— 图神经网络GNN（2） 这一期主要是一些简单示例，针对不同的情况，使用的数据都是torch_geometric的内置数据集 文章目录 深度学习（37）—— 图神经网络GNN&#xff08…...

编程日记 2023/8/13 9:38:02

Unity游戏源码分享-乐节奏休闲游戏源码 guitar hero 支持mobile

Unity游戏源码分享-乐节奏休闲游戏源码 guitar hero 支持mobile 完整版下载地址：https://download.csdn.net/download/Highning0007/88198766...

编程日记 2023/8/13 9:37:00

VS Code配置Prettier格式化Apex

先决条件 安装nodejs和npm安装vs code安装salesforce extension pack 配置Prettier Apex 创建本地Salesforce项目 (Standard) command shift p -> SFDX: Create Project with Manifest -> Standard 打开terminal运行npm init生成package.json文件 安装prettier ap…...

编程日记 2023/8/13 9:35:59

Spring-Cloud-Loadblancer详细分析_4

在RoundRobinLoadBalancer.choose中的serviceInstanceListSupplierProvider就是获取服务列表的关键，那么此对象是怎么拿到的呢，让我们回到RoundRobinLoadBalancer的创建过程 Configuration(proxyBeanMethods false) ConditionalOnDiscoveryEnabled pub…...

编程日记 2023/8/13 9:34:57

openocd调试esp32（通过FT232H）

之前在学习ESP32，其中有一部分课程是学习openocd通过JTAG调试程序的，因为我用的是ESP32-wroom，usb端口没有集成对应的usb转jtag的ft232，查了ESP32相关的资料（JTAG 调试 - ESP32 - — ESP-IDF 编程指南 latest 文档 (es…...

编程日记 2023/8/13 9:33:54

Nokia5110使用方法及实例编写51单片机

文章目录 Nokia5110实物图引脚和原理图51单片机实例软件模拟SPI实现控制Nokia5110显示字符发送字节时序图（图片太多了，关键图片已截取出来）初始化需要配置实例编写回顾接线结束Nokia5110 Nokia是诺基亚拆下来的屏幕。使用SPI控制 84x48 的点阵 LCD，可以显示 4 行汉字，采用…...

编程日记 2023/8/13 9:32:53

3个月快速入门LoRa物联网传感器开发

在这里插入图片描述 快速入门LoRa物联网传感器开发 LoRa作为一种LPWAN(低功耗广域网络)无线通信技术,非常适合物联网传感器和行业应用。要快速掌握LoRa开发,需要系统学习理论知识,并通过实际项目积累经验。 摘要: 先学习LoRa基础知识:原理、网络架构、协议等,大概需要2周时间…...

编程日记 2023/8/13 9:31:52

【小梦C嘎嘎——启航篇】内存管理小知识~

【小梦C嘎嘎——启航篇】内存管理小知识~😎 前言🙌malloc/calloc/realloc的区别？new 与 deletenew与delete要找好搭档才能保证万无一失 new 与 delete的内部实现细节是怎么样的呢？？？new 的内部实现细节dele…...

编程日记 2023/8/13 9:30:51

变量 varablie 声明- Rust 变量 let mut 声明与 C/C++ 变量声明对比分析

一、变量声明设计：let 与 mut 的哲学解析 Rust 采用 let 声明变量并通过 mut 显式标记可变性，这种设计体现了语言的核心哲学。以下是深度解析： 1.1 设计理念剖析 安全优先原则：默认不可变强制开发者明确声明意图 let x 5; …...

编程新知 2025/9/28 20:12:12

论文解读：交大港大上海AI Lab开源论文 | 宇树机器人多姿态起立控制强化学习框架（二）

HoST框架核心实现方法详解 - 论文深度解读（第二部分） 《Learning Humanoid Standing-up Control across Diverse Postures》 系列文章： 论文深度解读 + 算法与代码分析（二） 作者机构： 上海AI Lab, 上海交通大学, 香港大学, 浙江大学, 香港中文大学 论文主题： 人形机器人…...

编程新知 2025/8/4 18:55:37

简易版抽奖活动的设计技术方案

1.前言 本技术方案旨在设计一套完整且可靠的抽奖活动逻辑，确保抽奖活动能够公平、公正、公开地进行，同时满足高并发访问、数据安全存储与高效处理等需求，为用户提供流畅的抽奖体验，助力业务顺利开展。本方案将涵盖抽奖活动的整体架构设计、核心流程逻辑、关键功能实现以及…...

编程新知 2025/11/21 9:40:29

基于Docker Compose部署Java微服务项目

一. 创建根项目 根项目&#xff08;父项目&#xff09;主要用于依赖管理 一些需要注意的点&#xff1a; 打包方式需要为 pom<modules>里需要注册子模块不要引入maven的打包插件&#xff0c;否则打包时会出问题 <?xml version"1.0" encoding"UTF-8…...

编程新知 2025/11/16 23:22:03

九天毕昇深度学习平台 | 如何安装库？

pip install 库名 -i https://pypi.tuna.tsinghua.edu.cn/simple --user 举个例子&#xff1a; 报错 ModuleNotFoundError: No module named torch 那么我需要安装 torch pip install torch -i https://pypi.tuna.tsinghua.edu.cn/simple --user pip install 库名&#x…...

编程新知 2025/11/18 9:02:11

day36-多路IO复用

一、基本概念 &#xff08;服务器多客户端模型&#xff09; 定义&#xff1a;单线程或单进程同时监测若干个文件描述符是否可以执行IO操作的能力 作用&#xff1a;应用程序通常需要处理来自多条事件流中的事件&#xff0c;比如我现在用的电脑&#xff0c;需要同时处理键盘鼠标…...

编程新知 2025/11/17 9:56:21

【学习笔记】erase 删除顺序迭代器后迭代器失效的解决方案

目录 使用 erase 返回值继续迭代使用索引进行遍历 我们知道类似 vector 的顺序迭代器被删除后&#xff0c;迭代器会失效&#xff0c;因为顺序迭代器在内存中是连续存储的&#xff0c;元素删除后&#xff0c;后续元素会前移。 但一些场景中&#xff0c;我们又需要在执行删除操作…...

编程新知 2025/9/30 8:10:20

Monorepo架构: Nx Cloud 扩展能力与缓存加速

借助 Nx Cloud 实现项目协同与加速构建 1 &#xff09; 缓存工作原理分析 在了解了本地缓存和远程缓存之后&#xff0c;我们来探究缓存是如何工作的。以计算文件的哈希串为例&#xff0c;若后续运行任务时文件哈希串未变&#xff0c;系统会直接使用对应的输出和制品文件。 2 …...

编程新知 2025/9/19 0:40:04

基于江科大stm32屏幕驱动，实现OLED多级菜单（动画效果），结构体链表实现(独创源码)

引言 在嵌入式系统中&#xff0c;用户界面的设计往往直接影响到用户体验。本文将以STM32微控制器和OLED显示屏为例&#xff0c;介绍如何实现一个多级菜单系统。该系统支持用户通过按键导航菜单&#xff0c;执行相应操作&#xff0c;并提供平滑的滚动动画效果。 本文设计了一个…...

编程新知 2025/11/20 8:54:16

从零开始了解数据采集（二十八）——制造业数字孪生

近年来&#xff0c;我国的工业领域正经历一场前所未有的数字化变革&#xff0c;从“双碳目标”到工业互联网平台的推广&#xff0c;国家政策和市场需求共同推动了制造业的升级。在这场变革中&#xff0c;数字孪生技术成为备受关注的关键工具&#xff0c;它不仅让企业“看见”设…...

编程新知 2025/11/20 7:16:55