当前位置：首页 > news >正文

大数据flink篇之三-flink运行环境安装后续一yarn-session安装

news 2026/1/31 16:52:40

前提：
Hadoop 必須保证在 2.2 以上，且必須裝有 hdfs 服务。Hadoop安装后续会有相关说明。
具体的，在生产环境中，flink一般会交由yarn、k8s等资源管理平台来处理。本章主要讲解yarn模式下的session cluster模式。

flink Session-Cluster
在这里插入图片描述

 在yarn中初始化一个flink集群，开辟指定的资源，以后提交任务都向这里提交。这个flink集群会驻在yarn集群中，除非手工停止。

首先确保在/etc/profile中添加了配置项

export HADOOP_CLASSPATH=`hadoop classpath`

初始化启动

./bin/yarn-session.sh --detached

提交作业

./bin/flink run ./examples/streaming/TopSpeedWindowing.jar

停止作业

echo "stop" | ./bin/yarn-session.sh -id application_XXXXX_XXX

这种模式所有的job都共享一个jobmanager，启动的集群只有一个jobmanager。
后续继续补充另外两种：Per-Job和Application Mode。

大数据flink篇之三-flink运行环境安装后续一yarn-session安装

前提： Hadoop 必須保证在 2.2 以上，且必須裝有 hdfs 服务。Hadoop安装后续会有相关说明。具体的，在生产环境中，flink一般会交由yarn、k8s等资源管理平台来处理。本章主要讲解yarn模式下的session cluster模式。 flink Session-C…...

编程日记 2023/10/16 22:11:39

Chrome Extensions v3 迁移清单

一、前置问题 1.1为什么需要迁移 v3？ Chrome 计划完全停止 v2 版本维护，后续 v2 版本将无法上架谷歌插件商店，除此之外，未来新版本 Chrome 对于 v2 版本插件的限制会越来越大，比如安全性限制 iframe 嵌套只能通过沙盒…...

编程日记 2023/10/16 22:10:38

TCP/IP(十二)TCP的确认、超时、重传机制

一 TCP的确认应答机制确认应答机制: 每次收到数据都会给对端发送一个应答报文(ACK) ① 带重传的肯定确认确认机制: 超时重传的肯定确认 --> 完成了两个作用,或者说有两个含义1、肯定[正确] 确认小结： 我的确认信息是针对正确数据做确认,而不是错误…...

编程日记 2023/10/16 22:09:37

C/C++陷阱——临时变量的产生和特性

C/C陷阱——临时变量的产生和特性在学习C常引用时，有这样一段代码引起了我的注意： int a 1; double& b a;当我编译这段代码时，竟然报错了： 按理来说，初始化引用时不能涉及权限的放大（如用const in…...

编程日记 2023/10/16 22:08:36

【音视频|ALSA】SS528开发板编译Linux内核ALSA驱动、移植alsa-lib、采集与播放usb耳机声音

😁博客主页😁：🚀https://blog.csdn.net/wkd_007🚀 🤑博客内容🤑：🍭嵌入式开发、Linux、C语言、C、数据结构、音视频🍭 🤣本文内容🤣&a…...

编程日记 2023/10/16 22:06:34

C/C++基础讲解(一百三十一)之经典篇(信息合并/平均分数存储)

C/C++基础讲解(一百三十一)之经典篇(信息合并/平均分数存储) 程序之美前言很多时候，特别是刚步入大学的学子们，对于刚刚开展的计算机课程基本上是一团迷雾，想要弄明白其中的奥秘，真的要花费一些功夫，我和大家一样都是这么啃过来的，从不知到知知，懵懂到入门，每一步…...

编程日记 2023/10/16 22:05:32

【ROS】使用vscode浏览navigation2源码时，提示：没有那个文件或目录

【ROS】郭老二博文之：ROS目录 1、问题描述使用vscode浏览navigation2源码时，头文件下面有波浪线，并提示：没有那个文件或目录。比如没有：geometry_msgs/msg/polygon.h 错误信息：无法打开源文件 “geometry_msgs/msg/polygon.h” (dependency of “nav2_controller/co…...

编程日记 2023/10/16 22:04:30

main.c: #include "uart.h"#include "key_it.h"int main(){char c;char *s;uart4_init(); //串口初始化//中断初始化key_it_config();key3_it_config();//完成GPIO相关初始化all_led_init();//风扇初始化fs_init();//蜂鸣器初始化fmq_init();while(1){…...

编程日记 2023/10/16 22:02:27

ORA-00600: internal error code, arguments

通过rman将11g异机升级到19c时，应用归档时报错，报错如下 RMAN> recover database ; Starting recover at 2023-10-15 21:10:02 allocated channel: ORA_DISK_1 channel ORA_DISK_1: SID5776 device typeDISK starting media recovery media recove…...

编程日记 2023/10/16 22:01:26

C#里氏替换

在C#中，里氏替换原则是面向对象编程中的一个重要原则，它是关于继承和多态性的概念。里氏替换原则的定义是：如果S是T的子类型（或者T是S的基类型），那么程序中任意使用T类型的地方都可以替换为S类型而不会产…...

编程日记 2023/10/16 22:00:25

Java-使用sqlSessionTemplate实现批量更新-模拟mybatis 动态sql

环境准备（非核心方法） 创建表创建表的sql(下表是基于Oracle创建的) CREATE TABLE "SYSTEM"."STUDENT" ("ID" NUMBER(10, 0),"NAME" VARCHAR2(20 BYTE),"ADDRES" CLOB,PRIMARY KEY ( …...

编程日记 2023/10/16 21:59:22

Eslint配置 Must use import to load ES Module（已解决）

最近在配置前端项目时，eslint经常会碰到各种报错（灰常头疼~） Syntax Error Error No ESLint configuration found.Syntax Error: Error: D:\dmq\dmq-ui.eslintrc.js: Environment key “es2021” is unknown at Array.forEach ()error in ./…...

编程日记 2023/10/16 21:58:21

正向代理（流量代理）

文章目录正向代理与反向代理流量转发工具环境准备reGeorg 正向代理与反向代理正向代理是客户端和其他所有服务器（重点：所有）的代理者反向代理是客户端和所要代理的服务器之间的代理。流量转发工具需要放在拿到shell的服务器上可使用 …...

编程日记 2023/10/16 21:57:21

易天光通信推出100G BIDI ER光模块最新解决方案

随着数字信息时代的快速发展，网络通信技术的迅猛进步成为推动科技创新和产业升级的重要引擎之一。作为光通信行业的新秀，近期易天光通信推出了全新的100G BIDI ER1 Lite光模块和100G BIDI LR1 Lite光模块，助力崭新的未来网络建设。易天光通…...

编程日记 2023/10/16 21:56:19

Flask框架配置celery-[1]：flask工厂模式集成使用celery，可在异步任务中使用flask应用上下文，即拿即用，无需更多配置

一、概述 1、celery框架和flask框架在运行时，是在不同的进程中，资源是独占的。 2、celery异步任务如果想使用flask中的功能，如orm，是需要在flask应用上下文管理器中执行orm操作的 3、使用celery是需要使用到中间件的&#xff0…...

编程日记 2023/10/16 21:55:18

合并二叉树

题目链接合并二叉树题目描述注意点如果两个节点重叠，那么将这两个节点的值相加作为合并后节点的新值；否则，不为 null 的节点将直接作为新二叉树的节点解答思路先序遍历二叉树，将重叠部分节点值相加作为新节点的值&…...

编程日记 2023/10/16 21:54:17

Sanic——Python函数变成API的神器

今天给大家介绍一个超好用的框架，迅速将Python函数变成API，它就是最近越来越火的异步Web框架Sanic。 1. Sanic简介 Sanic 是 Python3.7 Web 服务器和 Web 框架，旨在提高性能。它允许使用 Python3.5 中添加的async/await语法，这使…...

编程日记 2023/10/16 21:52:15

Windows连接不上VMware，ping不通的问题

文章目录防火墙问题Windows和虚拟机下的ip不一致导致的问题VMware Network Adapter (适配器)丢失的问题参考文档防火墙问题防火墙默认不会拦截ping命令，除非你个人设置了Linux防火墙Centos7的常用命令关闭防火墙 systemctl stop firewalld #停止Windows和虚拟机…...

编程日记 2023/10/16 21:51:14

24、Flink 的table api与sql之Catalogs（java api操作数据库、表）-2

Flink 系列文章 1、Flink 部署、概念介绍、source、transformation、sink使用示例、四大基石介绍和示例等系列综合文章链接 13、Flink 的table api与sql的基本概念、通用api介绍及入门示例 14、Flink 的table api与sql之数据类型: 内置数据类型以及它们的属性 15、Flink 的ta…...

编程日记 2023/10/16 21:50:12

【MySQL】深入了解索引的底层逻辑结构

文章目录主键排序一. InnoDB的索引结构1. 单个page2. 多个page 二. 为什么选择B树三. 聚簇索引和非聚簇索引结束语主键排序我们创建一个user表，并乱序插入数据 mysql> create table if not exists user(-> id int primary key,-> age int not null,-&…...

编程日记 2023/10/16 21:49:11

变量 varablie 声明- Rust 变量 let mut 声明与 C/C++ 变量声明对比分析

一、变量声明设计：let 与 mut 的哲学解析 Rust 采用 let 声明变量并通过 mut 显式标记可变性，这种设计体现了语言的核心哲学。以下是深度解析： 1.1 设计理念剖析安全优先原则：默认不可变强制开发者明确声明意图 let x 5; …...

编程新知 2025/9/28 20:12:12

19c补丁后oracle属主变化，导致不能识别磁盘组

补丁后服务器重启，数据库再次无法启动 ORA01017: invalid username/password; logon denied Oracle 19c 在打上 19.23 或以上补丁版本后，存在与用户组权限相关的问题。具体表现为，Oracle 实例的运行用户（oracle）和集…...

编程新知 2026/1/27 10:50:07

以下是对华为 HarmonyOS NETX 5属性动画（ArkTS）文档的结构化整理，通过层级标题、表格和代码块提升可读性：

一、属性动画概述NETX 作用：实现组件通用属性的渐变过渡效果，提升用户体验。支持属性：width、height、backgroundColor、opacity、scale、rotate、translate等。注意事项： 布局类属性（如宽高）变化时&#…...

编程新知 2026/1/28 21:15:38

条件运算符

C中的三目运算符（也称条件运算符，英文：ternary operator）是一种简洁的条件选择语句，语法如下： 条件表达式 ? 表达式1 : 表达式2• 如果“条件表达式”为true，则整个表达式的结果为“表达式1”…...

编程新知 2025/12/6 22:50:48

蓝牙 BLE 扫描面试题大全(2)：进阶面试题与实战演练

前文覆盖了 BLE 扫描的基础概念与经典问题蓝牙 BLE 扫描面试题大全(1)：从基础到实战的深度解析-CSDN博客，但实际面试中，企业更关注候选人对复杂场景的应对能力（如多设备并发扫描、低功耗与高发现率的平衡）和前沿技术的…...

编程新知 2026/1/24 18:31:03

大语言模型如何处理长文本？常用文本分割技术详解

为什么需要文本分割？引言：为什么需要文本分割？一、基础文本分割方法1. 按段落分割（Paragraph Splitting）2. 按句子分割（Sentence Splitting）二、高级文本分割策略3. 重叠分割（Sliding Window）4. 递归分割（Recursive Splitting）三、生产级工具推荐5. 使用LangChain的…...

编程新知 2025/11/18 0:32:13