当前位置：首页 > news >正文

Hdoop学习笔记（HDP）-Part.03 资源规划

news 2026/2/10 21:26:08

目录
Part.01 关于HDP
Part.02 核心组件原理
Part.03 资源规划
Part.04 基础环境配置
Part.05 Yum源配置
Part.06 安装OracleJDK
Part.07 安装MySQL
Part.08 部署Ambari集群
Part.09 安装OpenLDAP
Part.10 创建集群
Part.11 安装Kerberos
Part.12 安装HDFS
Part.13 安装Ranger
Part.14 安装YARN+MR
Part.15 安装HIVE
Part.16 安装HBase
Part.17 安装Spark2
Part.18 安装Flink
Part.19 安装Kafka
Part.20 安装Flume

三、资源规划

1.资源配置

主机名	FQDN	IP	服务器配置
hdp01	hdp01.hdp.com	192.168.111.201/24	8c、8G、200GB+50GB
hdp02	hdp02.hdp.com	192.168.111.202/24	8c、8G、200GB+50GB
hdp03	hdp03.hdp.com	192.168.111.203/24	8c、8G、200GB+3*100GB
hdp04	hdp04.hdp.com	192.168.111.204/24	8c、8G、200GB+3*100GB
hdp05	hdp05.hdp.com	192.168.111.205/24	8c、8G、200GB+3*100GB

2.磁盘规划

主机	磁盘分布
hdp01 hdp02	/dev/sda：系统盘 /dev/sdb：/data01，MySQL、zookeeper、NameNode、JournalNode
hdp03	/dev/sda：系统盘 /dev/sdb：/data01，zookeeper、DataNode、JournalNode /dev/sdc：/data02，DataNode /dev/sdd：/data03，DataNode
hdp04 hdp05	/dev/sda：系统盘 /dev/sdb：/data01，DataNode /dev/sdc：/data02，DataNode /dev/sdd：/data03，DataNode

3.组件规划

组件		版本	hdp01	hdp02	hdp03	hdp04	hdp05
ansible		2.9.27	★
MySQL		5.7.25	★	★
Ambari-metrics	Metrics Collector	0.2.0	★
	Metrics Monitor		★	★	★	★	★
	Grafana		★
ZooKeeper	ZooKeeper Server	3.4.6	★	★	★
ZooKeeper	ZooKeeper Client	3.4.6				★	★
HDFS	NameNode	3.1.1.3.1	★	★
	DataNode				★	★	★
	JournalNode		★	★	★
	zkfc		★	★
YARN	ResourceManager	3.1.1	★	★
	NodeManager				★	★	★
	HistoryServer			★
	TimelineService			★
	Timeline Service Reader		★
	Registry DNS		★
OpenLDAP	openldap-server	2.4.44	★	★
	openldap-client		★	★	★	★	★
	migrationtools		★	★
	phpldapadmin		★	★
keepalived		v1.3.5				★	★
HaProxy		1.5.18				★	★
kerberos	Krb5-server	1.15.1	★	★
kerberos	krb5-workstation	1.15.1	★	★	★	★	★
Ranger	Ranger Admin	1.2.0.3.1	★	★
Ranger	UserSync	1.2.0.3.1		★
Hive	HiveServer2	3.1.0	★	★
Hive	MetaStore	3.1.0	★	★
Tez		0.9.1	★	★	★	★	★
HBase	HMaster	2.0.2	★	★
HBase	RegionServer	2.0.2			★	★	★
Spark	Spark2 History Server	2.3.0	★
Flink	client	1.9.3	★	★	★	★	★
Kafka	broker	2.0.0			★	★	★
Kafka	kafka manager	2.0.0.2	★
Flume	flume	1.9.0			★	★	★

Hdoop学习笔记（HDP）-Part.03 资源规划

编程日记 2023/12/4 11:55:18

SQL -高阶3

zstarling 字符串拼接与类型转换最大，最小值，提取日期部分的数值日期截断字符串拼接与类型转换新语法SQL delete from public.basiclaw_qr_staff_ac ct where batch_date || data_dt || :: date and biz_line || biz_line || ;详解该 SQL 语句…...

编程日记 2023/12/4 11:53:15

HarmonyOS4.0系列——03、声明式UI、链式编程、事件方法、以及自定义组件简单案例

HarmonyOS4.0系列——03、声明式UI、链式编程、事件方法、以及自定义组件简单案例声明式 UI ArkTS以声明方式组合和扩展组件来描述应用程序的UI，同时还提供了基本的属性、事件和子组件配置方法，帮助开发者实现应用交互逻辑。如果组件的接口定义没有包…...

编程日记 2023/12/4 11:52:15

播放器开发(六)：音频帧处理并用SDL播放

目录学习课题：逐步构建开发播放器【QT5 FFmpeg6 SDL2】步骤 AudioOutPut模块 1、初始化【分配缓存、读取信息】 2、开始线程工作【从队列读帧->重采样->SDL回调->写入音频播放数据->SDL进行播放】主要代码分配缓存 // 对于样本队列 av_audio_…...

编程日记 2023/12/4 11:51:14

Qt 问题记录

问题记录运行时出现的问题运行出现的warning QWidget::repaint: Recursive repaint detected在paintEvent中使用painter绘制了线段、图片，移动了QWidget，加入了下面代码导致的 QApplication::processEvents();屏蔽后没有出现该warning QApplicati…...

编程日记 2023/12/4 11:50:12

Go 语言真正有什么用处？

在其十几年的发展过程中，Google 的Go 编程语言已经从 alpha 极客的好奇心发展成为世界上一些最重要的云原生软件项目背后经过考验的编程语言。为什么Docker、Kubernetes等项目的开发者会选择 Go ？Go 的定义特征是什么？它与其他编程语言有何…...

编程日记 2023/12/4 11:45:08

贪心 55. 跳跃游戏 45.跳跃游戏 II

55. 跳跃游戏题目： 给定非负数组，初始位置在数组第一格，数组值是可以选择的最大跳跃步数，判断能不能达到数组末尾。示例 1: * 输入: [2,3,1,1,4] * 输出: true * 解释: 我们可以先跳 1 步，从位置 0 到达位置 1,…...

编程日记 2023/12/4 11:43:07

为XiunoBBS4.0开启redis缓存且支持密码验证

修改模块文件1 xiunoPHP/cache_redis.class.php: <?phpclass cache_redis {public $conf array();public $link NULL;public $cachepre ;public $errno 0;public $errstr ;public function __construct($conf array()) {if(!extension_loaded(Redis)) {return $thi…...

编程日记 2023/12/4 11:39:03

手把手教你写一个Shell脚本部署你的服务

我们都知道，在开发的过程中，有很多部署自己微服务的方式，其中有各种各样的不同操作，比如使用 docker 打包为镜像的方式，还有基础使用 jar 包的方式进行部署，但是呢？使用 jar 包部署，…...

编程日记 2023/12/4 11:38:02

银行数字化产品方案

在互联网及金融科技公司快速发展的时代背景下，银行客户普遍都意识到了自己在客户体验、客户洞察、产品服务方面受到的来自互联网的挑战。为了更好地面对各方面的挑战，传统的业务模式必须革新。传统银行都在积极进行数字化转型。同时，也要面对…...

编程日记 2023/12/4 11:37:01

C# datagridview控件绑定数据库中表中数据的方式-3

1.如下图所示，为数据库中的一张表结构，注意该表中共有11个字段 2.首先在窗体后台代码中拖入一个datagridview控件，并在窗体加载时，给datagridview控件添加列，添加的方式如下所示：请注意，每个列…...

编程日记 2023/12/4 11:36:00

Amazon CodeWhisperer 正式发布可免费供个人使用

文章作者：sunny 亚马逊云科技日前推出了实时 AI 编程助手 Amazon CodeWhisperer，包括个人套餐和专业套餐，所有开发人员均可免费使用个人套餐。Amazon CodeWhisperer 让开发人员能够保持专注、高效，帮助他们快速、安全地编写代码&a…...

编程日记 2023/12/4 11:34:59

el-table根据返回数据回显选择复选框

接口给你返回一个集合，然后如果这个集合里面的status2，就把这一行的复选框给选中注意： 绑定的ref :row-key"getRowKeys" this.$refs.multiTableInst.toggleRowSelection(this.list[i], true); <el-table :data"list"…...

编程日记 2023/12/4 11:33:58

代码随想录算法训练营第四十二天 _ 动态规划_01背包问题。

学习目标： 动态规划五部曲： ① 确定dp[i]的含义 ② 求递推公式 ③ dp数组如何初始化 ④ 确定遍历顺序 ⑤ 打印递归数组 ---- 调试引用自代码随想录！ 60天训练营打卡计划！ 学习内容： 二维数组处理01背包问题听起来…...

编程日记 2023/12/4 11:32:57

会话 cookie 及隐私的那些事

什么是会话 Cookie？会话 Cookie 的概念非常简单。会话 Cookie，也称为临时 Cookie 或内存 Cookie，是网站在浏览会话期间存储在用户计算机或设备上的小数据片段。它是由网站生成并由您的浏览器存储和使用的多种 Cookie 之一。常规 Cookie 或“持久”Cookie 是通常在您的…...

编程日记 2023/12/4 11:31:56

前端知识笔记（二十九）———MySQL通配符和正则表达式

一、通配符 1.% 匹配0，1，多个字符，但不匹配NULL 2._ 匹配单个字符 3.[charlist] 匹配字符列中的任何单一字符 4.[^charlist] 或 [!charlist] 匹配不在字符列中的任何单一字符二、正则表达式通配符的LIKE替换为REGEXP LIKE 匹配整个列&…...

编程日记 2023/12/4 11:26:51

C#网络编程（System.Net.Sockets命名空间）

目录一、Socket类 1.示例源码 2.生成效果二、TcpClient类和TcpListener类 1.示例源码 2.生成效果三、UdpClient类 1.示例源码 2.生成效果 System.Net.Sockets命名空间主要提供制作Sockets网络应用程序的相关类，其中Socket类、TcpClient类、TcpListener类…...

编程日记 2023/12/4 11:25:50

linux 系统重装 ssh 连接失败

一.错误描述 WARNING: REMOTE HOST IDENTIFICATION HAS CHANGED 二.解决方案输入以下指令： ssh-keygen -R XXX（ip地址） 按照我的例子（ip:10.165.7.136），会返回以下信息: 重新尝试连…...

编程日记 2023/12/4 11:21:47

stream流操作List对象，指定属性，取差集、交集

差集 // 差集 (list1 - list2 list1 中不同数据)List<Person> reduce1 list1.stream().filter(a -> !list2.stream().map(b -> b.getAge() "&" b.getName()).collect(Collectors.toList()).contains(a.getAge() "&" a.getName()…...

编程日记 2023/12/4 11:19:45

计算机相关行业在大数据库时代下的潮流和趁势

还记得当初自己为什么选择计算机？ 随着数据的爆炸性增长，数据科学和数据分析成为了热门的领域。这些专业涉及处理和分析大规模数据集的技术和方法，以从中提取有价值的信息和洞察。数据科学家和数据分析师在各个行业中的需求不断增加&#xf…...

编程日记 2023/12/4 11:18:44

【网络】每天掌握一个Linux命令 - iftop

在Linux系统中，iftop是网络管理的得力助手，能实时监控网络流量、连接情况等，帮助排查网络异常。接下来从多方面详细介绍它。目录【网络】每天掌握一个Linux命令 - iftop工具概述安装方式核心功能基础用法进阶操作实战案例面试题场景生产场景…...

编程新知 2025/10/10 17:03:53

C++：std::is_convertible

C++标志库中提供is_convertible，可以测试一种类型是否可以转换为另一只类型： template <class From, class To> struct is_convertible; 使用举例： #include <iostream> #include <string>using namespace std;struct A { }; struct B : A { };int main…...

编程新知 2025/6/11 15:23:57

UDP(Echoserver)

网络命令 Ping 命令检测网络是否连通使用方法: ping -c 次数网址ping -c 3 www.baidu.comnetstat 命令 netstat 是一个用来查看网络状态的重要工具. 语法：netstat [选项] 功能：查看网络状态常用选项： n 拒绝显示别名&#…...

编程新知 2026/1/24 7:56:15

第25节 Node.js 断言测试

Node.js的assert模块主要用于编写程序的单元测试时使用，通过断言可以提早发现和排查出错误。稳定性: 5 - 锁定这个模块可用于应用的单元测试，通过 require(assert) 可以使用这个模块。 assert.fail(actual, expected, message, operator) 使用参数…...

编程新知 2025/10/11 0:24:31

微服务商城-商品微服务

数据表 CREATE TABLE product (id bigint(20) UNSIGNED NOT NULL AUTO_INCREMENT COMMENT 商品id,cateid smallint(6) UNSIGNED NOT NULL DEFAULT 0 COMMENT 类别Id,name varchar(100) NOT NULL DEFAULT COMMENT 商品名称,subtitle varchar(200) NOT NULL DEFAULT COMMENT 商…...

编程新知 2026/1/29 18:30:30

Linux 内存管理实战精讲：核心原理与面试常考点全解析

Linux 内存管理实战精讲：核心原理与面试常考点全解析 Linux 内核内存管理是系统设计中最复杂但也最核心的模块之一。它不仅支撑着虚拟内存机制、物理内存分配、进程隔离与资源复用，还直接决定系统运行的性能与稳定性。无论你是嵌入式开发者、内核调试工…...

编程新知 2026/2/10 11:15:13

【深度学习新浪潮】什么是credit assignment problem？

Credit Assignment Problem（信用分配问题）是机器学习，尤其是强化学习（RL）中的核心挑战之一，指的是如何将最终的奖励或惩罚准确地分配给导致该结果的各个中间动作或决策。在序列决策任务中，智能体执行一系列动作后获得一个最终奖励，但每个动作对最终结果的贡献程度往往…...

编程新知 2026/1/30 14:23:04

怎么开发一个网络协议模块（C语言框架）之(六) ——通用对象池总结(核心)

+---------------------------+ | operEntryTbl[] | ← 操作对象池 (对象数组) +---------------------------+ | 0 | 1 | 2 | ... | N-1 | +---------------------------+↓ 初始化时全部加入 +------------------------+ +-------------------------+ | …...

编程新知 2025/8/28 4:17:05

【记录坑点问题】IDEA运行：maven-resources-production:XX: OOM: Java heap space

问题：IDEA出现maven-resources-production:operation-service: java.lang.OutOfMemoryError: Java heap space 解决方案：将编译的堆内存增加一点位置：设置setting-》构建菜单build-》编译器Complier...

编程新知 2026/1/26 19:41:09

docker容器互联

1.docker可以通过网路访问 2.docker允许映射容器内应用的服务端口到本地宿主主机 3.互联机制实现多个容器间通过容器名来快速访问一、端口映射实现容器访问 1.从外部访问容器应用我们先把之前的删掉吧（如果不删的话，容器就提不起来，因…...

编程新知 2026/1/31 16:00:56

三、资源规划

1.资源配置

2.磁盘规划

3.组件规划

相关文章：