当前位置：首页 > news >正文

Hadoop学习笔记（HDP）-Part.03 资源规划

news 2026/4/2 1:35:56

目录
Part.01 关于HDP
Part.02 核心组件原理
Part.03 资源规划
Part.04 基础环境配置
Part.05 Yum源配置
Part.06 安装OracleJDK
Part.07 安装MySQL
Part.08 部署Ambari集群
Part.09 安装OpenLDAP
Part.10 创建集群
Part.11 安装Kerberos
Part.12 安装HDFS
Part.13 安装Ranger
Part.14 安装YARN+MR
Part.15 安装HIVE
Part.16 安装HBase
Part.17 安装Spark2
Part.18 安装Flink
Part.19 安装Kafka
Part.20 安装Flume

三、资源规划

1.资源配置

主机名	FQDN	IP	服务器配置
hdp01	hdp01.hdp.com	192.168.111.201/24	8c、8G、200GB+50GB
hdp02	hdp02.hdp.com	192.168.111.202/24	8c、8G、200GB+50GB
hdp03	hdp03.hdp.com	192.168.111.203/24	8c、8G、200GB+3*100GB
hdp04	hdp04.hdp.com	192.168.111.204/24	8c、8G、200GB+3*100GB
hdp05	hdp05.hdp.com	192.168.111.205/24	8c、8G、200GB+3*100GB

2.磁盘规划

主机	磁盘分布
hdp01 hdp02	/dev/sda：系统盘 /dev/sdb：/data01，MySQL、zookeeper、NameNode、JournalNode
hdp03	/dev/sda：系统盘 /dev/sdb：/data01，zookeeper、DataNode、JournalNode /dev/sdc：/data02，DataNode /dev/sdd：/data03，DataNode
hdp04 hdp05	/dev/sda：系统盘 /dev/sdb：/data01，DataNode /dev/sdc：/data02，DataNode /dev/sdd：/data03，DataNode

3.组件规划

组件		版本	hdp01	hdp02	hdp03	hdp04	hdp05
ansible		2.9.27	★
MySQL		5.7.25	★	★
Ambari-metrics	Metrics Collector	0.2.0	★
	Metrics Monitor		★	★	★	★	★
	Grafana		★
ZooKeeper	ZooKeeper Server	3.4.6	★	★	★
ZooKeeper	ZooKeeper Client	3.4.6				★	★
HDFS	NameNode	3.1.1.3.1	★	★
	DataNode				★	★	★
	JournalNode		★	★	★
	zkfc		★	★
YARN	ResourceManager	3.1.1	★	★
	NodeManager				★	★	★
	HistoryServer			★
	TimelineService			★
	Timeline Service Reader		★
	Registry DNS		★
OpenLDAP	openldap-server	2.4.44	★	★
	openldap-client		★	★	★	★	★
	migrationtools		★	★
	phpldapadmin		★	★
keepalived		v1.3.5				★	★
HaProxy		1.5.18				★	★
kerberos	Krb5-server	1.15.1	★	★
kerberos	krb5-workstation	1.15.1	★	★	★	★	★
Ranger	Ranger Admin	1.2.0.3.1	★	★
Ranger	UserSync	1.2.0.3.1		★
Hive	HiveServer2	3.1.0	★	★
Hive	MetaStore	3.1.0	★	★
Tez		0.9.1	★	★	★	★	★
HBase	HMaster	2.0.2	★	★
HBase	RegionServer	2.0.2			★	★	★
Spark	Spark2 History Server	2.3.0	★
Flink	client	1.9.3	★	★	★	★	★
Kafka	broker	2.0.0			★	★	★
Kafka	kafka manager	2.0.0.2	★
Flume	flume	1.9.0			★	★	★

Hadoop学习笔记（HDP）-Part.03 资源规划

编程日记 2023/12/6 22:06:04

一个最新国内可用的免费GPT4，Midjourney绘画网站+使用教程

一、前言 ChatGPT GPT4.0，Midjourney绘画，相信对大家应该不感到陌生吧？简单来说，GPT-4技术比之前的GPT-3.5相对来说更加智能，会根据用户的要求生成多种内容甚至也可以和用户进行创作交流。然而，GPT-4对普…...

编程日记 2023/12/6 22:05:04

深入了解Java8新特性-日期时间API之ZonedDateTime类

阅读建议嗨，伙计！刷到这篇文章咱们就是有缘人，在阅读这篇文章前我有一些建议： 本篇文章大概19000多字，预计阅读时间长需要10分钟以上。本篇文章的实战性、理论性较强，是一篇质量分数较高的技术干货文章&…...

编程日记 2023/12/6 22:03:02

使用Vue写一个日期选择器

在 Vue 中实现日期选择器的方法有很多，下面提供一个简单的实现方法。首先，在需要使用日期选择器的组件中引用 Vue 和 date-fns 库，date-fns 库是一个轻量级的 JavaScript 时间日期工具库，可以方便地处理日期的格式化和计算。 &…...

编程日记 2023/12/6 22:00:59

19、pytest通过mark标记测试函数

官方实例 [pytest] markers slow:marks tests as slow(deselect with -m "not slow")serial# content of test_mark.py import pytestpytest.mark.slow def test_mark_function():print("test_mark_function was invoked")assert 0解读与实操通过使用p…...

编程日记 2023/12/6 21:59:59

Linux环境变量与命令行参数

Linux环境变量与命令行参数一.命令行参数1.语法2.应用1:简易计算器二.环境变量1.环境变量的概念2.环境变量的作用3.进一步理解环境变量的作用4.常见环境变量5.导出环境变量(添加环境变量)6.环境变量的特性7.另一种获取环境变量的方式8.小功能:用于身份验证的代码9.补充:第三种…...

编程日记 2023/12/6 21:58:58

jQuery实现3D轮播图

通过CSS3的3D变换和jQuery Transit插件实现了一个3D旋转的图片轮播效果 HTML部分： div id“banner”：定义了一个id为"banner"的div标签，作为图片轮播的容器。 ul: 在"banner"中定义了一个无序列表，每个列表项…...

编程日记 2023/12/6 21:57:57

Java面试题（每天10题）-------连载（43）

目录 Spring篇 1、请举例说明Qualifier注解 2、构造方法注入和设值注入有什么区别？ 3、Spring框架中有哪些不同类型的事件？ 4、FileSystemResource和ClassPathResource有什么区别？ 5、Spring框架中都用到了哪些设计模式？ 6…...

编程日记 2023/12/6 21:55:55

Python高级数据结构——并查集（Disjoint Set）

Python中的并查集（Disjoint Set）：高级数据结构解析并查集是一种用于处理集合的数据结构，它主要支持两种操作：合并两个集合和查找一个元素所属的集合。在本文中，我们将深入讲解Python中的并查集&#xff0…...

编程日记 2023/12/6 21:53:53

pytorch学习9-优化器学习

系列文章目录 pytorch学习1-数据加载以及Tensorboard可视化工具pytorch学习2-Transforms主要方法使用pytorch学习3-torchvisin和Dataloader的使用pytorch学习4-简易卷积实现pytorch学习5-最大池化层的使用pytorch学习6-非线性变换（ReLU和sigmoid）pytorc…...

编程日记 2023/12/6 21:49:50

MySQL之锁

MySQL之锁锁是计算机在执行多线程或线程时用于并发访问同一共享资源时的同步机制，MySQL中的锁是在服务器层或者存储引擎层实现的，保证了数据访问的一致性与有效性 MySQL锁可以按模式分类为：乐观锁与悲观锁。按粒度分可以分为全局锁、表级锁…...

编程日记 2023/12/6 21:48:48

今日现货黄金最新建议

近期现货黄金价格再度逼近历史高位，很多本来在场外观望的投资者，都纷纷希望进场一试身手。然而大涨大跌的行情并不是很适合新手投资者参与，如果大家还没做好技术上的准备，可以多听听正规交易平台的专业人士的意见。在正式入市之前…...

编程日记 2023/12/6 21:47:48

基于混沌算法的图像加密解密系统

1.研究背景与意义项目参考AAAI Association for the Advancement of Artificial Intelligence 研究背景与意义： 随着信息技术的迅猛发展，图像的传输和存储已经成为现代社会中不可或缺的一部分。然而，随着互联网的普及和信息的快速传播&am…...

编程日记 2023/12/6 21:45:46

vscode插件离线下载

离线下载插件地址：https://marketplace.visualstudio.com/VSCode...

编程日记 2023/12/6 21:44:45

第二十一章总结

一、网络通信： 1.网络程序设计基础：网络程序设计编写的是与其他计算机进行通信的程序。 1.1局域网与互联网：为了实现两台计算机的通信，必须用一个网络线路连接两台计算机 2.网络协议：网络协议规定了计算机之间连接的…...

编程日记 2023/12/6 21:43:44

查看端口占用并杀死进程

1.安装查看工具 sudo yum install net-tools 2.查看占用情况 netstat -tunlp | grep 8089 3.杀死进程 kill -9 227...

编程日记 2023/12/6 21:41:43

前后端数据传输格式(上)

作者简介：大家好，我是smart哥，前中兴通讯、美团架构师，现某互联网公司CTO 联系qq：184480602，加我进群，大家一起学习，一起进步，一起对抗互联网寒冬作为后端，写…...

编程日记 2023/12/6 21:40:42

maven的package和install命令有什么区别以及Maven常用命令与GAV坐标与Maven依赖范围与Maven依赖传递与依赖排除与统一声明版本号

maven的package和install命令有什么区别以及Maven常用命令与GAV坐标与Maven依赖范围与Maven依赖传递与依赖排除与统一声明版本号一: maven的package和install命令有什么区别一般都与clean命令结合使用 mvn package 生成target目录，编译、测试代码，…...

编程日记 2023/12/6 21:39:41

【动手学深度学习】(六)权重衰退

文章目录一、理论知识二、代码实现2.1从零开始实现2.2简洁实现【相关总结】主要解决过拟合一、理论知识 1、使用均方范数作为硬性限制（不常用） 通过限制参数值的选择范围来控制模型容量通常不限制偏移b 小的意味着更强的正则项使用均方范数作为柔…...

编程日记 2023/12/6 21:37:39

动手学习深度学习-跟李沐学AI-自学笔记(3)

一、深度学习硬件-CPU和GPU 芯片：Intel or AMD 内存：DDR4 显卡：nVidia 芯片可以和GPU与内存通信 GPU不能和内存通信 1. CPU 能算出每一秒能运算的浮点运算数（大概0.15左右） 1.1 提升CPU利用率 1.1.1 提升缓存…...

编程日记 2023/12/6 21:36:38

一个月突变！Linux内核大佬懵了：上个月还是“AI垃圾”，这个月AI Bug报告却突然靠谱？

整理 | 郑丽媛出品 | CSDN（ID：CSDNnews）最近在做开源项目维护的开发者，可能会有一种奇怪的错觉：Bug 似乎报告变多了，而且变准了——更准确地说，是 AI 报的 Bug，突然开始“靠谱了”。…...

编程新知 2026/4/2 1:14:03

OpenClaw Exec Approvals 机制：在安全与效率之间寻找平衡

OpenClaw Exec Approvals 机制：在安全与效率之间寻找平衡当你第一次看到 /approve 弹窗时，是选择 allow-once 还是 allow-always？这个看似简单的决定，背后是安全与便利的永恒博弈。引言在 Agent 开发和工作流自动化的世界里&…...

编程新知 2026/4/2 0:26:55

实战指南：基于快马平台生成git自动化部署脚本，实现ci/cd流水线

今天想和大家分享一个实战中特别实用的技巧：如何用git结合自动化脚本来简化版本发布和部署流程。这个方案在我们团队的实际项目中已经稳定运行了大半年，效果非常不错。版本号自动打tag功能这个脚本的核心功能之一就是自动读取项目中的版本号文件&…...

编程新知 2026/4/2 0:02:44

Ant Design X：AI赋能前端开发的革命性工具

1. Ant Design X：当设计系统遇上AI会发生什么？ 第一次听说Ant Design X时，我正在为一个电商项目焦头烂额地调试聊天机器人组件。传统方案需要自己对接NLP服务、处理对话状态、设计交互逻辑...直到同事扔给我一个链接："试试这…...

编程新知 2026/4/2 0:00:43

突破3D打印障碍：SketchUp STL插件的技术革新与实践指南

突破3D打印障碍：SketchUp STL插件的技术革新与实践指南【免费下载链接】sketchup-stl A SketchUp Ruby Extension that adds STL (STereoLithography) file format import and export. 项目地址: https://gitcode.com/gh_mirrors/sk/sketchup-stl 当一位产品…...

编程新知 2026/4/1 23:56:39

Go性能剖析pprof工具使用

Go语言凭借其高效的并发模型和简洁的语法，成为众多开发者的首选。随着项目规模扩大，性能问题逐渐显现。如何快速定位性能瓶颈？Go内置的pprof工具正是解决这一问题的利器。本文将带你深入了解pprof的核心功能，助你轻松优化代码性能…...

编程新知 2026/4/1 21:30:31

终极RPA档案解析指南：unrpa工具的专业实现与优化策略

终极RPA档案解析指南：unrpa工具的专业实现与优化策略【免费下载链接】unrpa A program to extract files from the RPA archive format. 项目地址: https://gitcode.com/gh_mirrors/un/unrpa 在RenPy视觉小说游戏开发与逆向工程领域，RPA档案格式…...

编程新知 2026/4/1 21:00:06

别再被空白页坑了！用html2canvas + print-js打印Vue/React组件，保姆级避坑指南

彻底解决前端组件打印难题：html2canvas与print-js深度整合实践在管理后台、数据报表等企业级应用中，精确打印特定组件是刚需，但现代前端框架的组件化特性让这个"简单需求"变得异常棘手。当你的Vue/React组件在屏幕上完美呈现&…...

编程新知 2026/4/1 20:27:56

OpenMP实战避坑：你的C++并行程序为什么跑得比单线程还慢？

OpenMP实战避坑：你的C并行程序为什么跑得比单线程还慢？ 第一次在C代码里加上#pragma omp parallel for时，那种期待性能飙升的心情，相信每个开发者都经历过。但现实往往很骨感——程序运行速度不升反降，甚至出现莫名其妙…...

编程新知 2026/4/1 20:09:38

OpenSees数值模拟从入门到进阶：理论、代码与实践

OpenSees数值模拟从入门到进阶：理论、代码与实践摘要 OpenSees（Open System for Earthquake Engineering Simulation）作为开源的地震工程模拟系统，凭借其强大的非线性分析能力和开放的架构，已成为结构地震响应分析领域的重要工具。本文系统介绍OpenSees数值模拟的基本原…...

编程新知 2026/4/1 18:58:55

三、资源规划

1.资源配置

2.磁盘规划

3.组件规划

相关文章：