当前位置：首页 > news >正文

Hadoop学习笔记（HDP）-Part.03 资源规划

news 2025/10/17 13:35:23

目录
Part.01 关于HDP
Part.02 核心组件原理
Part.03 资源规划
Part.04 基础环境配置
Part.05 Yum源配置
Part.06 安装OracleJDK
Part.07 安装MySQL
Part.08 部署Ambari集群
Part.09 安装OpenLDAP
Part.10 创建集群
Part.11 安装Kerberos
Part.12 安装HDFS
Part.13 安装Ranger
Part.14 安装YARN+MR
Part.15 安装HIVE
Part.16 安装HBase
Part.17 安装Spark2
Part.18 安装Flink
Part.19 安装Kafka
Part.20 安装Flume

三、资源规划

1.资源配置

主机名	FQDN	IP	服务器配置
hdp01	hdp01.hdp.com	192.168.111.201/24	8c、8G、200GB+50GB
hdp02	hdp02.hdp.com	192.168.111.202/24	8c、8G、200GB+50GB
hdp03	hdp03.hdp.com	192.168.111.203/24	8c、8G、200GB+3*100GB
hdp04	hdp04.hdp.com	192.168.111.204/24	8c、8G、200GB+3*100GB
hdp05	hdp05.hdp.com	192.168.111.205/24	8c、8G、200GB+3*100GB

2.磁盘规划

主机	磁盘分布
hdp01 hdp02	/dev/sda：系统盘 /dev/sdb：/data01，MySQL、zookeeper、NameNode、JournalNode
hdp03	/dev/sda：系统盘 /dev/sdb：/data01，zookeeper、DataNode、JournalNode /dev/sdc：/data02，DataNode /dev/sdd：/data03，DataNode
hdp04 hdp05	/dev/sda：系统盘 /dev/sdb：/data01，DataNode /dev/sdc：/data02，DataNode /dev/sdd：/data03，DataNode

3.组件规划

组件		版本	hdp01	hdp02	hdp03	hdp04	hdp05
ansible		2.9.27	★
MySQL		5.7.25	★	★
Ambari-metrics	Metrics Collector	0.2.0	★
	Metrics Monitor		★	★	★	★	★
	Grafana		★
ZooKeeper	ZooKeeper Server	3.4.6	★	★	★
ZooKeeper	ZooKeeper Client	3.4.6				★	★
HDFS	NameNode	3.1.1.3.1	★	★
	DataNode				★	★	★
	JournalNode		★	★	★
	zkfc		★	★
YARN	ResourceManager	3.1.1	★	★
	NodeManager				★	★	★
	HistoryServer			★
	TimelineService			★
	Timeline Service Reader		★
	Registry DNS		★
OpenLDAP	openldap-server	2.4.44	★	★
	openldap-client		★	★	★	★	★
	migrationtools		★	★
	phpldapadmin		★	★
keepalived		v1.3.5				★	★
HaProxy		1.5.18				★	★
kerberos	Krb5-server	1.15.1	★	★
kerberos	krb5-workstation	1.15.1	★	★	★	★	★
Ranger	Ranger Admin	1.2.0.3.1	★	★
Ranger	UserSync	1.2.0.3.1		★
Hive	HiveServer2	3.1.0	★	★
Hive	MetaStore	3.1.0	★	★
Tez		0.9.1	★	★	★	★	★
HBase	HMaster	2.0.2	★	★
HBase	RegionServer	2.0.2			★	★	★
Spark	Spark2 History Server	2.3.0	★
Flink	client	1.9.3	★	★	★	★	★
Kafka	broker	2.0.0			★	★	★
Kafka	kafka manager	2.0.0.2	★
Flume	flume	1.9.0			★	★	★

Hadoop学习笔记（HDP）-Part.03 资源规划

编程日记 2023/12/6 22:06:04

一个最新国内可用的免费GPT4，Midjourney绘画网站+使用教程

一、前言 ChatGPT GPT4.0，Midjourney绘画，相信对大家应该不感到陌生吧？简单来说，GPT-4技术比之前的GPT-3.5相对来说更加智能，会根据用户的要求生成多种内容甚至也可以和用户进行创作交流。然而，GPT-4对普…...

编程日记 2023/12/6 22:05:04

深入了解Java8新特性-日期时间API之ZonedDateTime类

阅读建议嗨，伙计！刷到这篇文章咱们就是有缘人，在阅读这篇文章前我有一些建议： 本篇文章大概19000多字，预计阅读时间长需要10分钟以上。本篇文章的实战性、理论性较强，是一篇质量分数较高的技术干货文章&…...

编程日记 2023/12/6 22:03:02

使用Vue写一个日期选择器

在 Vue 中实现日期选择器的方法有很多，下面提供一个简单的实现方法。首先，在需要使用日期选择器的组件中引用 Vue 和 date-fns 库，date-fns 库是一个轻量级的 JavaScript 时间日期工具库，可以方便地处理日期的格式化和计算。 &…...

编程日记 2023/12/6 22:00:59

19、pytest通过mark标记测试函数

官方实例 [pytest] markers slow:marks tests as slow(deselect with -m "not slow")serial# content of test_mark.py import pytestpytest.mark.slow def test_mark_function():print("test_mark_function was invoked")assert 0解读与实操通过使用p…...

编程日记 2023/12/6 21:59:59

Linux环境变量与命令行参数

Linux环境变量与命令行参数一.命令行参数1.语法2.应用1:简易计算器二.环境变量1.环境变量的概念2.环境变量的作用3.进一步理解环境变量的作用4.常见环境变量5.导出环境变量(添加环境变量)6.环境变量的特性7.另一种获取环境变量的方式8.小功能:用于身份验证的代码9.补充:第三种…...

编程日记 2023/12/6 21:58:58

jQuery实现3D轮播图

通过CSS3的3D变换和jQuery Transit插件实现了一个3D旋转的图片轮播效果 HTML部分： div id“banner”：定义了一个id为"banner"的div标签，作为图片轮播的容器。 ul: 在"banner"中定义了一个无序列表，每个列表项…...

编程日记 2023/12/6 21:57:57

Java面试题（每天10题）-------连载（43）

目录 Spring篇 1、请举例说明Qualifier注解 2、构造方法注入和设值注入有什么区别？ 3、Spring框架中有哪些不同类型的事件？ 4、FileSystemResource和ClassPathResource有什么区别？ 5、Spring框架中都用到了哪些设计模式？ 6…...

编程日记 2023/12/6 21:55:55

Python高级数据结构——并查集（Disjoint Set）

Python中的并查集（Disjoint Set）：高级数据结构解析并查集是一种用于处理集合的数据结构，它主要支持两种操作：合并两个集合和查找一个元素所属的集合。在本文中，我们将深入讲解Python中的并查集&#xff0…...

编程日记 2023/12/6 21:53:53

pytorch学习9-优化器学习

系列文章目录 pytorch学习1-数据加载以及Tensorboard可视化工具pytorch学习2-Transforms主要方法使用pytorch学习3-torchvisin和Dataloader的使用pytorch学习4-简易卷积实现pytorch学习5-最大池化层的使用pytorch学习6-非线性变换（ReLU和sigmoid）pytorc…...

编程日记 2023/12/6 21:49:50

MySQL之锁

MySQL之锁锁是计算机在执行多线程或线程时用于并发访问同一共享资源时的同步机制，MySQL中的锁是在服务器层或者存储引擎层实现的，保证了数据访问的一致性与有效性 MySQL锁可以按模式分类为：乐观锁与悲观锁。按粒度分可以分为全局锁、表级锁…...

编程日记 2023/12/6 21:48:48

今日现货黄金最新建议

近期现货黄金价格再度逼近历史高位，很多本来在场外观望的投资者，都纷纷希望进场一试身手。然而大涨大跌的行情并不是很适合新手投资者参与，如果大家还没做好技术上的准备，可以多听听正规交易平台的专业人士的意见。在正式入市之前…...

编程日记 2023/12/6 21:47:48

基于混沌算法的图像加密解密系统

1.研究背景与意义项目参考AAAI Association for the Advancement of Artificial Intelligence 研究背景与意义： 随着信息技术的迅猛发展，图像的传输和存储已经成为现代社会中不可或缺的一部分。然而，随着互联网的普及和信息的快速传播&am…...

编程日记 2023/12/6 21:45:46

vscode插件离线下载

离线下载插件地址：https://marketplace.visualstudio.com/VSCode...

编程日记 2023/12/6 21:44:45

第二十一章总结

一、网络通信： 1.网络程序设计基础：网络程序设计编写的是与其他计算机进行通信的程序。 1.1局域网与互联网：为了实现两台计算机的通信，必须用一个网络线路连接两台计算机 2.网络协议：网络协议规定了计算机之间连接的…...

编程日记 2023/12/6 21:43:44

查看端口占用并杀死进程

1.安装查看工具 sudo yum install net-tools 2.查看占用情况 netstat -tunlp | grep 8089 3.杀死进程 kill -9 227...

编程日记 2023/12/6 21:41:43

前后端数据传输格式(上)

作者简介：大家好，我是smart哥，前中兴通讯、美团架构师，现某互联网公司CTO 联系qq：184480602，加我进群，大家一起学习，一起进步，一起对抗互联网寒冬作为后端，写…...

编程日记 2023/12/6 21:40:42

maven的package和install命令有什么区别以及Maven常用命令与GAV坐标与Maven依赖范围与Maven依赖传递与依赖排除与统一声明版本号

maven的package和install命令有什么区别以及Maven常用命令与GAV坐标与Maven依赖范围与Maven依赖传递与依赖排除与统一声明版本号一: maven的package和install命令有什么区别一般都与clean命令结合使用 mvn package 生成target目录，编译、测试代码，…...

编程日记 2023/12/6 21:39:41

【动手学深度学习】(六)权重衰退

文章目录一、理论知识二、代码实现2.1从零开始实现2.2简洁实现【相关总结】主要解决过拟合一、理论知识 1、使用均方范数作为硬性限制（不常用） 通过限制参数值的选择范围来控制模型容量通常不限制偏移b 小的意味着更强的正则项使用均方范数作为柔…...

编程日记 2023/12/6 21:37:39

动手学习深度学习-跟李沐学AI-自学笔记(3)

一、深度学习硬件-CPU和GPU 芯片：Intel or AMD 内存：DDR4 显卡：nVidia 芯片可以和GPU与内存通信 GPU不能和内存通信 1. CPU 能算出每一秒能运算的浮点运算数（大概0.15左右） 1.1 提升CPU利用率 1.1.1 提升缓存…...

编程日记 2023/12/6 21:36:38

KubeSphere 容器平台高可用：环境搭建与可视化操作指南

Linux_k8s篇欢迎来到Linux的世界，看笔记好好学多敲多打，每个人都是大神！ 题目：KubeSphere 容器平台高可用：环境搭建与可视化操作指南版本号: 1.0,0 作者: 老王要学习日期: 2025.06.05 适用环境: Ubuntu22 文档说…...

编程新知 2025/10/17 10:53:54

【杂谈】-递归进化：人工智能的自我改进与监管挑战

递归进化：人工智能的自我改进与监管挑战文章目录递归进化：人工智能的自我改进与监管挑战1、自我改进型人工智能的崛起2、人工智能如何挑战人类监管？3、确保人工智能受控的策略4、人类在人工智能发展中的角色5、平衡自主性与控制力6、总结与…...

编程新知 2025/9/29 3:23:47

stm32G473的flash模式是单bank还是双bank？

今天突然有人stm32G473的flash模式是单bank还是双bank？由于时间太久，我真忘记了。搜搜发现，还真有人和我一样。见下面的链接：https://shequ.stmicroelectronics.cn/forum.php?modviewthread&tid644563 根据STM32G4系列参考手…...

编程新知 2025/10/13 9:06:16

在HarmonyOS ArkTS ArkUI-X 5.0及以上版本中，手势开发全攻略：

在 HarmonyOS 应用开发中，手势交互是连接用户与设备的核心纽带。ArkTS 框架提供了丰富的手势处理能力，既支持点击、长按、拖拽等基础单一手势的精细控制，也能通过多种绑定策略解决父子组件的手势竞争问题。本文将结合官方开发文档&#xff0c…...

编程新知 2025/9/19 4:31:58

Debian系统简介

目录 Debian系统介绍 Debian版本介绍 Debian软件源介绍软件包管理工具dpkg dpkg核心指令详解安装软件包卸载软件包查询软件包状态验证软件包完整性手动处理依赖关系 dpkg vs apt Debian系统介绍 Debian 和 Ubuntu 都是基于 Debian内核的 Linux 发行版&#xff…...

编程新知 2025/10/10 10:47:37

Opencv中的addweighted函数

一.addweighted函数作用 addweighted（）是OpenCV库中用于图像处理的函数，主要功能是将两个输入图像（尺寸和类型相同）按照指定的权重进行加权叠加（图像融合），并添加一个标量值&#x…...

编程新知 2025/10/15 16:46:28

Auto-Coder使用GPT-4o完成：在用TabPFN这个模型构建一个预测未来3天涨跌的分类任务

通过akshare库，获取股票数据，并生成TabPFN这个模型可以识别、处理的格式，写一个完整的预处理示例，并构建一个预测未来 3 天股价涨跌的分类任务用TabPFN这个模型构建一个预测未来 3 天股价涨跌的分类任务，进行预测并输…...

编程新知 2025/9/20 4:34:47

oracle与MySQL数据库之间数据同步的技术要点

Oracle与MySQL数据库之间的数据同步是一个涉及多个技术要点的复杂任务。由于Oracle和MySQL的架构差异，它们的数据同步要求既要保持数据的准确性和一致性，又要处理好性能问题。以下是一些主要的技术要点： 数据结构差异数据类型差异&#xff…...

编程新知 2025/8/12 3:03:43

uniapp微信小程序视频实时流+pc端预览方案

方案类型技术实现是否免费优点缺点适用场景延迟范围开发复杂度WebSocket图片帧定时拍照Base64传输✅ 完全免费无需服务器纯前端实现高延迟高流量帧率极低个人demo测试超低频监控500ms-2s⭐⭐RTMP推流TRTC/即构SDK推流❌ 付费方案 （部分有免费额度&#x…...

编程新知 2025/10/6 0:43:04

Rust 异步编程

Rust 异步编程引言 Rust 是一种系统编程语言，以其高性能、安全性以及零成本抽象而著称。在多核处理器成为主流的今天，异步编程成为了一种提高应用性能、优化资源利用的有效手段。本文将深入探讨 Rust 异步编程的核心概念、常用库以及最佳实践。异步编程基础什么是异步…...

编程新知 2025/9/22 12:08:59

三、资源规划

1.资源配置

2.磁盘规划

3.组件规划

相关文章：