当前位置：首页 > news >正文

1 Hadoop入门

news 文章来源：https://blog.csdn.net/weixin_39563769/article/details/132487906 2025/5/15 1:34:00

1.Hadoop是什么？

(1)Hadoop是一个由Apache基金会所开发的分布式系统基础架构。
(2)主要解决，海量数据的存储和海量数据的分析计算问题。
(3)广义上来说，Hadoop通常是指一个更广泛的概念——Hadoop生态圈

2.Hadoop的优势

在这里插入图片描述

3 Hadoop组成

在这里插入图片描述

4 HDFS概述

在这里插入图片描述

5 YARN架构概述

Yet Another Resource Negotiator 简称 YARN ，另一种资源协调者，是 Hadoop 的资源管理器。

yarn主要管理的是整个集群的内存和cpu
在这里插入图片描述
ApplicationManager运行在Container(容器)上，容器是一种虚拟化的技术，类似阿里云的容器虚拟技术，不会是真正的无数台服务器.

6 MapReduce架构概述

负责hadoop中的计算部分
在这里插入图片描述

7 HDFS、YARN、MapReduce 三者关系

在这里插入图片描述

1 Hadoop入门

1.Hadoop是什么？ (1)Hadoop是一个由Apache基金会所开发的分布式系统基础架构。 (2)主要解决，海量数据的存储和海量数据的分析计算问题。 (3)广义上来说，Hadoop通常是指一个更广泛的概念——Hadoop生态圈 2.Hadoop的优势 3 Hadoop组成 4 HDF…...

编程日记 2023/8/29 13:31:03

骨传导耳机哪款比较好，市面上最好的骨传导耳机分享

随着科技的日新月异，骨传导耳机也在不断更新换代。市场上涌现出许多品牌，这使得消费者在购买时感到困惑。别担心！我们为你整理了一些市场上最好的骨传导耳机品牌，希望能帮到你。现在，就让我们一起探索这些骨传导耳机的…...

编程日记 2023/8/29 13:29:59

centos7安装docker-compose—及常见错误排解

目录一、Docker-Compose概述Compose有2个重要的概念：一、安装docker-compose1.从github上下载docker-compose二进制文件安装二、Docker-compose实战二、Dcoker-compose 不好下载，你直接使用docker 一个一个的安装使用dockerfile安装各种服务组件一、…...

编程日记 2023/8/29 13:28:58

Stable Diffusion 文生图技术原理

图像生成模型简介图片生成领域来说，有四大主流生成模型：生成对抗模型（GAN）、变分自动编码器（VAE）、流模型（Flow based Model）、扩散模型（Diffusion Model）。…...

编程日记 2023/8/29 13:27:57

Jumpserver堡垒机管理（安装和相关操作）-------从小白到大神之路之学习运维第89天

第四阶段时间：2023年8月28日参加人：全班人员内容： Jumpserver堡垒机管理目录一、堡垒机简介 （一）运维常见背黑锅场景 （二）背黑锅的主要原因 （三）解决背黑…...

编程日记 2023/8/29 13:26:54

伦敦金走势多变怎么办

投资知识比较丰富的朋友，应该知道一个品种的价格过于波动，对投资者来说并是一件不友好的事情，因为频繁的价格变化，对于收益的稳定性会产生负面的影响，也可能让投资者的持仓陷入进退维谷的尴尬境地。黄金作为贵金属市场…...

编程日记 2023/8/29 13:25:51

MybatisPlus-插件篇

文章目录一、前言二、插件1、分页插件2.1.1、引入依赖2.1.1、配置分页插件2.1.3、使用分页方法 2、乐观锁插件2.1、引入依赖2.2、添加版本字段2.3、配置乐观锁插件2.4、执行更新操作三、总结一、前言本文将详细介绍mybatisplus中常用插件的使用。二、插件 1、分页插件 …...

编程日记 2023/8/29 13:24:49

数学建模：熵权法

🔆 文章首发于我的个人博客：欢迎大佬们来逛逛熵权法构建原始矩阵 D a t a Data Data 形状为 m ∗ n m *n m∗n ，其中 m m m 为评价对象， n n n 为评价指标。对 D a t a Data Data矩阵的指标进行正向化处理，得到…...

编程日记 2023/8/29 13:23:47

软件测试实训系统建设方案

一、系统概述软件测试实训系统是软件开发过程中的一项重要测试活动，旨在验证不同软件模块或组件之间的集成与交互是否正常。综合测试确保各个模块按照设计要求正确地协同工作，以实现整个软件系统的功能和性能。以下是软件测试实训系统的一般流程和步骤…...

编程日记 2023/8/29 13:22:45

部署 ssm 项目到云服务器上（购买云服务器 + 操作远程云服务器 + 服务器中的环境搭建 + 部署项目到服务器）

部署 Web 项目 1、获取 Linux 环境1.1、如何去买一个云服务器1.2、远程操作云服务器1.3、在 Linux 系统中搭建 Java Web 的运行环境。1）安装 JDK（使用包管理器 yum 来安装）2） 安装Tomcat3）安装 MySQL。 1.4、在云服务器…...

编程日记 2023/8/29 13:21:44

python爬虫-使用selenium自动登录微博

环境准备：anaconda、pycharm编辑器、chromedriver(记得下载) 首先查看本地anaconda的python环境和selenium版本号(不同版本的api接口可能不同) conda list python输出 # Name Version Build Channel ipython …...

编程日记 2023/8/29 13:20:43

Python 面试：可变类型和不可变类型作为函数参数，关键字参数

1. 可变类型作为参数可变对象: list/set/dict 参数会指向可变对象的副本的地址，每次修改的是同一个对象。 def flist(l):l.append(0)print(l)ll [] flist(ll) flist(ll)输出为： [0] [0, 0] # 注意：l只是ll的一个副本，修改l不…...

编程日记 2023/8/29 13:19:42

Web3.0时代什么时候到来，Web3.0有什么机会？

🏆作者简介，黑夜开发者，CSDN领军人物，全栈领域优质创作者✌，CSDN博客专家，阿里云社区专家博主，2023年6月CSDN上海赛道top4。 🏆数年电商行业从业经验，历任核心研发工程师…...

编程日记 2023/8/29 13:18:41

vue心得

不是专业的前端开发，但因为E2E开发和架构设计的需要，必须对前端框架有一些了解。这两年项目前端在用vue，就记录一下vue的使用心得。心得 component component： vue组件，可在其中完成界面呈现（V&#xf…...

编程日记 2023/8/29 13:17:40

JavaScript—数据类型、对象与构造方法

js是什么？ JavaScript（简称“JS”） 是一种具有函数优先的轻量级，解释型或即时编译型的编程语言。JavaScript 基于原型编程、多范式的动态脚本语言，并且支持面向对象、命令式、声明式、函数式编程范式。 js有哪些特点呢…...

编程日记 2023/8/29 13:16:38

自定义node-red节点中，如何编写节点的配置信息弹窗

前言最近有读者通过博客向我咨询，在自定义node-red节点时，如何编写该节点的配置页面，就是我们通常见到的，双节节点打开的信息弹窗。如下图：上面两张图，展示了inject节点与mqtt in 节点的配置弹窗。在弹窗中，除了上面的删除，取消，完成，和下面的失效按钮。中间…...

编程日记 2023/8/29 13:15:37

数据之美：探索数据可视化设计的奇妙世界

在信息时代的浪潮中，海量的数据正在影响着我们的生活和决策。然而，数据本身虽然有力量，但如何将其有机地呈现给我们，却成为了一个挑战。数据可视化设计应运而生，它不仅让枯燥的数字变得生动，还带来了一场视…...

编程日记 2023/8/29 13:14:35

避免僵尸进程使用dump-init FROM node:16 AS builderRUN apt install dumb-init... ...ENTRYPOINT ["/usr/bin/dumb-init", "--"] CMD ["node", "dist/main"]使用tini docker run --init .......开启docker内部ssh docker exec -…...

编程日记 2023/8/29 13:13:32

【C语言】结构体变量引用的一个例子

文件test_funcs.c： #include <stdio.h> #include <stdlib.h>struct t_Test {int n1;int n2; };struct t_Test *alloc_Test(void) {struct t_Test *pTestNULL;pTestmalloc(sizeof(struct t_Test));pTest->n1 1;return pTest; }void func1(struct t_…...

编程日记 2023/8/29 13:12:29

美团笔试题之合并 K 个升序链表

文章目录题目详情分析暴力求解两两合并链表 Java完整实现代码总结题目详情 23 美团笔试真题给你一个链表数组，每个链表都已经按升序排列。请你将所有链表合并到一个升序链表中，返回合并后的链表。分析暴力求解将所有数值存入一个数组&#xff…...

编程日记 2023/8/29 13:11:28

C语言(第三十一天)

6. 调试举例1 求1!2!3!4!...10!的和，请看下面的代码： #include <stdio.h> //写一个代码求n的阶乘 int main() {int n 0;scanf("%d", &n);int i 1;int ret 1;for(i1; i<n; i){ret * i;}printf("%d\n", ret);return …...

编程日记 2023/8/29 13:10:27