搭建部署Hadoop2.x和3.x的区别

2.x 和 3.x 的区别

Java最小支持版本

• Hadoop 2.x：2.7 版本需要 Java 7，2.6 以及更早期版本支持 Java 6
• Hadoop 3.x：最低要求 Java 8，并且所有 Hadoop JAR 都已针对 Java 8的运行时版本编译。这意味着用户需要升级到 Java 8 或更高版本才能运行Hadoop 3.x。

常用的端口号

• NameNode (NN) 端口：
  • 在Hadoop 2.x中，NameNode的默认HTTP UI端口是50070，内部通常端口是8020/9000。
  • 在Hadoop 3.x中，这个端口被改为9870，内部通常端口是8020/9000/9820。
• DataNode (DN) 端口：
  • Hadoop 2.x中，DataNode的默认HTTP UI端口是50075。
  • 在Hadoop 3.x中，该端口变更为9864。
• YARN ResourceManager (RM) 端口：
  • Hadoop 2.x中的ResourceManager HTTP UI端口通常是8088。
  • 这个端口在Hadoop 3.x中保持不变，仍为8088。

配置文件

• datanode节点信息配置文件名不同
  • hadoop2.x：slaves
  • hadoop3.x：workers
• 其余四个文件
  • core-site.xml，hdfs-site.xml，yarn-site.xml，mapred-site.xml 文件名相同
  • 其中 yarn-site.xml 需要文件添加环境变量的继承

<!-- 环境变量的继承 -->
<property><name>yarn.nodemanager.env-whitelist</name><value>JAVA_HOME,HADOOP_COMMON_HOME,HADOOP_HDFS_HOME,HADOOP_CONF_DIR,CLASSPATH_PREPEND_DISTCACHE,HADOOP_YARN_HOME,HADOOP_MAPRED_HOME</value>
</property>

Classpath隔离

在Hadoop 3.x中，通过改进类路径隔离来防止不同版本jar包之间的冲突，这在使用Hadoop、HBase和Spark等混合环境时特别有用。

NodeManager重连

Hadoop 2.x： NodeManager不会自动重连到ResourceManager。
Hadoop 3.x： NodeManager可以自动重连到ResourceManager。

在搭建和部署时，务必参考相应版本的官方文档，以确保按照最新的指南进行操作。这样可以确保系统能够充分利用新特性并保持最佳的性能和稳定性。

进入官网自行查阅

具体内容可以去 Index of /docs (apache.org) 中找对应版本的文档

HDFS 的 Shell 命令在这里 Apache Hadoop 3.3.1 – Overview

Java API 文档在最下面 Overview (Apache Hadoop Main 3.3.1 API)

再下面就是各个配置文件，里面有所有参数的名称所对应的值，以及它的解释