当前位置：首页 > news >正文

伪分布式Spark集群搭建

news 2025/12/24 22:58:20

一、软件环境

软件	版本	安装包
VMware虚拟机	16	VMware-workstation-full-16.2.2-19200509.exe
SSH连接工具		FinalShell
Linux OS	CentOS7.5	CentOS-7.5-x86_64-DVD-1804.iso
JDK	1.8	jdk-8u161-linux-x64.tar.gz
Spark	3.2.1	spark-3.2.1-bin-hadoop2.7.tgz

二、实训操作步骤

技能点１：Final Shell连接虚拟机

①打开虚拟机终端，输入命令ifconfig,查看虚拟机的IP地址。

②打开Final Shell，进行SSH连接虚拟机。

③设置IP地址，使用root账户和密码进行连接登录。

技能点2：上传Spark安装包并解压

①上传Spark安装包

使用FinalShell软件将HBase安装包spark-3.2.1-bin-hadoop2.7.tgz上传至虚拟机的/opt目录下。

②解压Spark安装包

使用“tar”命令将HBase解压至/usr/local目录下，具体命令如下：

tar -zxvf /opt/spark-3.2.1-bin-hadoop2.7.tgz -C /usr/local/

技能点3：配置spark-env.sh文件

①进入到Spark安装包的conf目录下，具体命令如下：

cd /usr/local/spark-3.2.1-bin-hadoop2.7/conf

②将spark-env.sh.template复制为spark-env.sh，具体命令如下：

cp spark-env.sh.template spark-env.sh

③输入“vi spark-env.sh”命令，打开文件，在文件末尾添加如下代码：

#Jdk安装路径export JAVA_HOME=/usr/local/jdk1.8.0_161      #Hadoop安装路径export HADOOP_HOME=/usr/local/hadoop-3.1.4#Hadoop配置文件的路径                export HADOOP_CONF_DIR=/usr/local/hadoop-3.1.4/etc/hadoop    #Spark主节点的IP地址或机器名export SPARK_MASTER_IP=hadoop                                                            #Spark本地的IP地址或机器名export SPARK_LOCAL_IP=hadoop

技能点4：启动测试Spark集群

①目录切换到sbin目录下启动集群。

#进入到sbin目录下
cd /usr/local/spark-3.2.1-bin-hadoop2.7/sbin#启动spark集群./start-all.sh

②jps查看进程。

③切换到Spark安装包的/bin目录下(cd /usr/local/spark-3.2.1-bin-hadoop2.7/bin)，使用SparkPi来计算Pi的值。

#切换到Spark安装包的/bin目录下
cd /usr/local/spark-3.2.1-bin-hadoop2.7/bin
#运行程序
./run-example SparkPi 2

技能点5：浏览器访问Spark 页面

①关闭防火墙输入命令“systemctl stop firewalld.service”

②打开浏览器访问Spark自带web页面浏览器输入网址：http://192.168.15.128:8080/

③效果图如下