当前位置： 首页 > news >正文

2 | Window 搭建单机 Hadoop 和Spark

news 2025/7/3 16:13:50

搭建单机 Hadoop 和 Spark 环境可以学习和测试大数据处理的基础知识。在 Windows 操作系统上搭建这两个工具需要一些配置和设置，下面是一个详细的教程：

注意： 在开始之前，请确保你已经安装了 Java 开发工具包（JDK），并且已经下载了 Hadoop 和 Spark 的最新版本。你可以从官方网站或镜像站点获取它们。

步骤 1：安装和配置 Java

  1. 下载并安装 Oracle JDK 或 OpenJDK 的最新版本。你可以从 Oracle 官网或 OpenJDK 的官方网站下载。

  2. 设置系统环境变量：

    • 在 Windows 桌面上，右键点击 “此电脑” 并选择 “属性”。
    • 点击 “高级系统设置”。
    • 在 “高级” 选项卡下，点击 “环境变量” 按钮。
    • 在 “系统变量” 部分，点击 “新建”。
    • 输入变量名为 JAVA_HOME，变量值为你的 Java 安装路径，通常为 C:\Program Files\Java\jdk1.x.x_xxx。
    • 在 “系统变量” 中找到 “Path” 变量，点击 “编辑”。
    • 在变量值的末尾添加 ;%JAVA_HOME%\bin 并保存。


添加 %JAVA_HOME%\bin 和 .;%JAVA_HOME%\lib\dt.jar;%JAVA_HOME%\lib\tools.ja

相关文章：

2 | Window 搭建单机 Hadoop 和Spark

搭建单机 Hadoop 和 Spark 环境可以学习和测试大数据处理的基础知识。在 Windows 操作系统上搭建这两个工具需要一些配置和设置，下面是一个详细的教程： 注意： 在开始之前，请确保你已经安装了 Java 开发工具包（JDK），并且已经下载了 Hadoop 和 Spark 的最新版本。你可以从…...

编程日记 2023/9/3 7:53:30

接口测试与功能测试的区别~

今天为大家分享的是我们在日常测试工作中, 一定会接触并且目前在企业中是主要测试内容的 功能测试与接口测试 一.功能测试与接口测试的基本概念。 1.1 什么是功能测试呢? 功能测试: 是黑盒测试的一方面, 检查实际软件的功能是否符合用户的需求 功能测试测试的内容包括以下…...

编程日记 2023/9/3 7:52:29

LeetCode 23 合并 K 个升序链表

LeetCode 23 合并 K 个升序链表 来源：力扣（LeetCode） 链接：https://leetcode.cn/problems/merge-k-sorted-lists/description/ 博主Github：https://github.com/GDUT-Rp/LeetCode 题目： 给你一个链表数组…...

编程日记 2023/9/3 7:51:28

[国产MCU]-W801开发实例-TCP客户端

TCP客户端 文章目录 TCP客户端1、TCP协议简单介绍2、W801创建TCP客户流程本文将详细介绍如何在W801中使用TCP客户端。 1、TCP协议简单介绍 传输控制协议 (TCP) 是一种标准，它定义了如何建立和维护应用程序可以用来交换数据的网络对话。 TCP 与 Internet 协议 (IP) 一起工作，…...

编程日记 2023/9/3 7:50:27

《爵士乐史》乔德.泰亚 笔记

第一章 【美国音乐的非洲化】 【乡村布鲁斯和经典布鲁斯】 布鲁斯：不止包括忧愁、哀痛 十二小节布鲁斯特征： 1.乐型（A:主、B:属、C/D:下属）：A→A→B→A→C→D→A→A 2.旋律：大三、小三、降七、降五 盲人…...

编程日记 2023/9/3 7:49:26

工程制造领域：企业IT架构

一、IT组织规划架构图 1.1 IT服务保证梯队与指导思想 二、整体业务规划架构图 三、数据化项目规划架构图 四、应用系统集成架构图...

编程日记 2023/9/3 7:48:09

PY32F003F18点灯

延时函数学习完之后，可以学习PY32F003F18的GPIO输出功能。 1、Debug引脚默认被置于复用功能上拉或下拉模式：PA14默认为SWCLK: 置于下拉模式PA13默认为SWDIO: 置于上拉模式PF4默认为Boot：Boot引脚默认置于输入下拉模式 2、GPIO输出状态&#…...

编程日记 2023/9/3 7:47:08

Mac不想用iTerm2了怎么办

这东西真是让人又爱又恨，爱的是它的UI还真不错，恨的是它把我的环境给破坏啦！让我每次启动终端之后都要重新source激活我的python环境，而且虚拟环境前面没有括号啦！这怎么能忍！在UI和实用性面前我断然选择实…...

编程日记 2023/9/3 7:46:07

x86_64 ansible 源码编译安装

源码 GitHub - ansible/ansible: Ansible is a radically simple IT automation platform that makes your applications and systems easier to deploy and maintain. Automate everything from code deployment to network configuration to cloud management, in a languag…...

编程日记 2023/9/3 7:45:07

数据结构学习系列之顺序表的两种插入方式

方式1：在顺序表末端插入数据元素，代码如下：示例代码： int insert_seq_list_1(list_t *seq_list,int data){if(NULL seq_list){printf("入参为NULL\n");return -1;}if(N seq_list->count){printf("顺序表已满…...

编程日记 2023/9/3 7:44:05

Matlab/Python教程系列 | 根据目录下的已有图片制作视频(动画)

MATLAB和Python的编程教程: 根据目录下的已有图片制作视频(动画) 注1：本文系“MATLAB/Python编程教程”系列之一，致力于使用Python和Matlab实现特定的功能。本次要实现的功能是：根据目录下的已有图片制作视频(动画)。 在这个教程中，我们将一起学习如何使用MATLAB和Python编…...

编程日记 2023/9/3 7:43:04

Pyecharts数据可视化（一）

目录 1.Pyecharts简介 2.Pyecharts的常用方法 3.Pyecharts绘制柱状图 3.1 绘制并列柱状图 3.2 绘制水平直方图 1.Pyecharts简介 Pyecharts是一个用于创建交互式图表的Python库。它基于Echarts，一个强大的JavaScript图表库，Pyecharts允许Python开发者…...

编程日记 2023/9/3 7:42:02

stable diffusion实践操作-提示词-图片结构

系列文章目录 stable diffusion实践操作-提示词 文章目录 系列文章目录前言一、提示词汇总1.1 图片结构11.2 图片结构21.3 图片结构3 二、总结 前言 本文主要收纳总结了提示词-图片结构。 一、提示词汇总 1.1 图片结构1 StylesArtistshudson river school哈得逊河学派alpho…...

编程日记 2023/9/3 7:41:00

程序员自由创业周记#2：前期准备

感恩 上次公开了创业的决定后，得到了很多亲朋好友和陌生朋友的鼓励或支持，以不同的形式，感动之情溢于言表。这些都会记在心里，大恩不言谢~ 创业方向 笔者是一名资质平平的iOS开发程序猿，创业项目也就是开发App卖&am…...

编程日记 2023/9/3 7:40:00

Elasticsearch实战（四）：Springboot实现Elasticsearch指标聚合与下钻分析open-API

文章目录 系列文章索引一、指标聚合与分类1、什么是指标聚合（Metric）2、Metric聚合分析分为单值分析和多值分析两类3、概述 二、单值分析API设计1、Avg(平均值)（1）对所有文档进行avg聚合（DSL）（2…...

编程日记 2023/9/3 7:38:58

Opencv图像暗通道调优

基于雾天退化模型的去雾算法，Opencv图像暗通道调优，（清华版代码）对普通相片也有较好的调优效果，相片更通透。 结合代码实际运行效果、算法理论模型、实际代码。我个人理解，实际效果是对图像的三个颜色通道…...

编程日记 2023/9/3 7:37:57

怎样来实现流量削峰方案

削峰从本质上来说就是更多地延缓用户请求，以及层层过滤用户的访问需求，遵从“最后落地到数据库的请求数要尽量少”的原则。 1.消息队列解决削峰 要对流量进行削峰，最容易想到的解决方案就是用消息队列来缓冲瞬时流量，把同步的直…...

编程日记 2023/9/3 7:36:54

git status搜索.c和.h后缀及git新建分支

git status搜索.c和.h后缀及git新建分支 1.脚本代码2.git新建分支（1）创建新分支（2）删除本地分支（3）删除远端分支（4）合并分支3.指定历史版本创建分支1.脚本代码 $ git status | grep "\.[hc]$"$ 是行尾的意思 \b 就是用在你匹配整个单词的时候。 如果不是整个…...

编程日记 2023/9/3 7:35:53

【配置环境】Visual Studio 配置 OpenCV

目录 一，环境 二，下载和配置 OpenCV 三，创建一个 Visual Studio 项目 四，配置 Visual Studio 项目 五，编写并编译 OpenCV 程序 六，解决CMake编译OpenCV报的错误 一，环境 Windows 11 家庭中…...

编程日记 2023/9/3 7:34:52

java.sql.SQLException: com.mysql.cj.jdbc.Driver

这篇文章分享一下Springboot整合Elasticsearch时遇到的一个问题，项目正常启动，但是查询数据库的时候发生了一个异常java.sql.SQLException: com.mysql.cj.jdbc.Driver java.sql.SQLException: com.mysql.cj.jdbc.Driverat com.alibaba.druid.util.JdbcU…...

编程日记 2023/9/3 7:33:51

基于大模型的 UI 自动化系统

基于大模型的 UI 自动化系统 下面是一个完整的 Python 系统，利用大模型实现智能 UI 自动化，结合计算机视觉和自然语言处理技术，实现"看屏操作"的能力。 系统架构设计 #mermaid-svg-2gn2GRvh5WCP2ktF {font-family:"trebuchet ms",verdana,arial,sans-…...

编程新知 2025/6/21 5:42:11

linux 错误码总结

1，错误码的概念与作用 在Linux系统中，错误码是系统调用或库函数在执行失败时返回的特定数值，用于指示具体的错误类型。这些错误码通过全局变量errno来存储和传递，errno由操作系统维护，保存最近一次发生的错误信息。值得注意的是，errno的值在每次系统调用或函数调用失败时…...

编程新知 2025/6/15 21:42:14

苍穹外卖--缓存菜品

1.问题说明 用户端小程序展示的菜品数据都是通过查询数据库获得，如果用户端访问量比较大，数据库访问压力随之增大 2.实现思路 通过Redis来缓存菜品数据，减少数据库查询操作。 缓存逻辑分析： ①每个分类下的菜品保持一份缓存数据…...

编程新知 2025/6/27 9:21:19

HTML前端开发：JavaScript 常用事件详解

作为前端开发的核心，JavaScript 事件是用户与网页交互的基础。以下是常见事件的详细说明和用法示例： 1. onclick - 点击事件 当元素被单击时触发（左键点击） button.onclick function() {alert("按钮被点击了！&…...

编程新知 2025/6/25 15:20:35

代理篇12|深入理解 Vite中的Proxy接口代理配置

在前端开发中，常常会遇到 跨域请求接口 的情况。为了解决这个问题，Vite 和 Webpack 都提供了 proxy 代理功能，用于将本地开发请求转发到后端服务器。 什么是代理（proxy）？ 代理是在开发过程中，前端项目通过开发服务器，将指定的请求“转发”到真实的后端服务器，从而绕…...

编程新知 2025/6/17 5:18:28

省略号和可变参数模板

本文主要介绍如何展开可变参数的参数包 1.C语言的va_list展开可变参数 #include <iostream> #include <cstdarg>void printNumbers(int count, ...) {// 声明va_list类型的变量va_list args;// 使用va_start将可变参数写入变量argsva_start(args, count);for (in…...

编程新知 2025/6/23 4:18:07

pikachu靶场通关笔记19 SQL注入02-字符型注入(GET)

目录 一、SQL注入 二、字符型SQL注入 三、字符型注入与数字型注入 四、源码分析 五、渗透实战 1、渗透准备 2、SQL注入探测 &#xff08;1&#xff09;输入单引号 &#xff08;2&#xff09;万能注入语句 3、获取回显列orderby 4、获取数据库名database 5、获取表名…...

编程新知 2025/6/25 7:24:59

深入浅出Diffusion模型：从原理到实践的全方位教程

I. 引言&#xff1a;生成式AI的黎明 – Diffusion模型是什么&#xff1f; 近年来&#xff0c;生成式人工智能&#xff08;Generative AI&#xff09;领域取得了爆炸性的进展&#xff0c;模型能够根据简单的文本提示创作出逼真的图像、连贯的文本&#xff0c;乃至更多令人惊叹的…...

编程新知 2025/6/21 10:53:36

git: early EOF

macOS报错&#xff1a; Initialized empty Git repository in /usr/local/Homebrew/Library/Taps/homebrew/homebrew-core/.git/ remote: Enumerating objects: 2691797, done. remote: Counting objects: 100% (1760/1760), done. remote: Compressing objects: 100% (636/636…...

编程新知 2025/6/27 16:42:06

Vue 3 + WebSocket 实战：公司通知实时推送功能详解

&#x1f4e2; Vue 3 WebSocket 实战&#xff1a;公司通知实时推送功能详解 &#x1f4cc; 收藏 点赞 关注&#xff0c;项目中要用到推送功能时就不怕找不到了&#xff01; 实时通知是企业系统中常见的功能&#xff0c;比如&#xff1a;管理员发布通知后&#xff0c;所有用户…...

编程新知 2025/6/26 2:18:45