Hadoop-004-Big Data Tools插件的使用
一、Big Data Tools插件配置流程
1、安装Big Data Tools插件
以IntelliJ IDEA 2024.2.3为例打开setting, 搜索安装Big Data Tools插件后重启IDEA
2、Windows系统基础配置
Windows系统需要做一些基础设置，配合插件使用,将之前下载的hadoop-3.2.4.tar.gz 解压到D:\Develop 目录下
设置$HADOOP_HOME环境变量指向：D:\Develop\hadoop-3.2.4
下载这两个文件放到 D:\Develop\hadoop-3.2.4\bin 下
hadoop.dll
https://github.com/steveloughran/winutils/blob/master/hadoop-3.0.0/bin/hadoop.dll
winutils.exe
https://github.com/steveloughran/winutils/blob/master/hadoop-3.0.0/bin/winutils.exe
3、配置环境变量
然后再配置下环境变量
4、连接测试正常
5、操作文件
相关文章：
Hadoop-004-Big Data Tools插件的使用
一、Big Data Tools插件配置流程 1、安装Big Data Tools插件 以IntelliJ IDEA 2024.2.3为例打开setting, 搜索安装Big Data Tools插件后重启IDEA 2、Windows系统基础配置 Windows系统需要做一些基础设置，配合插件使用,将之前下载的hadoop-3.2.4.tar.gz 解压到D…...
linux8在线扩容/home目录
虚机新增1T磁盘 [rootrsb ~]# cat /etc/redhat-release Red Hat Enterprise Linux release 8.8 (Ootpa) [rootrsb ~]# vgs VG #PV #LV #SN Attr VSize VFree ol 2 3 0 wz--n- <2.00t 0 [rootrsb ~]# lvs LV VG Attr LSize Pool Origin Dat…...
【C/C++】模拟实现strcpy
学习目标： 使用代码模拟实现strcpy。 逻辑： strcpy 函数的返回类型是 void 即不返回数据。strcpy 函数的参数类型是 char* ，用于接收数组。strcpy 函数要把一个数组复制到另一个数组。 代码： #define _CRT_SECURE_NO_WARNINGS …...
网络编程番外——IO多路复用的应用说明
一、IO多路复用与多线程 IO多路复用，IO Multiplexing，其实就是在IO上进行监听处理导致线程被阻塞（如果非阻塞就必须不断的轮询，仍然是占用此线程），如果一个IO对应一个线程是不是太浪费了。而且在诸如网络I…...
【Java爬虫的淘宝寻宝记】—— 淘宝商品类目的“藏宝图”
引言： 在淘宝这个广袤的“商品宇宙”中，每一件商品都是一颗璀璨的星球，而商品类目就是连接这些星球的星际航道。今天，我们将派遣一位勇敢的Java爬虫宇航员，去揭开这些星际航道背后的秘密——商品类目。准备好了吗&…...
探索Python文档自动化的奥秘：揭开docxtpl库的神秘面纱
文章目录 探索Python文档自动化的奥秘：揭开docxtpl库的神秘面纱1. 背景介绍2. 库简介3. 安装指南4. 基础函数介绍5. 实际应用场景6. 常见问题及解决方案7. 总结 探索Python文档自动化的奥秘：揭开docxtpl库的神秘面纱 1. 背景介绍 在日常工作中…...
RabbitMQ的解耦、异步、削峰是什么？
RabbitMQ在分布式系统和微服务架构中起到了重要的作用，其特性可以实现解耦、异步以及削峰，下面是对这三个概念的详细解释： 1. 解耦 解耦是指使系统的不同组件间的依赖关系减少或消失。在使用RabbitMQ时，生产者（发送消…...
4：arm汇编语言4：bits/byte的介绍（ASCII码）与二进制补位
4.2 bits/byte的介绍与ASCII码的引入 这个是详细介绍计算机内部原理的基础，bits与byte其实这两个是计算机中非常重要的单位。首先看一下bits，它是一个基础的计算机单位。计算机单位？像长度单位是米，体重的单位是kg，你…...
C++实现仿安卓线程Handler、Message、Looper的功能
在java开发中，习惯使用Handler、Message来处理同步，比如对相机的操作(open、setParamters、start、stop、clost)全部抛到同一个线程处理，防止并发操作导致异常，这样保留给外部的统一接口就是安全的，无论外部哪些线程来…...
构建安全的用户登录API：从请求验证到JWT令牌生成
构建安全的用户登录API：从请求验证到JWT令牌生成 为了实现这个后端POST /api/users/login端点，我们可以使用Node.js和Express框架，并结合一些常用的库如jsonwebtoken、bcrypt和express-validator来处理验证和密码校验。下面是一个完整的示例…...
状态模式：封装对象状态并改变行为的设计模式
1. 引言 在软件开发中，某些对象的行为会随着其内部状态的变化而变化。传统的实现方式可能需要使用大量的条件语句，导致代码复杂且难以维护。状态模式（State Pattern）提供了一种有效的方法，通过将状态行为封装在状态类…...
备战“双11”丨AI+物流：你的快递会有什么变化?
背景 在中国，每天有数以亿计的包裹在运输，尤其在电商促销季如“双十一”、“618”期间，快递量更是激增。快递物流行业面临人员短缺、配送效率低下和物流承载能力有限等问题。快瞳科技提供的AI识别解决方案通过智能化手段提高工作效率和配送准…...
理解为什么要有C++设计模式
什么时设计模式？ 每一个模式描述了一个在我们周围不断重复的问题以及该问题的解决方案的核心，这样，就能一次有一次地使用该方案，而不必做重复劳动。 如何解决复杂性？ 分解：人们面对复杂性有一个常见的做法…...
模式匹配类型
一、匹配常量 在scala中，模式匹配可以匹配所有的字面量，包括字符串，字符，数字，布尔值等等 def describeConst(x:Any):String x match {case "str" > "匹配字符串"case > "匹配字符&…...
)
每天10个vue面试题(七)
1、Vue如何监听页面url中hash变化？ 监听 $route 的变化：在Vue中，你可以使用watch属性来监听$route的变化。当路由发生变化时，会执行相应的处理函数。使用 window.location.hash：直接读取window.location.hash的值。这…...
如何在Linux系统中使用Apache HTTP Server
如何在Linux系统中使用Apache HTTP Server Apache简介 安装Apache 在Debian/Ubuntu系统中安装 在CentOS/RHEL系统中安装 启动Apache服务 验证Apache是否正在运行 访问Apache默认页面 配置Apache虚拟主机 创建虚拟主机配置文件 示例虚拟主机配置 创建网站根目录 准备静态网站内…...
C++基于opencv的视频质量检测--画面冻结检测
文章目录 0.引言1. 原始代码分析2. 优化方案3. 优化后的代码4. 代码详细解读 0.引言 视频质量画面冻结检测已在C基于opencv4的视频质量检测中有所介绍，本文将详细介绍其优化版本。 1. 原始代码分析 图像抖动检测的原始代码： bool ScreenFreezeDetect…...
Day22 opencv图像预处理
图像预处理 在计算机视觉和图像处理领域，图像预处理是一个重要的步骤，它能够提高后续处理（如特征提取、目标检测等）的准确性和效率。OpenCV 提供了许多图像预处理的函数和方法，常见的操作包括图像空间转换、图像大小调…...
QT中的定时器与计时器
目录 QTimer QTimer 的替代方案 API QElapsedTimer API 笔者写Qt的时候经常遇到需要定时完成任务的情况。举个例子：我写串口通信程序的时候需要定时向下位机发送数据。或者是定时任务周期性出发（更新时间等） 在Qt中，有两个非…...
国内AI大模型学习平台
据不完全统计，目前，国内有几大AI大模型学习平台可供选择： 1.昇思大模型平台：这是一个集算法选型、创意分享、模型实验和大模型在线体验于一体的AI学习与实践社区。 2.魔搭社区：提供AI模型、数据集和应用的开发与探索平…...
Unity3D中Gfx.WaitForPresent优化方案
前言 在Unity中，Gfx.WaitForPresent占用CPU过高通常表示主线程在等待GPU完成渲染（即CPU被阻塞），这表明存在GPU瓶颈或垂直同步/帧率设置问题。以下是系统的优化方案： 对惹，这里有一个游戏开发交流小组&…...
YSYX学习记录（八）
C语言，练习0： 先创建一个文件夹，我用的是物理机： 安装build-essential 练习1： 我注释掉了 #include <stdio.h> 出现下面错误 在你的文本编辑器中打开ex1文件，随机修改或删除一部分，之后…...
论文浅尝 | 基于判别指令微调生成式大语言模型的知识图谱补全方法（ISWC2024）
笔记整理：刘治强，浙江大学硕士生，研究方向为知识图谱表示学习，大语言模型 论文链接：http://arxiv.org/abs/2407.16127 发表会议：ISWC 2024 1. 动机 传统的知识图谱补全（KGC）模型通过…...
基于TurtleBot3在Gazebo地图实现机器人远程控制
1. TurtleBot3环境配置 # 下载TurtleBot3核心包 mkdir -p ~/catkin_ws/src cd ~/catkin_ws/src git clone -b noetic-devel https://github.com/ROBOTIS-GIT/turtlebot3.git git clone -b noetic https://github.com/ROBOTIS-GIT/turtlebot3_msgs.git git clone -b noetic-dev…...
基于Java+MySQL实现（GUI）客户管理系统
客户资料管理系统的设计与实现 第一章 需求分析 1.1 需求总体介绍 本项目为了方便维护客户信息为了方便维护客户信息，对客户进行统一管理，可以把所有客户信息录入系统，进行维护和统计功能。可通过文件的方式保存相关录入数据，对…...
Linux系统部署KES
1、安装准备 1.版本说明V008R006C009B0014 V008：是version产品的大版本。 R006：是release产品特性版本。 C009：是通用版 B0014：是build开发过程中的构建版本2.硬件要求 #安全版和企业版 内存：1GB 以上 硬盘…...
Spring AI Chat Memory 实战指南：Local 与 JDBC 存储集成
一个面向 Java 开发者的 Sring-Ai 示例工程项目，该项目是一个 Spring AI 快速入门的样例工程项目，旨在通过一些小的案例展示 Spring AI 框架的核心功能和使用方法。 项目采用模块化设计，每个模块都专注于特定的功能领域，便于学习和…...
AI语音助手的Python实现
引言 语音助手（如小爱同学、Siri）通过语音识别、自然语言处理（NLP）和语音合成技术，为用户提供直观、高效的交互体验。随着人工智能的普及，Python开发者可以利用开源库和AI模型，快速构建自定义语音助手。本文由浅入深，详细介绍如何使用Python开发AI语音助手，涵盖基础功…...
提升移动端网页调试效率：WebDebugX 与常见工具组合实践
在日常移动端开发中，网页调试始终是一个高频但又极具挑战的环节。尤其在面对 iOS 与 Android 的混合技术栈、各种设备差异化行为时，开发者迫切需要一套高效、可靠且跨平台的调试方案。过去，我们或多或少使用过 Chrome DevTools、Remote Debug…...
springboot 日志类切面，接口成功记录日志，失败不记录
springboot 日志类切面，接口成功记录日志，失败不记录 自定义一个注解方法 import java.lang.annotation.ElementType; import java.lang.annotation.Retention; import java.lang.annotation.RetentionPolicy; import java.lang.annotation.Target;/***…...