spark 3.0.0源码环境搭建
环境
Spark版本：3.0.0
java版本：1.8
scala版本：2.12.19
Maven版本：3.8.1
编译spark
将spark-3.0.0的源码导入到idea中
执行mvn clean package -Phive -Phive-thriftserver -Pyarn -DskipTests
执行sparksql示例类SparkSQLExample
运行成功
遇到的问题
缺少parse包的类
parse包的类是ANTLR工具生成的，确认idea的插件已经安装了。
找到sql包下面的SqlBase.g4文件，右键执行生成文件。最后生成的文件在gen目录下，创建一个新的包org.apache.spark.sql.catalyst.parser，将生成的文件都复制到这个包下面。
scala.reflect包的类缺失
在spark-example模块的依赖加上scala-reflect的jar包
在运行界面上，选中‘将带有provided依赖加入路径’
没有spark版本文件
spark版本文件是spark-build-info.sh文件生成的
我们可以手动在创建spark-version-info.properties文件，写上版本
Master URL没有指定
代码中加上master的配置
ANTLR版本不对
在对应plugin中找到插件主页。
在主页中找到对应版本的插件下载
手动安装下载的插件
相关文章：
spark 3.0.0源码环境搭建
环境 Spark版本：3.0.0 java版本：1.8 scala版本：2.12.19 Maven版本：3.8.1 编译spark 将spark-3.0.0的源码导入到idea中 执行mvn clean package -Phive -Phive-thriftserver -Pyarn -DskipTests 执行sparksql示例类SparkSQLExam…...
3.3、matlab彩色图和灰度图的二值化算法汇总
1、彩色图和灰度图的二值化算法汇总原理及流程 彩色图和灰度图的二值化算法的原理都是将图像中的像素值转化为二值（0或1），以便对图像进行简化或者特定的图像处理操作。下面分别介绍彩色图和灰度图的二值化算法的原理及流程： 1）彩色图的二值化算法原理及流程 （1）原理：…...
新手必看：Elasticsearch 入门全指南
Elasticsearch 入门介绍 Elasticsearch 是一个开源的分布式搜索和分析引擎，广泛应用于处理大规模数据和实时搜索需求。它基于 Apache Lucene 构建，具备高可扩展性和分布式特性，能够快速、可靠地存储、搜索和分析大量数据。本文将介绍 Elasti…...
【Linux】TCP全解析：构建可靠的网络通信桥梁
文章目录 前言1. TCP 协议概述2. TCP报头结构3. 如何理解封装和解包呢？4. TCP的可靠性机制4.1 TCP的确认应答机制4.2 超时重传机制 5. TCP链接管理机制5.1 经典面试题：为什么建立连接是三次握手？5.2 经典面试题：为什么要进行四次挥…...
图像处理 -- ISP中的3DNR与2DNR区别及实现原理
ISP中的3DNR与2DNR区别及实现原理 2DNR（2D Noise Reduction） 2DNR的原理： 2DNR主要针对单帧图像进行降噪处理。它利用空间域内的像素值，采用空间滤波的方法来减少噪声。常用的方法包括均值滤波、中值滤波和高斯滤波等。这些方法…...
硬盘分区读不出来的解决之道：从自救到专业恢复
在日常的计算机使用过程中，硬盘分区读不出来的问题常常令人头疼不已。这一问题不仅阻碍了用户对数据的正常访问，还可能预示着数据安全的潜在威胁。硬盘分区读不出来，通常是由于分区表损坏、文件系统错误、物理扇区损坏、驱动程序冲突或硬件连…...
盘点2024年网上很火的4个语音识别转文字工具。
语音识别转文字是一项非常实用的技术，可以帮助我们在会议记录中省去手动记录，在采访中迅速得到文字稿，在学习中快速生成课堂笔...运用十分广泛。但是很多人不知道要怎么转换，在这里我便给大家介绍几款效率非常高的语音转文字的工具…...
解决 Git 访问 GitHub 时的 SSL 错误
引言 在使用 Git 进行版本控制时，我们可能会遇到各种网络相关的错误。其中一种常见的错误是 SSL 连接问题，这会导致 Git 无法访问远程仓库。本文将介绍一个具体的错误 OpenSSL SSL_read: SSL_ERROR_SYSCALL, errno 0，以及如何通过禁用 SSL 证…...
LinuxCentos中安装apache网站服务详细教程
🏡作者主页：点击！ 🐧Linux基础知识(初学)：点击！ 🐧Linux高级管理防护和群集专栏：点击！ 🔐Linux中firewalld防火墙：点击！ ⏰️创作…...
LUA脚本改造redis分布式锁
在redis集群模式下，我们会启动多个tomcat实例，每个tomcat实例都有一个JVM，且不共享。而synchronize锁的作用范围仅仅是当前JVM，所以我们需要一个作用于集群下的锁，也就是分布式锁。（就是不能用JVM自带的锁了…...
web端使用HTML5开发《贪吃蛇》小游戏教程【附源码】
自制游戏列表 1植物大战僵尸自制HTML5游戏《植物大战僵尸》2开心消消乐自制HTML5游戏《开心消消乐》3贪吃蛇自制HTML5游戏《贪吃蛇》4捕鱼达人自制HTML5游戏《捕鱼达人》 一、游戏简介 贪吃蛇是一款经典的电子游戏，最早在1976年由Gremlin公司推出，名为…...
Selenium使用教程-Selenium环境搭建与基础操作
Selenium环境搭建与基础操作 1. 引言：Selenium简介 Selenium，作为自动化测试领域的明星工具，以其强大的跨浏览器测试能力而闻名。它支持多种编程语言（如Java、Python、C#等），允许开发者编写脚本来模拟真…...
1950年-2021年中国历年民航航线里程统计报告
数据为1950年到2021年我国每年的民航航线总里程数据。 2021年，我国定期航班航线总里程为689.78万公里，相比2019年下降了258.44万公里。 数据统计单位为：公里. 数据说明： 2011年起民航航线里程改为定期航班航线里程 我国定期航班…...
前端了解到框架-网络复习
前端 HTML 超文本标记语言 画页面 各种各样的标签组成页面进行展示 桌面创建文本修改后缀即可 <!DOCTYPE html>: 声明文档类型和HTML版本。<html>: 根标签，所有其他标签都包含在内。<head>: 包含了文档的元数据，如字符编码、网页标…...
防火墙——网络环境支持
目录 网络环境支持 防火墙的组网 web连接上防火墙 web管理口 让防火墙接到网络环境中 编辑 管理员用户管理 缺省管理员 接口 配置一个普通接口 创建安全区域 路由模式 透明模式 混合模式 防火墙的安全策略 防火墙转发流程 与传统包过滤的区别 创建安全策略 …...
阅读笔记：明朝那些事儿之拐弯中的帝国
万历皇帝时期内阁首辅： 张居正，申时行，王锡爵，许国，王家屏，赵志皋（给皇帝写辞职信没有回音，自己不告而回家），沈一贯，于慎行，叶向高…...
React基础知识 精简全面 推荐
这篇博文主要对一些刚入门react框架的同学，以及对react基本知识进行巩固的，最后就是精简一下基本知识，以方便自己查看，感谢参考，有问题评论区交流，谢谢。 目录 1.JSX 2.Props 和 State 3.组件生命周期…...
OV SSL证书申请指南
OV SSL证书除了验证域名所有权外还需要验证组织信息，这类证书适用于对公司官网、品牌、安全性等有较高程度要求的企业级用户。具体申请流程如下： 一 、注册账号 注册账号填写230919注册码即可获得大额优惠券和全程一对一技术支持https://www.joyssl.co…...
变色树脂的变色原理？变色树脂在水处理中的应用？
变色树脂是一种具有特殊功能的高分子材料，能够在特定条件下改变其颜色，从而指示环境变化（如pH值、温度、特定离子浓度等）或反应进程。这类树脂通常含有能够响应特定刺激的化学结构，通过化学反应、离子交换、分子构象变…...
16 敏捷开发实践（1）
敏捷方法：是一种从1990年代开始逐渐引起广泛关注的一些新型软件开发方法，是一种应对快速变化的需求的一种软件开发能力。 敏捷开发：是一种以人为核心、迭代、循序渐进的开发方法。 敏捷实践：精益软件开发（LSD&#x…...
边缘计算中的AI优先设计：从芯片选型到模型部署的实战指南
1. 项目概述：为什么“AI优先”是边缘计算的必然选择 最近和几个做硬件和嵌入式开发的老朋友聊天，话题总绕不开一个词：AIoT。大家的感觉很一致，现在的项目要是没沾点“智能”的边，好像都不好意思拿出手。但真做起来&…...
如何用Rusted PackFile Manager彻底重构全面战争模组开发工作流？
如何用Rusted PackFile Manager彻底重构全面战争模组开发工作流？ 【免费下载链接】rpfm Rusted PackFile Manager (RPFM) is a... reimplementation in Rust and Qt6 of PackFile Manager (PFM), one of the best modding tools for Total War Games. 项目地址: h…...
 从零到一：跨平台安装全攻略)
Webots 机器人仿真平台(一) 从零到一：跨平台安装全攻略
1. Webots机器人仿真平台初探 第一次接触机器人仿真时，我和大多数新手一样茫然。市面上有Gazebo这样知名的仿真工具，但配置复杂得让人望而生畏。直到发现了Webots，这个开源的3D机器人仿真平台，才真正找到了适合初学者的入门利器。…...
别再乱调了！AUTOSAR DEM中Debounce参数（步长、阈值）的实战配置指南与避坑
AUTOSAR DEM中Debounce参数实战：从电压过压到通讯超时的精准调优 在汽车电子系统的故障诊断中，误报和漏报就像一对难以调和的矛盾体。我曾见过一个项目因为电压过压检测过于敏感，导致车辆在颠簸路面频繁误报故障；也遇到过通讯超时…...
插入排序：原理与优化全解析
一、核心原理把数组分为 已排序区间 和 未排序区间从头开始，依次把未排序区间的第一个元素，向前插入到已排序区间的合适位置。类比：打牌摸牌，摸到一张往手里有序牌堆里插。二、算法流程默认第 0 个元素是已排序区间；从…...
League Akari：英雄联盟客户端终极智能助手完整指南
League Akari：英雄联盟客户端终极智能助手完整指南 【免费下载链接】League-Toolkit An all-in-one toolkit for LeagueClient. Gathering power 🚀. 项目地址: https://gitcode.com/gh_mirrors/le/League-Toolkit League Akari是一款基于LCU API…...
别再瞎猜了！手把手教你算清FPGA Aurora IP核的用户时钟（附8B/10B编码影响）
别再瞎猜了！手把手教你算清FPGA Aurora IP核的用户时钟（附8B/10B编码影响） 当你在Xilinx Vivado中配置Aurora 8B/10B IP核时，是否曾被USER_CLK的计算问题困扰？这个看似简单的参数背后，其实隐藏着线速率、数…...
STM32F4当USB主机，驱动CH340串口模块的保姆级调试笔记（附源码）
STM32F4作为USB主机驱动CH340模块的深度实践指南 在嵌入式开发中，USB主机功能扩展串口资源是常见需求。当标准CDC类设备无法满足特殊场景时，驱动像CH340这样的厂商自定义设备就成了一项必备技能。本文将带您深入探索STM32F4系列微控制器作为USB主机与CH3…...
League Akari终极指南：基于LCU API的英雄联盟专业工具包完整解析与快速部署方案
League Akari终极指南：基于LCU API的英雄联盟专业工具包完整解析与快速部署方案 【免费下载链接】League-Toolkit An all-in-one toolkit for LeagueClient. Gathering power 🚀. 项目地址: https://gitcode.com/gh_mirrors/le/League-Toolkit 还…...
KEIL MDK5.12/5.13升级后编译报错？手把手教你解决core_cm3.h找不到的问题
KEIL MDK5.12/5.13升级后编译报错？手把手教你解决core_cm3.h找不到的问题 最近不少嵌入式开发者反馈，在将KEIL MDK升级到5.12或5.13版本后，原本运行良好的工程突然开始报错，提示"cannot open source input file core_cm3.h&q…...