pyspark 安装记录
1、安装软件
1、python 3.10
2、hadoop-3.3.4 里面的winutils 要记得添加
3、java-17
4、spark-3.5.1-bin-hadoop3
python 安装 pyspark，Jupyter notebook
pip install pyspark
pip install jupyter notebook2、添加环境变量
- JAVA_HOME=C:\PySparkService\java-17
- HADOOP_HOME=C:\PySparkService\hadoop-3.3.4
- SPARK_HOME=C:\PySparkService\spark-3.5.1-bin-hadoop3
- %JAVA_HOME%\bin
- %HADOOP_HOME%\bin
- %SPARK_HOME%\bin
下面环境不配置会报错
PYSPARK_PYTHON=python
#jupyter notebook 启动 pyspark
# 自己安装 jupyter notebook 使用下面环境变量
PYSPARK_DRIVER_PYTHON=jupyter
<
相关文章：
pyspark 安装记录
1、安装软件 1、python 3.10 2、hadoop-3.3.4 里面的winutils 要记得添加 3、java-17 4、spark-3.5.1-bin-hadoop3 python 安装 pyspark，Jupyter notebook pip install pyspark pip install jupyter notebook 2、添加环境变量 JAVA_HOME=C:\PySparkService\java-17H…...
高度可定制的电竞鼠标，雷柏VT1 PRO MAX体验
不管是菜鸟还是老鸟，游戏玩到某个阶段很容易出现瓶颈，在游戏的某个阶段，这里面制约最大的除了操作之外，实际上还是我们用的硬件。比如在PC游戏中，鼠标的影响就非常大，像是在游戏中如果鼠标延迟过高…...
经验笔记：SOA（面向服务的架构）
SOA（面向服务的架构）经验笔记 引言 SOA（Service-Oriented Architecture, 面向服务的架构）是一种设计原则，用于构建灵活且可扩展的分布式系统。SOA强调将应用程序的不同功能封装为独立的服务，这些服务通过…...
triton之ttir学习
一 基本语句 1 常量 %cst arith.constant dense<520192> : tensor<4096xi32> %c127_i32 arith.constant 127 : i32 %cst arith.constant dense<520192> : tensor<4096xi32> 解释：这条语句定义了一个名为 %cst 的常量，它…...
如何在AWS账户上进行充值：一份详尽指南
大家好，小编今天给大家带来一份关于如何在AWS账户上进行充值的详尽指南。对于使用AWS服务的用户来说，保持账户余额充足是确保服务不中断的关键。下面，九河云将详细讲解具体的操作步骤。 步骤一：登录AWS管理控制台 首先ÿ…...
（六十四）第 10 章 内部排序（静态链表的插入排序）
示例代码 staticLinkList.h // 静态链表的插入排序实现头文件#ifndef STATIC_LINK_LIST_H #define STATIC_LINK_LIST_H#include "errorRecord.h"#define SIZE 100 #define NUM 8typedef int InfoType; typedef int KeyType;typedef struct {KeyType key;InfoType inf…...
appium历史版本地址链接
appium / Appium.app / Downloads — Bitbucket ios的appium界面图 链接: https://pan.baidu.com/s/1i8BRaZgQA3ImLUhKZjfhiA 提取码: 5c8b...
)
TCPIP网络编程（尹圣雨）UDP 轮流收发消息(windows)
端口号写的是 2345 客户端 #include <iostream> #include <winsock2.h> #pragma comment(lib, "ws2_32.lib")using std::cout; using std::endl; using std::cin;int main() {WSADATA wsa;if (WSAStartup(MAKEWORD(2, 2), &wsa) ! 0){cout <<…...
【相机方案（2）】V4L2 支持相机图像直接进入GPU内存吗？DeepStream 确实可以将图像数据高效地放入GPU内存进行处理！
V4L2 支持相机图像直接进入GPU内存吗？ V4L2（Video4Linux Two）是Linux内核中用于视频捕获和播放的API，它本身并不直接支持将相机捕获的图像数据直接拷贝到GPU内存而不经过CPU内存。V4L2主要关注于视频设备的控制、数据的捕获和播放…...
UEFI——PEI阶段
一、PEI介绍 Pre-EFI Initialization（PEI）在引导的早期被调用，仅利用CPU资源调用PEIM，这些PEIM负责： （1）初始化一些永久内存 （2）在HOBs中描述内存信息 （3…...
Nacos下载和启动
Nacos是什么？ 一个更易于构建云原生应用的动态服务发现、配置管理和服务管理平台 下载 https://github.com/alibaba/nacos/releases/tag/2.1.1启动 将下载好的Nacos解压缩，然后到bin目录下打开cmd 输入指令：startup.cmd -m standalone 出…...
怎么选择适合的服务器
大家都知道，不管是公司还是个人，在数字化浪潮已经席卷全球的环境下，大家对服务器的需求是日渐增长的。很多人在买服务器的时候，多少都有点选择困难，今天我们就来对比下物理服务器和弹性云服务器，看看选哪个…...
通义千问大模型Java调用,百炼
文章目录 一、大模型服务平台[百炼](https://help.aliyun.com/zh/model-studio/getting-started)二、Java sdk调用与eventStream三、百炼平台其它 一、大模型服务平台百炼 百炼是阿里新出的一个大模型服务平台，聚合了多个千问大模型及其它一些大模型的调用…...
新发现！一键管理所有远程会话的神器——1Remote
大家好，今天给大家介绍一款非常实用的工具——1Remote，这是一款现代化的个人远程会话管理器与启动器，让您的远程工作变得更加轻松高效！ 项目介绍 🚀 核心功能概览 多协议支持：1Remote支持RDP、SSH、VNC、…...
华为 HCIP 认证费用和报名资格
在当今竞争激烈的信息技术领域，华为 HCIP认证备受关注。它不仅能提升个人的技术实力与职业竞争力，也为企业选拔优秀人才提供了重要依据。以下将详细介绍华为 HCIP 认证的费用和报名资格。 一、HCIP 认证费用 华为HCIP认证的费用主要由考试费和培训费构成…...
Linux下载压缩包：tar.gz、zip、tar.bz2格式全攻略
在 Linux 中，下载各种格式的压缩包（如 .tar.gz、.zip、.tar.bz2 等）通常使用命令行工具如 wget 和 curl。 1. 使用 wget 下载压缩包 wget 是 Linux 中最常用的文件下载工具，支持 HTTP、HTTPS、FTP 等协议，可以直接从…...
运行PaddleOCR报错：requests.exceptions.SSLError: HTTPSconnectionPool……
文章目录 问题描述解决方法 问题描述 在运行以下代码时报错： ocr PaddleOCR(lang"en")解决方法 打开cmd，输入以下命令，查找Python解释器所在路径。 找到 Lib\site-packages\paddleocr\ppocr\utils\network.py，将代码…...
(223))
基于STM32L431小熊派设计的智能花盆(微信小程序+腾讯云IOT)(223)
文章目录 一、前言1.1 项目介绍【1】项目背景【2】设计实现的功能【3】项目硬件模块组成1.2 设计思路【1】整体设计思路【2】ESP8266工作模式配置1.3 项目开发背景【1】选题的意义【2】可行性分析【3】参考文献1.4 开发工具的选择【1】设备端开发【2】上位机开发1.5 系统框架图…...
CentOS 入门必备基础知识
CentOS（Community ENTerprise Operating System）是一个基于Red Hat Enterprise Linux（RHEL）的免费开源操作系统，广泛用于服务器环境。它以其稳定性、安全性和社区支持而闻名，对于初学者来说掌握一些基础知识…...
快速排序
一：基本思想 任取待排序元素序列中的某元素作为基准值，按照该排序码将待排序集合分割成两子序列，左子序列中所有元素均小于基准值，右 子序列中所有元素均大于基准值，然后最左右子序列重复该过程，直到所有元…...
UDP(Echoserver)
网络命令 Ping 命令 检测网络是否连通 使用方法: ping -c 次数 网址ping -c 3 www.baidu.comnetstat 命令 netstat 是一个用来查看网络状态的重要工具. 语法：netstat [选项] 功能：查看网络状态 常用选项： n 拒绝显示别名&#…...
基于Docker Compose部署Java微服务项目
一. 创建根项目 根项目（父项目）主要用于依赖管理 一些需要注意的点： 打包方式需要为 pom<modules>里需要注册子模块不要引入maven的打包插件，否则打包时会出问题 <?xml version"1.0" encoding"UTF-8…...
反射获取方法和属性
Java反射获取方法 在Java中，反射（Reflection）是一种强大的机制，允许程序在运行时访问和操作类的内部属性和方法。通过反射，可以动态地创建对象、调用方法、改变属性值，这在很多Java框架中如Spring和Hiberna…...
解决本地部署 SmolVLM2 大语言模型运行 flash-attn 报错
出现的问题 安装 flash-attn 会一直卡在 build 那一步或者运行报错 解决办法 是因为你安装的 flash-attn 版本没有对应上，所以报错，到 https://github.com/Dao-AILab/flash-attention/releases 下载对应版本，cu、torch、cp 的版本一定要对…...
DeepSeek 技术赋能无人农场协同作业：用 AI 重构农田管理 “神经网”
目录 一、引言二、DeepSeek 技术大揭秘2.1 核心架构解析2.2 关键技术剖析 三、智能农业无人农场协同作业现状3.1 发展现状概述3.2 协同作业模式介绍 四、DeepSeek 的 “农场奇妙游”4.1 数据处理与分析4.2 作物生长监测与预测4.3 病虫害防治4.4 农机协同作业调度 五、实际案例大…...
Pinocchio 库详解及其在足式机器人上的应用
Pinocchio 库详解及其在足式机器人上的应用 Pinocchio (Pinocchio is not only a nose) 是一个开源的 C 库，专门用于快速计算机器人模型的正向运动学、逆向运动学、雅可比矩阵、动力学和动力学导数。它主要关注效率和准确性，并提供了一个通用的框架&…...
中医有效性探讨
文章目录 西医是如何发展到以生物化学为药理基础的现代医学？传统医学奠基期（远古 - 17 世纪）近代医学转型期（17 世纪 - 19 世纪末）现代医学成熟期（20世纪至今） 中医的源远流长和一脉相承远古至…...
Windows安装Miniconda
一、下载 https://www.anaconda.com/download/success 二、安装 三、配置镜像源 Anaconda/Miniconda pip 配置清华镜像源_anaconda配置清华源-CSDN博客 四、常用操作命令 Anaconda/Miniconda 基本操作命令_miniconda创建环境命令-CSDN博客...
【Linux】自动化构建-Make/Makefile
前言 上文我们讲到了Linux中的编译器gcc/g 【Linux】编译器gcc/g及其库的详细介绍-CSDN博客 本来我们将一个对于编译来说很重要的工具：make/makfile 1.背景 在一个工程中源文件不计其数，其按类型、功能、模块分别放在若干个目录中，mak…...
如何应对敏捷转型中的团队阻力
应对敏捷转型中的团队阻力需要明确沟通敏捷转型目的、提升团队参与感、提供充分的培训与支持、逐步推进敏捷实践、建立清晰的奖励和反馈机制。其中，明确沟通敏捷转型目的尤为关键，团队成员只有清晰理解转型背后的原因和利益，才能降低对变化的…...