大数据技术基础
一、大数据平台
1.大数据平台方案步骤：
①市场上有哪些大数据平台
②硬件、系统、业务增长等方面
③方案是否通过
通过后：按照一期目标投入
先虚拟环境部署联系，再实际部署
《大数据架构介绍》《Hadoop架构解析》《Hadoop集群规划》
《Hadoop安装部署》，《实验：Hadoop集群搭建》
《Hadoop核心组件-HDFS》，《实验：HDFS查看元数据》《高可用HDFS》
十分的事情，完成十二分！！！比预期完成的更好
因为需求、业务需求，所以上大数据
2.数据库管理员 (DBA) 是指负责维护、保护和运营数据库，确保正确存储和检索数据的专业人员。
3.大数据：大量、多样、快速、价值密度低的数据
4.传统服务器架构：单机、主备、主从-----数据之间需要同步，例如：一人一本完整的书，得复印十本书
现有服务器架构：分片式架构，将数据分散在多个节点，多个节点合成一个数据，例如：查找一本书中的页数，每10页分给一个人，合起来，就是页码数
二、主流大数据平台---Hadoop
1.Hadoop常用组件：
2.结构
主节点：领导，从节点：员工
3.版本
一版本无Yarn,只能通过MapReduce进行资源管理和数据处理，只有一个leader
二版本好处：以下三个好处 ---加入了yarn，有两个leader
4.运行模式
三、集群-----不是某一个人的任务，而是一群人的任务
集群考虑：组件分配、硬件、虚拟化和节点配置等；
相关文章：
大数据技术基础
一、大数据平台 1.大数据平台方案步骤： ①市场上有哪些大数据平台 ②硬件、系统、业务增长等方面 ③方案是否通过 通过后：按照一期目标投入 先虚拟环境部署联系，再实际部署 《大数据架构介绍》《Hadoop架构解析》《Hadoop集群规划》 《H…...
【文心智能体】前几天百度热搜有一条非常有趣的话题《00后疯感工牌》，看看如何通过低代码工作流方式实现图片显示
00后疯感工牌体验：https://mbd.baidu.com/ma/s/6yA90qtM 目录 前言比赛推荐工作流创建工作流入口创建工作流界面工作流界面HTTP工具卡点地方 总结推荐文章 前言 前几天百度热搜有一条非常有有趣《00后疯感工牌》。 想着通过文心智能体去一键生成00后疯感工牌是不是…...
C++20中的constinit说明符
constinit说明符断言(assert)变量具有静态初始化，即零初始化和常量初始化(zero initialization and constant initialization)，否则程序格式不正确(program is ill-formed)。 constinit说明符声明具有静态或线程存储持续时间(thread storage duration)的…...
Java 中的正则表达式
转义字符由反斜杠\x组成，用于实现特殊功能当想取消这些特殊功能时可以在前面加上反斜杠\ 例如在Java中当\出现时是转义字符的一部分，具有特殊意义，前面加一个反斜可以取消其特殊意义，表示1个普通的反斜杠\，\\\\表示2个…...
华为配置蓝牙终端定位实验
个人主页：知孤云出岫 目录 配置蓝牙终端定位示例 业务需求 组网需求 数据规划 配置思路 配置注意事项 操作步骤 配置文件 配置蓝牙终端定位示例 组网图形 图1 配置蓝牙终端定位示例组网图 业务需求组网需求数据规划配置思路配置注意事项操作步骤配置文件 业…...
搭建hadoop+spark完全分布式集群环境
目录 一、集群规划 二、更改主机名 三、建立主机名和ip的映射 四、关闭防火墙（master，slave1，slave2） 五、配置ssh免密码登录 六、安装JDK 七、hadoop之hdfs安装与配置 1）解压Hadoop 2）修改hadoop-env.sh 3）修改 core-site.xml 4)修改hdfs-site.xml 5) 修改s…...
pytorch-pytorch之LSTM
目录 1. nn.LSTM2. nn.LSTMCell 1. nn.LSTM 初始化函数输入参数与RNN相同，分别是input_size，hidden_size和num_layer foward函数也与RNN类似，只不过返回值除了out外，ht变为(ht,ct) 代码见下图： 2. nn.LSTMCell 初…...
jvm优化
1.jvm组成 什么是jvm，java是跨平台语言，对不同的平台（windos，linux），有不同的jvm版本。jvm屏蔽了平台的不同，提供了统一的运行环境，让java代码无需考虑平台的差异。 jdk包含jre包含…...
网络安全——防御课实验二
在实验一的基础上，完成7-11题 拓扑图 7、办公区设备可以通过电信链路和移动链路上网(多对多的NAT，并且需要保留一个公网IP不能用来转换) 首先，按照之前的操作，创建新的安全区（电信和移动）分别表示两个外网…...
朴素模式匹配算法与KMP算法（非重点）
目录 一. 朴素模式匹配算法1.1 什么是字符串的匹配模式1.2 朴素模式匹配算法1.3 通过数组下标实现朴素模式匹配算法 二. KMP算法2.1 算法分析2.2 用代码实现（只会出现在选择题，考察代码的概率不大） 三. 手算next数组四. KMP算法的进一步优化4…...
[k8s源码]2.CURD deployment
加载kubernetes配置 使用 clientcmd方法，是通过"k8s.io/client-go/tools/clientcmd"包加载的。这个函数返回的是config和error两个值。可以看到返回的config是一个指针变量。 func clientcmd.BuildConfigFromFlags(masterUrl string, kubeconfigPath str…...
使用base64通用文件上传
编写一个上传文件的组件 tuku,点击图片上传后使用FileReader异步读取文件的内容，读取完成后获得文件名和base64码，调用后端uploadApi,传入姓名和base64文件信息，后端存入nginx中，用于访问 tuku.ts组件代码： <templa…...
Python深度学习
python深度学习，python代码定制， 可做创新点 创新思路 代码改进跑通 深度学习 Python代跑时间序列预测 分析 代码编写 python编程 深度学习算法 自然语言处理 神经网络跑通指导 爬虫调试代做 项目指导 定制帮做 改进 提升 创新 优化 Python Matlab C…...
django报错（三）：No crontab program或got an unexpected keyword argument ‘user’
Crontab是linux系统上的定时管理模块，简单配置，灵活使用。但是要在windows使用必须借助Cygwin等虚拟工具，否则会报错“No crontab program”。如下图： python-crontab是其提供了python模块对crontab的访问，即可以通过p…...
数据库（创建数据库和表）
目录 一：创建数据库 二：创建表 2.1：创建employees表 2.2：创建orders表 2.3：创建invoices表 一：创建数据库 mysql> create database mydb6_product; Query OK, 1 row affected (0.01 sec) mysql&g…...
Log4j的原理及应用详解（一）
本系列文章简介： 在软件开发的广阔领域中，日志记录是一项至关重要的活动。它不仅帮助开发者追踪程序的执行流程，还在问题排查、性能监控以及用户行为分析等方面发挥着不可替代的作用。随着软件系统的日益复杂，对日志管理的需求也日…...
ubuntu系统Docker常用命令
1.查看docker是否开机启动 sudo systemctl list-unit-files | grep enable|grep docker 2.设置开机启动 sudo systemctl enable docker 3.关闭docker开机启动 sudo systemctl disable docker 4.开启docker服务 sudo service docker start 5.关闭docker服务 sudo servi…...
韦东山嵌入式linux系列-驱动设计的思想（面向对象/分层/分离）
1 面向对象 字符设备驱动程序抽象出一个 file_operations 结构体； 我们写的程序针对硬件部分抽象出 led_operations 结构体。 2 分层 上下分层，比如我们前面写的 LED 驱动程序就分为 2 层： ① 上层实现硬件无关的操作，比如注册…...
0/1背包
0/1背包 背包问题是DP最经典的类型之一，而0/1背包是最经典最基础的背包问题。 背包体积为 V V V， n n n种物品，每种物品只有1个，第 i i i种物品对应体积为 c i c_i ci，价值为 w i w_i wi，怎样装填能使…...
Linux的进程和权限的基本命令
目录 基本命令 man find date cal du ln exit grep 基本命令-帮助查询： wc cat more less head tail echo alias unalias 基本命令-进程管理： ps kill top 操作系统负载查看 用户分类： 程序用户 普通用户&#x…...
uniapp 对接腾讯云IM群组成员管理（增删改查）
UniApp 实战：腾讯云IM群组成员管理（增删改查） 一、前言 在社交类App开发中，群组成员管理是核心功能之一。本文将基于UniApp框架，结合腾讯云IM SDK，详细讲解如何实现群组成员的增删改查全流程。 权限校验…...
CTF show Web 红包题第六弹
提示 1.不是SQL注入 2.需要找关键源码 思路 进入页面发现是一个登录框，很难让人不联想到SQL注入，但提示都说了不是SQL注入，所以就不往这方面想了 先查看一下网页源码，发现一段JavaScript代码，有一个关键类ctfs…...
前端倒计时误差!
提示：记录工作中遇到的需求及解决办法 文章目录 前言一、误差从何而来？二、五大解决方案1. 动态校准法（基础版）2. Web Worker 计时3. 服务器时间同步4. Performance API 高精度计时5. 页面可见性API优化三、生产环境最佳实践四、终极解决方案架构前言 前几天听说公司某个项…...
聊聊 Pulsar：Producer 源码解析
一、前言 Apache Pulsar 是一个企业级的开源分布式消息传递平台，以其高性能、可扩展性和存储计算分离架构在消息队列和流处理领域独树一帜。在 Pulsar 的核心架构中，Producer（生产者） 是连接客户端应用与消息队列的第一步。生产者…...
在 Nginx Stream 层“改写”MQTT ngx_stream_mqtt_filter_module
1、为什么要修改 CONNECT 报文？ 多租户隔离：自动为接入设备追加租户前缀，后端按 ClientID 拆分队列。零代码鉴权：将入站用户名替换为 OAuth Access-Token，后端 Broker 统一校验。灰度发布：根据 IP/地理位写…...
linux 错误码总结
1，错误码的概念与作用 在Linux系统中，错误码是系统调用或库函数在执行失败时返回的特定数值，用于指示具体的错误类型。这些错误码通过全局变量errno来存储和传递，errno由操作系统维护，保存最近一次发生的错误信息。值得注意的是，errno的值在每次系统调用或函数调用失败时…...
什么是EULA和DPA
文章目录 EULA（End User License Agreement）DPA（Data Protection Agreement）一、定义与背景二、核心内容三、法律效力与责任四、实际应用与意义 EULA（End User License Agreement） 定义： EULA即…...
拉力测试cuda pytorch 把 4070显卡拉满
import torch import timedef stress_test_gpu(matrix_size16384, duration300):"""对GPU进行压力测试，通过持续的矩阵乘法来最大化GPU利用率参数:matrix_size: 矩阵维度大小，增大可提高计算复杂度duration: 测试持续时间（秒&…...
浅谈不同二分算法的查找情况
二分算法原理比较简单，但是实际的算法模板却有很多，这一切都源于二分查找问题中的复杂情况和二分算法的边界处理，以下是博主对一些二分算法查找的情况分析。 需要说明的是，以下二分算法都是基于有序序列为升序有序的情况…...
AspectJ 在 Android 中的完整使用指南
一、环境配置（Gradle 7.0 适配） 1. 项目级 build.gradle // 注意：沪江插件已停更，推荐官方兼容方案 buildscript {dependencies {classpath org.aspectj:aspectjtools:1.9.9.1 // AspectJ 工具} } 2. 模块级 build.gradle plu…...