大数据技术基础
一、大数据平台
1.大数据平台方案步骤：
①市场上有哪些大数据平台
②硬件、系统、业务增长等方面
③方案是否通过
通过后：按照一期目标投入
先虚拟环境部署联系，再实际部署
《大数据架构介绍》《Hadoop架构解析》《Hadoop集群规划》
《Hadoop安装部署》，《实验：Hadoop集群搭建》
《Hadoop核心组件-HDFS》，《实验：HDFS查看元数据》《高可用HDFS》
十分的事情，完成十二分！！！比预期完成的更好
因为需求、业务需求，所以上大数据
2.数据库管理员 (DBA) 是指负责维护、保护和运营数据库，确保正确存储和检索数据的专业人员。
3.大数据：大量、多样、快速、价值密度低的数据
4.传统服务器架构：单机、主备、主从-----数据之间需要同步，例如：一人一本完整的书，得复印十本书
现有服务器架构：分片式架构，将数据分散在多个节点，多个节点合成一个数据，例如：查找一本书中的页数，每10页分给一个人，合起来，就是页码数
二、主流大数据平台---Hadoop
1.Hadoop常用组件：
2.结构
主节点：领导，从节点：员工
3.版本
一版本无Yarn,只能通过MapReduce进行资源管理和数据处理，只有一个leader
二版本好处：以下三个好处 ---加入了yarn，有两个leader
4.运行模式
三、集群-----不是某一个人的任务，而是一群人的任务
集群考虑：组件分配、硬件、虚拟化和节点配置等；
相关文章：
大数据技术基础
一、大数据平台 1.大数据平台方案步骤： ①市场上有哪些大数据平台 ②硬件、系统、业务增长等方面 ③方案是否通过 通过后：按照一期目标投入 先虚拟环境部署联系，再实际部署 《大数据架构介绍》《Hadoop架构解析》《Hadoop集群规划》 《H…...
【文心智能体】前几天百度热搜有一条非常有趣的话题《00后疯感工牌》，看看如何通过低代码工作流方式实现图片显示
00后疯感工牌体验：https://mbd.baidu.com/ma/s/6yA90qtM 目录 前言比赛推荐工作流创建工作流入口创建工作流界面工作流界面HTTP工具卡点地方 总结推荐文章 前言 前几天百度热搜有一条非常有有趣《00后疯感工牌》。 想着通过文心智能体去一键生成00后疯感工牌是不是…...
C++20中的constinit说明符
constinit说明符断言(assert)变量具有静态初始化，即零初始化和常量初始化(zero initialization and constant initialization)，否则程序格式不正确(program is ill-formed)。 constinit说明符声明具有静态或线程存储持续时间(thread storage duration)的…...
Java 中的正则表达式
转义字符由反斜杠\x组成，用于实现特殊功能当想取消这些特殊功能时可以在前面加上反斜杠\ 例如在Java中当\出现时是转义字符的一部分，具有特殊意义，前面加一个反斜可以取消其特殊意义，表示1个普通的反斜杠\，\\\\表示2个…...
华为配置蓝牙终端定位实验
个人主页：知孤云出岫 目录 配置蓝牙终端定位示例 业务需求 组网需求 数据规划 配置思路 配置注意事项 操作步骤 配置文件 配置蓝牙终端定位示例 组网图形 图1 配置蓝牙终端定位示例组网图 业务需求组网需求数据规划配置思路配置注意事项操作步骤配置文件 业…...
搭建hadoop+spark完全分布式集群环境
目录 一、集群规划 二、更改主机名 三、建立主机名和ip的映射 四、关闭防火墙（master，slave1，slave2） 五、配置ssh免密码登录 六、安装JDK 七、hadoop之hdfs安装与配置 1）解压Hadoop 2）修改hadoop-env.sh 3）修改 core-site.xml 4)修改hdfs-site.xml 5) 修改s…...
pytorch-pytorch之LSTM
目录 1. nn.LSTM2. nn.LSTMCell 1. nn.LSTM 初始化函数输入参数与RNN相同，分别是input_size，hidden_size和num_layer foward函数也与RNN类似，只不过返回值除了out外，ht变为(ht,ct) 代码见下图： 2. nn.LSTMCell 初…...
jvm优化
1.jvm组成 什么是jvm，java是跨平台语言，对不同的平台（windos，linux），有不同的jvm版本。jvm屏蔽了平台的不同，提供了统一的运行环境，让java代码无需考虑平台的差异。 jdk包含jre包含…...
网络安全——防御课实验二
在实验一的基础上，完成7-11题 拓扑图 7、办公区设备可以通过电信链路和移动链路上网(多对多的NAT，并且需要保留一个公网IP不能用来转换) 首先，按照之前的操作，创建新的安全区（电信和移动）分别表示两个外网…...
朴素模式匹配算法与KMP算法（非重点）
目录 一. 朴素模式匹配算法1.1 什么是字符串的匹配模式1.2 朴素模式匹配算法1.3 通过数组下标实现朴素模式匹配算法 二. KMP算法2.1 算法分析2.2 用代码实现（只会出现在选择题，考察代码的概率不大） 三. 手算next数组四. KMP算法的进一步优化4…...
[k8s源码]2.CURD deployment
加载kubernetes配置 使用 clientcmd方法，是通过"k8s.io/client-go/tools/clientcmd"包加载的。这个函数返回的是config和error两个值。可以看到返回的config是一个指针变量。 func clientcmd.BuildConfigFromFlags(masterUrl string, kubeconfigPath str…...
使用base64通用文件上传
编写一个上传文件的组件 tuku,点击图片上传后使用FileReader异步读取文件的内容，读取完成后获得文件名和base64码，调用后端uploadApi,传入姓名和base64文件信息，后端存入nginx中，用于访问 tuku.ts组件代码： <templa…...
Python深度学习
python深度学习，python代码定制， 可做创新点 创新思路 代码改进跑通 深度学习 Python代跑时间序列预测 分析 代码编写 python编程 深度学习算法 自然语言处理 神经网络跑通指导 爬虫调试代做 项目指导 定制帮做 改进 提升 创新 优化 Python Matlab C…...
django报错（三）：No crontab program或got an unexpected keyword argument ‘user’
Crontab是linux系统上的定时管理模块，简单配置，灵活使用。但是要在windows使用必须借助Cygwin等虚拟工具，否则会报错“No crontab program”。如下图： python-crontab是其提供了python模块对crontab的访问，即可以通过p…...
数据库（创建数据库和表）
目录 一：创建数据库 二：创建表 2.1：创建employees表 2.2：创建orders表 2.3：创建invoices表 一：创建数据库 mysql> create database mydb6_product; Query OK, 1 row affected (0.01 sec) mysql&g…...
Log4j的原理及应用详解（一）
本系列文章简介： 在软件开发的广阔领域中，日志记录是一项至关重要的活动。它不仅帮助开发者追踪程序的执行流程，还在问题排查、性能监控以及用户行为分析等方面发挥着不可替代的作用。随着软件系统的日益复杂，对日志管理的需求也日…...
ubuntu系统Docker常用命令
1.查看docker是否开机启动 sudo systemctl list-unit-files | grep enable|grep docker 2.设置开机启动 sudo systemctl enable docker 3.关闭docker开机启动 sudo systemctl disable docker 4.开启docker服务 sudo service docker start 5.关闭docker服务 sudo servi…...
韦东山嵌入式linux系列-驱动设计的思想（面向对象/分层/分离）
1 面向对象 字符设备驱动程序抽象出一个 file_operations 结构体； 我们写的程序针对硬件部分抽象出 led_operations 结构体。 2 分层 上下分层，比如我们前面写的 LED 驱动程序就分为 2 层： ① 上层实现硬件无关的操作，比如注册…...
0/1背包
0/1背包 背包问题是DP最经典的类型之一，而0/1背包是最经典最基础的背包问题。 背包体积为 V V V， n n n种物品，每种物品只有1个，第 i i i种物品对应体积为 c i c_i ci，价值为 w i w_i wi，怎样装填能使…...
Linux的进程和权限的基本命令
目录 基本命令 man find date cal du ln exit grep 基本命令-帮助查询： wc cat more less head tail echo alias unalias 基本命令-进程管理： ps kill top 操作系统负载查看 用户分类： 程序用户 普通用户&#x…...
【Python】 -- 趣味代码 - 小恐龙游戏
文章目录 文章目录 00 小恐龙游戏程序设计框架代码结构和功能游戏流程总结01 小恐龙游戏程序设计02 百度网盘地址00 小恐龙游戏程序设计框架 这段代码是一个基于 Pygame 的简易跑酷游戏的完整实现，玩家控制一个角色（龙）躲避障碍物（仙人掌和乌鸦）。以下是代码的详细介绍：…...
深入剖析AI大模型：大模型时代的 Prompt 工程全解析
今天聊的内容，我认为是AI开发里面非常重要的内容。它在AI开发里无处不在，当你对 AI 助手说 "用李白的风格写一首关于人工智能的诗"，或者让翻译模型 "将这段合同翻译成商务日语" 时，输入的这句话就是 Prompt。…...
边缘计算医疗风险自查APP开发方案
核心目标：在便携设备（智能手表/家用检测仪）部署轻量化疾病预测模型，实现低延迟、隐私安全的实时健康风险评估。 一、技术架构设计 #mermaid-svg-iuNaeeLK2YoFKfao {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}#mermaid-svg…...
Mybatis逆向工程，动态创建实体类、条件扩展类、Mapper接口、Mapper.xml映射文件
今天呢，博主的学习进度也是步入了Java Mybatis 框架，目前正在逐步杨帆旗航。 那么接下来就给大家出一期有关 Mybatis 逆向工程的教学，希望能对大家有所帮助，也特别欢迎大家指点不足之处，小生很乐意接受正确的建议&…...
Vue2 第一节_Vue2上手_插值表达式{{}}_访问数据和修改数据_Vue开发者工具
文章目录 1.Vue2上手-如何创建一个Vue实例,进行初始化渲染2. 插值表达式{{}}3. 访问数据和修改数据4. vue响应式5. Vue开发者工具--方便调试 1.Vue2上手-如何创建一个Vue实例,进行初始化渲染 准备容器引包创建Vue实例 new Vue()指定配置项 ->渲染数据 准备一个容器,例如: …...
2025盘古石杯决赛【手机取证】
前言 第三届盘古石杯国际电子数据取证大赛决赛 最后一题没有解出来，实在找不到，希望有大佬教一下我。 还有就会议时间，我感觉不是图片时间，因为在电脑看到是其他时间用老会议系统开的会。 手机取证 1、分析鸿蒙手机检材&#x…...
ios苹果系统，js 滑动屏幕、锚定无效
现象：window.addEventListener监听touch无效，划不动屏幕，但是代码逻辑都有执行到。 scrollIntoView也无效。 原因：这是因为 iOS 的触摸事件处理机制和 touch-action: none 的设置有关。ios有太多得交互动作，从而会影响…...
九天毕昇深度学习平台 | 如何安装库？
pip install 库名 -i https://pypi.tuna.tsinghua.edu.cn/simple --user 举个例子： 报错 ModuleNotFoundError: No module named torch 那么我需要安装 torch pip install torch -i https://pypi.tuna.tsinghua.edu.cn/simple --user pip install 库名&#x…...
Linux离线（zip方式）安装docker
目录 基础信息操作系统信息docker信息 安装实例安装步骤示例 遇到的问题问题1：修改默认工作路径启动失败问题2 找不到对应组 基础信息 操作系统信息 OS版本：CentOS 7 64位 内核版本：3.10.0 相关命令： uname -rcat /etc/os-rele…...
Unity中的transform.up
2025年6月8日，周日下午 在Unity中，transform.up是Transform组件的一个属性，表示游戏对象在世界空间中的“上”方向（Y轴正方向），且会随对象旋转动态变化。以下是关键点解析： 基本定义 transfor…...