当前位置： 首页 > news >正文

L1 项目概述与Hadoop部署

news 2026/5/13 18:52:45

1.技术栈：Hadoop+Hive+Sqoop+Flume+Azkaban

在这里插入图片描述
在这里插入图片描述

  • Flume采集Nginx web服务器上的日志，采集完成后存储到Hadoop的平台，最终存储到HDFS上，处理和分析采用Hive的方式，处理完之后利用Sqoop导出到Mysql中，最终利用一个JavaWeb的程序进行展现。
  • 使用技术：
  • 数据平台：Hadoop
  • 数据处理分析：Hive
  • 后端服务：SpringBoot + MyBatis
  • 数据可视化：Vue+Echarts
  • 数据迁移：Sqoop
  • 日志采集：Flume
    Hadoop 为用户提供了一个分布式基础架构，核心一个是HDFS分布式文件存储平台，一个是MapReduce。
  • HDFS文件系统原理

在这里插入图片描述

  • Namenode 记录原信息的路径信息
  • Datanodes 存数据的

MapReduce对数据进行处理：切片，以键值对的方式来存储

在这里插入图片描述

  • 分割
  • 建立新键值对
  • 合并相同的值为一个列表

在这里插入图片描述

  • Spark 实时计算引擎
  • Flume 数据采集
  • Sqoop 数据传输与MySql

课程主要精力放在项目流程搭建，工具的使用，业务逻辑分析上

项目部署

采用伪分布式的形式，一台机器模拟多台机器，

部署完成

在这里插入图片描述

相关文章：

L1 项目概述与Hadoop部署

1.技术栈：HadoopHiveSqoopFlumeAzkaban Flume采集Nginx web服务器上的日志，采集完成后存储到Hadoop的平台，最终存储到HDFS上，处理和分析采用Hive的方式，处理完之后利用Sqoop导出到Mysql中，最终利用一个Java…...

编程日记 2023/9/15 20:19:48

关键词文章生成器-标题文章生成器

那就是如何在根据标题生成文章和根据关键词生成文章之间找到平衡之道。在这个信息时代，内容创作已经成为了一项重要的工作，无论是博客作者、社交媒体达人还是企业宣传，都需要不断地输出优质的内容。但是，我们常常陷入一个两难的困…...

编程日记 2023/9/15 20:17:46

深入了解MySQL中的JSON_ARRAYAGG和JSON_OBJECT函数

在MySQL数据库中，JSON格式的数据处理已经变得越来越常见。JSON（JavaScript Object Notation）是一种轻量级的数据交换格式，它可以用来存储和表示结构化的数据。MySQL提供了一些功能强大的JSON函数，其中两个关键的函数是…...

编程日记 2023/9/15 20:16:45

Ubuntu22.04开启后屏幕黄屏

1. 故障现象 系统：Ubuntu22.04 现象：电脑从开机到进入桌面一直屏幕黄屏 2. 故障分析 可能为屏幕色彩调节出现故障 3. 解决方案 系统设置——》色彩——》删除原来的配置（remove profile）——》添加配置Colorspace:Compatibl…...

编程日记 2023/9/15 20:15:44

华为云云耀云服务器L实例评测 | 搭建docker环境

目录 🍒docker的概念 🍒Docker 的优点 🫐1、快速，一致地交付您的应用程序 🫐2、响应式部署和扩展 🫐3、在同一硬件上运行更多工作负载 🍒云耀云服务器L实例 🫐产品优势 &#x1f95d…...

编程日记 2023/9/15 20:14:42

exesql=“UPDATE test set date=‘%s‘“ % date 是啥意思

这段代码是 Python 中的字符串格式化语法。让我们逐步解释它的含义： exesql "UPDATE test set date%s": 这是一个字符串赋值语句，将一个 SQL 更新语句赋值给 exesql 变量。SQL 更新语句是用于更新数据库表中的数据的语句。这个更新语句的目标…...

编程日记 2023/9/15 20:11:40

请体验一下falcon 180b 大语言模型的感觉

引言 由Technology Innovation Institute(T四训练的开源大模型Falcon 180B登陆Hugging Face!Falcon180B为开源大模型树立了全新的标杆。作为当前最大的开源大模型，有l80B参数并且是在在3.5万亿token的TII RefinedWeb数据集上进行训练，这也是目前…...

编程日记 2023/9/15 20:06:34

今晚8点，iPhone15开启预售

北京时间9月15日晚8点，备受全球果粉期待的苹果iPhone15系列手机正式开启预售。此次预售在苹果官网Apple Store在线商店、天猫Apple Store官方旗舰店以及Apple Store官方在线商店微信小程序同步进行。 今年苹果公司将Apple Store在线商店、天猫Apple Store官方旗舰店…...

编程日记 2023/9/15 20:03:29

Meetup 回顾｜Data Infra 研究社第十五期（含资料发布）

本文整理于上周六（9月09日）Data Infra 第 15 期的活动内容。本次活动由 Databend 研发工程师-韩山杰为大家带来了一场主题为《Databend 数据集成方案》的分享，让我们一起回顾一下吧~ 以下是本次活动的相关文字、视频及资料： 通过…...

编程日记 2023/9/15 20:02:28

I2S/PCM知识点记录

目录 1.常见的音频采样率有两类，一类是48K domain，另一类是44.1KHz domain 2.常见采样深度 【即单声道和单slot位宽】8/12/16/24/32 bit 3.帧结构 4.I2S/PCM允许实际有效采样位宽比传输的位宽小 5.ddr存储对齐 6.sclk和mclk以及adifclk的产…...

编程日记 2023/9/15 20:00:27

微信小程序——使用 Vant 组件实现 Popup 弹出层（各位置弹出详细代码分享）

✅作者简介：2022年博客新星 第八。热爱国学的Java后端开发者，修心和技术同步精进。 🍎个人主页：Java Fans的博客 🍊个人信条：不迁怒，不贰过。小知识，大智慧。 💞当前专栏…...

编程日记 2023/9/15 19:59:26

linux查看python的py文件的命令

在 Linux 中，要查看 Python 的 .py 文件内容，可以使用以下几种命令： 使用 cat 命令： cat /path/to/your_python_file.py cat 命令用于显示文件内容，将会在终端输出整个 .py 文件的内容。 使用 less 命令：…...

编程日记 2023/9/15 19:56:24

开源库源码分析：Okhttp源码分析(一)

开源库源码分析：OkHttp源码分析 导言 接下来就要开始分析一些常用开源库的源码了，作为最常用的网络请求库，OkHttp以其强大的功能深受Android开发者的喜爱（比如说我），还有对该库进行二次封装而成的热门库&a…...

编程日记 2023/9/15 19:55:23

无涯教程-JavaScript - LOOKUP函数

描述 需要查看单个行或一列并从第二行或第二列的同一位置查找值时,请使用LOOKUP函数。使用"查找"功能搜索一行或一列。 使用VLOOKUP函数可搜索一行或一列,或搜索多行和多列(如表)。它是LOOKUP的改进版本。 有两种使用LOOKUP的方法- 矢量形式 − Use this form of…...

编程日记 2023/9/15 19:49:16

这所院校太好考了！地处魔都！不要错过！

一、学校及专业介绍 上海电力大学（Shanghai University of Electric Power），位于上海市，是中央与上海市共建、以上海市管理为主的全日制普通高等院校，是教育部首批“卓越工程师教育培养计划”试点院校、上海高水平地方…...

编程日记 2023/9/15 19:48:16

Python - PyQt6、QDesigner、pyuic5-tool 安装使用

Python 开发可视化界面可以使用原生的 tkinter，但是原生框架使用起来颇为不方便，所以最流行的还是QT UI框架，QT是使用C语言开发，Python 想使用需要对其进行封装，所以就出现了PyQt框架，这个框架使用极其方便…...

编程日记 2023/9/15 19:47:15

C语言——指针进阶（三）

目录 一.前言摘要 二.排序函数qsort的模拟实现 三.指针和数组笔试题解析 一.前言摘要 讲述关于strlen和sizeof对于各种数组与指针的计算规则与用法。另外还有qsort函数的模拟实现（可以排序任意类型变量） 二.排序函数qsort的模拟实现 目标：…...

编程日记 2023/9/15 19:46:14

三勾商城（java+vue3）微信小程序商城+SAAS+前后端源码

项目介绍 本系统功能包括： 前台展示后台管理SAAS管理端，包括最基本的用户登录注册，下单， 购物车，购买，结算，订单查询，收货地址，后台商品管 理，订单管理&…...

编程日记 2023/9/15 19:45:13

【洁洁送书第七期】现在学 Java 找工作还有优势吗

java 现在学 Java 找工作还有优势吗？活力四射的 JavaTIOBE 编程语言排行榜从零开始学会 JavaJava 语言运行过程基础知识进阶知识高级知识talk is cheap, show me the code结语 文末赠书 现在学 Java 找工作还有优势吗？ 在某乎上可以看到大家对此问题的…...

编程日记 2023/9/15 19:42:11

npm发布自定义vue组件库

npm发布自定义vue组件库 创建项目 vue create test-ui自定义组件 创建自定义组件，组件名称根据你的需求来，最好一个组件一个文件夹，下图是我的示例。 src/components 组件和你写页面一样，所谓组件就是方便实用，不用…...

编程日记 2023/9/15 19:41:10

意法半导体权力交接：从博佐蒂到谢里的战略延续与挑战

1. 从Bozotti到Chery：一场静水深流的权力交接在半导体这个以技术迭代和资本狂热著称的行业里，权力更迭往往伴随着戏剧性的股价波动、战略急转弯或是人事地震。然而，2018年5月31日，当意法半导体（STMicroelectronics NV&…...

编程新知 2026/5/13 18:50:19

基于Python的自动化数据简报生成：从模板驱动到部署实践

1. 项目概述：数据简报的自动化生成利器如果你也和我一样，每天需要从一堆数据库、日志文件和API接口里捞出数据，然后吭哧吭哧地整理成PPT或者Word报告，那你一定懂这种重复劳动的痛苦。数据本身就在那里，但把它们变成老板…...

编程新知 2026/5/13 18:46:01

长期使用Taotoken后对账单追溯与审计功能的实际评价

🚀 告别海外账号与网络限制！稳定直连全球优质大模型，限时半价接入中。 👉 点击领取海量免费额度 长期使用Taotoken后对账单追溯与审计功能的实际评价 在持续使用大模型服务进行项目开发与团队协作的过程中，成本的可观…...

编程新知 2026/5/13 18:29:45

MATLAB仿真实战：手把手绘制LFM信号的模糊函数，看懂“斜刀刃”形状的由来

MATLAB仿真实战：手把手绘制LFM信号的模糊函数，看懂“斜刀刃”形状的由来 雷达信号处理中，模糊函数是理解信号分辨特性的关键工具。对于初学者而言，仅通过数学公式往往难以直观把握其物理意义。本文将通过MATLAB实战，从…...

编程新知 2026/5/13 18:27:44

3分钟搞定抖音无水印下载：从新手到高手的完整指南

3分钟搞定抖音无水印下载：从新手到高手的完整指南 【免费下载链接】douyin-downloader A practical Douyin downloader for both single-item and profile batch downloads, with progress display, retries, SQLite deduplication, and browser fallback support. …...

编程新知 2026/5/13 18:04:08

【RAG】【query_engine01】多文档自动检索分析

1. 案例目标 本案例展示了如何实现结构化分层检索(Structured Hierarchical Retrieval)，这是一种处理多文档RAG(检索增强生成)的高级架构。该架构能够根据用户查询动态选择相关文档，然后再从这些文档中选择相关内容。 主要目标包括： 演示如…...

编程新知 2026/5/13 15:55:07

不止于透传：用VirtIO-GPU为你的KVM虚拟机开启3D加速（附XML配置详解）

VirtIO-GPU虚拟化加速实战：从原理到配置的深度解析 在虚拟化技术日益成熟的今天，GPU加速已成为开发测试、图形工作站和云桌面等场景的刚需。传统GPU透传方案虽然性能接近原生，但受限于硬件数量且缺乏灵活性。VirtIO-GPU结合virglrenderer的软…...

编程新知 2026/5/13 14:10:21

mmdetection环境搭建避坑指南：从CUDA版本、pip源到Gitee镜像的全流程优化

MMDetection环境搭建全流程优化：从版本匹配到镜像加速的实战指南 在计算机视觉领域，OpenMMLab系列工具包已经成为许多研究者和开发者的首选。作为其中的核心检测库，MMDetection凭借其模块化设计和丰富的预训练模型，极大地简化了目…...

编程新知 2026/5/13 13:28:22

Gemini3.1Pro解决新媒体小编选题难痛点

做新媒体的小编，最怕的不是写，而是“今天写什么”。 选题总是来得很急，热点总是变化很快，账号又要求持续更新，结果就是：内容压力大、时间不够用、框架搭不出来。如果你每天都在追热点、找角度、写标题、搭结…...

编程新知 2026/5/13 9:58:36

一次讲清本地大模型语音识别三件套：Vulkan 为什么是加速主线，而说话人识别为何成为唯一短板

把 whisper.cpp、sherpa-onnx、llama.cpp 三套引擎整合到一起，再用 Electron 包成桌面应用，这个技术思路本身并不复杂。真正考验工程功力的，是面向完全不懂技术的最终端用户，怎样让这些引擎尽可能“一键加速”，同时还不…...

编程新知 2026/5/13 9:49:36