当前位置：首页 > news >正文

【大数据测试HDFS + Flask详细教程与实例】

news 2026/4/1 6:56:10

大数据测试HDFS + Flask

1. 环境准备
- 安装工具
- 安装Hadoop（以单机模式为例）
- 安装Flask和HDFS Python客户端
2. HDFS + Flask基本架构
- 基本文件结构
3. 创建Flask应用与与HDFS交互
- 步骤1：配置HDFS连接
- 步骤2：构建Flask应用
4. 创建前端界面
- index.html
- style.css（可选，添加一些样式）
5. 启动应用
6. 测试功能
7. 扩展功能

HDFS（Hadoop分布式文件系统）和Flask是两个非常常见的技术栈。在大数据领域，HDFS是用于存储海量数据的分布式文件系统，而Flask是一个轻量级的Python Web框架。结合HDFS和Flask，通常用于构建大数据应用，尤其是在数据处理和可视化过程中，提供一种接口来访问和展示存储在HDFS上的数据。

1. 环境准备

安装工具

Hadoop（HDFS）环境：
需要安装和配置Hadoop集群或单机模式。如果没有现成的Hadoop集群，可以通过Docker或者虚拟机搭建一个简单的Hadoop环境，或使用Hadoop单机模式进行测试。
Flask框架：
Flask是一个轻量级的Python Web框架，可以通过pip轻松安装。
Hadoop Python客户端（hdfs）：
为了通过Python与HDFS交互，我们需要安装hdfs客户端库，它是与HDFS进行交互的桥梁。

安装Hadoop（以单机模式为例）

下载并解压Hadoop：https://hadoop.apache.org/releases.html

配置Hadoop的环境变量，在~/.bashrc中添加：

export HADOOP_HOME=/path/to/hadoop
export PATH=$PATH:$HADOOP_HOME/bin
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop

配置Hadoop的XML配置文件（core-site.xml, hdfs-site.xml）以启用HDFS。启动HDFS：
```
$ hadoop namenode -format
$ start-dfs.sh
```

安装Flask和HDFS Python客户端

安装Flask：
```
pip install flask
```
安装hdfs库（用于Python与HDFS交互）：
```
pip install hdfs
```

2. HDFS + Flask基本架构

Flask应用将提供HTTP接口，允许用户：

上传文件到HDFS
下载文件从HDFS
查看存储在HDFS上的文件列表

基本文件结构

project/
├── app.py               # Flask应用
├── templates/           # HTML模板
│   ├── index.html       # 上传与下载界面
└── static/              # 静态文件（如CSS、JavaScript）└── style.css        # 页面样式

3. 创建Flask应用与与HDFS交互

步骤1：配置HDFS连接

在Flask应用中，我们通过hdfs库来连接HDFS。首先，我们需要配置HDFS的URL和端口。

from hdfs import InsecureClient# 配置HDFS的地址
HDFS_URL = 'http://localhost:50070'  # HDFS Web UI 默认端口
client = InsecureClient(HDFS_URL)

步骤2：构建Flask应用

接下来，我们会创建一个Flask应用，允许用户上传文件到HDFS并展示上传的文件列表。

app.py:

from flask import Flask, render_template, request, redirect, url_for
from hdfs import InsecureClient
import osapp = Flask(__name__)# 配置HDFS客户端
HDFS_URL = 'http://localhost:50070'  # HDFS Web UI 默认端口
client = InsecureClient(HDFS_URL)# HDFS存储的目标路径
HDFS_DIR = '/user/hadoop/test'# 确保HDFS上的目录存在
if not client.status(HDFS_DIR, strict=False):client.makedirs(HDFS_DIR)@app.route('/')
def index():# 获取HDFS上的文件列表files = client.list(HDFS_DIR)return render_template('index.html', files=files)@app.route('/upload', methods=['POST'])
def upload_file():# 获取上传的文件file = request.files['file']if file:local_file_path = os.path.join('/tmp', file.filename)  # 临时保存上传的文件file.save(local_file_path)# 将文件上传到HDFShdfs_path = os.path.join(HDFS_DIR, file.filename)client.upload(hdfs_path, local_file_path)os.remove(local_file_path)  # 删除临时文件return redirect(url_for('index'))@app.route('/download/<filename>')
def download_file(filename):# 从HDFS下载文件hdfs_path = os.path.join(HDFS_DIR, filename)local_path = os.path.join('/tmp', filename)client.download(hdfs_path, local_path)return send_from_directory('/tmp', filename)if __name__ == '__main__':app.run(debug=True)

4. 创建前端界面

使用Flask的render_template渲染HTML模板，构建简单的上传与下载页面。

index.html

<!DOCTYPE html>
<html lang="en">
<head><meta charset="UTF-8"><meta name="viewport" content="width=device-width, initial-scale=1.0"><title>HDFS File Management</title><link rel="stylesheet" href="{{ url_for('static', filename='style.css') }}">
</head>
<body><h1>HDFS File Management</h1><h2>Upload File to HDFS</h2><form action="/upload" method="POST" enctype="multipart/form-data"><input type="file" name="file" required><button type="submit">Upload</button></form><h2>Files in HDFS</h2><ul>{% for file in files %}<li>{{ file }}<a href="{{ url_for('download_file', filename=file) }}">Download</a></li>{% endfor %}</ul>
</body>
</html>

style.css（可选，添加一些样式）

body {font-family: Arial, sans-serif;
}h1 {color: #333;
}h2 {margin-top: 20px;
}form {margin-bottom: 20px;
}ul {list-style-type: none;
}li {margin: 10px 0;
}

5. 启动应用

启动HDFS（如果未启动）。
启动Flask应用：
```
python app.py
```
打开浏览器，访问 http://localhost:5000，你应该能够看到上传文件到HDFS和下载文件的界面。

6. 测试功能

上传文件：选择文件并上传，文件会被存储到HDFS中的指定目录（如/user/hadoop/test）。
查看文件列表：Flask页面会列出所有存储在HDFS中的文件。
下载文件：点击文件名旁边的“Download”链接，文件将从HDFS下载到本地。

7. 扩展功能

删除文件：你可以在页面中添加一个删除文件的按钮，使用client.delete方法从HDFS中删除文件。
显示文件内容：对于小文件，可以直接显示文件内容或以某种格式（如CSV或JSON）展示文件内容。
多用户支持：在Flask中可以使用Session管理用户，允许不同用户上传和管理自己的文件。

推荐阅读：《大数据 ETL + Flume 数据清洗》，《大数据测试 Elasticsearch》，《大数据测试spark+kafka》，《大数据测试HBase数据库》

【大数据测试HDFS + Flask详细教程与实例】

大数据测试HDFS Flask 1. 环境准备安装工具安装Hadoop（以单机模式为例）安装Flask和HDFS Python客户端 2. HDFS Flask基本架构基本文件结构 3. 创建Flask应用与与HDFS交互步骤1：配置HDFS连接步骤2：构建Flask应用 4. 创建前端界面…...

编程日记 2024/11/14 4:39:44

高级java每日一道面试题-2024年10月31日-RabbitMQ篇-RabbitMQ中vhost的作用是什么?

如果有遗漏,评论区告诉我进行补充面试官: RabbitMQ中vhost的作用是什么? 我回答: 在Java高级面试中，关于RabbitMQ中vhost（虚拟主机）的作用是一个重要且常见的考点。以下是对vhost的详细解释： 一、vhost的基本概念 vhost&am…...

编程日记 2024/11/14 4:37:42

【日常记录-Java】代码配置Logback

1. 简介在Logback中，推荐使用配置文件（如logback.xml或logback-spring.xml）来设置日志记录的行为。但在实际应用中，会有动态配置logback的需求。此时可通过编程的方式直接操作LoggerContext以及相关的Logger、Appender、Encoder等…...

编程日记 2024/11/14 4:36:40

HTTP常见的请求头有哪些？都有什么作用？在 Web 应用中使用这些请求头？

HTTP 请求头（Request Headers）用于在 HTTP 请求中携带额外的信息，帮助服务器更好地处理请求。以下是一些常见的 HTTP 请求头及其作用： 常见请求头及其作用 1. Accept 作用：告知服务器客户端可以接受的内容类型。示例…...

编程日记 2024/11/14 4:34:38

电信数据清洗案例：利用MapReduce实现高效数据预处理

电信数据清洗案例：利用MapReduce实现高效数据预处理在大数据时代，电信行业积累了大量的用户通话、短信、上网等行为数据。在数据分析和机器学习模型训练前，对这些数据进行清洗是至关重要的一步。MapReduce 是一种高效的数据处理模型&#x…...

编程日记 2024/11/14 4:32:36

react 中 FC 模块作用

React.FC 是一个泛型类型，用于定义函数组件的类型一、类型定义和代码可读性 1. 明确组件类型使用React.FC定义一个组件时，使得组件的输入（props）和输出（返回的 React 元素）都有明确的类型定义。 impo…...

编程日记 2024/11/14 4:30:35

多模态大模型（1）--CLIP

CLIP（Contrastive Language-Image Pre-training）模型是一种多模态预训练神经网络，由OpenAI在2021年发布。它通过对比学习的方式，将图像和文本映射到同一个向量空间中，从而实现跨模态的检索和分类。下面介绍其基础功能&…...

编程日记 2024/11/14 4:28:31

opencv入门学习总结

opencv学习总结不多bb，直接上代码！！！ 案例一： import cv2 # 返回当前安装的 OpenCV 库的版本信息并且是字符串格式 print(cv2.getVersionString()) """ 作用：它可以读取不同格式的图像文…...

编程日记 2024/11/14 4:26:29

C/C++内存管理 | new的机制 | 重载自己的operator new

一、C/C内存分布 1. 内存分区栈又叫堆栈–非静态局部变量/函数参数/返回值等等，栈是向下增长的。内存映射段是高效的I/O映射方式，用于装载一个共享的动态内存库。用户可使用系统接口创建共享共享内存，做进程间通信 .堆用于程序运行时动态内…...

编程日记 2024/11/14 4:24:27

知识库管理系统：企业数字化转型的加速器

在数字化转型的大潮中，知识库管理系统（KBMS）已成为企业提升效率和创新能力的关键工具。本文将探讨知识库管理系统的定义、企业建立知识库的必要性，以及如何快速搭建企业知识库。知识库管理系统是什么？ 知识库管理系统…...

编程日记 2024/11/14 4:22:25

uniapp 如何使用vuex store (亲测)

首先是安装： npm install vuexnext --save 安装之后，Vue2 这样写不管在哪里，建立一个JS文件，假设命名：store.js 代码这样写： import Vue from vue; import Vuex from vuex;Vue.use(Vuex);const store…...

编程日记 2024/11/14 4:21:24

[编译报错]ImportError: No module named _sqlite3解决办法

1. 问题描述： 在使用python进行代码编译时，提示下面报错： "/home/bspuser/BaseTools/Source/Python/Workspace/WorkspaceDatabase.py", line 18, in <module>import sqlite3File "/usr/local/lib/python2.7/sqlite3/_…...

编程日记 2024/11/14 4:18:21

【旷视科技-注册/登录安全分析报告】

前言由于网站注册入口容易被黑客攻击，存在如下安全问题： 暴力破解密码，造成用户信息泄露短信盗刷的安全问题，影响业务及导致用户投诉带来经济损失，尤其是后付费客户，风险巨大，造成亏损无底洞…...

编程日记 2024/11/14 4:17:20

python学习记录16

字符串总结 python程序使用unicode编码，中文字符与英文字符都占一个字符，但英文字符只占一个字节，中文字符若按照utf-8格式编码占3个字节。 （1）字符串常用方法 1）大小写转化 string.upper()#将所有字母…...

编程日记 2024/11/14 4:15:18

AI 大模型在软件开发中的角色

![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/402a907e12694df5a34f8f266385f3d2.png#pic_center> 🎓作者简介：全栈领域优质创作者 🌐个人主页：百锦再新空间代码工作室 📞工作室：新空间代…...

编程日记 2024/11/14 4:14:17

React中类组件和函数组件的理解和区别

react代码模块分为类组件和函数组件。从语法和定义、内部状态管理、生命周期、性能、可读性和维护性、上下文、集成状态管理库等角度对比React中类组件和函数组件。 1、语法和定义类组件： 使用 ES6 的类（class）语法定义的 React 组件。…...

编程日记 2024/11/14 4:12:15

Day62||prim算法精讲 |kruskal算法精讲

prim算法精讲 53. 寻宝（第七期模拟笔试） 题目描述在世界的某个区域，有一些分散的神秘岛屿，每个岛屿上都有一种珍稀的资源或者宝藏。国王打算在这些岛屿上建公路，方便运输。不同岛屿之间，路途距离不同&…...

编程日记 2024/11/14 4:10:12

upload-labs通关练习

目录环境搭建第一关第二关第三关第四关第五关第六关第七关第八关第九关第十关第十一关第十二关第十三关第十四关第十五关第十六关第十七关第十八关第十九关第二十关总结环境搭建 upload-labs是一个使用php语言编写的&#xff0c…...

编程日记 2024/11/14 4:08:10

wordpress搭建主题可配置json

网站首页展示在线访问链接 http://dahua.bloggo.chat/ 配置json文件我使用的是argon主题，你需要先安装好主题，然后可以导入我的json文件一键配置。需要json界面配置文件的，可以在评论区回复，看见评论我会私发给你。~...

编程日记 2024/11/14 4:07:09

由 Bo PENG 和 RWKV 开源社区共同完成的 RWKV-5/6架构论文《Eagle and Finch: RWKV with Matrix-Valued States and Dynamic Recurrence》被顶级会议 COLM 2024 收录。这是继 RWKV-4 架构论文《RWKV: Reinventing RNNs for the Transformer Era》被 EMNLP 2023 收录之后&…...

编程日记 2024/11/14 4:04:06

OpenClaw创始人加入OpenAI：这不是跳槽新闻，是整个AI行业换挡的信号

OpenClaw创始人加入OpenAI：这不是跳槽新闻，是整个AI行业换挡的信号摘要OpenClaw创始人Peter Steinberger正式加入OpenAI，项目移交开源基金会。Sam Altman亲自官宣，称他是"天才"。这件事的真正意义不在人事变动&#xff…...

编程新知 2026/4/1 6:54:07

Janus-Pro-7B入门指南：零基础Python调用与第一个AI应用创建

Janus-Pro-7B入门指南：零基础Python调用与第一个AI应用创建你是不是对AI大模型充满好奇，想亲手试试调用一个强大的模型，但又觉得门槛太高，被各种复杂的部署和配置劝退？别担心，今天我们就来彻底解决这个问…...

编程新知 2026/4/1 6:13:23

Wan2.2-I2V-A14B私有部署镜像优势：零依赖冲突、开箱即用、免编译安装

Wan2.2-I2V-A14B私有部署镜像优势：零依赖冲突、开箱即用、免编译安装 1. 镜像核心价值与定位 Wan2.2-I2V-A14B私有部署镜像是专为文生视频场景打造的一站式解决方案。这个镜像最大的特点就是解决了AI模型部署中最让人头疼的环境配置问题，真正做到下载即…...

编程新知 2026/4/1 4:52:24

别再只盯着EMD了！滚动轴承故障诊断，试试VMD和MCKD这些新方法（附Python代码对比）

滚动轴承故障诊断：VMD与MCKD的实战对比与Python实现滚动轴承作为旋转机械的核心部件，其健康状态直接影响设备运行安全。传统经验模态分解（EMD）虽广泛应用，但在处理强噪声和非平稳信号时存在明显局限。本文将深入解析变…...

编程新知 2026/4/1 4:32:07

Qwen3-Reranker-8B开源大模型：支持HuggingFace Transformers原生加载

Qwen3-Reranker-8B开源大模型：支持HuggingFace Transformers原生加载如果你正在构建一个智能搜索系统、问答机器人或者文档分析工具，那么“重排序”这个环节你一定不陌生。简单来说，它就像一个智能裁判，当你的检索系统从海量文档…...

编程新知 2026/4/1 4:11:49

避坑指南：Matplotlib调用LaTeX渲染公式时，你可能会遇到的5个报错及解决方法

Matplotlib与LaTeX公式渲染：5个典型报错排查手册当你第一次在Matplotlib中启用usetexTrue时，屏幕上突然弹出的红色LaTeX错误信息往往让人手足无措。这不是你代码逻辑的问题，而是两个强大工具在握手时产生的"语言障碍"。本文将带你…...

编程新知 2026/4/1 3:29:10

如何通过WeChatMsg实现微信聊天记录永久保存：从数据安全到情感记忆的完整解决方案

如何通过WeChatMsg实现微信聊天记录永久保存：从数据安全到情感记忆的完整解决方案【免费下载链接】WeChatMsg 提取微信聊天记录，将其导出成HTML、Word、CSV文档永久保存，对聊天记录进行分析生成年度聊天报告项目地址: https://gitcode.co…...

编程新知 2026/4/1 2:58:41

Openclaw案例之构建《全自动化、高适配、可定制”的AI绘画生产体系》

⚡⚡⚡ 欢迎预览，批评指正⚡⚡⚡ 文章目录一、需求&目标二、搭建基础环境2.1 环境准备2.2 OpenClaw与绘画模型部署启动2.3 核心配置（模型插件联动）三、核心操作3.1 多智能体角色配置（核心步骤）3.2 一键启动自动化…...

编程新知 2026/4/1 1:31:39

3D Face HRN开源镜像：ModelScope官方cv_resnet50_face-reconstruction部署

3D Face HRN开源镜像：ModelScope官方cv_resnet50_face-reconstruction部署 1. 引言：从2D照片到3D人脸的魔法转换你是否曾经想过，仅仅通过一张普通的2D人脸照片，就能生成精确的3D人脸模型？这在过去可能需要专业设备和…...

编程新知 2026/4/1 0:58:21

5大核心价值重构云游戏体验：Sunshine让你的游戏突破硬件与空间限制

5大核心价值重构云游戏体验：Sunshine让你的游戏突破硬件与空间限制【免费下载链接】Sunshine Self-hosted game stream host for Moonlight. 项目地址: https://gitcode.com/GitHub_Trending/su/Sunshine 在数字娱乐日益碎片化的今天，玩家们面临…...

编程新知 2026/4/1 0:52:18