当前位置： 首页 > news >正文

Python遥感影像深度学习指南(2)-在 PyTorch 中创建自定义数据集和加载器

news 2025/9/14 12:54:58

        在上一篇 文章中，我们Fast.ai 在卫星图像中检测云轮廓，检测物体轮廓被称为语义分割。虽然我们用几行代码就能达到 96% 的准确率，但该模型无法考虑数据集中提供的所有输入通道（红、绿、蓝和近红外）。问题在于，深度学习框架（如 Keras、Fast.ai 甚至 PyTorch）中的大多数语义分割模型都是为处理 RGB 图像而设计的，并带有预先训练好的权重。除此之外，这些库中的视觉模块也仅限于 RGB 文件。这就是我们在前面的故事中忽略近红外通道，只使用 RGB patchs的原因。

        这促使我采用了一种完全不同的方法，从头开始构建我自己的 U-Net，而不是使用视觉库来准备数据集。本篇我将介绍如何使用简单的 PyTorch 函数创建数据集，而下一篇将继续介绍如何创建一个简单的U-NET分割模型，并对其进行训练以获得结果。

1、数据准备

       在上一篇文章中我们使用的数据集，是由 8400 个大小为 384x384 的训练片段组成（适合深度学习）。还有一组 9201 个图像块patchs用于测试，但我们暂时不处理它们。这些patchs分别位于红、绿、蓝和近红外（NIR）通道的目录中，另外还有一个用于参考掩膜（真实值ground truth*_gt）的目录。

2、PyTorch 数据集类

        在上一篇文章中，我们在磁盘中创建了 rgb_patch*.tif 文件，并使用 PIL 将条带合并为 384x`384x3

相关文章：

Python遥感影像深度学习指南(2)-在 PyTorch 中创建自定义数据集和加载器

在上一篇 文章中，我们Fast.ai 在卫星图像中检测云轮廓，检测物体轮廓被称为语义分割。虽然我们用几行代码就能达到 96% 的准确率，但该模型无法考虑数据集中提供的所有输入通道（红、绿、蓝和近红外）。问题在于，深度学习框架（如 Keras、Fast.ai 甚至 PyTorch）中的大多数语…...

编程日记 2023/12/29 19:11:16

韩版传奇 2 源码分析与 Unity 重制（三）客户端渲染管线

专题介绍 该专题将会分析 LOMCN 基于韩版传奇 2，使用 .NET 重写的传奇源码（服务端 + 客户端），分析数据交互、状态管理和客户端渲染等技术，此外笔者还会分享将客户端部分移植到 Unity 和服务端用现代编程语言重写的全过程。 概览 在这一篇文章中，我们将开始分析传奇客户…...

编程日记 2023/12/29 19:10:15

深入浅出图解C#堆与栈 C# Heap(ing) VS Stack(ing) 第三节 栈与堆，值类型与引用类型

深入浅出图解C#堆与栈 C# Heaping VS Stacking 第三节 栈与堆，值类型与引用类型 [深入浅出图解C#堆与栈 C# Heap(ing) VS Stack(ing) 第一节 理解堆与栈](https://mp.csdn.net/mdeditor/101021023)[深入浅出图解C#堆与栈 C# Heap(ing) VS Stack(ing) 第二节 栈基本工…...

编程日记 2023/12/29 19:09:14

分享好用的chatgpt

1.在vscode中，点击这个： 2.搜索：ChatGPT - 中文版，个人觉得这个更好用： 3.下载完成之后，左侧会多出来这个： 点击这个图标就能进入chatgpt界面了 4.如果想使用tizi访问国外的chatgpt&#xf…...

编程日记 2023/12/29 19:08:12

【小白专用】C# 压缩文件 ICSharpCode.SharpZipLib.dll效果：

插件描述： ICSharpCode.SharpZipLib.dll 是一个完全由c#编写的Zip, GZip、Tar 、 BZip2 类库,可以方便地支持这几种格式的压缩解压缩, SharpZipLib 的许可是经过修改的GPL，底线是允许用在不开源商业软件中，意思就是免费使用。具体可访问ICSha…...

编程日记 2023/12/29 19:06:11

Protobuf 编码规则及c++使用详解

Protobuf 编码规则及c使用详解 Protobuf 介绍 Protocol Buffers (a.k.a., protobuf) are Google’s language-neutral, platform-neutral, extensible mechanism for serializing structured data Protocol Buffers（简称为protobuf）是谷歌的语言无关、…...

编程日记 2023/12/29 19:05:10

Kafka优异的性能是如何实现的？

Apache Kafka是一个分布式流处理平台，设计用来处理高吞吐量的数据。它被广泛用于构建实时数据管道和流式应用程序。Kafka之所以能够提供优秀的性能和高吞吐量，主要得益于以下几个方面的设计和实现： 1. 分布式系统设计 Kafka是一个分布式系统…...

编程日记 2023/12/29 19:04:09

（二）MaterializedMySQL具体实施步骤举例

要将 MySQL 中的 test 数据库实时同步到位于同一台服务器（IP 地址为 192.168.197.128）上的 ClickHouse，您可以使用 MaterializedMySQL 引擎。以下是详细的步骤： 1. 准备工作 确保您的 MySQL 和 ClickHouse 服务都在运行&#xf…...

编程日记 2023/12/29 19:02:08

日志框架简介-Slf4j+Logback入门实践 | 京东云技术团队

前言 随着互联网和大数据的迅猛发展，分布式日志系统和日志分析系统已广泛应用，几乎所有应用程序都使用各种日志框架记录程序运行信息。因此，作为工程师，了解主流的日志记录框架非常重要。虽然应用程序的运行结果不受日志的有无影…...

编程日记 2023/12/29 19:01:06

c 语言， 随机数，一个不像随机数的随机数

c 语言， 随机数，一个不像随机数的随机数 使用两种方式获取随机数，总感觉使用比例的那个不太像随机数。 方法一： rand() 获取一个随机数，计算这个随机数跟最大可能值 RAND_MAX（定义在 stdlib.h 中&#xf…...

编程日记 2023/12/29 18:46:53

Git三种方法从远程仓库拉取指定分支

克隆指定分支 git clone -b dev开发分支 https://github.com/521/springboot-rabbitmq.git切换到远程分支 git checkout -b dev开发分支 origin/dev开发分支参考 Git三种方法从远程仓库拉取指定的某一个分支...

编程日记 2023/12/29 18:44:50

7.6分割回文串（LC131-M）

算法： 有很多分割结果，按照for循环去做肯定做不来 这个时候就要想到回溯！那就要画树！ 画树 分割的画树过程其实和组合很像。 例如对于字符串aab： 组合问题：选取一个a之后，在ab中再去选取第…...

编程日记 2023/12/29 18:43:49

stata回归结果输出中，R方和F值到底是用来干嘛的？

先直接回答问题，R方表示可决系数，反映模型的拟合优度，也就是模型的解释能力如何，也可以理解为模型中的各个解释变量联合起来能够在多大程度上解释被解释变量；F值用于模型整体的统计显著性，对应的P值越小&am…...

编程日记 2023/12/29 18:42:48

Windows搭建RTMP视频流服务（Nginx服务器版）

文章目录 引言1、安装FFmpeg2、安装Nginx服务器3、实现本地视频推流服务4、使用VLC或PotPlayer可视化播放器播放视频5、RTSP / RTMP系列文章 引言 RTSP和RTMP视频流的区别 RTSP （Real-Time Streaming Protocol）实时流媒体协议。 RTSP定义流格式&#xff…...

编程日记 2023/12/29 18:41:47

IP地址SSL证书

IP地址SSL证书是一种专门针对公网IP地址颁发的数字证书。与常规的域名SSL证书类似，其主要目标是提供数据加密和身份验证。以下几点概述了IP地址SSL证书的重要特性及其申请过程： 1. 保护直接IP访问： 当用户直接通过IP地址访问服务时&#xff…...

编程日记 2023/12/29 18:39:45

关于“Python”的核心知识点整理大全49

目录 16.2.10 加亮颜色主题 16.3 小结 第１7 章 使用API 17.1 使用 Web API 17.1.1 Git 和 GitHub 17.1.2 使用 API 调用请求数据 17.1.3 安装 requests 17.1.4 处理 API 响应 python_repos.py 注意 17.1.5 处理响应字典 python_repos.py import json i…...

编程日记 2023/12/29 18:37:43

爬虫学习(1)--requests模块的使用

前言 什么是爬虫 爬虫是一种自动化工具，用于从互联网或其他计算机网络上获取数据。它可以模拟人的行为，自动访问网页，提取感兴趣的数据，并将其存储到本地计算机或数据库中。爬虫通常用于搜索引擎、数据分析、信息聚合等领域&…...

编程日记 2023/12/29 18:34:41

【Vue2 + ElementUI】el-table中校验表单

一. 案例 校验金额 阐述&#xff1a;校验输入的金额是否正确。如下所示&#xff0c;点击【编辑图标】会变为input输入框当&#xff0c;输入金额。当输入框失去焦点时&#xff0c;若正确则调用接口更新金额且变为不可输入状态&#xff0c;否则返回不合法金额提示 <templat…...

编程日记 2023/12/29 18:33:40

PgSQL技术内幕 - ereport ERROR跳转机制

PgSQL技术内幕 - ereport ERROR跳转机制 使用客户端执行SQL的时候经常遇到报ERROR错误&#xff0c;然后SQL语句就退出了。当然&#xff0c;事务也会回滚掉。本文我们看下它是如何做到退出SQL语句并回滚事务的。 1、以insert一个numeric类型值为例 表一个字段为numeric(10,2)类型…...

编程日记 2023/12/29 18:32:39

【验证概括 SV的数据类型_2023.12.18】

验证概括 验证的过程是保证芯片实现符合规格说明书&#xff08;Specification&#xff0c;spec&#xff09;的过程 验证的两项任务&#xff1a; RTL sim&#xff1a;前仿真&#xff0c;验证功能 GLS-Gate (Level Simulation)&#xff1a;后仿真&#xff0c;验证功能和时序 验…...

编程日记 2023/12/29 18:28:34

vscode里如何用git

打开vs终端执行如下&#xff1a; 1 初始化 Git 仓库&#xff08;如果尚未初始化&#xff09; git init 2 添加文件到 Git 仓库 git add . 3 使用 git commit 命令来提交你的更改。确保在提交时加上一个有用的消息。 git commit -m "备注信息" 4 …...

编程新知 2025/8/24 20:45:38

React 第五十五节 Router 中 useAsyncError的使用详解

前言 useAsyncError 是 React Router v6.4 引入的一个钩子&#xff0c;用于处理异步操作&#xff08;如数据加载&#xff09;中的错误。下面我将详细解释其用途并提供代码示例。 一、useAsyncError 用途 处理异步错误&#xff1a;捕获在 loader 或 action 中发生的异步错误替…...

编程新知 2025/9/1 12:53:45

java调用dll出现unsatisfiedLinkError以及JNA和JNI的区别

UnsatisfiedLinkError 在对接硬件设备中&#xff0c;我们会遇到使用 java 调用 dll文件 的情况&#xff0c;此时大概率出现UnsatisfiedLinkError链接错误&#xff0c;原因可能有如下几种 类名错误包名错误方法名参数错误使用 JNI 协议调用&#xff0c;结果 dll 未实现 JNI 协…...

编程新知 2025/8/21 6:35:28

Auto-Coder使用GPT-4o完成：在用TabPFN这个模型构建一个预测未来3天涨跌的分类任务

通过akshare库&#xff0c;获取股票数据&#xff0c;并生成TabPFN这个模型 可以识别、处理的格式&#xff0c;写一个完整的预处理示例&#xff0c;并构建一个预测未来 3 天股价涨跌的分类任务 用TabPFN这个模型构建一个预测未来 3 天股价涨跌的分类任务&#xff0c;进行预测并输…...

编程新知 2025/9/12 10:25:58

学校时钟系统，标准考场时钟系统，AI亮相2025高考，赛思时钟系统为教育公平筑起“精准防线”

2025年#高考 将在近日拉开帷幕&#xff0c;#AI 监考一度冲上热搜。当AI深度融入高考&#xff0c;#时间同步 不再是辅助功能&#xff0c;而是决定AI监考系统成败的“生命线”。 AI亮相2025高考&#xff0c;40种异常行为0.5秒精准识别 2025年高考即将拉开帷幕&#xff0c;江西、…...

编程新知 2025/9/14 3:12:46

让回归模型不再被异常值“带跑偏“，MSE和Cauchy损失函数在噪声数据环境下的实战对比

在机器学习的回归分析中&#xff0c;损失函数的选择对模型性能具有决定性影响。均方误差&#xff08;MSE&#xff09;作为经典的损失函数&#xff0c;在处理干净数据时表现优异&#xff0c;但在面对包含异常值的噪声数据时&#xff0c;其对大误差的二次惩罚机制往往导致模型参数…...

编程新知 2025/9/7 21:17:14

作为测试我们应该关注redis哪些方面

1、功能测试 数据结构操作&#xff1a;验证字符串、列表、哈希、集合和有序的基本操作是否正确 持久化&#xff1a;测试aof和aof持久化机制&#xff0c;确保数据在开启后正确恢复。 事务&#xff1a;检查事务的原子性和回滚机制。 发布订阅&#xff1a;确保消息正确传递。 2、性…...

编程新知 2025/9/13 22:57:57

WPF八大法则：告别模态窗口卡顿

⚙️ 核心问题&#xff1a;阻塞式模态窗口的缺陷 原始代码中ShowDialog()会阻塞UI线程&#xff0c;导致后续逻辑无法执行&#xff1a; var result modalWindow.ShowDialog(); // 线程阻塞 ProcessResult(result); // 必须等待窗口关闭根本问题&#xff1a…...

编程新知 2025/9/12 11:51:18

五子棋测试用例

一.项目背景 1.1 项目简介 传统棋类文化的推广 五子棋是一种古老的棋类游戏&#xff0c;有着深厚的文化底蕴。通过将五子棋制作成网页游戏&#xff0c;可以让更多的人了解和接触到这一传统棋类文化。无论是国内还是国外的玩家&#xff0c;都可以通过网页五子棋感受到东方棋类…...

编程新知 2025/9/7 8:47:10

6.9-QT模拟计算器

源码: 头文件: widget.h #ifndef WIDGET_H #define WIDGET_H#include <QWidget> #include <QMouseEvent>QT_BEGIN_NAMESPACE namespace Ui { class Widget; } QT_END_NAMESPACEclass Widget : public QWidget {Q_OBJECTpublic:Widget(QWidget *parent nullptr);…...

编程新知 2025/9/7 8:46:29