OpenStreetMap数据转3D场景【Python + PostgreSQL】
很长一段时间以来,我对 GIS 和渲染感兴趣,在分别尝试这两者之后,我决定最终尝试以 3D 方式渲染 OpenStreetMap 中的地理数据,重点关注不超过城市的小规模。
在本文中,我将介绍从建筑形状生成三角形网格、以适合 Blender 或 Godot 等游戏引擎的格式渲染和导出它的过程。 我不是该领域的专家,但我确信有人面临着同样的问题,他们可能会喜欢阅读本文。
总的来说,我发现 GIS 和 3D 处理主题非常令人兴奋,因为它将计算机科学与几何和代数相结合,并且在某种意义上讲是人类如何感知和描述世界。
推荐:用 NSDT设计器 快速搭建可编程3D场景。
1、将 OSM 数据导入 PostGIS
该过程的第一步是将 OpenStreetMap 数据放入 PostGIS 实例中。 这并不是绝对必要的,因为像 osmnx 这样的库可以使用 API 在几行 Python 中动态获取这些数据,但我喜欢在关系数据库中使用它,因为它在分析和处理数据时提供了很大的灵活性,因为 我可以使用 SQL。
为此,我从 Geofabrik 下载提取内容,本质上是带有单个区域数据的 protobuf 文件,并使用 pgOSM Flex 导入它们,这是我已经在 2D 可视化项目中使用的工具,并且我过去曾对此做出过一些贡献。
导入数据后,我可以使用 QGIS 直接将其可视化。
借助 QGIS,只需单击几下即可连接到 PostGIS 并探索数据
由于我使用的是 Python,因此我可以使用 Psycopg3 轻松提取 Shapely 表示(事实上,我添加了该功能😎)。 Asyncpg 也可以透明地执行相同的转换,但不能很好地与 Geopandas 配合使用。
Shapely 几乎涵盖了人们可能需要的有关 2D 几何(地理或非地理)的所有内容,并且非常节省内存,因此它是此类项目的宝贵资源。
2、3D 三角形网格
现在我有了一个代表建筑物等特征的 Shapely 对象,我“只”需要将其转换为 3D 形状。 然后可以在 3D 图形软件或游戏引擎中对其进行处理,使用 WebGL(或 WebGPU!)在浏览器中显示并渲染为图像。
有很多技术可以表示 3D 数据,这需要另一篇文章,如果你好奇的话可以看看 Open3D 教程。 现在我们只说对于这个用例有两种方法可以做到这一点:
- 体素看起来很可爱,可以导出到 Magica Voxels 和 Goxel,或者适应 3D 打印格式以创建小区域的触觉地图。 表示的简单性使得能够以最小的努力进行大量操作。
三角形网格本质上是游戏引擎想要的,非常灵活且通常具有高性能,但处理起来可能很棘手。 - 我最终选择了三角形网格表示,因为使用 Open3D(或者如果我们只考虑表面,则只是一些 NumPy)很容易将它们转换为体素,而相反的则很棘手。
三角形网格只是表示网格的一种方式,但可能是 Python 中支持最好的一种方式。 除了 Open3D 之外,Trimesh 库还尝试成为“3D Shapely”来处理这种格式的拓扑。
通过此设置,我开始从 Shapely 对象生成 3D 网格,使用 Trimesh 以及后来的 Open3D 对其进行渲染和体素化。
3、导出格式
我在寻找 3D 库时考虑的一个重要功能是能够处理可在其他工具中使用的格式。
情况很复杂,有许多相互竞争的格式,许多是专有的和/或记录不良的。 我最终得到了两个候选者:ply 和 glTF 2。Ply 很有趣,因为它非常直接、简单,人们可以手动检查文件或在没有外部库的情况下生成它们。 就这么简单,它可以在许多软件中使用; 一个缺点是它不能包含动画或着色器甚至纹理等花哨的元素(或者更好的是,它可以使用尚未完全标准化的额外属性)。
glTF 2 是 Khronos 集团最新(2017 年)的标准,免版税且有文档记录,灵活且受大多数软件支持。 文本形式使用易于检查的 JSON。 glTF 受到 Blender、Unreal、Unity 和 Godot 游戏引擎等的支持。 当我正在研究这个 Godot 时,发布了 4.0 版本的 alpha,该版本在导入 glTF 网格时崩溃,我报告了它,并且在不到一天的时间内修复了它,真的令人印象深刻。
glTF 还受到 Three.js 和 Babylon.js 的支持,这意味着不仅可以在浏览器中可视化生成的模型(这是一个更容易跨平台部署的解决方案),而且有几个可视化工具对于像我这样的 3d n00bs 很有用 调试生成的模型并对过程进行故障排除。
4、Open3D
我使用 Python 来做这件事,原因很简单,它是一种我熟悉的语言,并且有一个很好的库生态系统来处理数字和处理几何图形。 鉴于 Python 的速度相对较低,3D 渲染和游戏并不是 Python 的典型用例,但该语言在数据分析和机器学习方面的成功仍然导致许多库被开发来处理 LiDAR 数据或 CT 扫描或执行分割和分割等任务。 立体视觉。
我最终选择了 Open3D,因为它看起来非常活跃,支持多种表示和算法,具有包含示例和教程的不错的文档,可以以无头模式(例如从 Web 后端)以 glTF 和其他方式导出,只需最少的设置,甚至可以渲染为静态 这对于自动化测试和故障排除很有用,更不用说创建视频或进行合成的可能性了。
Trimesh 因其简单性引起了我的注意,能够通过一一指定坐标来创建网格有助于原型设计,此外它还提供了许多具有合理依赖关系的开箱即用算法,并且可以使用 glTF 或直接传递 NumPy 与 Open3D 集成 数组。
5、“神圣”的问题
给定一个 2D 建筑,我希望初学者能够生成 3D 棱镜。 使用 Trimesh 这意味着枚举顶点的 3D 坐标,然后枚举 3 元组中的索引来指定所有三角形。
这可能是地图中最常见的对象类型之一,并且可以具有复杂的拓扑。 建筑物可能是凹形的并且有孔。
所以我从这个开始:
有洞的建筑物的真实例子
事实上,该形状有孔(欧拉数 -6)并且是凹的,这意味着要构建它,必须忽略一些三角形,因为它们最终完全位于体积内部,并重建每个三角形的内表面(也称为法线)。 三角形并不简单。
即使网格在几何上是错误的,通常也可以渲染,但如果它有效,则可以在其之上应用许多有趣的变换。
没有孔的网格称为水密网格,而修剪网格允许使用 is_watertight 属性轻松检查此属性。 请注意,这与整个网格的拓扑无关,例如,环面的欧拉数为 0(Trimesh 使用 euler_number 属性显示它),但如果网格定义正确,它是无懈可击的,并且有一个 定义的内部和外部体积。
6、残破的大楼
其代码在这里 ,我做了简化以硬编码为 wkb 的对象,通常会与 PostGIS 中的许多其他对象一起检索以重现整个区域。
第一步是将上面的形状(有 4 个孔的建筑物)变换为不重叠的三角形。 这可以通过 Shapely 轻松完成:
from shapely.ops import triangulate...with open("check_all_triangles.svg", "w") as fw:fw.write(shapely.geometry.MultiPolygon(triangulate(s))._repr_svg_())
上面的多边形被分成三角形
然后需要使用 inside 函数分离多边形内部的三角形边:
mul_holes = shapely.geometry.MultiPolygon([tri for tri in triangulate(s) if not tri.within(s)]
)
这是为了生成单个 MultiPolygon 以用于显示目的,在上面的要点中你可以看到网格创建不需要它。
三角形边从外部不可见,生成网格时将被忽略
外部三角形边,供 3D 网格使用
你会注意到内部部分缺少一侧。 这稍后会产生一个问题,并且在代码的第一次迭代中,当没有生成这个有用的图像时,我没有注意到这一点。
现在,对于每个三角形,我在网格上为棱镜的两个面生成两个三角形。 在这里,我需要检查三角形(而不是单边)是否是形状的一部分。
for tri_num, tri in enumerate(internal_triangles):# it's 4 coordinates, the last is identical to the first to form a circuitfor x, y in tri.exterior.coords[:-1]:vertices.append([x, y, 0.0])for x, y in tri.exterior.coords[:-1]:vertices.append([x, y, HEIGHT])# now 6 points have been addedidx = tri_num * 6# bottom and top faces of the prism, use as isfaces.append([idx, idx + 1, idx + 2])faces.append([idx + 3, idx + 4, idx + 5])
trimesh 使用列表中顶点的索引来定义三角形面。 为了简单起见,我使用列表,但内部一切都基于 Numpy,这是合并过程后使用的理想格式,它的效率要高得多,尤其是在执行向量运算时。
定义两个面(本质上是在不同高度重复的原始二维形状)后,我们需要进行横向面。
这是创建它们的逻辑
for i1, i2 in ((0, 1), (1, 2), (2, 0)):if LineString([tri.exterior.coords[i1], tri.exterior.coords[i2]]).within(s):continue# add the two triangles making up the exterior face# there are 2 equivalent ways to split it, just use onefaces.append([idx + i1, idx + i2, idx + i1 + 3])faces.append([idx + i1 + 3, idx + i2 + 3, idx + i2])
为三角形的每条边创建一个 LineString 来检查它从外部是否可见,如果是,则生成两个三角形以形成连接顶边和底边的矩形。
7、(无聊的)结果
代码的第一个版本造成的混乱。 旋转它就会闪烁
当 Pyglet 渲染的网格物体具体化时,我惊恐地看着这一团糟。 老实说,我没想到它已经可以工作了,并且非常惊讶它与预期的形状有模糊的相似之处。
将网格导出到 glTF 中并在各种在线可视化工具中查看,确认它已完全损坏。 我尝试通过查看单个元素的坐标并切换到更简单的形状来检查这个问题,但这并不是一件容易的事。
像上面这样的 Web 可视化工具显示线框是正确的:三角形位于它们应该在的位置,体积或孔内没有三角形(当然有一个,但这是一个单独的问题),但 trimesh 报告欧拉数 接近-50,结果无法使用!
当我观察到一个关键细节时,我几乎要放弃这个项目并给自己做一个Carbonara来安慰自己:当旋转固体时,每个三角形的出现或消失取决于我观察到的一侧。
8、法线和边的顺序
在某种程度上,这是有道理的。 在 3D 图形中,有一个称为法线的概念。 法线只是一个向量,定义了面指向的位置、哪一侧是内侧还是外侧。 当使用 Blender 或高级库时,这是自动完成的,尽管在著名的 Blender 甜甜圈教程中提到过(我强烈推荐)。 我天真地认为法线对于这样一个简单的网格来说并不重要,但我错了。 检查库的代码并进行一些实验,我发现法线是按顶点定义的顺序(顺时针或逆时针)定义的。 从几何角度来看,三角形保持不变。
Trimesh 提供了根据相邻面重新计算法线的帮助程序,但它们基于启发式方法并产生稍微不那么混乱的结果,因此必须在首先生成网格时对其进行修复,这是内部和外部有明确定义的唯一时刻。
遗憾的是,并没有一个所有库都使用的通用标准,但 OpenGL 假设逆时针意味着面向前方。
改变顶点的顺序确实产生了更好的结果。
调整顶点顺序固定法线后得到的网格
euler_number 属性现在是更实际的 -9。 Pyglet 在渲染时仍然会闪烁一点,但浏览器可视化工具没有问题。
9、缺失的一面
当然,还有缺失的一面。 我最初以为这是法线的错误,但线框显示根本没有边。 这是因为由于某种原因,该边单独未能通过上述内部检查,并被报告为内部边 ¯(ツ)/¯。
我没有对此进行太多调查,很可能二维几何体一开始就是异常的(在 OSM 中我看到多边形中有一个额外的点)。 我的假设是,如果这种情况发生在我拍摄的第一座有洞建筑中,可能很常见。
10、回到体素
使用体素可以避免这些问题,因为使用 Shapely 来检测“探针”坐标何时落在复杂形状内很简单,并且在异常几何形状的情况下,错误将比这种非防水网格更好。
体素的另一个优点是,可以迭代地执行诸如生成屋顶形状之类的操作,将挤压应用于元素的单个切片。 同样,随机化元素也更容易。
这是第一步,在基本渲染之后,我必须处理颜色、屋顶形状、细节级别,也许还有一些动画。 我决定回到体素,因为它们更容易处理,并且可以安全且一致地转换为立体光刻模型(体素化网格可以产生伪影)。 此外,导航很简单(例如,如果想显示街道上行驶的汽车)。
使用 Open3D 生成的体素 glTF 网格(无头,在 Docker 中运行)
原文链接:OSM数据转3D实战 — BimAnt
相关文章:

OpenStreetMap数据转3D场景【Python + PostgreSQL】
很长一段时间以来,我对 GIS 和渲染感兴趣,在分别尝试这两者之后,我决定最终尝试以 3D 方式渲染 OpenStreetMap 中的地理数据,重点关注不超过城市的小规模。 在本文中,我将介绍从建筑形状生成三角形网格、以适合 Blend…...

动力节点|MyBatis入门实战到深入源码
MyBatis是一种简单易用、灵活性高且高性能的持久化框架,也是Java开发中不可或缺的一部分。 动力节点老杜的MyBatis教程,上线后广受好评 从零基础小白学习的角度出发,层层递进 从简单到深入,从实战到源码 一步一案例,一…...

分布式规则引擎框架的设计
MirAIe 规则引擎是一个可扩展且可扩展的规则引擎框架,允许用户对多个活动进行分组和自动化。 过去几年,在开发MirAIe 物联网平台时,我们意识到需要一个可扩展、可扩展的规则引擎框架。规则引擎使您能够对各种操作进行分组、管理和自动化&…...
C#开发FFMPEG例子(API方式) FFmpeg推送udp组播流
代码及工程见https://download.csdn.net/download/daqinzl/88156926 开发工具:visual studio 2019 播放,可采用ffmpeg工具集里的ffplay.exe, 执行命令 ffplay udp://238.1.1.10:6016 也可以参考(C#开发FFMPEG例子(API方式) FFmpeg拉取udp组播流并播放)…...

nvm下载node导致npm报错无法使用
有个依赖库需要更新下node,用nvm下载后项目跑不起来了,npm -v 还报错 其实一开始是npm下载不来,然后换了淘宝镜像后还是报错 然后就只能手动下载下了 进入node.js官网 https://nodejs.org/en/download 下载后注意要安装在你nvm目录中&#x…...

LeetCode 热题 100JavaScript--2. 两数相加
给你两个 非空 的链表,表示两个非负的整数。它们每位数字都是按照 逆序 的方式存储的,并且每个节点只能存储 一位 数字。 请你将两个数相加,并以相同形式返回一个表示和的链表。 你可以假设除了数字 0 之外,这两个数都不会以 0 …...
zookeeper总结
1.概念 Zookeeper 是一个分布式协调服务,可用于服务发现,分布式锁,分布式领导选举,配置管理等。Zookeeper 提供了一个类似于 Linux 文件系统的树形结构(可认为是轻量级的内存文件系统,但只适合存少量信息&…...

【程序环境与预处理玩转指南】
本章重点: 程序的翻译环境 程序的执行环境 详解:C语言程序的编译链接 预定义符号介绍 预处理指令 #define 宏和函数的对比 预处理操作符#和##的介绍 命令定义 预处理指令 #include 预处理指令 #undef 条件编译 1. 程序的翻译环境和执行环境 在…...

搭建简易syslog日志中转服务器
在某种场景下,无法接入日志审计设备,本文提供一种方式,可通过搭建简易日志中转服务器,收集到该环境下的日志后,再将其导入日志审计设备中。 0x1 开启服务 rsyslog守护进程来自于当前的linux发布版本的预装模块&#x…...
MongoDB文档-进阶使用-spring-boot整合使用MongoDB---MongoRepository完成增删改查
阿丹: 之前学习了在MongoDB客户端上的MongoDB语句现在将MongoDB整合到spring项目。 传送门: MongoDB文档--基本概念_一单成的博客-CSDN博客 MongoDB文档--基本安装-linux安装(mongodb环境搭建)-docker安装(挂载数据卷…...
什么是线程局部变量?
在Java中,线程局部变量(Thread Local Variable)是一种特殊类型的变量,每个线程都有其自己独立的副本。这意味着每个线程可以在该变量上进行操作,而不会影响其他线程的副本。线程局部变量通常用于在多线程环境中存储线程私有的数据,…...

Jmeter响应中的乱码问题
文章目录 问题描述解决办法 问题描述 Jmeter在访问接口的时候,响应内容如果有中文可能会显示乱码 响应页面没有做编码处理,JMeter默认按照ISO-8859-1编码格式进行解析 解决办法 在线程组中添加BeanShell PostProcessor后置处理器 prev.setDataEnco…...

MongoDB文档-进阶使用-MongoDB索引-createindex()与dropindex()-在MongoDB中使用正则表达式来查找
阿丹: 之前研究了MongoDB的基础增删改查。在学会基础的数据库增删改查肯定是不够的。这个时候就涉及到了数据库搜索的时候的效率。需要提高数据的搜索效率。 MongoDB索引 在所以数据库中如果没有数据索引的时候。如果需要查找到一些数据。都会去主动扫描所有可能存…...

CentOS下ZLMediaKit的可视化管理网站MediaServerUI使用
一、简介 按照 ZLMediaKit快速开始 编译运行ZLMediaKit成功后,我们可以运行其合作开源项目MediaServerUI,来对ZLMediaKit进行可视化管理。通过MediaServerUI,我们可以实现在浏览器查看ZLMediaKit的延迟率、负载率、正在进行的推拉流、服务器…...

回归预测 | MATLAB实现POA-CNN-BiGRU鹈鹕算法优化卷积双向门控循环单元多输入单输出回归预测
回归预测 | MATLAB实现POA-CNN-BiGRU鹈鹕算法优化卷积双向门控循环单元多输入单输出回归预测 目录 回归预测 | MATLAB实现POA-CNN-BiGRU鹈鹕算法优化卷积双向门控循环单元多输入单输出回归预测预测效果基本介绍程序设计参考资料 预测效果 基本介绍 MATLAB实现POA-CNN-BiGRU鹈鹕…...

Rust 原生支持龙架构指令集
导读近日,Rust 开源社区发布 1.71.0 版本,实现对龙架构(LoongArch)指令集的原生支持。 龙架构操作系统发行版和开发者可基于上游社区源代码构建或直接下载 Rust 开源社区发布的龙架构二进制版本。Rust 开发者将在龙架构平台上获得…...

为生成式AI提速,亚马逊云科技Amazon EC2 P5满足GPU需求
生成式AI(Generative AI)已经成为全球范围内的一个重要趋势,得到越来越多企业和研究机构的关注和应用。纽约时间7月26日,亚马逊云科技数据库、数据分析和机器学习全球副总裁Swami Sivasubramanian在亚马逊云科技举办的纽约峰会上更…...

聊聊企业数据安全那些事~
保护企业数据安全的重要性与方法 随着信息技术的快速发展,企业数据的安全性变得越来越重要。在数字化时代,企业的核心业务和关键信息都存储在电脑系统中,一旦遭受到数据泄露、黑客攻击或恶意软件感染,将可能对企业造成严重的损害…...
日常随笔——如何把excel题库转换为word打印格式
将Excel题库转换为Word可以通过编程的方式实现。以下是一个使用Python的示例代码,该代码使用openpyxl库读取Excel文件,并使用python-docx库创建和保存Word文档。 首先,请确保已经安装了 openpyxl 和 python-docx 库。可以使用以下命令进行安…...
SpringCloud项目打包注意事项以及可能出错的几种情况
SpringCloud项目打包注意事项和可能出错的几种情况 1、检查子模块中的 parent的pom文件路径 \<relativePath/\>2、检查打包插件的位置3、检查module是否重复引用 欢迎访问我的个人博客:https://wk-blog.vip 1、检查子模块中的 parent的pom文件路径 <relat…...

龙虎榜——20250610
上证指数放量收阴线,个股多数下跌,盘中受消息影响大幅波动。 深证指数放量收阴线形成顶分型,指数短线有调整的需求,大概需要一两天。 2025年6月10日龙虎榜行业方向分析 1. 金融科技 代表标的:御银股份、雄帝科技 驱动…...

7.4.分块查找
一.分块查找的算法思想: 1.实例: 以上述图片的顺序表为例, 该顺序表的数据元素从整体来看是乱序的,但如果把这些数据元素分成一块一块的小区间, 第一个区间[0,1]索引上的数据元素都是小于等于10的, 第二…...

python打卡day49
知识点回顾: 通道注意力模块复习空间注意力模块CBAM的定义 作业:尝试对今天的模型检查参数数目,并用tensorboard查看训练过程 import torch import torch.nn as nn# 定义通道注意力 class ChannelAttention(nn.Module):def __init__(self,…...
测试markdown--肇兴
day1: 1、去程:7:04 --11:32高铁 高铁右转上售票大厅2楼,穿过候车厅下一楼,上大巴车 ¥10/人 **2、到达:**12点多到达寨子,买门票,美团/抖音:¥78人 3、中饭&a…...

Psychopy音频的使用
Psychopy音频的使用 本文主要解决以下问题: 指定音频引擎与设备;播放音频文件 本文所使用的环境: Python3.10 numpy2.2.6 psychopy2025.1.1 psychtoolbox3.0.19.14 一、音频配置 Psychopy文档链接为Sound - for audio playback — Psy…...
unix/linux,sudo,其发展历程详细时间线、由来、历史背景
sudo 的诞生和演化,本身就是一部 Unix/Linux 系统管理哲学变迁的微缩史。来,让我们拨开时间的迷雾,一同探寻 sudo 那波澜壮阔(也颇为实用主义)的发展历程。 历史背景:su的时代与困境 ( 20 世纪 70 年代 - 80 年代初) 在 sudo 出现之前,Unix 系统管理员和需要特权操作的…...

SpringTask-03.入门案例
一.入门案例 启动类: package com.sky;import lombok.extern.slf4j.Slf4j; import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; import org.springframework.cache.annotation.EnableCach…...
在QWebEngineView上实现鼠标、触摸等事件捕获的解决方案
这个问题我看其他博主也写了,要么要会员、要么写的乱七八糟。这里我整理一下,把问题说清楚并且给出代码,拿去用就行,照着葫芦画瓢。 问题 在继承QWebEngineView后,重写mousePressEvent或event函数无法捕获鼠标按下事…...

JVM虚拟机:内存结构、垃圾回收、性能优化
1、JVM虚拟机的简介 Java 虚拟机(Java Virtual Machine 简称:JVM)是运行所有 Java 程序的抽象计算机,是 Java 语言的运行环境,实现了 Java 程序的跨平台特性。JVM 屏蔽了与具体操作系统平台相关的信息,使得 Java 程序只需生成在 JVM 上运行的目标代码(字节码),就可以…...

VM虚拟机网络配置(ubuntu24桥接模式):配置静态IP
编辑-虚拟网络编辑器-更改设置 选择桥接模式,然后找到相应的网卡(可以查看自己本机的网络连接) windows连接的网络点击查看属性 编辑虚拟机设置更改网络配置,选择刚才配置的桥接模式 静态ip设置: 我用的ubuntu24桌…...