当前位置：首页 > news >正文

三维重建(单目、双目、多目、点云、SFM、SLAM)

news 2025/11/12 15:57:39

1 相机几何与标定
- 1.1 相机模型中的坐标系
- 1.2 四种坐标系之间的转换
- 1.3 相机内参
- 1.4 相机标定
2 单目三维重建
- 2.1 NeuralRecon

三维重建定义
在计算机视觉中, 三维重建是指根据单视图或者多视图的图像重建三维信息的过程. 由于单视频的信息不完全,因此三维重建需要利用经验知识. 而多视图的三维重建(类似人的双目定位)相对比较容易, 其方法是先对摄像机进行标定, 即计算出摄像机的图象坐标系与世界坐标系的关系.然后利用多个二维图象中的信息重建出三维信息。

常见的三维重建表达方式
常规的3D shape representation有以下四种：深度图（depth）、点云（point cloud）、体素（voxel）、网格（mesh）。

RGB-D深度图的D通道每个像素值代表的是物体到相机xy平面的距离，单位为 mm，由深度摄像头获取。
在这里插入图片描述

Point Cloud点云是某个坐标系下的点的数据集。点包含了丰富的信息，包括三维坐标X，Y，Z、颜色、分类值、强度值、时间等等。在我看来点云可以将现实世界原子化，通过高精度的点云数据可以还原现实世界。万物皆点云，由三维激光雷达获取。

在这里插入图片描述

体素是三维空间中的一个有大小的点，一个小方块，相当于是三维空间种的像素。
在这里插入图片描述

三角网格就是全部由三角形组成的多边形网格。多边形和三角网格在图形学和建模中广泛使用，用来模拟复杂物体的表面，如建筑、车辆、人体，当然还有茶壶等。任意多边形网格都能转换成三角网格。
在这里插入图片描述
三维重建的分类

根据采集设备是否主动发射测量信号，分为两类：基于主动视觉理论和基于被动视觉的三维重建方法。
主动视觉三维重建方法：主要包括结构光法和激光扫描法。
被动视觉三维重建方法：被动视觉只使用二维图像，根据图像的纹理分布等信息恢复深度信息，进而实现三维重建。

其中，双目视觉和多目视觉理论上可精确恢复深度信息，但实际中，受拍摄条件的影响，精度无法得到保证。单目视觉只使用单一摄像机作为采集设备，具有低成本、易部署等优点，但其存在固有的问题：单张图像可能对应无数真实物理世界场景（病态），故使用单目视觉方法从图像中估计深度进而实现三维重建的难度较大。

有前景的方向：基于SFM的运动恢复结构、基于Deep learning的深度估计和结构重建，基于RGB-D深度摄像头的三维重建、基于点云的三维重建

SFM（Structure From Motion），主要基于多视觉几何原理，用于从运动中实现3D重建，也就是从无时间序列的2D图像中推算出三维场景结构，是计算机视觉学科的重要分支，广泛应用于AR/VR、自动驾驶等领域。SFM是一个估计相机参数及三维点位置的问题，根据SfM过程中图像添加顺序的拓扑结构，SfM方法可以分为增量式、全局式、混合式、层次式、基于语义的SFM和基于深度学习的SFM。

1 相机几何与标定

1.1 相机模型中的坐标系

针孔相机模型存在4个坐标系：世界坐标系、摄像机坐标系、图像物理坐标系和图像像素坐标系。

光心：图像的中心。
光轴：穿过图像的光心，与图像平面垂直的轴。
在这里插入图片描述

世界坐标系(x,y,z)：是客观三维世界的绝对坐标系，也称客观坐标系，就是物体在真实世界中的坐标，世界坐标系是随着物体的大小和位置变化的，单位是长度单位
相机坐标系(x’,y’)：以相机的光心为坐标原点，以平行于图像的x和y方向为x轴和y轴，z轴和光轴平行，x， y，z互相垂直，单位是长度单位。

在这里插入图片描述

图像物理坐标系(X,Y)：以主光轴Zc和图像平面交点为坐标原点，x’和y’方向如图所示，单位是长度单位。
图像像素坐标系(Xc,Yc)：以图像的上/下/左/右顶点为坐标原点，u和v方向平行于x’和y’方向，单位是像素。(图像物理坐标系和像素坐标系仅通过平移可重合)

1.2 四种坐标系之间的转换

世界坐标系 -> 摄像机坐标系

从上面的坐标系介绍中我们可知世界坐标系和摄像机坐标系都是三维坐标系，而物体在三维空间中的位置变化只有两种，即平移和旋转，这个时候就用到我们的欧式变换了，即使原始坐标的齐次坐标乘以我们的欧式变换矩阵，就能得到最终的结果（使用欧式变换本质上就是为了实现矩阵相乘，齐次就是方便我们进行乘法）
在这里插入图片描述
但是很多时候平移和旋转都不止进行了一次，在多次连续的平移和旋转的情况下，加入假如我们将向量a进行了两次欧式变换，旋转和平移分别为R1，t1和R2，t2。

摄像机坐标系 -> 图像物理坐标系

从摄像机坐标变换到图像物理坐标，我们利用了相似三角形的原理，根据相似三角形的性质列出对应的矩阵计算式，即可求出我们需要的结果，但是摄像机坐标是3维的，而现在要求的图像物理坐标是2维的，所以我们还是需要用到齐次坐标。在这里插入图片描述

图像物理坐标系 -> 图像像素坐标系

图像物理坐标系与图像像素坐标系之间的转换其实就是单位转换和中心原点的转换，一个是中心点和长度单位，另一个是左上角和像素单位
在这里插入图片描述

1.3 相机内参

相机成像原理

这些坐标系转换过程(世界->相机->物理->像素)就是相机的成像原理，相机坐标系是中间商。
在这里插入图片描述
相机内参K： 相机坐标系<->像素坐标系的齐次转换矩阵，由相机本身决定。

相机外参RT：旋转平移矩阵，世界坐标系<->相机坐标系，外参由视角决定。