Ceres Solver实战：如何为你的优化问题匹配合适的Loss Function

1. 为什么你的优化结果总是不准先别怪算法可能是损失函数没选对我刚开始用Ceres Solver做SLAM后端优化那会儿经常遇到一个让人头疼的问题明明模型和参数看起来都没错但优化出来的轨迹就是飘重投影误差也降不下去。一开始我总怀疑是自己的雅可比矩阵写错了或者参数配置有问题折腾了好几个星期。后来跟一位经验丰富的老同事聊他一句话点醒了我“你数据里那么多飞点还用最小二乘硬扛能准才怪。” 他说的“飞点”就是异常值。而我当时用的正是Ceres里默认的、对异常值零容忍的Trivial Loss也就是标准最小二乘。这个经历让我深刻认识到在Ceres里选择合适的损失函数和设计正确的误差项、提供准确的雅可比矩阵同等重要甚至在某些场景下是决定优化成败的第一步。简单来说损失函数Loss Function在Ceres里也叫核函数Kernel它的核心作用不是改变优化目标本身而是改变每个残差项对总代价函数的“贡献方式”。你可以把它想象成一个“裁判”。标准最小二乘这个裁判非常严格任何一个残差误差稍微大一点它都会按照平方倍放大这个错误并大声喊出来让优化算法必须全力去纠正它。这在数据干净时是优点能逼着算法找到最精确的解。但一旦数据里混进了“坏学生”异常值这个严格的裁判就会把全部注意力都放在纠正这个坏学生上甚至不惜扭曲整体结果去迁就它导致“好学生”正常数据的诉求反而被忽略了。我们面对的SLAM、三维重建、Bundle Adjustment这些问题数据天生就不干净。图像匹配会有误匹配特征点观测会有噪声传感器数据会有跳变。这些异常值如果得不到妥善处理你的优化器就会在错误的方向上越走越远。所以Ceres提供了一系列鲁棒损失函数它们的核心思想就是给这个“裁判”一个智能的耳朵让它学会分辨哪些是正常的“大声讨论”哪些是恶意的“尖叫捣乱”并对后者进行“降权”处理。接下来的内容我就结合自己踩过的坑和实战经验带你一步步学会如何根据你的数据“病情”来“对症下药”地选择并配置这个最重要的“裁判”。2. 诊断你的数据了解“病情”是开药的前提在盲目尝试各种损失函数之前我们必须先当一回“医生”给我们的优化数据做个“体检”。这步做好了后面的选择就能事半功倍。我通常从两个维度来诊断数据异常值的比例和强度以及噪声的分布情况。首先异常值比例和强度。你可以通过一个非常简单的可视化方法来感受在优化迭代开始前或者使用Trivial Loss最小二乘进行一轮初步优化后输出所有残差的绝对值。画个直方图看看。如果大部分残差都集中在一个很小的范围内比如0-10个像素但拖着一条长长的“尾巴”有些残差甚至大到几百上千那说明你存在少量但破坏力极强的“极端异常值”。这种情况在视觉SLAM中很常见比如突然有几帧图像出现了严重的误匹配。反之如果残差分布比较“胖”从几十到几百都有不少数据点没有特别突出的尖峰但整体偏离零值较远这可能意味着你存在大量“温和的异常值”比如由于相机标定误差或轻微运动模糊导致的系统性偏差。其次噪声的分布。理论上我们常假设噪声服从高斯分布。在高斯假设下最小二乘是最优的。但现实很骨感。你可以用统计检验如Q-Q图或者简单地观察残差分布是否对称。有时候噪声会有重尾分布Heavy-tailed的特性即出现远离中心的大值的概率比高斯分布预测的要高得多。这种时候你就更需要鲁棒损失函数来应对。为了更直观我通常会在代码里加一段诊断逻辑类似下面这样。这能帮助我在程序运行时就对数据质量有个快速判断// 假设 residuals 是一个 vectordouble存储了所有残差 std::vectordouble residuals; // ... 在构建问题并计算一次残差后填充 residuals ... double sum 0.0; double sq_sum 0.0; size_t outlier_count 0; const double outlier_threshold 50.0; // 假设残差大于50视为异常值这个阈值需要根据你的问题尺度调整 for (double r : residuals) { sum std::abs(r); sq_sum r * r; if (std::abs(r) outlier_threshold) { outlier_count; } } double mean_abs sum / residuals.size(); double rms std::sqrt(sq_sum / residuals.size()); // RMS误差 double outlier_ratio static_castdouble(outlier_count) / residuals.size(); std::cout 数据诊断报告 std::endl; std::cout - 平均绝对残差: mean_abs std::endl; std::cout - RMS残差: rms std::endl; std::cout - 异常值比例 ( outlier_threshold ): outlier_ratio * 100.0 % std::endl;拿到这份“体检报告”你就能心里有数了。如果outlier_ratio低于1%-5%且rms和mean_abs在一个可接受的量级那么问题可能不严重。如果outlier_ratio很高或者rms远大于mean_abs说明有少量极大残差严重拉高了RMS那你就必须严肃考虑使用鲁棒核了。3. 核心武器库详解Ceres中的几种常用损失函数Ceres Solver内置了多种损失函数我们不需要自己从头实现但必须清楚它们各自的“脾气”和适用场景。这里我重点讲三个最常用、也最具代表性的HuberLoss、CauchyLoss和SoftLOneLoss。TrivialLoss作为基准也会一起对比。3.1 TrivialLoss天真的严格裁判这就是标准的最小二乘损失ρ(s) s其中s rᵢ²是残差的平方。它对所有残差一视同仁贡献与残差平方成正比。优点是数学性质优美在高斯噪声且无异常值的理想情况下它能给出统计上最优最大似然的解。缺点也显而易见对异常值零容忍一个大的异常值会因为平方效应而占据主导地位严重扭曲优化结果。什么时候用数据非常干净或者你确信你的前端如特征匹配、数据关联已经做了极其严格的过滤异常值几乎不存在。比如在一些受控的实验室环境下用高精度传感器做的标定实验。在实际工程项目中我几乎不会在最终的优化中使用它但会用它来做“数据诊断”或作为性能对比的基准。3.2 HuberLoss刚柔并济的折中派Huber损失是鲁棒估计的经典方法可以看作是L2损失和L1损失的结合。它的公式有个分段定义当|r| δ时ρ(s) s(表现像L2光滑可微对小幅误差敏感)。当|r| δ时ρ(s) 2δ * √s - δ²(表现像L1增长变为线性对大误差的惩罚减弱)。这里的δ是一个关键的超参数叫做“阈值”或“转折点”。你可以把它理解为裁判的“容忍度”。在这个容忍度以内的误差裁判严格按平方规则处理超过这个容忍度裁判就认为这可能是来捣乱的只按线性规则处理从而限制了其影响力。实战感受HuberLoss是我日常使用最多的损失函数之一因为它提供了一个很好的平衡点。它的计算比CauchyLoss更简单数值稳定性通常也更好。对于异常值比例不高、且异常值幅度不是特别极端的场景Huber效果非常好。例如在视觉里程计中大部分特征点跟踪是准确的但偶尔会有少数几帧由于遮挡或光照变化产生一些匹配错误这些错误的残差可能比正常值大几倍到十几倍用Huber就能很好地平滑掉它们的影响。参数δ的选择δ的设定非常关键。我通常的起手式是将其设为测量噪声标准差的某个倍数比如δ 1.345 * σ这个系数来源于统计学能使估计器在高斯数据下达到95%的效率。如果你不知道σ一个实用的经验是观察你用TrivialLoss跑一次后残差的统计分布将δ设在残差绝对值的中位数附近或者设在85%-90%分位数上。例如如果残差绝对值的中位数是5个像素那么可以尝试δ 5.0。3.3 CauchyLoss对付极端异常值的重武器柯西损失函数的公式是ρ(s) log(1 s / (δ²))。它的核心特点是具有非常“厚重”的长尾。随着残差r增大其损失的增长速度是对数级别的远远慢于线性增长Huber和平方增长Trivial。这意味着对于那些极其巨大的异常值CauchyLoss几乎可以完全“无视”它们。生活类比想象一下TrivialLoss裁判对错误罚款是“错误金额的平方”。你欠1块钱罚1块欠100块就罚1万块。Huber裁判说超过10块的部分我只按1:1罚款。而Cauchy裁判的罚款规则更“佛系”你欠的钱越多追加罚款的比例越低欠100块可能总共只罚你5块钱。这样即使有个别欠了1万块的“老赖”也不会让整个罚款总额失控。实战感受CauchyLoss在处理含有少量但极其离谱的异常值的数据时表现往往比Huber更出色。比如在基于稀疏特征点的SLAM中偶尔会出现完全错误的跨帧匹配这种匹配的残差可能成百上千像素。用Huber即使设了较大的δ这个异常值仍然会产生可观的线性贡献。而用Cauchy它的贡献很快就被“压扁”到几乎可以忽略不计。但是Cauchy也有缺点。它的非线性更强在优化初期当参数远离最优值时可能会影响收敛速度。另外如果数据中异常值不多但噪声本身比较大Cauchy可能会过度压制一些本来有用的“大声”但正确的信息。参数δ的选择CauchyLoss中的δ同样是一个尺度参数控制着函数从“近似二次”转向“近似对数”的拐点位置。较小的δ会使函数更早进入平缓区即对异常值更鲁棒但也可能压制正常数据。较大的δ会使函数在更大范围内表现得像二次函数。我的经验是Cauchy的δ可以设得比Huber的δ更小一些。一个常见的初始值是测量误差的标准差σ。你可以从δ σ开始尝试。3.4 SoftLOneLoss另一种稳健的选择SoftLOneLoss的公式是ρ(s) 2 * (√(1 s) - 1)。它的行为介于Huber和Cauchy之间。对于小残差它近似为二次ρ(s) ≈ s对于大残差它近似为线性ρ(s) ≈ 2*√s。你可以把它看作是一个更光滑、没有明确分段点的Huber损失。使用场景当你觉得Huber的分段点太“硬”想要一个处处光滑可导的函数同时又希望保持对异常值的线性增长抑制时SoftLOne是个不错的选择。它在一些Bundle Adjustment的文献和默认配置中也能见到。它的性能通常与Huber类似有时在数值稳定性上略有优势。为了更清晰地对比我把这几种损失函数的关键特性总结在下表里损失函数核心行为优点缺点适用场景TrivialLoss平方损失 (L2)高斯噪声下最优计算简单对异常值极度敏感数据极其干净或作为基准HuberLoss小误差L2大误差L1平衡性好计算高效参数有明确统计意义对极端异常值抑制力有限存在温和异常值异常值比例不高CauchyLoss对数增长厚尾对极端异常值抑制能力极强可能过度压制大残差影响收敛存在少量但破坏性极强的异常值SoftLOneLoss近似L2过渡到线性处处光滑性能稳健参数调节不如Huber直观需要光滑函数且存在异常值4. 实战决策流程手把手教你选择和调参知道了每个武器的特性我们怎么在具体项目中做选择呢我总结了一个可操作的决策流程你可以像查手册一样跟着做。第一步快速试跑与诊断用TrivialLoss或者不设置损失函数Ceres默认就是它跑一次优化。别管结果多差目的是拿到残差统计信息。就像我们第二节里写的代码那样计算残差的RMS、均值、中位数并观察其分布直方图。重点关注最大残差有多大有多少残差明显脱离大部队第二步根据诊断结果初选损失函数场景A残差分布集中最大残差也只是中等偏大比如90%的残差10最大残差~30。这可能只是高斯噪声稍大异常值不明显。可以尝试继续用TrivialLoss或者为了更稳健使用HuberLoss并设置一个较大的δ例如δ 2.0 * 中位数。场景B残差主体集中但存在明显的、孤立的“尖刺”比如95%的残差5但有几十个残差100。这是典型的“极端异常值”。首选CauchyLoss。它能最有效地把这些“尖刺”的影响力压到最低。场景C残差分布比较分散没有特别突出的尖刺但整体偏离零值较远比如从10到100都有不少点。这可能是“温和但普遍的异常值”。首选HuberLoss。它的线性区域可以公平地抑制这些普遍偏大的残差同时又不失对小误差的精度。场景D不确定或者想追求更好的数值稳定性。可以尝试SoftLOneLoss它通常是个安全的备选。第三步设置初始参数并优化对于HuberLoss初始值δ 1.345 * σ。如果不知道σ用残差绝对值的中位数。对于CauchyLoss初始值δ σ或残差绝对值的中位数。对于SoftLOneLoss参数意义类似可以先设为1.0然后根据效果缩放。第四步迭代调参与评估优化完成后再次检查残差这是最关键的一步。一个好的损失函数应该能降低总体代价函数值。显著减小异常残差的数量和幅度在输出结果中。提升核心指标如SLAM的轨迹精度、BA的重投影误差中位数等。如果效果不理想调整参数δ如果优化后仍然有很多大残差说明损失函数还不够“鲁棒”。对于Huber尝试减小δ让它更早进入线性惩罚。对于Cauchy尝试减小δ让它更早进入对数饱和区。如果优化后感觉收敛变慢或者正常数据的拟合似乎变差了比如内点的平均残差反而上升了说明损失函数可能过度压制了。尝试增大δ让函数在更大范围内保持二次特性。这个过程可能需要几次迭代。我习惯把不同的损失函数和参数配置跑一遍然后对比它们最终的目标函数值、内点平均残差和运行时间。下面是一个简单的对比实验框架代码struct LossFunctionConfig { std::string name; ceres::LossFunction* loss; double final_cost; double median_residual; double time_ms; }; std::vectorLossFunctionConfig configs; // 测试 Trivial { ceres::Problem problem; // ... 构建问题使用 nullptr 作为 loss function ... // ... 求解 ... // ... 计算统计量 ... configs.push_back({Trivial, nullptr, cost, median, time}); } // 测试 Huber with delta5.0 { ceres::Problem problem; auto loss new ceres::HuberLoss(5.0); // ... 为每个残差块设置 loss ... // ... 求解 ... configs.push_back({Huber(5.0), loss, cost, median, time}); } // 测试 Cauchy with delta3.0 { ceres::Problem problem; auto loss new ceres::CauchyLoss(3.0); // ... 求解 ... configs.push_back({Cauchy(3.0), loss, cost, median, time}); } // 打印对比结果 for (const auto cfg : configs) { std::cout std::setw(15) cfg.name | Cost: std::setw(12) cfg.final_cost | Median Residual: std::setw(8) cfg.median_residual | Time: cfg.time_ms ms std::endl; }5. 代码集成与高级技巧选好了损失函数和参数怎么用到Ceres里呢代码其实很简单但有些细节决定了成败。基础集成在向问题ceres::Problem中添加残差块时通过AddResidualBlock方法的最后一个参数传入损失函数指针即可。记住损失函数对象由Ceres在Problem销毁时自动管理你不需要手动delete它。ceres::Problem problem; // 定义你的代价函数和参数块... ceres::CostFunction* cost_function new MyCostFunction(...); double* param_block ...; // 选择并创建损失函数 ceres::LossFunction* loss_function nullptr; // 默认为 TrivialLoss (最小二乘) // 根据你的选择来创建 // loss_function new ceres::TrivialLoss(); // 最小二乘 // loss_function new ceres::HuberLoss(1.345); // Huber参数 delta1.345 loss_function new ceres::CauchyLoss(2.0); // Cauchy参数 delta2.0 // loss_function new ceres::SoftLOneLoss(1.0); // SoftLOne // 将带有损失函数的残差块添加到问题中 problem.AddResidualBlock(cost_function, loss_function, param_block);一个残差块对应一个损失函数每个AddResidualBlock调用都可以指定自己的损失函数。这意味着你可以在同一个优化问题中针对不同类型的观测或误差项使用不同的损失函数。这是一个非常强大的技巧。例如在视觉惯性SLAM中你可能会对IMU预积分误差项使用TrivialLoss因为IMU噪声模型相对稳定而对视觉重投影误差项使用HuberLoss或CauchyLoss因为图像匹配存在外点。关于尺度参数δ的自动缩放有时我们不同残差项的物理尺度不同比如重投影误差是像素IMU误差是加速度或角速度。一个固定的δ可能不适用所有项。Ceres的损失函数构造函数接受一个double参数就是这个尺度参数δ。你需要确保你设置的δ与对应残差的预期合理范围在同一个数量级上。例如如果你的重投影误差正常在0-5个像素那么δ设置在1-10之间是合理的。如果误差单位是米范围是0-0.1那么δ就应该设置在0.01-0.1左右。调试与监控在优化过程中你可以通过设置Solver::Options::logging_type为ceres::PER_MINIMIZER_ITERATION并在每次迭代的回调中输出损失函数值的变化来观察不同损失函数对收敛过程的影响。有时你会发现使用鲁棒核后优化初期代价下降更快因为它迅速削弱了异常值的干扰。最后我想分享一个我自己的经验不要过分追求把损失函数调得“完美”。损失函数的目标是让优化器不被异常值带偏从而找到内点所支持的正确解。只要它做到了这一点即使最终的总代价函数值不是最低的你的模型精度也往往是更高的。在实际项目中我通常会先用一个中等鲁棒性的HuberLoss(δ5.0)作为默认配置跑通流程然后根据具体场景的数据诊断结果再决定是否需要换用更鲁棒的CauchyLoss或者调整参数。记住没有“银弹”最好的选择永远来自于你对数据和问题本身的理解。多观察残差多做一些对比实验你就能逐渐培养出为不同优化问题“把脉开方”的直觉。