ECCV 2026 |悉尼大学提出Linstereo, 打通立体匹配「最后一公里」

时间:2026-07-17 03:57:36来源:云北源资讯网 作者:探索

立体匹配领域正经历着显著的悉尼“前后端割裂”:前端视觉基座模型(Foundation Models)已具备强大的全局语义理解能力,而后端迭代模块仍固守基于卷积(ConvGRU)的大学o打局部递归更新范式。这种断层导致在遮挡、提出通立体匹弱纹理及水下退化场景中,配最局部传播机制成为性能瓶颈。悉尼

针对这一痛点,大学o打悉尼大学澳大利亚机器人中心(Australian Centre for Robotics)的提出通立体匹研究团队在 ECCV 2026提出 LinStereo。该方法利用位置感知线性注意力模块(PALA)替代传统的配最卷积迭代,实现每轮迭代对全图上下文的悉尼高效聚合,并结合多尺度代价体积(HSCV)单目深度初始化(DPI)优化几何收敛。大学o打

LinStereo 的提出通立体匹核心突破在于其极致的参数效率与泛化能力:在冻结视觉基座模型编码器的前提下,仅使用 Scene Flow 合成数据训练下游模块,配最其零样本泛化能力即在 Middlebury 遮挡区域将误差降低 37%。悉尼凭借 ViT-B 的大学o打参数量,LinStereo 在多项标准基准测试中超越了参数量更大的提出通立体匹模型,并在水下等跨域场景中展现出显著优势。

论文信息
* 标题:LinStereo: Linear-Complexity Global Attention for Multi-Scale Iterative Stereo Matching
* 作者:Yiran Wang†, Oliver Turner, Viorela Ila‡
* 单位:Australian Centre for Robotics, The University of Sydney
* 会议:ECCV 2026(已接收)
* 论文链接:https://arxiv.org/abs/2606.25437
* 代码:https://github.com/u7079256/LinStereo

现有迭代式立体匹配的瓶颈分析

主流立体匹配流程通常遵循“Backbone特征提取 -> 代价体积构建 -> ConvGRU迭代回归视差”的范式,但其后端存在三大核心缺陷:

  1. 多尺度信息丢失:Backbone 输出的多层多分辨率特征在构建代价体积时往往仅使用单一层级,导致丰富的多尺度语义信息被丢弃。
  2. 局部感受野局限:ConvGRU 的迭代更新局限于局部窗口,在大面积弱纹理或水下散射等退化场景中,有效匹配信号需经多轮迭代才能远距离传播,效率极低。
  3. 初始化偏差:多数方法从零视差起步,前几轮迭代主要用于粗略估计场景轮廓,真正用于精细优化的迭代次数有限。

LinStereo 针对性地提出了三大改进模块:PALA解决全局传播问题,HSCV保留多尺度特征,DPI提供可靠的单目深度初始值。

图 1:LinStereo 整体架构。(a) 多尺度层次化语义代价体积(HSCV);(b) 由粗到细(coarse-to-fine)的迭代更新流程;(c) 位置感知线性注意力更新模块(PALA)。

核心模块解析

PALA:线性复杂度的全局注意力机制

PALA 旨在用全局注意力取代 ConvGRU 的局部更新,使每个像素在每次迭代中都能感知整张图像。然而,标准 Softmax Attention 的复杂度为 $O(N^2)$,难以直接应用于高分辨率视差图。

技术实现:
* Kernel Activation:对 Query 和 Key 应用 ELU+1 核激活函数,利用矩阵乘法结合律将复杂度降至 $O(N \cdot C_h^2)$。实测显示,PALA 单次迭代耗时 3.50 ms,与 ConvGRU 的 3.63 ms 基本持平,实现了性能与效率的双赢。
* 非对称 2D RoPE(Asymmetric RoPE):线性注意力易丢失位置信息,PALA 引入 2D RoPE 进行补偿。创新点在于仅将 RoPE 加在注意力公式的分子上,分母不加
* 原理:若在分母端加入 RoPE,归一化过程会引入位置偏移,导致注意力分布不稳定。
* 效果:消融实验表明,在 KITTI 上差异微小(EPE 1.05 vs 1.01),但在水下 TartanAir-UW 场景中,RMSE 从 2.18 显著降至 2.08(提升近 5%)。

图 2:PALA 模块架构,展示核激活注意力、非对称 2D RoPE 及门控更新机制。

HSCV:多尺度层次化代价体积

HSCV 在 1/4、1/8、1/16 三个尺度上分别构建代价体积,并在每个尺度内部建立 4 层视差金字塔。这种设计使得 PALA 每轮迭代能检索不同粒度的匹配信息:浅层特征捕捉纹理细节,深层特征捕捉语义结构。

  • 性能验证:移除多尺度设计后,KITTI EPE 上升 0.06,水下 AbsRel 上升 0.003。虽然单项提升看似有限,但与 PALA 结合后产生了显著的协同效应。

DPI:基于单目深度的稳健初始化

DPI 利用 Depth Anything V3生成单目深度图作为初始视差估计。尽管单目深度仅为仿射不变性(Affine-invariant,仅有相对远近),但通过 SIFT 在左右图中匹配关键点,可精确计算尺度(Scale)和偏移(Shift),从而转换为度量视差。

  • 为何选择 SIFT?尽管 SuperPoint 和 LightGlue 等学习型匹配器在常规场景表现优异,但在水下等跨域场景中易失效。SIFT 基于几何约束,鲁棒性更强。
  • 容错机制:在 SQUID 数据集上,SIFT 匹配失败率仅为 3.7%。若匹配失败,系统自动回退至零初始化,EPE 仅轻微下降 0.08 像素。

实验结果:标准基准与跨域泛化

1. 标准 Benchmark 表现

LinStereo 基于 ViT-B 构建,参数量远小于使用 ViT-L 的 FoundationStereo 和 MonSter。

  • 常规场景:性能与主流方法持平。
  • 遮挡场景:优势显著。在 Middlebury 遮挡区域,LinStereo 的 EPE 为 1.33,比第二名 FoundationStereo 低 16%,比之前的 DEFOM-Stereo(2.11)低 37%
  • 原因:遮挡区域缺乏局部匹配线索,ConvGRU 难以传播信息,而 PALA 的全局注意力可直接从远处像素获取有效信息。

图 3:标准 Benchmark 定性对比,LinStereo 在物体边缘和遮挡区域的深度图重建更为干净、连贯。

2. 跨域泛化:水下 Zero-Shot 测试

水下环境因光线波长衰减(红色先消失)和悬浮颗粒散射,导致大面积纹理退化。ConvGRU 在此类场景下传播缓慢,而 PALA 的全局特性不受此限。

  • 零样本优势:LinStereo 未使用任何水下数据进行训练,但在 SQUID 等水下基准测试中全面领先。
  • 定性表现:在严重退化区域,LinStereo 仍能保持深度图的连贯性,显著优于对比方法。

图 4:水下场景定性对比。在纹理缺失严重的区域,LinStereo 生成的深度图依然保持结构完整。

效率与精度平衡

  • 推理速度:在 T=2 迭代配置下,LinStereo 在 480×640 分辨率下达到 12.5 FPS
  • 精度保持:即使在计算受限、仅进行两次迭代优化的情况下,LinStereo 在 SQUID 数据集上的 AbsRel 仍保持在 0.05,证明了其高效的收敛能力。

模块协同与消融实验

三个模块(PALA, HSCV, DPI)单独使用均有提升,但组合使用效果远超简单叠加。

  • 过拟合现象:当 PALA Block 堆叠至 3 个(参数量从 127M 增至 147M)时,KITTI EPE 反而从 1.01 上升至 1.05。这表明迭代过程本身已具备隐式的深度堆叠能力,过度增加显式层数可能导致过拟合。

SeaStereo 数据集发布

为解决水下立体匹配数据匮乏问题,论文发布了 SeaStereo-Dataset
* 规模:40,320 对水下立体图像,附带稠密视差标注。
* 多样性:涵盖 7 种 Jerlov 水体类型。
* 生成方式:使用 Blender 进行物理级水下光学渲染,前景为 ShapeNetCore 物体,背景为真实海洋照片。

参数高效设计:以小博大

LinStereo 展现了极高的参数效率:
* 总参数量:127M。
* 可训练参数:仅约 10M(超过 100M 参数来自冻结的 Depth Anything V3 Backbone)。
* 意义:验证了轻量级 Decoder 的有效性,证明小参数量模型也能充分利用大规模预训练模型的先验知识。面向水下机器人等边缘计算平台,团队正进一步通过知识蒸馏压缩编码器,以追求极致的推理延迟。


ECCV 2026 论文链接:https://arxiv.org/abs/2606.25437
GitHub 代码库:https://github.com/u7079256/LinStereo

作者简介

Yiran Wang
悉尼大学澳大利亚机器人中心博士生,导师为 Viorela Ila 博士。本科毕业于澳大利亚国立大学(ANU)高级计算专业(荣誉学位)。研究方向涵盖计算机视觉、立体深度估计、运动生成与三维视觉,近期聚焦于利用 Vision Foundation Model 提升立体匹配在退化视觉条件下的鲁棒性。相关工作发表于 ECCV、NeurIPS、ICRA 等国际会议。

Viorela Ila
悉尼大学航空航天与机电工程学院高级讲师(Senior Lecturer),澳大利亚机器人中心核心研究员。2005 年获西班牙赫罗纳大学博士学位,后赴佐治亚理工学院从事博士后研究。研究方向涵盖视觉 SLAM、三维重建、图模型优化与水下机器人感知,近期代表工作包括动态 SLAM 框架 DynoSAM 等。

相关内容