帝国理工开发出"轻量级立体视觉神经网络",比同类方法快近2倍

时间:2026-07-17 06:43:43来源:云北源资讯网 作者:热点

英国帝国理工学院(Imperial College London)计算机系主导的帝国一项突破性研究,于2026年6月23日以预印本形式发布(论文编号:arXiv:2606.24457)。理工量级立体类方该成果已被收录至2026年IEEE/CVF计算机视觉与模式识别会议(CVPR)相关系列。出轻这项研究推出了名为 LAS2 (Lite Any Stereo V2)的视觉神经超快速立体匹配模型系列,旨在打破“精度与速度不可兼得”的网络传统认知,在保持极低延迟的比同同时,实现强大的法快零样本泛化能力。

一、近倍核心痛点:机器“立体视觉”的帝国精度与速度悖论

人类双眼通过融合略有差异的画面来感知深度,这一过程对机器而言却是理工量级立体类方计算机视觉领域的长期难题。立体匹配(Stereo Matching)技术旨在从左右摄像头图像中计算像素级深度信息,出轻是视觉神经自动驾驶、机器人导航、网络AR及工业检测的比同核心基石。

当前深度学习方案面临严峻的法快两难困境:
* 高精度大模型:计算量巨大,推理缓慢,如同“博学的专家”,虽准确但响应迟滞。
* 轻量级小模型:推理迅速,但泛化能力弱,尤其在面对未见过的“零样本”新场景时表现不佳,往往需针对特定场景重新调优。

帝国理工团队认为这一困境可被打破。LAS2 系列模型的目标是:无需针对新场景重新调整,即可在各类真实世界中保持高精度与低延迟。

二、技术挑战:打造“全能型”立体视觉裁缝

理解 LAS2 的创新,可将其类比为裁缝量体裁衣:
* 传统精准模型:如老裁缝,做工精细但耗时极长。
* 传统轻量模型:如快手裁缝,速度快但只擅长固定款式,换体型(新场景)即出错。

LAS2 旨在培养一位“既快又能应对各种体型”的裁缝。其难点在于:
1. 架构妥协:以往轻量模型为求快,在关键的“成本聚合”步骤上过度简化,导致几何信息理解不足。
2. 数据偏差:仅在合成数据上训练,难以应对真实世界中复杂的光线、材质和遮挡,导致泛化能力差。

LAS2 从架构与训练两个维度提出了系统性解决方案。

三、架构革新:摒弃三维卷积,采用纯二维高效聚合

1. 从“三维搜索”到“二维平面策略”

传统高精度模型依赖三维卷积进行代价聚合(Cost Aggregation),即在高度、宽度和深度差三个维度密集计算,效率低下。
* LAS2 决策:彻底移除三维聚合,采用纯二维代价聚合框架
* 实现方式:引入 U-Net 风格的聚合网络,通过多尺度压缩与恢复,在捕捉宏观结构的同时保留细节,以“平面搜索策略”弥补维度降低带来的信息损失。

2. 实测延迟优于理论计算量

研究团队拒绝仅参考理论计算量(MACs)的选型标准,转而直接在真实硬件上测量推理延迟。
* 骨干网络选择:选定 FasterNet作为特征提取与聚合基础。尽管其理论 MACs 略高于 MobileNetV2,但在 GPU 和嵌入式设备上的实际推理速度更快,更符合部署导向。

3. LAS2 家族变体

  • LAS2-S/M/L:前馈变体,通过调整聚合模块深度平衡精度与速度。
  • LAS2-H:高精度迭代变体,在 LAS2-M 基础上引入迭代细化机制。

四、LAS2-H:迭代细化让“快手”变“精手”

LAS2-H 引入了类似“反复检查”的迭代细化流程:
1. 初始估计:使用 LAS2-M 快速生成初始深度图,并保留特征图与匹配代价。
2. 循环修正:利用轻量级 ConvGRU(循环神经网络)反复查看局部匹配信息与上下文,进行 4 次迭代修正。
3. 优势:复用 LAS2-M 预训练权重,避免从头训练开销;单次迭代计算量远低于 IGEV 等竞品,总延迟显著降低。

五、训练策略:三阶段“从课本到实战”体系

为解决零样本泛化难题,团队设计了类似工匠成长的三阶段训练策略:

第一阶段:合成数据基础训练

  • 数据:约 180 万对合成图像(SceneFlow, FallingThings, FSD, CREStereo 等)。
  • 目的:利用精确标注建立基本的立体匹配能力。

第二阶段:自蒸馏增强鲁棒性

  • 机制:“老师-学生”架构。老师处理干净图像,学生处理强扰动图像(亮度、对比度、模糊、伽马校正等)。
  • 目标:通过余弦相似度约束,迫使模型从干扰图像中提取对光照变化不敏感的本质特征。
  • 发现:“固定老师权重”方案优于动态更新方案,标准答案越稳定,学生收敛越好。

第三阶段:真实世界知识蒸馏

  • 数据:约 50 万对无标注真实图像(Flickr1024, InStereo2k, Holopix50K 等)。
  • 方法:使用高精度大模型 FoundationStereo生成“伪标签”,微调 LAS2。
  • 意义:让轻量模型模仿大师傅在真实工件上的操作,摆脱对精确度量数据的依赖。

六、数据过滤:三道防线确保伪标签可靠性

为防止教师模型错误误导,研究团队设计了三层过滤机制及误差截断技巧:

  1. 左右一致性检验:剔除左右视差差异超过1像素的不可靠区域(多为遮挡或边缘)。
  2. 边缘感知过滤:检测深度图梯度与图像梯度不匹配的区域,屏蔽模型在平滑区域产生的“幻觉”跳变。
  3. 天空区域屏蔽:利用分割模型排除无纹理的天空区域,避免无效猜测。
  4. 误差截断(Error Clamping):设置损失上限(最佳阈值为10),防止少数高误差像素主导梯度更新,确保训练方向正确。

七、实验结果:速度与精度的双重突破

在四个权威基准(Middlebury, ETH3D, KITTI 2012/2015)上进行零样本测试(未参与训练):

1. 前馈模型(LAS2-S/M/L)

  • LAS2-M:相比前代 LAS,H200 GPU 延迟从 12.7ms 降至 8.1ms(提升 1.6 倍);NVIDIA Orin NX 8G 延迟从 193ms 降至 101ms(提升 1.9 倍)。
  • LAS2-S:H200 上仅需 6.6ms,Orin 上 81ms,为前馈模型中最低延迟。

2. 迭代模型(LAS2-H)

  • 对比 Fast-FoundationStereo:LAS2-H 在 KITTI 和 Middlebury 上精度更高,ETH3D 持平。
  • 速度提升:H200 延迟从 27.3ms 降至 15.1ms(1.8 倍);Orin 延迟从 918ms 降至 344ms(2.7 倍)。

3. 极端场景泛化

  • 在 DrivingStereo 天气子集(晴、阴、雾、雨)中,LAS2-H 甚至超越了其教师模型 FoundationStereo,证明精心设计的训练流程可使轻量模型超越大模型。

4. 测试协议严谨性

  • 禁用 torch.compile等实现加速,统一测试条件,确保数据可比性。

八、消融实验:拆解设计,验证核心价值

  1. 架构验证:FasterNet 在 Orin 上延迟最低(107ms)且精度强劲。ConvNeXt 理论 MACs 更低但实际延迟高出 55ms,证实“MACs ≠ 延迟”。
  2. 训练阶段贡献:三阶段缺一不可。KITTI 2012 D1 指标从第一阶段的 4.21% 逐步降至第三阶段的 2.88%
  3. 数据质量 > 数据量:增加 Stereo4D 或 Xperience 数据反而导致性能下降,证明数据质量与多样性优于单纯的数量堆砌。
  4. 普适性验证:该训练策略同样提升了 LightStereo-M 和 BANet-2D 的性能,证明其为通用高效配方。

九、局限与展望

当前局限

  1. 性能差距:相比基于 Depth Anything 等大规模单目先验的系统,LAS2 在语义理解上仍有差距。
  2. 数据瓶颈:高质量真实立体数据稀缺(需严格校正的成对图像),限制了性能上限。
  3. 极端场景失效:在强反光、透明物体、极端逆光及大面积平滑区域,LAS2 仍面临挑战。

未来展望

LAS2 证明了轻量级模型具备强大的零样本泛化能力,为机器人、无人机、智能汽车及 VR 设备提供了低功耗、高精度的三维感知方案。未来,低成本大规模获取高质量真实立体数据将成为该领域关键研究方向。


Q&A

Q1:LAS2 系列模型和普通的深度估计模型有什么本质区别?
A:LAS2 是立体匹配模型,需输入左右双摄像头图像,通过像素位置差推断距离,具备几何精确性;普通深度估计模型仅输入单张图像,依赖语义先验猜测深度,缺乏几何精确性。LAS2 专为边缘设备实时部署优化。

Q2:LAS2 的三阶段训练策略为什么比直接用真实数据训练效果更好?
A:直接使用真实数据面临无精确标注及训练不稳定的问题。三阶段策略通过:①合成数据建立基础;②自蒸馏增强鲁棒性;③高质量伪标签平滑迁移,分阶段解决不同问题,效果显著优于单阶段方案。

Q3:LAS2 在哪些真实设备上做过测试,实际速度怎么样?
A:测试涵盖 RTX 4090、A5000、A100、H200 及 NVIDIA Orin NX 8G。以 LAS2-M 为例,在 H200 上约 8ms,在 Orin NX 8G 上约 101ms,比同类前馈模型快 1.6-1.9 倍,且能在内存限制内成功部署(部分大型竞品在 Orin 上因内存不足无法运行)。

相关内容