论文阅读：AdaBins: Depth Estimation using Adaptive Bins

Motivation

• 信息的全局处理会帮助提高整体深度估计。
• 提出的AdaBins预测的bin中心集中在较小的深度值附近，对于深度值范围更广的图像，分布广泛。
• Fu et al. 发现将深度回归任务转化为分类任务可以提升效果，将深度范围分成固定数量的bins。本文则解决了原始方法的多个限制：
  1. 计算根据输入场景的特征动态变化的自适应箱。
  2. 分类方法导致深度值的离散化，导致视觉质量差，深度不连续明显,论文提出预测最终的深度值作为bin中心的线性组合。
  3. 以高分辨率全局计算信息，而不是主要是在低分辨率的瓶颈部分。

AdaBins design

• 首先，我们采用一个适应性分箱策略把具体的深度区间$D=(d_{min},d_{max})$分成N bins。
• 我们将最终深度预测为 bin 中心的线性组合，使模型能够估计平滑变化的深度值。
• 当在空间更高分辨率的张量上使用注意力时，可以获得更好的结果。因此采用了这样的结构: Encoder, Decoder, and finally attention。
• 由于内存限制，使用h=H/2,w=W/2的空间分辨率处理，最终的depth图像通过简单的bilinearly上采样到(H,W)。
• AdaBins的第一个模块是miniViT.输出：1) 向量 b , 定义了它如何将深度区间D划分为输入图像。2）Range-Attention 图$\mathcal{R}$，形状是$h\times w\times C$, 包含了像素级深度计算信息。
• Bin-widths: 使用MLP头和ReLU层输出N维(bin的数量)向量b’。最后通过Softmax归一化b‘。
  $b_i=\frac{b_i^{\prime }+ϵ}{{\sum }_{j=1}^N(b_j^{\prime }+ϵ)}$
• Range attention maps: Transformer中包含了更多的全局信息。来自转换器的output embedding (2,C+1)作用一组1x1的卷积核,并与解码器的特征卷积获得$\mathcal{R}$。这相当于将pixel-wise 特征视为’keys’, transformer output embedding相当于’queries’。
• Hybrid regression:
  $\mathcal{R}$ 通过 1 × 1 卷积层获得 N 个通道，然后通过 Softmax。每个像素每个通道的数值作为这个bin的概率，每个depth-bin-centers可以算为：
  $c(b_i)=d_{(}min)+(d_{max}-d_{min})(b_i/2+{\sum }_{j=1}^{i+1}{b}_j)$
  最后，对于每一个pixel, 最终的$\tilde{d}$计算为线性组合$c(b_i)$,
  $\tilde{d}={\sum }_{k=1}^{N}c(b_k)p_k$。

Loss function

• Pixel-wise depth loss. 使用一个尺度不变损失 (SI) 的缩放版本:
  
• $g_i=log{\tilde{d}}_i-log{d}_i$。
• Bin-center density loss: 鼓励bin centers的分布与真实标签相同。我们将 bin 中心的集合表示为 c(b)，将地面实况图像中所有深度值的集合表示为 X，并使用双向倒角损失 [9] 作为正则化器：
  

Reference

1. [1]FU H, GONG M, WANG C, et al. Deep Ordinal Regression Network for Monocular Depth Estimation[C/OL]//2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition, Salt Lake City, UT. 2018. http://dx.doi.org/10.1109/cvpr.2018.00214. DOI:10.1109/cvpr.2018.00214.