文章：VITAMIN-E: VIsual Tracking And MappINgwith Extremely Dense Feature Points
链接：https://arxiv.org/abs/1904.10324
视频：https://www.youtube.com/watch?v=yfKccCmmMsM
作者：Masashi Yokozuka，……，Atsuhiko Banno
机构：National Institute of Advanced Industrial Science and Technology (AIST)，JSPS KAKENHI
摘要的摘要：基于经典优化SLAM框架下，改进或提升两点：
（1）Tracking的特征点数量大幅增加；
（2）BA使用Jacobi迭代法缩减求解时间和复杂度。

1. Dense Feature Point Tracking

1.1 Feature Point Tracking

VITAMIN-E tracks the local extrema of curvature ( $\kappa$ ) in incoming images ( $f(x,y)$ )。
$\kappa=f_y^{2}f_{xx}-2f_xf_yf_{xy}+f_x^{2}f_{yy} \tag{1}$

1.2 Dominant Flow Estimation

使用光流法+匹配提供匹配点对的位置初始值，设前后帧的点匹配2D点对为 $\boldsymbol{x}$ 和 $\boldsymbol{y}$ ，然后最小化仿射变换的cost function：
$E=\sum_i^N{\rho \left( \lVert \boldsymbol{y}_i-\left( A\boldsymbol{x}_i+\boldsymbol{b} \right) \rVert _2 \right)} \tag{2}$
得到一个稳定的 $A$ 和 $\boldsymbol{b}$ 。

1.3 Curvature Extrema Tracking

经过1.2，可以计算特定追踪点 $\boldsymbol{x}_{t_0}$ 的预测值 $\boldsymbol{\hat{x}}_{t_1}$ ：
$\boldsymbol{\hat{x}}_{t_1}=A \boldsymbol{x}_{t_0} + \boldsymbol{b} \tag{4}$
再最大化evaluation function：
$F=\kappa \left( \boldsymbol{x}_{t_1},t_1 \right) +\lambda \omega \left( \lVert \boldsymbol{x}_{t_1}-\boldsymbol{\hat{x}}_{t_1} \rVert _2 \right) \tag{5}$
得到校正后的点 $\boldsymbol{x}_{t_1}$ 。

2. Bundle Adjustment for Dense Tracking

2.1 Bundle Adjustment

BA原理就不说了，Model一下求解方程：
$H\delta \boldsymbol{x}=-\boldsymbol{g},\,\,\,\, \boldsymbol{x}=\boldsymbol{x}+\delta\boldsymbol{x} \tag{7}$
经典方法是基于稀疏矩阵的Schur消元将问题分解：
$H=\left[ \begin{matrix} H_{cc}& H_{cp}\\ H_{pc}& H_{pp}\\ \end{matrix} \right] ,\,\,\,\,\boldsymbol{g}=\left[ \begin{array}{c} \boldsymbol{g}_{\boldsymbol{c}}\\ \boldsymbol{g}_{\boldsymbol{p}}\\ \end{array} \right] \tag{8}$
其中，下标为 $c$ 的为camera相关，camera相关变量为 $M$ 个，下标为 $p$ 的为point相关，point相关变量为 $N$ 个，然后进行Schur消元求解，具体不表了。但是文章的 $H$ 的size是 $100,000 \times 100,000$ 甚至更大，这样求解的复杂度和代价很大。

2.2 Subspace Gauss–Newton Method

我理解其实就是雅克比迭代法，并不是什么子空间方法。关于这类方法之后再整理一篇笔记出来。
此时方程(8)的求解可分解为如下形式：
$H_{c_ic_i}\delta \boldsymbol{x}_{c_i}=-\left( \boldsymbol{g}_{c_i}+\sum_{l=1}^{i-1}{H_{c_lc_i}\delta \boldsymbol{x}_{c_l}}+\sum_{r=i+1}^M{H_{c_ic_r}\delta \boldsymbol{x}_{c_r}}+\sum_{j=1}^N{H_{c_ip_j}\delta \boldsymbol{x}_{p_j}} \right) \tag{11}$
$H_{p_jp_j}\delta \boldsymbol{x}_{p_j}=-\left( \boldsymbol{g}_{p_j}+\sum_{l=1}^{j-1}{H_{p_lp_j}\delta \boldsymbol{x}_{p_l}}+\sum_{r=j+1}^N{H_{p_ip_r}\delta \boldsymbol{x}_{p_r}}+\sum_{i=1}^M{H_{p_jc_i}\delta \boldsymbol{x}_{c_i}} \right) \tag{12}$

3. Experimental Results

ATE详见paper，看起来比DSO、ORB、LSD好不少。
时间上，在论文的CPU上：
-- Feature tracking：36 msec/frame
-- Localization & mapping ：25 msec/frame
建图方面就没有细看了。

20190723_CVPR2019_[优化SLAM]VITAMIN-E