L1算法分析和实现(2) 从优化公式到迭代公式

说明

L1算法中的核心公式简明易懂,但是从核心的优化式向复杂的迭代式的推导却不是那么简单。本文将针对相关公式进行一次推导,最后根据验证的迭代式进行代码实现。

公式推导

L1核心公式如下:
\underset{X}{\operatorname{argmin}} \sum_{i \in I} \sum_{j \in J}\left\|x_{i}-q_{j}\right\| \theta\left(\left\|x_{i}-q_{j}\right\|\right)+R(X) \tag{1} \\ \theta(r)=e^{-r^{2} /(h / 2)^{2}} , R(X)=\sum_{i \in I} \gamma_{i} \sum_{i^{\prime} \in I \backslash\{i\}} \frac{\theta\left(\left\|x_{i}-x_{i^{\prime} }\right\|\right)}{\sigma_{i}\left\|x_{i} -x_{i^{\prime}}\right\|}

(1)中 X, x_i代表sample point集合和单个点,Q,q_j代表原本的点云点集和单个点,\gamma_i代表x_i对应的平衡常数(balancing constants),\sigma_i代表x_i的有向度(directionality degree)。
x_i看做函数中的变量,则有以下式子

\underset{X}{arg\,min}\:f(x_i)= \underset {j \in J}{\sum} f_1(||x_i-q_j||) + \gamma _i \underset {i^, \in I/ \{ i \}}{\sum} f_2(||x_i-x_{i^,}||) \tag {1.1}

f_1偏微分:
\begin{align} \frac {\partial f_1}{\partial x_i}&= \frac {\partial f_1}{\partial ||x_i-q_i||} \times \, \frac {\partial ||x_i-q_i||}{\partial x_i}\\ &= (1-\frac {2{(x_i-q_j)}^2}{{(h/2)}^2}) \theta (||x_i-q_j||) \times \frac {x_i-q_i}{||x_i-q_i||}\\ &=(1-\frac {2{(x_i-q_j)}^2}{{(h/2)}^2}) (x_i-q_j) \alpha _{ij} \tag{1.2} \end{align}

f_2偏微分:
\begin{align} \frac {\partial f_2}{\partial x_i}&= \frac {\partial f_2}{\partial ||x_i-x_{i^,}||} \times \, \frac {\partial ||x_i-x_{i^,}||}{\partial x_i}\\ &=-(1+\frac {2{(x_i-x_{i^,})}^2}{(h/2)^2})\frac {\theta (||x_i-x_{i^,}||)}{\sigma _i(x_i-x_{i^,})^2}\times \frac {x_i-x_{i^,}}{||x_i-x_{i^,}||}\\&= -(1+\frac {2{(x_i-x_{i^,})}^2}{(h/2)^2}) \frac {x_i-x_{i^,}}{\sigma _i} \beta _{ii^,} \tag {1.3} \end{align}

由于式(1.2)和(1.3)中的系数(1-\frac {2{(x_i-q_j)}^2}{{(h/2)}^2})-(1+\frac {2{(x_i-x_{i^,})}^2}{(h/2)^2})在实际运算中近似为1和-1,所以系数可以直接去掉,直接保留符号即可。

最终去掉系数的化简式如下:
\sum_{j \in J}\left(x_{i}-q_{j}\right) \alpha_{i j}-\gamma_{i} \sum_{i^{\prime} \in I \backslash\{i\}} \frac{x_{i}-x_{i^{\prime}}}{\sigma_{i}} \beta_{i i^{\prime}}=0, i \in I \tag{2} \\ \alpha_{i j}=\frac{\theta\left(\left\|x_{i}-q_{j}\right\|\right)} {\left\|x_{i}-q_{j}\right\|},\: \beta _{ii^,}=\frac {\theta (||x_i-x_{i^,}||)} {||x_i-x_{i^,}||^3}
P.S. 原论文\beta _{ii^,}=\frac {\theta (||x_i-x_{i^,}||)} {||x_i-x_{i^,}||^2},但是按照(1.3)计算\beta _{ii^,}=\frac {\theta (||x_i-x_{i^,}||)} {||x_i-x_{i^,}||^3},此处采用的是3次方的这个定义。

化简式又可以提取为:
(\underset {j \in J}{\sum} \alpha _{ij}-\frac {\gamma _i \sum _{i^, \in I/\{ i\}} \beta _{ii^,}} {\sigma _i})x_i=\underset {j \in J}{\sum} \alpha _{ij}q_{j}-\frac {\gamma _i \sum _{i^, \in I/\{ i\}} \beta _{ii^,}x_{i^,}} {\sigma _i} \: \tag {2.1}

根据新的斥力系数定义\mu=\frac{\gamma_{i} \sum_{i^{\prime} \in I \backslash\{i\}} \beta_{i i^{\prime}}}{\sigma_{i}^2 \sum_{j \in J} \alpha_{i j}}, \forall i \in I(刊误:原论文里使用公式为\mu=\frac{\gamma_{i} \sum_{i^{\prime} \in I \backslash\{i\}} \beta_{i i^{\prime}}}{\sigma_{i} \sum_{j \in J} \alpha_{i j}}, \forall i \in I,经分析\sigma_i应为笔误),可将(2.2)化简为:

\left(1-\mu \sigma_{i}\right) x_{i}=\frac{\sum_{j \in J} q_{j} \alpha_{i j}}{\sum_{j \in J} \alpha_{i j}} - \mu \sigma_{i} \frac{\sum_{i^{\prime} \in I \backslash\{i\}} x_{i^{\prime}} \beta_{i i^{\prime}}}{\sum_{i^{\prime} \in I \backslash\{i\} } \beta_{i i^{\prime}}} \tag {3}

简单移项后可得:
x_{i} = \frac{\sum_{j \in J} q_{j} \alpha_{i j}}{\sum_{j \in J} \alpha_{i j}} + \mu \sigma_{i} \frac{\sum_{i^{\prime} \in I \backslash\{i\}} (x_i - x_{i^{\prime} }) \beta_{i i^{\prime}}}{\sum_{i^{\prime} \in I \backslash\{i\}} \beta_{i i^{\prime}}} \tag {3.1}

使用不动点迭代[1]推导出迭代公式:
x_{i}^{k+1}=\frac{\sum_{j \in J} q_{j} \alpha_{i j}^{k}}{\sum_{j \in J} \alpha_{i j}^{k}}+\mu \sigma_{i}^{k} \frac{\sum_{i^{\prime} \in I \backslash\{i\}}\left(x_{i}^{k}-x_{i^{\prime}}^{k}\right) \beta_{i i^{\prime}}^{k}} {\sum_{i^{\prime} \in I \backslash\{i\}} \beta_{i i^{\prime}}^{k}} \\ \alpha_{i j}=\frac{\theta\left(\left\|x_{i}-q_{j}\right\|\right)} {\left\|x_{i}-q_{j}\right\|},\: \beta _{ii^,}=\frac {\theta (||x_i-x_{i^,}||)} {||x_i-x_{i^,}||^3} \tag {4}
可以看到,(3.1)和迭代公式(4)已经基本一毛一样了。

代码实现

整个迭代的流程包括:

  1. 计算邻居(self neighbor 和origin neighbor)
  2. 计算f_1项(computeAlphasTerms)和f_2项(computeBetasTerms)
  3. 根据f_1f_2计算新的迭代坐标(公式4)
  4. 重复上述步骤直到满足停止条件

迭代函数

double L1median::iterateReturnError()
{
    /*位置迭代更新*/
    paraPtr->add("neighborhood_size", h);
    for (int i = 0; i < sampleInfo.size(); ++i) {
        sampleInfo[i].kind = (sampleInfo[i].kind == pi::Candidate) ? pi::Sample : sampleInfo[i].kind;
    }

    computeAlphasTerms();
    computeBetasTerms();
    double error = updateSamplePos();
    emit infoSignal("RMS:" + QString::number(error, 'f', 6)+'\n');

    /*位置同步*/
    if (synSampleWithInfo()) {
        emit iterateSignal();
    } else {
        emit errorSignal(QString("fail to synchronize sample info"));
        return 0.0;
    }
    /*位置更新后的预备信息计算*/
    computeNeighbors();
    computeSigmas();
    return error;
}

其它具体实现部分过于复杂,此处按下不表,有时间可能另开一章进行说明。


  1. https://blog.csdn.net/jbb0523/article/details/52459797

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,463评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,868评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,213评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,666评论 1 290
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,759评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,725评论 1 294
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,716评论 3 415
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,484评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,928评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,233评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,393评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,073评论 5 340
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,718评论 3 324
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,308评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,538评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,338评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,260评论 2 352