L1算法分析和实现(1) directionality degree计算原理

说明

最近需要使用c++实现L1-median骨架提取算法[1],所以干脆直接开一个系列记录一下算法具体实现中的一些要点的理论分析和代码实现。

本篇分析的是算法中针对采样点(sample point)设定的一个概念——有向度(directionality degree)。在论文提到,带权重的PCA方法被用于提取sample point的有向度,那么有向度的具体计算和PCA的关系为何?具体是如何使用PCA的呢?

PCA方法简述

例子来自于郑申海的知乎文章[2]
有m个2维数据如下:

待处理数据

需要使用PCA方法投影成m个1维数据,理论上需要遵循最大方差原则,使得投影的一维值之间区分度最高。接下来补充几个前置知识:

  • 协方差矩阵
    协方差矩阵

    协方差矩阵具有奇妙的特性:对角线上为每一维数据的方差,其它元素则是对应的协方差,当X只有一维时,显然此矩阵只有对角线上有值,这种状态被称为对角化
  • 特征值分解矩阵
    特征值分解矩阵

    根据特征值定义可以写出如图公式,E为特征向量矩阵,C为被求特诊向量的矩阵,最后结果为对角化的特征值矩阵。

PCA的过程可以概括为:对于m个n维数据矩阵X_{m,n},我们只需要找一个P使得Y=PX之后映射的Y有一维,也就是让Y的协方差矩阵C_Y对角化。而C_YC_X存在如下关系:

C_Y= \frac {1}{m} YY^\mathsf{T}=\frac {1}{m}(PX)(PX)^\mathsf{T}= P(\frac {1}{m}XX^\mathsf{T})P^\mathsf{T}=PC_XP^\mathsf{T}
结合特征值分解矩阵的形式我们可以得知,使P等同于C_X的特诊向量矩阵的转置E^\mathsf{T},则可以保证C_Y对角化。根据此思路,PCA过程可以描述为如下过程:

对于m个n维数据矩阵X_{m,n}
1) X_{m,n}的每一行减去均值(零均值化)
2) 求X_{m,n}的协方差矩阵C_X及特诊向量
3) 将特征向量根据特征值的大小降序排列成矩阵P
4) 根据Y=PX计算映射后的Y

引申出来对三维数据的协方差矩阵:
\operatorname{cov}(\mathrm{X}, \mathrm{Y}, \mathrm{Z})=\left(\begin{array}{l} {\operatorname{cov}(\mathrm{X}, \mathrm{X}) \operatorname{cov}(\mathrm{X}, \mathrm{Y}) \operatorname{cov}(\mathrm{X}, \mathrm{Z})} \\ {\operatorname{cov}(\mathrm{Y}, \mathrm{X}) \operatorname{cov}(\mathrm{Y}, \mathrm{Y}) \operatorname{cov}(\mathrm{Y}, \mathrm{Z})} \\ {\operatorname{cov}(\mathrm{Z}, \mathrm{X}) \operatorname{cov}(\mathrm{Z}, \mathrm{Y}) \operatorname{cov}(\mathrm{Z}, \mathrm{Z})} \end{array}\right)
可进行应用来获取三维数据的分离特征

为什么选择PCA

在PCA的执行过程中,我们可以明显看到协方差矩阵具有对我们十分有意义的特性——单维数据的协方差矩阵对角化

  • directionality degree定义
    L1-median原文中定义

在有向度的定义中使用的是\Sigma \theta(||A||) A^TA的类协方差矩阵格式,具有如下性质:

A代表x_ix_{i^{'}}的矢量,每个A^TA组成的矩阵只有一个非0特征值
因而,如果neighborhood size内只有一个其它点的话,
\lambda _i^2=某个值, \lambda _i^0=\lambda _i^1=0\sigma_i=1
所以,当neighborhood size内的点方向越整齐,每个A^TA(实际上是A_{i^{'}}^TA_{i^{'}},此处为简写)加和组成的矩阵的特征值就越单一,最终的\sigma就越接近1

代码思路

对于特征向量和特征根的计算使用了Eigen库,具体内容如下:

double GlobalFun::computeDirectionalityDegree(vector<PointXYZ> diff) {
    if (diff.size() < 1) return 0;
    Matrix3d mm;
    for (PointXYZ d : diff) {
        Vector3d v(d.x, d.y, d.z);
        mm += v * v.adjoint();
    }
    Vector3cd eigens = mm.eigenvalues();
    Vector3d eigenVec(eigens(0).real(), eigens(1).real(), eigens(2).real());
    return eigenVec.maxCoeff() / eigens.sum().real();
}

输入的diff按照定义是由集合X中的邻居计算而来,每次邻居的更新使用了pcl库提供的kdtree进行快速更新:

// 根据radius计算X中每个点的neighbors
vector<SamplePoint> updateSelfNeighbors(PcPtr xc, double radius, vector<SamplePoint> &info) {
    KdTreeFLANN<PointXYZ> kdtree;
    kdtree.setInputCloud(xc);
    int index = 0;
    for (PointXYZ xpt : xc->points) {
        vector<int> neighIndex;
        vector<float> neighDistance;
        int num = kdtree.radiusSearch(xpt, radius, neighIndex, neighDistance);
        info[index].setSelfIndics(neighIndex);
        info[index].setSelfDistances(neighDistance);
        index++;
    }
    return info;
}
// 根据neighbors计算diff,然后调用computeDirectionalityDegree计算有向度
double SamplePoint::computeSigma(pi::PcPtr cloud) {
    // 根据s_indic计算
    vector<PointXYZ> delta;
    for (int i : this->s_indics) {
        delta.push_back(PointXYZ(
            this->pos.x - cloud->points[i].x,
            this->pos.y - cloud->points[i].y,
            this->pos.z - cloud->points[i].z
        ));
    }
    this->sigma = GlobalFun::computeDirectionalityDegree(delta);
    
    return this->sigma;
}

总结

其实虽然论文中说的是带权PCA,实际使用的更多的是协方差矩阵的数学性质,到了代码层面重点更是变成了特征值求取和带权协方差矩阵构建。可能稍微有些 “挂羊头,卖狗肉” 的意味吧。


  1. Huanghui, Wushihao, Cohenordaniel, et al. L1-medial skeleton of point cloud[J]. ACM Transactions on Graphics, 2013.

  2. https://zhuanlan.zhihu.com/p/21580949

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,588评论 6 496
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,456评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,146评论 0 350
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,387评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,481评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,510评论 1 293
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,522评论 3 414
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,296评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,745评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,039评论 2 330
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,202评论 1 343
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,901评论 5 338
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,538评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,165评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,415评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,081评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,085评论 2 352

推荐阅读更多精彩内容