奇异值分解示例

奇异值分解

目标：对于一个矩阵W，寻找符合下列条件的三个矩阵：
$U\Sigma V^T=W$
其中U,V都为正交矩阵， $\Sigma$ 为对角矩阵

方法：

$W = \begin{bmatrix} 4 & 0 & 5 \\ 0 & 0 & 5 \\ \end{bmatrix}$

通过自身与转置相乘，得到B,C,再把B,C做如下分解得到 $\Sigma$ ，U和V

$B = WW^T=UDU^T=U\Sigma ^T\Sigma U^T$

$C=W^TW=VDV^T=V\Sigma^T\Sigma U^T$

$B= \begin{bmatrix} 41 &25 \\ 25 & 25 \\ \end{bmatrix}$

$= \begin{bmatrix} 0.81 & -0.59 \\ 0.59 & 0.81 \\ \end{bmatrix}\begin{bmatrix} 7.70 &0 \\ 0 & 2.60 \\ \end{bmatrix}\begin{bmatrix} 7.70 &0 \\ 0 & 2.60 \\ \end{bmatrix}\begin{bmatrix} 0.81 & 0.59\\ -0.59 & 0.81 \\ \end{bmatrix}$

$C=\begin{bmatrix} 16 & 0&20 \\ 0 & 0 &0 \\20&0&50 \end{bmatrix}$

怎么把B,C分解成上述的形式呢？

首先分别对B,C对角化
对角化:
$B=S_B.J_B.S^{-1}_B$
$C=S_C.J_C.S^{-1}_C$

$S_B = \begin{bmatrix} -0.73 & 1.36 \\ 1 & 1 \\ \end{bmatrix}$

$J_B = \begin{bmatrix} 6.75 & 0 \\ 0 & 59.25 \\ \end{bmatrix}$

$S_C= \begin{bmatrix} 0 & -2.16&0.46 \\ 1& 0 &0 \\0&1&1 \end{bmatrix}$

$J_C= \begin{bmatrix} 0 & 0&0 \\ 0 & 6.75 &0 \\0&0&59.25 \end{bmatrix}$

可以发现 $J_B$ , $J_C$ 中的对角元素（特征值）是一样的，进行开方再经过简单调整就是 $\Sigma$ 矩阵了。

然后，把 $S_B$ , $S_C$ 单位化

$S_B = \begin{bmatrix} -0.73 & 1.36 \\ 1 & 1 \\ \end{bmatrix} \Rightarrow \begin{bmatrix} -0.59 & 0.81 \\ 0.81 & 0.59 \\ \end{bmatrix}$

$S_C = \begin{bmatrix} 0 & -2.16&0.46 \\ 1& 0 &0 \\0&1&1 \end{bmatrix}\Rightarrow\begin{bmatrix} 0 & -0.91&0.42 \\ 1& 0 &0 \\0&0.42&0.91\end{bmatrix}$

此时， $S_B$ , $S_C$ 其实就是U,V,但也要经过下面的简单调整。

调整方法：

1.特征值顺序调整(由大到小)

$J = \begin{bmatrix} 59.25 & 0&0 \\ 0 & 6.75 &0\\0&0&0 \end{bmatrix}$

2.将特征矩阵开方得到 $\Sigma$

$\Sigma \Sigma^T=J$

$\Sigma = \begin{bmatrix} 7.70 & 0&0 \\ 0 & 2.60 &0\\0&0&0 \end{bmatrix}$

3.调整单位化后的 $S_B,S_C$ (根据J的变化)

$S_B = \begin{bmatrix} -0.59 & 0.81 \\ 0.81 & 0.59 \\ \end{bmatrix} \Rightarrow\begin{bmatrix} 0.81 & -0.59 \\ 0.59 & 0.81 \\ \end{bmatrix} \Rightarrow U$

$S_C = \begin{bmatrix} 0 & -0.91&0.42 \\ 1& 0 &0 \\0&0.42&0.91\end{bmatrix} \Rightarrow \begin{bmatrix} 0.42 & 0&0.91 \\ -0.91& 0 &0.42 \\0&1&0 \end{bmatrix} \Rightarrow V^T$

4.调整 $\Sigma$ 形状，把较大值放在前面

$\Sigma = \begin{bmatrix} 7.70 & 0&0 \\ 0 & 2.60 &0 \end{bmatrix}$

结果
$W = \begin{bmatrix} 0.81 & -0.59 \\ 0.59 & 0.81 \\ \end{bmatrix}\begin{bmatrix} 7.70 &0&0 \\ 0 & 2.60&0 \\ \end{bmatrix}\begin{bmatrix} 0.42 & 0&0.91 \\ -0.91& 0 &0.42 \\0&1&0 \end{bmatrix}$

关于奇异值分解

$\Sigma$ 是奇异值矩阵，较小值代表噪音（将其置零后计算出的矩阵就是去除噪音的结果），较大值代表主要成分。

人面猴
序言：七十年代末，一起剥皮案震惊了整个滨河市，随后出现的几起案子，更是在滨河造成了极大的恐慌，老刑警刘岩，带你破解...
沈念sama阅读 216,591评论 6赞 501
死咒
序言：滨河连续发生了三起死亡事件，死亡现场离奇诡异，居然都是意外死亡，警方通过查阅死者的电脑和手机，发现死者居然都...
沈念sama阅读 92,448评论 3赞 392
救了他两次的神仙让他今天三更去死
文/潘晓璐我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
开封第一讲书人阅读 162,823评论 0赞 353
道士缉凶录：失踪的卖姜人
文/不坏的土叔我叫张陵，是天一观的道长。经常有香客问我，道长，这世上最难降的妖魔是什么？我笑而不...
开封第一讲书人阅读 58,204评论 1赞 292
港岛之恋（遗憾婚礼）
正文为了忘掉前任，我火速办了婚礼，结果婚礼上，老公的妹妹穿的比我还像新娘。我一直安慰自己，他们只是感情好，可当我...
茶点故事阅读 67,228评论 6赞 388
恶毒庶女顶嫁案：这布局不是一般人想出来的
文/花漫我一把揭开白布。她就那样静静地躺着，像睡着了一般。火红的嫁衣衬着肌肤如雪。梳的纹丝不乱的头发上，一...
开封第一讲书人阅读 51,190评论 1赞 299
城市分裂传说
那天，我揣着相机与录音，去河边找鬼。笑死，一个胖子当着我的面吹牛，可吹牛的内容都是我干的。我是一名探鬼主播，决...
沈念sama阅读 40,078评论 3赞 418
双鸳鸯连环套：你想象不到人心有多黑
文/苍兰香墨我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
开封第一讲书人阅读 38,923评论 0赞 274
万荣杀人案实录
序言：老挝万荣一对情侣失踪，失踪者是张志新（化名）和其女友刘颖，没想到半个月后，有当地人在树林里发现了一具尸体，经...
沈念sama阅读 45,334评论 1赞 310
护林员之死
正文独居荒郊野岭守林人离奇死亡，尸身上长有42处带血的脓包…… 初始之章·张勋以下内容为张勋视角年9月15日...
茶点故事阅读 37,550评论 2赞 333
白月光启示录
正文我和宋清朗相恋三年，在试婚纱的时候发现自己被绿了。大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
茶点故事阅读 39,727评论 1赞 348
活死人
序言：一个原本活蹦乱跳的男人离奇死亡，死状恐怖，灵堂内的尸体忽然破棺而出，到底是诈尸还是另有隐情，我是刑警宁泽，带...
沈念sama阅读 35,428评论 5赞 343
日本核电站爆炸内幕
正文年R本政府宣布，位于F岛的核电站，受9级特大地震影响，放射性物质发生泄漏。R本人自食恶果不足惜，却给世界环境...
茶点故事阅读 41,022评论 3赞 326
男人毒药：我在死后第九天来索命
文/蒙蒙一、第九天我趴在偏房一处隐蔽的房顶上张望。院中可真热闹，春花似锦、人声如沸。这庄子的主人今日做“春日...
开封第一讲书人阅读 31,672评论 0赞 22
一桩弑父案，背后竟有这般阴谋
文/苍兰香墨我抬头看了看天上的太阳。三九已至，却和暖如春，着一层夹袄步出监牢的瞬间，已是汗流浃背。一阵脚步声响...
开封第一讲书人阅读 32,826评论 1赞 269
情欲美人皮
我被黑心中介骗来泰国打工，没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留，地道东北人。一个月前我还...
沈念sama阅读 47,734评论 2赞 368
代替公主和亲
正文我出身青楼，却偏偏与公主长得像，于是被迫代替她去往敌国和亲。传闻我的和亲对象是个残疾皇子，可洞房花烛夜当晚...
茶点故事阅读 44,619评论 2赞 354

奇异值分解示例

奇异值分解

方法：

关于奇异值分解

推荐阅读更多精彩内容