题目：Geometric properties of partial least squares for process monitoring

过程监控的偏最小二乘几何性质

1、the standard PLS algorithm

a.模型：

$X=TP^T+E$

$Y=TQ^T+F$

其中， $T=[t_{1} ,…，t_{A}]$ 得分矩阵；

$P=[p_{1} ,…，p_{A}]$ X的负载矩阵；

$Q=[q_{1} ,…，q_{A}]$ Y的负载矩阵；

E,F残差矩阵

A is the PLS component number

b.求解：非线性迭代最小二乘法(NIPALS)

nonlinear iterative partial least-squares algorithm

w_{i} ,q_{i}

权重向量，

t_{i} =X_{i}w_{i} ,u_{i} =Y_{i}q_{i}

T cannot be calculated from X directly using W. So:

T can be computed from the original X: $T=XR$

P, R and W have the following relationship:

2、The effect of Y on the X-space decomposition

PLS中的原始权重向量r位于由PCA得到的权值向量 $w=[w_{1}，…，w_{l}]$ 所张成的空间中。

那么我们将上述关系改写成：

$r=\vert r \vert \sum\nolimits_{i=1}^l \alpha_{i} w_{i}$ ，其中 $\sum\nolimits_{i=1}^l \alpha _{i} ^2 =1$ ，

那么，

$p=X^Tt/t^Tt=\frac{X^TXr}{t^Tt} =\frac{\sum\nolimits_{i=1}^l \lambda_{i} \alpha_{i} w_{i} }{\vert r\vert \sum\nolimits_{i=1}^l \lambda_{i}\alpha _{i} ^2 }$

又因为：

$r^Tp=1$

所以：

$\cos \measuredangle(r,p) =\frac{1}{\vert r \vert \vert p \vert } =\frac{\sum\nolimits_{i=1}^l\lambda _{i} \alpha _{i}^2}{\sqrt{\sum\nolimits_{i=1}^l\lambda _{i}^2 \alpha _{i}^2} }$

在约束 $\sum\nolimits_{i=1}^l \alpha _{i} ^2 =1$ 的条件下最大 $\cos \measuredangle(r,p)$ ，得：

$max\cos \measuredangle(r,p) =arc\cos \frac{2\sqrt{\lambda _{1} \lambda _{l}} }{\lambda _{1}+\lambda _{l}}$

由此可到以下结论：

（1) 通常来说，r 和p之间的夹角是不为0的。但当PCA 得到的最大特征值和最小特征值相等时，夹角最大值为0。

（2）两者之间的夹角是有上限的，可得到夹角的最大值，此时特征值的差异是最大的。

（3）如果r是 $X^TX$ 的一个特征向量，即只有一个 $\alpha _{i}$ 不等于0，此时两者夹角也是0。

（4） $\lambda _{i}$ 是相等的，那么久夹角为0。

由以上分析可知：PLS 对X空间的分解取决于X的协方差的椭球化程度（特征值是否差异很大），以及输出Y是否与主要的PCA的得分向量相关。通常来说的特征值的差异是比较大的。如果输出Y与主元分析PCA主要得分比较相关，那么PLS分解与PCA分解是相似的。但如果输出Y和PCA得分中次要的相关，那么PLS分解就和PCA有着很大的差距,X 残差 (E) 中留下的方差可能很大，直接应用 Q 统计量监测 X 残差是有问题的。