白化的目的:
白化是一种重要的预处理过程,其目的就是降低输入数据的冗余性,使得经过白化处理的输入数据具有如下性质:
(i) 特征之间相关性较低,使数据的不同维度去相关;
(ii) 所有特征具有相同的方差,使数据每个维度的方差为1.
条件1要求数据的协方差矩阵是个对角阵;条件2要求数据的协方差矩阵是个单位矩阵。
为什么使用白化
假设训练数据是图像,由于图像中相邻像素之间具有很强的相关性,所以用于训练时输入是冗余的。白化的目的就是降低输入的冗余性。
因为这目前不是我关注的重点,所以没有深入探讨。希望后面有空可以补充。
更多细节可参考:
PCA白化,ZCA白化
白化(Whitening) PCA白化 ZCA白化
深度学习——白化
白化(Whitening) PCA白化 ZCA白化
白化(Whitening):PCA vs. ZCA