“随机向量的线性组合”的方差可以表示为矩阵乘积，背后隐藏的数学原理是什么？

[huzhikuizainali]

截图

[yxd19]

你截图中不就是二维情形下的严格证明吗？

[yxd19]

为方便，假设随机向量 x 满足 Ex=0 。此时，Var(x)=E(xx')。对于任意的向量或者矩阵 c ，由于 E(c'x)=c'Ex=0 ，所以有 Var(c'x) = E(c'xx'c)。再根据 E 的线性性，E(c'xx'c)=c'E(xx')c=c'Var(x)c 。

之所以把 Var(x)定义成 E((x-Ex)(x-Ex)')（而不是像 E((x-Ex)'(x-Ex))之类的东西）是因为 E((x-Ex)(x-Ex)')中包含了随机向量 x 的所有二阶信息。

[huzhikuizainali]

@yxd19 谢谢你的解答。令我很受启发。
关于你的解答推导过程有一点不太理解。
“假设随机向量 x 满足 Ex=0 。此时，Var(x)=E(xx')”-----这里需要明确一下 x=[x1,x2] !因此 xx' 是一个左横右竖的向量乘积形式！。但是根据你的推导。到了“再根据 E 的线性性，E(c'xx'c)=c'E(xx')c=c'Var(x)c ” 此时 xx'还是左横右竖的向量相乘的形式。这样确实得到 Var(x)。可是这就与截图 1 中公式 2-42 不一样了。2-42 Σ是协方差矩阵，而非方差！方差是一个实数而非矩阵。

[huzhikuizainali]

@yxd19 我想明白了，谢谢你的帮助。请问你在哪本书上看到相关内容的，可以分享一下么？

[yxd19]

@huzhikuizainali 有的人把随机向量的协方差矩阵也叫它的方差[1]。具体的书推荐不出来了...

[1] 维基 Covariance_matrix