前言
之前在某个参数估计的无偏性证明上犯了蠢,本来是只要代入正态均值的期望就可以得到结论,我却钻入了牛角尖,到最后想要证明逆Wishart分布的期望。虽然对于解题已经没有意义,既然已经查了资料,就稍微研究一下,我在Wikipedia上找到了结果,但是没有找到相关的证明。最后在T. W. Anderson的《An Introduction to Multivariate Statistical Analysis》的P273-274上找到了证明。虽然这个证明很简短,但是因为我对高代实在是不够熟练,还是花了我很长时间去理解。
证明
定理 设A∼Wp(n,Σ)A∼Wp(n,Σ),那么EA−1=1n−p−1Σ−1EA−1=1n−p−1Σ−1.
证明 考虑B∼Wp(n,I)B∼Wp(n,I),那么Bd=X‘XBd=X‘X,其中XX是来自Np(0,I)Np(0,I)的n×pn×p数据阵,那么由于XX的每一行都是独立同分布的正态向量,可知EB−1EB−1的对角元全相同,非对角元也全相同(这里确实不太好理解,但是也只能好好理解一下了……),于是设EB−1=k1I+k2ϵϵ′EB−1=k1I+k2ϵϵ′,其中ϵ=(1,…,1)′ϵ=(1,…,1)′。
考虑任意正交矩阵QQ,有QBQ′∼Wp(n,I)QBQ′∼Wp(n,I),于是EB−1=E(QBQ′)−1=QEB−1Q′EB−1=E(QBQ′)−1=QEB−1Q′,代入得k2ϵϵ′=k2Qϵϵ′Q′k2ϵϵ′=k2Qϵϵ′Q′,如果k2≠0k2≠0,那么有ϵϵ′=Qϵϵ′Q′ϵϵ′=Qϵϵ′Q′对任意正交矩阵QQ成立,注意到ϵϵ′ϵϵ′是全1矩阵,这是不可能的,(这里可以取QQ为证明正态样本均值与方差独立时用到的矩阵矩阵,或者其他的,只要找出一个元素不同即可),从而k2=0k2=0,进而EB−1=k1IEB−1=k1I。
此时只需要考虑BB的对角元。事实上,它的每一个对角元的逆都服从χ2n−p+1χ2n−p+1(见张润楚《多元统计分析》定理2.2.11),而E(χ2n−p+1)−1=(n−p−1)−1E(χ2n−p+1)−1=(n−p−1)−1,从而EB−1=(n−p−1)−1IEB−1=(n−p−1)−1I。
而对于一般的AA,存在CC使得Σ=CC′Σ=CC′,从而有Ad=CBC′Ad=CBC′,进而EA−1=E(CBC′)−1=(C′)−1EB−1C−1=1n−p−1(CC′)−1=1n−p−1Σ−1EA−1=E(CBC′)−1=(C′)−1EB−1C−1=1n−p−1(CC′)−1=1n−p−1Σ−1。
一些补充
有关QQ的选择
只要取 Q=(1√n1√n1√n…1√n1√2−1√20…01√2⋅31√2⋅3−1√2⋅3…0⋮⋮⋮⋮1√(n−1)n1√(n−1)n1√(n−1)n…−1√(n−1)n),Q=⎛⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜⎝1√n1√n1√n…1√n1√2−1√20…01√2⋅31√2⋅3−1√2⋅3…0⋮⋮⋮⋮1√(n−1)n1√(n−1)n1√(n−1)n…−1√(n−1)n⎞⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟⎠, 并注意到第一行的元素和为√n√n,第nn列的元素和为√n−1−1√n(n−1)√n−1−1√n(n−1),就可以得到Qϵϵ′≠ϵϵ′QQϵϵ′≠ϵϵ′Q。
有关χ2χ2分布的逆
最开始直接的想法是FF分布的期望与分子无关,那么可以直接得到E(χ2n)−1=1n−2E(χ2n)−1=1n−2,但仔细一想这样直接过来还是有点问题。网上看到可以考虑其推广逆ΓΓ分布的期望,但是总觉得这样有点杀鸡用牛刀,还是更希望用我自己学过的内容来解决。
在查阅资料的时候了解到一些知识,这个分布的期望直接求密度函数再用定义就可以求出,我稍微算了一下,打公式太麻烦就不写了。但对于更一般的情况,我了解到一些比如非中心的分布的期望,一般正态二次型的期望,非中心Wishart分布的期望,我打算学习之后再写一篇笔记。