多変量の中心極限定理

$\Rightarrow$ は (13.12) で $h(\bm x)=\bm t^\top\bm x$ としたものである。

$\Leftarrow$ を示す。$\bm t$ を固定する。仮定と命題 13.1 から、1次元の確率変数 $\bm t^\top\bm X_n$ の特性関数の $s=1$ での値が収束する。

$$\varphi_{\bm X_n}(\bm t)=E\bigl[\mathrm{e}^{\mathrm{i}\cdot1\cdot\bm t^\top\bm X_n}\bigr]=\varphi_{\bm t^\top\bm X_n}(1)\to\varphi_{\bm t^\top\bm X}(1)=\varphi_{\bm X}(\bm t).$$

極限 $\varphi_{\bm X}$ は特性関数なので $\bm 0$ で連続である。定理 13.14 から $\bm X_n\xrightarrow{d}\bm X$ である。

$\bm Z\sim\mathrm N_d(\bm0,\Sigma)$ とし、$\bm t\in\mathbb{R}^d$ を固定する。$Y_k=\bm t^\top\bm X_k$ は独立同分布の実数値確率変数で、

$$E[Y_k]=\bm t^\top\bm\mu,\qquad V[Y_k]=E\bigl[(\bm t^\top(\bm X_k-\bm\mu))^2\bigr]=\bm t^\top\Sigma\bm t$$

である。$\bm t^\top\sqrt n(\bar{\bm X}_n-\bm\mu)=\sqrt n(\bar Y_n-\bm t^\top\bm\mu)$ と書ける。

分散 $\bm t^\top\Sigma\bm t$ が正か 0 かで分ける。

• $\bm t^\top\Sigma\bm t>0$ のとき。定理 13.10 と定数倍の連続写像から

$$\frac{\sqrt n(\bar Y_n-\bm t^\top\bm\mu)}{\sqrt{\bm t^\top\Sigma\bm t}}\xrightarrow{d}\mathrm N(0,1),\qquad \sqrt n(\bar Y_n-\bm t^\top\bm\mu)\xrightarrow{d}\mathrm N(0,\bm t^\top\Sigma\bm t)$$

である。

• $\bm t^\top\Sigma\bm t=0$ のとき。$Y_k=\bm t^\top\bm\mu$ がほとんど確実に成り立つ。したがって左辺は恒等的に 0 であり、$\mathrm N(0,0)$（定数 0）に収束する。

どちらの場合も、極限は $\bm t^\top\bm Z\sim\mathrm N(0,\bm t^\top\Sigma\bm t)$ の分布である。$\bm t$ は任意なので、定理 13.15 から結論を得る。

$\bm e_j$ を第 $j$ 成分だけが 1 の単位ベクトルとする。各回の試行で起きた結果を単位ベクトルで表し、$m$ 回目のものを $\bm\xi_m$ と書く。結果が $j$ のときは $\bm\xi_m=\bm e_j$ である。

$\bm\xi_m$ は独立同分布で、$(N_1,\dots,N_k)^\top=\sum_{m=1}^n\bm\xi_m$ である。平均は $E[\bm\xi_m]=\bm p=(p_1,\dots,p_k)^\top$ である。$\xi^{(i)}\xi^{(j)}=\delta_{ij}\xi^{(i)}$ だから

$$\Sigma=E[\bm\xi\bm\xi^\top]-\bm p\bm p^\top=\mathrm{diag}(\bm p)-\bm p\bm p^\top$$

である。定理 13.16 から次が成り立つ。

$$\bm W_n=\sqrt n\Bigl(\frac{\bm N}n-\bm p\Bigr)\xrightarrow{d}\bm W\sim\mathrm N_k(\bm0,\Sigma)$$

$D=\mathrm{diag}(p_1^{-1/2},\dots,p_k^{-1/2})$ と置くと $Q_n=\left\vert D\bm W_n\right\vert ^2$ である。$\bm x\mapsto\left\vert D\bm x\right\vert ^2$ は連続なので、(13.12) から $Q_n\xrightarrow{d}\left\vert D\bm W\right\vert ^2$ である。

$D\bm W$ の分布は $\mathrm N_k(\bm0,D\Sigma D)$ である。$\bm u=(\sqrt{p_1},\dots,\sqrt{p_k})^\top$ と置くと、$D\Sigma D=I-\bm u\bm u^\top$ である。

$\left\vert \bm u\right\vert ^2=\sum p_j=1$ なので、$\Pi=I-\bm u\bm u^\top$ は直交射影である。像は $\bm u$ に直交する $(k-1)$ 次元部分空間である。とくに $\Pi^\top=\Pi=\Pi^2$ を満たす。

$\bm u_1,\dots,\bm u_{k-1},\bm u$ を正規直交基底とし、$\bm G\sim\mathrm N_k(\bm0,I)$ をとる。$\Pi\bm G$ の共分散は $\Pi I\Pi^\top=\Pi$ である。多変量正規の分布は共分散で決まるので（第9章）、$D\bm W\overset d=\Pi\bm G$ である。

$\Pi\bm G$ は次のように展開できる。

$$\Pi\bm G=\sum_{i=1}^{k-1}(\bm u_i^\top\bm G)\bm u_i$$

係数の組 $(\bm u_1^\top\bm G,\dots,\bm u_{k-1}^\top\bm G)$ は共分散が単位行列の多変量正規なので、独立な $\mathrm N(0,1)$ である。したがって

$$\left\vert D\bm W\right\vert ^2\overset d=\left\vert \Pi\bm G\right\vert ^2=\sum_{i=1}^{k-1}(\bm u_i^\top\bm G)^2\sim\chi^2_{k-1}$$

である（独立な標準正規の2乗の和。第9章 §9.3 のカイ二乗分布の再生性）。