偏相関係数と層別解析

統計学の復習　第14章 §14.2　★★ 第三の変数 $z$ の1次式で説明できる分を $x$ と $y$ から引き、残りどうしの相関を測ると偏相関係数になる。層に分けると、層の中と層の間の偏差積和が足し合わさって全体の偏差積和になる

擬相関

市町村ごとのデータで、書店の数 $x$ と救急車の出動件数 $y$ の相関係数を計算すると、大きな正の値になる。書店が救急の需要を生むわけではない。人口 $z$ の大きい市町村ほど書店も出動件数も多いので、$z$ を通して $x$ と $y$ がそろって動いているだけである。このように、直接の関係がない2つの変数に、両方と関係する第三の変数のために相関が現れる現象を擬相関（見かけの相関）と呼び、その第三の変数を交絡因子と呼ぶ。

偏相関係数の定義と公式

$z$ の影響を取り除くには、$x$ のうち $z$ の1次式で説明できる部分を引き、$y$ についても同じことをして、残りどうしの相関を測ればよい。$x$ の偏差 $u_i=x_i-\bar x$ から $z$ の偏差 $w_i=z_i-\bar z$ の定数倍 $cw_i$ を引いた残り $u_i-cw_i$ を、2乗和が最小になるように選ぶ。$\sum(u_i-cw_i)^2=S_{xx}-2cS_{xz}+c^2S_{zz}$ を $c$ について平方完成すると

$$S_{zz}\Bigl(c-\frac{S_{xz}}{S_{zz}}\Bigr)^2+S_{xx}-\frac{S_{xz}^2}{S_{zz}}$$

なので、最小にする $c$ は $S_{xz}/S_{zz}$ である。この $c$ は §14.3 で $x$ を $z$ に回帰したときの傾きとして再び現れる。残りを

$$e^{x}_i=(x_i-\bar x)-\frac{S_{xz}}{S_{zz}}(z_i-\bar z),\qquad e^{y}_i=(y_i-\bar y)-\frac{S_{yz}}{S_{zz}}(z_i-\bar z)\tag{14.5}$$

と書く。

証明

式 (14.5) を展開する。$c_x=S_{xz}/S_{zz}$、$c_y=S_{yz}/S_{zz}$ とすると

$$\sum e^x_ie^y_i=S_{xy}-c_yS_{xz}-c_xS_{yz}+c_xc_yS_{zz}=S_{xy}-\frac{S_{xz}S_{yz}}{S_{zz}}$$

である（後ろの3項はどれも $\pm S_{xz}S_{yz}/S_{zz}$ で、$-1-1+1$ の係数をまとめた）。同じ計算で

$$\sum(e^x_i)^2=S_{xx}-\frac{S_{xz}^2}{S_{zz}}=S_{xx}(1-r_{xz}^2),\qquad \sum(e^y_i)^2=S_{yy}(1-r_{yz}^2)$$

となる。分子と分母を $\sqrt{S_{xx}S_{yy}}$ で割ると、分子は $r_{xy}-\dfrac{S_{xz}}{\sqrt{S_{xx}S_{zz}}}\dfrac{S_{yz}}{\sqrt{S_{yy}S_{zz}}}=r_{xy}-r_{xz}r_{yz}$ になり、分母は $\sqrt{(1-r_{xz}^2)(1-r_{yz}^2)}$ になる。

式 (14.6) の分子は、$x$ と $y$ の相関から「$z$ を経由した分」$r_{xz}r_{yz}$ を引いた量である。$r_{xy}$ が大きくても $r_{xz}r_{yz}$ がほぼ同じ大きさなら、$r_{xy\cdot z}$ は $0$ に近くなり、$x$ と $y$ の相関の大部分は $z$ で説明されると判断する。偏相関係数も相関係数なので $-1$ 以上 $1$ 以下である（定義 14.4 の $e^x,e^y$ に定理 14.3 を当てはめればよい）。

層別解析

データが性質の違う複数のグループ（層）から成るとき、層を区別して描いた散布図（層別した散布図）を見ると、全体の散布図とは違う関係が見えることがある。層ごとに相関や回帰を計算することを層別解析と呼ぶ。

層が $A,B$ の2つで、それぞれ $n_A,n_B$ 個の点があり、層の平均が $(\bar x_A,\bar y_A)$、$(\bar x_B,\bar y_B)$、全体の平均が $(\bar x,\bar y)$ であるとする。全体の偏差を $x_i-\bar x=(x_i-\bar x_A)+(\bar x_A-\bar x)$（$i$ が層 $A$ のとき）と分けると、$\sum_{i\in A}(x_i-\bar x_A)=0$ なので交差項が消え、

$$S_{xy}=\underbrace{S^{A}_{xy}+S^{B}_{xy}}_{\text{層内}} +\underbrace{n_A(\bar x_A-\bar x)(\bar y_A-\bar y)+n_B(\bar x_B-\bar x)(\bar y_B-\bar y)}_{\text{層間}}\tag{14.7}$$

となる。$S^A_{xy}$ は層 $A$ の中だけで計算した偏差積和である。$S_{xx}$ についても同じ分解が成り立つ（第2章 確認テスト 2.5-5 の3群の分解と同じ計算である）。層内の項が負でも、層の平均どうしが右上がりに並んでいれば層間の項が正で大きくなり、全体の $S_{xy}$ は正になりうる。全体の相関と層の中の相関の向きが逆になる現象を Simpson のパラドックスと呼ぶ。

確認テスト

オリジナル

1. 14.2-1 $r_{xy}=0.70$ で $r_{xy\cdot z}=0.05$ であった。$x$ と $y$ の関係についてどう解釈するか、1文で答えよ。
2. 14.2-2 $r_{xy}=0.5$、$r_{xz}=0.6$、$r_{yz}=0.7$ のとき、$r_{xy\cdot z}$ を小数第3位まで求めよ。
3. 14.2-3 $r_{xz}=0$ のとき $\lvert r_{xy\cdot z}\rvert \ge\lvert r_{xy}\rvert$ であることを示し、$r_{xy}=0.3$、$r_{yz}=0.8$、$r_{xz}=0$ のときの $r_{xy\cdot z}$ を求めよ。$z$ を取り除くと相関が強く見える理由を、$y$ の散らばりのうち $z$ で説明される分から説明せよ。
4. 14.2-4 式 (14.7) を、交差項が消えることを示して導け。