この章のまとめと試験での出方

2026年10月17日7分で読めますAI生成教科書『資格試験』第14章相関と回帰

AI 生成・木下が未勉強

統計学の復習　第14章 §14.7

この章の量は、ほとんどすべてが $S_{xx},S_{yy},S_{xy}$ の3つから出た。相関係数 $r=S_{xy}/\sqrt{S_{xx}S_{yy}}$ は中心化したベクトルのなす角の余弦で、割り方に依存せず $-1$ と $1$ の間にある。偏相関係数は第三の変数で説明できる分を除いた残りどうしの相関で、層別解析では偏差積和が層内と層間に分かれることから、全体と層の中で相関の向きが逆になる場合が説明できた。回帰直線は平方完成で求まり、傾き $b_1=S_{xy}/S_{xx}$ 、切片 $b_0=\bar y-b_1\bar x$ である。残差は $1$ と $x$ に直交し、 $S_{yy}=S_R+S_e$ 、 $S_e=S_{yy}(1-r^2)$ 、 $R^2=r^2$ が出る。誤差に正規分布を仮定すると、 $b_1$ は重み付き和として $\mathrm N(\beta_1,\sigma^2/S_{xx})$ に従い、 $E[S_e]=(n-2)\sigma^2$ から自由度 $n-2$ が出て、傾きの $t$ 検定・無相関の検定・回帰の $F$ 検定の3つが同じ検定になる。

量	式	自由度・注意
相関係数	$S_{xy}/\sqrt{S_{xx}S_{yy}}$	割り方に依存しない
傾き・切片	$S_{xy}/S_{xx}$ 、 $\bar y-b_1\bar x$	$(\bar x,\bar y)$ を通る
残差平方和	$S_{yy}-S_{xy}^2/S_{xx}=S_{yy}(1-r^2)$	$n-2$
傾きの標準誤差	$\sqrt{V_e/S_{xx}}$	$t_{n-2}$
無相関の検定	$r\sqrt{n-2}/\sqrt{1-r^2}$	$t_{n-2}$ （傾きの $t_0$ と同じ）
回帰の $F$	$S_R/V_e$	$F_{1,n-2}$ 、 $F_0=t_0^2$
$\rho$ の区間	$z\pm z_{\alpha/2}/\sqrt{n-3}$	$n-3$ はこれだけ
重回帰の $\bar R^2$	$1-(1-R^2)(n-1)/(n-p-1)$	残差は $n-p-1$

2級では、5つの和か $S_{xx},S_{yy},S_{xy}$ から相関係数・回帰係数・決定係数を出す問い、統計ソフトの出力（係数・標準誤差・ $t$ 値・ $p$ 値・ $R^2$ ）を読む問い、擬相関・多重共線性・残差プロットの解釈を問う文章の正誤問題が出る。失点は、共分散の割り方の不揃い、自由度 $n-2$ と $n-3$ の取り違え、 $R^2$ から $r$ を戻すときの符号に集中する。

1級の統計数理では、回帰は線形モデル $\bm Y=X\bm\beta+\bm\varepsilon$ として出題される。典型的な小問の連鎖は「最小二乗推定量を導く → 推定量が $Y_i$ の線形結合であることから平均と分散を求める → 残差平方和の期待値から $\sigma^2$ の不偏推定量を作る → $t$ 統計量の分布を示して検定や区間を作る」である。この章の §14.6 の手順はその $p=1$ の場合で、行列で書いた一般の場合と $S_e/\sigma^2\sim\chi^2_{n-p-1}$ の証明は数理統計の解説第9章 §9.1・§9.2 で扱う。統計応用（理工学）では、回帰の分散分析表が実験計画法の分散分析表と同じ形で現れ、 $F=t^2$ の関係が1自由度の要因の検定でそのまま使われる。

次の総合問題は、本章の回帰に、第7章の線形結合の分散、第9章の不偏性、第10章の $t$ 分布をつなぐ。

総合問題　回帰の傾きを、推定量の分布から検定と区間まで組み立てる ★★★

オリジナルある装置の設定値 $x$ と出力 $y$ について $n=10$ 組のデータを取り、 $\bar x=5$ 、 $\bar y=12$ 、 $S_{xx}=40$ 、 $S_{yy}=50$ 、 $S_{xy}=36$ を得た。モデルは $Y_i=\beta_0+\beta_1x_i+\varepsilon_i$ で、 $\varepsilon_i$ は独立に $\mathrm N(0,\sigma^2)$ に従うとする。

(1) 回帰直線を求めよ。（使う道具：本章定理 14.6）
(2) 残差平方和を2通りの形で求め、決定係数と相関係数を求めよ。（使う道具：本章式 (14.16)・定義 14.9）
(3) $b_1=\sum w_iY_i$ と書けることを使い、 $E[b_1]=\beta_1$ 、 $V[b_1]=\sigma^2/S_{xx}$ を示せ。（使う道具：第7章線形結合の分散、本章式 (14.24)）
(4) $H_0:\beta_1=0$ を有意水準 $5\%$ の両側で検定し、 $\beta_1$ の $95\%$ 信頼区間を求めよ（ $t_8(0.025)=2.306$ ）。 $t_0$ を相関係数からも計算して確かめよ。（使う道具：第9章不偏推定量、第10章 $t$ 分布、本章定理 14.12）
(5) $x_0=8$ での $y$ の平均 $\beta_0+8\beta_1$ の $95\%$ 信頼区間を求めよ。（使う道具：本章式 (14.31)）

解答

(1) $b_1=36/40=0.9$ 、 $b_0=12-0.9\times5=7.5$ で、回帰直線は $\hat y=7.5+0.9x$ である。

(2) $S_e=S_{yy}-S_{xy}^2/S_{xx}=50-1296/40=50-32.4=17.6$ 、また $S_e=S_{yy}-b_1S_{xy}=50-0.9\times36=17.6$ である。決定係数は $R^2=S_R/S_{yy}=32.4/50=0.648$ 、相関係数は傾きが正なので $r=+\sqrt{0.648}=0.805$ である（ $36/\sqrt{40\times50}=36/44.72=0.805$ と一致）。

(3) $w_i=(x_i-\bar x)/S_{xx}$ は $\sum w_i=0$ 、 $\sum w_ix_i=1$ 、 $\sum w_i^2=1/S_{xx}$ を満たす。期待値の線形性から

$E[b_1]=\sum w_i(\beta_0+\beta_1x_i)=\beta_0\cdot0+\beta_1\cdot1=\beta_1$

である。 $Y_i$ は独立なので、第7章の線形結合の分散の公式で共分散の項がすべて $0$ になり、

$V[b_1]=\sum w_i^2V[Y_i]=\sigma^2\sum w_i^2=\frac{\sigma^2}{S_{xx}}$

である。

(4) 定理 14.11 から $V_e=17.6/8=2.2$ が $\sigma^2$ の不偏推定値で、 $\mathrm{SE}(b_1)=\sqrt{2.2/40}=\sqrt{0.055}=0.2345$ である。 $t_0=0.9/0.2345=3.838$ で、自由度 $8$ の $t$ 分布の両側 $5\%$ 点 $2.306$ を超えるので、 $H_0$ を棄却する。相関係数からは $t_0=0.805\times\sqrt8/\sqrt{1-0.648}=2.2768/0.5933=3.838$ で一致する。 $\beta_1$ の区間は $0.9\pm2.306\times0.2345=0.9\pm0.541$ で $[\,0.359,\ 1.441\,]$ であり、 $0$ を含まないことが棄却と対応している。

(5) 予測値は $\hat y_0=7.5+0.9\times8=14.7$ である。式 (14.31) の $\sigma^2$ を $V_e$ で置き換えると、標準誤差は

$\sqrt{2.2\left(\frac1{10}+\frac{(8-5)^2}{40}\right)}=\sqrt{2.2\times0.325}=\sqrt{0.715}=0.8456$

で、半幅は $2.306\times0.8456=1.950$ である。区間は $[\,12.75,\ 16.65\,]$ である。 $\hat Y_0-(\beta_0+8\beta_1)$ は正規分布に従い、 $V_e$ と独立（ $V_e$ は $\bar Y$ とも $b_1$ とも独立）なので、標準誤差で割った量は $t_8$ に従う。区間の作り方は (4) と同じである。

木下の勉強ステータス

木下はまだこの記事を勉強していません。

AI（Claude）が書いた教材を、木下が勉強しながら公開しています。式と数値は検算していますが、誤りが残っているかもしれません。誤りのご指摘・削除のご依頼をいただければ直します。連絡先：support@tecktom.com

この記事が含まれている連載

連載AI生成教科書『資格試験』資格試験に向けて、AI（Claude）が出題範囲に沿って書いた教材を、木下が勉強しながら公開しています。257本の記事・木下智貴

← AI生成教科書『資格試験』の記事一覧へ