コクランの定理とその応用

独立な標準正規変数 $Z_1,\dots,Z_n$ の二乗和は、自由度 $n$ の $\chi^2$ 分布に従います。 $$\sum_{i=1}^{n} Z_i^2 \;\sim\; \chi^2_{n}$$ ここで自由度 $n$ は、足し合わせた独立な二乗の個数そのものです。

$\chi^2_{n}$ の期待値は $n$、分散は $2n$ です。これは「自由度＝二乗の本数」という直感とも合います（$E[Z_i^2]=V[Z_i]=1$ を $n$ 個足すので期待値は $n$）。後の数値確認でも、この $E=n$・$V=2n$ を物差しに使います。

全体の二乗和が、$m$ 個の二次形式の和に分解できたとします。 $$\sum_{i=1}^{n} Z_i^2 \;=\; Q_1 + Q_2 + \dots + Q_m$$ それぞれの $Q_j$ には「自由度」$r_j$ が決まります（$Q_j$ が実質いくつの独立な二乗からできているか）。

コクランの定理（要点）：独立な標準正規変数 $Z_1,\dots,Z_n$ の二乗和を $m$ 個の二次形式の和に分けたとする。 $$\sum_{i=1}^{n} Z_i^2 = Q_1 + \dots + Q_m,\qquad Q_j \text{ の自由度を } r_j$$ このとき、自由度の合計がちょうど $n$ に一致する、すなわち $$r_1 + r_2 + \dots + r_m = n$$ が成り立つならば、各 $Q_j$ は独立で、それぞれ $Q_j \sim \chi^2_{r_j}$ に従う。

各点の母平均からのズレを、標本平均を経由して2つに分けます（5-8 の変動分解と同じ発想）。 $$ \begin{aligned} \sum_{i=1}^{n}\left(\frac{X_i-\mu}{\sigma}\right)^2 &= \frac{1}{\sigma^2}\sum_{i=1}^{n}(X_i-\mu)^2 \\[2pt] &= \frac{1}{\sigma^2}\sum_{i=1}^{n}\Big[(X_i-\bar{X}) + (\bar{X}-\mu)\Big]^2 \\[2pt] &= \underbrace{\frac{1}{\sigma^2}\sum_{i=1}^{n}(X_i-\bar{X})^2}_{Q_1} \;+\; \underbrace{\frac{n(\bar{X}-\mu)^2}{\sigma^2}}_{Q_2} \end{aligned} $$ クロス項は $\sum(X_i-\bar{X})=0$ より消えます。左辺は $\chi^2_{n}$（自由度 $n$）。

自由度の足し算は $$n = \underbrace{(n-1)}_{Q_1} + \underbrace{1}_{Q_2}$$ 合計がちょうど $n$ に一致するので、コクランの定理より $Q_1$ と $Q_2$ は独立で、それぞれ $$Q_1=\frac{(n-1)s^2}{\sigma^2}\sim\chi^2_{n-1},\qquad Q_2=\left(\frac{\bar{X}-\mu}{\sigma/\sqrt{n}}\right)^2\sim\chi^2_{1}$$ ここで $Q_1=\dfrac{1}{\sigma^2}\sum(X_i-\bar{X})^2=\dfrac{(n-1)s^2}{\sigma^2}$ を使いました。

この1本の式から、本編で使った2大事実が同時に出ます。
(1) $\dfrac{(n-1)s^2}{\sigma^2}\sim\chi^2_{n-1}$ ── 自由度が $n-1$ なのは、$\bar{X}$ を推定したぶん $1$ を $Q_2$ に取られたから。
(2) $\bar{X}$ と $s^2$ は独立 ── $Q_2$（$\bar{X}$ だけで決まる）と $Q_1$（$s^2$ そのもの）が独立だから。
この独立性こそ、母分散が未知のときの $t$ 統計量 $t=\dfrac{\bar{X}-\mu}{s/\sqrt{n}}$ が $t$ 分布に従う根拠です（分子の正規と分母の $\chi^2$ が独立でないと $t$ 分布にならない）。

総変動・群間変動・群内変動を母分散 $\sigma^2$ で割ると、それぞれ $\chi^2$ になります。 $$\frac{SST}{\sigma^2}=\frac{SSB}{\sigma^2}+\frac{SSW}{\sigma^2}$$ 自由度の足し算は $$\underbrace{(n-1)}_{SST} = \underbrace{(k-1)}_{SSB} + \underbrace{(n-k)}_{SSW}$$ 合計が一致するので、コクランの定理より群間と群内は独立で $$\frac{SSB}{\sigma^2}\sim\chi^2_{k-1},\qquad \frac{SSW}{\sigma^2}\sim\chi^2_{n-k}$$

$$ \begin{aligned} F &= \frac{SSB/(k-1)}{SSW/(n-k)} = \frac{\big(SSB/\sigma^2\big)/(k-1)}{\big(SSW/\sigma^2\big)/(n-k)} \\[4pt] &= \frac{\chi^2_{k-1}/(k-1)}{\chi^2_{n-k}/(n-k)} \;\sim\; F(k-1,\ n-k) \end{aligned} $$ 母分散 $\sigma^2$ は分子・分母で打ち消し合うので、未知のままで構いません。

分散分析の $F$ 比が $F$ 分布に従うためには、群間と群内の平方和が独立な $\chi^2$ である必要があります。その独立性を保証しているのがコクランの定理であり、根拠は $(n-1)=(k-1)+(n-k)$ という自由度の足し算でした。本編で「自由度が縦に足し算でつながる」と確かめたあの検算は、じつはコクランの条件そのものを確認していたのです。