期待値 — 定義と線形性の導出
3級では「期待値＝重み付き平均」って習ったよね。2級では、その期待値が持つ「線形性」という超便利な性質を、ちゃんと式で証明していくよ。暗記じゃなくて、紙とペンで追えるようになるのが目標！
1. 期待値の定義（直感）
まず出発点となる定義を、3級の復習も兼ねて固めます。いきなり式を見る前に、サイコロで感覚をつかみましょう。公平なサイコロを何回も振って出目を平均すると、どのくらいの値に落ち着くでしょうか。
出目は $1$ から $6$ で、どれも確率 $\dfrac16$。「値 × その確率」を全部足すと $$ \begin{aligned} &1\times\frac16+2\times\frac16+3\times\frac16\\[2pt] &\quad+4\times\frac16+5\times\frac16+6\times\frac16=\frac{21}{6}=3.5 \end{aligned} $$ この $3.5$ が、サイコロの出目の期待値です。実際に $3.5$ の目が出ることはありませんが、「たくさん振ったときの平均はここに落ち着く」という値です。
つまり期待値とは、確率変数の「確率を重みにした平均」であり、分布の重心にあたる値です。いまの計算をそのまま記号で書いたのが、次の定義式です。離散と連続で式の見た目は変わりますが、考え方は同じ「値 × 確率（密度）を足し集める」です。
離散型：確率変数 $X$ が値 $x_1, x_2, \dots, x_n$ をそれぞれ確率 $p_1, p_2, \dots, p_n$ で取るとき $$E[X] = \sum_{i=1}^{n} x_i\, p_i$$ 連続型：確率密度関数を $f(x)$ とするとき $$E[X] = \int_{-\infty}^{\infty} x\, f(x)\, dx$$
読み方：$E[X]$ は「イー・エックス」、意味は「$X$ の期待値」。$E$ は expectation（期待値）の頭文字です。右辺は「$i$ 番目の値 $x_i$ に、その確率 $p_i$ を掛けて、$i=1$ から $n$ まで足す」。サイコロなら $n=6$、$x_i=i$、$p_i=\dfrac16$ で、さきほどの計算そのものです。
離散の $\sum$ が連続では $\int$ に、確率 $p_i$ が密度 $f(x)\,dx$ に置き換わっただけです。以降の導出は離散型（$\sum$）で示しますが、$\sum$ を $\int$ に読み替えればそのまま連続型でも成り立ちます。途中で使う性質は和（積分）の線形性だけだからです。
なぜ「線形性」を導出したいのか
統計学では、$X$ そのものよりも $aX+b$ や $X+Y$ のように確率変数を組み合わせた量の期待値が知りたくなる場面がたくさんあります。たとえば標本平均 $\bar{X}=\frac{1}{n}\sum X_i$ の期待値ですね。
これを毎回、定義式に戻って計算するのはけっこう大変。でも「期待値はバラバラに分けられる」とわかっていれば、あとは流れ作業で計算できます。だから、まずこの性質を証明しておきたいのです。
2. 準備：関数 $g(X)$ の期待値
線形性を導く前に、ひとつだけ道具を用意します。$X$ そのものではなく、$X$ を加工した量の期待値です。たとえばサイコロの出目 $X$ に対して「出目の2倍に1を足した金額 $2X+1$ 円がもらえる」ゲームを考えます。もらえる金額の期待値はいくらでしょうか。
やることは §1 と同じで、「もらえる金額 × その確率」を足すだけです。出目ごとの金額を表にすると次のとおり。
| 出目 $x$ | 1 | 2 | 3 | 4 | 5 | 6 |
|---|---|---|---|---|---|---|
| 金額 $2x+1$ | 3 | 5 | 7 | 9 | 11 | 13 |
| 確率 $p$ | 1/6 | 1/6 | 1/6 | 1/6 | 1/6 | 1/6 |
$$E[2X+1]=\frac{3+5+7+9+11+13}{6}=\frac{48}{6}=8$$ 出目の期待値 $3.5$ を2倍して1を足した $2\times3.5+1=8$ と一致していますね。これが §3 で証明する「線形性」の正体です。
いま使った「出目を金額に変える」規則を、一般に $X$ の関数 $g(X)$ と書きます（上の例なら $g(X)=2X+1$）。$g(X)$ もまた確率変数なので期待値を持ちますが、わざわざ $g(X)$ の分布を求め直さなくても、次のように $X$ の分布のまま計算できます。
$$E[g(X)] = \sum_{i=1}^{n} g(x_i)\, p_i$$ $X$ が取りうる各値 $x_i$ に $g$ を通した値 $g(x_i)$ を、もとの確率 $p_i$ で重み付けして足す、というだけです。
読み方：$g(X)$ は「ジー・エックス」で「$X$ の関数」、$E[g(X)]$ は「$g(X)$ の期待値」。右辺は「$x_i$ を $g$ に通した値に、確率 $p_i$ を掛けて足す」。上の表でいえば、金額の行と確率の行を掛けて足したことに当たります。
これは「無意識の統計家の法則（LOTUS）」と呼ばれる関係です。直感的には、$X=x_i$ が起きる確率は $p_i$ のまま変わらず、そのとき $g(X)$ が取る値が $g(x_i)$ になるだけ、と考えれば自然です。
この道具を使うと、$g(X)=aX+b$ とおくだけで線形変換の期待値が一気に出ます。
3. 定数倍と定数の足し算：$E[aX+b]=aE[X]+b$（導出★）
ここからが本ページの山場です。§2 のサイコロの例では $E[2X+1]=2\times E[X]+1$ が成り立っていました。これが $2$ と $1$ に限らず、どんな定数 $a,\,b$ でも成り立つことを示します。$E[aX+b]$ は「イー・エー・エックス・プラス・ビー」と読み、意味は「$X$ を $a$ 倍して $b$ を足した量の期待値」です。
導出
$$ \begin{aligned} E[aX+b] &= \sum_{i=1}^{n} (a x_i + b)\, p_i &&\text{(1)}\\[2pt] &= \sum_{i=1}^{n} \big(a x_i p_i + b p_i\big) &&\text{(2)}\\[2pt] &= a\sum_{i=1}^{n} x_i p_i + b\sum_{i=1}^{n} p_i &&\text{(3)}\\[2pt] &= a\,E[X] + b\cdot 1 &&\text{(4)}\\[2pt] &= a\,E[X] + b \end{aligned} $$
各行でやっていることを言葉にすると、次のとおりです。
- (1) §2 の公式に $g(x_i)=ax_i+b$ を当てはめる。「$ax_i+b$ という値に、確率 $p_i$ を掛けて足す」。
- (2) カッコを開いて、$a x_i p_i$ と $b p_i$ の2つの項に分ける。
- (3) 足し算を2つの $\sum$ に分け、$i$ によらない定数 $a$ と $b$ を $\sum$ の外に出す。
- (4) 左の $\sum x_i p_i$ は期待値 $E[X]$ の定義そのもの。右の $\sum p_i$ は確率の合計なので $1$。
使った前提は2つだけです。ひとつは和の線形性（足し算とスカラー倍は $\sum$ の外に出せる）、もうひとつは確率の総和が1（$\sum_{i=1}^{n} p_i = 1$）という確率分布の大原則。
この2つ目が、定数 $b$ がそのまま残る理由です。$b$ は全ての結果に等しく上乗せされるので、確率全体（合計1）で平均しても $b$ のまま、というわけです。
$$E[aX+b] = a\,E[X] + b$$ 特別な場合として、$a=0$ なら $E[b]=b$（定数の期待値はその定数）、$b=0$ なら $E[aX]=aE[X]$（定数倍は外に出せる）。
4. 和の期待値：$E[X+Y]=E[X]+E[Y]$（導出★・最重要）
次は、2つの確率変数 $X$ と $Y$ の和です。ここが線形性のいちばん大事なところ。$X$ と $Y$ が独立でなくても成り立つ。この事実を、式でしっかり確かめます。そのために、$X$ と $Y$ を同時に見る同時分布からスタートします。
準備：同時分布と周辺分布
小さな例で見ます。コインを2枚投げ、1枚目が表なら $X=1$、裏なら $X=0$ とします。$Y$ のほうは少し細工をして、「2枚とも表なら $Y=1$、それ以外は $Y=0$」とします。$X$ と $Y$ には明らかに関係があります（$X=0$ なら必ず $Y=0$）。4通りの出方はどれも確率 $\dfrac14$ なので、$X$ と $Y$ の値の組み合わせごとの確率は次の表になります。
| $Y=0$ | $Y=1$ | 行の合計 | |
|---|---|---|---|
| $X=0$ | 2/4 | 0 | 2/4 |
| $X=1$ | 1/4 | 1/4 | 2/4 |
| 列の合計 | 3/4 | 1/4 | 1 |
表の中身の4マスが同時分布です。$X$ が値 $x_i$、$Y$ が値 $y_j$ を「同時に」取る確率を $p_{ij}=P(X=x_i,\,Y=y_j)$ と書きます。右端の「行の合計」を見ると $P(X=0)=\dfrac24$、$P(X=1)=\dfrac24$ で、これは $X$ 単独の分布です。同じく下端の「列の合計」は $Y$ 単独の分布。このように表の端（周辺）に出てくる分布を周辺分布と呼びます。
周辺分布（$Y$ について足し集めると $X$ の分布に戻る）： $$P(X=x_i) = \sum_{j} p_{ij}, \qquad P(Y=y_j) = \sum_{i} p_{ij}$$ この関係は独立性とは無関係に、つねに成り立ちます。
読み方：$p_{ij}$ は「ピー・アイ・ジェー」で、表の $i$ 行 $j$ 列のマスの確率。$\sum_{j} p_{ij}$ は「$j$ を動かして足す」、つまり $i$ 行目を横に足して行の合計を出すこと。$\sum_{i} p_{ij}$ は $j$ 列目を縦に足して列の合計を出すことです。
導出
まず上の表で、$E[X+Y]$ を定義どおり計算してみます。和 $X+Y$ はマスごとに $x_i+y_j$ という値を取り、その確率は $p_{ij}$ です。「値 × 確率」を4マス分足すと $$ \begin{aligned} E[X+Y] &= (0+0)\times\frac24+(0+1)\times 0\\[2pt] &\quad+(1+0)\times\frac14+(1+1)\times\frac14=\frac34 \end{aligned} $$ 一方、周辺分布から $E[X]=1\times\dfrac24=\dfrac12$、$E[Y]=1\times\dfrac14=\dfrac14$ で、足すと $\dfrac34$。関係のある $X,\,Y$ でも $E[X+Y]=E[X]+E[Y]$ になっています。
これがいつでも成り立つことを、一般の形で示します。和 $X+Y$ も2変数の関数なので、§2 の考え方を2変数に広げ、同時確率 $p_{ij}$ を重みにして「$x_i+y_j$」を足し集めます。
$$ \begin{aligned} E[X+Y] &= \sum_{i}\sum_{j} (x_i + y_j)\, p_{ij} &&\text{(1)}\\[2pt] &= \sum_{i}\sum_{j} x_i p_{ij} \;+\; \sum_{i}\sum_{j} y_j p_{ij} &&\text{(2)}\\[2pt] &= \sum_{i} x_i \Big(\sum_{j} p_{ij}\Big) \;+\; \sum_{j} y_j \Big(\sum_{i} p_{ij}\Big) &&\text{(3)}\\[2pt] &= \sum_{i} x_i\, P(X=x_i) \;+\; \sum_{j} y_j\, P(Y=y_j) &&\text{(4)}\\[2pt] &= E[X] + E[Y] \end{aligned} $$
- (1) 同時分布で期待値を定義する。$\sum_i\sum_j$（二重和、「シグマ・アイ・シグマ・ジェー」）は「表の全マスについて足す」の意味です。
- (2) $(x_i+y_j)\,p_{ij}$ を $x_i p_{ij}$ と $y_j p_{ij}$ に分け、和も2つに分ける。
- (3) 左の和で $x_i$ は $j$ に関係ないので $\sum_j$ の外へ。右の和で $y_j$ は $i$ に関係ないので $\sum_i$ の外へ。
- (4) カッコの中は周辺分布（行の合計・列の合計）。すると §1 の定義そのままの形になり、$E[X]$ と $E[Y]$ が現れる。
導出のどこにも「独立」という仮定は登場していません。使ったのは、和を分けられること（線形性）と、同時分布を片側で足すと周辺分布に戻ること、の2つだけ。だから $E[X+Y]=E[X]+E[Y]$ は、$X$ と $Y$ がどんなに関連し合っていても無条件で成り立ちます。独立性が要るのは、後で学ぶ分散の和（2-5c）や、$E[XY]=E[X]E[Y]$ のときです。ここを混同しないことが2級の頻出ポイントです。
「期待値の和は無条件、分散の和は独立が必要」。ここ、試験でめちゃくちゃ狙われるよ！ $E[X+Y]$ は仲が良かろうが悪かろうが必ず分解できる。でも $V[X+Y]$ は、2人が独立じゃないと $V[X]+V[Y]$ にならないの。今のうちにセットで覚えておこう！
5. 一般化：線形性のまとめ
§3 と §4 を組み合わせると、定数倍と和をいくらでも繰り返せます。確率変数 $X_1, X_2, \dots, X_n$ と定数 $a_1, a_2, \dots, a_n$ について、次が成り立ちます。
$$E\!\left[\sum_{i=1}^{n} a_i X_i\right] = \sum_{i=1}^{n} a_i\, E[X_i]$$ これが期待値の線形性です。$E[aX+b]=aE[X]+b$ と $E[X+Y]=E[X]+E[Y]$ を一般化したもので、どの $X_i$ どうしの関係（独立かどうか）にもよりません。
読み方：左辺は「$a_1X_1+a_2X_2+\cdots+a_nX_n$ の期待値」、右辺は「$a_1E[X_1]+a_2E[X_2]+\cdots+a_nE[X_n]$」。言葉にすると「定数倍と足し算でできた式の期待値は、$E$ を各項に配って、定数はそのまま外に出せる」です。
6. 結論と使いどころ
導いた線形性が、実際の場面でどう効くかを数値例で確認します。まずは線形変換から。
ある試験の素点 $X$ が $E[X]=58$ 点だったとします。これを $Y = 1.2X + 10$ で換算した点 $Y$ の期待値は？
$$ \begin{aligned} E[Y] &= E[1.2X + 10] = 1.2\,E[X] + 10\\[2pt] &= 1.2 \times 58 + 10 = 79.6 \end{aligned} $$ 答えは $79.6$ 点です。
$Y$ の分布を作り直す必要はなく、$E[X]$ さえ分かれば一発です。これが線形性のご利益です。
サイコロを2個振り、出目を $X,\,Y$ とします。合計 $X+Y$ の期待値は？ 1個の期待値は $E[X]=E[Y]=3.5$ なので、
$$E[X+Y] = E[X] + E[Y] = 3.5 + 3.5 = 7$$
2個のサイコロは独立ですが、ここでは独立性は使っていません。仮に「2個の出目が必ず同じになる細工サイコロ」でも、各々の期待値が $3.5$ なら合計の期待値はやはり $7$ です。
同じ母集団から無作為に取った $X_1,\dots,X_n$ がいずれも $E[X_i]=\mu$ をみたすとき、標本平均 $\bar{X}=\frac{1}{n}\sum_{i=1}^{n} X_i$ の期待値は？ （$\mu$ は「ミュー」で母平均、$\bar{X}$ は「エックス・バー」で標本平均を表す記号です。）
$$E[\bar{X}] = E\!\left[\frac{1}{n}\sum_{i=1}^{n} X_i\right] = \frac{1}{n}\sum_{i=1}^{n} E[X_i] = \frac{1}{n}\cdot n\mu = \mu$$
標本平均の期待値が母平均 $\mu$ に一致する。これは第3章「不偏性」の核心ですが、その証明は線形性ひとつで済んでしまいます。今日の山場がそのまま後の章の土台になる、という好例です。
試験で複雑な確率変数の期待値を聞かれたら、まず線形性でバラすのが鉄板の第一手です。合言葉は「定数倍は外に、足し算の定数はそのまま、和はバラバラに」。しかも独立かどうかを気にしなくていい。この身軽さこそ、期待値が推定や検定のあちこちで大活躍する理由なんです。
7. 記号の読み方まとめ
このページで出てきた記号を一覧にしておきます。講座で読み上げるときや、あとで見返すときの早見表として使ってください。
| 記号 | 読み方 | 意味 |
|---|---|---|
| $E[X]$ | イー・エックス | $X$ の期待値（確率を重みにした平均） |
| $\displaystyle\sum_{i=1}^{n} x_i\,p_i$ | シグマ・エックス・アイ・ピー・アイ | 値 × 確率 を全部足す。$E[X]$ の中身 |
| $g(X)$ | ジー・エックス | $X$ を加工した量（$X$ の関数）。例：$2X+1$ |
| $a,\ b$ | エー、ビー | 定数（確率で変わらない、決まった数） |
| $E[aX{+}b]$ | イー・エー・エックス・プラス・ビー | $X$ を $a$ 倍して $b$ を足した量の期待値 |
| $p_{ij}$ | ピー・アイ・ジェー | 同時分布。$X=x_i$ かつ $Y=y_j$ となる確率（表の $i$ 行 $j$ 列） |
| $\displaystyle\sum_{i}\sum_{j}$ | シグマ・アイ・シグマ・ジェー（二重和） | 表の全マスについて足す |
| $\displaystyle\sum_{j} p_{ij}$ | シグマ・ジェー・ピー・アイ・ジェー | $i$ 行目を横に足す。周辺分布 $P(X=x_i)$ |
| $\mu$ | ミュー | 母平均（母集団の期待値） |
| $\bar{X}$ | エックス・バー | 標本平均。$X_1,\dots,X_n$ を足して $n$ で割ったもの |
この章の理解度チェック
答えを開く前に、必ずノートに手で書いてください。書いてから答え合わせをすることで、試験本番でも同じ判断がすぐにできるようになります。
Q1期待値とはどんな平均でしょうか？ 公平なサイコロの出目の期待値とあわせて答えてください。
Q2サイコロの出目を X とするとき、E[2X+1] を線形性を使って求めてください。
Q3E[aX+b]=aE[X]+b の導出で使っている前提は2つです。何と何でしょうか？
Q4E[X+Y]=E[X]+E[Y] が成り立つために、X と Y の独立は必要でしょうか？ 分散の和の場合とあわせて答えてください。
Q5同じ母集団から取った X₁, …, Xₙ の標本平均の期待値はいくつでしょうか？ 線形性を使って示してください。
次回 2-5b 分散 では、ばらつきの指標 $V[X]$ を定義し、計算でよく使う $V[X]=E[X^2]-(E[X])^2$ を導出します。今日の「$g(X)$ の期待値」と「線形性」が、さっそく分散の式変形で活躍します。
線形性、導出までしっかり追えたね！ 「期待値は無条件でバラせる」が今日の合言葉。次は分散だよ。期待値の道具をそのまま使うから、今日のうちに $E[aX+b]$ の導出を一度自分の手で書いてみてね！
このページに出てきた重要キーワードです。ページを閉じる前に、声に出しながら紙に手で書いてみてください。手を動かすと、読むだけの何倍も速く記憶に定着します。
- 期待値
- 離散型
- 連続型
- 同時分布
- 周辺分布
- 分散
- 期待値の線形性
- E[aX+b]=aE[X]+b
- E[X+Y]=E[X]+E[Y]