前回、散布図に1本の直線を引く「回帰分析」の考え方を学びました。
でも、素朴な疑問が浮かびます。その直線は、どうやって決まるのでしょう？
散布図の点に対して、直線の引き方はいろいろ考えられます。
傾きや位置がすこしずつ違う直線を、いくらでも思いつけますね。
このなかから「いちばん良い1本」を選ぶには、判断のルールが必要です。
良い直線とは、すべての点にできるだけ近い直線のことです。
点と直線がぴったり重なれば完璧ですが、実際にはまず起こりません。
そこで目指すのは「点と直線のズレが、なるべく小さくなる直線」です。
このズレのことを、専門用語で「残差」（ざんさ）と呼びます。
残差は、1つのデータにつき1つ決まります。
勉強時間とテスト点数の例で、回帰直線がY＝8X＋40だとします。
勉強時間2時間の予測点数は8×2＋40＝56点。実際は59点でした。
残差は59−56＝＋3点。実際の点数が予測より高かったということです。
別の生徒は勉強時間7時間で、予測は96点、実際は93点でした。
残差は93−96＝−3点。実際の点数が予測より低かったということです。
点が直線より上にあれば残差はプラス（実際のY＞予測のY）です。
点が直線より下にあれば残差はマイナス（実際のY＜予測のY）になります。
点が直線上にぴったり乗れば、残差は0。予測が的中したということです。
ここで、第3章の「偏差」を思い出しませんか？
偏差も「実際の値と平均との差」で、プラスにもマイナスにもなりました。
残差と偏差は、発想がとてもよく似ています。
さえ「いちばん良い直線って何？」って素朴に考えるのが大事！数式より先に、基準を言葉で押さえようね。
残差は「点と直線の縦方向の距離」。これを全データで小さくするのが最小二乗法のゴールです。
さえ残差にプラスとマイナス、両方あるのがポイントだよ。次は「なぜ2乗するのか」につながっていくからね！
次回は、この残差を「なぜ2乗するのか」、そして最小二乗法のルールを見ていきます。
