不偏共分散でデータ数から1を引く理由：母集団と標本の違いから学ぶ統計学
山崎講師こんにちは。ゆうせいです。
統計学を学び始めると、データのばらつきや関係性を表す指標に出会います。その中で、2つの変数の関係性を示す共分散を計算する際、データの総数 n で割る場合と、n-1 で割る場合が存在します。n-1 で割る計算から求められる値を不偏共分散と呼びます。本記事では、不偏共分散の計算で1を引く理由について、統計学の基本となる考え方を交えて解説します。
母集団と標本の違い
まず、統計学において非常に重要な、母集団と標本の違いについて整理します。
母集団とは、調査したい対象の全体を指します。たとえば、全国の高校生全員の身長と体重の関係を調べたい場合、全国の高校生全員が母集団となります。しかし、全員のデータを集めることは時間と費用の面で困難です。
そこで、全体から一部の人を選び出してデータを集めます。選び出された一部のデータを標本と呼びます。統計学の目的の多くは、手元にある標本のデータから、未知の母集団の性質を推測することにあります。
標本平均を使うことによるズレ
共分散を計算する際、データと平均値の差を掛け合わせます。ここで問題となるのが、平均値の種類です。
手元の標本から計算した平均を標本平均と呼びます。一方、本来知りたい全体の平均を母平均と呼びます。標本を抽出した際、偶然にも大きい値ばかり、あるいは小さい値ばかりが集まることがあります。そのため、標本平均は母平均と完全に一致することは稀です。
手元のデータは、未知の母平均よりも、自分たち自身の平均である標本平均の近くに集まる性質を持っています。具体例を挙げて説明します。
あるクラスのテストの平均点を計算するとします。クラスの生徒の点数は、全国の平均点（母平均）よりも、特定のクラス独自の平均点（標本平均）に近い値になります。まるで、既製品の服（母平均）よりも、自分の体型に合わせて仕立てたオーダーメイドの服（標本平均）のほうが、体にぴったりと密着するような状態です。
標本平均に近い状態のままばらつきや関係性を計算すると、本来の母集団が持っている真のばらつきよりも、値が小さく見積もられてしまいます。
自由度とマイナス1の理由
小さく見積もられてしまうズレを修正し、母集団の真の姿に近づけるための工夫がマイナス1という操作です。手元のデータが自由に値をとれる数を自由度と呼びます。
たとえば、3つのデータがあり、合計が15であると分かっている場合を考えます。1つ目と2つ目のデータがそれぞれ4と6であれば、3つ目のデータは自動的に5に決まります。合計値（あるいは平均値）という制限が1つ加わることで、自由に決められるデータは1つ減って2つになります。
共分散を計算する過程で、手元のデータから標本平均を計算して使用しています。標本平均という制限を1つ使ってしまったため、データが自由に動ける余地が1つ減ってしまいます。減少した1つの自由度を数式上で補正するために、データの総数 n ではなく n-1 で割る処理を行います。数式にすると以下のようになります。
$\frac{1}{n-1} \sum_{i=1}^{n} (x_i - \bar{x})(y_i - \bar{y})$
数式中の単一変数は通常のテキスト規則に従いますが、分数や合計記号を含むため全体を数式として処理しています。x_i や y_i は個々のデータ、上部に横線がある x や y は標本平均を表します。
/
メリットとデメリット
n-1で割る計算手法について、特有の性質を挙げます。
- メリット手元のデータ（標本）から、対象全体（母集団）の性質を偏りなく推定できる点にあります。偏りなく推定できる性質を不偏性と呼びます。データ数が少ない場合でも、母集団のパラメーターをより正確に見積もることが可能です。
- デメリット手元にあるデータそのものの関係性を単に記述したい場合には適していません。手元のデータの性質をそのまま表す場合は、通常の n で割る共分散を使用する必要があります。目的に応じて使い分ける判断が求められます。
同じ理由でマイナス1の補正を行う代表的な統計処理
不偏分散
最も代表的な例が、1つの変数のばらつきを表す分散です。分散を計算する際、データの総数nではなくn-1で割って求めた値を不偏分散と呼びます。
分散は、各データが平均値からどれくらい離れているかを計算して求めます。対象となる全体の集団である母集団の平均値（母平均）が未知である場合、代わりに手元のデータから求めた標本平均を計算の基準として用います。
標本平均は手元のデータの重心であるため、標本平均を基準にして各データとの差を計算すると、母平均を基準にした場合よりも距離の合計が必ず小さく計算されます。クラスの生徒の身長を例に挙げます。全国の高校生の平均身長を基準にしてクラスの生徒との差を測るよりも、そのクラス独自の平均身長を基準にして差を測るほうが、差の合計は小さく算出されます。クラスの平均身長は、そのクラスの生徒たちのデータから直接作られた、クラスの生徒に最も近い基準点だからです。
小さく見積もられてしまうばらつきを修正し、母集団の真のばらつきに近づけるため、自由度であるn-1で割る処理を行います。
標本標準偏差
不偏分散の平方根をとった値が標準偏差です。標準偏差も分散と同様にデータのばらつきを表す指標であり、手元のデータから母集団を推測する目的で計算する場合は、内部的にn-1で割る処理が含まれています。
分散は計算の過程でデータを2乗しているため、単位が元のデータと異なっています。標準偏差は平方根をとることで単位を元のデータと揃え、直感的に解釈しやすくした指標です。推測統計において標準偏差を用いる場面の多くは、n-1で割る補正が施された不偏分散の平方根を使用します。
t分布を用いた推測と検定
手元のデータから母集団の平均値を推測するt検定や区間推定という手法においても、マイナス1の概念が登場します。
データ数が少ない場合、母集団のばらつきを正確に把握することが困難になります。そこで、正規分布という一般的な分布の代わりに、データ数の少なさを考慮したt分布という確率分布を用います。t分布の形状を決定するパラメーターが自由度です。
1つの集団の平均値について調べる1標本t検定において、自由度はデータの総数nから1を引いたn-1となります。計算の過程で標本平均を1つ固定して使用するため、データが自由に動ける余地が1つ減るという、不偏共分散や不偏分散と全く同じ原則が働いています。
今後の学習ステップ
不偏共分散において1を引く理由は、手元のデータから未知の全体を推測する際に生じるズレを補正するためです。不偏性の基礎を理解した後の学習手順を以下に示します。
- 分散と標準偏差の復習1つの変数のばらつきを表す分散でも、同様に n-1 で割る不偏分散が存在します。概念を改めて確認してください。
- 相関係数への展開共分散の値をデータの単位に依存しない形に変換した相関係数について学んでください。
- 推測統計学の応用標本から母集団を推測する検定や推定といった、統計学の応用分野へ進んでください。
段階を踏んで学習を進めることで、統計学の全体像が明確に把握できるようになります。
投稿者プロフィール
- 代表取締役
-
セイ・コンサルティング・グループ株式会社代表取締役。
岐阜県出身。
海外放浪の末、2000年創業、2004年会社設立。
IT企業向け人材育成研修歴業界歴20年以上。
すべての無駄を省いた費用対効果の高い「筋肉質」な研修を提供します！
この記事に間違い等ありましたらぜひお知らせください。
学生時代は趣味と実益を兼ねてリゾートバイトにいそしむ。長野県白馬村に始まり、志賀高原でのスキーインストラクター、沖縄石垣島、北海道トマム。高じてオーストラリアのゴールドコーストでツアーガイドなど。現在は野菜作りにはまっている。
