次元数に対して約10倍のデータが必要なのはなぜか：次元の呪いの実践的理解

2026年8月4日 2026年8月4日山崎講師

山崎講師

こんにちは。ゆうせいです。

機械学習モデルを構築するとき、「特徴量（次元）の数に対して、最低でも約10倍のデータが必要」という経験則をよく聞きます。例えば、50個の特徴量がある場合、500個以上のサンプルが必要という主張です。しかし、なぜこのような目安が必要なのかを理解している人は少ないです。この背景には「次元の呪い」という重要な概念があります。本記事では、この経験則がどのような統計的現象から生まれたのかを解説します。

次元の呪い（Curse of Dimensionality）とは

次元の呪いとは、特徴量の数（次元）が増えるにつれて、データの構造が複雑になり、機械学習モデルの学習が困難になる現象を指します。

単純に言うと、空間の次元が増えるほど、その空間を埋め尽くすのに必要なサンプル数は指数関数的に増加するということです。これは、直感に反する現象として知られています。

具体例で理解する空間の広がり

次元の増加に伴う空間の広さの変化を、具体例で考えます。

1次元（直線）

0 から 1 の間の直線を考えます。この直線上に100個の点を均等に配置すれば、直線全体をかなり密に覆うことができます。各点の間の距離は約0.01です。

2次元（平面）

0 から 1 の正方形領域を考えます。この領域を同じ密度で点で覆うために、一辺あたり約10個の点が必要です。したがって、全体で 10 × 10 = 100 個の点が必要になります。つまり、1次元から2次元に進むと、必要なデータ数は100倍になるのです。

3次元（立方体）

0 から 1 の立方体領域を考えます。1次元の密度を保つには、一辺あたり約10個の点が必要です。したがって、全体で 10 × 10 × 10 = 1000 個の点が必要になります。

一般化

p 次元の空間を、1次元の密度と同じレベルで覆うには、10^p 個のサンプルが必要になります。

この指数関数的な増加が「次元の呪い」です。

なぜ約10倍という目安が出たのか

機械学習の実務では、「次元数に対して約10倍のデータが必要」という経験則が使われています。この目安の背景を理解するため、パラメータの数という観点から考えます。

機械学習モデルは、多くの場合、学習するパラメータを持ちます。例えば、線形回帰モデルでは、特徴量の数に等しい個数の係数（重み）を学習します。

5個の特徴量がある場合、線形回帰モデルは5個の係数と1個の切片（バイアス）、合計6個のパラメータを学習します。

これら6個のパラメータを安定的に推定するには、「次元数（この場合は6）の10倍程度のデータがあると良い」という経験則が導き出されています。つまり、60個程度のサンプルがあると、モデルが比較的安定して学習できるということです。

理由は、パラメータが多いほど、データから正確にそのパラメータを推定する必要があり、そのために十分なデータが必要だからです。パラメータ数に対してデータ数が不足すれば、モデルは訓練データに過度に適合し、未知データへの予測性能が低下します。これを「過適合」（オーバーフィッティング）と呼びます。

過適合（オーバーフィッティング）のメカニズム

次元数に対するデータ不足が問題になる理由は、過適合にあります。

パラメータが多く、データが少ない場合、モデルは訓練データに含まれるノイズまで学習してしまいます。例えば、100個のサンプルと100個のパラメータがある場合、モデルは訓練データの各点を完璧に通り抜けるような複雑な曲線を描くかもしれません。

このモデルの訓練精度は完璧です。しかし、新しいテストデータに対して予測すると、精度は大きく低下します。訓練データ固有のノイズまで学習してしまったからです。

一方、パラメータが少なく（例えば5個）、データが多い場合（例えば500個）、モデルは訓練データの本質的なパターンのみを学習します。訓練精度は完璧ではありませんが、テストデータへの予測性能は高くなります。

次元数とサンプルサイズの関係を数式で表現

機械学習理論では、このバランスについて、いくつかの理論的な見方があります。

統計学的観点からは、回帰モデルの係数推定に必要なサンプルサイズは、パラメータ数の関数です。パラメータ数が p のとき、信頼区間の幅を一定に保つには、サンプルサイズ n は p に比例して増加する必要があります。

経験的には、n ≥ 10 × p という関係が、多くの実務的な場面で機能することが報告されています。この「約10倍」という数字は、統計的信頼性と過適合のリスク回避のバランスが取れた経験則なのです。

特徴選択の重要性

次元数に対するデータの要件が厳しいという事実は、機械学習において「特徴選択」の重要性を浮き彫りにします。

全ての特徴量が予測に有用とは限りません。例えば、顧客の購買予測を行う際に、顧客の氏名や社員ID などの特徴量は、予測にほぼ役立ちません。

100個の特徴量から50個の不要な特徴量を削除できれば、必要なサンプルサイズも大幅に削減されます。100 × 10 = 1000 個必要だったのに対し、50 × 10 = 500 個で済むようになります。

したがって、データ数が限定されている場合は、特に「本当に必要な特徴量だけを選ぶ」という工夫が重要になります。

実務での対応策

次元数に対するデータ不足に直面した場合、いくつかの対応策があります。

特徴量削減

相関が高い特徴量を統合したり、不要と思われる特徴量を削除したりします。ドメイン知識を活用して、予測に本当に必要な特徴量を絞り込みます。

主成分分析（PCA）

複数の特徴量を組み合わせて、より少ない次元の「合成特徴量」を作成します。例えば、10個の特徴量を3個の主成分に圧縮することで、次元数を削減しながら、元のデータの大部分の情報を保持できます。

正則化

モデルのパラメータに対してペナルティを加える手法です。L1 正則化（ラッソ）や L2 正則化（リッジ）により、重要でないパラメータの値を小さくさせ、過適合を防ぎます。

より単純なモデルを選択

複雑なニューラルネットワークではなく、線形回帰や決定木のような、パラメータ数が少ないモデルを使用します。

データ収集の優先順位付け

予算や時間が限定されている場合、次元数を削減することと、データ数を増やすことのどちらが現実的かを判断します。

次元数とデータ数の実務的な目安

異なるモデル種別と問題設定での目安を示します。

線形回帰モデルの場合、一般的には n ≥ 10 × p が推奨されます。

ロジスティック回帰（分類）の場合、特に少数クラスのサンプル数に注意が必要です。n ≥ 10-20 × p が推奨されます。

決定木やランダムフォレストの場合、線形モデルより多くのパラメータを学習するため、n ≥ 20 × p が目安になることもあります。

ニューラルネットワークの場合、層が深いほど、より多くのデータが必要です。実務的には n ≥ 100 × p 以上が推奨されることもあります。

ただし、これらはあくまで一般的な目安です。実際のデータセットの複雑さ、ノイズレベル、予測タスクの難易度によって、必要なサンプルサイズは変わります。

次元数削減の例

具体的なシナリオで考えます。

企業が顧客の離脱を予測するモデルを構築しようとしています。収集した特徴量は以下の通りです。

顧客属性（年齢、性別、地域など）：10個購買行動（購買頻度、平均購買額、カテゴリ別購買数など）：15個利用行動（ログイン頻度、閲覧時間、クリック数など）：12個顧客サービス履歴（問い合わせ回数、返品回数、クレーム件数など）：8個

合計45個の特徴量があります。

10倍ルールに従えば、450個のサンプルが必要です。しかし、現在のデータは200個のサンプルしかありません。

対応策として、ドメイン専門家と協力して、本当に予測に必要な特徴量を選別します。

購買額の変動度合い（最近の購買頻度が低下しているか）、サービス満足度指標、顧客生涯価値など、離脱予測に最も関連性の高い特徴量に絞り込みます。

結果として、15個の特徴量に削減できました。これで必要なサンプルサイズは150個に低下し、現在の200個で十分になります。

統計的な正当性

次元数に対して10倍のデータが必要という経験則には、以下のような統計的な背景があります。

信頼区間の理論：回帰係数の信頼区間の幅は、サンプルサイズとパラメータ数に依存します。信頼区間の幅を一定に保つには、パラメータ数の増加に対応する形で、サンプルサイズも増加させる必要があります。

過適合のリスク：パラメータ数に対してサンプルサイズが不足すると、訓練誤差と汎化誤差のギャップが大きくなります。この誤差の増加率はパラメータ数に依存し、実務的には n ≥ 10 × p 程度で誤差が許容範囲に収まることが多いです。

分散の増加：パラメータが多いほど、その推定値の分散が大きくなります。この分散を制御するには、相応のサンプルサイズが必要です。

よくある誤解

「次元数が50で、データが500個あれば完璧」というわけではありません。この条件は「最低限」の目安であり、データ品質、ノイズレベル、タスクの難易度によって、さらに多くのデータが必要になる可能性があります。

「次元数が30で、データが200個あるから、機械学習は不可能」というわけでもありません。特徴選択や正則化、より単純なモデルの選択などにより、限定されたデータで有効なモデルを構築することは可能です。

「10倍ルール」は、必要と十分な条件ではなく、経験則です。各プロジェクトの実際の要件に基づいて、ケースバイケースで判断することが重要です。

まとめ

次元数に対して約10倍のデータが必要とされるのは、次元の呪いと過適合のメカニズムに基づいています。特徴量が増えるほど、モデルが訓練データに過度に適合しやすくなり、テストデータへの汎化性能が低下します。この問題を回避するには、パラメータ数に対して十分なサンプルサイズが必要です。

実務では、この10倍ルールを参考にしながら、特徴選択、正則化、より単純なモデルの採用など、複数の戦略を組み合わせて対応することが重要です。次のステップとして、実際のデータセットを用いて、次元数を変えたときにモデルの汎化性能がどのように変わるかを体験することをお勧めします。その実験を通じて、次元の呪いという抽象的な概念が、実務でどのような影響をもたらすのかがより深く理解できるようになるでしょう。

投稿者プロフィール

山崎講師代表取締役

セイ・コンサルティング・グループ株式会社代表取締役。
岐阜県出身。
海外放浪の末、2000年創業、2004年会社設立。
IT企業向け人材育成研修歴業界歴20年以上。
すべての無駄を省いた費用対効果の高い「筋肉質」な研修を提供します！
この記事に間違い等ありましたらぜひお知らせください。

学生時代は趣味と実益を兼ねてリゾートバイトにいそしむ。長野県白馬村に始まり、志賀高原でのスキーインストラクター、沖縄石垣島、北海道トマム。高じてオーストラリアのゴールドコーストでツアーガイドなど。現在は野菜作りにはまっている。