RBFカーネル(放射基底関数)の公式と覚え方を解説
こんにちは。ゆうせいです。
データを直線で分けることが難しい場合、機械学習ではデータを高次元の空間に移して境界を引く手法が用いられます。その中心的な役割を担うのがサポートベクターマシンなどで使われるカーネル関数であり、代表例が放射基底関数カーネル(通称RBFカーネル、またはガウスカーネル)です。今回は、機械学習の数式に馴染みのない方に向けて、RBFカーネルの仕組み、公式の覚え方、そしてそのメリットとデメリットを順序立てて解説します。
カーネル関数とRBFカーネルとは何か
RBFカーネルは、2つのデータ同士がどれくらい似ているかという類似度を計算するための指標です。
高校の座席配置を例に考えてみます。教室内で席が隣同士の生徒は、会話の機会が多く仲良くなりやすい傾向があります。一方で、教室の前方と後方のように物理的な距離が離れるにつれて、関わりは急速に減っていきます。
機械学習の空間においても同様に、2つのデータ点の距離を測り、距離が近いデータ同士には高い類似度を与え、離れたデータ同士には低い類似度を与える仕組みがRBFカーネルです。直線ではグループを区切ることが困難な複雑な分布に対しても、この類似度を用いることで滑らかな曲線の境界線を引くことが可能になります。
RBFカーネルの公式と覚え方
2つの入力データを x と x' と置きます。両者の類似度を計算するRBFカーネル関数 K(x, x') の公式は次の通りです。
ここで、||x - x'|| は2つのデータ間の直線距離(ユークリッド距離)を表し、二乗することで距離の2乗を計算しています。gamma(ガンマ)は類似度の減少度合いを調整する正のパラメータであり、exp は自然対数の底 e を底とする指数関数を表します。
覚え方の3つの要素
この公式の構成要素は、次の手順で整理できます。
- 2つのデータの距離の2乗を計算する:||x - x'||^2 により、点同士がどれほど離れているかを測ります。
- マイナスをつけて指数関数に入れる:距離が広がるほど値が急激に小さくなるよう、負の符号とパラメータ gamma を掛けて exp に代入します。
- 出力値の範囲を確認する:距離がゼロ(完全に一致)のときは指数部分が 0 となり、値は 1 になります。距離が離れるにつれて指数部分は負の大きな値となり、結果は限りなく 0 に近づきます。
公式の覚え方の基本は「距離が近いほど1に近い」という性質を把握することです。完全に同じ位置にあるデータ同士は最大の類似度である 1 となり、離れるに従って 0 に向かって減衰していく釣り鐘型の構造を思い浮かべることで、数式の全体像を無理なく導き出せます。

RBFカーネルのメリットとデメリット
RBFカーネルには、実務で頻繁に選択される明確な特徴があります。
メリット
- 複雑な境界線を滑らかに表現できる:データを実質的に無限次元の空間へ写像して扱うことができるため、入り組んだデータ分布に対しても柔軟な境界線を引くことができます。
- 計算量が次元の増加に直接依存しない:カーネルトリックと呼ばれる計算手法を用いるため、高次元空間での座標を直接計算することなく、元の空間の距離計算のみで結果を得られます。
- パラメータ調整の対象が明確である:基本となる調整パラメータが gamma に絞られているため、モデルの挙動を把握しやすい設計になっています。
デメリット
- パラメータの設定によって過学習を起こしやすい:gamma の値を過剰に大きく設定すると、各訓練データの周囲のみに限定された境界が形成され、新しい未知のデータに対する適応能力が低下します。
- 計算コストがデータ数に応じて増加する:すべてのデータペアの間で距離計算を行う必要があるため、データ数が数万件から数十万件と大規模になると、学習および予測の計算に時間を要します。
まとめ
RBFカーネルは、2点間の距離を基にデータの類似度を測る計算式であり、その値は「距離が近いほど1に近い」という直感的な性質を持っています。公式は距離の2乗に負の符号と調整係数を掛け、指数関数に通す形で構成されており、この減衰の仕組みを理解することで数式の意味を正確に捉えることができます。
RBFカーネルの基本を把握した後は、類似度の減少速度を制御するパラメータ gamma と、誤分類の許容度を決定する正則化パラメータ C を同時に探索する「グリッドサーチ」の手法を確認してみてください。続いて、交差検証を用いたハイパーパラメータの最適化手順へと進むことで、サポートベクターマシンを用いた実践的なモデル構築手法を体系的に身につけることができます。
投稿者プロフィール






