セマンティックセグメンテーションの名前の由来と画素単位で画像を識別する仕組みを初心者向けに解説

こんにちは。ゆうせいです。

コンピュータビジョンの領域では、画像の中に写っている物体をコンピュータに認識させる技術が段階的に研究されてきました。写真全体に何が写っているかを答える画像分類や、どこに何があるかを四角い枠で囲む物体検出に続いて、物体の正確な輪郭まで捉える技術としてセマンティックセグメンテーションが用いられています。今回は、セマンティックセグメンテーションという名称の由来や処理の仕組み、実用上の長所と短所について解説します。

セマンティックセグメンテーションという名称の由来

セマンティックセグメンテーションは、英語の semantic(意味的な)と segmentation(分割)を組み合わせた用語です。

単語を分解して確認すると、技術の目指す役割が分かります。

segmentation(分割)の意味

セグメンテーションという単語は、全体をいくつかの区画や断片に切り分ける作業を指します。画像処理においては、1枚の画像を構成する画素(ピクセル)を特定の境界線に基づいてグループ分けする処理を意味します。

semantic(意味論的な)の意味

セマンティックという単語は、言語学や情報科学において「意味を持つ」「概念を伴う」状態を表します。単に色の濃淡や明るさの違いで画像を機械的に切り分けるのではなく、「道路」「歩行者」「空」「車」といった人間が理解できる意味のラベルを各区画に結びつけることを意味します。

画像を意味のある単位に細かく塗り分けて分類することから、セマンティックセグメンテーションという名称が定着しました。

塗り絵の比喩で理解する認識の仕組み

セマンティックセグメンテーションの処理を理解するために、白黒の下絵に色を塗る作業を例に考えてみます。

物体検出という手法は、車や人が写っている大まかな場所に四角いシールを上から貼る作業に似ています。物体の位置とおおよその大きさは把握できますが、シールの四隅には背景の道路や建物も一緒に含まれてしまいます。

これに対してセマンティックセグメンテーションは、下絵の線の内側を1画素単位で精密に塗り分ける作業に相当します。道路の部分は灰色、空の部分は青色、人の部分は黄色というように、あらかじめ決められた意味規則に従ってすべてのマス目を決められた色で隙間なく塗りつぶしていきます。物体の外形線を厳密に捉える点が特徴です。

セマンティックセグメンテーションの数学的表現

セマンティックセグメンテーションでは、入力画像の全画素に対して、所属するクラスの確率分布を計算します。

入力画像の高さを H、幅を W とし、分類対象となるクラスの総数を K と定めます。ニューラルネットワークの最終層からは、各画素 (i, j) における各クラス k のスコア値 z_{i, j, k} が出力されます。

各画素が特定のクラス k に所属する確率を算出するためのソフトマックス関数の式

P(y_{i, j} = k \mid x) = \frac{\exp(z_{i, j, k})}{\sum_{m=1}^{K} \exp(z_{i, j, m})}

この計算を縦 H 個、横 W 個のすべての画素に対して並列で実行し、確率値が最も高くなったクラスをその画素の判定結果として割り当てます。

損失の計算には、すべての画素の予測値と正解ラベルとの差異を集計する画素単位のクロスエントロピー損失関数が用いられます。

全画素に対するクロスエントロピー損失の計算式

L = - \frac{1}{H \times W} \sum_{i=1}^{H} \sum_{j=1}^{W} \sum_{k=1}^{K} t_{i, j, k} \log(P(y_{i, j} = k \mid x))

数式内の t_{i, j, k} は、画素 (i, j) の正解クラスが k である場合に 1、それ以外の場合に 0 をとる正解ラベルを表します。

セマンティックセグメンテーションのメリット

セマンティックセグメンテーションを採用することによって得られる具体的な長所には、以下の項目が挙げられます。

  • 画素レベルでの精密な領域把握:四角い境界枠では把握できない複雑な形状や曲線の境界線を正確に捉えられるため、路面の走行可能領域や医療用画像における病変の面積を正確に測定できます。
  • 背景情報の一括識別:物体だけでなく、道路や空、建物といった輪郭が明確でない広範囲の背景要素に対しても、画素単位で漏れなく意味を付与できます。
  • 幾何学的な空間理解の向上:画面全体のどの位置にどの障害物がどのような広がりで存在しているかを密に把握できるため、ロボットのナビゲーションや自動運転の進路計画に適しています。

セマンティックセグメンテーションのデメリット

一方で、セマンティックセグメンテーションを運用する際には以下のような短所も存在します。

  • 個体識別が不可能:同じクラスに属する物体同士の境界を区別できません。例えば、2台の車が前後に重なって写っている場合、ひと繋がりの「車」という領域として塗られ、何台存在しているのかを数えることはできません。
  • 教師データの作成負荷:モデルの学習に必要な正解データを作成する際、作業者が画像の全画素に対して手作業で正確な境界線をなぞってラベルを付ける必要があり、膨大な人件費と作業時間を要します。
  • 高い計算コストとメモリ消費量:画像の解像度を保ったまま全画素に対して多クラスのスコアを保持・演算するため、GPUメモリの消費量が大きく、高解像度画像を実時間で連続処理する際には処理遅延が生じやすくなります。

まとめと次の学習ステップ

セマンティックセグメンテーションは、画素単位で画像を切り分けるセグメンテーション(分割)と、切り分けた領域に概念を結びつけるセマンティック(意味的な)の2つの概念に由来して命名されました。画像全体を意味のある区画へ塗り分けることで、精密な視覚認識を支えています。

セマンティックセグメンテーションの理解を深めるための学習ステップは以下の通りです。

  1. 全結合層を使わずに畳み込み層のみで画素単位の予測を実現した全畳み込みネットワーク(FCN)の構造を学ぶ。
  2. 縮小した特徴マップを元の解像度へ綺麗に復元するU-Netのエンコーダ・デコーダ構造とスキップ接続の働きを確認する。
  3. 複数スケールの文脈情報を効率よく捉えるために空洞畳み込みを用いたDeepLabシリーズの仕組みを整理する。
  4. 個体ごとの区別を可能にするインスタンスセグメンテーションや、両者の長所を統合したパノプティックセグメンテーションとの相違点を比較する。

画素単位でクラスを分類する基礎原理を把握しておくことで、自動運転の外界認識や医療画像解析、さらには画像生成モデルの条件付け技術の理解にもスムーズに繋げられます。

セイ・コンサルティング・グループでは新人エンジニア研修のアシスタント講師を募集しています。

投稿者プロフィール

山崎講師
山崎講師代表取締役
セイ・コンサルティング・グループ株式会社代表取締役。
岐阜県出身。
海外放浪の末、2000年創業、2004年会社設立。
IT企業向け人材育成研修歴業界歴20年以上。
すべての無駄を省いた費用対効果の高い「筋肉質」な研修を提供します!
この記事に間違い等ありましたらぜひお知らせください。

学生時代は趣味と実益を兼ねてリゾートバイトにいそしむ。長野県白馬村に始まり、志賀高原でのスキーインストラクター、沖縄石垣島、北海道トマム。高じてオーストラリアのゴールドコーストでツアーガイドなど。現在は野菜作りにはまっている。