言葉を「座標」に変換する魔法！AIが文脈を読み解く「単語埋め込み」の不思議
山崎講師こんにちは。ゆうせいです。
これまで画像認識のテクニックをたくさん学んできましたね。でも、AIができるのは写真を見ることだけではありません。今やAIは、私たちの言葉を理解し、小説を書いたり、翻訳をしたりすることもできます。
でも、ちょっと考えてみてください。コンピュータは「数字」しか扱えません。では、どうやって「りんご」や「愛」といった、形のない言葉を計算しているのでしょうか？
その答えが、今回解説する「単語埋め込み（Word Embedding）」です。言葉をデジタルな「地図」の上の座標に変えてしまう、驚きの仕組みを覗いてみましょう！
言葉を「背の順」には並べられない
コンピュータに言葉を教えるとき、一番単純な方法は「りんご＝1」「ゴリラ＝2」「ラッパ＝3」と番号を振ること（One-hotエンコーディング）です。
しかし、これでは大きな問題があります。「りんご」と「バナナ」は似た果物なのに、番号が近いからといって「りんご（1）」と「ゴリラ（2）」の方が似ているとAIが勘違いしてしまうのです。
そこで発明されたのが「単語埋め込み」です。これは、単語を1つの数字ではなく、数百個の数字が並んだ「ベクトル（座標）」として表現する技術です。
意味が近ければ「近く」に配置する
単語埋め込みの世界では、似た意味を持つ言葉は、デジタルな地図の上の近い場所に配置されます。
高校生の皆さんに例えるなら、クラスメイトを「運動神経」「勉強の得意さ」「お笑いセンス」という3つの軸でグラフにプロットするようなものです。
- サッカー部で明るいA君とB君は、グラフの近い場所に。
- 図書委員でおとなしいCさんは、A君とは少し離れた場所に。
このように「特徴」を使って座標を決めることで、AIは「『王様』と『女王』は性別は違うけれど、どちらも『高貴な人間』という点では近い場所にあるな」と理解できるのです。
驚愕の計算！「王様 － 男 ＋ 女 ＝ ？」
単語埋め込みの最も面白いところは、言葉同士で「足し算や引き算」ができるようになることです。
有名な例があります。
「王様（King）」という座標から、「男（Man）」という要素を引き算し、そこに「女（Woman）」という要素を足すと、なんとその計算結果に一番近い座標に「女王（Queen）」が位置しているのです！
これは、AIが言葉の「意味の差」を数学的に捉えている証拠です。
！
単語をただの記号としてではなく、多次元の「概念」として扱っている。これこそが、最近の翻訳AIやChatGPTが驚くほど自然な言葉を操れる理由の1つなんです。
単語埋め込みのメリットとデメリット
この技術が普及したことで、自然言語処理（NLP）は飛躍的に進化しました。
| 項目 | 内容 |
| メリット | 単語間の「親密度」を計算でき、類義語の検索や翻訳が正確になる。 |
| メリット | 膨大な単語を、比較的コンパクトなデータ量（数百次元程度）で表現できる。 |
| デメリット | 「橋」と「箸」のように、文脈で意味が変わる言葉を固定の座標にするのが苦手（※最近のAIはこれを克服中）。 |
| デメリット | 学習データに偏りがあると、差別や偏見といった「人間社会の悪い癖」まで座標に反映されてしまう。 |
どうやって「座標」を決めているの？
「誰がその地図を描いているの？」と疑問に思いますよね。実は、AIが大量の文章（WikipediaやSNSなど）を読みながら、自分自身で座標を決めています。
「『美味しい』の近くには、いつも『料理』や『お店』という言葉が出てくるな」と、周りに出てくる言葉（文脈）をヒントに、言葉の居場所を少しずつ調整（前述の偏微分を使って！）していくのです。
これからの学習の指針
言葉が数字に変わる瞬間を理解すると、AIとの距離がぐっと縮まります。
- 「Word2Vec」という、単語埋め込みの代表的な手法の名前を調べてみる。
- 自分で単語を入力すると、似た意味の言葉を返してくれるデモサイトを触ってみる。
- さらに進化した「BERT」や「GPT」が、文脈によって単語の座標をどうやって動的に変えているのか（コンテキスト化）を調べてみる。
言葉は、単なる文字の羅列ではありません。広大なデジタル空間に浮かぶ、キラキラとした星（座標）のような存在なのです。
セイ・コンサルティング・グループでは新人エンジニア研修のアシスタント講師を募集しています。
投稿者プロフィール
- 代表取締役
-
セイ・コンサルティング・グループ株式会社代表取締役。
岐阜県出身。
2000年創業、2004年会社設立。
IT企業向け人材育成研修歴業界歴20年以上。
すべての無駄を省いた費用対効果の高い「筋肉質」な研修を提供します！
この記事に間違い等ありましたらぜひお知らせください。
学生時代は趣味と実益を兼ねてリゾートバイトにいそしむ。長野県白馬村に始まり、志賀高原でのスキーインストラクター、沖縄石垣島、北海道トマム。高じてオーストラリアのゴールドコーストでツアーガイドなど。現在は野菜作りにはまっている。
