Gemmaをローカルにインストールして使う方法｜Ollamaで新人エンジニアでも手元PCで生成AIを動かす入門

2026年7月31日 最終更新日時 : 2026年7月31日 山崎講師山崎講師

こんにちは。ゆうせいです。

今回は、「Gemmaをローカルにインストールして使う方法」を、新人エンジニア向けに解説します。

Gemmaは、Google DeepMindが開発しているオープンモデルのファミリーです。Gemma 4のモデルカードでは、テキストや画像を入力として扱い、一部モデルでは音声にも対応し、テキスト出力を生成するオープンウェイトモデルとして説明されています。

「ローカルで使う」とは、ChatGPTのようにクラウド上のAIサービスへ毎回アクセスするのではなく、自分のパソコンの中でAIモデルを動かすことです。

たとえるなら、クラウドAIは「外食」、ローカルAIは「自宅のキッチン」です。

外食は便利ですが、お店が開いていないと使えません。

自宅のキッチンは準備が必要ですが、材料と道具があれば自分の環境で料理できます。

Gemmaをローカルで動かすと、生成AIの仕組み、モデルサイズ、推論、メモリ、GPU、API連携などを手元で学べます。

AIをただ使う側から、AIを動かして理解する側へ進む第一歩になります！

この記事で使う方法

この記事では、Ollamaというツールを使います。

Ollamaは、ローカル環境で大規模言語モデルを動かしやすくするツールです。Google AI for DevelopersのGemma向けOllamaガイドでも、Ollamaをインストールし、Gemmaモデルをpullコマンドでダウンロードして使う手順が紹介されています。

初心者には、いきなりPythonやGPU設定を細かく触るより、Ollamaから始めるのがおすすめです。

方法向いている人特徴
OllamaまずローカルAIを動かしたい人インストールと実行が簡単
LM StudioGUIで操作したい人画面操作でモデルを選びやすい
Python + Transformersコードから細かく制御したい人実装や研究に向いている
llama.cpp軽量実行や細かい最適化を試したい人中級者以上向け

新人エンジニアが最初に体験するなら、Ollamaで十分です。

まず動かす。

そのあと仕組みを学ぶ。

この順番で進めましょう。

Gemmaをローカルで使うメリット

Gemmaをローカルで使うメリットは、大きく4つあります。

メリット説明
AIモデルの実行感覚が分かる回答が速い・遅い、メモリを使う、モデルサイズで性能が変わる感覚を学べる
クラウドAPIの前に練習できるAPIキーや料金を気にせず、プロンプトやAPI連携を試しやすい
ネットワーク依存を減らせるモデルをダウンロードした後は、ローカル実行しやすい
学習教材として優秀推論、量子化、モデルサイズ、コンテキスト長などの用語を実感しやすい

特に新人エンジニアにとって重要なのは、「生成AIは魔法ではなく、モデルファイルと実行環境で動いている」と体感できる点です。

クラウドAIだけを使っていると、裏側の仕組みが見えません。

ローカルAIを触ると、AIがソフトウェアとして動いていることが一気に分かります。

Gemmaをローカルで使う注意点

ローカルAIには注意点もあります。

注意点説明
PC性能に左右される大きなモデルほどメモリやGPU性能が必要になる
回答品質はモデルサイズで変わる軽量モデルは速い一方、複雑な推論では弱い場合がある
ハルシネーションは起きるローカルで動かしても、間違った回答を出す可能性はある
ライセンス確認が必要業務利用や配布をする場合は、モデルの利用条件を確認する

Gemma 4のモデルカードでは、モデルには制限事項があること、また利用時に認識すべき制約があることが示されています。業務利用では、モデルのライセンス、利用規約、出力確認のルールを必ず確認しましょう。

ローカルで動かすと安心感は増えます。

しかし、ローカルなら何を入力しても安全、という意味ではありません。

会社の機密情報、個人情報、顧客データを扱う場合は、社内ルールを守ってください。

Gemmaのモデルサイズを選ぶ

Gemmaには複数のサイズがあります。

Gemma 4は、E2B、E4B、12B、26B A4B、31Bなどのサイズで提供され、モバイルデバイスやエッジデバイスからワークステーションまで、さまざまな環境を想定して設計されています。

OllamaのGemma 4ページでも、エッジ向けのgemma4:e2b、gemma4:e4b、ワークステーション向けのgemma4:12b、gemma4:26b、gemma4:31bなどの実行コマンドが案内されています。

モデル初心者向けの目安使いどころ
gemma4:e2bまず試す候補軽量に動かしたい、ローカルAIを体験したい
gemma4:e4b次に試す候補軽さと回答品質のバランスを見たい
gemma4:12bPCに余裕がある人向けコーディングや長めの相談を試したい
gemma4:26b高性能環境向けより高度な推論を試したい
gemma4:31bかなり重めワークステーションや十分なGPU環境で試す

最初から大きなモデルを選ばないでください。

新人エンジニアは、まず軽量モデルで成功体験を作るのが大切です。

ゲームでいきなり最高画質設定にするとPCが重くなるように、ローカルAIもモデルが大きすぎると動作が遅くなります。

ステップ1：Ollamaをインストールする

まず、Ollamaをインストールします。

GoogleのGemma向けOllamaガイドでは、OllamaのダウンロードページからOSを選び、Windowsではインストーラ、Macではアプリケーションフォルダへの移動、Linuxではbashスクリプトの手順でインストールする流れが紹介されています。

インストール後、ターミナルまたはコマンドプロンプトを開きます。

次のコマンドで、Ollamaが入っているか確認します。

ollama --version

日本語で言えば、Ollamaのバージョンを表示して、インストールできているか確認するコマンドです。

バージョンが表示されれば、第一段階は成功です。

もしコマンドが見つからない場合は、Ollamaが正しくインストールされていないか、ターミナルを開き直す必要があります。

ステップ2：Gemmaをダウンロードする

Ollamaは、インストール直後にモデルを含んでいません。

Googleのガイドでも、Ollamaのインストールパッケージにはモデルが含まれず、pullコマンドでモデルをダウンロードすると説明されています。

まずは、軽量なGemma 4を試すなら次のコマンドを使います。

ollama pull gemma4:e2b

日本語で言えば、Gemma 4のE2Bモデルを自分のPCにダウンロードするという意味です。

標準のGemma 4を試したい場合は、次のコマンドでも始められます。

ollama pull gemma4

日本語で言えば、Ollamaで指定されているGemma 4の標準モデルをダウンロードするという意味です。

ダウンロードには時間がかかる場合があります。

モデルは数GB規模になることもあるため、ストレージ容量とネットワーク環境を確認しましょう。

ステップ3：Gemmaを実行する

モデルをダウンロードしたら、いよいよ実行します。

ollama run gemma4:e2b

日本語で言えば、ローカルPC上でGemma 4 E2Bを起動して、対話できる状態にするコマンドです。

標準のGemma 4を使う場合は、次のように実行します。

ollama run gemma4

日本語で言えば、Gemma 4を起動して、ターミナル上でチャットを始めるという意味です。

OllamaのGemma 4ページでも、CLIからgemma4を実行するコマンドが案内されています。

起動したら、次のように日本語で質問してみましょう。

新人エンジニア向けに、APIとは何かを高校生にも分かるように説明してください。

日本語で言えば、Gemmaに対して、初心者向けの説明を依頼するプロンプトです。

回答が返ってくれば成功です！

ステップ4：インストール済みモデルを確認する

どのモデルをダウンロードしたか確認したい場合は、次のコマンドを使います。

ollama list

日本語で言えば、ローカルPCに保存されているOllamaのモデル一覧を表示するコマンドです。

Gemma 4 E2Bを入れていれば、一覧にgemma4:e2bが表示されます。

不要なモデルが増えると、ストレージを圧迫します。

使わなくなったモデルは削除して整理しましょう。

ollama rm gemma4:e2b

日本語で言えば、ローカルPCからGemma 4 E2Bモデルを削除するコマンドです。

ステップ5：APIとして使う

Ollamaの便利な点は、ターミナルで会話するだけでなく、ローカルAPIとしても使えることです。

OllamaのGemma 4ページでは、localhostのAPIへリクエストを送るcurl例も紹介されています。

たとえば、次のようにローカルAPIへ質問できます。

curl http://localhost:11434/api/chat \
  -d '{
    "model": "gemma4:e2b",
    "messages": [
      {
        "role": "user",
        "content": "新人エンジニア向けにGitを説明してください"
      }
    ]
  }'

日本語で言えば、自分のPC上で動いているOllamaのAPIへ、Gemma 4 E2Bを使って質問を送るという意味です。

localhostとは、自分自身のPCを指す特別な名前です。

たとえるなら、自宅の中だけで使う内線電話のようなものです。

外のサーバーへ送っているのではなく、自分のPCの中で動いているOllamaへ話しかけています。

PythonからGemmaを呼び出す

次に、Pythonから呼び出す例も見てみましょう。

OllamaのGemma 4ページでは、Pythonのollamaパッケージを使ったチャット例も掲載されています。

まず、Pythonパッケージをインストールします。

pip install ollama

日本語で言えば、PythonからOllamaを操作するためのライブラリをインストールするという意味です。

次に、Pythonコードを書きます。

from ollama import chat

response = chat(
    model='gemma4:e2b',
    messages=[
        {
            'role': 'user',
            'content': '新人エンジニア向けにDockerを説明してください'
        }
    ],
)

print(response.message.content)

日本語で言えば、PythonからGemma 4 E2Bへ質問を送り、返ってきた回答を表示するコードです。

この段階までできると、ローカルAIを自分のアプリケーションに組み込む入口に立てます。

たとえば、社内用の簡単なFAQボット、コードレビュー補助、学習用チャットアプリなどを作る練習ができます。

量子化とは何か

ローカルAIを使うと、「量子化」という言葉をよく見ます。

量子化とは、モデルが使う数値の精度を下げて、軽く動かしやすくする方法です。

GoogleのOllama向けGemmaガイドでは、llama.cppやOllamaがGGUF形式の量子化モデルを使い、低精度のデータで処理することで品質が下がる場合はあるものの、計算リソースを減らせると説明されています。

たとえるなら、写真の画質を少し下げてファイルサイズを小さくするようなものです。

超高画質の写真はきれいですが、保存容量をたくさん使います。

少し圧縮した写真は細部が落ちる場合がありますが、扱いやすくなります。

項目量子化なし量子化あり
回答品質高くなりやすい少し下がる場合がある
必要メモリ大きい小さくしやすい
実行速度環境によって重い軽くなる場合がある
初心者の使いやすさ高性能PC向けローカル体験に向く

ローカルAIでは、量子化モデルのおかげで、普通のノートPCでも小さなモデルを試しやすくなります。

よく使うコマンドまとめ

やりたいことコマンド説明
Ollamaの確認ollama --versionOllamaが入っているか確認する
モデルをダウンロードollama pull gemma4:e2bGemma 4 E2Bをローカルに保存する
モデルを起動ollama run gemma4:e2bGemma 4 E2Bと対話する
モデル一覧を表示ollama list保存済みモデルを確認する
モデルを削除ollama rm gemma4:e2b不要なモデルを消す

コマンドは暗記しなくても大丈夫です。

最初は、pull、run、list、rmだけ覚えましょう。

この4つだけで、ローカルAIの基本操作はかなりできます。

うまく動かないときの確認ポイント

症状原因の候補確認すること
ollamaコマンドが見つからないインストール失敗、パス未反映Ollamaを再インストールし、ターミナルを開き直す
ダウンロードが進まないネットワーク不安定、容量不足通信環境とストレージ容量を確認する
回答が遅いモデルが大きい、PC性能不足gemma4:e2bなど小さいモデルに変える
メモリ不足になるモデルサイズが大きいより軽いモデルを使う
日本語回答が不自然モデルサイズやプロンプトの影響指示を具体的にし、別サイズも試す

エラーが出ても焦らないでください。

ローカルAIは、PC環境の影響を強く受けます。

まず小さなモデルで動作確認する。

その後、大きなモデルへ進む。

この順番が安全です。

Gemmaに向いている使い方

Gemmaは、ローカル学習や開発補助に向いています。

Gemma 4のモデルカードでは、テキスト生成、コーディング、推論などのタスクに適していると説明され、コーディングやエージェント機能の強化も示されています。

用途例
学習補助IT用語を説明してもらう
コード理解短いコードの意味を解説してもらう
文章作成社内向け説明文の下書きを作る
アイデア出し研修課題やアプリ案を出してもらう
ローカルAPI練習PythonやcurlでAIアプリの基礎を学ぶ

ただし、重要な判断を丸投げしてはいけません。

ローカルAIも間違えます。

コードの提案、法律・医療・セキュリティに関わる回答、社外公開する文章は、人間が必ず確認してください。

クラウドAIとローカルAIの違い

比較項目クラウドAIローカルAI
準備すぐ使いやすいインストールとモデル取得が必要
性能高性能モデルを使いやすいPC性能とモデルサイズに左右される
費用API料金や月額料金が発生する場合がある基本は手元PCのリソースで動く
学習効果利用者目線で学びやすい実行環境やモデル構造を学びやすい
管理サービス提供者に依存する自分でモデルや環境を管理する

クラウドAIとローカルAIは、どちらが上という話ではありません。

目的が違います。

実務で高性能なAIを使いたいならクラウドAIが便利です。

AIの仕組みを学びたいならローカルAIがとても役立ちます。

新人エンジニア向けの練習課題

Gemmaをローカルに入れたら、次の課題に挑戦してみましょう。

課題狙い
IT用語を10個説明させるプロンプトの書き方を学ぶ
同じ質問を3回して回答差を見る生成AIの揺らぎを体験する
gemma4:e2bとgemma4:e4bを比べるモデルサイズと回答品質の違いを学ぶ
curlでAPI呼び出しするローカルAPIの仕組みを理解する
Pythonから呼び出すAIアプリ開発の入口を体験する
回答の間違いを探すAIを検証する姿勢を身につける

AIを使う力は、質問する力だけではありません。

出てきた答えを疑う力も必要です。

新人エンジニアは、Gemmaに質問した後、必ず公式ドキュメントや実行結果で確認する習慣をつけましょう。

まとめ

Gemmaをローカルにインストールして使うなら、最初はOllamaを使う方法がおすすめです。

GemmaはGoogle DeepMindのオープンモデルファミリーであり、Gemma 4は複数サイズ、長いコンテキスト、マルチモーダル対応、コーディングや推論などの用途を想定して提供されています。

Ollamaを使えば、次の流れでローカルAIを体験できます。

ステップコマンド目的
確認ollama --versionOllamaのインストール確認
取得ollama pull gemma4:e2b軽量なGemmaをダウンロード
実行ollama run gemma4:e2bローカルでGemmaと対話
一覧ollama list保存済みモデルを確認
削除ollama rm gemma4:e2b不要なモデルを削除

Gemmaをローカルで動かす体験は、生成AIを理解するうえでかなり有効です。

AIはクラウドの向こう側にある謎の存在ではありません。

モデルファイル、実行環境、メモリ、推論処理、APIによって動くソフトウェアです。

まずはgemma4:e2bのような軽量モデルを動かして、プロンプト、API呼び出し、モデルサイズの違いを体験してください。

今後の学習では、OllamaでGemmaを動かした後、量子化、コンテキスト長、GPU、Python連携、RAG、ファインチューニング、モデルライセンスの順に学ぶとよいです。まずは今日、1つだけ質問を投げて、ローカルAIが自分のPCで返事をする感覚を味わってみましょう！

投稿者プロフィール

山崎講師
山崎講師代表取締役
セイ・コンサルティング・グループ株式会社代表取締役。
岐阜県出身。
海外放浪の末、2000年創業、2004年会社設立。
IT企業向け人材育成研修歴業界歴20年以上。
すべての無駄を省いた費用対効果の高い「筋肉質」な研修を提供します！
この記事に間違い等ありましたらぜひお知らせください。

学生時代は趣味と実益を兼ねてリゾートバイトにいそしむ。長野県白馬村に始まり、志賀高原でのスキーインストラクター、沖縄石垣島、北海道トマム。高じてオーストラリアのゴールドコーストでツアーガイドなど。現在は野菜作りにはまっている。
対象読者
山崎講師、新入社員
前の記事
ストアドプロシジャは現在でも有効な技術なのか？新人エンジニア向けに使いどころ・注意点・学び方を解説New!!
2026年7月29日
次の記事
ベルの不等式とは？新人エンジニア向けに量子もつれ・局所実在論・CHSH不等式をやさしく解説New!!
2026年7月31日