自分たちの資料を活用できるAIの仕組みを、手を動かして学ぶ。
研修のねらい
OllamaでのローカルLLM体験からRAGチャットボット構築、Docker化、AWS上の共有vLLM環境への接続までを学びます。個人検証と共有運用の違いを実習で理解します。
研修のゴール
- LLMとRAGの仕組みを理解し、資料検索を組み込んだチャットボットを実装できる。
- 個人検証用のOllamaと共有vLLM環境を用途に応じて使い分けられる。
- データの送信先と管理範囲を把握し、情報漏洩リスクを抑える運用を検討できる。
対象となる受講者様
- 生成AI・ローカルLLMの活用や社内AI基盤構築に関心のあるプログラマ・システム開発者の方
前提知識：基本的なプログラミング経験（Pythonの基礎文法程度）
カリキュラム詳細
研修時間の目安：3日間（21時間）
| テーマ | 内容・演習 |
|---|---|
| 1．LLM／RAGの基礎理解 | ・大規模言語モデルの基本と、ローカルLLMを使う意義 ・RAG（検索拡張生成）の仕組みの解説 |
| 2．Ollamaセットアップとモデル体験 | Ollamaの概要と基本コマンド インストールとモデルの準備 チャットモデルとの対話体験（使用モデルは実施時に調整） |
| 3．チャットアプリの作成 | ・Gradioを使った簡易チャットUIの作成 ・Ollama APIとの連携 |
| 4．RAGの実装 | ・ChromaDBによるドキュメントのベクトル化 ・検索機能の組み込みとRAGチャットボットの完成 |
| 5．アプリのブラッシュアップ | ・質問精度の調整、UI改善、複数ドキュメント対応などの演習 |
| 6．Docker化 | ・Dockerfileの作成 ・docker-composeによるアプリとChromaDBの連携 |
| 7．vLLMへの接続切り替え | ・OllamaとvLLMの違いの解説 ・AWS上の共有vLLM環境への接続演習 |
| 8．コーディング支援の活用 | ・VS Code拡張「Continue」からvLLMへの接続演習 ・個人環境（Ollama）との速度差の体感 |
| 9．RAGアプリのカスタマイズ | ・各自（またはチーム）でのアプリ改良演習 |
| 10．多人数同時アクセスの負荷体験 | ・vLLM共有環境に全員が同時アクセスした際の挙動観察 |
| 11．成果発表・まとめ | ・成果発表 ・Ollama／vLLMの使い分け、ローカルLLM導入の勘所、コスト設計の振り返り |
受講者の経験やご要望に応じて、内容・進め方を調整します。
ご準備いただくもの
Pythonの基礎知識と開発用PCを使用します。Ollama、Docker、共有vLLM環境の利用条件と必要なPC性能は事前に調整します。学習用のサンプル資料を使用します。
研修費用（標準プラン）
講師料：1日あたり150,000円（税別）
テキスト代：受講者1名あたり3,000円（税別）
研修日程・費用のご相談
実施日程、参加人数、研修環境に応じてご提案・お見積もりします。詳細はお問い合わせください。