inflearn logo
知識共有
inflearn logo

Spring AI Multi-LLM アーキテクチャと Orchestration 中心のエージェントシステム

本コースは、Spring AIを基盤にGPT、Gemini、LLaMAを戦略的に組み合わせ、Multi-LLMアーキテクチャとオーケストレーション中心のAgentシステムを設計する上級コースです。 単一LLMの呼び出しを超え、Workflow PatternとMulti-Agent構造を適用することで、拡張可能で安定しており、品質が継続的に改善されるAIシステムを構築します。 また、Circuit Breaker、Reactive Stream、Redisモニタリング、並列処理、反復評価ループまで含め、実際の運用環境レベルのAIアーキテクチャ設計能力を完成させます。 最終的な目標は、単なるAI利用者ではなく、AIシステムを設計できる開発者へと成長することです。 🚀

18名 が受講中です。

難易度 初級

受講期間 無制限

Spring Boot
Spring Boot
gemini
gemini
ChatGPT
ChatGPT
Llama
Llama
Spring AI
Spring AI
Spring Boot
Spring Boot
gemini
gemini
ChatGPT
ChatGPT
Llama
Llama
Spring AI
Spring AI

受講後に得られること

  • Multi-LLMベースのAIアーキテクチャ設計能力

  • Agentic Workflow パターンの実務への適用方法

  • Orchestrated Multi-Agent システムの構築経験

  • 並列処理 + 例外処理 + 障害復旧の設計能力

  • 品質評価ループに基づいたAI高度化戦略

  • 実務レベルのAIサービスバックエンド構造の理解

Spring AI Multi-LLM アーキテクチャと Orchestration 中心のエージェントシステム

本過程は、単にLLMの使い方を学ぶ過程ではありません。

実際のサービスに適用可能なAIシステム設計能力を構築するカリキュラムです。

このコースは、次の3段階の構造で構成されています。

Multi-LLM戦略設計 → Workflowパターンの適用 → Multi-Agentオーケストレーションの完成


1️⃣ Multi LLM Architecture(マルチLLMアーキテクチャ)設計

単一のLLMに依存せず、GPT・Gemini・LLaMAを戦略的に組み合わせる構造を設計します。

この段階では:

  • モデル特性の分析および役割の分離

  • リクエストタイプに基づいたRouter設計

  • CircuitBreaker + Fallback 障害対応構造

  • Reactive Streamベースのリアルタイムレスポンス処理

  • 機密情報分岐処理(Security Routing)


👉 目標は「モデルをうまく使うこと」ではなく「モデルを戦略的に選択するアーキテクチャを設計すること」です。


2️⃣ Agentic Workflow Patternsの適用

LLMを単なるAPIではなく、協業するエージェント構造へと拡張します。

ここでの核心は「パターン」です。

  • Chain Workflow → 段階的処理構造

  • Parallelization Workflow → 並列分析構造

  • Routing Workflow → 動的モデル選択

  • Orchestrator–Workers → 役割分離・協業構造

  • Evaluator–Optimizer → 反復改善ループ

この段階では:

✔ 並列処理 (CompletableFuture)
✔ キャッシング戦略
✔ 例外処理
✔ ロギング構造
✔ 品質自動改善ループ

👉 目標は「AI呼び出し」ではなく「AI協業構造の設計能力」を確保することです。


3️⃣ Orchestrated Multi-Agent Systemsの実装

これまで学んだすべてのパターンを統合し、完成型Multi-Agentオーケストレーションシステムを実装します。

単なるパターンの学習ではなく、複合的に連結された実際のサービスレベルの構造を完成させます。

実装するシステムの例:

  • 戦略分析自動化システム

  • アイデア → 実行産出物自動生成システム

  • 多数決ベースのAI判定システム

この段階では:

✔ Redisベースのリアルタイム状態モニタリング
✔ 並列処理 + ThreadPool設計
✔ 段階別例外安全処理
✔ 反復的な品質改善ループ
✔ オーケストレーションベースのフロー制御

👉 目標は「AI機能の実装」ではなく「AIシステムを設計し、制御できる能力」を完成させることです。


💡本コースの核心内容

  • Multi-LLMルーティング戦略の設計

  • モデル特性に基づいた役割の分離

  • Chain / Parallel / Routing パターンの実装

  • Orchestrator-Workers 構造の設計

  • Evaluator-Optimizer 反復改善ループ

  • サーキットブレーカー + フォールバック構造

  • リアルタイム状態モニタリングアーキテクチャ

  • 戦略分析、実行自動化、多数決判断システムの実装

💡本コースの特徴

✔ 理論ではなく実装中心
✔ 単一モデルではなくマルチモデル戦略設計
✔ 障害対応を考慮したプロダクションレベルの構造
✔ 反復評価に基づいたAI品質改善設計
✔ Redisベースのリアルタイム状態モニタリング based on iterative evaluation
✔ Redis-based real-time status monitoring

💡本学習内容

1⃣ SpringBootでのSpring AI開発環境およびMulti LLM環境の構築

2⃣ Chapter 1. Multi LLM Architecture 

3⃣ Chapter 2. Agentic Workflow Patterns

4⃣ Chapter 3. Orchestrated Multi-Agent Systems

こんな内容を学びます


1⃣ SpringBootでのSpring AI開発環境およびMulti LLM環境の構築


AIアーキテクチャ設計の前に、実務レベルのSpring AI開発環境を完成させます。

単なるライブラリの追加ではなく、実習中心のプロジェクトベースで授業が進行します。

✔ 実習プロジェクトに教本を同梱
✔ コードと理論を同時に確認
✔ すぐに実行可能な構造を提供


📌 学習内容

  1. 開発環境および授業全体の構造説明

  2. 実習プロジェクトの生成および教案の設定

  3. OpenAI API Key 発行および連動

  4. Gemini API Key 発行および連携

  5. Ollama環境設定およびLlama 3.2設定

  6. Spring AI 環境設定および基本構造の理解

  7. Redis連携設定




2⃣Chapter 1. Multi LLM Architecture 

単一のモデルではなく、戦略的なマルチLLM(Multi-LLM)構造を設計します。


1. Multi LLM

GPT、Gemini、LLaMAの3つのLLMを同時に使用する構造です。

リクエストの種類や戦略に応じて適切なモデルを選択するMulti-LLMベースのサービスアーキテクチャを実装します。

✔ モデル特性に基づいた戦略設計
✔ サービスレベルでのモデル分離構造の実装


2. Multi LLM Stream

Reactive Streams(Project Reactor)ベースのストリーミング処理

✔ トークン単位のリアルタイムレスポンス
✔ 非同期ベースの構造
✔ ユーザーエクスペリエンスの改善


3. Fallback (障害対応アーキテクチャ)

LLaMA(Ollama) + GPT 二重構造設計

✔ Resilience4j CircuitBreaker 適用
✔ 障害発生時の自動 GPT Fallback
✔ Production Level の安定性確保


4. Router (モデル戦略の分類)

ユーザーのリクエストを分類してモデルを選択します。

CREATIVE(クリエイティブな執筆 / 推論 / コーディング) GPT使用

TECHNICAL(技術分析 / データ処理) Gemini 使用

GENERAL(単純な質疑応答) LLaMA使用

UNKNOWN(分類失敗) GPT使用

✔ 戦略ベースのモデル選択構造の設計


5. Security (機密情報保護アーキテクチャ)

入力データ内の機密情報を検知し、Local LLMまたは外部LLMへと分岐させます。

✔ 電話番号
✔ メールアドレス
✔ 住民登録番号
✔ 機密キーワード



3⃣Chapter 2. Agentic Workflow Patterns

LLMを「ツール」ではなく協業するエージェント構造へと拡張します。


1. Chain Workflow

タスクを順次連結し、前の段階の結果を次の段階の入力として渡す構造を実装します。

  • Step1 (要約) → Gemini (高速処理)

  • Step2 (深層分析) → GPT (正確な推論)

  • Step3 (セキュリティ検閲) → Llama (ローカル実行)

✔ 段階的な処理構造
✔ 役割ベースのモデル分離


2. Parallelization Workflow

同一の入力を複数のLLMに並列で実行し、結果をマージする構造を実装します。

技術分析 → LLaMA
市場分析 → GPT
グローバル分析 → Gemini
最終報告書 → GPT

✔ CompletableFuture 並列処理
✔ タイムアウト + 例外処理
✔ ロギングを含む実務型構造


3. Routing Workflow

入力条件に従って、最適なLLMへ分岐処理を行う構造を実装します。

  1. キャッシュ確認

  2. LLaMA 分類 (SIMPLE / COMPLEX / SEARCH)

  3. ルーティングテーブルに基づいたモデル選択

  4. モデル呼び出し

  5. 結果のキャッシング

✔ コスト最適化
✔ パフォーマンス最適化


4. Orchestrator–Workers 構造

中央OrchestratorがGPT、Gemini、LlamaをWorkerとして制御する構造を実装します。

GPT → Orchestrator
LLaMA / Gemini → Worker

  1. Planning (GPT)

  2. 並列実行

  3. 集約 (Aggregation)

✔ 協調型エージェント構造
✔ 並列実行
✔ 段階別ログ出力


5. Evaluator–Optimizer (品質改善ループ)

生成結果を評価し、改善する反復構造を実装します。

GPT → 草案作成
Gemini → 品質評価
基準点数に満たない場合は繰り返し改善

✔ 反復改善構造
✔ 自動品質最適化システム



4⃣Chapter 3. Orchestrated Multi-Agent Systems

以前のすべてのパターンを統合して、完成型Multi-Agentシステムを実装します。


1. Strategic Analysis

戦略の品質を最大化するための、反復改善ベースの分析サービスを実装します。

マルチモデルベースの戦略分析

Architecture Flow
Routing → Parallel Analysis → Evaluator-Optimizer Loop → Chain Orchestrator-Workers → Final Output

✔ CompletableFuture 並列処理
✔ Redis ベースのリアルタイム状態モニタリング
✔ 反復的な品質改善ループ

2. Precision Execution

アイデアを実際の実行成果物(コード/ドキュメント)として完成させる、実行中心のサービスを実装します。

Architecture Flow
Refinement → Orchestrator → Parallel Workers → Aggregation

✔ Redisベースのリアルタイム状態モニタリング
✔ 専用ThreadPool
✔ 安全な例外処理

3. Voting Analysis

モデルの偏向除去および信頼性向上のための、合意ベースの分析サービスを実装します。

GPT、Gemini、LLaMAを並列呼び出し → GPTが最終判定官の役割を遂行

Architecture Flow
並列呼び出し → レスポンス収集 → 判定(Judge)による決定

✔ 並列処理構造
✔ Redis Pub/Sub 状態発行
✔ Executor 安全終了



💡この講義で学ぶ核心内容

✔ Multi-LLM 戦略の設計
✔ Agentic Workflow の実装
✔ オーケストレーションベースの協調構造
✔ 障害対応 + 安定性設計
✔ 反復評価ベースの品質改善システム

💡最終目標

  • このコースは、単にLLMの使い方を学ぶ過程ではありません。


    Multi-LLM戦略設計 → Workflowパターンの適用 → Multi-Agentオーケストレーションの完成

    実際のサービスに適用可能なAIシステム設計能力を構築するプロセスです。

受講前のご注意事項

実習環境

  • オペレーティングシステムおよびバージョン(OS): Windows、macOS、Linuxなど、すべてのOSが可能です。

  • 使用ツール: JDK,Intellij(Ultimate or Community),Redis& Docker,Node.js,VSCode

  • PCスペック:インターネット接続が可能な基本スペックのPC

学習資料

  • 提供する学習資料の形式:教育環境プロジェクト、教案など、多様な形式の資料を提供

  • 分量および容量:各セクションごとに学習資料を提供

事前知識および注意事項

  • HTML、CSS、JavaScriptの基本知識をお持ちの方。

  • Java、SpringBootの開発経験者

  • 質問は掲示板に投稿していただければ、すぐに回答できるようにいたします。


  • 本講義の著作権は(株)トネソルに帰属し、無断配布および複製を禁止します。学習資料も著作権があり、個人的な学習目的以外での使用を禁止します。

当該テンプレートは'AWS DeepRacerで学ぶ人工知能と自動運転'講義を参考にして提供しています。

こんな方に
おすすめです

学習対象は
誰でしょう?

  • ✔ Multi-LLM 戦略立案者

  • ✔ Agentic Workflow 設計者

  • ✔ オーケストレーションベースのMulti-Agentシステム実装開発者

  • ✔ 障害対応と品質改善まで考慮した Production Level の構造設計者

前提知識、
必要でしょうか?

  • HTML, CSS, JavaScriptの基礎知識

  • Java、SpringBootシステム開発経験者

こんにちは
tootooです。

108

受講生

9

受講レビュー

3

回答

5.0

講座評価

2

講座

こんにちは

知識共有者のイ・ジンマン(ニックネーム tootoo)です。

長い間、教室で皆さんとコミュニケーションをとってきました。

これからはオンライン上で皆さんとコミュニケーションが取れるよう、質の高いコンテンツを作っていきたいと思います。

ありがとうございます。

もっと見る

カリキュラム

全体

22件 ∙ (6時間 56分)

講座資料(こうぎしりょう):

授業資料
講座掲載日: 
最終更新日: 

受講レビュー

まだ十分な評価を受けていない講座です。
みんなの役に立つ受講レビューを書いてください!

tootooの他の講座

知識共有者の他の講座を見てみましょう!

似ている講座

同じ分野の他の講座を見てみましょう!

期間限定セール

¥16,500

40%

¥3,620