Spring AI Multi-LLM ć‚¢ćƒ¼ć‚­ćƒ†ć‚Æćƒćƒ£ćØ Orchestration äø­åæƒć®ć‚Øćƒ¼ć‚øć‚§ćƒ³ćƒˆć‚·ć‚¹ćƒ†ćƒ 

ęœ¬ć‚³ćƒ¼ć‚¹ćÆć€Spring AIć‚’åŸŗē›¤ć«GPT态Gemini态LLaMAć‚’ęˆ¦ē•„ēš„ć«ēµ„ćæåˆć‚ć›ć€Multi-LLMć‚¢ćƒ¼ć‚­ćƒ†ć‚Æćƒćƒ£ćØć‚Ŗćƒ¼ć‚±ć‚¹ćƒˆćƒ¬ćƒ¼ć‚·ćƒ§ćƒ³äø­åæƒć®Agentć‚·ć‚¹ćƒ†ćƒ ć‚’čØ­čØˆć™ć‚‹äøŠē“šć‚³ćƒ¼ć‚¹ć§ć™ć€‚ å˜äø€LLMć®å‘¼ć³å‡ŗć—ć‚’č¶…ćˆć€Workflow PatternとMulti-Agentę§‹é€ ć‚’é©ē”Øć™ć‚‹ć“ćØć§ć€ę‹”å¼µåÆčƒ½ć§å®‰å®šć—ć¦ćŠć‚Šć€å“č³ŖćŒē¶™ē¶šēš„ć«ę”¹å–„ć•ć‚Œć‚‹AIć‚·ć‚¹ćƒ†ćƒ ć‚’ę§‹ēÆ‰ć—ć¾ć™ć€‚ ć¾ćŸć€Circuit Breaker态Reactive Stream态Redisćƒ¢ćƒ‹ć‚æćƒŖćƒ³ć‚°ć€äø¦åˆ—å‡¦ē†ć€åå¾©č©•ä¾”ćƒ«ćƒ¼ćƒ—ć¾ć§å«ć‚ć€å®Ÿéš›ć®é‹ē”Øē’°å¢ƒćƒ¬ćƒ™ćƒ«ć®AIć‚¢ćƒ¼ć‚­ćƒ†ć‚Æćƒćƒ£čØ­čØˆčƒ½åŠ›ć‚’å®Œęˆć•ć›ć¾ć™ć€‚ ęœ€ēµ‚ēš„ćŖē›®ęØ™ćÆć€å˜ćŖć‚‹AIåˆ©ē”Øč€…ć§ćÆćŖćć€AIć‚·ć‚¹ćƒ†ćƒ ć‚’čØ­čØˆć§ćć‚‹é–‹ē™ŗč€…ćøćØęˆé•·ć™ć‚‹ć“ćØć§ć™ć€‚ šŸš€

19名 ćŒå—č¬›äø­ć§ć™ć€‚

é›£ę˜“åŗ¦ åˆē“š

å—č¬›ęœŸé–“ ē„”åˆ¶é™

Spring Boot
Spring Boot
gemini
gemini
ChatGPT
ChatGPT
Llama
Llama
Spring AI
Spring AI
Spring Boot
Spring Boot
gemini
gemini
ChatGPT
ChatGPT
Llama
Llama
Spring AI
Spring AI

å—č¬›å¾Œć«å¾—ć‚‰ć‚Œć‚‹ć“ćØ

  • Multi-LLMćƒ™ćƒ¼ć‚¹ć®AIć‚¢ćƒ¼ć‚­ćƒ†ć‚Æćƒćƒ£čØ­čØˆčƒ½åŠ›

  • Agentic Workflow ćƒ‘ć‚æćƒ¼ćƒ³ć®å®Ÿå‹™ćøć®é©ē”Øę–¹ę³•

  • Orchestrated Multi-Agent ć‚·ć‚¹ćƒ†ćƒ ć®ę§‹ēÆ‰ēµŒéØ“

  • äø¦åˆ—å‡¦ē† + 例外処理 + éšœå®³å¾©ę—§ć®čØ­čØˆčƒ½åŠ›

  • å“č³Ŗč©•ä¾”ćƒ«ćƒ¼ćƒ—ć«åŸŗć„ć„ćŸAIé«˜åŗ¦åŒ–ęˆ¦ē•„

  • å®Ÿå‹™ćƒ¬ćƒ™ćƒ«ć®AIć‚µćƒ¼ćƒ“ć‚¹ćƒćƒƒć‚Æć‚Øćƒ³ćƒ‰ę§‹é€ ć®ē†č§£

Spring AI Multi-LLM ć‚¢ćƒ¼ć‚­ćƒ†ć‚Æćƒćƒ£ćØ Orchestration äø­åæƒć®ć‚Øćƒ¼ć‚øć‚§ćƒ³ćƒˆć‚·ć‚¹ćƒ†ćƒ 

ęœ¬éŽēØ‹ćÆć€å˜ć«LLMć®ä½æć„ę–¹ć‚’å­¦ć¶éŽēØ‹ć§ćÆć‚ć‚Šć¾ć›ć‚“ć€‚

å®Ÿéš›ć®ć‚µćƒ¼ćƒ“ć‚¹ć«é©ē”ØåÆčƒ½ćŖAIć‚·ć‚¹ćƒ†ćƒ čØ­čØˆčƒ½åŠ›ć‚’ę§‹ēÆ‰ć™ć‚‹ć‚«ćƒŖć‚­ćƒ„ćƒ©ćƒ ć§ć™ć€‚

ć“ć®ć‚³ćƒ¼ć‚¹ćÆć€ę¬”ć®3ę®µéšŽć®ę§‹é€ ć§ę§‹ęˆć•ć‚Œć¦ć„ć¾ć™ć€‚

Multi-LLMęˆ¦ē•„čØ­čØˆ → Workflowćƒ‘ć‚æćƒ¼ćƒ³ć®é©ē”Ø → Multi-Agentć‚Ŗćƒ¼ć‚±ć‚¹ćƒˆćƒ¬ćƒ¼ć‚·ćƒ§ćƒ³ć®å®Œęˆ


1ļøāƒ£ Multi LLM Architectureļ¼ˆćƒžćƒ«ćƒLLMć‚¢ćƒ¼ć‚­ćƒ†ć‚Æćƒćƒ£ļ¼‰čØ­čØˆ

å˜äø€ć®LLMć«ä¾å­˜ć›ćšć€GPT惻Gemini惻LLaMAć‚’ęˆ¦ē•„ēš„ć«ēµ„ćæåˆć‚ć›ć‚‹ę§‹é€ ć‚’čØ­čØˆć—ć¾ć™ć€‚

ć“ć®ę®µéšŽć§ćÆļ¼š

  • ćƒ¢ćƒ‡ćƒ«ē‰¹ę€§ć®åˆ†ęžćŠć‚ˆć³å½¹å‰²ć®åˆ†é›¢

  • ćƒŖć‚Æć‚Øć‚¹ćƒˆć‚æć‚¤ćƒ—ć«åŸŗć„ć„ćŸRouter設計

  • CircuitBreaker + Fallback éšœå®³åÆ¾åæœę§‹é€ 

  • Reactive Streamćƒ™ćƒ¼ć‚¹ć®ćƒŖć‚¢ćƒ«ć‚æć‚¤ćƒ ćƒ¬ć‚¹ćƒćƒ³ć‚¹å‡¦ē†

  • ę©ŸåÆ†ęƒ…å ±åˆ†å²å‡¦ē†ļ¼ˆSecurity Routing)


šŸ‘‰ ē›®ęØ™ćÆć€Œćƒ¢ćƒ‡ćƒ«ć‚’ć†ć¾ćä½æć†ć“ćØć€ć§ćÆćŖćć€Œćƒ¢ćƒ‡ćƒ«ć‚’ęˆ¦ē•„ēš„ć«éøęŠžć™ć‚‹ć‚¢ćƒ¼ć‚­ćƒ†ć‚Æćƒćƒ£ć‚’čØ­čØˆć™ć‚‹ć“ćØć€ć§ć™ć€‚


2ļøāƒ£ Agentic Workflow Patternsの適用

LLMć‚’å˜ćŖć‚‹APIć§ćÆćŖćć€å”ę„­ć™ć‚‹ć‚Øćƒ¼ć‚øć‚§ćƒ³ćƒˆę§‹é€ ćøćØę‹”å¼µć—ć¾ć™ć€‚

ć“ć“ć§ć®ę øåæƒćÆć€Œćƒ‘ć‚æćƒ¼ćƒ³ć€ć§ć™ć€‚

  • Chain Workflow → ę®µéšŽēš„å‡¦ē†ę§‹é€ 

  • Parallelization Workflow → äø¦åˆ—åˆ†ęžę§‹é€ 

  • Routing Workflow → å‹•ēš„ćƒ¢ćƒ‡ćƒ«éøęŠž

  • Orchestrator–Workers → å½¹å‰²åˆ†é›¢ćƒ»å”ę„­ę§‹é€ 

  • Evaluator–Optimizer → åå¾©ę”¹å–„ćƒ«ćƒ¼ćƒ—

ć“ć®ę®µéšŽć§ćÆļ¼š

āœ” äø¦åˆ—å‡¦ē† (CompletableFuture)
āœ” ć‚­ćƒ£ćƒƒć‚·ćƒ³ć‚°ęˆ¦ē•„
āœ” 例外処理
āœ” ćƒ­ć‚®ćƒ³ć‚°ę§‹é€ 
āœ” å“č³Ŗč‡Ŗå‹•ę”¹å–„ćƒ«ćƒ¼ćƒ—

šŸ‘‰ ē›®ęØ™ćÆć€ŒAIå‘¼ć³å‡ŗć—ć€ć§ćÆćŖćć€ŒAIå”ę„­ę§‹é€ ć®čØ­čØˆčƒ½åŠ›ć€ć‚’ē¢ŗäæć™ć‚‹ć“ćØć§ć™ć€‚


3ļøāƒ£ Orchestrated Multi-Agent Systemsć®å®Ÿč£…

ć“ć‚Œć¾ć§å­¦ć‚“ć ć™ć¹ć¦ć®ćƒ‘ć‚æćƒ¼ćƒ³ć‚’ēµ±åˆć—ć€å®Œęˆåž‹Multi-Agentć‚Ŗćƒ¼ć‚±ć‚¹ćƒˆćƒ¬ćƒ¼ć‚·ćƒ§ćƒ³ć‚·ć‚¹ćƒ†ćƒ ć‚’å®Ÿč£…ć—ć¾ć™ć€‚

å˜ćŖć‚‹ćƒ‘ć‚æćƒ¼ćƒ³ć®å­¦ēæ’ć§ćÆćŖćć€č¤‡åˆēš„ć«é€£ēµć•ć‚ŒćŸå®Ÿéš›ć®ć‚µćƒ¼ćƒ“ć‚¹ćƒ¬ćƒ™ćƒ«ć®ę§‹é€ ć‚’å®Œęˆć•ć›ć¾ć™ć€‚

å®Ÿč£…ć™ć‚‹ć‚·ć‚¹ćƒ†ćƒ ć®ä¾‹ļ¼š

  • ęˆ¦ē•„åˆ†ęžč‡Ŗå‹•åŒ–ć‚·ć‚¹ćƒ†ćƒ 

  • ć‚¢ć‚¤ćƒ‡ć‚¢ → å®Ÿč”Œē”£å‡ŗē‰©č‡Ŗå‹•ē”Ÿęˆć‚·ć‚¹ćƒ†ćƒ 

  • å¤šę•°ę±ŗćƒ™ćƒ¼ć‚¹ć®AIåˆ¤å®šć‚·ć‚¹ćƒ†ćƒ 

ć“ć®ę®µéšŽć§ćÆļ¼š

āœ” Redisćƒ™ćƒ¼ć‚¹ć®ćƒŖć‚¢ćƒ«ć‚æć‚¤ćƒ ēŠ¶ę…‹ćƒ¢ćƒ‹ć‚æćƒŖćƒ³ć‚°
āœ” äø¦åˆ—å‡¦ē† + ThreadPool設計
āœ” ę®µéšŽåˆ„ä¾‹å¤–å®‰å…Øå‡¦ē†
āœ” åå¾©ēš„ćŖå“č³Ŗę”¹å–„ćƒ«ćƒ¼ćƒ—
āœ” ć‚Ŗćƒ¼ć‚±ć‚¹ćƒˆćƒ¬ćƒ¼ć‚·ćƒ§ćƒ³ćƒ™ćƒ¼ć‚¹ć®ćƒ•ćƒ­ćƒ¼åˆ¶å¾”

šŸ‘‰ ē›®ęØ™ćÆć€ŒAIę©Ÿčƒ½ć®å®Ÿč£…ć€ć§ćÆćŖćć€ŒAIć‚·ć‚¹ćƒ†ćƒ ć‚’čØ­čØˆć—ć€åˆ¶å¾”ć§ćć‚‹čƒ½åŠ›ć€ć‚’å®Œęˆć•ć›ć‚‹ć“ćØć§ć™ć€‚


šŸ’”ęœ¬ć‚³ćƒ¼ć‚¹ć®ę øåæƒå†…å®¹

  • Multi-LLMćƒ«ćƒ¼ćƒ†ć‚£ćƒ³ć‚°ęˆ¦ē•„ć®čØ­čØˆ

  • ćƒ¢ćƒ‡ćƒ«ē‰¹ę€§ć«åŸŗć„ć„ćŸå½¹å‰²ć®åˆ†é›¢

  • Chain / Parallel / Routing ćƒ‘ć‚æćƒ¼ćƒ³ć®å®Ÿč£…

  • Orchestrator-Workers ę§‹é€ ć®čØ­čØˆ

  • Evaluator-Optimizer åå¾©ę”¹å–„ćƒ«ćƒ¼ćƒ—

  • ć‚µćƒ¼ć‚­ćƒƒćƒˆćƒ–ćƒ¬ćƒ¼ć‚«ćƒ¼ + ćƒ•ć‚©ćƒ¼ćƒ«ćƒćƒƒć‚Æę§‹é€ 

  • ćƒŖć‚¢ćƒ«ć‚æć‚¤ćƒ ēŠ¶ę…‹ćƒ¢ćƒ‹ć‚æćƒŖćƒ³ć‚°ć‚¢ćƒ¼ć‚­ćƒ†ć‚Æćƒćƒ£

  • ęˆ¦ē•„åˆ†ęžć€å®Ÿč”Œč‡Ŗå‹•åŒ–ć€å¤šę•°ę±ŗåˆ¤ę–­ć‚·ć‚¹ćƒ†ćƒ ć®å®Ÿč£…

šŸ’”ęœ¬ć‚³ćƒ¼ć‚¹ć®ē‰¹å¾“

āœ” ē†č«–ć§ćÆćŖćå®Ÿč£…äø­åæƒ
āœ” å˜äø€ćƒ¢ćƒ‡ćƒ«ć§ćÆćŖććƒžćƒ«ćƒćƒ¢ćƒ‡ćƒ«ęˆ¦ē•„čØ­čØˆ
āœ” éšœå®³åÆ¾åæœć‚’č€ƒę…®ć—ćŸćƒ—ćƒ­ćƒ€ć‚Æć‚·ćƒ§ćƒ³ćƒ¬ćƒ™ćƒ«ć®ę§‹é€ 
āœ” åå¾©č©•ä¾”ć«åŸŗć„ć„ćŸAIå“č³Ŗę”¹å–„čØ­čØˆ
āœ” Redisćƒ™ćƒ¼ć‚¹ć®ćƒŖć‚¢ćƒ«ć‚æć‚¤ćƒ ēŠ¶ę…‹ćƒ¢ćƒ‹ć‚æćƒŖćƒ³ć‚° based on iterative evaluation
āœ” Redis-based real-time status monitoring

šŸ’”ęœ¬å­¦ēæ’å†…å®¹

1⃣ SpringBoot恧恮Spring AIé–‹ē™ŗē’°å¢ƒćŠć‚ˆć³Multi LLMē’°å¢ƒć®ę§‹ēÆ‰

2⃣ Chapter 1. Multi LLM Architecture 

3⃣ Chapter 2. Agentic Workflow Patterns

4⃣ Chapter 3. Orchestrated Multi-Agent Systems

こんな内容を学びます


1⃣ SpringBoot恧恮Spring AIé–‹ē™ŗē’°å¢ƒćŠć‚ˆć³Multi LLMē’°å¢ƒć®ę§‹ēÆ‰


AIć‚¢ćƒ¼ć‚­ćƒ†ć‚Æćƒćƒ£čØ­čØˆć®å‰ć«ć€å®Ÿå‹™ćƒ¬ćƒ™ćƒ«ć®Spring AIé–‹ē™ŗē’°å¢ƒć‚’å®Œęˆć•ć›ć¾ć™ć€‚

å˜ćŖć‚‹ćƒ©ć‚¤ćƒ–ćƒ©ćƒŖć®čæ½åŠ ć§ćÆćŖćć€å®Ÿēæ’äø­åæƒć®ćƒ—ćƒ­ć‚øć‚§ć‚Æćƒˆćƒ™ćƒ¼ć‚¹ć§ęŽˆę„­ćŒé€²č”Œć—ć¾ć™ć€‚

āœ” å®Ÿēæ’ćƒ—ćƒ­ć‚øć‚§ć‚Æćƒˆć«ę•™ęœ¬ć‚’åŒę¢±
āœ” ć‚³ćƒ¼ćƒ‰ćØē†č«–ć‚’åŒę™‚ć«ē¢ŗčŖ
āœ” ć™ćć«å®Ÿč”ŒåÆčƒ½ćŖę§‹é€ ć‚’ęä¾›


šŸ“Œ 学習内容

  1. é–‹ē™ŗē’°å¢ƒćŠć‚ˆć³ęŽˆę„­å…Øä½“ć®ę§‹é€ čŖ¬ę˜Ž

  2. å®Ÿēæ’ćƒ—ćƒ­ć‚øć‚§ć‚Æćƒˆć®ē”ŸęˆćŠć‚ˆć³ę•™ę”ˆć®čØ­å®š

  3. OpenAI API Key ē™ŗč”ŒćŠć‚ˆć³é€£å‹•

  4. Gemini API Key ē™ŗč”ŒćŠć‚ˆć³é€£ęŗ

  5. Ollamaē’°å¢ƒčØ­å®šćŠć‚ˆć³Llama 3.2設定

  6. Spring AI ē’°å¢ƒčØ­å®šćŠć‚ˆć³åŸŗęœ¬ę§‹é€ ć®ē†č§£

  7. Redisé€£ęŗčØ­å®š




2⃣Chapter 1. Multi LLM Architecture 

å˜äø€ć®ćƒ¢ćƒ‡ćƒ«ć§ćÆćŖćć€ęˆ¦ē•„ēš„ćŖćƒžćƒ«ćƒLLM(Multi-LLMļ¼‰ę§‹é€ ć‚’čØ­čØˆć—ć¾ć™ć€‚


1. Multi LLM

GPT态Gemini态LLaMA恮3恤恮LLMć‚’åŒę™‚ć«ä½æē”Øć™ć‚‹ę§‹é€ ć§ć™ć€‚

ćƒŖć‚Æć‚Øć‚¹ćƒˆć®ēØ®é”žć‚„ęˆ¦ē•„ć«åæœć˜ć¦é©åˆ‡ćŖćƒ¢ćƒ‡ćƒ«ć‚’éøęŠžć™ć‚‹Multi-LLMćƒ™ćƒ¼ć‚¹ć®ć‚µćƒ¼ćƒ“ć‚¹ć‚¢ćƒ¼ć‚­ćƒ†ć‚Æćƒćƒ£ć‚’å®Ÿč£…ć—ć¾ć™ć€‚

āœ” ćƒ¢ćƒ‡ćƒ«ē‰¹ę€§ć«åŸŗć„ć„ćŸęˆ¦ē•„čØ­čØˆ
āœ” ć‚µćƒ¼ćƒ“ć‚¹ćƒ¬ćƒ™ćƒ«ć§ć®ćƒ¢ćƒ‡ćƒ«åˆ†é›¢ę§‹é€ ć®å®Ÿč£…


2. Multi LLM Stream

Reactive Streams(Project Reactor)ćƒ™ćƒ¼ć‚¹ć®ć‚¹ćƒˆćƒŖćƒ¼ćƒŸćƒ³ć‚°å‡¦ē†

āœ” ćƒˆćƒ¼ć‚Æćƒ³å˜ä½ć®ćƒŖć‚¢ćƒ«ć‚æć‚¤ćƒ ćƒ¬ć‚¹ćƒćƒ³ć‚¹
āœ” éžåŒęœŸćƒ™ćƒ¼ć‚¹ć®ę§‹é€ 
āœ” ćƒ¦ćƒ¼ć‚¶ćƒ¼ć‚Øć‚Æć‚¹ćƒšćƒŖć‚Øćƒ³ć‚¹ć®ę”¹å–„


3. Fallback (éšœå®³åÆ¾åæœć‚¢ćƒ¼ć‚­ćƒ†ć‚Æćƒćƒ£)

LLaMA(Ollama) + GPT äŗŒé‡ę§‹é€ čØ­čØˆ

āœ” Resilience4j CircuitBreaker 適用
āœ” éšœå®³ē™ŗē”Ÿę™‚ć®č‡Ŗå‹• GPT Fallback
āœ” Production Level ć®å®‰å®šę€§ē¢ŗäæ


4. Router (ćƒ¢ćƒ‡ćƒ«ęˆ¦ē•„ć®åˆ†é”ž)

ćƒ¦ćƒ¼ć‚¶ćƒ¼ć®ćƒŖć‚Æć‚Øć‚¹ćƒˆć‚’åˆ†é”žć—ć¦ćƒ¢ćƒ‡ćƒ«ć‚’éøęŠžć—ć¾ć™ć€‚

CREATIVE(ć‚ÆćƒŖć‚Øć‚¤ćƒ†ć‚£ćƒ–ćŖåŸ·ē­† / ęŽØč«– / ć‚³ćƒ¼ćƒ‡ć‚£ćƒ³ć‚°) GPT使用

TECHNICAL(ęŠ€č”“åˆ†ęž / ćƒ‡ćƒ¼ć‚æå‡¦ē†) Gemini 使用

GENERAL(å˜ē“”ćŖč³Ŗē–‘åæœē­”) LLaMA使用

UNKNOWN(åˆ†é”žå¤±ę•—) GPT使用

āœ” ęˆ¦ē•„ćƒ™ćƒ¼ć‚¹ć®ćƒ¢ćƒ‡ćƒ«éøęŠžę§‹é€ ć®čØ­čØˆ


5. Security (ę©ŸåÆ†ęƒ…å ±äæč­·ć‚¢ćƒ¼ć‚­ćƒ†ć‚Æćƒćƒ£)

å…„åŠ›ćƒ‡ćƒ¼ć‚æå†…ć®ę©ŸåÆ†ęƒ…å ±ć‚’ę¤œēŸ„ć—ć€Local LLMć¾ćŸćÆå¤–éƒØLLMćøćØåˆ†å²ć•ć›ć¾ć™ć€‚

āœ” é›»č©±ē•Ŗå·
āœ” ćƒ”ćƒ¼ćƒ«ć‚¢ćƒ‰ćƒ¬ć‚¹
āœ” ä½ę°‘ē™»éŒ²ē•Ŗå·
āœ” ę©ŸåÆ†ć‚­ćƒ¼ćƒÆćƒ¼ćƒ‰



3⃣Chapter 2. Agentic Workflow Patterns

LLMć‚’ć€Œćƒ„ćƒ¼ćƒ«ć€ć§ćÆćŖćå”ę„­ć™ć‚‹ć‚Øćƒ¼ć‚øć‚§ćƒ³ćƒˆę§‹é€ ćøćØę‹”å¼µć—ć¾ć™ć€‚


1. Chain Workflow

ć‚æć‚¹ć‚Æć‚’é †ę¬”é€£ēµć—ć€å‰ć®ę®µéšŽć®ēµęžœć‚’ę¬”ć®ę®µéšŽć®å…„åŠ›ćØć—ć¦ęø”ć™ę§‹é€ ć‚’å®Ÿč£…ć—ć¾ć™ć€‚

  • Step1 (要瓄) → Gemini (é«˜é€Ÿå‡¦ē†)

  • Step2 (ę·±å±¤åˆ†ęž) → GPT (ę­£ē¢ŗćŖęŽØč«–)

  • Step3 (ć‚»ć‚­ćƒ„ćƒŖćƒ†ć‚£ę¤œé–²) → Llama (ćƒ­ćƒ¼ć‚«ćƒ«å®Ÿč”Œ)

āœ” ę®µéšŽēš„ćŖå‡¦ē†ę§‹é€ 
āœ” å½¹å‰²ćƒ™ćƒ¼ć‚¹ć®ćƒ¢ćƒ‡ćƒ«åˆ†é›¢


2. Parallelization Workflow

åŒäø€ć®å…„åŠ›ć‚’č¤‡ę•°ć®LLMć«äø¦åˆ—ć§å®Ÿč”Œć—ć€ēµęžœć‚’ćƒžćƒ¼ć‚øć™ć‚‹ę§‹é€ ć‚’å®Ÿč£…ć—ć¾ć™ć€‚

ęŠ€č”“åˆ†ęž → LLaMA
åø‚å “åˆ†ęž → GPT
ć‚°ćƒ­ćƒ¼ćƒćƒ«åˆ†ęž → Gemini
ęœ€ēµ‚å ±å‘Šę›ø → GPT

āœ” CompletableFuture äø¦åˆ—å‡¦ē†
āœ” ć‚æć‚¤ćƒ ć‚¢ć‚¦ćƒˆ + 例外処理
āœ” ćƒ­ć‚®ćƒ³ć‚°ć‚’å«ć‚€å®Ÿå‹™åž‹ę§‹é€ 


3. Routing Workflow

å…„åŠ›ę”ä»¶ć«å¾“ć£ć¦ć€ęœ€é©ćŖLLMćøåˆ†å²å‡¦ē†ć‚’č”Œć†ę§‹é€ ć‚’å®Ÿč£…ć—ć¾ć™ć€‚

  1. ć‚­ćƒ£ćƒƒć‚·ćƒ„ē¢ŗčŖ

  2. LLaMA 分锞 (SIMPLE / COMPLEX / SEARCH)

  3. ćƒ«ćƒ¼ćƒ†ć‚£ćƒ³ć‚°ćƒ†ćƒ¼ćƒ–ćƒ«ć«åŸŗć„ć„ćŸćƒ¢ćƒ‡ćƒ«éøęŠž

  4. ćƒ¢ćƒ‡ćƒ«å‘¼ć³å‡ŗć—

  5. ēµęžœć®ć‚­ćƒ£ćƒƒć‚·ćƒ³ć‚°

āœ” ć‚³ć‚¹ćƒˆęœ€é©åŒ–
āœ” ćƒ‘ćƒ•ć‚©ćƒ¼ćƒžćƒ³ć‚¹ęœ€é©åŒ–


4. Orchestrator–Workers ꧋造

中央OrchestratorがGPT态Gemini态Llama悒WorkerćØć—ć¦åˆ¶å¾”ć™ć‚‹ę§‹é€ ć‚’å®Ÿč£…ć—ć¾ć™ć€‚

GPT → Orchestrator
LLaMA / Gemini → Worker

  1. Planning (GPT)

  2. äø¦åˆ—å®Ÿč”Œ

  3. 集瓄 (Aggregation)

āœ” å”čŖæåž‹ć‚Øćƒ¼ć‚øć‚§ćƒ³ćƒˆę§‹é€ 
āœ” äø¦åˆ—å®Ÿč”Œ
āœ” ę®µéšŽåˆ„ćƒ­ć‚°å‡ŗåŠ›


5. Evaluator–Optimizer (å“č³Ŗę”¹å–„ćƒ«ćƒ¼ćƒ—)

ē”Ÿęˆēµęžœć‚’č©•ä¾”ć—ć€ę”¹å–„ć™ć‚‹åå¾©ę§‹é€ ć‚’å®Ÿč£…ć—ć¾ć™ć€‚

GPT → č‰ę”ˆä½œęˆ
Gemini → 品質評侔
åŸŗęŗ–ē‚¹ę•°ć«ęŗ€ćŸćŖć„å “åˆćÆē¹°ć‚Ščæ”ć—ę”¹å–„

āœ” åå¾©ę”¹å–„ę§‹é€ 
āœ” č‡Ŗå‹•å“č³Ŗęœ€é©åŒ–ć‚·ć‚¹ćƒ†ćƒ 



4⃣Chapter 3. Orchestrated Multi-Agent Systems

ä»„å‰ć®ć™ć¹ć¦ć®ćƒ‘ć‚æćƒ¼ćƒ³ć‚’ēµ±åˆć—ć¦ć€å®Œęˆåž‹Multi-Agentć‚·ć‚¹ćƒ†ćƒ ć‚’å®Ÿč£…ć—ć¾ć™ć€‚


1. Strategic Analysis

ęˆ¦ē•„ć®å“č³Ŗć‚’ęœ€å¤§åŒ–ć™ć‚‹ćŸć‚ć®ć€åå¾©ę”¹å–„ćƒ™ćƒ¼ć‚¹ć®åˆ†ęžć‚µćƒ¼ćƒ“ć‚¹ć‚’å®Ÿč£…ć—ć¾ć™ć€‚

ćƒžćƒ«ćƒćƒ¢ćƒ‡ćƒ«ćƒ™ćƒ¼ć‚¹ć®ęˆ¦ē•„åˆ†ęž

Architecture Flow
Routing → Parallel Analysis → Evaluator-Optimizer Loop → Chain → Orchestrator-Workers → Final Output

āœ” CompletableFuture äø¦åˆ—å‡¦ē†
āœ” Redis ćƒ™ćƒ¼ć‚¹ć®ćƒŖć‚¢ćƒ«ć‚æć‚¤ćƒ ēŠ¶ę…‹ćƒ¢ćƒ‹ć‚æćƒŖćƒ³ć‚°
āœ” åå¾©ēš„ćŖå“č³Ŗę”¹å–„ćƒ«ćƒ¼ćƒ—

2. Precision Execution

ć‚¢ć‚¤ćƒ‡ć‚¢ć‚’å®Ÿéš›ć®å®Ÿč”Œęˆęžœē‰©ļ¼ˆć‚³ćƒ¼ćƒ‰/ćƒ‰ć‚­ćƒ„ćƒ”ćƒ³ćƒˆļ¼‰ćØć—ć¦å®Œęˆć•ć›ć‚‹ć€å®Ÿč”Œäø­åæƒć®ć‚µćƒ¼ćƒ“ć‚¹ć‚’å®Ÿč£…ć—ć¾ć™ć€‚

Architecture Flow
Refinement → Orchestrator → Parallel Workers → Aggregation

āœ” Redisćƒ™ćƒ¼ć‚¹ć®ćƒŖć‚¢ćƒ«ć‚æć‚¤ćƒ ēŠ¶ę…‹ćƒ¢ćƒ‹ć‚æćƒŖćƒ³ć‚°
āœ” 専用ThreadPool
āœ” 安全な例外処理

3. Voting Analysis

ćƒ¢ćƒ‡ćƒ«ć®åå‘é™¤åŽ»ćŠć‚ˆć³äæ”é ¼ę€§å‘äøŠć®ćŸć‚ć®ć€åˆę„ćƒ™ćƒ¼ć‚¹ć®åˆ†ęžć‚µćƒ¼ćƒ“ć‚¹ć‚’å®Ÿč£…ć—ć¾ć™ć€‚

GPT态Gemini态LLaMAć‚’äø¦åˆ—å‘¼ć³å‡ŗć— → GPTćŒęœ€ēµ‚åˆ¤å®šå®˜ć®å½¹å‰²ć‚’é‚č”Œ

Architecture Flow
äø¦åˆ—å‘¼ć³å‡ŗć— → ćƒ¬ć‚¹ćƒćƒ³ć‚¹åŽé›† → 判定(Judgeļ¼‰ć«ć‚ˆć‚‹ę±ŗå®š

āœ” äø¦åˆ—å‡¦ē†ę§‹é€ 
āœ” Redis Pub/Sub ēŠ¶ę…‹ē™ŗč”Œ
āœ” Executor 安全終了



šŸ’”ć“ć®č¬›ē¾©ć§å­¦ć¶ę øåæƒå†…å®¹

āœ” Multi-LLM ęˆ¦ē•„ć®čØ­čØˆ
āœ” Agentic Workflow ć®å®Ÿč£…
āœ” ć‚Ŗćƒ¼ć‚±ć‚¹ćƒˆćƒ¬ćƒ¼ć‚·ćƒ§ćƒ³ćƒ™ćƒ¼ć‚¹ć®å”čŖæę§‹é€ 
āœ” 障害対応 + å®‰å®šę€§čØ­čØˆ
āœ” åå¾©č©•ä¾”ćƒ™ćƒ¼ć‚¹ć®å“č³Ŗę”¹å–„ć‚·ć‚¹ćƒ†ćƒ 

šŸ’”ęœ€ēµ‚ē›®ęØ™

  • ć“ć®ć‚³ćƒ¼ć‚¹ćÆć€å˜ć«LLMć®ä½æć„ę–¹ć‚’å­¦ć¶éŽēØ‹ć§ćÆć‚ć‚Šć¾ć›ć‚“ć€‚


    Multi-LLMęˆ¦ē•„čØ­čØˆ → Workflowćƒ‘ć‚æćƒ¼ćƒ³ć®é©ē”Ø → Multi-Agentć‚Ŗćƒ¼ć‚±ć‚¹ćƒˆćƒ¬ćƒ¼ć‚·ćƒ§ćƒ³ć®å®Œęˆ

    å®Ÿéš›ć®ć‚µćƒ¼ćƒ“ć‚¹ć«é©ē”ØåÆčƒ½ćŖAIć‚·ć‚¹ćƒ†ćƒ čØ­čØˆčƒ½åŠ›ć‚’ę§‹ēÆ‰ć™ć‚‹ćƒ—ćƒ­ć‚»ć‚¹ć§ć™ć€‚

å—č¬›å‰ć®ć”ę³Øę„äŗ‹é …

å®Ÿēæ’ē’°å¢ƒ

  • ć‚Ŗćƒšćƒ¬ćƒ¼ćƒ†ć‚£ćƒ³ć‚°ć‚·ć‚¹ćƒ†ćƒ ćŠć‚ˆć³ćƒćƒ¼ć‚øćƒ§ćƒ³(OS): Windows态macOS态Linuxなど、すべてのOSćŒåÆčƒ½ć§ć™ć€‚

  • ä½æē”Øćƒ„ćƒ¼ćƒ«: JDK,Intellij(Ultimate or Community),Redis& Docker,Node.js,VSCode

  • PCć‚¹ćƒšćƒƒć‚Æļ¼šć‚¤ćƒ³ć‚æćƒ¼ćƒćƒƒćƒˆęŽ„ē¶šćŒåÆčƒ½ćŖåŸŗęœ¬ć‚¹ćƒšćƒƒć‚Æć®PC

学習資料

  • ęä¾›ć™ć‚‹å­¦ēæ’č³‡ę–™ć®å½¢å¼ļ¼šę•™č‚²ē’°å¢ƒćƒ—ćƒ­ć‚øć‚§ć‚Æćƒˆć€ę•™ę”ˆćŖć©ć€å¤šę§˜ćŖå½¢å¼ć®č³‡ę–™ć‚’ęä¾›

  • åˆ†é‡ćŠć‚ˆć³å®¹é‡ļ¼šå„ć‚»ć‚Æć‚·ćƒ§ćƒ³ć”ćØć«å­¦ēæ’č³‡ę–™ć‚’ęä¾›

äŗ‹å‰ēŸ„č­˜ćŠć‚ˆć³ę³Øę„äŗ‹é …

  • HTML态CSS态JavaScriptć®åŸŗęœ¬ēŸ„č­˜ć‚’ćŠęŒć”ć®ę–¹ć€‚

  • Java态SpringBootć®é–‹ē™ŗēµŒéØ“č€…

  • č³Ŗå•ćÆęŽ²ē¤ŗęæć«ęŠ•ēØæć—ć¦ć„ćŸć ć‘ć‚Œć°ć€ć™ćć«å›žē­”ć§ćć‚‹ć‚ˆć†ć«ć„ćŸć—ć¾ć™ć€‚


  • ęœ¬č¬›ē¾©ć®č‘—ä½œęØ©ćÆ(ę Ŗ)ćƒˆćƒć‚½ćƒ«ć«åø°å±žć—ć€ē„”ę–­é…åøƒćŠć‚ˆć³č¤‡č£½ć‚’ē¦ę­¢ć—ć¾ć™ć€‚å­¦ēæ’č³‡ę–™ć‚‚č‘—ä½œęØ©ćŒć‚ć‚Šć€å€‹äŗŗēš„ćŖå­¦ēæ’ē›®ēš„ä»„å¤–ć§ć®ä½æē”Øć‚’ē¦ę­¢ć—ć¾ć™ć€‚

å½“č©²ćƒ†ćƒ³ćƒ—ćƒ¬ćƒ¼ćƒˆćÆ'AWS DeepRacerć§å­¦ć¶äŗŗå·„ēŸ„čƒ½ćØč‡Ŗå‹•é‹č»¢'č¬›ē¾©ć‚’å‚č€ƒć«ć—ć¦ęä¾›ć—ć¦ć„ć¾ć™ć€‚

こんな方に
恊恙恙悁恧恙

学習対豔は
čŖ°ć§ć—ć‚‡ć†ļ¼Ÿ

  • āœ” Multi-LLM ęˆ¦ē•„ē«‹ę”ˆč€…

  • āœ” Agentic Workflow čØ­čØˆč€…

  • āœ” ć‚Ŗćƒ¼ć‚±ć‚¹ćƒˆćƒ¬ćƒ¼ć‚·ćƒ§ćƒ³ćƒ™ćƒ¼ć‚¹ć®Multi-Agentć‚·ć‚¹ćƒ†ćƒ å®Ÿč£…é–‹ē™ŗč€…

  • āœ” éšœå®³åÆ¾åæœćØå“č³Ŗę”¹å–„ć¾ć§č€ƒę…®ć—ćŸ Production Level ć®ę§‹é€ čØ­čØˆč€…

å‰ęēŸ„č­˜ć€
åæ…č¦ć§ć—ć‚‡ć†ć‹ļ¼Ÿ

  • HTML, CSS, JavaScriptć®åŸŗē¤ŽēŸ„č­˜

  • Java态SpringBootć‚·ć‚¹ćƒ†ćƒ é–‹ē™ŗēµŒéØ“č€…

こんにごは
tootoo恧恙怂

110

å—č¬›ē”Ÿ

10

å—č¬›ćƒ¬ćƒ“ćƒ„ćƒ¼

3

å›žē­”

4.9

講座評侔

2

講座

こんにごは

ēŸ„č­˜å…±ęœ‰č€…ć®ć‚¤ćƒ»ć‚øćƒ³ćƒžćƒ³ļ¼ˆćƒ‹ćƒƒć‚Æćƒćƒ¼ćƒ  tootoo)です。

é•·ć„é–“ć€ę•™å®¤ć§ēš†ć•ć‚“ćØć‚³ćƒŸćƒ„ćƒ‹ć‚±ćƒ¼ć‚·ćƒ§ćƒ³ć‚’ćØć£ć¦ćć¾ć—ćŸć€‚

ć“ć‚Œć‹ć‚‰ćÆć‚Ŗćƒ³ćƒ©ć‚¤ćƒ³äøŠć§ēš†ć•ć‚“ćØć‚³ćƒŸćƒ„ćƒ‹ć‚±ćƒ¼ć‚·ćƒ§ćƒ³ćŒå–ć‚Œć‚‹ć‚ˆć†ć€č³Ŗć®é«˜ć„ć‚³ćƒ³ćƒ†ćƒ³ćƒ„ć‚’ä½œć£ć¦ć„ććŸć„ćØę€ć„ć¾ć™ć€‚

ć‚ć‚ŠćŒćØć†ć”ć–ć„ć¾ć™ć€‚

もっと見る

ć‚«ćƒŖć‚­ćƒ„ćƒ©ćƒ 

全体

22ä»¶ āˆ™ (6Ꙃ間 56分)

č¬›åŗ§č³‡ę–™ļ¼ˆć“ć†ćŽć—ć‚Šć‚‡ć†ļ¼‰:

ęŽˆę„­č³‡ę–™
č¬›åŗ§ęŽ²č¼‰ę—„: 
ęœ€ēµ‚ę›“ę–°ę—„: 

å—č¬›ćƒ¬ćƒ“ćƒ„ćƒ¼

ć¾ć ååˆ†ćŖč©•ä¾”ć‚’å—ć‘ć¦ć„ćŖć„č¬›åŗ§ć§ć™ć€‚
ćæć‚“ćŖć®å½¹ć«ē«‹ć¤å—č¬›ćƒ¬ćƒ“ćƒ„ćƒ¼ć‚’ę›øć„ć¦ćć ć•ć„ļ¼

tootooの他の講座

ēŸ„č­˜å…±ęœ‰č€…ć®ä»–ć®č¬›åŗ§ć‚’č¦‹ć¦ćæć¾ć—ć‚‡ć†ļ¼

似ている講座

åŒć˜åˆ†é‡Žć®ä»–ć®č¬›åŗ§ć‚’č¦‹ć¦ćæć¾ć—ć‚‡ć†ļ¼

ęœŸé–“é™å®šć‚»ćƒ¼ćƒ«

ᅣ16,500

40%

ᅣ3,620