inflearn logo
็Ÿฅ่ญ˜ๅ…ฑๆœ‰
inflearn logo

Spring AI Multi-LLM & Orchestrated Multi-Agent ใ‚ทใ‚นใƒ†ใƒ 

ๆœฌใ‚ณใƒผใ‚นใฏใ€Spring AIใƒปSpring Bootใ‚’ๅŸบ็›คใซใ€GPTใ€Geminiใ€LLaMA๏ผˆใƒญใƒผใ‚ซใƒซ๏ผ‰ใ‚’ๆˆฆ็•ฅ็š„ใซ็ต„ใฟๅˆใ‚ใ›ใ€Multi-LLMใ‚ขใƒผใ‚ญใƒ†ใ‚ฏใƒใƒฃใจใ‚ชใƒผใ‚ฑใ‚นใƒˆใƒฌใƒผใ‚ทใƒงใƒณไธญๅฟƒใฎAgentใ‚ทใ‚นใƒ†ใƒ ๏ผˆMain/Subใ€Toolใ€Task Runtimeใ€Agent Registry๏ผ‰ใ‚’่จญ่จˆใƒปๅฎŸ่ฃ…ใ™ใ‚‹ไธŠ็ดšใ‚ณใƒผใ‚นใงใ™ใ€‚ ๅ˜ไธ€LLMใฎๅ‘ผใณๅ‡บใ—ใ‚’่ถ…ใˆใ€Agentic Workflow Pattern๏ผˆChainใ€Parallelใ€Routingใ€Orchestratorโ€“Workersใ€Evaluatorโ€“Optimizer๏ผ‰ใจMulti-Agentๆง‹้€ ใ‚’้ฉ็”จใ—ใ€ToolใƒปToolRegistryใซใ‚ˆใฃใฆRAGใƒปๅค–้ƒจAPI/DBใชใฉใฎๅฎŸ่กŒใƒฌใ‚คใƒคใƒผใ‚’ๅˆ†้›ขใ—ใพใ™ใ€‚ใ•ใ‚‰ใซใ€DAGใ‚จใƒณใ‚ธใƒณใƒปYAMLๅฎฃ่จ€ๅž‹ใƒฏใƒผใ‚ฏใƒ•ใƒญใƒผใƒปใƒญใƒผใƒ‰็›ดๅพŒใฎๆคœ่จผ๏ผˆValidated DSL๏ผ‰ใ‚’้€šใ˜ใฆใ€ๆ‹กๅผตๅฏ่ƒฝใงๅฎ‰ๅฎšใ—ใฆใŠใ‚Šใ€ๅ“่ณชใŒ็ถ™็ถš็š„ใซๆ”นๅ–„ใ•ใ‚Œใ‚‹AIใ‚ทใ‚นใƒ†ใƒ ใ‚’ๆง‹็ฏ‰ใ™ใ‚‹ๆตใ‚Œใ‚’ๆ‰ฑใ„ใพใ™ใ€‚ ใพใŸใ€Circuit Breakerใ€Reactive Streamใ€Redisใƒขใƒ‹ใ‚ฟใƒชใƒณใ‚ฐใ€ไธฆๅˆ—ๅ‡ฆ็†ใ€ๅๅพฉ่ฉ•ไพกใƒซใƒผใƒ—ใพใงๅซใฟใ€Thymeleaf๏ผˆSSR๏ผ‰ใฎๅฎŸ็ฟ’ใซๅŠ ใˆใฆReactใƒปRESTใงใƒ•ใƒญใƒณใƒˆ/ใƒใƒƒใ‚ฏใ‚’ๅˆ†้›ขใ—ใ€MCP๏ผˆModel Context Protocol๏ผ‰ใงใƒ„ใƒผใƒซใƒปใ‚จใƒผใ‚ธใ‚งใƒณใƒˆใƒฉใƒณใ‚ฟใ‚คใƒ ใ‚’ๆจ™ๆบ–ใƒ—ใƒญใƒˆใ‚ณใƒซใง้€ฃๅ‹•ใ•ใ›ใ‚‹ๆ‹กๅผตใ‚’ๅŠ ใˆใ€ๅฎŸ้š›ใฎ้‹็”จ็’ฐๅขƒใƒฌใƒ™ใƒซใฎAIใ‚ขใƒผใ‚ญใƒ†ใ‚ฏใƒใƒฃ่จญ่จˆ่ƒฝๅŠ›ใ‚’่บซใซใคใ‘ใ‚‹ใ“ใจใ‚’็›ฎๆŒ‡ใ—ใพใ™ใ€‚ ๆœ€็ต‚็š„ใช็›ฎๆจ™ใฏใ€ๅ˜ไธ€APIใฎ้€ฃๆบใ‚„ใƒ—ใƒญใƒณใƒ—ใƒˆใƒฌใƒ™ใƒซใซใจใฉใพใ‚‹ๅ˜็ด”ใชAIๅˆฉ็”จ่€…ใงใฏใชใใ€Multi-LLMใƒปใ‚จใƒผใ‚ธใ‚งใƒณใƒˆใƒปใƒฏใƒผใ‚ฏใƒ•ใƒญใƒผใƒปๅฎฃ่จ€ใƒปๆคœ่จผใ‚’ไธ€ใคใฎๅฎŸ่กŒใ‚ขใƒผใ‚ญใƒ†ใ‚ฏใƒใƒฃใจใ—ใฆ่ชฌๆ˜ŽใƒปๆŠ˜่กใงใใ‚‹ใ€AIใ‚ทใ‚นใƒ†ใƒ ใ‚’่จญ่จˆๅฏ่ƒฝใช้–‹็™บ่€…ใธใจๆˆ้•ทใ™ใ‚‹ใ“ใจใงใ™ใ€‚

้›ฃๆ˜“ๅบฆ ๅˆ็ดš

ๅ—่ฌ›ๆœŸ้–“ ็„กๅˆถ้™

Spring Boot
Spring Boot
orchestration
orchestration
multi-agent
multi-agent
SpringAI
SpringAI
AI Agent
AI Agent
Spring Boot
Spring Boot
orchestration
orchestration
multi-agent
multi-agent
SpringAI
SpringAI
AI Agent
AI Agent

ใŠ็Ÿฅใ‚‰ใ›

3 ไปถ

  • tootoo๋‹˜์˜ ํ”„๋กœํ•„ ์ด๋ฏธ์ง€

    ใ“ใ‚“ใซใกใฏใ€ใ‚คใƒปใ‚ธใƒณใƒžใƒณใงใ™ใ€‚

    Spring AI Multi-LLM ใ‚ขใƒผใ‚ญใƒ†ใ‚ฏใƒใƒฃใจ

    ใ‚ชใƒผใ‚ฑใ‚นใƒˆใƒฌใƒผใ‚ทใƒงใƒณไธญๅฟƒใฎใƒžใƒซใƒใ‚จใƒผใ‚ธใ‚งใƒณใƒˆใ‚ทใ‚นใƒ†ใƒ 

    https://inf.run/mYtWS

    ่ฌ›ๅบงใฎใ‚ขใƒƒใƒ—ใ‚ฐใƒฌใƒผใƒ‰ใซ้–ขใ™ใ‚‹ใŠ็Ÿฅใ‚‰ใ›ใ‚’ใŠไผใˆใ—ใพใ™ใ€‚

    ใŸใใ•ใ‚“ใฎ้–ขๅฟƒใ‚’ใŠ้ก˜ใ„ใ—ใพใ™ใ€‚

     

    ไปŠๅ›žใ€Spring AIใ‚’ๅŸบ็›คใซใ€GPTใ€Geminiใ€LLaMA๏ผˆใƒญใƒผใ‚ซใƒซ๏ผ‰ใ‚’ๆˆฆ็•ฅ็š„ใซ็ต„ใฟๅˆใ‚ใ›ใ‚‹Multi-LLMใ‚ขใƒผใ‚ญใƒ†ใ‚ฏใƒใƒฃใจใ€Main/SubใƒปToolใƒปTaskใธใจใคใชใŒใ‚‹Orchestrated Multi-Agentใ‚ทใ‚นใƒ†ใƒ ใ‚’่จญ่จˆใƒปๅฎŸ่ฃ…ใ™ใ‚‹ไธŠ็ดšใ‚ณใƒผใ‚นใ‚’ใ”ๆกˆๅ†…ใ„ใŸใ—ใพใ™ใ€‚

    ใ“ใฎใ‚ณใƒผใ‚นใงๆ‰ฑใ†ๆ ธๅฟƒใฏๆฌกใฎ้€šใ‚Šใงใ™ใ€‚

    • ๅ˜ไธ€LLMใฎๅ‘ผใณๅ‡บใ—ใงใฏใชใใ€Agentic Workflow(Chain, Parallel, Routing, Orchestratorโ€“Workers, Evaluatorโ€“Optimizer)ใซใ‚ˆใฃใฆๆ‹กๅผตใƒปๅฎ‰ๅฎšใƒปๆŒ็ถš็š„ใชๅ“่ณชๆ”นๅ–„

    • Multi-LLMใƒซใƒผใƒ†ใ‚ฃใƒณใ‚ฐใƒปใƒ•ใ‚ฉใƒผใƒซใƒใƒƒใ‚ฏใƒปใ‚ปใ‚ญใƒฅใƒชใƒ†ใ‚ฃๅˆ†ๅฒใง้‹็”จใƒป่ฆๅˆถใ‚’ๅ‰ๆใจใ—ใŸใƒขใƒ‡ใƒซ้ธๆŠžใƒปๅˆ‡ใ‚Šๆ›ฟใˆ

    • ใƒžใƒซใƒใ‚จใƒผใ‚ธใ‚งใƒณใƒˆใƒปใ‚ชใƒผใ‚ฑใ‚นใƒˆใƒฌใƒผใ‚ทใƒงใƒณ โ€” Agent Registryใ€Tool/RAGๅฎŸ่กŒใฎๅˆ†้›ขใ€Task RuntimeใจHTTPใƒปSSEใƒปRedisใซใ‚ˆใ‚‹้€ฒ่กŒใƒป็Šถๆ…‹ใฎ้€ฃๆบ

    • DAGใƒฏใƒผใ‚ฏใƒ•ใƒญใƒผใ‚จใƒณใ‚ธใƒณใจYAMLๅฎฃ่จ€ๅž‹DSLใ€ใƒญใƒผใƒ‰็›ดๅพŒใฎๆคœ่จผ(Validated DSL)ใซใ‚ˆใฃใฆใ€ใ‚ฐใƒฉใƒ•ใฎๅฎŸ่กŒใจไฟก้ ผใ‚’ไธ€ใคใฎๆตใ‚Œใซ

    • ้ธๆŠžๆ‹กๅผต๏ผšReactใƒปRESTใ€MCPใซใ‚ˆใ‚‹UI/APIๅˆ†้›ขใƒปๆจ™ๆบ–ใƒ„ใƒผใƒซ้€ฃๆบ

    • Circuit Breakerใ€Reactive Streamใ€Redis ใƒขใƒ‹ใ‚ฟใƒชใƒณใ‚ฐใ€ไธฆๅˆ—ใ€ๅๅพฉ่ฉ•ไพกใชใฉใ€Production๏ผˆๆœฌ็•ช็’ฐๅขƒ๏ผ‰ใซ่ฟ‘ใ„่จญ่จˆใฎ่ฆณ็‚น

    ใ“ใฎใ‚ˆใ†ใชๆ–นใซใŠใ™ใ™ใ‚ใงใ™ใ€‚

    • APIใ‚’้€ฃๆบใ•ใ›ใŸใƒฌใƒ™ใƒซใ‚’่ถ…ใˆใ€ใ‚จใƒผใ‚ธใ‚งใƒณใƒˆใƒปใƒฏใƒผใ‚ฏใƒ•ใƒญใƒผใƒป้‹็”จใพใง่จญ่จˆใ—ใŸใ„ใƒใƒƒใ‚ฏใ‚จใƒณใƒ‰ใƒปใƒ•ใƒซใ‚นใ‚ฟใƒƒใ‚ฏ้–‹็™บ่€…

    • ่ค‡ๅˆใ‚ฏใ‚จใƒชใƒป่‡ชๅ‹•ๅŒ–ใƒ‘ใ‚คใƒ—ใƒฉใ‚คใƒณใ‚’ๆง‹้€ ๅŒ–ใ—ใฆใƒใƒผใƒ ใซ่ชฌๆ˜Žใ™ใ‚‹ๅฟ…่ฆใŒใ‚ใ‚‹ใ€ใ‚ขใƒผใ‚ญใƒ†ใ‚ฏใƒˆใƒปใƒชใƒผใƒ‰ใฎๅฝนๅ‰ฒใ‚’ๆบ–ๅ‚™ใ—ใฆใ„ใ‚‹ๆ–น

    ๅ—่ฌ›ๅพŒใซใฏใ€Œใƒ—ใƒญใƒณใƒ—ใƒˆไธ€็™บใ€ใงใฏใชใใ€Multi-LLMใƒปใ‚ชใƒผใ‚ฑใ‚นใƒˆใƒฌใƒผใ‚ทใƒงใƒณใƒปToolใƒปTaskใƒปDAGใƒปๅฎฃ่จ€ใƒปๆคœ่จผใ‚’ไธ€ใคใฎๅฎŸ่กŒใ‚ขใƒผใ‚ญใƒ†ใ‚ฏใƒใƒฃใจใ—ใฆ่ชžใ‚Šใ€ๆ–‡ๆ›ธๅŒ–ใงใใ‚‹AIใ‚ทใ‚นใƒ†ใƒ ่จญ่จˆใฎ่ฆ–็‚นใ‚’็ขบๅฎŸใซ่บซใซใคใ‘ใ‚‰ใ‚Œใ‚‹ใ‚ˆใ†ๆง‹ๆˆใ—ใพใ—ใŸใ€‚

     

    ใ‚ใ‚ŠใŒใจใ†ใ”ใ–ใ„ใพใ™ใ€‚

     

    ๆœฌใ‚ณใƒผใ‚นใงๅญฆใถใ‚ทใ‚นใƒ†ใƒ ใ‚’้€šใ˜ใฆใ€ๆฌกใฎใ‚ˆใ†ใช่ค‡ๅˆๆฅญๅ‹™ใƒปๆ„ๆ€ๆฑบๅฎšใ‚’ๅ‡ฆ็†ใ™ใ‚‹ใ‚ทใ‚นใƒ†ใƒ ใ‚’ๆง‹็ฏ‰ใ™ใ‚‹ใ“ใจใŒ

    ๆœฌ่ฌ›ๅบงใฎ็›ฎ็š„ใงใ™ใ€‚

    image.png

     

    ๆœฌ่ชฒ็จ‹ใฎใ‚ซใƒชใ‚ญใƒฅใƒฉใƒ ใฏไปฅไธ‹ใฎ้€šใ‚Šใงใ™ใ€‚

    1โƒฃ SpringBootใงใฎSpring AI้–‹็™บ็’ฐๅขƒใŠใ‚ˆใณMulti LLM็’ฐๅขƒใฎๆง‹็ฏ‰

    2โƒฃChapter 1. Multi-LLM Architecture(ใƒžใƒซใƒใƒขใƒ‡ใƒซใจAIใ‚ขใƒผใ‚ญใƒ†ใ‚ฏใƒใƒฃ่จญ่จˆ)

    3โƒฃChapter 2. Agentic Workflow Patterns(5ใคใฎAgent Workflowใƒ‘ใ‚ฟใƒผใƒณ)

    4โƒฃChapter 3. Orchestrated Multi-Agent Patterns(ใƒ‘ใ‚คใƒ—ใƒฉใ‚คใƒณใซใ‚ˆใ‚‹ๅฎŸ่ฃ…)

    5โƒฃChapter 4. Multi-Agent Architecture (Main Agent & SubAgent ๅˆ†้›ขๆˆฆ็•ฅ)

    6โƒฃChapter 5. Tool-Orchestrated Multi-Agent(Toolใƒ™ใƒผใ‚นใฎๅฎŸ่กŒใƒฌใ‚คใƒคใƒผๅˆ†้›ข)

    7โƒฃChapter 6. Task-Orchestrated Multi-Agent(TaskTool Agent Runtime)

    8โƒฃChapter 7. DAG-Orchestrated Multi-Agent(DAGใƒ™ใƒผใ‚นใฎAI Workflow่จญ่จˆ)

    9โƒฃChapter 8. Declarative Agent Workflow with YAML(YAML ๊ธฐ๋ฐ˜ DAG)

    ๐Ÿ”ŸChapter 9. Validated Agent Workflow DSL(DSL ๆคœ่จผใƒ™ใƒผใ‚นใฎ DAG)

    ๐Ÿ…ฐAppendix A. React Front-End & REST API Server Integration

    ๐Ÿ…ฑ Appendix B. MCP Integration(MCPใซใ‚ˆใ‚‹Toolใƒปใ‚จใƒผใ‚ธใ‚งใƒณใƒˆใƒฉใƒณใ‚ฟใ‚คใƒ ้€ฃๆบ)

     

    ๆœฌ่ชฒ็จ‹ใฎใ‚ทใ‚นใƒ†ใƒ ๆง‹ๆˆใฏไปฅไธ‹ใฎ้€šใ‚Šใงใ™ใ€‚

    image.png

     

     

    0
  • tootoo๋‹˜์˜ ํ”„๋กœํ•„ ์ด๋ฏธ์ง€

    ใ“ใ‚“ใซใกใฏใ€็Ÿฅ่ญ˜ๅ…ฑๆœ‰่€…ใฎใ‚คใƒปใ‚ธใƒณใƒžใƒณ(tootoo)ใงใ™ใ€‚

     

    Spring AI Multi-LLM ใ‚ขใƒผใ‚ญใƒ†ใ‚ฏใƒใƒฃใจ Orchestration ไธญๅฟƒใฎใ‚จใƒผใ‚ธใ‚งใƒณใƒˆใ‚ทใ‚นใƒ†ใƒ 

    https://inf.run/mYtWS

    ใ‚ณใƒผใ‚นใฎใ‚ขใƒƒใƒ—ใ‚ฐใƒฌใƒผใƒ‰ใซ้–ขใ™ใ‚‹ใŠ็Ÿฅใ‚‰ใ›ใ‚’ใŠไผใˆใ—ใพใ™ใ€‚

    4ๆœˆไธญๆ—ฌ้ ƒใซใ‚ขใƒƒใƒ—ใ‚ฐใƒฌใƒผใƒ‰ไบˆๅฎšใงใ‚ใ‚Šใ€ๆฌกใฎใ‚ˆใ†ใชๆง‹ๆˆใงใ‚ชใƒผใƒ—ใƒณใ™ใ‚‹ไบˆๅฎšใงใ™ใ€‚

    ็พๅœจใ”่ณผๅ…ฅๆธˆใฟใฎๆ–นใฏใ€ใƒใƒฃใƒ—ใ‚ฟใƒผ3ใพใงใ”่ฆงใ„ใŸใ ใใ€ใใฎๅพŒใƒใƒฃใƒ—ใ‚ฟใƒผ4ใ‹ใ‚‰ใ”่ฆงใ„ใŸใ ใ‘ใ‚Œใฐใจๆ€ใ„ใพใ™ใ€‚

    4ๆœˆไธญๆ—ฌใ‹ใ‚‰ใฏๆœฌ่ฌ›ๅบงใฎไพกๆ ผใŒ่‹ฅๅนฒๅ€คไธŠใŒใ‚Šใ™ใ‚‹ไบˆๅฎšใงใ™ใฎใงใ€ไบ‹ๅ‰ใซใŠ่ฒทใ„ๆฑ‚ใ‚ใ„ใŸใ ใใฎใ‚‚่‰ฏใ„ใ‹ใจๆ€ใ„ใพใ™ใ€‚

    ใ‚ใ‚ŠใŒใจใ†ใ”ใ–ใ„ใพใ™ใ€‚

     

    ๅ…จไฝ“็š„ใชๆ•™ๆกˆ้ƒจๅˆ†ใŒไฟฎๆญฃใ•ใ‚Œใ€Chapter 1ใ‹ใ‚‰Chapter 3ใพใงใฏไธปใซใƒ‘ใ‚ฟใƒผใƒณใ‚’ๅญฆ็ฟ’ใ—ใŸใจใ™ใ‚Œใฐใ€

    Chapter4 ๏ฝž Chapter 8 ใพใงใฏใ€ๅฎŸๅ‹™ไธญๅฟƒใฎ Multi-Agent ใ‚’ไฝœๆˆใ™ใ‚‹้Ž็จ‹ใงๆง‹ๆˆใ„ใŸใ—ใพใ—ใŸใ€‚

     

    Chapter 1. Multi-LLM Architecture(ใƒžใƒซใƒใƒขใƒ‡ใƒซๆˆฆ็•ฅใจใ‚จใƒณใ‚ฟใƒผใƒ—ใƒฉใ‚คใ‚บAIใ‚ขใƒผใ‚ญใƒ†ใ‚ฏใƒใƒฃ่จญ่จˆ)

    Chapter 2. Agentic Workflow Patterns(ๅฎŸๅ‹™ใงไฝฟ็”จใ™ใ‚‹5ใคใฎAgent Workflowใƒ‘ใ‚ฟใƒผใƒณ)

    Chapter 3. Orchestrated Multi-Agent Patterns(Multi-Agent ๆง‹้€ ใ‚’ๅฎŸ้š›ใฎใ‚ตใƒผใƒ“ใ‚นใƒ‘ใ‚คใƒ—ใƒฉใ‚คใƒณใจใ—ใฆๅฎŸ่ฃ…ใ™ใ‚‹)

    Chapter 4. Multi-Agent Architecture (SubAgent ๅˆ†้›ขๆˆฆ็•ฅใจ Agent Registry ๅ†…้ƒจๆง‹้€ )

    Chapter 5. Tool-Orchestrated Multi-Agent(Toolใ‚’ๅˆฉ็”จใ—ใŸๅฎŸ่กŒใƒฌใ‚คใƒคใƒผๅˆ†้›ขใ‚ขใƒผใ‚ญใƒ†ใ‚ฏใƒใƒฃ)

    Chapter 6. Task-Orchestrated Multi-Agent(TaskToolใƒ™ใƒผใ‚นใฎAgent Runtime่จญ่จˆ)

    Chapter 7. DAG-Orchestrated Multi-Agent(ใ‚จใƒณใ‚ฟใƒผใƒ—ใƒฉใ‚คใ‚บ็ดšDAGใƒ™ใƒผใ‚นAI Workflow่จญ่จˆ)

    Chapter 8. Declarative Agent Workflow with YAML(YAMLใƒ™ใƒผใ‚นใฎDAGๅฎš็พฉใจๅฎŸ่กŒใ‚จใƒณใ‚ธใƒณใฎๅˆ†้›ข)

    0
  • tootoo๋‹˜์˜ ํ”„๋กœํ•„ ์ด๋ฏธ์ง€

    ใ“ใ‚“ใซใกใฏใ€็Ÿฅ่ญ˜ๅ…ฑๆœ‰่€…ใฎใ‚คใƒปใ‚ธใƒณใƒžใƒณใงใ™ใ€‚

    Spring AI - Part2ใ‚’ใ‚ชใƒผใƒ—ใƒณใ—ใพใ—ใŸใ€‚

     

    Spring AI - Part1ใงใฏใ€ไธปใซLLM้€ฃๆบใซๅŠ ใˆใ€RAGใ€Multimodality APIใ€Tool / Function Callingใ€ใŠใ‚ˆใณMCP๏ผˆModel Context Protocol๏ผ‰ใฎๆดป็”จใซใคใ„ใฆ้€ฒใ‚ใพใ—ใŸใ€‚

     

    Spring AI - Part2ใงใฏใ€ไธปใซMulti-LLMใƒ™ใƒผใ‚นใฎAIใ‚ขใƒผใ‚ญใƒ†ใ‚ฏใƒใƒฃ่จญ่จˆใ€Agentic Workflowใƒ‘ใ‚ฟใƒผใƒณใ€Orchestrated Multi-Agentใ‚ทใ‚นใƒ†ใƒ ใฎๆง‹็ฏ‰ใŒไธปใชๅ†…ๅฎนใงใ™ใ€‚

     

    Spring AI Multi-LLM ใ‚ขใƒผใ‚ญใƒ†ใ‚ฏใƒใƒฃใจ Orchestration ไธญๅฟƒใฎใ‚จใƒผใ‚ธใ‚งใƒณใƒˆใ‚ทใ‚นใƒ†ใƒ 

    https://inf.run/mYtWS

     

    ๅคšใใฎ้–ขๅฟƒใ‚’ใŠ้ก˜ใ„ใ„ใŸใ—ใพใ™ใ€‚

     

    ใ‚ใ‚ŠใŒใจใ†ใ”ใ–ใ„ใพใ™ใ€‚

     

     

     

    0

๏ฟฅ4,885