システムデザイン入門 with LLM:運用可能なAIサービス(RAG・AI Agent)のアーキテクチャ設計を学ぶ

既存のバックエンドにLLMが組み込まれると、アーキテクチャはどう変わるのでしょうか?単なるLLM APIの呼び出しにとどまらず、Model Router、LLM Gateway、Vector DBなど、AIサービスの主要コンポーネントを理解し、RAGやAI Agentを含む運用可能なAIサービスアーキテクチャを段階的に設計する、システムデザイン入門講座です。 自分だけのLLMベースのAIサービスを作りたい方が、設計の流れを効率よく身につけられるようサポートします。

難易度 初級

受講期間 無制限

Architecture
Architecture
software-design
software-design
system-design
system-design
LLM
LLM
RAG
RAG
Architecture
Architecture
software-design
software-design
system-design
system-design
LLM
LLM
RAG
RAG

この講座で身につくこと

  • LLM、RAG、AI Agentベースのシステムアーキテクチャ設計能力

  • LLMサービスの主要コンポーネントに関する理解(Model Router、LLM Gateway、ベクトルDB、Retrieverなど)

  • AIサービスの性能、拡張性、信頼性などを考慮した設計上のトレードオフを理解する

実運用可能なAIサービスを設計できるAIエンジニアへと成長するための第一歩 🚀


「LLMを活用したサービスを作りたいけれど、どのように設計すればいいのだろう?🤔」


LLMの登場により、誰もがAI機能をサービスに取り入れられる時代になりました。

今ではChatGPTやClaudeのようなLLM APIをつなぐだけでも、さまざまなAIサービスを素早く作れます。

しかし、単にLLM APIを呼び出すだけでなく、実際に運用できるAIサービスを作り始めると、新たな課題が出てきます。

  • どのモデルを選ぶべきだろうか?複数のモデルをどうルーティングすればよいだろうか?


  • 会話履歴とコンテキストはどのように管理すればよいでしょうか?

  • RAGはいつ必要で、どのように設計すべきか?

  • AI Agentはどのようなコンポーネントで構成され、設計時に何を検討すべきか?

  • コスト、応答速度、品質をどのように改善できるのか?


LLMが新たなシステムコンポーネントとなるにつれて、AIサービスのシステムアーキテクチャも、従来のバックエンドシステムとは異なる形へと変化しています。

この講義は、LLMを活用したサービスを、安定性と拡張性を備え、運用可能なシステムとして設計する方法​を学ぶシステムデザイン講義です。

Model Router、LLM Gateway、Conversation Manager、Vector DBといった主要コンポーネントの役割を理解し、RAGやAI Agentのアーキテクチャも併せて見ていくことで、運用可能なAIシステム全体の設計の流れを身につけます。

この講義は、AIモデルを直接開発したり、特定のAIフレームワークの使い方を学んだりする講義ではありません。AIを実際のサービスに適用して運用するエンジニアの視点から、AIシステムの設計方法を学ぶことに焦点を当てています。

AIモデルやフレームワークは急速に進化し、変化し続けますが、優れたシステムを設計する原則は簡単には変わりません。

この講義を通じて、AIサービスのシステム設計の根本原則を学び、新しい技術が登場しても、状況に応じたAIシステムアーキテクチャを自分で設計・判断できる基準を一緒に作っていきましょう。

#LLM #AIシステム #システム設計 #RAG #AI Agent


🌟 講義の特長


📌 1. AIエンジニアの視点からシステムを設計します。

この講義は、プロンプトの上手な書き方や特定のAIフレームワークの使い方を学ぶためのものではありません。

実際にサービスを構築するバックエンド・AIエンジニアの視点から、運用可能なAIシステムアーキテクチャを設計する方法を学びます。


📌 2. 運用環境で必要となる主要コンポーネントをすべて連携させます。

Model Router、LLM Gateway、Conversation Manager、Vector DB、RAG、AI Agentなど、実際のAIサービスで使われる主要なコンポーネントを個別に学ぶのではなく、1つのシステムの中でどのようにつながり、連携して動作するのかをアーキテクチャの観点から理解します。


📌 3. 技術が変わっても通用する設計原則を学びます。

AIモデルやフレームワークは常に変化しますが、優れたシステムを設計する原則は簡単には変わりません。

この講義では、特定の技術の使い方よりも、新しい技術が登場しても状況に応じたAIシステムアーキテクチャを自ら設計し、判断できる考え方を身につけることに重点を置いています。

✏ LLMサービスのシステムデザインの流れを学びます

セクション1. なぜLLMを活用したシステムデザインを学ぶべきなのか?

  • LLMの登場により変化しているAIサービスの開発環境と、なぜLLMを単に使うだけでなく、システムデザインの観点から理解する必要があるのかを学びます。

  • AIの進化によって変化した開発者の役割を振り返り、既存のシステムアーキテクチャにLLMという新たなコンポーネントが加わることで、設計方法や考慮すべき要素がどのように変化するのかを学びます。



セクション2. LLMシステム設計を理解する

  • LLMという新しいシステムコンポーネントを活用して、さまざまな活用事例を通じて、どのようなサービスを作れるのかを学びます。

  • 従来のバックエンドシステム設計の重要な目標である信頼性、可用性、パフォーマンス、拡張性が、LLMベースのシステムではどのように変わるのかを理解し、LLMサービスならではの追加の考慮事項を見ていきます。

  • また、LLMがどのように発展してきたのかを学び、Transformerアーキテクチャを中心に技術の主要な流れを理解しながら、LLMベースのシステムを設計するための基礎知識を身につけます。

セクション3. LLM活用の基本アーキテクチャ

  • LLMを活用する最も基本的なサービスアーキテクチャを見て、単純なLLM API呼び出しにとどまらず、運用可能なAIサービスを構築するために必要なコンポーネントを理解します。

  • プロンプトエンジニアリング、モデル選択とサービング戦略、LLM Router & Gateway、会話履歴を管理するConversation Managerなど、LLMベースのサービスの主要な構成要素がなぜ必要なのか、どのような状況で活用するのかを学びます。



セクション4. RAGアーキテクチャ

  • LLM活用の基本アーキテクチャからさらに一歩進み、LLMのハルシネーションを減らし、サービス独自のデータを活用するためのRAGアーキテクチャを理解します。

  • 埋め込みとVector DBの動作原理を学び、文書収集から前処理、チャンク化、インデックス作成、検索まで、RAGシステム全体のデータパイプラインを見ていきます。

  • また、大規模なドキュメントを効率的に処理するための増分インデックス作成、検索品質を高めるためのHybrid RetrieverやRerankerなど、実際の運用環境で考慮すべきRAGの設計方法を学びます。

セクション5. AI Agentアーキテクチャ(11月公開)

  • RAGを超えて、LLMが自ら判断し、必要なツールを選択して、複数のタスクを実行するAI Agentシステムの構造を理解します。

  • Agentを構成する中核コンポーネントであるPlanning、Tool Calling、Memory、Agent Runtimeの役割を見ていきます。

  • RAGとAgentを組み合わせたAgentic RAGアーキテクチャなど、応用アーキテクチャについて学びます。



セクション6. LLMベースのAIサービスの運用と最適化(12月公開)

  • 実際の運用環境で安定したLLMサービスを提供するために必要なモニタリング、セキュリティ、評価、パフォーマンス改善の方法などを学びます。

  • LLMサービスの品質とコストをどのように測定・改善できるかを学び、Prompt/Response Logging、Evaluation、Guardrailなど、運用段階で必要となる重要な要素を理解します。

  • 応答速度とコストを最適化するためのシステム設計方法を学び、運用可能なAIサービスを完成させるプロセスを見ていきます。

🙋 おすすめの対象者

LLMを活用したサービスを作りたいのですが、どこから設計すればよいのか分からず困っています

LLM APIを呼び出すだけでなく、運用可能なAIサービスの全体的なアーキテクチャと設計の流れを学びたい方

会社のプロジェクトや業務にLLMを適用してみたいです。


社内業務の自動化、AI機能の追加、AIサービス開発など、実務で活用できるAIシステムアーキテクチャを設計したい開発者

AI EngineerまたはAIサービス開発者として成長したい方。


性能、コスト、品質、拡張性を考慮し、自らAIサービスを設計できる思考力を身につけたい方

受講前の注意事項

📚 学習資料

  • 講義スライドのPDFを提供します。(約220ページ(+追加予定))

📖 前提知識および注意事項

  • この講義は、LLMベースのAIサービスのシステムアーキテクチャを設計するための理論中心の講義です。

    そのため、LangChain、LlamaIndex、Spring AIなどの特定のフレームワークの使い方やコード実装の実習は扱いません。

  • 基本的なバックエンド開発の経験があれば、よりスムーズに学習できます。また、以下の内容を知っていると学習に役立ちます。

    • HTTPとREST APIの基本的な動作原理

    • データベース(RDBまたはNoSQL)を活用した開発経験

    • Webサービスまたはバックエンドの開発経験

    • ChatGPTやClaudeなどのLLMを使ったことがある、またはLLM APIを簡単に呼び出した経験

  • LLMに関する専門知識やAIモデルの開発経験は必要ありません。LLMの基本概念から、AIサービスがどのような構造で動作するのかまで段階的に説明するため、AIの経験が少ない開発者でもAIシステム設計の全体の流れを理解し、ついていくことができます。


次のような方に
おすすめです

受講対象

  • LLMベースのAIサービスの安定したアーキテクチャを自ら設計したい開発者

  • LLMベースのプロジェクトに取り組んでみたい就活生

  • 業務自動化や社内プラットフォームの改善など、会社の業務にLLMを活用してみたい現場の開発者

  • 既存のバックエンドシステムにLLMを追加する必要があるバックエンド開発者

前提知識

  • 基本的なバックエンドアーキテクチャへの理解(HTTP、RESTful API、Webサーバー、DBなど、バックエンドの基本的な動作原理)

  • LLMへの基本的な関心と経験(ChatGPTやClaudeなどのLLM APIを一度でも呼び出したことがある、またはプロンプトを作成した経験があると望ましいです)

こんにちは
mindlanternです。

経歴認証済み

849

受講生

63

受講レビュー

9

回答

4.9

講座評価

2

講座

こんにちは、開発者の成長ランタンです。
韓国の大手IT企業に勤務しており、誰もが開発者となり、想像したものを自ら作れる世界を夢見ています。

現場での悩みや実際に使われている技術を、初めて学ぶ方にもわかりやすくお伝えしたいと思っています。
新しいことを学び成長する過程が好きな者として、私の講義を受ける方にも一緒に成長する楽しさを感じていただければと思います。

 

メール:mindlantern.studio@gmail.com

Linktree: https://linktr.ee/mindlantern

もっと見る

カリキュラム

全体

25件 ∙ (5時間 24分)

講座資料:

授業資料
講座掲載日: 
最終更新日: 

受講レビュー

全体

6件

4.3

6件の受講レビュー

  • zndcvkln1372님의 프로필 이미지
    zndcvkln1372

    受講レビュー 1

    ∙

    平均評価 5.0

    5

    受講進捗32%時点のレビュー

    • twlee4117님의 프로필 이미지
      twlee4117

      受講レビュー 5

      ∙

      平均評価 3.8

      4

      受講進捗32%時点のレビュー

      • coen님의 프로필 이미지
        coen

        受講レビュー 84

        ∙

        平均評価 5.0

        5

        受講進捗32%時点のレビュー

        • suylee4596님의 프로필 이미지
          suylee4596

          受講レビュー 1

          ∙

          平均評価 5.0

          5

          受講進捗32%時点のレビュー

          • mindlantern
            知識共有者

            良い受講レビューを残してくださってありがとうございます、スヨンさん😊 5、6セクションもお役に立てる内容にできるよう努めていますので、もう少しだけお待ちください! 講義を受講される中で気になる点やご質問がありましたら、いつでもお気軽に質問をお寄せいただけますと幸いです〜!

        • seokjunwon7426님의 프로필 이미지
          seokjunwon7426

          受講レビュー 3

          ∙

          平均評価 4.0

          4

          受講進捗60%時点のレビュー

          AIの活用にとても役立ちそうです。

          • mindlantern
            知識共有者

            受講レビューをお寄せいただきありがとうございます、ソクジュンさん! 近日公開予定のセクション5、6も、AIを活用した設計にさらに役立つ内容にできるよう努めてまいります〜

        似ている講座

        同じ分野の他の講座を見てみましょう!