システムデザインの第一歩 with LLM:運用可能なAIサービス(RAG・AIエージェント)アーキテクチャ設計

既存のバックエンドにLLMが結合されると、アーキテクチャはどう変わるのでしょうか?単なるLLM APIの呼び出しを超えて、Model Router、LLM Gateway、Vector DBなどAIサービスの核心コンポーネントを理解し、RAGやAI Agentを含む運用可能なAIサービスアーキテクチャを段階的に設計するシステムデザイン入門講座です。 自分だけのLLMベースのAIサービスを作りたい方のために、設計の流れを素早く習得できるようサポートします。

12名 が受講中です。

難易度 初級

受講期間 無制限

Architecture
Architecture
software-design
software-design
system-design
system-design
LLM
LLM
RAG
RAG
Architecture
Architecture
software-design
software-design
system-design
system-design
LLM
LLM
RAG
RAG

受講後に得られること

  • LLM、RAG、AIエージェントベースのシステムアーキテクチャ設計能力

  • LLMサービスの主要コンポーネントに関する理解(Model Router、LLM Gateway、ベクトルDB、Retrieverなど)

  • AIサービスの性能、拡張性、信頼性などを考慮した設計トレードオフの理解

運用可能なAIサービスを設計できるAIエンジニアへと成長するための第一歩 🚀


"LLMを活用したサービスを作りたいけれど、どう設計すればいいんだろう?🤔"


LLMの登場により、誰でもAI機能をサービスに適用できる時代になりました。

今やChatGPTやClaudeのようなLLM APIを連携するだけでも、多様なAIサービスを素早く作ることができます。

しかし、単にLLM APIを呼び出すだけでなく、実際に運用可能なAIサービスを作り始めると、新たな悩みが生じます。

  • どのモデルを選択すべきか?複数のモデルをどのようにルーティングすべきか?


  • 会話履歴とコンテキストはどう管理すべきだろうか?

  • RAGはいつ必要で、どのように設計すべきか?

  • AI Agentはどのようなコンポーネントで構成されており、設計する際に何を考慮すべきだろうか?

  • コスト、応答速度、品質をどのように改善できるだろうか?


LLMが新たなシステムコンポーネントの一つとなったことで、AIサービスのシステムアーキテクチャも従来のバックエンドシステムとは異なる形へと変化しています。

この講義は、LLMを活用したサービスを安定的で拡張可能、かつ運用可能なシステムとして設計する方法を学ぶシステムデザイン講義です。

Model Router、LLM Gateway、Conversation Manager、Vector DBといった主要コンポーネントの役割を理解し、RAGやAI Agentアーキテクチャを共に確認しながら、運用可能なAIシステムの全体的な設計フローを習得します。

この講義は、AIモデルを直接開発したり、特定のAIフレームワークの使い方を学ぶ講義ではありません。AIを実際のサービスに適用し運用するエンジニアの視点から、AIシステムを設計する方法を学ぶことに焦点を当てた講義です。

AIモデルやフレームワークは急速に発展し、絶えず変化し続けますが、優れたシステムを設計する原理は容易には変わりません。

この講義を通じてAIサービスシステムデザインの根本原理を学び、新しい技術が登場しても状況に合わせたAIシステムアーキテクチャを自ら設計し、判断できる基準を共に作っていきましょう。

#LLM #AIシステム #システムデザイン #RAG #AI Agent


🎉 オープン記念早割50%割引実施中 🎉

新規講義のオープンを記念して、8月15日〜9月13日までの1ヶ月間、アーリーバード割引を実施します! 🚀

前回の講義「システムデザインの第一歩」2週間20%割引を実施しておりますので、システムデザインやAIサービスアーキテクチャに関心をお持ちでしたら、ぜひこの機会に一緒に始めてみてください! 📚✨

🌟 講義の差別化ポイント


📌 1. AIエンジニアの視点からシステムを設計します。

この講義は、プロンプトを上手に作成したり、特定のAIフレームワークの使用方法を学ぶための講義ではありません。

実際のサービスを構築するバックエンド・AIエンジニアの視点から、運用可能なAIシステムアーキテクチャを設計する方法を学びます。


📌 2. 運用環境で必要な主要コンポーネントをすべて連携させます。

Model Router、LLM Gateway、Conversation Manager、Vector DB、RAG、AI Agentなど、実際のAIサービスで使用される主要コンポーネントを個別に学ぶのではなく、一つのシステムの中でどのように接続され、共に動作するのかをアーキテクチャの観点から理解します。


📌 3. 技術が変わっても通用する設計原理を学びます。

AIモデルやフレームワークは絶えず変化しますが、優れたシステムを設計する原理は簡単には変わりません。

この講義では、特定の技術の使い方よりも、新しい技術が登場しても状況に合わせたAIシステムアーキテクチャを自ら設計し、判断できる思考力を養うことに集中します。

✏ LLMサービスシステムデザインの流れを学びます

セクション1. なぜLLMを活用したシステムデザインを学ぶ必要があるのか?

  • LLMの登場により変化しているAIサービス開発環境と、なぜLLMを単に使用するだけでなく、システムデザインの観点から理解する必要があるのかについて学びます。

  • AIの発展以降に変化した開発者の役割を確認し、既存のシステムアーキテクチャにLLMという新しいコンポーネントが追加されることで、設計方式や考慮すべき要素がどのように変化するのかを学びます。



セクション2. LLMシステムデザインの理解

  • LLMという新しいシステムコンポーネントを活用して、どのようなサービスを作ることができるのか、様々な活用事例を通じて学びます。

  • 従来のバックエンドシステム設計の核心目標である信頼性、可用性、パフォーマンス、拡張性が、LLMベースのシステムではどのように変化するかを理解し、LLMサービスならではの追加の考慮事項を確認します。

  • また、LLMがどのように発展してきたのか、トランスフォーマー(Transformer)アーキテクチャを中心に主要な技術の流れを理解し、LLMベースのシステムを設計するための基礎知識を身につけます。

セクション3. LLM活用の基本アーキテクチャ

  • LLMを活用する最も基本的なサービスアーキテクチャを概観し、単なるLLM APIの呼び出しを超えて、運用可能なAIサービスを構築するために必要なコンポーネントを理解します。

  • プロンプトエンジニアリング、モデルの選択とサービング戦略、LLM Router & Gateway、対話履歴を管理するConversation Managerなど、LLMベースのサービスのコア構成要素がなぜ必要なのか、どのような状況で活用するのかを学びます。



セクション4. RAGアーキテクチャ

  • LLM活用の基本アーキテクチャから一歩進んで、LLMのハルシネーション(幻覚)問題を軽減し、サービスの独自データを活用するためのRAGアーキテクチャを理解します。

  • 埋め込みとベクトルDBの動作原理を学び、文書の収集から前処理、チャンキング、インデックス作成、検索まで、RAGシステムのデータパイプライン全体を確認します。

  • また、大規模なドキュメントを効率的に処理するための増分インデックス、検索の質を高めるための Hybrid RetrieverRerankerなど、実際の運用環境で考慮すべきRAGの設計手法を学びます。

セクション5. AI Agent アーキテクチャ (10月公開)

  • RAGを超えて、LLMが自ら判断し、必要なツールを選択し、複数のタスクを遂行するAIエージェントシステムの構造を理解します。

  • Agentを構成する核心コンポーネントであるPlanning, Tool Calling, Memory, Agent Runtimeの役割について見ていきます。

  • RAGとAgentを組み合わせたAgentic RAGアーキテクチャなど、応用アーキテクチャについて学びます。



セクション6. LLMベースのAIサービス運用と最適化 (12月公開)

  • 実際の運用環境で安定したLLMサービスを提供するために必要なモニタリング、セキュリティ、評価、パフォーマンス改善方法などを学びます。

  • LLMサービスの品質とコストをどのように測定し改善できるのか、Prompt/Response Logging, Evaluation, Guardrailなど、運用段階で必要な核心要素を理解します。

  • 応答速度とコストを最適化するためのシステム設計手法を学び、運用可能なAIサービスを完成させるプロセスを確認します。

🙋 おすすめ対象

LLMを活用したサービスを作りたいのですが、どこから設計すればいいのか分かりません

LLM APIを呼び出すだけでなく、運用可能なAIサービスの全体アーキテクチャと設計フローを学びたい方

会社のプロジェクトや業務にLLMを導入してみたいです。


社内業務の自動化、AI機能の追加、AIサービスの開発など、実務で活用できるAIシステムアーキテクチャを設計したい開発者

AIエンジニアまたはAIサービス開発者として成長したいです。


性能、コスト、品質、拡張性を考慮しながら、自らAIサービスを設計できる思考力を養いたい方

受講前のご注意事項

📚 学習資料

  • 講義スライドのPDFを提供します。(約220ページ(+追加予定))

📖 前提知識および注意事項

  • この講義は、LLMベースのAIサービスのシステムアーキテクチャを設計する理論中心の講義です。

    したがって、LangChain、LlamaIndex、Spring AIなど特定のフレームワークの使用方法やコード実装の実習は扱いません。

  • 基本的なバックエンド開発の経験があればよりスムーズに理解でき、以下の内容を知っていれば学習の助けになります。

    • HTTPとREST APIの基本的な動作原理

    • データベース(RDBまたはNoSQL)を活用した開発経験

    • Webサービスまたはバックエンドの開発経験

    • ChatGPT、ClaudeなどのLLMを使用したことがある、またはLLM APIを簡単に呼び出した経験

  • LLMに関する専門知識やAIモデルの開発経験は必要ありません。LLMの基本概念からAIサービスがどのような構造で動作するのかを段階的に説明するため、AIの経験があまりない開発者でも、AIシステム設計の全体的な流れを理解して進めることができます。


こんな方に
おすすめです

学習対象は
誰でしょう?

  • LLMベースのAIサービスの安定したアーキテクチャを自ら設計したい開発者

  • LLMベースのプロジェクトを進めてみたい就活生

  • 業務自動化や社内プラットフォームの改善など、業務にLLMを適用してみたい現役の開発者

  • 既存のバックエンドシステムにLLMを追加する必要があるバックエンド開発者

前提知識、
必要でしょうか?

  • 基本的なバックエンドアーキテクチャに対する理解(HTTP、RESTful API、Webサーバー、DBなどバックエンドの基礎的な動作原理)

  • LLMに対する基本的な関心と経験(ChatGPTやClaudeのようなLLM APIを一度でも呼び出したことがあるか、プロンプトを作成した経験があれば望ましいです)

こんにちは
mindlanternです。

キャリア認証

709

受講生

52

受講レビュー

7

回答

5.0

講座評価

2

講座

こんにちは、開発者のソンジャンランタンです。
国内のIT大手企業に勤務しており、誰もが開発者になって想像するものを自ら作れる世界を夢見ています。

現場での悩みや実際に使われている技術を、初めて学ぶ方でも簡単に理解できるように伝えたいと思っています。
学び、成長する過程を愛する一人として、私の講義を受ける方々も共に成長する喜びを感じていただければ幸いです。

メール: mindlantern.studio@gmail.com

もっと見る

カリキュラム

全体

25件 ∙ (4時間 20分)

講座資料(こうぎしりょう):

授業資料
講座掲載日: 
最終更新日: 

受講レビュー

まだ十分な評価を受けていない講座です。
みんなの役に立つ受講レビューを書いてください!

似ている講座

同じ分野の他の講座を見てみましょう!

期間限定セール

¥42,350

50%

¥10,773