シリコンバレーのAI開発者によるLLMサービスのためのRAG
Hong
LLMの限界? シリコンバレーの現場で経験したRAGの試行錯誤と運用ノウハウをもとに、実践的な問題解決法をお伝えします。
入門
JavaScript, Python, AI
大規模なMSA(マイクロサービスアーキテクチャ)環境で性能を最大化するRPC通信手法を扱います。単なるgRPCの実習にとどまらず、数百のマイクロサービスが同時に動作する実際の運用環境において、安定的かつ効率的なサービス間通信を実装する方法を学びます。Golangをベースに、Protocol Buffers(proto)構文の作成、自動コード生成およびサービスの実装、gRPCの構造と従来のRPCに対する利点、そして性能最適化戦略まで実務中心に扱います。非専門家やサーバー開発の入門者も容易に理解できるよう、RPCの概念からgRPCの内部動作原理まで段階的に説明し、実際のサービスにすぐ適用できる実務型の能力を身につけることができます。
学習した受講者のレビュー
5.0
미래 1인 개발자
Tossで開発をしており、講義にも一緒に参加して手伝ってくれた開発者です。RPC通信について必ず知っておく必要があります。人々が思っているよりもHTTPで簡単に実装してMSAを実装したとよく言われますが、実際私は同意しません。 実際に以前面接に行った時もMSAというアーキテクチャの話が出るとRPCについても必ず質問をする傾向だったほど、MSAでRPC通信というものがリソース最適化の側面と管理する側面で非常に重要な要素の一つだと思います。 この講義が多くの助けになることを願っています。
5.0
Choi
カカオで開発しながらHongと一緒に講義を作った開発者です!!RPC通信、MSAアーキテクチャ、この2つの関連関係をうまく繋げて説明できない方や、両者の互換性の重要度をよく分からない方が多いと思います。 「どこかでMSAコアレベルまで実装してみました。」と言えるなら、必ずRPCまで活用してネットワーク段のリソースを最適化し、この過程でどの部分を改善したかを説明できなければならないと思います。 そのようなテーマを基に講義を準備してみました。講義をご覧になって多くの助けを得ていかれることを願っています。ありがとうございます!
5.0
이병석
本当に有益な内容でした.. 他の講義もとても期待していて、多くの部分を学びました。具体的に表現すると。 1. MSAでなぜHTTPでは実装の限界があるのかを知ることができました。 2. 基本から応用まで様々な要求事項に対応できるRPC設計を知ることになりました。 3. RPCを使用する過程で考慮すべき部分を知ることになりました。 4. 接続に対する最適化やプロトコルレベルでの接続再利用など、簡単には知ることのできない内容を学習することができました。 本当にとても良い講義をありがとうございます。
「RPCはなぜ必要なのか?」 – RESTを超えた高性能通信の本質を理解する
gRPC完全征服 – proto設計からコード自動生成、実践サービス構築まで
数百ものマイクロサービスを支える秘訣 – カカオ流の性能保証戦略を公開
인터페이스 정의 · order.proto
外部から入ってくるリクエストはRESTで間違いありません。しかし、サービスがサービスを呼び出す内部通信まで同じ方式だと、サービスが増えるにつれてヘッダーとシリアル化にかかるコストも共に増加します。
gRPCはインターフェースを文書ではなくファイルで先に定義します。サーバーとクライアントのコードがこのファイルから生成されるため、規格が一致しない場合はコンパイル段階でエラーになります。
1 · 問題の定義
どちらか一方を選ぶという話ではありません。どの場所に何を使うかを分けるという話です。
サービスが数百個になると、ヘッダーのオーバーヘッドとシリアル化のコストが呼び出し回数分だけ乗算されます。 その判断を下すためには、gRPCが何を変えるのかを知る必要があります。
2 · 開始
カカオとトス、二つの場所の現職開発者が同じ話をしました。
3 · 通信方式
どちらがストリームかによって4つに分かれます。リアルタイム機能を開発する際、何を選択するかがここで決まります。
CLIENTSERVER
リクエスト一つにレスポンス一つ。最もよく使われ、必ず知っておくべき形式です。
CLIENTSERVER
一度リクエストし、レスポンスを複数回に分けて受け取ります。進捗状況をプッシュする場面で使われます。
CLIENTSERVER
何度も送り、最後に一度だけ応答を受け取ります。まとめてアップロードする作業に適しています。
CLIENTSERVER
両方が同時にやり取りします。並行性に関する注意事項を併せて確認します。
セクション5がこの場所です。最後の実習のメッセンジャーの例が、Unaryだけでは不十分な場面をそのまま示しています。
4 · カリキュラム
背景とproto設計を固め、通信方式と最適化を経て、全体実習で終わります。
5 · 実習
文法を学ぶだけで終わらないよう、性質の異なる2つのサービスをそれぞれ設計し、実装します。
LAB 01
LAB 02
実習はGoで行います。セクション2でJavaとGoの開発環境の違いをまず説明するため、Goが初めての方でもスタートラインに立つことができます。
文法だけを学んで終わりではありません。性質の異なる2つのサービスを、protoの設計からコードの実装まで作り上げます。
커리큘럼 보기6 · 対象
7 · 今の市場
新卒採用は減り、企業は検証済みの人材(即戦力)だけを採用しようとしています。ここ数ヶ月の間に出た記事の内容です。
企業が不安を感じている分、選ばれる側はより明確な差を見せなければなりません。プロトコルの名前を知っていることと、なぜそれを選んだのかを説明できることは別次元の話です。
8 · 受講評
Inflearnの受講レビューからそのまま引用しました。
本当に有益な内容でした。具体的に表現すると、第一に、MSAにおいてなぜHTTPでは実装に限界があるのかを知ることができた。第二に、基本から深化まで多様な要件に対応できるRPC設計を知ることができた。第三に、RPCを使用する過程で考慮すべき部分を知ることができた。第四に、接続の最適化やプロトコルレベルでの接続の再利用など、簡単には知ることができない内容を学習することができた。
イ・ビョンソク · 100%受講後に作成
開発に没頭できるほど、非常に有益な内容でした。一般的にはなかなか見られないテーマで、興味のある内容だったので、このような講義を提供していただき本当にありがとうございます。
開発に狂った者 · 92%受講後に作成
理論編と実習編が適切に配分されています。gRPCの入門などにおいて、価格以上の満足度が得られた講義でした。
Rojojun · 100% 受講後に作成
9 · 作った人
カカオとトスでそれぞれ現職として働いている二人の開発者、そして板橋(パンギョ)のプラットフォームサーバー開発者Hongです。
KAKAO · BACKEND & DATA ENGINEER
第1金融圏を経て、現在はカカオでバックエンドとデータエンジニアリングを担当しています。面接官としても活動しています。
"MSAの話が出れば、面接で必ずRPCについて質問します。"
TOSS · BACKEND ENGINEER
地方でコンピューター工学を専攻し、NAVERを経て、現在はTossでバックエンドを開発しています。
"HTTPだけで通信しながらMSAをすべて作ったというのは、実は完成ではありません。"
知識共有者 · 板橋(パンギョ)プラットフォームサーバー開発
非専門家からスタートし、現在は板橋(パンギョ)でプラットフォームバックエンドを開発しています。現職の知人たちと共に講義を作っています。
"外側と内側は別の問題だということを知れば、選択が変わります。"
10 · 質問
サービスが増えるほど費用が倍増する箇所がどこかを知れば、選択が変わります。
결정하기 전에 커리큘럼 다시 훑어보기講義を聴いていて気になる部分、自分のサービスに適用しながら生じる質問、キャリアの話まで共有できる空間が別途用意されています。行き詰まる部分は、大抵他の人も行き詰まる場所です。
学習対象は
誰でしょう?
MSAを正しく理解したいサーバー開発者 – 実際の大規模環境の通信構造を学びたい方
gRPCを実務に適用しようとしているエンジニア – RESTを超えて新しい通信パラダイムを探求したい方
非専門家出身の開発入門者 – 概念からコードまで段階的に学びながら、実務感覚を身につけたい方
カカオのような大型サービスのバックエンド構造をベンチマークしたい学習者
インフラン認証
キャリア認証
9,273
受講生
594
受講レビュー
165
回答
4.8
講座評価
31
講座
家でだらだら過ごしていたところ、開発に興味を持ち勉強を始め、現在は板橋(パンギョ)でプラットフォームサーバーの開発を担当しています。私が勉強してきた方法や、実務で直面する可能性のある様々な問題点とその解決策を皆さんに提供したいと思い、知識共有者としての活動を続けています。
講義は私一人の知識だけで作られるものではありません。すべての講義には、共に作り上げてくださる方々がいます。
Tossの開発者からの推薦で合流されたシリコンバレーの開発者 Waddy, người đã tham gia theo lời giới thiệu của một nhà phát triển từ Toss
[知識共有者の経歴]
[前] サンドボックスIP関連ブロックチェーン開発者
[前] メタバースバックエンドエンジニア
[現] 板橋(パンギョ)でベテランになりつつあるサーバー開発者
[インタビュー履歴]
[その他のお問い合わせ]
[公式サイト]
全体
24件 ∙ (4時間 27分)
講座資料(こうぎしりょう):
全体
16件
4.9
16件の受講レビュー
受講レビュー 8
∙
平均評価 5.0
5
Tossで開発をしており、講義にも一緒に参加して手伝ってくれた開発者です。RPC通信について必ず知っておく必要があります。人々が思っているよりもHTTPで簡単に実装してMSAを実装したとよく言われますが、実際私は同意しません。 実際に以前面接に行った時もMSAというアーキテクチャの話が出るとRPCについても必ず質問をする傾向だったほど、MSAでRPC通信というものがリソース最適化の側面と管理する側面で非常に重要な要素の一つだと思います。 この講義が多くの助けになることを願っています。
次回も一緒に良い講義を作ってみましょう😊😊ありがとうございます!
受講レビュー 12
∙
平均評価 5.0
5
カカオで開発しながらHongと一緒に講義を作った開発者です!!RPC通信、MSAアーキテクチャ、この2つの関連関係をうまく繋げて説明できない方や、両者の互換性の重要度をよく分からない方が多いと思います。 「どこかでMSAコアレベルまで実装してみました。」と言えるなら、必ずRPCまで活用してネットワーク段のリソースを最適化し、この過程でどの部分を改善したかを説明できなければならないと思います。 そのようなテーマを基に講義を準備してみました。講義をご覧になって多くの助けを得ていかれることを願っています。ありがとうございます!
今回もたくさんのお手伝いをいただき、ありがとうございます!!次回もよろしくお願いします😊😊
受講レビュー 8
∙
平均評価 5.0
5
開発に夢中になれるほどの非常に有益な内容でした。一般的には見ることが難しいテーマに関心のある内容だったので、このような講義を提供していただき本当にありがとうございます。共有者様の他の講義もよく見ていましたが、今後さらに期待しています。本当にありがとうございます。
こんにちは、開発に夢中な方!より開発に夢中になれる講義でお届けできたようで嬉しいです😊😊 良いレビューをありがとうございます!
受講レビュー 9
∙
平均評価 5.0
5
本当に有益な内容でした.. 他の講義もとても期待していて、多くの部分を学びました。具体的に表現すると。 1. MSAでなぜHTTPでは実装の限界があるのかを知ることができました。 2. 基本から応用まで様々な要求事項に対応できるRPC設計を知ることになりました。 3. RPCを使用する過程で考慮すべき部分を知ることになりました。 4. 接続に対する最適化やプロトコルレベルでの接続再利用など、簡単には知ることのできない内容を学習することができました。 本当にとても良い講義をありがとうございます。
こんにちは、イ・ビョンソクさん、良いレビューを残していただきありがとうございます。 一つ一つ長所を挙げていただいたので、該当講義が気になる方々にとって大きな助けになると思います。今後もより有益な講義を作れるよう努力いたします。ありがとうございます!
知識共有者の他の講座を見てみましょう!
同じ分野の他の講座を見てみましょう!