こんにちは、イ・ドウォン（Kenneth）です。
無料講座「Spring AI LLMコストモニタリング — Actuatorの1行で作るトークンダッシュボード」を公開しました。
なぜこの講義を作ったのでしょうか？
企業のAIプロジェクトをコンサルティングする中で、最も多く受けた質問はこれでした。
"チャットボットは作ったのですが、これ、1か月にいくらかかりますか？"】【。
LLMサービスはリクエストごとにコストが異なり、応答に数秒かかるうえ、失敗の原因が自分たちのコードの外にあります。それでも多くのチームは一般的なWebサービスのようにモニタリングし、請求書を受け取って初めて問題に気づきます。
エラー0件、Health UP、HTTP 200。すべてが正常に見えるのに、入力トークンだけが数倍に増加する障害は、従来のモニタリングでは検知できません。
この講義で行うこと
Actuatorを一行でSpring AIがすでに記録しているトークン・レイテンシ・エラーメトリクスを取得します。
docker compose一度でPrometheus + Grafanaのトークンダッシュボードを起動します。
平均ではなくp95で「たまに遅いリクエスト」を見つけ出します。
topK 4 → 20という設定だけで入力トークンが約4倍に増加する「正常に見える障害」を自ら再現し、ダッシュボードで検知します。
ビジネスコードは修正しません。依存関係を1行、設定を数行追加するだけで済みます。
講義情報
所要時間：約1時間（実習を含む）
実習環境：JDK 21以上、Docker Desktop、OpenAI APIキーまたはOllama（無料）
提供資料：実習プロジェクト、docker-compose、GrafanaダッシュボードJSON、負荷スクリプト（bash・PowerShell）、ステップ別教材
メトリクス名がSpring AI標準なので、実習用ダッシュボードを自分のプロジェクトにそのまま適用できます。APIキーがなくてもOllamaで最後まで進められます。
このような方におすすめです
Spring AIでPoCや社内チャットボットを作り、公開を控えているバックエンド開発者
Actuator・Prometheusは使ったことがあるものの、LLMサービスでは何を見ればよいのか分からない方
LLM導入コストを数値で報告する必要があるチームリーダー・アーキテクト
さらに深く学びたい方へ
トークンをウォン換算のコストに変換するカスタムメトリクス、コスト急増アラート、1件のリクエストを段階別に確認する分散トレーシング（Jaeger）については、『Spring開発者のための実践LLMサービス開発』セクション16で引き続き扱います。
受講中に行き詰まった点は質問掲示板に投稿してください。"手順どおりにやったのにグラフが空です"のような質問も歓迎します。
受講レビューとしてお寄せいただくご意見は、次の講義を作る際の大きな励みになります。
ありがとうございます。
イ・ドウォンより