inflearn logo
知識共有
inflearn logo

話さないAI、JEV System Oneアーキテクチャ完全攻略

チャットに最適化されたLLMで分類・ルーティング・ガードレールを行うと、文字列が返ってきて、その文字列を再度パースする必要があります。そこには幻覚や型の逸脱、数秒の遅延、出力トークンのコストが伴います。 この講義では、TypeSafe初のSystem OneモデルであるJevを軸に、状態(state)を入力すると、スキーマ内の型付きの判断とキャリブレーション済みの確率が出力される構造を扱います。モデルは文字列を生成しません。並列サンプリングとRLCD(Reinforcement Learning for Calibrated Decisions)がなぜ判断を高速化するのか、Choice・Score・Noulを1つのリクエストにどう組み合わせるのか、そして構造化できる判断はJevに任せ、自由記述はLLMに任せるハイブリッドまで、概念とコードで整理します。

4名 が受講中です。

難易度 入門

受講期間 無制限

AI
AI
Python
Python
LLM
LLM
AX(Agent Experience)
AX(Agent Experience)
AI Agent
AI Agent
AI
AI
Python
Python
LLM
LLM
AX(Agent Experience)
AX(Agent Experience)
AI Agent
AI Agent

受講後に得られること

  • 状態(state)を渡すと、パースなしで型付きの決定と確率を受け取る呼び出しを直接記述する。

  • Choice · Score · Noulを1つのリクエストに組み込み、ルーティング・尺度・真偽質問を並列に設計する

  • 70–500ms、40–200×の速度差を踏まえ、JevとLLMの役割(ルーティング・ガード・検証)を分担する

語らないAI

JEV System Oneアーキテクチャ完全攻略

本講義では、AWS DeepRacerを活用した自動運転車の講義を通じて、人工知能(AI)、強化学習、自動運転技術を学ぶことができます。講義が公開された2023年5月時点で、AI CastleはAWS DeepRacerリーグで韓国ランキング1位を記録しています。

講義では、Pythonプログラミングの教育をはじめ、AWS DeepRacerを利用した車両制御、クラウドコンピューティングなど、さまざまなテーマを扱います。講義を受講すると、自動運転技術について深く理解できるようになり、Pythonを使った自動運転モデルの開発能力を向上させられます。

このような内容を学びます

1⃣ テキストではなく、型付きの決定を受け取る

LLMは文章を書いた後、その文章をコードが再解釈します。Jevは出力空間を先に固定します。状態と質問を入力すると、許可された型の値と確率が返され、スキーマ外の回答はそもそも表現できません。

第1講では、System 1とSystem 2、LLMの4つの構造的限界(文字列出力と幻覚、逐次生成の遅延、信頼できない確信度)を整理します。第2講では、型安全な構造化出力、1回のクエリですべての回答を得る並列サンプリング、確信度と実際の正答率を一致させるRLCDを見ていきます。

2⃣ Choice・Score・Noulを1つのリクエストに設計する 

Jevへの尋ね方は3つあります。

  • Choiceはあらかじめ定めた選択肢の中から一つを選びます。選択値、選択肢ごとの確率、confidenceが一緒に返されます。例:チケットを決済チーム・技術チーム・営業チームのどこに送るか。

  • Scoreは順序尺度上のスコアです。例:顧客の不満の強さ。

  • Noulは「真か?」に対する0から1までの確率です。例:緊急か、返金リクエストか。

3つの質問を1つのstateに混ぜて入れると、同じ状態を共有しながら並列で評価されます。質問を1つから複数に増やしても、レイテンシーはほとんど変わりません。第3講では、サポートチケットのJSONとlangchain_typesafeTypeSafeClassifierを使ってこの呼び出しを直接記述し、大きな質問1つを原子的な質問に分割した後、コードで統合するパターンまで扱います。

3⃣ ミリ秒の判断と、LLMと役割を分担するハイブリッド

System One形式のクエリにおけるJevのエンドツーエンド応答は70–500msです。トークンを順番に生成するLLMの3–329秒と比べると、約40–200倍高速です。入力は100万トークンあたり$0.042で、出力トークンは無料です。4強ベンチマークでは、4つのワークフローの正確度が約68%で中上位のLLMに近く、速度とコストでは二桁以上の差をつける数字を示しています。

速い理由こそが、用途につながります。脆弱なif文を置き換えるインテリジェントな条件文、大量データに対するmap-reduce、ユーザーのフロントエンドでのリアルタイムな判断、LLMの出力や脱獄の試みを実行前にふるいにかけるガードレール。JevはLLMを置き換えるものではありません。構造に落とし込める判断はJevが、自由記述はLLMが担い、confidenceが低い場合は人に引き継ぎます。

受講前の参考事項

学習資料および注意事項

  • すべての学習資料は次のリンクにあります。

  • 本講義と学習資料の著作権は知識共有者に帰属します。無断での配布および複製を禁じ、資料は個人的な学習目的以外には使用できません。

  • 別途の実習資料は提供されません。

こんな方に
おすすめです

学習対象は
誰でしょう?

  • LLMの応答をJSONとしてパースする際、幻覚やスキーマ逸脱が原因で、分類・ルーティングを本番環境に導入できずにいるバックエンド・AIエンジニア

  • トークンを一つずつ待つ数秒の遅延と呼び出しコストのため、リアルタイム処理にAIの判断を組み込めないサービス開発者

前提知識、
必要でしょうか?

  • PythonでdictとJSONを読み込めれば大丈夫です。

  • HTTP APIにJSON本文を送信する流れを見たことがあれば、すぐに例に従えます。

  • LLMがトークンを順番に生成するという程度のことを知っていれば、比較できます。

  • System One、型システム、LangChainについて事前に知っておく必要はありません。

こんにちは
DEVJHです。

67

受講生

5

受講レビュー

5.0

講座評価

5

講座

こんにちは。イ・ジョンヒョンです。

クーパンでソフトウェア開発者として勤務し、実際のサービス開発と運用の経験を積みました。現在は仕事と学業を両立しながら、延世大学校の人工知能修士課程で機械学習とディープラーニングを研究しています。

10年以上のソフトウェア開発経験をもとに、AIを自ら研究し、さまざまなプロジェクトやサービスとして実装しています。特に、機械学習・ディープラーニング、LLM・生成AI、RAG、AI Agent、AutoMLの分野に関心を持っており、技術を学ぶだけにとどまらず、自ら実装・実験しながら問題を解決していくプロセスを重視しています。

実際のAIモデル開発経験を基に、さまざまなAIコンペティションに参加し、成果を上げてきました。2026年Kリーグ・ソウル市立大学公開AIコンペティションでは947チーム中3位を受賞し、第5回ETRI人間理解人工知能論文コンペティションでは409チーム中Private Leaderboard 2位を記録しました。

研究分野でも着実に成果を上げています。時系列データの非定常性と変動性を扱う研究であるFS-DCMが、International Conference on Automated Machine Learning(AutoML 2026)に第一著者によるオーラルプレゼンテーション論文として採択され、EMNLP 2026 MathNLP Workshopでも、第一著者論文であるMathQueueが採択されました。このほかにも、LLMを活用した解釈可能なAutoML研究や、AI技術の実社会への応用に関心を持ち、研究を続けています。

現在はAI学習サービス出退勤路AIhttps://mdooai.com)を運営しています。また、Upstage Certified Trainer(アップステージ認定AIトレーナー)として活動し、生成AIの教育とメンタリングを行っています。

開発現場での実務経験、AI研究の経験、そして教育経験をもとに、AIを初めて学ぶ方から、開発経験をAI分野へ広げたい方まで、それぞれの状況に合った現実的な学習の方向性やプロジェクト経験について、ともに考えています。

今後も、自ら経験し検証したAI技術と研究に基づき、より多くの人がAIを理解し、自ら実装し、自身の業務やプロジェクトで効果的に活用できるよう貢献していきたいと考えています。

ありがとうございます。

もっと見る

カリキュラム

全体

12件 ∙ (1時間 31分)

講座掲載日: 
最終更新日: 

受講レビュー

まだ十分な評価を受けていない講座です。
みんなの役に立つ受講レビューを書いてください!

DEVJHの他の講座

知識共有者の他の講座を見てみましょう!

似ている講座

同じ分野の他の講座を見てみましょう!

期間限定セール

¥16,500

50%

¥4,284