채널톡 아이콘

말하지 않는 AI, JEV System One 아키텍처 완전정복

채팅에 최적화된 LLM으로 분류, 라우팅, 가드레일을 넣으면 문자열이 돌아오고, 그 문자열을 다시 파싱해야 합니다. 환각과 타입 이탈, 수 초의 지연, 출력 토큰 비용이 같이 옵니다. 이 강의는 TypeSafe의 첫 System One 모델 Jev를 기준으로, 상태(state)를 넣으면 스키마 안의 타입 있는 결정과 캘리브레이션된 확률이 나오는 구조를 따라갑니다. 모델은 문자열 생성을 하지 않습니다. 병렬 샘플링과 RLCD(Reinforcement Learning for Calibrated Decisions)가 왜 그 결정을 빠르게 만드는지, Choice · Score · Noul을 한 요청에 어떻게 섞는지, 그리고 구조로 떨어지는 판단은 Jev에 두고 열린 서술은 LLM에 두는 하이브리드까지 개념과 코드로 정리합니다.

4명 이 수강하고 있어요.

난이도 입문

수강기한 무제한

수강 후 이런걸 얻을 수 있어요

  • 상태(state)를 넣으면 파싱 없이 타입 있는 결정과 확률을 받는 호출을 직접 작성한다

  • Choice · Score · Noul을 한 요청에 섞어, 라우팅·척도·참거짓 질문을 병렬로 설계한다

  • 70–500ms, 40–200× 속도 차이를 읽고 Jev와 LLM의 역할(라우팅·가드·검증)을 나눈다

말하지 않는 AI

JEV System One 아키텍처 완전정복

본 강의에서는 AWS DeepRacer를 활용한 자율주행 자동차 강의로 인공지능(AI), 강화학습, 자율주행 기술을 배울 수 있습니다. 강의가 오픈된 2023년 5월 기준 AI Castle은 AWS DeepRacer 리그에서 한국 랭킹 1위를 기록 중입니다.

강의에서는 파이썬 프로그래밍 교육을 포함하여, AWS DeepRacer를 이용한 차량 제어, 클라우드 컴퓨팅 등 다양한 주제를 다룹니다. 강의를 듣고 나면, 수강생들은 자율주행 기술에 대한 깊이 있는 이해를 갖게 되며, 파이썬을 사용한 자율주행 모델 개발 능력을 향상시킬 것입니다.

이런 내용을 배워요

1⃣ 텍스트가 아니라 타입 있는 결정을 받는다

LLM은 글을 쓴 뒤에 그 글을 코드가 다시 해석합니다. Jev는 출력 공간을 먼저 고정합니다. 상태와 질문을 넣으면 허용된 타입의 값과 확률이 돌아오고, 스키마 밖 답은 표현 자체가 되지 않습니다.

1강에서 System 1과 System 2, LLM의 네 가지 구조적 한계(문자열 출력과 환각, 순차 생성의 지연, 믿을 수 없는 확신도)를 정리합니다. 2강에서 타입 안전 구조적 출력, 한 번의 쿼리로 모든 답을 내는 병렬 샘플링, 확신도와 실제 정답률을 맞추는 RLCD를 봅니다.

2⃣ Choice · Score · Noul을 한 요청에 설계한다 

Jev에게 묻는 법은 세 가지입니다.

  • Choice는 미리 정한 옵션 중 하나를 고릅니다. 선택값, 옵션별 확률, confidence가 함께 옵니다. 예: 티켓을 결제팀·기술팀·영업팀 중 어디로 보낼지.

  • Score는 순서가 있는 척도 위의 점수입니다. 예: 고객 불만 강도.

  • Noul은 “참인가?”에 대한 0에서 1 사이의 확률입니다. 예: 긴급한가, 환불 요청인가.

세 질문을 하나의 state에 섞어 넣으면 같은 상태를 공유하며 병렬로 평가됩니다. 질문을 1개에서 여러 개로 늘려도 지연은 거의 그대로입니다. 3강에서 지원 티켓 JSON과 langchain_typesafeTypeSafeClassifier로 이 호출을 직접 작성하고, 큰 질문 하나를 원자적 질문으로 쪼갠 뒤 코드에서 합치는 패턴까지 다룹니다.

3⃣ 밀리초 판단과, LLM과 역할을 나누는 하이브리드

System One 형태의 질의에서 Jev의 엔드투엔드 응답은 70–500ms입니다. 토큰을 순서대로 생성하는 LLM의 3–329초와 비교하면 약 40–200배 빠릅니다. 입력은 100만 토큰당 $0.042이고, 출력 토큰은 무료입니다. 4강 벤치마크에서는 4개 워크플로 정확도가 약 68%로 중상위 LLM에 근접하고, 속도와 비용은 두 자릿수 이상 앞서는 숫자를 읽습니다.

빠른 이유가 곧 사용처입니다. 취약한 if 문을 대체하는 지능형 조건문, 대량 데이터의 map-reduce, 사용자 앞단의 실시간 판단, LLM 출력과 탈옥 시도를 실행 전에 거르는 가드레일. Jev는 LLM을 대체하지 않습니다. 구조로 떨어지는 결정은 Jev가, 열린 서술은 LLM이 맡고, confidence가 낮으면 사람에게 넘깁니다.

수강 전 참고 사항

학습자료 및 유의사항

  • 모든 학습자료는 다음링크에 있습니다.

  • 본 강의와 학습 자료의 저작권은 지식공유자에게 있습니다. 무단 배포와 복제를 금하며, 자료는 개인적인 학습 목적 외에는 사용할 수 없습니다.

  • 별도의 실습자료는 제공되지 않습니다.

이런 분들께
추천드려요

학습 대상은
누구일까요?

  • LLM 응답을 JSON으로 파싱하다 환각과 스키마 이탈 때문에 분류·라우팅을 프로덕션에 올리지 못하는 백엔드·AI 엔지니어

  • 토큰을 하나씩 기다리는 수 초 지연과 호출 비용 때문에 실시간 경로에 AI 판단을 넣지 못하는 서비스 개발자

선수 지식,
필요할까요?

  • Python으로 dict와 JSON을 읽을 수 있으면 됩니다.

  • HTTP API에 JSON 본문을 보내는 흐름을 본 적이 있으면 예제를 바로 따라갑니다.

  • LLM이 토큰을 순서대로 생성한다는 정도만 알면 비교가 됩니다.

  • System One, 타입 시스템, LangChain을 미리 알 필요는 없습니다.

안녕하세요
DEVJH입니다.

67

수강생

5

수강평

5.0

강의 평점

5

강의

안녕하세요. 이종현입니다.

쿠팡에서 소프트웨어 개발자로 근무하며 실제 서비스 개발과 운영 경험을 쌓았고, 현재는 직장생활과 학업을 병행하며 연세대학교 인공지능 석사과정에서 머신러닝과 딥러닝을 연구하고 있습니다.

10년 이상의 소프트웨어 개발 경험을 바탕으로 AI를 직접 연구하고, 다양한 프로젝트와 서비스로 구현하고 있습니다. 특히 머신러닝·딥러닝, LLM·생성형 AI, RAG, AI Agent, AutoML 분야에 관심을 가지고 있으며, 기술을 공부하는 데 그치지 않고 직접 구현하고 실험하며 문제를 해결하는 과정을 중요하게 생각합니다.

실제 AI 모델 개발 경험을 바탕으로 다양한 AI 경진대회에 참가해 성과를 만들어왔습니다. 2026년 K리그-서울시립대 공개 AI 경진대회에서 947개 팀 중 3위를 수상했으며, 제5회 ETRI 휴먼이해 인공지능 논문경진대회에서는 409개 팀 중 Private Leaderboard 2위를 기록했습니다.

연구 분야에서도 꾸준히 성과를 만들어가고 있습니다. 시계열 데이터의 비정상성과 변동성을 다루는 연구인 FS-DCM으로 International Conference on Automated Machine Learning (AutoML 2026)에서 제1저자 Oral Presentation 논문으로 채택되었으며, EMNLP 2026 MathNLP Workshop에서도 제1저자 논문인 MathQueue가 채택되었습니다. 이외에도 LLM을 활용한 해석 가능한 AutoML 연구와 AI 기술의 실제 적용에 관심을 가지고 연구를 이어가고 있습니다.

현재는 AI 학습 서비스 출퇴근길AI(https://mdooai.com)를 운영하고 있습니다. 또한 Upstage Certified Trainer(업스테이지 인증 AI 트레이너)로 활동하며 생성형 AI 교육과 멘토링을 진행하고 있습니다.

개발 현장에서의 실무 경험, AI 연구 경험, 그리고 교육 경험을 바탕으로 AI를 처음 시작하는 분부터 개발 경험을 AI 분야로 확장하고 싶은 분까지, 각자의 상황에 맞는 현실적인 학습 방향과 프로젝트 경험을 함께 고민하고 있습니다.

앞으로도 직접 경험하고 검증한 AI 기술과 연구를 바탕으로 더 많은 사람들이 AI를 이해하고, 직접 구현하고, 자신의 업무와 프로젝트에 효과적으로 활용할 수 있도록 기여하고자 합니다.

감사합니다.

더보기

커리큘럼

전체

12개 ∙ (1시간 31분)

강의 게시일: 
마지막 업데이트일: 

수강평

아직 충분한 평가를 받지 못한 강의입니다.
모두에게 도움이 되는 수강평의 주인공이 되어주세요!

DEVJH님의 다른 강의

지식공유자님의 다른 강의를 만나보세요!

비슷한 강의

같은 분야의 다른 강의를 만나보세요!

얼리버드 할인 중

₩16,500

50%

₩33,000

평생교육이용권 지원 강의