ๅฎๅใซ็ดๆฅ้ฉ็จใใ AWS ใใใญใค
AWSใงใตใผใในใใใใญใค/้ๅถใใใๆนใฎใใใซ็จๆใใพใใใ
ๅ่ฌ็ 133ๅ
้ฃๆๅบฆ ๅ็ด
ๅ่ฌๆ้ ็กๅถ้
ใ็ฅใใ
5 ไปถ
ใใใซใกใฏ๏ผๅ ๆฅใ็งใฎๅใฎ่ๆธๅบ็ใฎใใฅใผในใจใจใใซใ็ฅใใใใฆใใใAIใจใผใธใงใณใ่ฉไพก๏ผEvaluation๏ผใๆทฑๆใ่ฌ็พฉใใคใใซใชใผใใณใใพใใ๏ผ๐
ๅๅใ้ใใใใกใใปใผใธใงใไผใใใ้ใใๆฌใ้ใใฆ่ฉไพกใซ้ขใใใ็่ซ็ใชๅๅฐใจๆ ธๅฟๅๅใใๅบใใใจใใใฐใไปๅใฎ่ฌ็พฉใฏๅฎๅ็ฐๅขใงใใใใฉใฎใใใซ่ชๅๅใใใทในใใ ใจใใฆๆง็ฏใใใฎใใซใคใใฆใฎๅฎ็งใชๅฎ็ฟใใใณ้ฉ็จใฌใคใใงใใ
ๆทปไปใใใ็ฎๆฌกใงใ่ฆงใใใ ใใใใใซใไธป่ฆณ็ใชใในใใ่ถ ใใฆๅฎข่ฆณ็ใชๆๆจใงใจใผใธใงใณใใ็ฎก็ใใใใใฎๆ ธๅฟ็ใชๅ ๅฎนใใใฃใใใจ่ฉฐใ่พผใฟใพใใใ
๐ ไธปใช่ฌ็พฉๅ ๅฎน
Golden Datasetๆง็ฏใฎใในใฆ๏ผ RAGASใฉใคใใฉใชใLangSmithใใซในใฟใ ใจใผใธใงใณใใใใใณClaude Code Agent Skillใๆดป็จใใๅน็็ใช่ฉไพกใใผใฟใปใใ็ๆๆๆณ
ๅค่ง็ใช่ฉไพก๏ผEvaluation๏ผใฎๅฎ็ฟ๏ผๆ็ตๅ็ญใฎๆญฃ็ขบๆงใ็ขบ่ชใใe2e่ฉไพกใใใใใญใฅใกใณใใ้ฉๅใซๅๅพใงใใใใใใผใซใๆญฃใใ้ ๅบ๏ผTrajectory๏ผใงๆดป็จใใใใๆค่จผใใใณใณใใผใใณใ่ฉไพก๏ผComponent Evaluation๏ผใพใง
้ซๅบฆใช่ฉไพกๆๆจใใใณใใฌใผใ ใฏใผใฏใฎ้ฉ็จ๏ผ Anthropicๆจๅฅจใฎใจใผใธใงใณใ่ฉไพกๆๆจใใใใฆAIใฎๆฝๅจ่ฝๅ(
pass@k)ใจไธ่ฒซๆง(pass^k)ใๆธฌๅฎใใๆนๆณๆ็ถๅฏ่ฝใช่ฉไพกใทในใใ ใฎๆง็ฏๆนๆณ
ๅใซใจใผใธใงใณใใใๅฎ่ฃ ใใใใใจใ่ถ ใใฆใใใญใใฏใทใงใณใฌใใซใง่ชๅใฎAIใใๅธธใซๆญฃใใๅไฝใใฆใใใ๏ผใใใใผใฟใงใ่จผๆใใใๆ้ฉๅใใใๆนใ ใซใจใฃใฆใๆใ็ขบใใชใฌใคใใจใชใใงใใใใๆฌใงใใฃใใใจใใๅบ็คใๅบใใใชใใๆฌกใฏ็ถใไปๅใฎๅฎ็ฟ่ฌ็พฉใ้ใใฆใ่ฉไพกใฎๅฎๆใใ็ดๆฅไฝ้จใใฆใฟใฆใใ ใใ๏ผ
็บๅฃฒ่จๅฟตใขใผใชใผใใผใ30%ๅฒๅผไธญใงใใฎใงใๆฌใงๅบใใใใฃใใใจใใ็่ซใใใผในใซใไปใใ'่ฉไพกใฎๅฎๆ'ใไฝ้จใใฆใฟใฆใใ ใใ๏ผ
ใใใซใกใฏใใซใณใปใใงใณใธใณใงใใ
ใใใซใกใฏใๆ่ฟ่ฏใๆฉไผใซๆตใพใใใขใณใในใฟใธใชใฎใใจใผในใฌใใผใใใซๅๅ ใใฆ็งใฎใญใฃใชใขในใใผใชใผใๅ ฑๆใใใใจใซใชใใพใใใ
ๆฐใใในใฟใผใใๆงใใฆใใพใใใใใฎๅ็ปใใใใฐใใใฏใธใฎ่ปข่ทใฎใใฆใใฆใๆฑใใจใใใใใฏใ็งใใใใพใงไปไบใซๅใๅใใชใใๆฉใฟใ็ต้จใใฆใใๆใใๆทกใ ใจ่ชใๅ ดใจใชใใพใใใ
ๆฏใ่ฟใฃใฆใฟใใจใ็งใฎใญใฃใชใขใฏๆๅใใใๅคฑๆใซ่ฟใใฃใใจๆใใพใใLinkedInใซใฏ่จ้ฒใใใฆใใชใๅตๆฅญใจๅปๆฅญใฎ็ต้จใๅๆ ผใใใใฏใใใซๅคใใฃใไธๅๆ ผใฎ็ฌ้ใใใใพใใใใใใใใใฎ้็จใงๅพใๅญฆใณใจๆ่จใใใฃใใใใใใไปใฎ็งใใใใจๆใใพใใ
ใไปไบใฎใงใใไบบใใจใใใฟใคใใซใฏๅฐใๆฅใใใใใงใใใ็ตถใใๆๆฆใใใใฎไธญใงๅญฆใผใใจใใ็งใฎ่ฉฑใใไผผใใใใชๆฉใฟใๆฑใใฆใใๆนใ ใซๅฐใใงใๅฑใใใจใ้กใฃใฆใใพใใ
ใๆ้ใๅฒใใฆใ่ฆ่ดใใใ ใใๅ็ปใซใคใใฆใฎใๆๆณใใ่ใใใใใ ใใใฐๅคงใใชๅฑใฟใซใชใใพใใ
https://youtu.be/UR9PL1Jz-qs?si=nYUszHC3GrU21K-Q
ๅ่ฌใใฆใใใ ใใฆใใๅ่ฌ็ใฎ็ๆงใใใใใจใใใใใพใใ่ฌ็พฉใๅ่ฌใใใไธญใง่ชฌๆใไธ่ถณใใฆใใ้จๅใใ็่งฃใงใใชใ้จๅใใใใฆ็พๅ ดใง้ฉ็จใใใ้ใซ็ด้ขใใใๅฐ้ฃใซใคใใฆใฏใ่ณชๅใจใใฆๆ็จฟใใฆใใใ ใใใฐใใงใใใ ใ่ฟ ้ใซใ็ญใใใใใพใใ
ใใใใจใใใใใพใ
๊ฐ๋ณ์งใใ
LLMใตใผใในใฎ้็บ/้ๅถใซๆฉใใงใใพใใ๏ผ็งใใกใฎไผ็คพใงLlamaIndexใจLLM้็บ/้ๅถใใฆใใฆใๅ ฑๆใใใใใใขใใใ้ฒ่กใใไบๅฎใชใฎใงใใใฎๆ ๅ ฑใใๅฑใใใพใใ
LLMใตใผใในใ้ๅถใพใใฏ้ๅงใใ้็บ่ ๅใใฎLLM Workshopใ็ฌฌ2ๅGenAI Connect Dayใ9ๆ26ๆฅใซGSใฟใฏใผใง้ๅฌใใใพใใไปๅใฎใคใใณใใฏใGSใฐใซใผใใฎOpen Innovationใณใใฅใใใฃ52gใงใLlamaIndexใDeepLearning.AIใฎPie&AIใจไธ็ทใซๆกใฃใฆ้ๅฌใใพใใ LlamaIndexใฎAI Engineer Pierre-Loic Doulcetใ็พๅ ดใง็บ่กจใใไบๅฎใงใใๆงใ ใชๅ้ใฎAIใจใณใธใใขใจไธ็ทใซๅคใใฎใคใณใตใคใใๅพใฆใใขใใฟใผใใขใใผใใฃใผใงใใใใฏใผใญใณใฐใฎๆฉไผใๅพใฆใปใใ๏ผ
[ๆกๅ ] GenAI Connect Day #2: LlamaIndex x 52g
๐ ๆฅๆ : 2024. 9. 26.(ๆจ) ๅคๆน 6ๆ30ๅ๏ฝ
๐ขๅ ดๆ๏ผGSใฟใฏใผ25้ Keeeet Open Hall
๐ๅฏพ่ฑก๏ผLLMใๆดป็จใใฆใตใผใในใ้็บใใฆใใ้็บ่
๐จ็ณ่ซๆ้ : 2024. 9. 9(ๆ) ~ 2024. 9. 24 (็ซ)
โ ่ฌๅธซ็ดนไปๅใณ็ณ่ซใชใณใฏ : https://bit.ly/52g-genai-2
๐ใๅใๅใใ๏ผ๏ผๆ ช๏ผGSใซใณใปใใงใณใธใณใใใผใธใฃใผ๏ผ jason.kang@gs.co.kr ๏ผ
ๅ ฌๅผ๏ผ๏ผ๏ผใจใใฆใฏ็ฅใใใฆใใพใใใใ้็บ่ ใฎใใใฎๆงใ ใชๅๅใ็จๆใใไบๅฎใชใฎใงใๅคใใฎ้ขๅฟใใ้กใใใพใ๏ผ
ใใใซใกใฏใใซใณใปใใงใณใธใณใงใใ
ๆ่ฟใใใใใชLarge Language Model๏ผLLM๏ผใๆดป็จใใฆRAGใๆงๆใใ่ฌ็พฉใใชใชใผในใใพใใใ
ๆ่ฟไผ็คพใงไธปๆฅญๅใงใใใใ็งใๆจๅนดใใใใใงใใพใใซใๅคใใฎ่ฆๅดใใใฆโฆโฆไปใฎๆนใ ใฏๅฐใ่ฆๅดใใฆใปใใใจใใๅฟใซ่ฌ็พฉใๆบๅใใใใใซใชใใพใใใ
่ฌ็พฉใฏOpenAI APIใๆดป็จใใใใLangChainใๆดป็จใใใฎใงใClaudeใCohereใUpstageใชใฉLangChainใงๆดป็จใใใใใฑใผใธใไฝฟใใฐ็ฐกๅใซๅพใใใจใใงใใพใใ่ฌ็พฉใฎๅ ๅฎนใใ่ฆงใซใชใใฐLCELใง
llmใซ่ฉฒๅฝใใ้จๅใ ใใChatAnthropicใChatCohereใChatUpstageใชใฉใๆดป็จใใใฐใใใOllamaใๆดป็จใใฆLlama3ใๆดป็จใใใๆนใฏChatOllamaใไฝฟ็จใใใฐ่ฏใใงใใOllamaใๆดป็จใใ่ฌ็พฉใๅฟ ่ฆใชๅ ดๅใLLMใซใคใใฆใใฃใจ็ฅใใใใใจใใใๅ ดๅใฏใๅ่ฌ่ฉใ่ฌ็พฉใฎ่ณชๅใซๆฎใใใใjasonkang14@gmail.comใงๆใใฆใใ ใใใใใใซใกใฏใใซใณใปใใงใณใธใณใงใใ
่ฌ็พฉใ็บๅฃฒใใฆใใ1้ฑ้ใปใฉใซใชใใพใใใใๅคใใฎ้ขๅฟใ่ฆใใฆใใใ ใใใใใจใใใใใพใใ
2.5 Auto Scaling Group์ ํ์ฉํ ์์ ์ ์ธ ์๋น์ค ์ด์ใปใฏใทใงใณScheduled Actionใใใพใใพใชใขใฉใผใ ใใฉใฎใใใซ่ฟฝๅ ใงใใใใ่ชฌๆใใพใใ่ฌ็พฉใง่ชฌๆ
ํน์ ํ ๋ ์ ํธ๋ํฝ์ด ๋ชฐ๋ฆด ๊ฒ์ผ๋ก ์์๋ ๋ใใไฝฟ็จใใๆนๆณใงใใใใจใใฐใ้ๆๆฅใฎ23ๆใซใฉใใใซใ้ใใใใคใใณใใใใใจใใซใใฉใใฃใใฏใ้ใพใใฎใไบๅใซๆบๅใใๆนๆณใงใใใใใฆใใฉใฎใใใซใใใฐใๅขใใใคใณในใฟใณในใๅใณๆธใใใใจใใงใใใใซใคใใฆใใใใฎใปใฏใทใงใณใซๅ ฅใใพใใใใใงใซ้ ๅผตใฃใฆใใๆนใใใพใใใ่ฟฝๅ ใใใใปใฏใทใงใณใๅ่ใซใใฆใปใใใจๆใใพใใฎใงใๆกๅ ใใใใพใใ
่ฌ็พฉๅ่ฌใฎ้ใซๆฐใซใชใฃใใใใ็่งฃใงใใชใๅ ดๅใใ่ชฌๆใ่ถณใใชใ้จๅใฏ่ณชๅใงๆ็จฟใใฆใใ ใใ๏ผ
ใใใใจใใใใใพใใ
