์ฑ„๋„ํ†ก ์•„์ด์ฝ˜

์‹ค๋ฌด์— ๋ฐ”๋กœ ์ ์šฉํ•˜๋Š” AWS ๋ฐฐํฌ

AWS๋กœ ์„œ๋น„์Šค๋ฅผ ๋ฐฐํฌ/์šด์˜ํ•˜๊ณ ์‹ถ์€ ๋ถ„๋“ค์„ ์œ„ํ•ด ์ค€๋น„ํ–ˆ์Šต๋‹ˆ๋‹ค. ๋„๋ฉ”์ธ ์„ค์ •๋ถ€ํ„ฐ ๋„์ปค์™€ ์„œ๋ฒ„๋ฆฌ์Šค๊นŒ์ง€!

(4.8) ์ˆ˜๊ฐ•ํ‰ 12๊ฐœ

์ˆ˜๊ฐ•์ƒ 131๋ช…

๋‚œ์ด๋„ ์ดˆ๊ธ‰

์ˆ˜๊ฐ•๊ธฐํ•œ ๋ฌด์ œํ•œ

์‹ค์Šต ์ค‘์‹ฌ
์‹ค์Šต ์ค‘์‹ฌ
aws
aws
vpc
vpc
Route53
Route53
์‹ค์Šต ์ค‘์‹ฌ
์‹ค์Šต ์ค‘์‹ฌ
aws
aws
vpc
vpc
Route53
Route53

์ƒˆ์†Œ์‹

4 ๊ฐœ

  • ์ œ์ด์“ด๋‹˜์˜ ํ”„๋กœํ•„ ์ด๋ฏธ์ง€

    ์ธ๋…•ํ•˜์„ธ์š”, ๊ฐ•๋ณ‘์ง„์ž…๋‹ˆ๋‹ค.

    ์•ˆ๋…•ํ•˜์„ธ์š”, ์ตœ๊ทผ ์ข‹์€ ๊ธฐํšŒ๋กœ ์•ค๋“œ ์ŠคํŠœ๋””์˜ค์˜ '์—์ด์Šค ๋ฆฌํฌํŠธ'์— ์ฐธ์—ฌํ•ด ์ €์˜ ์ปค๋ฆฌ์–ด ์Šคํ† ๋ฆฌ๋ฅผ ๊ณต์œ ํ•˜๊ฒŒ ๋˜์—ˆ์Šต๋‹ˆ๋‹ค.

    ์ƒˆ๋กœ์šด ์‹œ์ž‘์„ ์•ž๋‘๊ณ  ์žˆ์ง€๋งŒ, ์ด ์˜์ƒ์ด ๋น…ํ…Œํฌ ์ด์ง์˜ ๋…ธํ•˜์šฐ๋ฅผ ๋‹ค๋ฃจ๊ธฐ๋ณด๋‹ค๋Š” ์ œ๊ฐ€ ๊ทธ๋™์•ˆ ์ผ์„ ๋Œ€ํ•˜๋ฉฐ ๊ณ ๋ฏผํ•˜๊ณ  ๊ฒฝํ—˜ํ–ˆ๋˜ ์ƒ๊ฐ๋“ค์„ ๋‹ด๋‹ดํ•˜๊ฒŒ ํ’€์–ด๋‚ด๋Š” ์ž๋ฆฌ๊ฐ€ ๋˜์—ˆ์Šต๋‹ˆ๋‹ค.

    ๋Œ์•„๋ณด๋ฉด ์ €์˜ ์ปค๋ฆฌ์–ด๋Š” ์„ฑ๊ณต๋ณด๋‹ค๋Š” ์‹คํŒจ์— ๋” ๊ฐ€๊นŒ์› ๋˜ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ๋งํฌ๋“œ์ธ์—๋Š” ๊ธฐ๋ก๋˜์ง€ ์•Š์€ ์ฐฝ์—…๊ณผ ํ์—…์˜ ๊ฒฝํ—˜๋“ค, ํ•ฉ๊ฒฉ๋ณด๋‹ค ํ›จ์”ฌ ๋งŽ์•˜๋˜ ๋ถˆํ•ฉ๊ฒฉ์˜ ์ˆœ๊ฐ„๋“ค์ด ์žˆ์—ˆ์Šต๋‹ˆ๋‹ค. ํ•˜์ง€๋งŒ ๊ทธ ๊ณผ์ •์—์„œ ์–ป์€ ๋ฐฐ์›€๊ณผ ๊ตํ›ˆ๋“ค์ด ์žˆ์—ˆ๊ธฐ์— ์ง€๊ธˆ์˜ ์ œ๊ฐ€ ์žˆ๋‹ค๊ณ  ์ƒ๊ฐํ•ฉ๋‹ˆ๋‹ค.

    '์ผ์ž˜๋Ÿฌ'๋ผ๋Š” ์ œ๋ชฉ์€ ์กฐ๊ธˆ ์‘ฅ์Šค๋Ÿฝ์ง€๋งŒ, ๋Š์ž„์—†์ด ๋„์ „ํ•˜๊ณ  ๊ทธ ์†์—์„œ ๋ฐฐ์šฐ๊ณ ์ž ํ–ˆ๋˜ ์ €์˜ ์ด์•ผ๊ธฐ๊ฐ€ ๋น„์Šทํ•œ ๊ณ ๋ฏผ์„ ํ•˜์‹œ๋Š” ๋ถ„๋“ค๊ป˜ ์กฐ๊ธˆ์ด๋‚˜๋งˆ ๊ฐ€๋‹ฟ๊ธฐ๋ฅผ ๋ฐ”๋ž๋‹ˆ๋‹ค.

    ์‹œ๊ฐ„ ๋‚ด์–ด ์‹œ์ฒญํ•ด์ฃผ์‹œ๊ณ , ์˜์ƒ์— ๋Œ€ํ•œ ์ƒ๊ฐ๋„ ๋‚˜๋ˆ ์ฃผ์‹œ๋ฉด ํฐ ํž˜์ด ๋  ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค.

    https://youtu.be/UR9PL1Jz-qs?si=nYUszHC3GrU21K-Q

    ์ˆ˜๊ฐ•ํ•ด์ฃผ์‹œ๋Š” ์ˆ˜๊ฐ•์ƒ ์—ฌ๋Ÿฌ๋ถ„๋“ค ๊ฐ์‚ฌ๋“œ๋ฆฌ๊ณ , ๊ฐ•์˜ ์ˆ˜๊ฐ•ํ•˜์‹œ๋ฉด์„œ ์„ค๋ช…์ด ๋ถ€์กฑํ•œ ๋ถ€๋ถ„์ด๋‚˜, ์ดํ•ด๊ฐ€ ๋˜์ง€ ์•Š๋Š” ๋ถ€๋ถ„๋“ค, ๊ทธ๋ฆฌ๊ณ  ํ˜„์—…์— ์ ์šฉํ•˜์‹œ๋ฉด์„œ ๋งˆ์ฃผํ•˜์‹œ๋Š” ์–ด๋ ค์›€๋“ค์€ ์งˆ๋ฌธ์œผ๋กœ ์˜ฌ๋ ค์ฃผ์‹œ๋ฉด ์ตœ๋Œ€ํ•œ ๋น ๋ฅด๊ฒŒ ๋‹ต๋ณ€ ๋“œ๋ฆฌ๊ฒ ์Šต๋‹ˆ๋‹ค.

    ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค

    ๊ฐ•๋ณ‘์ง„ ๋“œ๋ฆผ

    3
  • LLM ์„œ๋น„์Šค ๊ฐœ๋ฐœ/์šด์˜์„ ๊ณ ๋ฏผํ•˜๊ณ  ๊ณ„์‹ ๊ฐ€์š”? ์ €ํฌ ํšŒ์‚ฌ์—์„œ LlamaIndex์™€ LLM ๊ฐœ๋ฐœ/์šด์˜ ๋…ธํ•˜์šฐ๋ฅผ ๊ณต์œ ํ•˜๋Š” ๋ฐ‹์—…์„ ์ง„ํ–‰ํ•  ์˜ˆ์ •์ด๋ผ ํ•ด๋‹น ์ •๋ณด๋ฅผ ์ „๋‹ฌ๋“œ๋ฆฝ๋‹ˆ๋‹ค~

     

    LLM ์„œ๋น„์Šค๋ฅผ ์šด์˜ํ•˜๊ฑฐ๋‚˜ ์‹œ์ž‘ํ•˜๋ ค๋Š” ๊ฐœ๋ฐœ์ž๋ฅผ ์œ„ํ•œ LLM Workshop, ์ œ 2ํšŒ GenAI Connect Day๊ฐ€ 9์›” 26์ผ GSํƒ€์›Œ์—์„œ ์—ด๋ฆฝ๋‹ˆ๋‹ค. ์ด๋ฒˆ ํ–‰์‚ฌ๋Š” GS๊ทธ๋ฃน์˜ Open Innovation ์ปค๋ฎค๋‹ˆํ‹ฐ 52g์—์„œ LlamaIndex, DeepLearning.AI ์˜ Pie&AI์™€ ํ•จ๊ป˜ ์†์žก๊ณ  ๊ฐœ์ตœํ•ฉ๋‹ˆ๋‹ค. LlamaIndex์˜ AI Engineer Pierre-Loic Doulcet ๊ฐ€ ํ˜„์žฅ์—์„œ ๋ฐœํ‘œํ•  ์˜ˆ์ •์ด๊ณ , Liner์˜ Hoon Heo ๋‹˜๊ณผ AutoRAG๋ฅผ ์—ฐ๊ตฌํ•˜์‹œ๋Š” Jeffrey Kim ๋‹˜์ด ์˜ค์…”์„œ LLM ์„œ๋น„์Šค ๊ฐœ๋ฐœ ๊ด€๋ จ ๋…ธํ•˜์šฐ์™€ ์ธ์‚ฌ์ดํŠธ๋ฅผ ๋‚˜๋ˆ„์–ด ์ฃผ์‹ค ์˜ˆ์ •์ž…๋‹ˆ๋‹ค. ๋‹ค์–‘ํ•œ ๋ถ„์•ผ์˜ AI ์—”์ง€๋‹ˆ์–ด์™€ ํ•จ๊ป˜ ๋งŽ์€ ์ธ์‚ฌ์ดํŠธ๋ฅผ ์–ป์œผ์‹œ๊ณ  ์• ํ”„ํ„ฐ ๋น„์–ดํŒŒํ‹ฐ์—์„œ ๋„คํŠธ์›Œํ‚น ๊ธฐํšŒ๋„ ์–ป์–ด๊ฐ€์…จ์œผ๋ฉด ์ข‹๊ฒ ์Šต๋‹ˆ๋‹ค!

     

    [์•ˆ๋‚ด] GenAI Connect Day #2 : LlamaIndex x 52g

    ๐Ÿ“… ์ผ์‹œ : 2024. 9. 26.(๋ชฉ) ์ €๋… 6์‹œ 30๋ถ„ ~

    ๐Ÿข ์žฅ์†Œ : GSํƒ€์›Œ 25์ธต Keeeet Open Hall

    ๐Ÿ‘ ๋Œ€์ƒ : LLM ํ™œ์šฉํ•ด์„œ ์„œ๋น„์Šค๋ฅผ ๊ฐœ๋ฐœํ•˜๊ณ  ์žˆ๋Š” ๊ฐœ๋ฐœ์ž

    ๐Ÿšจ ์‹ ์ฒญ ๊ธฐ๊ฐ„ : 2024. 9. 9(์›”) ~ 2024. 9. 24 (ํ™”)

    โœ… ์—ฐ์‚ฌ์†Œ๊ฐœ ๋ฐ ์‹ ์ฒญ๋งํฌ : https://bit.ly/52g-genai-2

    ๐Ÿš€ ๋ฌธ์˜ : (์ฃผ)GS ๊ฐ•๋ณ‘์ง„ ๋งค๋‹ˆ์ € (jason.kang@gs.co.kr)

    ๊ณต์‹(?)์ ์œผ๋กœ๋Š” ์•Œ๋ ค์ง€์ง€ ์•Š์•˜์ง€๋งŒ ๊ฐœ๋ฐœ์ž๋“ค์„ ์œ„ํ•œ ๋‹ค์–‘ํ•œ ์ƒํ’ˆ๋“ค์„ ์ค€๋น„ํ•  ์˜ˆ์ •์ด๋‹ˆ ๋งŽ์€ ๊ด€์‹ฌ ๋ถ€ํƒ๋“œ๋ฆฝ๋‹ˆ๋‹ค!

    แ„‰แ…ณแ„แ…ณแ„…แ…ตแ†ซแ„‰แ…ฃแ†บ 2024-09-09 แ„‹แ…ฉแ„’แ…ฎ 1.25.38.png

     

    1
  • ์•ˆ๋…•ํ•˜์„ธ์š”, ๊ฐ•๋ณ‘์ง„์ž…๋‹ˆ๋‹ค.

    ์š”์ฆ˜ ํž™ํ•œ Large Language Model (LLM)์„ ํ™œ์šฉํ•ด์„œ RAG๋ฅผ ๊ตฌ์„ฑํ•˜๋Š” ๊ฐ•์˜๋ฅผ ์ถœ์‹œํ–ˆ์Šต๋‹ˆ๋‹ค.

    ์š”์ฆ˜ ํšŒ์‚ฌ์—์„œ ์ฃผ ์—…๋ฌด์ด๊ธฐ๋„ ํ•˜๊ณ , ์ œ๊ฐ€ ์ž‘๋…„๋ถ€ํ„ฐ ์ด๊ฑธ๋กœ ๋„ˆ๋ฌด ๋งŽ์€ ๊ณ ์ƒ์„ํ•ด์„œ.... ๋‹ค๋ฅธ๋ถ„๋“ค์€ ์กฐ๊ธˆ ๋œ ๊ณ ์ƒํ•˜์…จ์œผ๋ฉด ํ•˜๋Š” ๋งˆ์Œ์— ๊ฐ•์˜๋ฅผ ์ค€๋น„ํ•˜๊ฒŒ ๋˜์—ˆ์Šต๋‹ˆ๋‹ค.

    ๊ฐ•์˜๋Š” OpenAI API๋ฅผ ํ™œ์šฉํ•˜๋Š”๋ฐ, LangChain์„ ํ™œ์šฉํ•˜๊ธฐ ๋•Œ๋ฌธ์—, Claude, Cohere, Upstage๋“ฑ๋“ฑ LangChain์—์„œ ํ™œ์šฉํ•˜๋Š” ํŒจํ‚ค์ง€๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด ์‰ฝ๊ฒŒ ๋”ฐ๋ผํ•˜์‹ค ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๊ฐ•์˜ ๋‚ด์šฉ์„ ๋ณด์‹œ๋ฉด LCEL์—์„œ llm ์— ํ•ด๋‹นํ•˜๋Š” ๋ถ€๋ถ„๋งŒ ChatAnthropic, ChatCohere, ChatUpstage ๋“ฑ์„ ํ™œ์šฉํ•˜์‹œ๋ฉด ๋˜๊ณ , Ollama ๋ฅผ ํ™œ์šฉํ•ด์„œ Llama3๋ฅผ ํ™œ์šฉํ•˜๊ณ  ์‹ถ์œผ์‹  ๋ถ„๋“ค์€ ChatOllama ๋ฅผ ์‚ฌ์šฉํ•˜์‹œ๋ฉด ๋ฉ๋‹ˆ๋‹ค.

    ํ˜น์‹œ Ollama ๋ฅผ ํ™œ์šฉํ•œ ๊ฐ•์˜๊ฐ€ ํ•„์š”ํ•˜์‹œ๊ฑฐ๋‚˜, LLM ๊ด€๋ จํ•ด์„œ ๋” ์•Œ๊ณ ์‹ถ์œผ์‹  ๋ถ€๋ถ„์ด ์žˆ์œผ์‹œ๋‹ค๋ฉด ์ˆ˜๊ฐ•ํ‰์ด๋‚˜ ๊ฐ•์˜ ์งˆ๋ฌธ์— ๋‚จ๊ฒจ์ฃผ์‹œ๊ฑฐ๋‚˜ jasonkang14@gmail.com ์œผ๋กœ ๋ง์”€ํ•ด์ฃผ์‹œ๋ฉด, ๋‹ค์Œ ๊ฐ•์˜๋ฅผ ์ค€๋น„ํ•˜๋Š”๋ฐ ๋„์›€์ด ๋  ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค!

    0
  • ์•ˆ๋…•ํ•˜์„ธ์š”, ๊ฐ•๋ณ‘์ง„์ž…๋‹ˆ๋‹ค.

    ๊ฐ•์˜๋ฅผ ์ถœ์‹œํ•œ์ง€ 1์ฃผ์ผ์ •๋„ ๋๋Š”๋ฐ, ๋งŽ์€ ๊ด€์‹ฌ ๋ณด์—ฌ์ฃผ์…”์„œ ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค.

    2.5 Auto Scaling Group์„ ํ™œ์šฉํ•œ ์•ˆ์ •์ ์ธ ์„œ๋น„์Šค ์šด์˜ ์„น์…˜์—์„œ ์–ด๋–ป๊ฒŒ ๋‹ค์–‘ํ•œ ์•Œ๋žŒ๋“ค์„ ์ถ”๊ฐ€ํ•  ์ˆ˜ ์žˆ๋Š”์ง€ ์„ค๋ช… ๋“œ๋ฆฌ๋Š”๋ฐ, ์‹ค์ œ๋กœ ์ธ์Šคํ„ด์Šค๊ฐ€ ๋Š˜์–ด๋‚˜๊ณ  ์ค„์–ด๋“œ๋Š” ๊ฒƒ์„ ๋ณด์‹œ๋ฉด ์ข‹์„ ๊ฒƒ ๊ฐ™์•„์„œ Scheduled Action์„ ํ™œ์šฉํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ์ถ”๊ฐ€ํ–ˆ์Šต๋‹ˆ๋‹ค.

    ๊ฐ•์˜์—์„œ ์„ค๋ช… ๋“œ๋ฆฌ๋Š” ๊ฒƒ์ฒ˜๋Ÿผ ํŠน์ •ํ•œ ๋‚ ์— ํŠธ๋ž˜ํ”ฝ์ด ๋ชฐ๋ฆด ๊ฒƒ์œผ๋กœ ์˜ˆ์ƒ๋  ๋•Œ ์ž์ฃผ ์‚ฌ์šฉํ•˜๋Š” ๋ฐฉ๋ฒ•์ž…๋‹ˆ๋‹ค. ์˜ˆ๋ฅผ๋“ค๋ฉด ๊ธˆ์š”์ผ 23์‹œ์— ๋ž˜ํ”Œ์„ ์˜คํ”ˆํ•œ๋‹ค๊ฑฐ๋‚˜, ์ด๋ฒคํŠธ๊ฐ€ ์žˆ์„ ๋•Œ, ํŠธ๋ž˜ํ”ฝ์ด ๋ชฐ๋ฆฌ๋Š” ๊ฒƒ์„ ์‚ฌ์ „์— ๋Œ€๋น„ํ•˜๋Š” ๋ฐฉ๋ฒ•์ž…๋‹ˆ๋‹ค. ๊ทธ๋ฆฌ๊ณ  ์–ด๋–ป๊ฒŒํ•˜๋ฉด ๋Š˜์–ด๋‚œ ์ธ์Šคํ„ด์Šค๋ฅผ ๋‹ค์‹œ ์ค„์ผ ์ˆ˜ ์žˆ๋Š”์ง€๋„ ํ•ด๋‹น ์„น์…˜์— ๋‹ด์•˜์Šต๋‹ˆ๋‹ค.

    ์ด๋ฏธ ์™„๊ฐ•ํ•˜์‹  ๋ถ„๋“ค๋„ ์žˆ์œผ์‹ ๋ฐ, ์ถ”๊ฐ€๋œ ์„น์…˜๋„ ์ฐธ๊ณ ํ•˜์‹œ๋ฉด ์ข‹์„ ๊ฒƒ ๊ฐ™์•„์„œ ์•ˆ๋‚ด๋“œ๋ฆฝ๋‹ˆ๋‹ค.

    ๊ฐ•์˜ ์ˆ˜๊ฐ•ํ•˜์‹œ๋‹ค๊ฐ€ ๊ถ๊ธˆํ•˜์‹œ๊ฑฐ๋‚˜, ์ดํ•ด๊ฐ€ ์•ˆ๋˜์‹œ๊ฑฐ๋‚˜, ์„ค๋ช…์ด ๋ถ€์กฑํ•œ ๋ถ€๋ถ„์€ ์งˆ๋ฌธ์œผ๋กœ ์˜ฌ๋ ค์ฃผ์„ธ์š”! ๊ฐ•์˜ ์ž๋ฃŒ๋‚˜ ์˜์ƒ์„ ์—…๋ฐ์ดํŠธ ํ•˜๋„๋ก ํ•˜๊ฒ ์Šต๋‹ˆ๋‹ค.

    ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค.

    0

โ‚ฉ69,300