RAG๋ฅผ ํ™œ์šฉํ•œ LLM Application ๊ฐœ๋ฐœ (feat. LangChain)

์‹ค๋ฆฌ์ฝ˜๋ฐธ๋ฆฌ GenAI ํ•ด์ปคํ†ค ์šฐ์Šน์ž์—๊ฒŒ ๋ฐฐ์šฐ๋Š” RAG. ํ˜„์—… ๋…ธํ•˜์šฐ๋ฅผ ๊ฐ€๋“ ๋‹ด์•˜์Šต๋‹ˆ๋‹ค

(4.9) ์ˆ˜๊ฐ•ํ‰ 587๊ฐœ

์ˆ˜๊ฐ•์ƒ 4,767๋ช…

๋‚œ์ด๋„ ์ดˆ๊ธ‰

์ˆ˜๊ฐ•๊ธฐํ•œ ๋ฌด์ œํ•œ

์•„๋งˆ์กด
ibk์‹œ์Šคํ…œ
KRAFTON
๊ฐ€๋น„์•„
ํ•˜๋‚˜๊ธˆ์œตํ‹ฐ์•„์ด

ํ•˜๋‚˜๊ธˆ์œตํ‹ฐ์•„์ด

์ž„์ง์›๋“ค๋„ ์ด ๊ฐ•์˜๋ฅผ ๋“ฃ๊ณ  ์žˆ์–ด์š”!

์•„๋งˆ์กด
ibk์‹œ์Šคํ…œ
KRAFTON
๊ฐ€๋น„์•„
ํ•˜๋‚˜๊ธˆ์œตํ‹ฐ์•„์ด

ํ•˜๋‚˜๊ธˆ์œตํ‹ฐ์•„์ด

์ž„์ง์›๋“ค๋„ ์ด ๊ฐ•์˜๋ฅผ ๋“ฃ๊ณ  ์žˆ์–ด์š”!

๋จผ์ € ๊ฒฝํ—˜ํ•œ ์ˆ˜๊ฐ•์ƒ๋“ค์˜ ํ›„๊ธฐ

4.9

5.0

SEO

100% ์ˆ˜๊ฐ• ํ›„ ์ž‘์„ฑ

llm ์ž…๋ฌธ์„ ๊ฐ•๋ณ‘์ง„ ๊ฐ•์‚ฌ๋‹˜์œผ๋กœ ์‹œ์ž‘ํ–ˆ๋Š”๋ฐ, ํ›„ํšŒ๊ฐ€ ์—†์Šต๋‹ˆ๋‹ค! ์–ด๋А์ •๋„๋ƒ๋ฉด ๋‹ค์Œ ๊ฐ•์˜๊ฐ€ ๋‚˜์˜ค์ž๋งˆ์ž ์ˆ˜๊ฐ•์‹ ์ฒญ ํ•  ์ •๋„๋กœ์š” ใ…Žใ…Ž ์ „๋‹ฌ๋ ฅ๋„ ์ข‹์œผ์‹œ๊ณ  ์š”์ ๋งŒ ๋”ฑ๋”ฑ ์•Œ๋ ค์ฃผ์‹œ๋Š” ๊ฒƒ์ด ๊ทธ์ € ๋ช…๊ฐ•์˜๋ผ ์ƒ๊ฐํ•ฉ๋‹ˆ๋‹ค.

5.0

๊น€๊ทœํƒœ

92% ์ˆ˜๊ฐ• ํ›„ ์ž‘์„ฑ

๊ฐ•์˜ ์‹œ์ž‘ํ•˜๊ธฐ์ „ ์–ด๋–ค ๊ฑธ ๋งŒ๋“ค์ง€ ์•Œ๋ ค์ฃผ์…”์„œ ์ฐธ๊ณ ํ•˜๊ธฐ ์ข‹์•˜์Šต๋‹ˆ๋‹ค. ๊ฐ•์˜๋„ ์ž์„ธํžˆ ์„ค๋ช…ํ•ด์ฃผ์…”์„œ LLM์ชฝ์œผ๋ก  ์ดˆ์งœ์ธ ์ €๋„ ๋”ฐ๋ผ๊ฐ€๊ธฐ ์–ด๋ ต์ง€ ์•Š์•˜์Šต๋‹ˆ๋‹ค. ๋ด‡์„ ๋งŒ๋“ค๊ณ  ์ŠคํŠธ๋ฆผ๋ฆฟ์œผ๋กœ ๋ฐฐํฌ๊นŒ์ง€ ์•Œ๋ ค์ฃผ์…”์„œ ์ •๋ง ์„œ๋น„์Šค ํ•˜๋‚˜๋ฅผ ์ฒ˜์Œ๋ถ€ํ„ฐ ๋๊นŒ์ง€ ๋งŒ๋“  ๋А๋‚Œ์ž…๋‹ˆ๋‹ค. ๋‹ค์Œ ๊ฐ•์˜์ธ Agent๊ฐ•์˜๋„ ์ž˜ ๋“ฃ๊ฒ ์Šต๋‹ˆ๋‹ค. ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค

5.0

Hyuntak Lee

100% ์ˆ˜๊ฐ• ํ›„ ์ž‘์„ฑ

๋žญ์ฒด์ธ์— ์ด๋Ÿฐ ๋ช…๊ฐ•์˜๊ฐ€ ์—†์Šต๋‹ˆ๋‹ค! ์ œ๊ฐ€ ๋žญ์ฒด์ธ ํ˜ผ์ž ํ•œ ๋ฒˆ ํŒŒ๋ณด๊ฒ ๋‹ค๊ณ  ์‹œ์ค‘์— ๋‚˜์˜จ ๋žญ์ฒด์ธ ๊ด€๋ จ ๋„์„œ๋Š” ์‹น๋‹ค ๊ตฌ์ž…ํ•˜๊ณ , ๊ฐ•์˜๋„ ์—„์ฒญ ๊ตฌ๋งคํ•˜๊ณ  ํ–ˆ๋Š”๋ฐ,, ๋žญ์ฒด์ธ์˜ ๋ฒ„์ „์—… ๋•Œ๋ฌธ์— ๋ฌด์šฉ์ง€๋ฌผ์ด ๋œ ๊ฒŒ ํ•œ๋‘˜์ด ์•„๋‹ˆ๊ณ , ์ดˆ์‹ฌ์ž ์ž…์žฅ์—์„œ ์ดํ•ด๋˜๊ฒŒ ์„ค๋ช…ํ•˜๋Š”๊ฒŒ ์—†์—ˆ์–ด์š”. ๊ทธ๋Ÿฐ๋ฐ ๊ฐ•๋ณ‘์ง„๋‹˜ ๊ฐ•์˜๋Š” ๋ฒ„์ „๋„ ๋‹ค ์ตœ์‹ ์ธ๋ฐ๋‹ค๊ฐ€ ๋“ฃ๋‹ค๋ณด๋ฉด ๋กœ์ง์ด ํ•˜๋‚˜ํ•˜๋‚˜ ๋‹ค ์ดํ•ด๊ฐ€ ๋ผ์š”. ๋žญ์ฒด์ธ์„ ๋ฐฐ์šฐ๊ณ  ์‹ถ์€ ๋ชจ๋‘์—๊ฒŒ ๊ฐ•์ถ”ํ•˜๊ณ  ์‹ถ์€ ๊ฐ•์˜์ž…๋‹ˆ๋‹ค

์ˆ˜๊ฐ• ํ›„ ์ด๋Ÿฐ๊ฑธ ์–ป์„ ์ˆ˜ ์žˆ์–ด์š”

  • LangChain

  • Large Language Model

  • Vector Database

  • Retrieval Augmented Generation(RAG)


์‹ค๋ฆฌ์ฝ˜๋ฐธ๋ฆฌ GenAI ํ•ด์ปคํ†ค ์šฐ์Šน์ž๊ฐ€ ๋ง์•„์ฃผ๋Š” RAG

  • ๋ฐ์ดํ„ฐ ์ „์ฒ˜๋ฆฌ ๋ฐ ํšจ์œจ์ ์ธ Retrieval: RAG ๊ตฌ์„ฑ์„ ์œ„ํ•ด ํ•„์š”ํ•œ ๋ฐ์ดํ„ฐ ์ „์ฒ˜๋ฆฌ ๊ธฐ์ˆ ๊ณผ ํ‚ค์›Œ๋“œ๋ฅผ ํ™œ์šฉํ•˜์—ฌ ๊ฒ€์ƒ‰ ํšจ์œจ์„ ๊ทน๋Œ€ํ™”ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๋ฐฐ์›๋‹ˆ๋‹ค.

  • ํšจ์œจ์ ์ธ ํ”„๋กฌํ”„ํŠธ ์ž‘์„ฑ๋ฐฉ๋ฒ•: LLM ์„ฑ๋Šฅ์ด ์ข‹์•„์ ธ์„œ ํ•œ๊ตญ์–ด๋กœ๋„ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ž‘์„ฑํ•ด๋„ ์ข‹์€ ๊ฒฐ๊ณผ๋ฅผ ์–ป์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. LangChain์˜ PromptTemplate์„ ํ™œ์šฉํ•ด์„œ ํ•œ๊ตญ์–ด ํ”„๋กฌํ”„ํŠธ ์ž‘์„ฑ ๋ฐฉ๋ฒ•์„ ๋ฐฐ์›๋‹ˆ๋‹ค.

  • LLM ์„ฑ๋Šฅ ํ‰๊ฐ€์™€ ์„œ๋น„์Šค ์ตœ์ ํ™”: ์„œ๋น„์Šค ๋ฐฐํฌ ํ›„ LLM ํ‰๊ฐ€๋ฅผ ํ†ตํ•ด ๋ชจ๋ธ์˜ ์„ฑ๋Šฅ, ์‹ ๋ขฐ์„ฑ, ์ •ํ™•์„ฑ์„ ์ฒด๊ณ„์ ์œผ๋กœ ์ธก์ •ํ•˜๊ณ  ์ตœ์ ํ™”ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ์ตํž™๋‹ˆ๋‹ค.

RAG? ๊ฒ€์ƒ‰ ์ฆ๊ฐ• ์ƒ์„ฑ?

RAG๋Š” ๊ฒ€์ƒ‰ ์ฆ๊ฐ• ์ƒ์„ฑ(Retrieval Augmented Generation)์œผ๋กœ ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ(LLM)์˜ ์„ฑ๋Šฅ์„ ํ–ฅ์ƒ์‹œํ‚ค๋Š” ๊ธฐ์ˆ ์ž…๋‹ˆ๋‹ค. LLM์€ ๋ฐฉ๋Œ€ํ•œ ํ…์ŠคํŠธ ๋ฐ์ดํ„ฐ๋ฅผ ํ•™์Šตํ•˜์—ฌ ๋›ฐ์–ด๋‚œ ์–ธ์–ด ์ดํ•ด์™€ ์ƒ์„ฑ ๋Šฅ๋ ฅ์„ ๊ฐ€์ง€์ง€๋งŒ, ํŽธํ–ฅ์„ฑ๊ณผ ์‚ฌ์‹ค ๊ด€๊ณ„ ์˜ค๋ฅ˜ ๋“ฑ์˜ ํ•œ๊ณ„๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. RAG๋Š” ์‹ค์‹œ๊ฐ„ ์ •๋ณด ๊ฒ€์ƒ‰์„ ํ†ตํ•ด ์ด๋Ÿฌํ•œ ํ•œ๊ณ„๋ฅผ ๋ณด์™„ํ•˜๊ณ  ์ •ํ™•์„ฑ๊ณผ ์‹ ๋ขฐ์„ฑ์„ ๋†’์ผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ด ๊ฐ•์˜์˜ ํŠน์ง•

๐Ÿ“Œ ํ˜„์—…์—์„œ LLM Application ๊ฐœ๋ฐœ/๋ฐฐํฌ/์šด์˜ ์ค‘ ๋ชธ์œผ๋กœ ๋ถ€๋”›ํžˆ๋ฉด์„œ ๋ฐฐ์šด ๋…ธํ•˜์šฐ๋“ค์„ ๋‹ด์•˜์Šต๋‹ˆ๋‹ค

๐Ÿ“Œ ์ด๋ก  10% ์‹ค์Šต 90%. ํ•„์ˆ˜ ์ด๋ก ๋งŒ ๊ฐ€๋ณ๊ฒŒ ์„ค๋ช…ํ•˜๊ณ  ๋ชจ๋“  ๊ฐ•์˜๋Š” ๋ผ์ด๋ธŒ ์ฝ”๋”ฉ์œผ๋กœ ์ด๋ฃจ์–ด์ง‘๋‹ˆ๋‹ค

๐Ÿ“Œ ์—๋Ÿฌ๋ฅผ ์˜๋„์ ์œผ๋กœ ํŽธ์ง‘ํ•˜์ง€ ์•Š์•˜์Šต๋‹ˆ๋‹ค. LLM ์„œ๋น„์Šค ๊ฐœ๋ฐœ ์ค‘ ๋””๋ฒ„๊น… ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๋ฐฐ์šธ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค

๐Ÿ“Œ ๊ฐ•์˜์งˆ๋ฌธ ํ•ด๊ฒฐ 100%! ์งˆ์˜์‘๋‹ต์„ ํ†ตํ•ด ๊ฐ•์˜ ๋‚ด์šฉ์ด๋‚˜ ํ˜„์—…์—์„œ ๋งˆ์ฃผ์นœ ์–ด๋ ค์›€์„ ๊ฐ™์ด ํ•ด๊ฒฐํ•ฉ๋‹ˆ๋‹ค

์ด๋Ÿฐ ๋ถ„๋“ค๊ป˜ ์ถ”์ฒœํ•ด์š”

์–ด๋””์„œ๋ถ€ํ„ฐ ์‹œ์ž‘ํ• ์ง€ ๋ชจ๋ฅด๊ฒ ์–ด์š”.
LLM์„ ์‚ฌ์šฉํ•œ ์„œ๋น„์Šค๋ฅผ ๋งŒ๋“ค๊ณ  ์‹ถ์€๋ฐ, ์–ด๋””์„œ๋ถ€ํ„ฐ ์‹œ์ž‘ํ•ด์•ผ
ํ• ์ง€ ๋ง‰๋ง‰ํ•œ ๊ฐœ๋ฐœ์ž/๊ฐœ๋ฐœํŒ€

RAG๊ฐ€ ๋ญ์—์š”?
RAG๊ฐ€ ๋ญ”์ง€, ์™œ ์ค‘์š”ํ•œ์ง€ ๊ถ๊ธˆํ•ด์š”. ์ตœ์‹  ๊ธฐ์ˆ ์„ ์ดํ•ดํ•˜๊ณ  ์ด๋ฅผ ํ™œ์šฉํ•ด ๋‚˜๋งŒ์˜ AI ์‘์šฉ ํ”„๋กœ๊ทธ๋žจ์„ ๊ฐœ๋ฐœํ•˜๊ณ  ์‹ถ์€ ๋ถ„.

๋”์ด์ƒ ๋ญ˜ ํ•ด์•ผ ํ• ๊นŒ์š”?
LLM Application ๊ฐœ๋ฐœ ์ค‘
Hallucination ๋ฌธ์ œ๋ฅผ
ํ•ด๊ฒฐํ•ด์•ผํ•˜๋Š” ๊ฐœ๋ฐœ์ž/๊ฐœ๋ฐœํŒ€

์ˆ˜๊ฐ• ํ›„์—๋Š”

  • ๋ฐ์ดํ„ฐ ์ „์ฒ˜๋ฆฌ ๋ฐ ํ‚ค์›Œ๋“œ ํ™œ์šฉ: RAG ๊ตฌ์„ฑ์„ ์œ„ํ•ด ํ•„์š”ํ•œ ๋ฐ์ดํ„ฐ ์ „์ฒ˜๋ฆฌ ๊ธฐ์ˆ ๊ณผ ํ‚ค์›Œ๋“œ๋ฅผ ํ™œ์šฉํ•˜์—ฌ ๊ฒ€์ƒ‰ ํšจ์œจ์„ ๊ทน๋Œ€ํ™”ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๋ฐฐ์šธ ์ˆ˜ ์žˆ์–ด์š”.

  • ๋ชจ๋ธ ์„ฑ๋Šฅ ํ‰๊ฐ€: LLM ํ‰๊ฐ€๋ฅผ ํ†ตํ•ด ๋ชจ๋ธ์˜ ์„ฑ๋Šฅ, ์‹ ๋ขฐ์„ฑ, ์ •ํ™•์„ฑ์„ ์ฒด๊ณ„์ ์œผ๋กœ ์ธก์ •ํ•˜๊ณ  ์ตœ์ ํ™”ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ์ตํžˆ๊ฒŒ ๋ผ์š”. ํ‰๊ฐ€ ๊ฒฐ๊ณผ๋ฅผ ํ†ตํ•ด ๋ชจ๋ธ์˜ ํ’ˆ์งˆ์„ ํ–ฅ์ƒ์‹œํ‚ค๋Š” ๋ฐฉ๋ฒ•์„ ๋ฐฐ์›Œ์š”.

  • ์„œ๋น„์Šค ๋ฐฐํฌ ๋ฐ ์œ ์ง€๋ณด์ˆ˜: Streamlit๊ณผ ๊ฐ™์€ ๋„๊ตฌ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์„ ๋ฐฐํฌํ•˜๊ณ  ์œ ์ง€๋ณด์ˆ˜ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ์ตํžˆ๊ณ , ์‹ค๋ฌด์— ๋ฐ”๋กœ ์ ์šฉํ•  ์ˆ˜ ์žˆ๋Š” ์Šคํ‚ฌ์„ ๊ฐ–์ถ”๊ฒŒ ๋ผ์š”.

  • Hallucination ๋ฌธ์ œ ํ•ด๊ฒฐ: LLM ๋ชจ๋ธ์ด ์ƒ์„ฑํ•˜๋Š” ๋ถ€์ •ํ™•ํ•œ ์ •๋ณด๋ฅผ ์ตœ์†Œํ™”ํ•˜๊ณ , ๋” ์‹ ๋ขฐ์„ฑ ์žˆ๋Š” ์ •๋ณด๋ฅผ ์ œ๊ณตํ•˜๊ธฐ ์œ„ํ•œ ๊ธฐ์ˆ ์„ ๋ฐฐ์šฐ๊ฒŒ ๋ผ์š”.

  • ์ตœ์‹  AI ๊ธฐ์ˆ  ์ดํ•ด ๋ฐ ์‘์šฉ: RAG์™€ ๊ฐ™์€ ์ตœ์‹  AI ๊ธฐ์ˆ ์„ ์ดํ•ดํ•˜๊ณ  ์ด๋ฅผ ํ™œ์šฉํ•˜์—ฌ ๋‚˜๋งŒ์˜ AI ์‘์šฉ ํ”„๋กœ๊ทธ๋žจ์„ ๊ฐœ๋ฐœํ•  ์ˆ˜ ์žˆ์–ด์š”

์ด๋Ÿฐ ๋‚ด์šฉ์„ ๋ฐฐ์›Œ์š”.

LLM ๋‹ต๋ณ€ Streaming

LLM์ด ๋‹ต๋ณ€์„ ์ƒ์„ฑํ•˜๋Š” ๋™์•ˆ ์‚ฌ์šฉ์ž๊ฐ€ ๊ณ„์†ํ•ด์„œ
๋กœ๋”ฉ ํ™”๋ฉด์„ ๋ณด๊ณ ์žˆ๋‹ค๋ฉด ์„œ๋น„์Šค ์†๋„๊ฐ€ ๋А๋ฆฐ๊ฒƒ์ฒ˜๋Ÿผ ๋А๋ผ๊ฒŒ ๋ฉ๋‹ˆ๋‹ค. Streaming์„ ํ†ตํ•ด ์‚ฌ์šฉ์ž ๊ฒฝํ—˜์„
๊ฐœ์„ ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๋ฐฐ์›๋‹ˆ๋‹ค

๋‹ต๋ณ€์˜ ์ถœ์ฒ˜ ์ œ๊ณต

LLM ์„œ๋น„์Šค์—์„œ ๊ฐ€์žฅ ๋ฌธ์ œ๊ฐ€ ๋˜๋Š” Hallucination.
๋‹ต๋ณ€์„ ์ƒ์„ฑํ•˜๋ฉด์„œ ๋‹ต๋ณ€์˜ ์ถœ์ฒ˜๋ฅผ ์‚ฌ์šฉ์ž์—๊ฒŒ ๊ฐ™์ด ์ œ๊ณตํ•ด์„œ ๋‹ต๋ณ€์˜ ์‹ ๋ขฐ๋„๋ฅผ ํ–ฅ์ƒ์‹œํ‚ค๋Š” ๋ฐฉ๋ฒ•์„
๋ฐฐ์›๋‹ˆ๋‹ค

LangSmith๋ฅผ ํ™œ์šฉํ•œ LLM Evaluation

์„œ๋น„์Šค ์šด์˜์ค‘์— Knowledge Base๋„ ๋ณ€๊ฒฝ๋˜๊ณ ,
ํ”„๋กฌํ”„ํŠธ๋„ ์ˆ˜์ •ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ์—…๋ฐ์ดํŠธ ํ•  ๋•Œ๋งˆ๋‹ค
๊ฐœ๋ฐœ์ž๊ฐ€ ํ•˜๋‚˜์”ฉ ํ…Œ์ŠคํŠธ ํ•  ์ˆ˜๋Š” ์—†์Šต๋‹ˆ๋‹ค.
์•ˆ์ •์ ์ธ ์„œ๋น„์Šค ์šด์˜์„ ์œ„ํ•ด LangSmith ํ™œ์šฉํ•ด์„œ ๋ชจ๋ธ์˜ ์ •ํ™•๋„๋ฅผ ๊ฒ€์ฆํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๋ฐฐ์›๋‹ˆ๋‹ค

LangChain Expression Language (LCEL)

LangChain์€ ๋‹ค์–‘ํ•œ chain๋“ค์„ ์—ฐ๊ฒฐํ•ด์„œ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ๊ฑธ ์•„์‹œ๋‚˜์š”? LCEL ๋ฌธ๋ฒ•์„ ํ™œ์šฉํ•ด์„œ
๋‹ค์–‘ํ•œ ๊ธฐ๋Šฅ์„ ํ•˜๋Š” chain๋“ค์„ ๊ตฌํ˜„ํ•˜๊ณ  ์—ฐ๊ฒฐ์‹œ์ผœ ์‚ฌ์šฉํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๋ฐฐ์›๋‹ˆ๋‹ค

Vector Database(Chroma, Pinecone)

LangChain์„ ํ™œ์šฉํ•ด์„œ Chroma, Pinecone๊ณผ
๊ฐ™์€ Vector Database๋ฅผ ํ™œ์šฉํ•ด์„œ ๋ฐ์ดํ„ฐ๋ฅผ ์ €์žฅํ•˜๊ณ , ์œ ์‚ฌ๋„ ๊ฒ€์ƒ‰์„ ํ†ตํ•ด ๊ด€๋ จ์žˆ๋Š” ๋ฌธ์„œ๋ฅผ ๊ฐ€์ ธ์˜ค๋Š” ๋ฐฉ๋ฒ•์„ ๋ฐฐ์›๋‹ˆ๋‹ค

์ด ๊ฐ•์˜๋ฅผ ๋งŒ๋“  ์‚ฌ๋žŒ



  • 24๋…„ 6์›” ์‹ค๋ฆฌ์ฝ˜ ๋ฐธ๋ฆฌ GenAI Hackathon for Building RAG Applications and Fine-Tuning ์šฐ์Šน

    • ๊ฐ•์˜ ์†Œ๊ฐœ ์˜์ƒ ์—์„œ ํ•ด์ปคํ†ค ๊ฒฐ๊ณผ๋ฌผ ๋ฐœํ‘œ ์˜์ƒ ์ผ๋ถ€๋ฅผ ํ™•์ธํ•˜์‹ค ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค

  • (ํ˜„) ๊ตญ๋‚ด ๋Œ€๊ธฐ์—… GenAI R&D ๋ฐ ๊ทธ๋ฃน์‚ฌ GenAI ๊ฐœ๋ฐœ ๊ต์œก ๋‹ด๋‹น

  • (์ „) ์‹œ๋ฆฌ์ฆˆ C AI ์Šคํƒ€ํŠธ์—… Tech Lead

์ˆ˜๊ฐ• ์ „ ์ฐธ๊ณ  ์‚ฌํ•ญ

์‹ค์Šต ํ™˜๊ฒฝ

  • ๊ฐ•์˜๋Š” MacOS ๊ธฐ์ค€์œผ๋กœ ์„ค๋ช…ํ•ฉ๋‹ˆ๋‹ค.

    • ์œˆ๋„์šฐ, Linux ํ™˜๊ฒฝ์—์„œ๋„ ํŒŒ์ด์ฌ์ด ๊ตฌ๋™๋œ๋‹ค๋ฉด ๋”ฐ๋ผ์˜ค์‹ค ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค


ํ•™์Šต ์ž๋ฃŒ

  • ์†Œ์Šค์ฝ”๋“œ GitHub Repository (Jupyter Notebook, Streamlit)

  • ๋ณด์ถฉ ์„ค๋ช…์„ ์œ„ํ•œ GitBook

์„ ์ˆ˜ ์ง€์‹ ๋ฐ ์œ ์˜์‚ฌํ•ญ

  • Python ๊ธฐ๋ณธ๋ฌธ๋ฒ•

  • ChatGPT๋ฅผ ํ•œ๋ฒˆ์ด๋ผ๋„ ์‚ฌ์šฉํ•ด๋ณด์‹  ๋ถ„๋“ค์€ ์‰ฝ๊ฒŒ ์ดํ•ดํ•˜์‹ค ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค

  • LLM Application ๊ฐœ๋ฐœ ์ค‘ ์–ด๋ ค์›€์„ ๊ฒช์œผ์‹  ๋ถ„๋“ค๊ป˜ ๊ฐ€์žฅ ๋งŽ์€ ๋„์›€์ด ๋  ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค

์ด๋Ÿฐ ๋ถ„๋“ค๊ป˜
์ถ”์ฒœ๋“œ๋ ค์š”

ํ•™์Šต ๋Œ€์ƒ์€
๋ˆ„๊ตฌ์ผ๊นŒ์š”?

  • LLM ์„œ๋น„์Šค๋ฅผ ๋งŒ๋“ค์–ด๋ณด๊ณ  ์‹ถ์€ ๊ฐœ๋ฐœ์ž

  • LLM Application ๊ฐœ๋ฐœ ๊ฒฝํ—˜์ด ์žˆ๋Š” ๊ฐœ๋ฐœ์ž

  • RAG ๊ตฌ์„ฑ์ค‘ ์–ด๋ ค์›€์„ ๊ฒช๋Š” ๊ฐœ๋ฐœ์ž

์„ ์ˆ˜ ์ง€์‹,
ํ•„์š”ํ• ๊นŒ์š”?

  • ํŒŒ์ด์ฌ

์•ˆ๋…•ํ•˜์„ธ์š”
์ œ์ด์“ด์ž…๋‹ˆ๋‹ค.

์ธํ”„๋Ÿฐ์ธ์ฆ

์ปค๋ฆฌ์–ด์ธ์ฆ

19,978

๋ช…

์ˆ˜๊ฐ•์ƒ

1,622

๊ฐœ

์ˆ˜๊ฐ•ํ‰

538

๊ฐœ

๋‹ต๋ณ€

4.9

์ 

๊ฐ•์˜ ํ‰์ 

10

๊ฐœ

๊ฐ•์˜

๋”๋ณด๊ธฐ

์ปค๋ฆฌํ˜๋Ÿผ

์ „์ฒด

26๊ฐœ โˆ™ (3์‹œ๊ฐ„ 36๋ถ„)

ํ•ด๋‹น ๊ฐ•์˜์—์„œ ์ œ๊ณต:

์ˆ˜์—…์ž๋ฃŒ
๊ฐ•์˜ ๊ฒŒ์‹œ์ผ: 
๋งˆ์ง€๋ง‰ ์—…๋ฐ์ดํŠธ์ผ: 

์ˆ˜๊ฐ•ํ‰

์ „์ฒด

587๊ฐœ

4.9

587๊ฐœ์˜ ์ˆ˜๊ฐ•ํ‰

  • swgoodcode๋‹˜์˜ ํ”„๋กœํ•„ ์ด๋ฏธ์ง€
    swgoodcode

    ์ˆ˜๊ฐ•ํ‰ 9

    โˆ™

    ํ‰๊ท  ํ‰์  5.0

    5

    95% ์ˆ˜๊ฐ• ํ›„ ์ž‘์„ฑ

    ๋А๋‚€์  1) ๋‚ด๊ฐ€ ๊ฐœ์ธ llm ์„œ๋น„์Šค๋ฅผ ๋งŒ๋“ค์—ˆ๋‹ค๊ณ ? ์‹คํ™”?โ€ฆ์‰ฝ๋‹คโ€ฆ 2) ๊ฐ•์‚ฌ๋‹˜์€ ์ด ๋งŽ์€ ๊ธฐ์ˆ  ์–ด๋–ป๊ฒŒ ๋ฐฐ์šด๊ฑฐ์•ผโ€ฆ๋‚ด๊ฐ€ ๊ณ„์† ๋‚˜์•„๊ฐˆ ์ˆ˜ ์žˆ์„๊นŒ? ์ขŒ์ ˆโ€ฆ ํ•˜์ง€๋งŒ ๋ฌธ๋“ ์•„์ด๋””์–ด๊ฐ€ ๋– ์˜ค๋ฅด๋”๊ตฐ์š”โ€ฆ ๊ฐ•์‚ฌ๋‹˜์„ ๋…์ด‰ํ•ด์„œ ๋‹ค์Œ ๊ฐ•์˜๋ฅผ ๋งŒ๋“ค๊ฒŒํ•˜์žโ€ฆ ๊ธฐ๋‹ค๋ฆฌ๊ฒ ์Šต๋‹ˆ๋‹ค! ๋นจ๋ฆฌ ๋‹ค์Œ ๊ฐ•์˜ ๋ถ€ํƒ๋“œ๋ ค์š”!! ์‹ค๋ฌด์—์„œ ์ธํ„ฐ๋„ท์ด ๋ถˆ๊ฐ€๋Šฅํ•œ ํ™˜๊ฒฝ์ด๋ผ ๋ผ๋งˆ3๋กœ ํ•˜๋Š” ๋ฐฉ๋ฒ•์ด ๊ถ๊ธˆํ•ฉ๋‹ˆ๋‹ค. ๊ทธ๋ฆฌ๊ณ  ๋žญ์Šค๋ฏธ์Šค์— ๋Œ€ํ•˜์—ฌ ์ž˜ ๋‹ค๋ฃจ๊ณ  ์‹ถ์–ด์กŒ์Šต๋‹ˆ๋‹ค.

    • ์ œ์ด์“ด
      ์ง€์‹๊ณต์œ ์ž

      "๊ฐ•์˜๋ฅผ ๋“ฃ๊ณ  ์„œ๋น„์Šค๋ฅผ ๊ตฌํ˜„ํ•  ์ˆ˜ ์žˆ๋Š” ์ˆ˜์ค€" ์ด๋ผ๋Š” ์ธ์ •์„ ๋ฐ›์€ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ์ •๋ง ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค. ์งˆ๋ฌธ์œผ๋กœ ์˜ฌ๋ ค์ฃผ์‹  ๋‚ด์šฉ์— ๋‹ต๋ณ€ ๋“œ๋ฆฐ ๊ฒƒ์ฒ˜๋Ÿผ LLM Evaluation์€ ๋ณ„๋„์˜ ๊ฐ•์˜๋ฅผ ์ดฌ์˜ํ•  ์˜ˆ์ •์ž…๋‹ˆ๋‹ค. ๊ฐ•์˜๊ฐ€ ๋‚˜์˜ค๋ฉด ์ œ์ผ ๋จผ์ € ์•Œ๋ ค๋“œ๋ฆด๊ฒŒ์š”!

  • Hyuntak Lee๋‹˜์˜ ํ”„๋กœํ•„ ์ด๋ฏธ์ง€
    Hyuntak Lee

    ์ˆ˜๊ฐ•ํ‰ 1

    โˆ™

    ํ‰๊ท  ํ‰์  5.0

    5

    100% ์ˆ˜๊ฐ• ํ›„ ์ž‘์„ฑ

    ๋žญ์ฒด์ธ์— ์ด๋Ÿฐ ๋ช…๊ฐ•์˜๊ฐ€ ์—†์Šต๋‹ˆ๋‹ค! ์ œ๊ฐ€ ๋žญ์ฒด์ธ ํ˜ผ์ž ํ•œ ๋ฒˆ ํŒŒ๋ณด๊ฒ ๋‹ค๊ณ  ์‹œ์ค‘์— ๋‚˜์˜จ ๋žญ์ฒด์ธ ๊ด€๋ จ ๋„์„œ๋Š” ์‹น๋‹ค ๊ตฌ์ž…ํ•˜๊ณ , ๊ฐ•์˜๋„ ์—„์ฒญ ๊ตฌ๋งคํ•˜๊ณ  ํ–ˆ๋Š”๋ฐ,, ๋žญ์ฒด์ธ์˜ ๋ฒ„์ „์—… ๋•Œ๋ฌธ์— ๋ฌด์šฉ์ง€๋ฌผ์ด ๋œ ๊ฒŒ ํ•œ๋‘˜์ด ์•„๋‹ˆ๊ณ , ์ดˆ์‹ฌ์ž ์ž…์žฅ์—์„œ ์ดํ•ด๋˜๊ฒŒ ์„ค๋ช…ํ•˜๋Š”๊ฒŒ ์—†์—ˆ์–ด์š”. ๊ทธ๋Ÿฐ๋ฐ ๊ฐ•๋ณ‘์ง„๋‹˜ ๊ฐ•์˜๋Š” ๋ฒ„์ „๋„ ๋‹ค ์ตœ์‹ ์ธ๋ฐ๋‹ค๊ฐ€ ๋“ฃ๋‹ค๋ณด๋ฉด ๋กœ์ง์ด ํ•˜๋‚˜ํ•˜๋‚˜ ๋‹ค ์ดํ•ด๊ฐ€ ๋ผ์š”. ๋žญ์ฒด์ธ์„ ๋ฐฐ์šฐ๊ณ  ์‹ถ์€ ๋ชจ๋‘์—๊ฒŒ ๊ฐ•์ถ”ํ•˜๊ณ  ์‹ถ์€ ๊ฐ•์˜์ž…๋‹ˆ๋‹ค

    • ์ œ์ด์“ด
      ์ง€์‹๊ณต์œ ์ž

      ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค! ๊ฐ•์˜์˜ ์žฅ์ ์€ ์ฝ”๋“œ๊ฐ€ Deprecate๋˜๋ฉด ์ถ”๊ฐ€๋กœ ์—…๋ฐ์ดํŠธ๊ฐ€ ๊ฐ€๋Šฅํ•œ ์ ์ด๋ผ๊ณ  ์ƒ๊ฐํ•ฉ๋‹ˆ๋‹ค. ํ˜น์‹œ๋‚˜ ๋žญ์ฒด์ธ์—์„œ ์—…๋ฐ์ดํŠธ๊ฐ€ ๋ฐœ์ƒํ•˜๋ฉด ์ €๋„ ๊ฐ•์˜๋ฅผ ์—…๋ฐ์ดํŠธํ•˜๊ณ  ๋ง์”€๋“œ๋ฆด๊ฒŒ์š”~

  • Yurim Park๋‹˜์˜ ํ”„๋กœํ•„ ์ด๋ฏธ์ง€
    Yurim Park

    ์ˆ˜๊ฐ•ํ‰ 10

    โˆ™

    ํ‰๊ท  ํ‰์  4.9

    5

    32% ์ˆ˜๊ฐ• ํ›„ ์ž‘์„ฑ

    ์ข‹์•„์š”!

    • host0806๋‹˜์˜ ํ”„๋กœํ•„ ์ด๋ฏธ์ง€
      host0806

      ์ˆ˜๊ฐ•ํ‰ 1

      โˆ™

      ํ‰๊ท  ํ‰์  5.0

      5

      95% ์ˆ˜๊ฐ• ํ›„ ์ž‘์„ฑ

      ๊ฐ„๋‹จํ•œ ์ฑ—๋ด‡์„ ๋งŒ๋“ค์–ด๋ณด๋ ค๊ณ  ๋ฉฐ์น ์„ ์ฑ—์ง€ํ”ผํ‹ฐ์™€ ์”จ๋ฆ„ํ–ˆ๋˜ ์‹œ๊ฐ„์ด ๋ฌด์ƒ‰ํ•˜๊ฒŒ ์ •๋ง ์ดํ•ดํ•˜๊ธฐ ์‰ฝ๊ฒŒ ๊ฐœ๋ฐœ ๊ณผ์ •์„ ๋ฐฐ์šธ ์ˆ˜ ์žˆ์—ˆ์Šต๋‹ˆ๋‹ค. ํ˜ผ์ž ๊ณต๋ถ€ํ•  ๋•Œ์™€๋Š” ๋‹ค๋ฅด๊ฒŒ ์–ด๋–ค๊ฒŒ ์–ด๋””์— ํ•„์š”ํ•œ์ง€ ์•Œ ์ˆ˜ ์žˆ์–ด ๋„ˆ๋ฌด ์ข‹์•˜์Šต๋‹ˆ๋‹ค. ์œˆ๋„์šฐ ์‚ฌ์šฉ์ž๋„ ํฌ๊ฒŒ ์–ด๋ ต์ง€ ์•Š๊ฒŒ ๋”ฐ๋ผ๊ฐˆ ์ˆ˜ ์žˆ์—ˆ์Šต๋‹ˆ๋‹ค. ์ถ”์ฒœํ•ฉ๋‹ˆ๋‹ค

      • ์ œ์ด์“ด
        ์ง€์‹๊ณต์œ ์ž

        ๋”ฐํ‘ ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค โ˜บ๏ธ ์ฒ˜์Œ ํ•ด๋ณด์‹œ๋Š” ๋ถ„๋“ค๋„ ์‰ฝ๊ฒŒ ๋”ฐ๋ผ๊ฐ€์‹ค ์ˆ˜ ์žˆ๋„๋ก ๊ธฐํšํ–ˆ๋Š”๋ฐ ์ž˜ ๋ฐ›์•„์ฃผ์‹  ๊ฒƒ ๊ฐ™์•„์š”! ์ €๋Š” ์•ž์œผ๋กœ LLM ๊ด€๋ จ ์—…๋ฌด๋ฅผ ๊ณ„์† ํ• ๊ฑฐ๋ผ ๋„์›€ ๋“œ๋ฆด ์ˆ˜ ์žˆ๋Š” ์ž๋ฃŒ๋“ค์„ ๋งŽ์ด ๊ณต์œ ๋“œ๋ ค๋ณด๊ฒ ์Šต๋‹ˆ๋‹ค!

    • Dominus Mr.๋‹˜์˜ ํ”„๋กœํ•„ ์ด๋ฏธ์ง€
      Dominus Mr.

      ์ˆ˜๊ฐ•ํ‰ 6

      โˆ™

      ํ‰๊ท  ํ‰์  5.0

      ์ˆ˜์ •๋จ

      5

      100% ์ˆ˜๊ฐ• ํ›„ ์ž‘์„ฑ

      ๊ฐ•์˜๊ฐ€ ๊ต‰์žฅํžˆ ์žฌ๋ฐŒ๊ณ  ์—ญ๋™์ ์ž…๋‹ˆ๋‹ค. ๊ทธ๋ฆฌ๊ณ  ์•Œ๊ณ  ์‹ถ๊ณ  ๊ถ๊ตผํ–ˆ๋˜ ๋‚ด์šฉ์ด ๋Œ€๋ถ€๋ถ„์ด๋ผ ์งฑ์งฑ์ž…๋‹ˆ๋‹ค ์ธํ”„๋Ÿฐ์—์„œ ๊ฒฐ์ œ ๊ฝค ๋งŽ์ด ํ–ˆ๋Š”๋ฐ, ๋ช‡๋ฒˆ์”ฉ ๋Œ๋ ค ๋ณด๊ณ  ๋˜๋ณด๊ณ  ํ•˜๋Š” ๊ฑด ์ฒ˜์Œ ์ธ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ํ™•์‹คํžˆ ๊ฐœ๋…์ด ์žกํ˜€ ๊ฐ‘๋‹ˆ๋‹ค. ์ง„์งœ ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค. ์ง„์งœ ์ถ”์ฒœํ•ฉ๋‹ˆ๋‹ค.

      ์ œ์ด์“ด๋‹˜์˜ ๋‹ค๋ฅธ ๊ฐ•์˜

      ์ง€์‹๊ณต์œ ์ž๋‹˜์˜ ๋‹ค๋ฅธ ๊ฐ•์˜๋ฅผ ๋งŒ๋‚˜๋ณด์„ธ์š”!

      ๋น„์Šทํ•œ ๊ฐ•์˜

      ๊ฐ™์€ ๋ถ„์•ผ์˜ ๋‹ค๋ฅธ ๊ฐ•์˜๋ฅผ ๋งŒ๋‚˜๋ณด์„ธ์š”!