AI ๋ง์คํฐ๋ฅผ ์ํ LLM ์ํคํ ์ฒ ์ดํด์ GPU ํ์ฉ์ ๋ต
๊นํ์ง
ํธ๋์คํฌ๋จธ ๊ธฐ๋ฐ LLM ์ํคํ ์ฒ์ GPU ํ์ฉ ์ ๋ต์ ์ดํดํ๊ณ , vLLM์ ํ์ฉํ ์ค์ ์๋น ๊ณผ์ ๊น์ง ์ง์ ์ค์ตํฉ๋๋ค. AI ์์คํ ํ์ดํ๋ผ์ธ ๊ตฌ์ถ๋ถํฐ ๋ชจ๋ํฐ๋ง, ๋ฉํฐ GPU ํ์ฉ๊น์ง ์ค๋ฌด ํ๋ฆ ์ ์ฒด๋ฅผ ๋ค๋ฃจ๋ฉฐ, ๋ณต์กํ ์์ ์์ด ๊ทธ๋ฆผ๊ณผ ์ค์ต ์ค์ฌ์ผ๋ก ์ง๊ด์ ์ผ๋ก ์ดํดํ ์ ์๋๋ก ๊ตฌ์ฑํ ๊ฐ์์ ๋๋ค.
์ด๊ธ
GPU, attention-model, ์ธ๊ณต์ง๋ฅ(AI)

















![[๋ฆฌ๋ด์ผ] ์ฒ์ํ๋ MongoDB(๋ชฝ๊ณ DB) ์ NoSQL(๋น
๋ฐ์ดํฐ) ๋ฐ์ดํฐ๋ฒ ์ด์ค ๋ถํธ์บ ํ [์
๋ฌธ๋ถํฐ ํ์ฉ๊น์ง] (์
๋ฐ์ดํธ)๊ฐ์ ์ธ๋ค์ผ](https://cdn.inflearn.com/public/courses/324183/cover/fbe9f0cc-4c42-4435-b855-f283f6932415/324183.png?w=420)


