Flutter๋ก ๋ง๋๋ LLM ์ฑ๋ด (feat. Gemini)
Flutter๊ฐ ์ฒ์์ด์ ๊ฐ์? Flutter Contributor๊ฐ ์ฒ์๋ถํฐ ํ๋์ฉ ์๊ฐํด๋๋ฆฝ๋๋ค! Gemini๋ฅผ ํ์ฉํ AI ํ๋ก์ ํธ๋ก Flutter ๊ฐ๋ฐ์ ์์ํด๋ณด์ธ์
์๊ฐ์ 89๋ช
๋์ด๋ ์ด๊ธ
์๊ฐ๊ธฐํ ๋ฌด์ ํ

์๋ ํ์ธ์! ์ง๋๋ฒ ์ ์ฒซ ์ฑ ์ถ๊ฐ ์์๊ณผ ํจ๊ป ์๊ณ ํด ๋๋ ธ๋ 'AI ์์ด์ ํธ ํ๊ฐ(Evaluation)' ์ฌํ ๊ฐ์๊ฐ ๋๋์ด ์คํ๋์์ต๋๋ค!๐
์ง๋๋ฒ ๋จ๊ฒจ๋๋ฆฐ ๋ฉ์์ง์์ ๋ง์๋๋ ธ๋ฏ, ์ฑ ์ ํตํด ํ๊ฐ์ ๊ดํ '์ด๋ก ์ ์ธ ํ ๋์ ํต์ฌ ์์น'์ ๋ค์ก๋ค๋ฉด, ์ด๋ฒ ๊ฐ์๋ ์ค๋ฌด ํ๊ฒฝ์์ ์ด๋ฅผ ์ด๋ป๊ฒ ์๋ํํ๊ณ ์์คํ ์ผ๋ก ๊ตฌ์ถํ ๊ฒ์ธ๊ฐ์ ๋ํ ์๋ฒฝํ ์ค์ต ๋ฐ ์ ์ฉ ๊ฐ์ด๋์ ๋๋ค.
์ฒจ๋ถ๋ ๋ชฉ์ฐจ์์ ๋ณด์ค ์ ์๋ฏ, ์ฃผ๊ด์ ์ธ ํ ์คํธ๋ฅผ ๋์ด ๊ฐ๊ด์ ์ธ ์งํ๋ก ์์ด์ ํธ๋ฅผ ๊ด๋ฆฌํ๊ธฐ ์ํ ํต์ฌ ๋ด์ฉ๋ค์ ๊ฝ๊ฝ ์ฑ์ ๋ด์์ต๋๋ค.
๐ ์ฃผ์ ๊ฐ์ ๋ด์ฉ
Golden Dataset ๊ตฌ์ถ์ ๋ชจ๋ ๊ฒ: RAGAS ๋ผ์ด๋ธ๋ฌ๋ฆฌ, LangSmith, ์ปค์คํ ์์ด์ ํธ ๋ฐ Claude Code Agent Skill์ ํ์ฉํ ํจ์จ์ ์ธ ํ๊ฐ ๋ฐ์ดํฐ์ ์์ฑ ๊ธฐ๋ฒ
๋ค๊ฐ๋ ํ๊ฐ(Evaluation) ์ค์ต: ์ต์ข ๋ต๋ณ์ ์ ํ๋๋ฅผ ๋ณด๋ e2e ํ๊ฐ๋ถํฐ, ๋ฌธ์๋ฅผ ์ ๊ฐ์ ธ์๋์ง, ๋๊ตฌ๋ฅผ ์๋ง์ ์์๋๋ก(Trajectory) ํ์ฉํ๋์ง ๊ฒ์ฆํ๋ Component Evaluation๊น์ง
๊ณ ๊ธ ํ๊ฐ ์งํ ๋ฐ ํ๋ ์์ํฌ ์ ์ฉ: Anthropic ๊ถ์ฅ ์์ด์ ํธ ํ๊ฐ ์งํ, ๊ทธ๋ฆฌ๊ณ AI์ ์ ์ฌ๋ ฅ(
pass@k)๊ณผ ์ผ๊ด์ฑ(pass^k)์ ์ธก์ ํ๋ ๋ฐฉ๋ฒ์ง์ ๊ฐ๋ฅํ ํ๊ฐ ์์คํ ๊ตฌ์ถ ๋ฐฉ์
๋จ์ํ ์์ด์ ํธ๋ฅผ '๊ตฌํ'ํ๋ ๊ฒ์ ๋์ด, ํ๋ก๋์ ๋ ๋ฒจ์์ ๋ด AI๊ฐ "ํญ์ ์ฌ๋ฐ๋ฅด๊ฒ ๋์ํ๋๊ฐ?"๋ฅผ ๋ฐ์ดํฐ๋ก '์ฆ๋ช 'ํ๊ณ ์ต์ ํํ๊ณ ์ถ์ผ์ ๋ถ๋ค๊ป ๊ฐ์ฅ ํ์คํ ๊ธธ์ก์ด๊ฐ ๋ ๊ฒ์ ๋๋ค. ์ฑ ์ผ๋ก ๋จ๋จํ ๊ธฐ๋ณธ๊ธฐ๋ฅผ ๋ค์ง์ จ๋ค๋ฉด, ์ด์ ์ด์ด์ง๋ ์ด๋ฒ ์ค์ต ๊ฐ์๋ฅผ ํตํด 'ํ๊ฐ์ ์์ฑ'์ ์ง์ ๊ฒฝํํด ๋ณด์ธ์!
์ถ์ ๊ธฐ๋ ์ผ๋ฆฌ๋ฒ๋ 30% ํ ์ธ ์ค์ด๋, ์ฑ ์ผ๋ก ๋ค์ง ํํํ ์ด๋ก ์ ๋ฐํ์ผ๋ก ์ง๊ธ ๋ฐ๋ก 'ํ๊ฐ์ ์์ฑ'์ ๊ฒฝํํด ๋ณด์ธ์!
์ธ๋ ํ์ธ์, ๊ฐ๋ณ์ง์ ๋๋ค.
์๋ ํ์ธ์, ์ต๊ทผ ์ข์ ๊ธฐํ๋ก ์ค๋ ์คํ๋์ค์ '์์ด์ค ๋ฆฌํฌํธ'์ ์ฐธ์ฌํด ์ ์ ์ปค๋ฆฌ์ด ์คํ ๋ฆฌ๋ฅผ ๊ณต์ ํ๊ฒ ๋์์ต๋๋ค.
์๋ก์ด ์์์ ์๋๊ณ ์์ง๋ง, ์ด ์์์ด ๋น ํ ํฌ ์ด์ง์ ๋ ธํ์ฐ๋ฅผ ๋ค๋ฃจ๊ธฐ๋ณด๋ค๋ ์ ๊ฐ ๊ทธ๋์ ์ผ์ ๋ํ๋ฉฐ ๊ณ ๋ฏผํ๊ณ ๊ฒฝํํ๋ ์๊ฐ๋ค์ ๋ด๋ดํ๊ฒ ํ์ด๋ด๋ ์๋ฆฌ๊ฐ ๋์์ต๋๋ค.
๋์๋ณด๋ฉด ์ ์ ์ปค๋ฆฌ์ด๋ ์ฑ๊ณต๋ณด๋ค๋ ์คํจ์ ๋ ๊ฐ๊น์ ๋ ๊ฒ ๊ฐ์ต๋๋ค. ๋งํฌ๋์ธ์๋ ๊ธฐ๋ก๋์ง ์์ ์ฐฝ์ ๊ณผ ํ์ ์ ๊ฒฝํ๋ค, ํฉ๊ฒฉ๋ณด๋ค ํจ์ฌ ๋ง์๋ ๋ถํฉ๊ฒฉ์ ์๊ฐ๋ค์ด ์์์ต๋๋ค. ํ์ง๋ง ๊ทธ ๊ณผ์ ์์ ์ป์ ๋ฐฐ์๊ณผ ๊ตํ๋ค์ด ์์๊ธฐ์ ์ง๊ธ์ ์ ๊ฐ ์๋ค๊ณ ์๊ฐํฉ๋๋ค.
'์ผ์๋ฌ'๋ผ๋ ์ ๋ชฉ์ ์กฐ๊ธ ์ฅ์ค๋ฝ์ง๋ง, ๋์์์ด ๋์ ํ๊ณ ๊ทธ ์์์ ๋ฐฐ์ฐ๊ณ ์ ํ๋ ์ ์ ์ด์ผ๊ธฐ๊ฐ ๋น์ทํ ๊ณ ๋ฏผ์ ํ์๋ ๋ถ๋ค๊ป ์กฐ๊ธ์ด๋๋ง ๊ฐ๋ฟ๊ธฐ๋ฅผ ๋ฐ๋๋๋ค.
์๊ฐ ๋ด์ด ์์ฒญํด์ฃผ์๊ณ , ์์์ ๋ํ ์๊ฐ๋ ๋๋ ์ฃผ์๋ฉด ํฐ ํ์ด ๋ ๊ฒ ๊ฐ์ต๋๋ค.
https://youtu.be/UR9PL1Jz-qs?si=nYUszHC3GrU21K-Q
์๊ฐํด์ฃผ์๋ ์๊ฐ์ ์ฌ๋ฌ๋ถ๋ค ๊ฐ์ฌ๋๋ฆฌ๊ณ , ๊ฐ์ ์๊ฐํ์๋ฉด์ ์ค๋ช ์ด ๋ถ์กฑํ ๋ถ๋ถ์ด๋, ์ดํด๊ฐ ๋์ง ์๋ ๋ถ๋ถ๋ค, ๊ทธ๋ฆฌ๊ณ ํ์ ์ ์ ์ฉํ์๋ฉด์ ๋ง์ฃผํ์๋ ์ด๋ ค์๋ค์ ์ง๋ฌธ์ผ๋ก ์ฌ๋ ค์ฃผ์๋ฉด ์ต๋ํ ๋น ๋ฅด๊ฒ ๋ต๋ณ ๋๋ฆฌ๊ฒ ์ต๋๋ค.
๊ฐ์ฌํฉ๋๋ค
๊ฐ๋ณ์ง ๋๋ฆผ






