Loss์ Optimizer
์ง๋ฌธ1) ํ์ดํ ์น์์ ์ ๊ณตํ๋ ์ต์ ํ๋ฅผ ์ฌ์ฉํ๊ธฐ ์ํด optimizer.step()๋ ๊ณ ์ ์ ์ธ ํํ์ด๋ผ๊ณ ๋ณด์๋ฉด ๋ฉ๋๋ค. ์ฆ, ์์ค ํจ์๋ฅผ ๊ธฐ์ค์ผ๋ก ์๋์ผ๋ก ๋ชจ๋ธ์ ์
๋ฐ์ดํธ ํด์ฃผ๋ ์ญํ ๋ก ๋ณด์๋ฉด ๋ฉ๋๋ค. ์ง์ ๊ฒฝ์ฌ ํ๊ฐ๋ฒ์ ์งํํ์๊ฑฐ๋ ํน์ํ ๊ฒฝ์ฐ๊ฐ ์๋๋ฉด ๊ทธ๋ฅ ์ ์์น์์ ์ฌ์ฉํ์๋ฉด ๋์ :)์ ์๋์ ๋ต๋ณ์ ํด์์ loss.backward( )๋ฅผ ์คํ์ํค๊ณ ๋ ๋ค, optimizer.step( )๋ฅผ ์คํ์ํค๋ฉด์๋์ ์ผ๋ก optimizer ์ ์ธ์ params๋ก ์ ๋ฌ๋ model์ weight๋ฅผ ์
๋ฐ์ดํธํ๋ค.๋ผ๊ณ ํด์ํด๋ ๋ ๊น์?์ง๋ฌธ2) ๊ฒฐ๋ก ๋ถํฐ ๋ง์ ๋๋ฆฌ๋ฉด Loss ํจ์์ ํ๊ฐ Metric์ ๋ชฉํ๊ฐ ๋ค๋ฆ
๋๋ค. Loss๋ ์ต์ ํ๋ฅผ ํ๊ธฐ ์ํ ๋ชฉ์ ํจ์์ด๊ณ ํ๊ฐ Metric์ ๋ง ๊ทธ๋๋ก ํ๊ฐ๋ฅผ ์ํ ์ฒ๋๋ผ๊ณ ๋ณด์๋ฉด ๋ฉ๋๋ค. ์๋ฅผ ๋ค์ด ๋ถ๋ฅ ๋ฌธ์ ์์ ์ต์ ํ ์
์ฅ์์๋ ์์ค ํจ์ ๊ฐ์ ์ต์ํ ํ๋๊ฒ ๋ชฉํ๊ฐ ๋๋๋ฐ ํ๊ฐ ์
์ฅ์์๋ ์์ค๊ฐ ๋ฎ์์๋ก ์ ํ๋๊ฐ ๋๋ค๊ณ ํ ์๋ ์์ต๋๋ค. ๋ฐ๋ผ์ Loss๋ก ๋ชจ๋ธ์ ์ต์ข
ํ๊ฐํ๋ ๊ฒ์ ๋ถ์ ํ ํ ์ ์์ฃ . ๋ฐ๋ผ์ ํ๊ฐ ์ฒ๋๋ฅผ ๋ฌด์์ผ๋ก ํด์ผํ๋์ง๊ฐ ๋งค์ฐ ์ค์ํฉ๋๋ค! ๋ฌผ๋ก ๋๊ฐ์ ์ฒ๋๋ฅผ ์ฌ์ฉํ๋ ๊ฒฝ์ฐ๋ ์์ต๋๋ค. ์๋ฅผ ๋ค์ด ์ง ๊ฐ ์์ธก๊ณผ ๊ฐ์ ํ๊ท ๋ฌธ์ ์์ MAE ์์ค ํจ์๋ฅผ ์ฐ๊ณ MAE๋ก ๋ชจ๋ธ์ ํ๊ฐ ํ๊ธฐ๋ ํฉ๋๋ค!์ ์๋ ์ด๋ถ๋ถ์ด ๋จธ๋ฆฌ์์ผ๋ก ์ ์ดํด๊ฐ ์ข ์ด๋ ค์์.๊ฒฐ๋ก ์ ์ผ๋ก ML/DL ๋ชจ๋ธ์ ์ธ์ฐ๋ ค๋ ๋ชฉ์ ์ New data๊ฐ ๋ค์ด์์๋ Pred๋ฅผ ํ๊ธฐ ์ํด์(?)๋ผ๊ณ ๋ฌํํ๊ฒ ๋งํ์๋ฉดMetric์ Score๊ฐ Maximum์ด ๋๋๋ก Loss๋ฅผ Metric์ผ๋ก ์
ํ
ํ๋ฉด ๋ ๊ฒ์ธ๋ฐ๋ช๊ฐ์ง Optimize๊ฐ ๋ถ๊ฐ๋ฅํ Metric์ ๊ฒฝ์ฐ๊ฐ ์กด์ฌํ๊ธฐ ๋๋ฌธ์ ๊ทธ๋ฐ๊ฑด๊ฐ์ใ
ใ
?๋ช
์พํ ๊ฐ์์ ํญ์ ๊ฐ์ฌ๋๋ฆฌ๋ฉฐ