모델의 가중치 값도 MinMaxScaler 개념을 도입할 수 있나요?

Question

안녕하세요. 문득 든 생각이 모델의 가중치 값도 MinMaxScaler 혹은 표준화 작업으로 범위를 한정 지을 수 있을까요?

이로 인해 얻는 장점이 데이터 전처리와 비슷할까해서 생각해봤습니다

Answer

안녕하십니까,

오, 예리하시군요. 뒤에서(섹션 5에서) 가중치 초기화를 말씀 드릴 것입니다. 그리고 뒤이어서 Batch Normalization을 말씀 드릴 것입니다.

가중치 초기화는 말 그대로 초기 가중치를 어떻게 값을 정할 것인가(Feature Scaling과 유사하게)인가에 대한 것이고, Batch Normalization은 Layer별 출력값을 normalization하는 기법입니다.

좀 더 뒤 섹션에서 배우시게 될 것 입니다.

감사합니다.