l2정규화가 정확히 뭔가요??
585
작성한 질문수 9
발음이 L2정규화라고 하신 ㅅ||W||^2부분은 정확히 뭔지..궁금합니다.
답변 1
0
안녕하십니까,
머신러닝/딥러닝은 학습 데이터를 기반으로 결과를 지속적으로 학습을 합니다. 그런데 학습 데이터만을 기반으로 하다보면 너무 학습 데이터에 최적화된 모델이 만들어집니다. 때문에 학습데이터에서는 예측 효율이 뛰어난 모델이지만 학습 데이터가 아닌 다른 데이터 세트에서는 오히려 예측효율이 많이 떨어지는 현상이 나타날 수 있는데, 이것을 오버피팅이라고 합니다.
이렇게 학습데이터에 너무 최적화 되어서 발생하는 오버 피팅 문제를 해결하기 위한 여러가지 방법이 있는데 그중 대표적인 방법이 규제(Regularization) 입니다. 규제에는 L2 규제, L1 규제가 있습니다. 규제라는 이름이 의미하듯이 학습의 예측 오류가 최소화 되는 방향성을 어느정도 규제(방해?)를 합니다.
이처럼 약간의 규제를 하기위해 최적 Loss 함수가 규제를 적용하여 다시 만들어 집니다. L2 Regularization은 기존 최적 Loss함수에 ㅅ||W||^2 을 더해서 만들어 집니다.
감사합니다.
강의 환경설정 질문
0
38
2
Custom Dataset에서의 polygon 정보 관련
0
83
3
cvat.ai 보안 수준이 궁금합니다
0
78
2
캐클 nucleus 챌린지 runpod 실습 코드 에러 질문드립니다.
0
94
3
추론 결과의 Precision(또는 mAP) 평가 방법
0
83
2
mmdetection mask rcnn inferenct 실습 시 runpod 템플릿 관해서 질문드립니다.
0
58
2
runpod에서 google drive 연결 시 오류 발생
0
106
2
로드맵 선택
0
65
1
mmcv
0
56
2
Anchor box의 Positive 처리 위치
0
60
2
해당 강의 runpod 적용 후 에러 제보드립니다
0
84
2
run pod credit 관련 제보
0
95
2
mmdetection 2.x과 3.x 호환 관련 표기
0
76
2
mm_faster_rcnn_train_kitti.ipynb 실행 오류
0
94
3
질문 드립니다.
0
75
3
mm_faster_rcnn_train_coco_bccd 실행 오류 질문드립니다.
0
77
1
강사님께 수정을 제안드리고 싶은 것이 있습니다.
0
92
1
google automl efficientdet 다운로드 및 설치 오류
0
72
1
이상 탐지에 사용할 비전 기술 조언 부탁드립니다.
0
101
2
OpenCV 관련 질문드립니다.
0
70
2
mmcv 설치관련해서 문의드려요
0
329
3
강의 구성 관련해서 질문이 있습니다
1
135
2
모델 변환 성능 질문드립니다.
0
122
1
NMS 로직 문의 드려요
0
112
2