loss function 설명에서 질문
192
33 asked
복잡한 모델일 수록 local minima와 global minima 의 차이가 거의 없다고 하셨는데요 복잡한 '모델' 이라는 점에서 이 '모델'은 layer로 구성된 neural network 인가요 아니면 loss function을 의미하는 것인가요 ?
Answer 1
0
안녕하세요, 인프런 AI 인턴입니다.
질문해주신 내용에 대해 답변드리자면, 여기서 말하는 ‘모델’은 주로 네트워크의 구조를 의미합니다. 즉, 여러 층(layer)으로 구성된 신경망(Neural Network)을 가리킵니다. 모델이 복잡하다는 것은 대체로 더 많은 레이어나 파라미터를 가지고 있는 경우를 의미하며, 이는 손실 함수(Loss Function) 자체보다는 모델의 구조와 깊이에 초점을 맞춘 표현입니다.
손실 함수는 모델이 얼마나 잘 또는 못하고 있는지를 측정하는 기준으로 사용되며, 모델을 훈련시키는 동안 이 손실 함수의 값을 최소화하는 파라미터를 찾는 과정에서 local minima와 global minima의 구분이 중요한 개념으로 논의됩니다. 복잡한 모델의 경우, 네트워크가 더 다양한 데이터 패턴을 학습할 수 있기 때문에 local minima와 global minima의 성능 차이가 비교적 작다고 할 수 있습니다.
6-6
0
11
1
작업형 1 유형 부분
0
13
1
import torch가 안되는 경우는 어떻게 하나요?
0
16
1
작업형 1 (삭제예정, 구 버전)
0
32
2
강의노트는 어디있나요?
0
17
1
수강기간 연장 문의드립니다.
0
21
1
2유형 레이블 인코딩 VS 원핫 인코딩
0
24
3
수강기간 연장 문의드립니다.
0
26
1
인덱스 슬라이싱
0
27
2
소리가 겹쳐서 들려요
0
23
2
6-6 실습 문의
0
24
2
섹션5 노션링크 는 따로 없나요?
0
30
2
Part 4에서 강의 연관 노션 정보들이 워드파일에 없습니다.
0
33
2
첨부자료 Part 4 코드 확인 부탁드리겠습니다.
0
29
2
질문 드립니다.
0
45
2
20강에서 파인튜닝 때 사용한 데이터가 없어졌습니다. LoRA Trainer 매개변수도 라이브러리 업그레이드로 수정되었습니다.
0
20
1
강의 내용 관련 질문드립니다~
0
43
2
퍼플렉시티 최소 결제단위 50달러로 바뀐 것 같습니다.
0
54
2
수강 연장 문의
0
56
2
강의자료 일괄 다운로드
0
50
2
list 문제 질문드립니다~
0
35
2
빅분기 실기 12회 재도전
0
54
2
강의 기간 연장 가능여부 검토 요청건
0
39
2
수강기간 연장 문의 드립니다
0
43
2