lab 04-1 multi-variable linear regression 의 cost 값 질문
183
작성한 질문수 2
동영상의 3분 02초에 해당하는 코드로 10만번을 학습시켜도
코스트값이 800이하로 내려가지를 않는데,
동영상에서는 2000번만 학습시켜도 대략 4까지 내려가있는 결과화면이 나와있습니다.
코드는 몇번이고 확인을 했고 에러또한 없습니다.
학습을 횟수를 늘릴수록 코스트값이 내려가기는 하지만,
동영상의 2000번 학습과 저의 10만번의 학습의 차이가 너무 커서 무엇이 문제인지
질문을 올립니다.
답변 1
0
저의 경우는 발산을 해 버려서 -_- 구글 검색을 해 보니 learning_rate 를 너무 크게 주면 발산하고 적게 주어야 수렴하는데 교수님 예제에서는 0.00001 정도는 되어야 수렴하기 시작하는 듯 합니다.
질문 올리신 분의 경우는 저와 반대로 learning_rate 를 너무 작게 주신 것이 아닌가 싶습니다.
학습이 되면서 cost 값의 추이를 살펴 보시면 선형적이지 않고 비선형 적이란 것을 관찰하실 수 있으며, 특히 작은 값에서는 수렴기울기가 더 낮아집니다. 만약 learning_rate 의 소수점 자리수를 cost 값이 발산하기 전까지 높이시다보면 교수님 예제 처럼 수렴하는 결과를 보게 되실 듯 합니다.
tf.placeholder 에러
0
528
1
파이썬 3.10 버전 tensor flow 설치 문의
0
509
0
안녕하세요
0
285
0
딥러닝 vs 머신러닝
0
379
0
출력이미지 사이즈 계산법이 유다시티 강좌와 달라요
0
405
2
train 의미
0
369
0
텐서플로우
0
583
2
텐서플로1.0 -> 2.0설치로 인한 1.0 버전 에러
0
458
1
Tensorflow 설치 질문있습니다..
2
320
1
ModuleNotFoundError: No module named 'tensorflow.examples.tutorials' Error 해결법
0
2832
0
강의 잘 들었습니다!
0
301
0
파이썬을 잘 다뤄야 강의를 들을 수 있나요?
0
302
0
plot range
0
275
1
안녕하세요. 수업 너무 재미있게 보고 있던도중 오류가 생겼습니다 ㅠㅠ
0
293
2
validation set을 굳이 만들어야 되나요?
0
425
0
Epoch을 여러번 돌리면..
0
492
1
numpy로 loadtxt 할 때 이런 오류가 뜨는데 도대체 뭔가요 ㅠㅠ?
0
791
0
lab04-1 7분 30초 부분에서 hypothesis와 bias shape에 관한 질문입니다.
0
331
1
tf.train.batch 속도 질문
0
229
0
어렵군요.
0
259
0
Minmaxscaler
0
218
0
cost 값이 변화가 없다는 것은 무엇을 의미하는 건가요?
0
231
0
cost구하는 공식 reduce_sum으로 되어있는거 오타인가요?
0
259
1
H(x)-y 를 제곱을 하는 이유가 궁금합니다.
0
215
0