epoch 1부터 loss가 너무 낮게 나와 학습이 안되네요
581
21 câu hỏi đã được viết
ratio = 0.2
x_train = tf.random.normal(shape = (300,), dtype = tf.float32)
y_train = 3 * x_train + 1 + ratio * tf.random.normal(shape = (300, ), dtype = tf.float32)
x_test = tf.random.normal(shape = (30,), dtype = tf.float32)
y_test = 3 * x_test + 1 + ratio * tf.random.normal(shape = (30, ), dtype = tf.float32)
class LinearPredictor(Model):
def __init__(self):
super(LinearPredictor, self).__init__()
self.d1 = Dense(1, activation = "linear")
def call(self, x):
x = self.d1(x)
return x
model = LinearPredictor()
loss_object = tf.keras.losses.MeanSquaredError()
optimizer = SGD(learning_rate=0.01)
for epoch in range(5):
for x, y in zip(x_train, y_train):
x = tf.reshape(x, (1, 1))
with tf.GradientTape() as tape:
predictions = model(x)
loss = loss_object(y, predictions)
gradients = tape.gradient(loss, model.trainable_variables)
optimizer.apply_gradients(zip(gradients, model.trainable_variables))
print(f"Epoch: {epoch + 1}")
print(f"Train Loss: {loss:.4f}")
강사님이랑 똑같이 코드를 짠것 같은데 train loss가 너무 낮게 나와 학습이 안되네요. 틀린곳이 있는건지 데이터가 너무 심플하게 생성되서 그런건지 잘 모르겠습니다.

Câu trả lời 1
0
안녕하세요, 인프런 AI 인턴이에요.
먼저 코드를 확인해보면, 생성된 데이터(x_train, y_train)가 비교적 간단한 형태인 것 같습니다. 입력 데이터인 x_train은 무작위로 생성된 정규 분포를 따르는 값이고, 이를 기반으로 y_train은 일정한 기울기와 절편을 가진 선형 모델에 노이즈(ratio * tf.random.normal)를 추가한 값으로 생성되어 있습니다.
만약 데이터가 너무 심플하다면, 학습이 제대로 이루어지지 않을 수 있습니다. 모델이 학습할 패턴이 부족하여 일정 수준 이상의 정확도를 달성할 수 없습니다.
또한, 학습 횟수인 epoch도 5로 상대적으로 낮게 설정되어 있습니다. 실제로 학습 횟수(epoch)를 늘릴수록 모델의 성능이 향상될 가능성이 있습니다. epoch를 5에서 10, 20 등 더 큰 수로 늘려보고 결과를 확인해보는 것을 추천드립니다.
데이터의 복잡도를 높이거나, 학습 횟수를 늘려본 후에도 문제가 지속된다면 다른 요인들(예: 학습률, 다른 optimizer 등)을 조정하여 성능을 향상시킬 수 있습니다.
성능 향상에는 여러 가지 요인이 작용할 수 있으므로, 여러 가지 시도를 통해 최적의 결과를 찾아보시기 바랍니다.
더 도움이 필요하시다면 언제든지 질문해주세요.
안녕하세요 강사님
0
7
1
[시험 준비] AICE Associate 단기간 합격을 위한 모의고사 활용 방법 문의
1
10
1
19강 감정분석 강의처럼 api 돌렸는데
1
59
1
완독 챌린지 도서 인정 방법에 대한 문의
0
67
2
강사님 강의 자료와 코드를 부탁드리고 싶습니다.
0
57
2
16강에서 코드가 계속 안도길래. ai가 고쳐서 일단 supabase에 preditc 한 주가를
2
58
1
16강 구글 colab 에서 코드 실행이 안돼요.
0
67
1
강의자료, 코드 요청드립니다
0
52
2
강의 자료에 대한 질문입니다.
1
64
2
강의의 난이도 및 속도
1
69
2
20번 강의 LoRA 실습이 에러가 납니다.
0
67
1
강의자료 문의
1
76
2
mmcv 문의 드립니다.
0
92
2
강의 자료 및 코드 수령
0
73
2
기초실습 BERT파인튜닝 예제 오류
0
75
1
130_Transformer.ipynb 오류 대응 부탁드립니다.
0
77
1
동영상 재생오류
0
86
1
multiple inputs
0
346
1
텍스트 데이터일 때의 dtype
0
306
1
12강 data split take와 skip
0
351
1
<tensorflow사용메뉴얼> 강의파일
0
315
0
SyntaxError: keyword can't be an expression
0
537
0
강의 감사합니다. 다섯번째 강의인 Model Implementation가 재생이 안됩니다.
0
192
0
unsupported operand type(s) for *: 'float' and 'NoneType'
0
1993
1

