inflearn logo
강의

Khóa học

Chia sẻ kiến thức

Hướng dẫn sử dụng Tensorflow

Triển khai mô hình

epoch 1부터 loss가 너무 낮게 나와 학습이 안되네요

581

fkid009

21 câu hỏi đã được viết

0


ratio = 0.2
x_train = tf.random.normal(shape = (300,), dtype = tf.float32)
y_train = 3 * x_train + 1 + ratio * tf.random.normal(shape = (300, ), dtype = tf.float32)

x_test = tf.random.normal(shape = (30,), dtype = tf.float32)
y_test = 3 * x_test + 1 + ratio * tf.random.normal(shape = (30, ), dtype = tf.float32)

class LinearPredictor(Model):
    def __init__(self):
        super(LinearPredictor, self).__init__()

        self.d1 = Dense(1, activation = "linear")

    def call(self, x):
        x = self.d1(x)
        return x

model = LinearPredictor()

loss_object = tf.keras.losses.MeanSquaredError()
optimizer = SGD(learning_rate=0.01)

for epoch in range(5):
    for x, y in zip(x_train, y_train):
        x = tf.reshape(x, (1, 1))
        with tf.GradientTape() as tape:
            predictions = model(x)
            loss = loss_object(y, predictions)
        gradients = tape.gradient(loss, model.trainable_variables)
        optimizer.apply_gradients(zip(gradients, model.trainable_variables))
    print(f"Epoch: {epoch + 1}")
    print(f"Train Loss: {loss:.4f}")
    

 

강사님이랑 똑같이 코드를 짠것 같은데 train loss가 너무 낮게 나와 학습이 안되네요. 틀린곳이 있는건지 데이터가 너무 심플하게 생성되서 그런건지 잘 모르겠습니다.

 

딥러닝 tensorflow

Câu trả lời 1

0

communityai8509

안녕하세요, 인프런 AI 인턴이에요.

먼저 코드를 확인해보면, 생성된 데이터(x_train, y_train)가 비교적 간단한 형태인 것 같습니다. 입력 데이터인 x_train은 무작위로 생성된 정규 분포를 따르는 값이고, 이를 기반으로 y_train은 일정한 기울기와 절편을 가진 선형 모델에 노이즈(ratio * tf.random.normal)를 추가한 값으로 생성되어 있습니다.

만약 데이터가 너무 심플하다면, 학습이 제대로 이루어지지 않을 수 있습니다. 모델이 학습할 패턴이 부족하여 일정 수준 이상의 정확도를 달성할 수 없습니다.

또한, 학습 횟수인 epoch도 5로 상대적으로 낮게 설정되어 있습니다. 실제로 학습 횟수(epoch)를 늘릴수록 모델의 성능이 향상될 가능성이 있습니다. epoch를 5에서 10, 20 등 더 큰 수로 늘려보고 결과를 확인해보는 것을 추천드립니다.

데이터의 복잡도를 높이거나, 학습 횟수를 늘려본 후에도 문제가 지속된다면 다른 요인들(예: 학습률, 다른 optimizer 등)을 조정하여 성능을 향상시킬 수 있습니다.
성능 향상에는 여러 가지 요인이 작용할 수 있으므로, 여러 가지 시도를 통해 최적의 결과를 찾아보시기 바랍니다.

더 도움이 필요하시다면 언제든지 질문해주세요.

0

fkid009

혹시 다른 코드 이상은 없나요?

안녕하세요 강사님

0

7

1

[시험 준비] AICE Associate 단기간 합격을 위한 모의고사 활용 방법 문의

1

10

1

19강 감정분석 강의처럼 api 돌렸는데

1

59

1

완독 챌린지 도서 인정 방법에 대한 문의

0

67

2

강사님 강의 자료와 코드를 부탁드리고 싶습니다.

0

57

2

16강에서 코드가 계속 안도길래. ai가 고쳐서 일단 supabase에 preditc 한 주가를

2

58

1

16강 구글 colab 에서 코드 실행이 안돼요.

0

67

1

강의자료, 코드 요청드립니다

0

52

2

강의 자료에 대한 질문입니다.

1

64

2

강의의 난이도 및 속도

1

69

2

20번 강의 LoRA 실습이 에러가 납니다.

0

67

1

강의자료 문의

1

76

2

mmcv 문의 드립니다.

0

92

2

강의 자료 및 코드 수령

0

73

2

기초실습 BERT파인튜닝 예제 오류

0

75

1

130_Transformer.ipynb 오류 대응 부탁드립니다.

0

77

1

동영상 재생오류

0

86

1

multiple inputs

0

346

1

텍스트 데이터일 때의 dtype

0

306

1

12강 data split take와 skip

0

351

1

<tensorflow사용메뉴얼> 강의파일

0

315

0

SyntaxError: keyword can't be an expression

0

537

0

강의 감사합니다. 다섯번째 강의인 Model Implementation가 재생이 안됩니다.

0

192

0

unsupported operand type(s) for *: 'float' and 'NoneType'

0

1993

1