소리가 겹쳐서 들려요

제가 동영상 편집에 서툴렀던 초기 영상이라 그럴 수 있습니다. 구체적으로 어떤 동영상인지 알려 주시면 더 빨리 수정할 수 있겠지만, 전반적인 문제를 지적하신 것으로 이해하고 전체 동영상을 들어 보면서 문제점 수정하겠습니다. 불편을 드려 죄송하고 지적 감사합니다.

전 강의와 전혀 이어지지가 않음

구체적으로 어떤 동영상의 어느 부분인지 기술해 주시면 답변 드리겠습니다. 이미 여러분들이 수강하신 과정이므로 완전 엉터리는 아닐 것이라고 생각하는데 오해가 있으시면 풀어드리겠고, 혹시 이전 conda install 처럼 최근에 바뀐 내용이 기존 동영상과 맞지 않는 부분은 수정하도록 하겠습니다. 이유 여하를 막론하고 수강에 불편함을 드려서 죄송합니다.

pytorch local 설치 옵션에 conda 가 없습니다.

지적해 주신 내용 확인 하였습니다. Pytorch 설치 방식에서 conda install 이 없어진 것 확인 하였습니다.pip3 install torch torchvision으로 설치하시면 됩니다. 동영상은 제가 주말에 다시 녹화하여 수정하겠습니다. 불편을 드려 죄송합니다.(사진)

오토인코더+ Knn, SVC 로 해석하는경우

딥러닝, SVC, 앙상블(Random Forest, XGBoost) 같은 것들은, 내부 구조가 복잡해서 "왜 이렇게 예측했는지" 이해하기 어려원서 Blackbox 모델이라고 합니다. 이번 실습의 Autoencoder + SVC 조합이 여기에 해당합니다. 해석 가능한 모델 (White box 모델)은 Decision Tree 같은 모델이고요. 그래도 굳이 원본 데이터의 설명변수가 어떻게 예측 결과에 영향을 끼지는지 아시고 싶으시면 아래에 인프런 AI 가 제안해 준 SHAP 같은 방법이 있지만 방법 자체가 이해하기 어렵고, 쉬운 접근법은 원본 변수와 인코딩 변수 간 상관분석을 하는 방법인데, encoded = encoder_all.predict(X_train)corr = np.corrcoef(X_train.T, encoded.T)[:30,30:] 원본 변수별로 어떤 인코딩 변수와 상관 관계가 높은지 확인해 보시면 참고가 될 수 있을겁니다. 좋은 질문 감사합니다.

강의자료에 소스코드가 없는데요

(사진)수업노트보기 누르시면 링크 나타납니다. 감사합니다.

강화학습저장 및 로드

강화학습 모델은 일반 딥러닝 모델보다 저장할 내용이 많습니다. 간단히 요약하면,모델은 state_dict()옵티마이저도 state_dict()episode, step, epsilon 같은 값은 숫자 그대로 저장정규화 통계는 dict로 저장replay buffer는 직렬화 가능한 형태로 변환해서 저장이 모든 것을 하나의 checkpoint dict에 넣고 torch.save()로 저장구체적인 코드는 다음과 같습니다.torch.save({ "model_state_dict": ..., "optimizer_state_dict": ..., "train_state": ..., "buffer": ..., "config": ...,}, "checkpoint.pth")감사합니다.

Colab실습관련

입문과정에서 Colab 을 사용한다면 아마도 딥러닝 모델에서 무료 GPU 사용을 위해서일겁니다. 그냥 local PC 의 jupyter notebook 환경에서 작업하시면 됩니다. pip install tensorflow 로 텐서플로우 설치하시고 GPU 대신 CPU 에서 작업하시면 작업 시간이 조금 더 걸릴뿐 공부하시는데 지장은 없습니다. 감사합니다.

트랜스포머 FeedForward 관련 질문

1) FeedForward 의 의미가 무엇인지요 ?FFN(x)=max(0,xW1​+b1​)W2​+b2​ 이므로 비선형 함수 ReLU 를 통과시켜 비선형 특성을 학습하여 표현력을 증가시키는 목적입니다.2) 단순 Dense 레이어라면 loss 함수가 있어야 특정 목적의 학습이 이루어질것 같은데 단순 통과만 시킨다면 어떤 결과가 달라지는지요?loss 함수는 Transformer Decoder 블록의 제일 상단에 softmax 함수가 있으므로 CrossEntropy Loss 로 Transformer Encoder-Decoder 전체 출력의 손실을 계산합니다. 따라서 FFN 은 Encoder 와 Decoder 블록 내에 위치하는 중간 layer 이므로 별도의 loss 함수가 있을 필요 없습니다.Attention Layer 가 단어 간 상관 관계를 학습하여 문맥 정보가 섞인 표현을 만든다면, FFN 은 각 토큰에 대해 비선형 변환을 적용하여 그 문맥 정보를 해석하고 표현력을 확장하는 역할을 합니다.

흑백 이미지 resnet 전이학습 분류 질문 있어요

첫번째 방법을 추천합니다. 이유는, 가중치를 구조 변경 없이 그대로 활용할 수 있어 전이학습의 안정성과 재현성이 가장 높기 때문입니다. 좋은 질문 감사합니다.

get_dummies 관련문의

(질문 1) 만약에 새로운 위에 있는 데이터를 predict 하고 싶으면, df에 concat 시키고, 다시 get_dummies 후에 해당 Row로 predict 해봐야 되는건가요?--> 새로운 data 는 학습에 사용되었던 df 와 섞이면 안되고 새로운 data 만으로 학습 데이터에서 만들어진 column 과 동일한 column 구조로 맞춰줘야 합니다. 새로운 data 한 건이 발생했다면 get_dummies 는 다음과 같이 코딩하면 됩니다.# 학습 시 사용했던 원-핫 컬럼dummy_cols = ['Embarked_C', 'Embarked_Q', 'Embarked_S']import pandas as pdnew = pd.DataFrame({'Embarked': ['Q']})encoded = pd.get_dummies(new, columns=['Embarked'])encoded = encoded.reindex(columns=dummy_cols, fill_value=0)print(encoded) Embarked_C Embarked_Q Embarked_S 0 1 0(질문 2)그리고 만약에 embarked에 Z라는 새로운 카테고리가 생기면 다시 학습시켜줘야 되는건가요?--> 학습 때 없던 Z는 자동으로 모든 열을 0으로 처리합니다:Embarked_C = 0Embarked_Q = 0Embarked_S = 0따라서, 다시 학습 시킬 필요 없습니다. 단, Z 라는 카테고리가 의미있는 정보이고 많이 발생하는 경우라면 학습 데이터에서 누락된 것이므로 Z 카테고리를 포함해서 다시 학습시켜야 합니다.