YoungJea Oh

Lead 레벨

구체적으로 어떤 동영상의 어느 부분인지 기술해 주시면 답변 드리겠습니다. 이미 여러분들이 수강하신 과정이므로 완전 엉터리는 아닐 것이라고 생각하는데 오해가 있으시면 풀어드리겠고, 혹시 이전 conda install 처럼 최근에 바뀐 내용이 기존 동영상과 맞지 않는 부분은 수정하도록 하겠습니다. 이유 여하를 막론하고 수강에 불편함을 드려서 죄송합니다.

전 강의와 전혀 이어지지가 않음

지적해 주신 내용 확인 하였습니다. Pytorch 설치 방식에서 conda install 이 없어진 것 확인 하였습니다.<pre><code>pip3 install torch torchvision</code></pre>으로 설치하시면 됩니다. 동영상은 제가 주말에 다시 녹화하여 수정하겠습니다. 불편을 드려 죄송합니다. <img src="https://cdn.inflearn.com/public/files/posts/7194cd11-22fa-4554-af38-26b4dc62db94/20f7d476-bf8d-4513-941b-adbdb931888d.png" media-type="img" alt="image.png" title="image.png" width="641" height="410">

pytorch local 설치 옵션에 conda 가 없습니다.

딥러닝, SVC, 앙상블(Random Forest, XGBoost) 같은 것들은, 내부 구조가 복잡해서 "왜 이렇게 예측했는지" 이해하기 어려원서 Blackbox 모델이라고 합니다. 이번 실습의 Autoencoder + SVC 조합이 여기에 해당합니다. 해석 가능한 모델 (White box 모델)은 Decision Tree 같은 모델이고요. 그래도 굳이 원본 데이터의 설명변수가 어떻게 예측 결과에 영향을 끼지는지 아시고 싶으시면 아래에 인프런 AI 가 제안해 준 SHAP 같은 방법이 있지만 방법 자체가 이해하기 어렵고, 쉬운 접근법은 원본 변수와 인코딩 변수 간 상관분석을 하는 방법인데, encoded = encoder_all.predict(X_train) corr = np.corrcoef(X_train.T, encoded.T)[:30,30:] 원본 변수별로 어떤 인코딩 변수와 상관 관계가 높은지 확인해 보시면 참고가 될 수 있을겁니다. 좋은 질문 감사합니다.

오토인코더+ Knn, SVC 로 해석하는경우

<img src="https://cdn.inflearn.com/public/files/posts/1dd4a6e1-0032-4b66-8d21-bb045a9b2560/471407e3-6f50-4798-8821-67a18cc0daa9.png" media-type="img" alt="image.png" title="image.png" width="641" height="319">수업노트보기 누르시면 링크 나타납니다. 감사합니다.

강의자료에 소스코드가 없는데요

강화학습 모델은 일반 딥러닝 모델보다 저장할 내용이 많습니다. 간단히 요약하면,<ul><li>모델은 <code>state_dict()</code></li><li>옵티마이저도 <code>state_dict()</code></li><li>episode, step, epsilon 같은 값은 숫자 그대로 저장</li><li>정규화 통계는 dict로 저장</li><li>replay buffer는 직렬화 가능한 형태로 변환해서 저장</li><li>이 모든 것을 하나의 checkpoint dict에 넣고 <code>torch.save()</code>로 저장</li></ul>구체적인 코드는 다음과 같습니다.<a target="_blank" rel="noopener noreferrer nofollow" href="http://torch.save">torch.save</a>({ "model_state_dict": ..., "optimizer_state_dict": ..., "train_state": ..., "buffer": ..., "config": ...,}, "checkpoint.pth")감사합니다.

강화학습저장 및 로드

입문과정에서 Colab 을 사용한다면 아마도 딥러닝 모델에서 무료 GPU 사용을 위해서일겁니다. 그냥 local PC 의 jupyter notebook 환경에서 작업하시면 됩니다. pip install tensorflow 로 텐서플로우 설치하시고 GPU 대신 CPU 에서 작업하시면 작업 시간이 조금 더 걸릴뿐 공부하시는데 지장은 없습니다. 감사합니다.

Colab실습관련

1) FeedForward 의 의미가 무엇인지요 ?FFN(x)=max(0,xW1​+b1​)W2​+b2​ 이므로 비선형 함수 ReLU 를 통과시켜 비선형 특성을 학습하여 표현력을 증가시키는 목적입니다.2) 단순 Dense 레이어라면 loss 함수가 있어야 특정 목적의 학습이 이루어질것 같은데 단순 통과만 시킨다면 어떤 결과가 달라지는지요? loss 함수는 Transformer Decoder 블록의 제일 상단에 softmax 함수가 있으므로 CrossEntropy Loss 로 Transformer Encoder-Decoder 전체 출력의 손실을 계산합니다. 따라서 FFN 은 Encoder 와 Decoder 블록 내에 위치하는 중간 layer 이므로 별도의 loss 함수가 있을 필요 없습니다.Attention Layer 가 단어 간 상관 관계를 학습하여 문맥 정보가 섞인 표현을 만든다면, FFN 은 각 토큰에 대해 비선형 변환을 적용하여 그 문맥 정보를 해석하고 표현력을 확장하는 역할을 합니다.

트랜스포머 FeedForward 관련 질문

첫번째 방법을 추천합니다. 이유는, 가중치를 구조 변경 없이 그대로 활용할 수 있어 전이학습의 안정성과 재현성이 가장 높기 때문입니다. 좋은 질문 감사합니다.

흑백 이미지 resnet 전이학습 분류 질문 있어요

(질문 1) 만약에 새로운 위에 있는 데이터를 predict 하고 싶으면, df에 concat 시키고, 다시 get_dummies 후에 해당 Row로 predict 해봐야 되는건가요?--> 새로운 data 는 학습에 사용되었던 df 와 섞이면 안되고 새로운 data 만으로 학습 데이터에서 만들어진 column 과 동일한 column 구조로 맞춰줘야 합니다. 새로운 data 한 건이 발생했다면 get_dummies 는 다음과 같이 코딩하면 됩니다.# 학습 시 사용했던 원-핫 컬럼dummy_cols = ['Embarked_C', 'Embarked_Q', 'Embarked_S']import pandas as pdnew = pd.DataFrame({'Embarked': ['Q']})encoded = pd.get_dummies(new, columns=['Embarked'])encoded = encoded.reindex(columns=dummy_cols, fill_value=0)print(encoded) Embarked_C Embarked_Q Embarked_S 0 1 0 (질문 2)그리고 만약에 embarked에 Z라는 새로운 카테고리가 생기면 다시 학습시켜줘야 되는건가요?--> 학습 때 없던 Z는 자동으로 모든 열을 0으로 처리합니다:Embarked_C = 0Embarked_Q = 0Embarked_S = 0따라서, 다시 학습 시킬 필요 없습니다. 단, Z 라는 카테고리가 의미있는 정보이고 많이 발생하는 경우라면 학습 데이터에서 누락된 것이므로 Z 카테고리를 포함해서 다시 학습시켜야 합니다.

get_dummies 관련문의

안녕하세요. 저도 이런 질문을 처음 받아보아서 인프런의 AI 에게 질의한 결과 다음과 같은 회신을 받았습니다. <인프런 AI 답변> 현재 인프런에서는 미리보기로 수강한 이력은 결제 이후의 수강 진도에 포함되지 않고, 결제 후 다시 수강해 주셔야 진도율과 완료 여부, 그리고 AI퀴즈 이용이 가능해요.완료 표시 및 AI퀴즈 이용을 위해서는 아래를 확인해 주세요.- 강의실 오른쪽의 "커리큘럼" 또는 "강의 대시보드"에서 강의별 체크 표시를 확인해 주세요.- 체크가 안 되어 있는 유닛(영상)은 다시 끝까지 재생해 수강을 완료해 주세요.- 수강을 완료했는데도 완료 처리되지 않았다면, 각 강의 하단의 [v봤어요] 버튼을 눌러 수동으로 완료 처리해 주세요.위 방법으로도 해결되지 않을 경우에는, 강의실 내에서 재생이 끝났는지와 [v봤어요] 버튼 클릭 여부를 한 번 더 확인해 주시면 좋겠습니다.

YoungJea Oh

Bài viết