트랜스포머 내용을 하나씩 단계적으로 구체적으로 설명해주셔서 감사합니다.

정말 완벽한 강의인 것 같습니다. Diffusion 공부할려고 여기저기 떠돌다가 우연히 이 강의를 듣게 되었는데 이 강의에서 완벽하게 이해할 수 있었습니다. 혹시 Flow Matching에 대한 강좌를 제작하실 계획도 있으신가요? 강사님께서 강의하시는 Flow matching을 꼭 들어보고 싶네요.

diffusion 1,2는 듣지 않았습니다. ML 필드에서 일하고 있고 diffusion도 어느정도 알지만, 혼자 공부하는 시간을 아끼려고 수강했습니다. 솔직히 가격 대비 강의 퀄리티가 많이 아쉽습니다. 전반적인 문제: 더듬거림이 많아서 집중하기 어렵습니다. 시간당 6만원인데 좀 아쉬웠습니다. 쉬운 부분은 너무 자세하게 설명하는데, 정작 어렵고 중요한 부분은 대충 넘어갑니다. 구체적으로 부족했던 부분: CLIP/T5 강의 소개에 "CLIP/T5 연동과 토큰 흐름 파악"이라고 써놨는데, 그냥 불러와서 쓴다는 얘기만 하고 끝입니다. CLIP이랑 T5가 뭐가 다르고 왜 같이 쓰는지, sequence length를 77로 맞추는 이유 같은건 설명이 없습니다. RoPE RoPE 자체 설명이 거의 없습니다. attention block에서 RoPE를 쓰는 경우랑 안 쓰는 경우가 있던데 이 차이에 대한 설명이 없고, 코드엔 있지만 caching은 언제 왜 하는건지도 안 알려주십니다. AdaLN 이미 배운 SA, CA는 또 자세히 설명하시는데, AdaLN-single 같은 중요한 개념은 "기존과 동일하고, cross attention projection에서 zero initialization 쓴다"고만 하십니다. 무슨 뜻인지 모르겠고 왜 그런지도 설명이 없습니다. 따로 찾아보니까 zero initialization은 AdaLN-Zero를 말하는거고, AdaLN-Single이랑은 다른 개념 같은데... 강의에서는 이런 구분이나 설명이 전혀 없었습니다. Linear Attention (SANA) 사전 설명은 괜찮은데, 코드 설명할 때 vanilla attention이랑 뭐가 다른지를 얘기안해주시고 똑같은 부분(qkv)만 집고 넘어가십니다. 오류: SANA scheduler 설명할 때 "t에 0.5"라고 해야 하는데 "x에 0.5"라고 하신것 같습니다. 작은 실수지만 시간당 6만원짜리 강의가 검수도 안 된건 좀 아쉽습니다. 결론: 키워드 몇 개 얻어서 논문이랑 코드 보면서 공부하면 되긴 하는데, 6만원씩 내야 하나 싶습니다. 유튜브 무료 강의보다 만족도가 낮아서 많이 아쉽습니다... 심지어 수강평의 답글도 LLM 쓰셔서 자동화하신게 티나요...

Transformer 의 개념과 기초에 대해 잘 설명해주는 강의 입니다. 다만 몇몇 챕터에서는 강사님 목소리가 조금 잘 안 들리는 부분이 있어서 자막을 꼭 켜고 수업을 들었어야 하는 아쉬움은 있었습니다. 그렇지만 여타 YouTube 영상이나 웹에서 찾을 수 있는 영상 강의 보다 한차원 높은 수준의 강의였습니다. 감사합니다.