[PyTorch] ์ฝ๊ณ ๋น ๋ฅด๊ฒ ๋ฐฐ์ฐ๋ ๋ฅ๋ฌ๋
๋ฅ๋ฌ๋์ ๊ธฐ๋ณธ ๋ผ๋์ธ MLP๋ถํฐ CNN, RNN๊น์ง ์ฝ๊ณ ๋น ๋ฅด๊ฒ ๋ฐฐ์๋ด ๋๋ค.
์๊ฐ์ 288๋ช
๋์ด๋ ์ค๊ธ์ด์
์๊ฐ๊ธฐํ ๋ฌด์ ํ

- ๋ฏธํด๊ฒฐ
Continual Learning ๊ณผ Transfer Learning ์ ์ฐจ์ด์
์๋ ํ์ธ์. ์ฌ๋ ค์ฃผ์ ๊ฐ์ ์ด์ฌํ ๋ณด๋ฉด์ ๊ณต๋ถ์ค์ ์์ต๋๋ค^^ Continual Learning ๊ณผ Transfer Learning ์ ์ฐจ์ด์ ์ ํน์ ์์ ์์๊น์? ๋๊ฐ์ง ๊ฐ๋ ๋ชจ๋ ๊ธฐ์กด์ ํ์ต๋ weight๋ฅผ
์ธ๊ณต์ ๊ฒฝ๋งpytorch๋ฅ๋ฌ๋๊ฐ๋ฌผ์น
ใป
0
1,475
1
- ๋ฏธํด๊ฒฐ
Deep Learning ์ ์์ ๋์จ Graphical representation learning์ ๋ํด์
์๋
์ฉ์ด์ง๋ฌธ๋ฅ๋ฌ๋pytorch์ธ๊ณต์ ๊ฒฝ๋ง๊ฐ๋ฌผ์น
ใป
0
604
1
- ๋ฏธํด๊ฒฐ
ํ์ต์๊ฐ ์ค์ด๋ ๋ฐฉ๋ฒ์ ๋ํ์ฌ ๋ฌธ์ ๋๋ฆฌ๊ฒ ์ต๋๋ค.
์๋ ํ์ธ์ ์ข์ ๊ฐ์ ๋ฃ๊ณ ์์ต๋๋ค. ๋ฌธ์ ์ฌํญ์ด ์์ต๋๋ค ํ์ต์๊ฐ์ ์ค์ด๊ธฐ ์ํด์ ๋ค์๊ณผ ๊ฐ์ด ํ๊ณ ์์ต๋๋ค. 1. GPU 3xxx ๊ตฌ์ ํ์ฌ ์ค๋ฆผ 2.์๋ฒ๋ฅผ ์๋ํ์ฌ ์ค์ ์์ ๋ ๊ฐ์ง ๋ฐฉ๋ฒ์ ์ ๋ถ
ํ์ต์๊ฐ๋ฅ๋ฌ๋pytorch์ธ๊ณต์ ๊ฒฝ๋งJames Kang
ใป
0
1,197
3
- ๋ฏธํด๊ฒฐ
cross_entropy
RNN์ cross_entropy๋ฅผ ์ ์ฉํด์ ์คํ์์ผฐ๋๋ฐ 1D target tensor expected, mu
์ธ๊ณต์ ๊ฒฝ๋ง๋ฅ๋ฌ๋pytorchbyeongal
ใป
0
2,402
1
- ๋ฏธํด๊ฒฐ
Mnist ๋ฐ์ดํฐ ์ค์ต ๊ด๋ จ ์ง๋ฌธ์ ๋๋ค!
Mnist ๋ฐ์ดํฐ ์ค์ต์์ ๋ค์๊ณผ ๊ฐ์ ์ฝ๋ ์ค๋ฅ๊ฐ ๋ฐ์ํ๋๋ฐ ์ด์ ์ ํด๊ฒฐ์ฑ ์ ์ ์ ์์์ง์? ๊ทธ๋ฆฌ๊ณ ์บ๊ธ์์ ์ง์ ๋ค์ด๋ก๋๋ฐ์ ๋ฐ์ดํฐ์ ๊ฐ์์์ ์ฌ์ฉ๋๋ ๋ฐ์ดํฐ๊ฐ ์ฝ๊ฐ ์ฐจ์ด๊ฐ ์๋๋ฐ ๊ฐ์์ ์ฌ์ฉ๋ ๋ฐ์ดํฐ๋ฅผ ๋ณ๋๋ก ๋ค์ด๋ก๋ ๋ฐ์ ์ ์์
์ธ๊ณต์ ๊ฒฝ๋ง๋ฅ๋ฌ๋pytorchDaily Study
ใป
0
301
1
- ๋ฏธํด๊ฒฐ
์ธ์ 2. ํํ ๋ฆฌ์ผ ์ฝ๋ ๊ด๋ จ ์ง๋ฌธ์ ๋๋ค!
์ญ์ ๋ ๊ธ์ ๋๋ค
pytorch์ธ๊ณต์ ๊ฒฝ๋ง๋ฅ๋ฌ๋Daily Study
ใป
0
112
1
- ๋ฏธํด๊ฒฐ
CNN_MNIST ์ค์ต์์ ์ง๋ฌธ์ ๋๋ค.
self.fc1 =nn.Linear(320,5
์ธ๊ณต์ ๊ฒฝ๋งpytorch๋ฅ๋ฌ๋์ ์์ค
ใป
0
260
1
- ๋ฏธํด๊ฒฐ
ํ๋ฆฌํธ๋ ์ธ ์ง๋ฌธ์์ต๋๋ค
์๋ ํ์ธ์ ์ด๋ฏธ์ง๋ท์ 1000๊ฐ์ ํด๋์ค์ธ๊ฑธ๋ก ์๊ณ ์๋๋ฐ model=models.resnet18(pretraine=True)ํ๋ฉด ๋ชจ๋ธ์์ ์ด๋ ๋ถ๋ถ๋ง ๊ฐ์ ธ์์ ์ด๋๋ถ๋ถ weight๋ฅผ ์ฑ์์ฃผ๋๊ฑด๊ฐ์? ์ด๋ฒ ์์๋ 2๊ฐ์ traget ๊ฐ์ธ๋ฐ์
pytorch๋ฅ๋ฌ๋์ธ๊ณต์ ๊ฒฝ๋งSangwon Jake
ใป
0
277
1
- ๋ฏธํด๊ฒฐ
ResNet ํด๋์ค์ _make_layer ๋ฉ์๋ ๋ถ๋ถ์ ์ค๋ช ์ด ์ดํด๊ฐ ๋์ง ์์ต๋๋ค
์ดํด ๋์ง ์์ผ๋ฉด Resnet์ ๊ตฌ์กฐ๋ ๋ ผ๋ฌธ์ ์ฐพ์๋ณด๋ผ๊ณ ํ์ จ๋๋ฐ ์ ์ด์ make layer๋ถ๋ถ์ด Resnet ๊ตฌ์กฐ์ ์ด๋ ํํธ์ ํด๋นํ๋์ง ์ดํด๊ฐ ์๊ฐ ์ง๋ฌธ๋๋ฆฝ๋๋ค. ๊ฐ๋ฅํ๋ค๋ฉด ํด๋น ๋ด์ฉ์ ๋ํด ์ฐธ๊ณ ํ ๋งํ ๊ธ์ด๋ ๋ ผ๋ฌธ์ ๋ํด ์๋ ค์ฃผ์๋ฉด ๊ฐ์ฌํ๊ฒ ์ต๋๋ค
๋ฅ๋ฌ๋์ธ๊ณต์ ๊ฒฝ๋งpytorch์ฑ๋๊ฒฝ
ใป
0
762
2
- ๋ฏธํด๊ฒฐ
CNN(๊ฐ์์๋ฃ 38 39 ํ์ด์ง ์ง๋ฌธ)
weight sharing ์ค๋ช ํ์ค ๋ ํ์ตํด์ผํ parameter์๋ฅผ ๊ณ์ฐํ๋ฉด์ ๋น๊ตํ์ จ๋๋ฐํ์ตํด์ผํ parameter์ feature Map ๋ํ ๊ณ ๋ คํ์ จ๋๋ฐ feature Map์ ๋ ์ด์ด์์ ์ ๋ ฅ ๋๋ ์ถ๋ ฅ์ด ์๋๊ฐ์?<br
pytorch์ธ๊ณต์ ๊ฒฝ๋ง๋ฅ๋ฌ๋์ ์์ค
ใป
0
219
1
- ๋ฏธํด๊ฒฐ
forward์์ h_t
BasicRNN์ forwardํจ์์์ self.rnn(x, h_0)๋ก๋ถํฐ ๋์จ ์์ํ์ธ x[:,-1,:]๋ฅผ h_t๋ก ์ค์ ํ์ จ๋๋ฐ, ์ฌ๊ธฐ์ [:,-1,:]์ด ๋ฌด์จ ์๋ฏธ์ธ์ง ๋ชจ๋ฅด๊ฒ ์ต๋๋ค. .size()ํจ์๋ฅผ ์ด์ฉํ์ฌ ํ์ธํด๋ดค๋๋ x๊ฐ [10
pytorch๋ฅ๋ฌ๋์ธ๊ณต์ ๊ฒฝ๋ง์ต์ฑ๋น
ใป
0
220
1
- ๋ฏธํด๊ฒฐ
[์ค์ต] MLP๋ฅผ ์ด์ฉํ MNIST ์ซ์๋ถ๋ฅ - ํ ์คํธ ๋ฐ์ดํฐ ์ ์ ๋ผ๋ฒจ ์ ๊ฑฐ
์๋ ํ์ธ์. ์ด์ ์ง๋ฌธ(+ ์ฃผ์ ๋ต๋ณ) ์ ์ฐ๊ฒฐ๋ ์ง๋ฌธ์ ๋๋ค. ํด๋น ๋ฐ์ดํฐ๋ก ํ ์คํธ๋ฅผ ํ๊ณ ์ถ์๋ฐ, ๋ค์ด๋ก๋ ๋ฐ์ ๋ฐ์ดํฐ๋ ๋ผ๋ฒจ์ด ๋ถ์ด์์ด ์ด๋ ค์ธ ๊ฒ ๊ฐ์ต๋๋ค. ์ด ๊ฒฝ์ฐ csv ํ์ผ์ ์ฒซ ์ด(๋ผ๋ฒจ ๋ถ๋ถ)๋ง ์ญ์ ํ๋ฉด ๋
pytorch๋ฅ๋ฌ๋์ธ๊ณต์ ๊ฒฝ๋งํดํํด๋ฒ ๋ฆฌ
ใป
1
242
1
- ๋ฏธํด๊ฒฐ
[์ค์ต] MLP๋ฅผ ์ด์ฉํ MNIST ์ซ์๋ถ๋ฅ - ํ ์คํธ ๋ฐ์ดํฐ ์ ์ ๋ผ๋ฒจ์ด ๋ถ์ด์์ด์
์๋ ํ์ธ์. ๋๋ฆฐ ์ง๋ฌธ ๊ด๋ จํด์ ์ข๋ ์์ธํ ์ค๋ช ํ์ง ๋ชปํ๋ ์ ์ฃ์กํฉ๋๋ค. ์๋์ ๊ฐ์ด ์ถ๊ฐ ์ค๋ช ๋๋ฆฝ๋๋ค. 1) ๊ฐ์๋ช [์ค์ต] MLP๋ฅผ ์ด์ฉํ MNIST ์ซ์๋ถ๋ฅ 2) ์ฌ์ฉํ ์ฝ๋๋ ์๋ ์ฌ์ง๊ณผ ๊ฐ์ต๋๋ค. 3) ์ฒซ๋ฒ์งธ ์ง๋ฌธ์,
์ธ๊ณต์ ๊ฒฝ๋งpytorch๋ฅ๋ฌ๋ํดํํด๋ฒ ๋ฆฌ
ใป
0
410
0
- ๋ฏธํด๊ฒฐ
[์ค์ต] MLP๋ฅผ ์ด์ฉํ MNIST ์ซ์๋ถ๋ฅ - ํ ์คํธ ๋ฐ์ดํฐ ์ ์ ๋ผ๋ฒจ์ด ๋ถ์ด์์ด์
๊ฐ์์ ๋ณด๋ฉด ํ ์คํธ ๋ฐ์ดํฐ ์ ์ ๋ผ๋ฒจ์ด ์๋๋ฐ, ์ ํ ์คํธ ๋ฐ์ดํฐ ์ ์ ๋ผ๋ฒจ์ด ๋ถ์ด์์ด์ ??
pytorch์ธ๊ณต์ ๊ฒฝ๋ง๋ฅ๋ฌ๋ํดํํด๋ฒ ๋ฆฌ
ใป
0
215
1
- ํด๊ฒฐ
[์ค์ต] MLP๋ฅผ ์ด์ฉํ MNIST ์ซ์๋ถ๋ฅ - ํํ๊ฐ ๋ฌ๋ผ์
์๋ ํ์ธ์. ๋์ผํ ๋ฐ์ดํฐ ์ ์ ์ฌ์ฉํ๋ค ์๊ฐํ๋๋ฐ, ๊ฐ์์์ ํ์ธ๋๋ ๋ฐ์ดํฐ ํํ์ ์ ์ ํํ๊ฐ ๋ค๋ฅธ ๊ฒ ๊ฐ์ ๋ฌธ์ ๋๋ฆฝ๋๋ค. ์ด ๋๋ฌธ์ ๋ค์ ๋จ๊ณ์์ ์๋ฌ๊ฐ ๋๋ ๊ฒ ๊ฐ์์์. (์ ๋ ๊ฐ ์ด์ด 1x1 ํํ๋ก ๋์ต๋๋ค) ๊ฐ์
๋ฅ๋ฌ๋pytorch์ธ๊ณต์ ๊ฒฝ๋งํดํํด๋ฒ ๋ฆฌ
ใป
1
477
3
- ๋ฏธํด๊ฒฐ
์ฝ๋ ์ค๋ฅ
์๋ ํ์ธ์. ์์ ์ ๋ฃ๊ณ ์๋ ๋ํ์์ ๋๋ค. ์ฝ๋๋ฅผ ๊ทธ๋๋ก ์ผ๋๋ฐ ์๋ฌ๊ฐ ๋์์. ์์ธ์ ๋ชป์ฐพ๊ฒ ์ต๋๋ค. <img src="https://cdn.inflearn.com/public/files/posts/153f99e7-1575-4e44-90
pytorch๋ฅ๋ฌ๋์ธ๊ณต์ ๊ฒฝ๋งlynn2867
ใป
0
256
1
- ๋ฏธํด๊ฒฐ
RNN ์ค์ต_ cuda ๊ด๋ จ ์ง๋ฌธ ๋๋ฆฝ๋๋ค!
<img src="https://cdn.inflearn.com/public/files/posts/5959103b-2505-4887-a184-efc0360c796e
๋ฅ๋ฌ๋pytorch์ธ๊ณต์ ๊ฒฝ๋งํดํํด๋ฒ ๋ฆฌ
ใป
0
303
1
- ๋ฏธํด๊ฒฐ
torchtext
mac ์ฌ์ฉ์์ ๋๋ค. ์๋์ฝ๋ค ์ค์น ํ, ๊ฐ์ํ๊ฒฝ (inflearn)์ ๋ง๋ค๊ณ , jupyter notebook, torch, torchtext.. ์ค์น๋ฅผ ์๋ฃํ์ต๋๋ค. ๋ฐ์ํ ๋ฌธ์ ๋, jupyter notebook
์ธ๊ณต์ ๊ฒฝ๋ง๋ฅ๋ฌ๋pytorchํดํํด๋ฒ ๋ฆฌ
ใป
0
676
3
- ๋ฏธํด๊ฒฐ
LSTM ์๋ฆฌ๊ฐ ๊ถ๊ธํฉ๋๋ค.
LSTM์ ๊ณต๋ถํ๊ณ ์ง์ ๊ตฌํํด๋ณด๊ณ ๋๋์ ์ ์์ธก ๊ฐ์ด ์ค์ ๊ฐ๋ณด๋ค ํ๋์ฉ ๋ฐ๋ฆฌ๋ ํ์์ด ์๋ ๊ฒ ๊ฐ์ต๋๋ค. LSTM์ ์๋ฆฌ๊ฐ window์์ ์๋ ๋ฐ์ดํฐ๋ค์ ํ์ตํ์ฌ ๋ค์ step์ ๋ํ ์์ธก๊ฐ์ ๋ด๋๋ ์๋ฆฌ๊ฐ ๋ง๋์?
๋ฅ๋ฌ๋์ธ๊ณต์ ๊ฒฝ๋งpytorch๋ฐ์น์ง
ใป
0
344
2
- ํด๊ฒฐ
Autoencoder ๊ณ์ฐ
Autoencoder์ ๋ํ ๋ด์ฉ์ ์ดํด๋ ์ ๋๊ฒ ๊ฐ์ต๋๋ค.๋ ๋์๊ฐ์ Autoencoder ์์์ ์ง์ ๊ณ์ฐํด๋ณด๊ณ ์ถ์๋ฐ, ๊ณ์ฐ ๊ณผ์ ์ ๋ํ ๋ด์ฉ์ด ๊ถ๊ธํฉ๋๋ค.
pytorch์ธ๊ณต์ ๊ฒฝ๋ง๋ฅ๋ฌ๋๋ฐ์น์ง
ใป
0
205
1






