์ฑ„๋„ํ†ก ์•„์ด์ฝ˜

Advanced concepts for Deep learning

์ตœ๊ทผ ๋”ฅ๋Ÿฌ๋‹ ํŠธ๋ Œ๋“œ๋ฅผ ๋”ฐ๋ผ์žก์„ ์ˆ˜ ์žˆ๋„๋ก, ๋”ฅ๋Ÿฌ๋‹์˜ ํš๊ธฐ์ ์ธ ์ง„๋ณด ๊ณผ์ • ๋งฅ๋ฝ์— ๋Œ€ํ•ด์„œ ์•Œ์•„๋ด…๋‹ˆ๋‹ค.

(5.0) ์ˆ˜๊ฐ•ํ‰ 6๊ฐœ

์ˆ˜๊ฐ•์ƒ 425๋ช…

๋‚œ์ด๋„ ์ค‘๊ธ‰์ด์ƒ

์ˆ˜๊ฐ•๊ธฐํ•œ ๋ฌด์ œํ•œ

๊ฐœ๋…์ •๋ฆฌ
๊ฐœ๋…์ •๋ฆฌ
aiํŠธ๋ Œ๋“œ
aiํŠธ๋ Œ๋“œ
์ด๋ก  ์ค‘์‹ฌ
์ด๋ก  ์ค‘์‹ฌ
๊ฐœ๋…์ •๋ฆฌ
๊ฐœ๋…์ •๋ฆฌ
aiํŠธ๋ Œ๋“œ
aiํŠธ๋ Œ๋“œ
์ด๋ก  ์ค‘์‹ฌ
์ด๋ก  ์ค‘์‹ฌ
Thumbnail

๋จผ์ € ๊ฒฝํ—˜ํ•œ ์ˆ˜๊ฐ•์ƒ๋“ค์˜ ํ›„๊ธฐ

๋จผ์ € ๊ฒฝํ—˜ํ•œ ์ˆ˜๊ฐ•์ƒ๋“ค์˜ ํ›„๊ธฐ

5.0

5.0

๋˜˜๋˜˜์ด์Šค๋จธํ”„

100% ์ˆ˜๊ฐ• ํ›„ ์ž‘์„ฑ

๊ท€ํ•œ ๊ฐ•์˜ ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค. ์ƒˆํ•ด ๋ณต ๋งŽ์ด ๋ฐ›์œผ์„ธ์š”.

5.0

์ฟ ์นด์ด๋“ 

20% ์ˆ˜๊ฐ• ํ›„ ์ž‘์„ฑ

๋”ฅ๋Ÿฌ๋‹์— ๋Œ€ํ•ด ์•Œ ์ˆ˜ ์žˆ์—ˆ๋˜ ์‹œ๊ฐ„์ด์—ˆ์Šต๋‹ˆ๋‹ค. ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค!

5.0

Jang Jaehoon

44% ์ˆ˜๊ฐ• ํ›„ ์ž‘์„ฑ

์™€! ์–ด๋ ต๋„ค์š”! ๊ทธ๋ž˜๋„ ๋ฌด์–ธ๊ฐ€ ์–ป์–ด๊ฐ€๊ธฐ ์œ„ํ•ด ๋…ธ๋ ฅํ•ด ๋ณด๊ฒ ์Šต๋‹ˆ๋‹ค!

์ˆ˜๊ฐ• ํ›„ ์ด๋Ÿฐ๊ฑธ ์–ป์„ ์ˆ˜ ์žˆ์–ด์š”

  • ๋”ฅ๋Ÿฌ๋‹์—์„œ์˜ 'ํŠธ๋ Œ๋“œ' ๊ฐœ๋…

  • ๋”ฅ๋Ÿฌ๋‹์ด ์–ด์งธ์„œ ํ˜„๋Œ€์— ์ด๋Ÿฐ ํ˜•ํƒœ๋กœ ๋‚˜์˜จ ๊ฒƒ์ธ์ง€, '์—ฐ๊ตฌ ๋งฅ๋ฝ'์— ๋Œ€ํ•œ ์ดํ•ด

Advanced concepts for Deep learning

"SOTA ๋…ผ๋ฌธ๊นŒ์ง€ ๋ดค๋Š”๋ฐ ์ด์ œ ๋ญํ•˜์ฃ ?"

"Tensorflow๋ฅผ ์จ๋ณด์…จ๋‹ค๊ณ ์š”? ์ œ 16์‚ด ๋”ธ๋„ Tensorflow๋กœ ๋จธ์‹  ๋Ÿฌ๋‹ ๋ชจ๋ธ์„ ๋งŒ๋“ค์ค„ ์•Œ์ฃ ."

"๊ตญ์ œํ•™์ˆ ๋Œ€ํšŒ ๋ฐœํ‘œ๋ฅผ ๋“ค์–ด๋ณด๋ผ๊ณ ์š”? ๊ทธ๊ฑธ ๋„๋Œ€์ฒด ์–ด๋–ป๊ฒŒ?"

์ฐจ์ด์˜ ํ•ต์‹ฌ์€ ๋ฐ”๋กœ "๋”ฅ๋Ÿฌ๋‹ ์—ฐ๊ตฌ์— ๋Œ€ํ•œ Follow-up ๋Šฅ๋ ฅ"

์ œ์•„๋ฌด๋ฆฌ ๋”ฅ๋Ÿฌ๋‹ ์—ฐ๊ตฌ๊ฐ€ ๋งค์šฐ ๋น ๋ฅด๊ฒŒ ๋ฐœ์ „ํ•œ๋‹ค ํ•ด๋„, ์ตœ์‹  ์—ฐ๊ตฌ๋Š” ๊ธฐ์กด์— ์ •์˜๋œ ๋ฌธ์ œ๋“ค์„ ๊ธฐ๋ฐ˜์œผ๋กœ ํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๋Ÿฐ ๋ฌธ์ œ๋“ค์„ ํ…Œ๋งˆ๋ณ„๋กœ ์ž˜ ์ดํ•ดํ•œ๋‹ค๋ฉด, ์ตœ์‹  ์—ฐ๊ตฌ์˜ ๊ฐ€์น˜, ์˜์˜๋ฅผ ๋ฐ”๋กœ ์บ์น˜ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋”ฐ๋ผ์„œ ์ด๋ฒˆ ๊ฐ•์˜๋ฅผ ํ†ตํ•ด ์ตœ๊ทผ ๋”ฅ๋Ÿฌ๋‹์˜ ํš๊ธฐ์ ์ธ ์ง„๋ณด์—๋Š” ์–ด๋–ค ์ ์ด ํ•ต์‹ฌ์ด์—ˆ๋Š”์ง€, ๋˜ ํ˜„์žฌ ๋”ฅ๋Ÿฌ๋‹ ํ•™๊ณ„/์‚ฐ์—…๊ณ„์—๊ฒŒ ์ฃผ์–ด์ง„ ๋‚œ์ œ๋Š” ๋ฌด์—‡์ธ์ง€ ์ง๊ด€์ ์œผ๋กœ ์ „๋‹ฌํ•˜๊ณ ์ž ํ•ฉ๋‹ˆ๋‹ค.

์ฐธ๊ณ ํ•ด์ฃผ์„ธ์š”! ๐Ÿ‘‰

๋ณธ ๊ฐ•์˜๋Š” 2023๋…„๊นŒ์ง€์˜ ์—ฐ๊ตฌ ํŠธ๋ Œ๋“œ๋ฅผ ๋‹ค๋ฃจ๊ณ  ์žˆ์œผ๋ฉฐ, Generative models ์ฑ•ํ„ฐ๋ถ€ํ„ฐ ์ˆœ์ฐจ์ ์œผ๋กœ ์—…๋กœ๋“œ ์˜ˆ์ •์ž…๋‹ˆ๋‹ค.

๊ฐ•์˜ ์ปค๋ฆฌํ˜๋Ÿผ ๊ตฌ์„ฑ

Representation learning

  • Representation learning์ด ๋“ฑ์žฅํ•˜๊ฒŒ ๋œ ๋ฐฐ๊ฒฝ

  • ํ•™์Šต ๊ธฐ๋ฒ•์„ ํšจ๊ณผ์ ์œผ๋กœ ๋ฐœ์ „์‹œํ‚ค๊ธฐ ์œ„ํ•œ ์š”์†Œ

  • Transferability, Uniformity์™€ ๊ฐ™์€ ์ถ”์ƒ์ ์ด๊ณ  ๋‚œํ•ดํ•œ ๊ฐœ๋…์— ๋Œ€ํ•œ ์ดํ•ด


Generative models

  • Generative models์˜ ๋ฐœ์ „ ๋‹จ๊ณ„ ๋ฐ ๋‹ด๋ก ์˜ ๋ฐœ์ „ ๊ณผ์ •

  • Large Language Model์ด ๋“ฑ์žฅํ•˜๊ฒŒ ๋œ ๋ฐฐ๊ฒฝ


Knowledge in deep models

  • LLM์— ๊ณ„์†ํ•ด์„œ ์š”๊ตฌ๋˜๋Š” ๋‘ ๊ธฐ์ค€, Interpretability์™€ Knowledge์˜ ๊ตฌ๋ถ„

  • Knowledge์™€ Memory์˜ ๊ด€๊ณ„


Adversarial learning

  • Adversarial gradient์˜ ํŠน์„ฑ

  • Gradient, Representation, Model ๊ฐ ์š”์†Œ๊ฐ„์˜ adversarialํ•œ ์ƒํ˜ธ์ž‘์šฉ

์ด ๊ฐ•์˜๋ฅผ ๋งŒ๋“  ์‚ฌ๋žŒ : ์ง€์Šนํ˜„

  • ๊ฐ€์งœ์—ฐ๊ตฌ์†Œ ํ™œ๋™ ๋“ฑ ์ง€์‹๊ณต์œ ์˜ ๊ฐ€์น˜๋ฅผ ์ง€ํ–ฅํ•˜์—ฌ, ์ง๊ด€์ ์ด๋ฉด์„œ ์ •ํ™•ํ•œ ์ปจ์…‰์„ ์ „๋‹ฌํ•˜๊ณ ์ž ํ•˜๋Š” ๋‹ค์–‘ํ•œ ์„ธ๋ฏธ๋‚˜ ๊ฒฝํ—˜์„ ํ•ด์™”์Šต๋‹ˆ๋‹ค.

  • SIGUL 2024 workshop Program Committee, ACL 2023 emergency reviewer, EMNLP 2023 Invited reviewer, ์ •๋ณด๊ณผํ•™ํšŒ๋…ผ๋ฌธ์ง€ ์ถœํŒ์ด๋ ฅ ๋“ฑ ๋‹ค์–‘ํ•œ ์—ฐ๊ตฌ ๋ฐ ์‹ค๋ฌด์ด๋ ฅ์ด ์žˆ์Šต๋‹ˆ๋‹ค.

  • ์ข€ ๋” ์ƒ์„ธํ•œ ๋‚ด์šฉ์€ notion resume๋ฅผ ์ฐธ๊ณ  ๋ฐ”๋ž๋‹ˆ๋‹ค.

์ด๋Ÿฐ ๋ถ„๋“ค๊ป˜
์ถ”์ฒœ๋“œ๋ ค์š”

ํ•™์Šต ๋Œ€์ƒ์€
๋ˆ„๊ตฌ์ผ๊นŒ์š”?

  • ๋”ฅ๋Ÿฌ๋‹ ์ตœ์ „์„ ์—์„œ ๋‹ค๋ฃจ๋Š” ์ด์Šˆ๋“ค์ด ๊ถ๊ธˆํ•˜์‹  ๋ถ„

  • ์Šฌ์Šฌ ํ•œ๊ธ€๋กœ ๊ตฌ๊ธ€๋งํ•œ ์ž๋ฃŒ๋“ค์ด ์˜์‹ฌ์Šค๋Ÿฌ์›Œ์ง€์‹œ๋Š” ๋ถ„

์„ ์ˆ˜ ์ง€์‹,
ํ•„์š”ํ• ๊นŒ์š”?

  • Stanford/MIT OCW series์ค‘ ์ตœ์†Œ ํ•œ course๋ฅผ ์ „๋ถ€ ๊ณต๋ถ€ํ•˜์‹  ๋ถ„

  • ํ˜น์€ Coursera, ์œ ๋ฐ๋ฏธ ๋“ฑ ์ „์‚ฐ ํ•™๊ต๋ฒ•์ธ์˜ ํ•™์œ„๊ณผ์ •์„ ์ด์ˆ˜ํ•˜์‹ ๋ถ„

  • ์„ ํ˜•๋Œ€์ˆ˜, ์ˆ˜๋ฆฌํ†ต๊ณ„ํ•™, ๋ฏธ์ ๋ถ„ํ•™ ์— ๋Œ€ํ•œ ๊ธฐ๋ณธ์ ์ธ ์ดํ•ด

์•ˆ๋…•ํ•˜์„ธ์š”
์ง€์Šนํ˜„์ž…๋‹ˆ๋‹ค.

2,901

๋ช…

์ˆ˜๊ฐ•์ƒ

93

๊ฐœ

์ˆ˜๊ฐ•ํ‰

1

๊ฐœ

๋‹ต๋ณ€

4.4

์ 

๊ฐ•์˜ ํ‰์ 

4

๊ฐœ

๊ฐ•์˜

์•ˆ๋…•ํ•˜์„ธ์š”, ๋ฐ”์ž„์ปจ์„คํŒ…๊ทธ๋ฃน์—์„œ IT ์ปจ์„คํ„ดํŠธ๋กœ ์ผํ•˜๊ณ  ์žˆ๋Š” ์ง€์Šนํ˜„์ด๋ผ๊ณ  ํ•ฉ๋‹ˆ๋‹ค.

์ƒ์„ธํ•œ ์†Œ๊ฐœ๋Š” ๋‹ค์Œ ๋งํฌ ์ฐธ๊ณ  ๋ฐ”๋ž๋‹ˆ๋‹ค.

https://inf.run/rzZVT

 

๋”๋ณด๊ธฐ

์ปค๋ฆฌํ˜๋Ÿผ

์ „์ฒด

18๊ฐœ โˆ™ (3์‹œ๊ฐ„ 4๋ถ„)

ํ•ด๋‹น ๊ฐ•์˜์—์„œ ์ œ๊ณต:

์ˆ˜์—…์ž๋ฃŒ
๊ฐ•์˜ ๊ฒŒ์‹œ์ผ: 
๋งˆ์ง€๋ง‰ ์—…๋ฐ์ดํŠธ์ผ: 

์ˆ˜๊ฐ•ํ‰

์ „์ฒด

6๊ฐœ

5.0

6๊ฐœ์˜ ์ˆ˜๊ฐ•ํ‰

  • ๊น€์Šน๋ฏผ๋‹˜์˜ ํ”„๋กœํ•„ ์ด๋ฏธ์ง€
    ๊น€์Šน๋ฏผ

    ์ˆ˜๊ฐ•ํ‰ 30

    โˆ™

    ํ‰๊ท  ํ‰์  4.8

    5

    33% ์ˆ˜๊ฐ• ํ›„ ์ž‘์„ฑ

    • ๋˜˜๋˜˜์ด์Šค๋จธํ”„๋‹˜์˜ ํ”„๋กœํ•„ ์ด๋ฏธ์ง€
      ๋˜˜๋˜˜์ด์Šค๋จธํ”„

      ์ˆ˜๊ฐ•ํ‰ 868

      โˆ™

      ํ‰๊ท  ํ‰์  5.0

      5

      100% ์ˆ˜๊ฐ• ํ›„ ์ž‘์„ฑ

      ๊ท€ํ•œ ๊ฐ•์˜ ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค. ์ƒˆํ•ด ๋ณต ๋งŽ์ด ๋ฐ›์œผ์„ธ์š”.

      • ์ฟ ์นด์ด๋“ ๋‹˜์˜ ํ”„๋กœํ•„ ์ด๋ฏธ์ง€
        ์ฟ ์นด์ด๋“ 

        ์ˆ˜๊ฐ•ํ‰ 507

        โˆ™

        ํ‰๊ท  ํ‰์  5.0

        5

        20% ์ˆ˜๊ฐ• ํ›„ ์ž‘์„ฑ

        ๋”ฅ๋Ÿฌ๋‹์— ๋Œ€ํ•ด ์•Œ ์ˆ˜ ์žˆ์—ˆ๋˜ ์‹œ๊ฐ„์ด์—ˆ์Šต๋‹ˆ๋‹ค. ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค!

        • ํ…Œ๋””๋‹˜์˜ ํ”„๋กœํ•„ ์ด๋ฏธ์ง€
          ํ…Œ๋””

          ์ˆ˜๊ฐ•ํ‰ 26

          โˆ™

          ํ‰๊ท  ํ‰์  5.0

          5

          100% ์ˆ˜๊ฐ• ํ›„ ์ž‘์„ฑ

          • ์ตœ๋ณ‘์šฉ๋‹˜์˜ ํ”„๋กœํ•„ ์ด๋ฏธ์ง€
            ์ตœ๋ณ‘์šฉ

            ์ˆ˜๊ฐ•ํ‰ 3

            โˆ™

            ํ‰๊ท  ํ‰์  3.7

            5

            100% ์ˆ˜๊ฐ• ํ›„ ์ž‘์„ฑ

            ์ง€์Šนํ˜„๋‹˜์˜ ๋‹ค๋ฅธ ๊ฐ•์˜

            ์ง€์‹๊ณต์œ ์ž๋‹˜์˜ ๋‹ค๋ฅธ ๊ฐ•์˜๋ฅผ ๋งŒ๋‚˜๋ณด์„ธ์š”!

            ๋น„์Šทํ•œ ๊ฐ•์˜

            ๊ฐ™์€ ๋ถ„์•ผ์˜ ๋‹ค๋ฅธ ๊ฐ•์˜๋ฅผ ๋งŒ๋‚˜๋ณด์„ธ์š”!

            ๋ฌด๋ฃŒ