inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

직관적으로 이해하는 딥러닝 트랜스포머

RNN 소개

state

147

주으니

작성한 질문수 2

0

안녕하세요! 강의에서 설명해주시는 state가 은닉층 하나를 의미하는건지 궁금합니다:)

딥러닝 attention-model transformer

답변 2

1

코드없는 프로그래밍

안녕하세요.
RNN(Recurrent Neural Network)에서 내부 상태(internal state)는 네트워크의 핵심 요소입니다. 내부 상태는 일반적으로 은닉 상태(hidden state)라고 불리며, 은닉층의 일부로 볼 수 있습니다.

RNN의 내부 상태는 다음과 같은 특징을 가집니다:

  1. 시간적 정보 유지: 내부 상태는 이전 시점의 정보를 저장하고 다음 시점으로 전달합니다. 이를 통해 RNN은 시퀀스 데이터의 시간적 의존성을 모델링할 수 있습니다.

  2. 메모리 역할: 내부 상태는 네트워크의 메모리로 작용하여 과거 입력의 정보를 요약해 저장합니다.

  3. 재귀적 연결: 내부 상태는 자기 자신에게 피드백되는 재귀적 연결을 통해 갱신됩니다. 즉, 현재 시점의 상태는 이전 시점의 상태와 현재 입력에 의해 결정됩니다.

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다.
주으니님, 딥러닝 트랜스포머 강의에서 사용되는 ‘state’라는 용어는 문맥에 따라 다르게 사용될 수 있습니다. 일반적으로 ‘state’는 뉴럴 네트워크의 특정 지점에서의 상태를 의미할 수 있으며, 이는 입력 디코딩 또는 인코딩 과정의 은닉층(hiddens state)을 포함할 수 있습니다. 트랜스포머 구조에서는 특히 주목 메커니즘(attention mechanism)의 컨텍스트 속에서 ‘state’라는 용어가 자주 사용됩니다. 더 정확한 정보는 강의 내용 및 제공된 자료를 참조하시거나 강의를 담당하시는 지식공유자님에게 구체적인 설명을 요청해 보시는 것이 좋습니다.

강의 관련 문의는 수강 전 문의 게시판에서 확인할 수 있습니다. 추가 궁금한 점이 있다면, 이 게시판을 통해 지식공유자님에게 직접 질문을 남기는 것도 추천드립니다.

감사합니다!

강의 업로드 일정

0

41

1

강의에서 실행하는 데이터(csv파일)은 어디서 다운받나요?

1

42

2

<핸즈온 머신러닝 with 사이킷런, 파이토치> 챌린지 쿠폰 관련 문의드립니다

0

47

1

"핸즈온 머신러닝 with 사이킷런, 파이토치 예제 코드 해설" 쿠폰

0

44

4

"핸즈온 머신러닝 with 사이킷런, 파이토치 예제 코드 해설" 쿠폰

0

42

2

강사님 강의 자료와 코드 부탁드립니다.

0

37

1

"핸즈온 머신러닝 with 사이킷런, 파이토치 예제 코드 해설" 쿠폰

0

51

3

전체 과정에 대한 질문입니다.

1

52

1

음성/자막이 이전 강의 것이 나옵니다.

0

35

1

강사님 강의 더 주세요

1

45

1

<핸즈온 머신러닝 with 사이킷런, 파이토치> 예제 코드 해설 쿠폰관련

0

54

3

오랜만에 인사드립니다 강사님

1

49

1

엔비디아, 테슬라, 등등 최근에 많이 오른 주식들 accuracy이슈

1

66

2

밴티지api 막혀서 공매도 잔고설정 으로 다시 로직 설정한 강의에 대해서.

1

71

1

run.py 실행하니 아예 전체다 돌아가요 코드가

1

56

2

run.py 실행시키면, 자동으로 바로 경제 지표 데이터를 수집해요

1

53

2

확통 강의 개강일

1

77

1

터보퀀트(예정)

0

56

1

안녕하세요 강사님

1

79

1

[시험 준비] AICE Associate 단기간 합격을 위한 모의고사 활용 방법 문의

2

81

1

19강 감정분석 강의처럼 api 돌렸는데

1

96

1

완독 챌린지 도서 인정 방법에 대한 문의

0

90

2

모듈

0

134

1

Transformer Decoder 강의에서 "MaskedMultihadAttention"클래스 질문

0

180

1