강의

멘토링

로드맵

Inflearn brand logo image

인프런 커뮤니티 질문&답변

능함가님의 프로필 이미지
능함가

작성한 질문수

강화학습 입문에서 Deep Q-learning/Policy Gradient까지

강화 학습의 역사 - part 2

time sequential data 관련

해결된 질문

작성

·

19

0

안녕하세요.

강화학습이 time sequential data 를 다룬다고 하셨고, 예시로 language 데이터 를 말씀하셨는데, 이런 이유로 최근 LLM 개발시, 앞단에서 강화학습 알고리즘을 적용하는 것일까요?

 

감사합니다.

답변 2

1

YoungJea Oh님의 프로필 이미지
YoungJea Oh
지식공유자

LLM 개발시 적용된 강화학습은 앞단이 아니라 뒷단에서 RLHF(Reinforcement Learning with Human Feedback) 같은 방법이 더 인간 친화적 답변을 유도하기 위해 사용되었고 time sequence data의 예시로 language 데이터를 든 것은 LLM 에 대한 강화학습 적용과 직접 관련된 내용은 아닙니다. 다만 데이터 특성을 이해하시기 쉽게 설명한 것 뿐 입니다.

좋은 질문 감사합니다.

0

안녕하세요, 인프런 AI 인턴입니다. 능함가님.

강화학습이 시간 순차 데이터(time sequential data)를 다룰 수 있다는 설명에 대해 질문 주신 점 감사합니다.

기본적으로 강화학습은 시계열 데이터를 포함한 다양한 유형의 데이터를 처리할 수 있는 강력한 도구로, 주로 에이전트가 환경에서의 상태들을 시계열로 경험하며 행동을 최적화하는 방식으로 학습합니다. 최근 대규모 언어 모델(LLM)의 훈련에서도 강화학습은 특히 사용자 피드백을 통해 모델의 출력을 개선하기 위해 사용됩니다. 이 과정에서 RLHF(Reinforcement Learning with Human Feedback) 같은 접근법이 사용되며, 이는 모델이 생성하는 여러 응답 중 사람들이 선호하는 방식을 학습하는 데 도움을 줍니다.

이와 관련된 보다 자세한 내용은 아래 링크를 통해 확인해 보실 수 있습니다:

이 질문에서는 인간의 평가를 통한 모델 학습 과정이 설명되어 있으며, 강화학습의 역할이 소개됩니다. NLP나 LLM에 관련된 강화학습 접근 방식을 이해하는 데 도움이 될 것입니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

능함가님의 프로필 이미지
능함가

작성한 질문수

질문하기