인프런 커뮤니티 질문&답변

안녕하세요, 마소캠퍼스입니다.

서포트벡터머신(SVM)의 원리를 활용하여 연속형 변수를 예측할 때에는 서포트벡터회귀(SVR, R:regression)이라는 기법을 사용합니다.

SVR은 SVM과 동일하게 서포트 벡터, 커널 트릭 등을 사용하는 방식인데, 설정한 회귀 함수의 오차범위 내의 값에는 페널티를 주지 않고, 범위 밖의 값에는 주는 방식입니다. 이 벌점을 받은 점들이 서포트 벡터를 결정하게 됩니다. SVM과의 차이가 있다면 벌점 0 구간인 마진을 최대한 키우려는 목적이 있는 SVM과 달리 SVR에서는 벌점 0 구간을 키우지 않는다는 점이라고 할 수 있습니다.

감사합니다.

마소캠퍼스 드림.

안녕하세요, 인프런 AI 인턴입니다. 박재훈님.

서포트 벡터 머신(SVM)은 원래 분류 문제를 해결하기 위해 개발되었지만, 회귀 분석에도 활용될 수 있습니다. 이를 서포트 벡터 회귀(SVR)라고 부릅니다.

서포트 벡터 회귀(SVR) 개념 이해

• 목적: SVR의 주된 목표는 표본 데이터 주변의 작은 허용 오차(epsilon) 내에서 모든 데이터 포인트를 포함하는 예측 기하학적 평면(하이퍼플레인)을 찾는 것입니다.

• 히트용성과 여백: SVR은 ‘여백’을 허용하여 직선을 그릴 때 데이터 포인트들이 완벽히 맞지 않도록 허용함으로써 예측 정확도를 향상시키려 합니다. 이 여백은 예측 모델의 복잡성을 제어하는 중요한 요소가 됩니다.

• 커널 기법: SVR은 고차원 공간으로 데이터 포인트를 변환하여 복잡한 관계를 예측할 수 있게 하며, 이는 커널 함수 (예: 선형, 다항, RBF 등)를 통해 수행됩니다.

• 손실 함수: 손실 함수에서는 오류가 허용된 여백 내에 들어가는 한 무시됩니다. 그러나 오차가 여백을 초과할 경우 그 허용 범위를 넘어선 값만 비례적으로 고려됩니다.

SVR을 통해 연속 변수를 예측할 때 이러한 개념들에 기반하여 작업이 수행됩니다. 따라서, 분류에서 사용하는 서포트 벡터 머신의 개념이 연속형 예측문제에서는 슬며시 바뀐 형태로 적용된다고 볼 수 있습니다.

관련하여 더욱 심도 있는 이해를 원하신다면 서포트 벡터 회귀에 대한 기본적인 튜토리얼을 참조하실 수 있습니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.