MLOps Engineer가 되려면 뭘 쌓아가야 할까요?

작성한 질문수 22

1

안녕하십니까,

지금까지 공부하신 방향을 보면 MLOps 쪽으로 전환하는 데 꽤 좋은 기반을 갖추셨다고 생각합니다.

우선 MLOps Engineer가 되기 위해 Kafka, Airflow, Kubernetes, vLLM 같은 기술을 처음부터 전부 공부해야 한다고 생각하지 않으셔도 됩니다(다만 Docker 사용법은 기본적으로 알고 계셔야 할 것 같습니다 ^^). 실제로는 회사마다 MLOps Engineer의 역할도 상당히 다를 수 있습니다.

더 이상 새로운 것을 배우는 것 보다는 AI 기반으로 서비스를 수행하는 하나의 시스템을 직접 만들어 보는것이 중요하다고 생각합니다. 난이도는 있지만 Kaggle 과 같은 서비스를 제공하는 시스템을 직접 구현해 보거나, 실시간 추천 서비스, 아님 개인 Agent들을 vLLM 기반으로 제공하는 서빙 시스템들을 직접 구현해 보시면 좋을 것 같습니다.

MLOps라는 직군 자체가 AI 기반의 서비스를 직접 구현해본 경험을 갖춘 사람을 찾기 위해서 많은 기술 스택을 요구하고 있는 거라고 생각됩니다. MLOps 직군에서 요구하는 많은 기술 스택을 다 알더라도, 각 기술들이 왜 필요하고, 어떻게 적용되어야 하는지 직접 구현해 보면서 익히지 못한다면 경쟁력이 떨어진다고 생각합니다.

해당 직군은 구현 경험이 중요하므로 대학원 보다는 구현 경험을 쌓을 수 있는 방향으로 움직이시는 게 어떨까 싶습니다. 현재 직장을 다니고 있으시다면 회사내에서 AI Agent 기반의 서비스 구현, LLM 서빙 배포등의 역할을 주도적으로 수행할 수 있는 기회가 주어진다면 반드시 신청하시면 좋을 것 같습니다. 아직 학교에 계시다면, 앞에 말씀 드린 AI 기반의 서비스를 직접 구현해 보면서 포토폴리오를 만들면 좋을 것 같습니다. 너무 어렵게 생각하지 마시고, Codex나 Claude code등을 활용하시면 지금까지 익히신 지식들로 충분히 구축하실 수 있다고 생각합니다.

더 공부가 필요한 부분은 없다고 생각되는데, 아래 사항을 보충적으로 말씀드리면

1. Docker 사용법은 반드시 익혀 두십시요.

2. Agent 및 RAG 구현은 경험해 보시는게 좋을 것 같습니다.

3. Kubenetes를 따로 배우실 필요는 없다고 생각합니다. MLOps 공고에 K8s가 많이 나오는데, 이건 대규모로 서비스하는 회사에서 필요로 하는 것이고, 배우는데 오랜 시간이 걸릴 수 있습니다. 목표로 하시는 회사가 손꼽히는 좋은 회사라면 시간을 투자하실 필요가 생길 수도 있지만, 가능하면 마지막 공부로 미루면 좋을 것 같습니다(개인적으로는 개발, 서비스 배포등을 경험해 보지 않고 K8s를 잘 이해하는 건 무리라고 생각합니다 ^^)

4. vLLM은 따로 공부하실 정도로 범위가 넓지 않습니다. llm 서빙 하시면서 가볍게 적용해보시면 좋을 것 같습니다.

5. 그외에 MLFlow 는 거의 utility라, 배우는데 어렵지 않습니다. 배워도 장점이 될 것 같지 않습니다(솔직히 MLOps하는데 옛날부터 왜 이게 들어가는지 저도 의문입니다)

마지막으로 MLOps 직군중 K8s 기반의 플랫폼 설계 경험을 요구하는 경우들이 있는 것 같습니다. 기본적으로는 Kubeflow를 사용해 봤는지, 아님 k8s 기반에서 분산 학습/시스템 구축/배포/관리 운영등을 해보았는지를 중시하는 공고입니다. 이건 경력직 이직을 위한 공고로 판단됩니다.

앞에서도 말씀드렸지만, 개발/서비스 배포등을 경험해 보지 않고 K8s를 잘 이해하는 건 무리라고 생각합니다. 회사내에서 이런 인프라가 이미 지원되지 않는 환경이라면, 직접 GPU를 K8s 기반에서 콘트롤 하면서 모델 학습, 추론 파이프라인을 구축하면서 학습하기는 어렵습니다(클라우드를 이용해도 멀티 GPU등의 가격적인 부담이 큽니다).

요약드리면, 새로운 공부를 다시 시작하는 것 보다 AI 서비스를 직접 구현해 보시면서 아키텍처와 시스템 구축을 해보시는게 가장 좋을 것 같습니다. Codex나 Claude Code를 잘 활용하신다면 서비스를 구현해 보시면서 MLOps의 역량을 키우시고, 원하시는 분야로 진출할 수 있는 좋은 발판이 될거라 생각됩니다(자신감이 많이 붙으시면 그때 k8s로 영역을 넓히시는 것도 좋을것 같습니다)

감사합니다.

1

안녕하십니까 제가 지금 휴가중이라 노트북을 안가져와서 생각을 정리하고 금요일쯤에 답변 드리겠습니다.

감사합니다

0

안녕하세요, 인프런 AI 인턴입니다. jcy4023님!

MLOps Engineer로 발전하는 과정에 대해 고민하고 계시는군요. MLOps는 머신러닝 모델의 배포, 운영, 관리 등 여러 분야의 지식이 요구되는 포괄적인 역할입니다. 몇 가지 추천드릴 공부 방향과 고려 사항을 공유드리겠습니다.

1. Docker 및 컨테이너화: Docker는 애플리케이션을 컨테이너라는 단위로 포장, 배포, 실행하는 플랫폼입니다. Docker의 기본 개념과 사용법을 익히면, 다양한 환경에서 일관성 있게 애플리케이션을 실행할 수 있습니다.

2. CI/CD 파이프라인 이해: 지속적인 통합 및 배포(CI/CD)의 개념을 이해하고 Jenkins, GitLab CI, GitHub Actions 같은 도구를 사용하여 파이프라인을 설정하는 방법을 공부해보세요.

3. 데이터 파이프라인 구축: 데이터 엔지니어링 및 데이터 파이프라인 구축을 위한 Apache Kafka나 Apache Airflow 같은 기술을 익히면, 데이터 흐름의 자동화 및 관리에 도움이 됩니다. 관련 강의를 통해 실습하면서 기술을 익히세요.

4. 고성능 모델 서빙: vLLM 등을 활용하여 대용량의 모델을 효율적으로 서빙하는 방법을 학습하세요. 이는 FastAPI와의 연계 사용에도 유용합니다.

5. 클라우드 플랫폼의 이해: AWS, GCP, Azure 등의 클라우드 플랫폼에서 제공하는 MLOps 관련 서비스 등을 참고하면, 실제 산업 현장에서의 활용도를 높힐 수 있습니다.

대학원의 경우, 보다 깊이 있는 연구와 이론적 배경을 강화하고 싶다면 하나의 선택지가 될 수 있지만, 현업에서의 실무 능력을 중시한다면 실질적인 프로젝트 경험을 통한 학습이 추천됩니다.

관련 질문 및 답변을 통해 더 많은 정보를 얻고자 한다면 다음 링크를 참고하세요:
- MLOps 관련 MLFLow 및 Databricks 모델 서빙
- 간단한 모델 서빙용으로 FastAPI를 공부하려고 합니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.