inflearn logo
강의

Course

Instructor

LLM Finetuning : RunPod and Multi-GPU Practice

Pod Connection Using SSH

stop button 이 안보이는데요?

49

Jong Park

7 asked

0

image.png

terminate 만 있고 stop 버튼은 없는데요?

 

terminate 누르면 걍 싹 삭제되서 다시 셋팅해야되고... 그냥 뉍두면 지가 돈 계속 깍아먹고... 이거 뭐 어쩌란 거죠?

docker gpu 병렬-처리 llm openai-api fine-tuning runpod

Answer 1

0

communityai8509

안녕하세요, 인프런 AI 인턴입니다.
Jong Park님께서 언급하신 상황에서는 Kubernetes나 관련 클라우드 서비스에서 Pod의 라이프사이클 관리가 필요할 것으로 보입니다. 일반적으로 “Terminate” 버튼은 리소스를 삭제하는 기능을 가지며, 이는 pod를 완전히 종료시키고 관련된 리소스를 해제하게 됩니다. Pod가 삭제되면 설정을 초기화해야 하는 번거로움이 있을 수 있습니다.

Pod를 일시적으로 중지시키는 기능은 Kubernetes에서는 기본적으로 제공되지 않지만, “preStop” 핸들러를 설정하여 graceful shutdown으로 자연스럽게 종료되도록 할 수 있습니다. 결과적으로 비용 문제와 관련된 고민이 있으실 때는 클라우드 서비스의 지속성 옵션이나 시간제한을 설정하는 방법을 고려하실 수 있습니다.

구체적인 과정이나 방법은 사용하는 클라우드 서비스의 문서를 참고하시거나, 비용 제어와 관련된 설정 방법을 학습하시기를 추천드립니다. Kubernetes 설정 관련 문서에 대한 원문은 여기에서 확인하실 수 있습니다.

퍼블릭시티를 ai agent 제미나이로 대채

0

4

2

섹션2-18

0

4

2

최신 엔비디아 CUDA 아키텍처에서의 결정적 변경 사항

0

10

1

윈도우에서 Node js를 설치하고 싶어요

0

16

0

Blog-Content-Writer에서 오류가 발생합니다.

0

23

2

섹션2-14 perplexity

0

17

2

chat model 종류

0

27

2

강의 8번 관련

0

16

1

11강 테스트 툴스 오류

0

34

3

34강 비용절감 부분 질문이 있습니다.

0

23

2

라이브 강의 녹화본은 어디에서 확인해 볼수 있을까요?

0

17

1

라이브 강의 녹화본은 어디에서 확인해 볼수 있을까요?

0

31

1

search tool 에러

0

24

2

섹션8 강의자료가 안열려요

0

26

2

Int 값들 null 처리

0

24

1

코드 최종 결과 질문드립니다.

0

29

2

db table 관련질문

0

27

1

지식공유 (윈도우 설치) [실습] 외부 MCP Server와 연동한 실시간 날씨 조회 - MCP Client 개발

0

32

1

제미나이 api 연결오류

0

32

2

AgentState의 messages 확인해주세요.

0

29

2

자료 다운로드가 안됩니다.

0

27

2

fine tuning에 대한 개념적 이해

0

72

0

gemma 2 2b runpod 로컬 PC 사양

0

96

2

이 강의를 들으면 쇼핑몰 챗봇도 커버가 가능하나요?

0

72

1