inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

실리콘 밸리 엔지니어와 함께하는 Local LLM 완전 정복 (LM Studio & Ollama & Ollaya)

Open LLM, 왜 지금 반드시 알아야 할까?

지금 첫강의 듣고 있는데요, 필요한 최소사앙은 어떻게 되나요?

해결된 질문

42

사용자27

작성한 질문수 6

0

그냥 직장인이고 취미로 하는건데,
구형 맥미니 정도면 운영가능한가요?
간단하게라도 알려주시면 감사하겠습니다.

인공지능(ai) llm ai-agent

답변 2

0

사용자27

네 설명 감사합니다.

0

미쿡엔지니어

안녕하세요 사용자27님!

구형 맥미니에서도 충분히 로컬 LLM을 실행할 수 있습니다. 다만 맥미니의 칩셋(Intel/M1/M2 등)과 메모리 용량에 따라 실행 가능한 모델과 속도가 달라집니다.

최소한의 권장 사양은 다음과 같습니다.

  • Apple Silicon(M1 이상), RAM 8GB: 1B~3B 정도의 소형 모델부터 시작하는 것을 추천합니다.

  • RAM 16GB: 7B~8B 모델도 양자화 버전(Q4)으로 실행해 볼 수 있습니다.

  • Intel 맥미니: 실행은 가능하지만 속도가 상당히 느릴 수 있어 작은 모델을 추천합니다.

처음 시작하신다면 LM Studio나 Ollama를 설치하고 1B~3B 모델부터 테스트해 보시면 좋겠습니다.

감사합니다.

강사님 강의 더 주세요

0

7

0

env파일이 없어요

0

11

2

<핸즈온 머신러닝 with 사이킷런, 파이토치> 예제 코드 해설 쿠폰관련

0

17

3

npm i -g @openai/codex

0

9

0

강의내용과 클로드화면 불일치

0

12

1

강의순서 문의

0

10

1

프로젝트 만들때

0

9

0

요즘도 mcp 많이 이용하시는 추세인가요?

0

21

0

이제 업데이트는 없는건가요 ㅠ

0

17

0

Codex cloud 사용문의

0

18

0

뭘 따라가야 하는지 잘 모르겠습니다.

0

19

1

Github Collaborator 문의드립니다!!

0

18

1

강의 프롬프트 입력 시 원본을 건들수 없다고 답변합니다.

0

18

1

궁금한점 code-review

0

19

1

3.1강 만나보기 클릭불가능.

0

28

1

56강 프로젝트 초기화 커밋 시 main이 아니라 master라는 칩이 붙습니다.

0

21

2

강의 자료

0

22

1

오랜만에 인사드립니다 강사님

0

22

1

결과에 대한 질문

0

30

2

awesome mcp

0

38

2

강사님 질문이 있는데요.

0

41

1

조금 전에 18강을 들었는데요..

0

50

2

LLM Sampling 설정 관련

0

83

1

선생님 질문이 있어요

0

142

2