inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

묻고 답해요

176만명의 커뮤니티!! 함께 토론해봐요.

40강 Multi GPU 필요성 설명이 두번 나오는 것 같아요

미해결

AI 마스터를 위한 LLM 아키텍처 이해와 GPU 활용전략

모델 배포 방안 쪽 Tensor Parallelism과 Pipeline Parallelism 설명이 7분 30초 기준 한번 더 설명하시는 것 같아요. 판서는 살짝 다르지만 동일한 내용과 설명인 것 같아서 글 남겨봅니다 감사합니다. 잘 보고 있어요

  • gpu
  • attention-model
  • 인공지능(ai)
  • transformer
  • llm
chongin12 댓글 2 좋아요 0 조회수 100

There are no longer any instances available with the requested specifications. Please refresh and try again.

해결됨

AI 마스터를 위한 LLM 아키텍처 이해와 GPU 활용전략

안녕하세요 선생님. 강의 잘 듣고 있습니다. Runpod 옵션에 대해서 최신 사항을 갱신해야 될 것 같아요ㅠㅠ 만들어진 지 얼마 안된 강의임에도 불구하고 현재 Runpod 에서 CUDA versions 12.8 기준으로 선택할 수 있는 GPU 선택지가 거의 없습니다.. 이유는 모르겠으나 RTX 4090, 5090 으로 생성 하려고 해도 아래와 같은 경고문만 뜨네요. 하는 수 없이 RTX PRO 6000 WK 으로 선택해서 진행 중입니다. 어제는 RTX 5080 이 선택 가능하길래, 이걸로 진행했다가 오늘 아침에 다시 restart하니까 에러가 뜨더라고요.. ps. torch.OutOfMemoryError: CUDA out of memory. Tried to allocate 394.00 MiB. GPU 0 has a total capacity of 15.48 GiB of which 367.06 MiB is free. Including non-PyTorch memory, this process has 15.11 GiB memory in use. Of the allocated memory 14.24 GiB is allocated by PyTorch, and 501.88 MiB is reserved by PyTorch but unallocated. If reserved but unallocated memory is large try setting PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True to avoid fragmentation. See documentation for Memory Management (https://pytorch.org/docs/stable/notes/cuda.html#environment-variables) 선생님 말씀대로 24GB 이상으로 골라야 하니,RTX 5080(16 GB VRAM)는 안되네요 ㅋㅋㅋ

  • gpu
  • attention-model
  • 인공지능(ai)
  • transformer
  • llm
logt 댓글 2 좋아요 0 조회수 182

버전에 3.11이랑 3.11.X 랑 차이가 있나요?

미해결

AI 에이전트로 구현하는 RAG 시스템(w. LangGraph)

버전에 3.11이랑 3.11.X 랑 차이가 있나요? 1:22에 나옵니다.

  • llm
  • langchain
  • rag
  • ai-agent
  • langgraph
박해용 댓글 1 좋아요 0 조회수 98

왜 파이썬 버전을 같게 해야하는가?

미해결

AI 에이전트로 구현하는 RAG 시스템(w. LangGraph)

00:50 파이썬 버전을 왜 같은 걸로 해야하나요? 실습은 같은 버전으로 할 것입니다. 그냥 단순 호기심입니다. 에러가 나나요?

  • llm
  • langchain
  • rag
  • ai-agent
  • langgraph
박해용 댓글 3 좋아요 0 조회수 129

poetry 설정을 어떻게 해야하나요?

미해결

AI 에이전트로 구현하는 RAG 시스템(w. LangGraph)

실슬을 위한 환경 설정 방법 2번째 강의 0:24에서 어디 터미널인가요? 맥 os 사용하는데 그냥 터미널 열고 poetry new langgraph_agent 라고 적으면 되나요

  • llm
  • langchain
  • rag
  • ai-agent
  • langgraph
박해용 댓글 5 좋아요 0 조회수 176

강의 수강 순서

미해결

입문자를 위한 LangChain 기초 — v1.0+ 업데이트

안녕하세요. LLM과 랭체인에 대해 처음으로 공부해보고자 하는 학생입니다. 수강하려보니 기존 v0.3강의가 백업이 되어있는데, 섹션7 기존 강의들을 보고 섹션1부터 수강하는게 좋을까요? 아니면 순서대로 듣거나 섹션7을 제외하고 들어도 될까요? 좋은 강의 공유해주셔서 감사드립니다.

  • python
  • llm
  • langchain
  • rag
  • ai-agent
다랑어치킨 댓글 1 좋아요 0 조회수 126

import 오류

미해결

모두를 위한 대규모 언어 모델 LLM(Large Language Model) Part 2 - 랭체인(LangChain)으로 나만의 ChatGPT 만들기

ipynb 노트북파일에 있는 import 경로가 예전 경로여서 대부분 오류가 납니다. 업데이트되면 좋을것같아요. import 문 고치느라 힘드네요

  • chatgpt
  • llm
  • langchain
이민기 댓글 1 좋아요 0 조회수 67

온톨로지 활용

미해결

RAG를 활용한 LLM Application 개발 (feat. LangChain)

온톨로지 구성해서 활용하는 방법도 궁금합니다

  • vector-database
  • llm
  • langchain
  • rag
  • openai-api
ClA 댓글 2 좋아요 0 조회수 129

질문있는데요.. vLLM은 말씀하신 사양에 적용이되나요?

해결됨

AI 마스터를 위한 LLM 아키텍처 이해와 GPU 활용전략

vLLM은 강의소개 pc사양에 적용이되나요? GPU가 제공되는 모델만 되지않는지? 일반 pc에 적용되는지 궁금합니다. 제가 이전에 카나나 도전했는데 실패된적이 잇어서 질문드리게되었습니다. 아니면 혹시 Runpod GPU 서버에서 하는것인지 궁금합니다.

  • gpu
  • attention-model
  • 인공지능(ai)
  • transformer
  • llm
이경용 댓글 2 좋아요 0 조회수 128

제공해주신 레포가 Windows 환경에 너무 비친화적입니다.

미해결

LangGraph를 활용한 AI Agent 개발 (feat. MCP)

안녕하세요, 저는 Windows 11 사용 중입니다. Langgraph는 시작도 하기 전에 가상환경 세팅 단계에서 uvloop 부터 시작해서 chroma-hnswlib 등등 계속 하나씩 막히네요... 저와 같은 윈도우 사용자 분들이 이전에 남겨둔 Q&A와 FAQ 로 옮겨두신 내용도 참고해 봤지만 큰 도움이 되지 않았습니다. 강의 소개에 분명히 아래와 같이 소개가 되어있는데요: 파이썬을 구동할 수 있는 환경이라면 Windows, Linux 등 운영체제와 관계없이 강의를 따라오실 수 있습니다 위 내용이 참이 될 수 있게 윈도우 버전 레포(최소 윈도우용 pyproject.toml 파일)를 따로 제공해 주시거나 해결 방법을 잘 정리해 주실 수 있으실까요? 아니면 저 문구를 "Windows 사용자는 WSL Ubuntu 등에서 실습 권장" 등으로 교체하는 것이 나아 보입니다..!

  • 프롬프트엔지니어링
  • llm
  • ai-agent
  • langgraph
  • mcp
야믈딱진제이슨 댓글 2 좋아요 0 조회수 186

ollama설치해서 llama로 돌려도 되나요?

미해결

RAG를 활용한 LLM Application 개발 (feat. LangChain)

현재 openai 쓰다가 쿼터 문제로 막혀서 업스테이지꺼 일시기간 무료 쓸려다가 그냥 아예 무료인 라마로 돌리면 어떨까싶어서요 라마도 한국어 호환 잘 되도록 버전도 있다고 해서요 가능할까요?

  • vector-database
  • llm
  • langchain
  • rag
  • openai-api
sygnap 댓글 2 좋아요 0 조회수 144

라이브 수강 어려움

미해결

[5월 환급 과정] Agentic AI 개발 실전: LLM + RAG + Tools + Workflow

업무 중간에 강의를 듣다 보니 풀로 라이브 수강이 어렵네요ㅜ 혹시 강사님이 중간중간에 메세지로 남겨주셨던 링크나 내용들도 나중에 녹화본으로 들을 때 참고할 수 있을까요?

  • llm
  • langchain
  • rag
  • ai-agent
  • 중소기업-인재키움-프리미엄
강지원 댓글 3 좋아요 0 조회수 94

섹션22 퀴즈 질문

미해결

모두를 위한 대규모 언어 모델 LLM(Large Language Model) Part 1 - Llama 2 Fine-Tuning 해보기

섹션 22 퀴즈 문제 풀이와 답이 맞는건가요? 강의에서 언급된 O1 API 베타 버전의 주요 제한 사항이 아닌 것은 무엇인가요? A 함수 호출 지원 B 시스템 메시지 지원 이미지 입력 지원 D 일부 하이퍼파라미터 조정 제한 해설 O1 API 베타 버전은 이미지 입력, 시스템 메시지, 함수 호출, Batch API 등이 지원되지 않으며, 온도와 같은 하이퍼파라미터도 고정되어 있어요.

  • 딥러닝
  • pytorch
  • chatgpt
  • llm
  • llama
조명식 댓글 1 좋아요 0 조회수 93

마크다운을 텍스트 파일로 변환하기

미해결

LangGraph를 활용한 AI Agent 개발 (feat. MCP)

안녕하세요. 아래 코드를 보면서 의문점이 생겼는데요. import markdown from bs4 import BeautifulSoup text_path = './documents/income_tax.txt' # 마크다운 파일을 읽어옵니다 with open(markdown_path, 'r', encoding='utf-8') as md_file: md_content = md_file.read() # 마크다운 콘텐츠를 HTML로 변환합니다 html_content = markdown.markdown(md_content) # HTML 콘텐츠를 파싱하여 텍스트만 추출합니다 soup = BeautifulSoup(html_content, 'html.parser') text_content = soup.get_text() # 추출한 텍스트를 텍스트 파일로 저장합니다 with open(text_path, 'w', encoding='utf-8') as txt_file: txt_file.write(text_content) print("Markdown converted to plain text successfully!") 표 등 마크다운 문법을 살린 텍스트를 넣기 위해서라면, 그냥 마크다운을 텍스트 파일로 변환(확장자를 그냥 .txt로 변환하거나)하는 방식을 하면 될 것 같은데요. 왜 HTML로 변환했다 텍스트를 추출하는 방식으로 진행되는건가요?

  • 프롬프트엔지니어링
  • llm
  • ai-agent
  • langgraph
  • mcp
Grit 댓글 1 좋아요 0 조회수 161

18강 smithery 를 이용한 mcp 실습(업데이트 요청)

미해결

OpenAI를 활용한 나만의 AI 에이전트 만들기 (Agent Builder, GPT-5, Chatkit, Cloudflare, MCP, Fine Tuning, CoT 등)

18강 smithery 를 이용한 mcp 실습(업데이트 요청) 업데이트를 꼭 해주세요.

  • openai
  • multi-agent
  • llm
  • fine-tuning
  • ai-agent
학생 댓글 1 좋아요 0 조회수 69

guardrails 부분도 현재버전과 약간 다릅니다.

미해결

OpenAI를 활용한 나만의 AI 에이전트 만들기 (Agent Builder, GPT-5, Chatkit, Cloudflare, MCP, Fine Tuning, CoT 등)

guardrails 부분도 현재버전과 약간 다릅니다.

  • openai
  • multi-agent
  • llm
  • fine-tuning
  • ai-agent
학생 댓글 1 좋아요 0 조회수 74

smithery ai 언제 업데이트 되나요?

미해결

OpenAI를 활용한 나만의 AI 에이전트 만들기 (Agent Builder, GPT-5, Chatkit, Cloudflare, MCP, Fine Tuning, CoT 등)

smithery ai 언제 업데이트 되나요? 꼭 배우고 싶습니다.

  • openai
  • multi-agent
  • llm
  • fine-tuning
  • ai-agent
학생 댓글 1 좋아요 0 조회수 68

무료할당량 사용하는데 문제가 생겼습니다.

해결됨

OpenAI를 활용한 나만의 AI 에이전트 만들기 (Agent Builder, GPT-5, Chatkit, Cloudflare, MCP, Fine Tuning, CoT 등)

You do not have permission to edit these settings Only members of your organization with the "Owner" role can edit these settings. 위와 같은 메시지와 나와 실습진행이 되지 않습니다.

  • openai
  • multi-agent
  • llm
  • fine-tuning
  • ai-agent
학생 댓글 1 좋아요 0 조회수 104

섹션2-11 내용중 tool_call

미해결

AI 에이전트로 구현하는 RAG 시스템(w. LangGraph)

4분 35초 전후로, tool_call 에 대해 하나의 쿼리에 대해서 한글,영어 각각 나타나지 않고 아래와 같이 [{'name': 'tavily_search_results_json', 'args': {'query': '스테이크와 어울리는 와인 추천'}, 'id': 'call_fJRX3goQ8p2qkuQ7fQYlob7q', 'type': 'tool_call'}] 이렇게 하나만 뜨게 됩니다. 혹시 travioly 검색 규정이 한글로도 바로 되게끔 바뀐건가요?

  • llm
  • langchain
  • rag
  • ai-agent
  • langgraph
mac 댓글 2 좋아요 0 조회수 90

max token을 제한하는게 왜 성능을 개선하게 되는걸까요?

미해결

LangGraph를 활용한 AI Agent 개발 (feat. MCP)

안녕하세요 강의 잘 듣고있습니다. 제목 그대로 max token이 어떻게 hallucination 성능을 개선한건지 궁금합니다.

  • 프롬프트엔지니어링
  • llm
  • ai-agent
  • langgraph
  • mcp
toy 댓글 2 좋아요 0 조회수 146

인기 태그

인프런 TOP Writers

주간 인기글