inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

제이쓴님의 게시글

제이쓴 제이쓴

@jasonkang

수강생
21,108
수강평
1,768
강의 평점
4.9

게시글 545

질문&답변

너무 초보적인 질문입니다.

안녕하세요! 좋은 질문 감사합니다. 해당 강의는 2년 전에 출시되었는데요, 당시에는 요즘처럼 클로드코드나 코덱스가 활발하지 않았던 시기라 손으로 직접 코드를 작성했습니다. 요즘은 저도 업무에서 AI를 최대한 사용하고, 지난 1년간은 손으로 직접 코드를 작성한 기억은 없습니다. 파이썬이 익숙하지 않으시다면 인프런에서 제공하는 기본 강의를 추천드리고 https://inf.run/Nj2NZ 랭체인 문법이 익숙하지 않으시다면 저의 입문용 강의를 추천 드립니다 https://inf.run/EobZC

좋아요수
0
댓글수
2
조회수
47

질문&답변

섹션4 github 접속 문제

안녕하세요! 깃헙 이슈였던거로 추정되는데 다시 시도해보시겠어요? 잘 접근 됩니다~

좋아요수
0
댓글수
1
조회수
50

질문&답변

결과에 대한 질문

안녕하세요 좋은 질문 감사합니다. 말씀하신 것 처럼 모델이 같은 모델을 쓰더라도 저들이 비공개 형태로 모델을 바꾼다는 의심은 듭니다. 다만 증거가 없네요 ㅠㅜ K를 늘려서 문서를 잡는 것은 좋은 방향입니다. 특히 촬영 시점과 비교했을 때 (물론 같은 모델을 사용하시지만) 모델이 처리할 수 있는 토큰도 들어났고, 모델 자체의 성능도 좋아지다보니 전달하는 청크의 수나 양이 늘어나도 좋은 답변을 잘 낼 거라고 판단합니다

좋아요수
0
댓글수
2
조회수
64

질문&답변

zerox 사용 이유

안녕하세요! 좋은 질문 감사합니다. 당시에도 파일로 첨부할 수는 있었지만, 강의라는 환경 특성상 수강생분들이 다양한 LLM을 활용하셔서 호환이 가능한 예제를 보여드리고 싶었습니다. 추가로 zerox를 사용하면 오픈소스다보니 그들이 제공하는 추가 기능들과 프롬프트를 사용할 수 있다는 강점이 있는데, API를 직접 호출하게되면 모델이 변경되거나 API 호출 방식이 변경되는 경우 관리하는 코드도 업데이트를 하다보니 저는 서비스 운영 측면에서도 직접 툴을 개발해서 쓰는 것 보다 가급적이면 오픈소스들을 최대한 활용하려고 하는 편입니다. 또 궁금하신 점이 있으시면 편하게 질문으로 올려주세요!

좋아요수
0
댓글수
1
조회수
54

질문&답변

model_dump() 결과 질문json_ai_message.model_dump()

안녕하세요! 인프런 인턴의 답변처럼 AI가 뱉어내는 값입니다. 모델의 판단에 따라 짧은 숫자를 반환한게 아닐까 추측합니다.

좋아요수
0
댓글수
2
조회수
69

질문&답변

4.2.2 ~ 10.3.2.1 강의 영상 안나옴

안녕하세요, AI 인턴의 답변과 유사하게 저는 영상 녹화 프로그램을 켜두면 인프런 강의 영상이 나오지 않는 경우가 있던데 설정 확인을 부탁 드립니다

좋아요수
0
댓글수
2
조회수
87

질문&답변

RetrievalQA 방식 관련 문의

안녕하세요, 좋은 질문 감사합니다. 강의는 LangChain 1.x 버전 출시 전에 촬영되어 예전 함수들을 많이 사용하고 있는데요, 함수 이름이 변경되었으나 내부 구현 자체에는 대단히 큰 변화는 없어서, 강의에서 활용하는 버전을 활용하신다면 완강에는 문제 없을거라고 판단됩니다. 강의를 통해서 제가 전달드리고자 했던 내용은 RAG를 구성하는 방법이고 활용되는 LangChain 함수들은 부수적인 도구이기 때문에 크게 문제가 될 것 같지는 않습니다.

좋아요수
0
댓글수
2
조회수
131

질문&답변

타입스크립트 autoComplete?

안녕하세요! 좋은 질문 감사합니다. 강의에서는 Cursor를 활용해서 AI가 자동완성을 한 경우인데요, Visual Studio Code를 활용하신다면 GitHub Copilot을 활성화하시면 자동완성이 가능할 거라고 생각합니다.

좋아요수
0
댓글수
1
조회수
90

질문&답변

[ReadMe]영상에 나온거랑 깃이랑 다르네요

안녕하세요! 첫번째 스크린샷은 uv의 GitHub 페이지이고 https://github.com/astral-sh/uv 두번째 올려주신 스크린샷이 강의의 소스코드 레포입니다 https://github.com/jasonkang14/inflearn-langgraph-agent

좋아요수
0
댓글수
2
조회수
154

질문&답변

RAG 파이프라인 고도화와 파인튜닝의 우선순위 및 실무적 판단 기준이 궁금합니다.

안녕하세요, 좋은 질문 감사합니다. TL;DR은 저는 파인튜닝은 필요 없다고 생각합니다. 말씀하신 것처럼 파인튜닝 자체도 비용이고, 유지보수 비용도 부담이고, 인프라 관리도 부담이고, 여러모로 관리 포인트가 증가해서 저는 RAG를 구현하고 상용 LLM을 쓰는 것이 합리적이라고 생각합니다. 하지만 팀에서 파인튜닝을 해서 운영하는 것을 기조로 잡고 한다면, 요즘 오픈소스 모델도 성능이 괜찮아서 쓸만합니다. 한국어 모델들은 최근에 테스트를 해보진 않았는데, kimi나 qwen계열 모델들은 정말 훌륭합니다. 이론상 파인튜닝을 해야하는 경우는 프롬프트로 원하는 행동을 "만들어낼 수는 있는데" 5% 확률로 실패하고, 그 5%가 용납 안 되는 경우입니다. 에이전트는 궤적이 곱해지기 때문에 스텝당 95%가 10스텝이면 최종적으로 60%로 무너집니다. 프롬프트는 천장을 정하고, 파인튜닝은 바닥을 끌어올립니다. 에이전트 실무에서 파인튜닝을 하는 가장 흔한 실질적 이유가 이겁니다. 다만 저는 few shot 프롬프팅을 활용하면 대부분의 use case에서 RAG구축으로도 충분하지 않나 생각합니다.

좋아요수
0
댓글수
2
조회수
141