LLM API 모델
미해결
챗봇을 만들며 배우는 ai agent 개발의 모든것(fastapi, RAG, vector, LangChain, sLLM/파인튜닝)
안녕하세요! 요즘은 제미나이, 클로드도 많이 쓰는걸로 알고 있는데, 임베딩 api는 gpt가 더 낫다고 보시나요? 실무에서도 써보고 싶어 문의드립니다.
- FastAPI
- vector-database
- llm
- llama
- rag
- openai-api
- fine-tuning
173만명의 커뮤니티!! 함께 토론해봐요.
미해결
챗봇을 만들며 배우는 ai agent 개발의 모든것(fastapi, RAG, vector, LangChain, sLLM/파인튜닝)
안녕하세요! 요즘은 제미나이, 클로드도 많이 쓰는걸로 알고 있는데, 임베딩 api는 gpt가 더 낫다고 보시나요? 실무에서도 써보고 싶어 문의드립니다.
미해결
시스템 디자인 첫걸음 with LLM: 운영 가능한 AI 서비스(RAG·AI Agent) 아키텍처 설계하기
안녕하세요 강의 잘 듣고 있습니다. IVF와 HNSW 중 실무에서 더 자주 사용되는 알고리즘은 무엇인가요? 각각의 장단점이 궁금합니다! 감사합니다.
미해결
90분 완성: LLM Agent 입문부터 실전까지 – 실습으로 배우는 AI 에이전트
실습화면에서 아래오류가 발생합니다 어찌해야할지요?
미해결
90분 완성: LLM Agent 입문부터 실전까지 – 실습으로 배우는 AI 에이전트
교안 내 링크 클릭하면 게속 구글 오류가 나서 진행 불가입니다. 예) LLM Agent 시작하기 – LangChain으로 툴 호출과 에이전트 구조 이해하기 오류화면)
미해결
RAG를 활용한 LLM Application 개발 (feat. LangChain)
안녕하세요. 강의에서 언급하는것과 달리 gpt에 물어보니 현재는 공식 LangChain Reference에서는 RetrievalQA 를 deprecated(사용 중단 권장) 로 표시하고, 대신 create_retrieval_chain() 을 사용하는 예제를 직접 안내하고 있다고 하는데 강의 방식이 아닌 이 방법으로 공부해야할까요? 강의내용과 조금 바뀐거 같아 문의드립니다.
미해결
코딩 없이 완성하는 AI 에이전트 마스터 (전 4부작) ①/④ 입문: 개념·구조·동작 원리
노트북LM으로 생성된 슬라이드 같은데 너무 한글 오타가 많네요 수정이 필요할 듯 합니다.
미해결
시스템 디자인 첫걸음 with LLM: 운영 가능한 AI 서비스(RAG·AI Agent) 아키텍처 설계하기
안녕하세요, 좋은 강의 잘 듣고 있습니다. LLM 서비스의 핵심 목표 중 신뢰성 의 핵심 키워드로 정확성, 일관성, 안정성 세 가지를 말씀해 주셨는데요, 이 중 정확성과 일관성이 각각 어떤 의미인지 좀 더 자세히 여쭤보고 싶습니다. 특히 앞에서 설명해 주신 것처럼 LLM은 확률에 기반을 두기 때문에 응답이 매번 바뀔 수밖에 없는데, 이런 전제 위에서 궁금한 점이 두 가지 있습니다. 일관성을 실제로 어떻게 구현할 수 있는지 궁금합니다. 실무에서 주로 쓰이는 방법이 있을까요? 일관성을 판단할 수 있는 지표나 기준, 기법이 있는지 궁금합니다. 신뢰성 지표로 Hallucination Rate, Faithfulness, Context Precision/Recall을 소개해 주셨는데, 이들은 주로 정확성 쪽에 가까워 보여서 일관성은 어떤 방식으로 측정하는지 궁금합니다. 감사합니다.
미해결
프로젝트로 배우는 Python 챗봇 & RAG - LangChain, Gradio 활용
13번 강의의 12:03 항목에서 additional_inputs에 PDF 모듈을 추가한 코드 실행 시 Additional inputs 아코디언에 렌더링 되지 않는 이슈가 확인되었습니다. 코드를 아래처럼 변경하시면 정상 동작되니 참고부탁드립니다. demo = gr.ChatInterface(process_pdf_and_answer, autofocus=False, api_name="chat", additional_inputs=[ gr.File( label="PDF 파일 업로드", file_types=[".pdf"], type="filepath" ) ], additional_inputs_accordion=gr.Accordion( label="PDF 업로드", open=True ) )
미해결
코딩 없이 AI 앱 만들기: Dify 노코드 완전 정복
아래와 같은 결과가 나오는데, 이럴 때 어떻게 수정해야할지 감이 안옵니다 ㅜㅜㅜㅜㅜㅜ 조언을 구하고 싶습니다 #죄송하지만, 상위 검색 결과의 구체적인 내용이 제공되지 않아 description을 추출할 수 없습니다. 그러나 액체괴물에 대한 SEO 최적화 블로그 제목을 제안할 수 있습니다. 제안 제목: "액체괴물의 매력: DIY 레시피와 안전한 놀이 방법" 이 제목은 사용자 검색 의도를 반영하며, 키워드를 포함하여 검색 엔진 최적화에 효과적입니다. 액체괴물은 요즘 친구들 사이에서 인기 있는 놀이입니다. 손으로 만지고 조작할 수 있는 재미 덕분에 스트레스를 해소하는 데 도움이 되기도 하죠. 이 글에서는 액체괴물을 만드는 방법, 필요한 재료, 놀이 아이디어 등을 쉽게 설명해 드릴게요. 또한, 안전하게 즐길 수 있는 방법과 보관 팁도 함께 알아보겠습니다. 액체괴물의 매력을 파헤쳐 보세요! 액체괴물을 만들기 위해 필요한 기본 재료는 접착제, 물, 그리고 액체 세탁 세제입니다. 이 세 가지 재료만 있으면 누구나 쉽게 만들 수 있어요. 먼저, 접착제를 물과 혼합한 후, 액체 세탁 세제를 조금씩 추가하세요. 이때 원하는 색소를 넣으면 나만의 특별한 액체괴물이 완성됩니다. 놀이 아이디어로는 액체괴물을 손으로 만져보거나, 다양한 질감을 느껴보는 것이 있습니다. 친구와 함께 경쟁해 보거나, 액체괴물로 다양한 형태를 만들어 보는 것도 재미있겠죠. 마지막으로 액체괴물은 잘 보관하면 오랫동안 사용할 수 있습니다. 밀폐된 용기에 넣어두면 수분이 유지되어 질감이 변하지 않아요. 안전하게 즐길 수 있는 액체괴물 놀이로 친구들과의 시간을 더욱 특별하게 만들어 보세요! # 액체괴물의 매력: DIY 레시피와 안전한 놀이 방법 액체괴물은 요즘 친구들 사이에서 정말 인기 있는 놀이죠. 손으로 만지고 조작하는 재미 덕분에 스트레스를 해소하는 데 도움을 줍니다. 이 글에서는 액체괴물을 만드는 방법, 필요한 재료, 놀이 아이디어 등을 쉽게 설명할게요. 안전하게 즐길 수 있는 방법과 보관 팁도 함께 알아보니, 끝까지 읽어보세요! ## 액체괴물 만들기: 필요한 재료 액체괴물을 만들기 위해 필요한 기본 재료는 다음과 같습니다: 1. 접착제 : 일반 유성 접착제를 사용해도 좋고, PVA 접착제가 가장 흔해요. 2. 물 : 그냥 수돗물로 충분합니다. 3. 액체 세탁 세제 : 세탁 세제를 조금씩 추가하는 것이 포인트입니다. 4. 색소 (선택 사항) : 원하는 색을 내기 위해 식용 색소나 수채화 물감도 사용할 수 있어요. ## 만드는 방법 1. 혼합하기 : 먼저, 접착제를 그릇에 붓고 물과 잘 섞어줍니다. 비율은 1:1 정도가 적당해요. 2. 세탁 세제 추가 : 그 다음, 액체 세탁 세제를 조금씩 추가하며 혼합합니다. 이때 손으로 잘 섞어주세요. 3. 색소 넣기 : 원하는 색소를 넣고 다시 섞으면 나만의 특별한 액체괴물이 완성됩니다! ## 놀이 아이디어 액체괴물로 놀 수 있는 방법은 다양해요. - 손으로 만져보기 : 액체괴물을 손으로 만져보면서 질감을 느껴보세요. 부드럽고 탄력 있는 느낌이 정말 재미있답니다. - 형태 만들기 : 친구와 함께 다양한 형태를 만들어 보세요. 액체괴물을 이용해 동물이나 물건을 만들어 보는 것도 즐거운 시간입니다. - 경쟁 게임 : 누가 더 멋진 액체괴물을 만드는지 경쟁해보는 것도 좋은 방법이에요. 창의력을 발휘해보세요! ## 안전하게 즐기기 액체괴물을 만들 때는 안전이 가장 중요합니다. - 재료 확인하기 : 사용하는 재료의 안전성을 꼭 확인하세요. 비알콜 성분의 접착제가 가장 안전합니다. - 어린이와 함께하기 : 어린 친구들과 함께 만들 때는 반드시 어른의 supervision이 필요합니다. ## 보관 팁 액체괴물은 잘 보관하면 오랫동안 사용할 수 있어요. - 밀폐 용기 사용 : 액체괴물을 밀폐된 용기에 넣어두면 수분이 유지되어 질감이 변하지 않아요. - 서늘한 곳에 보관하기 : 직사광선을 피하고 서늘한 곳에 두면 더욱 오래 사용할 수 있습니다. 액체괴물은 친구들과의 시간을 더욱 특별하게 만들어주는 훌륭한 놀이입니다. 손쉽게 만들 수 있고, 다양한 놀이 방법으로 즐길 수 있으니 한 번 도전해보세요! ##### 액체괴물의 매력: DIY 레시피와 안전한 놀이 방법 액체괴물은 요즘 친구들 사이에서 정말 인기 있는 놀이입니다. 손으로 만지고 조작하는 재미 덕분에 스트레스를 해소하는 데 도움을 주죠. 이 글에서는 액체괴물을 만드는 방법, 필요한 재료, 놀이 아이디어를 쉽게 설명할게요. 안전하게 즐길 수 있는 방법과 보관 팁도 함께 알아보니, 끝까지 읽어보세요! ## 액체괴물 만들기: 필요한 재료 액체괴물을 만들기 위해 필요한 기본 재료는 다음과 같습니다: 1. 접착제 : 일반 유성 접착제를 사용해도 좋고, PVA 접착제가 가장 흔해요. 2. 물 : 그냥 수돗물로 충분합니다. 3. 액체 세탁 세제 : 세탁 세제를 조금씩 추가하는 것이 포인트입니다. 4. 색소 (선택 사항) : 원하는 색을 내기 위해 식용 색소나 수채화 물감도 사용할 수 있어요. ## 만드는 방법 1. 혼합하기 : 먼저, 접착제를 그릇에 붓고 물과 잘 섞어줍니다. 비율은 1:1 정도가 적당해요. 2. 세탁 세제 추가 : 그 다음, 액체 세탁 세제를 조금씩 추가하며 혼합합니다. 이때 손으로 잘 섞어주세요. 3. 색소 넣기 : 원하는 색소를 넣고 다시 섞으면 나만의 특별한 액체괴물이 완성됩니다! ## 놀이 아이디어 액체괴물로 놀 수 있는 방법은 다양해요. - 손으로 만져보기 : 액체괴물을 손으로 만져보면서 질감을 느껴보세요. 부드럽고 탄력 있는 느낌이 정말 재미있답니다. - 형태 만들기 : 친구와 함께 다양한 형태를 만들어 보세요. 액체괴물을 이용해 동물이나 물건을 만들어 보는 것도 즐거운 시간입니다. - 경쟁 게임 : 누가 더 멋진 액체괴물을 만드는지 경쟁해보는 것도 좋은 방법이에요. 창의력을 발휘해보세요! ## 안전하게 즐기기 액체괴물을 만들 때는 안전이 가장 중요합니다. - 재료 확인하기 : 사용하는 재료의 안전성을 꼭 확인하세요. 비알콜 성분의 접착제가 가장 안전합니다. - 어린이와 함께하기 : 어린 친구들과 함께 만들 때는 반드시 어른의 supervision이 필요합니다. ## 보관 팁 액체괴물은 잘 보관하면 오랫동안 사용할 수 있어요. - 밀폐 용기 사용 : 액체괴물을 밀폐된 용기에 넣어두면 수분이 유지되어 질감이 변하지 않아요. - 서늘한 곳에 보관하기 : 직사광선을 피하고 서늘한 곳에 두면 더욱 오래 사용할 수 있습니다. 액체괴물은 친구들과의 시간을 더욱 특별하게 만들어주는 훌륭한 놀이입니다. 손쉽게 만들 수 있고, 다양한 놀이 방법으로 즐길 수 있으니 한 번 도전해보세요!
미해결
코딩 없이 AI 앱 만들기: Dify 노코드 완전 정복
안녕하세요, 선생님께서 영상에서 하신대로 다 따라했는데 막상 실행해보니 사진처럼 답변의 내용이 진전이 없네요 이런 상황에서 어떻게 대응하면 되나요?
미해결
graphRAG - Neo4J로 구현하는 지식 그래프 기반 RAG 시스템 (feat. LangChain)
KG 구축 - 2) 뉴스 텍스트를 지식그래프로 변환 (LLMGraphTransformer 활용) 관련 질문. 강의의 9분 쯤에서, Person, NewsArticle이 기대와 달리 특정 값이 추출되지 않았다고 설명하셨는데, 이 두개 노드는 앞에서 constraint 를 등록할 때 포함된것 아닌가요? 저희가 허락한것은 allowed_nodes = ["Company", "Product", "Technology"] 이고요. LLM에서 이 2가지가 있는지 모를것 같은데요...
미해결
처음 해보는 맞춤형 LLM 만들기 – LoRA & QLoRA 파인튜닝 입문
load_dataset("imdb", split="train[:50]") 이 부분에서 오류가 나옵니다.. 일단 "stanfordnlp/imdb" 이렇게 수정해 봅니다
해결됨
AI 마스터를 위한 LLM 아키텍처 이해와 GPU 활용전략
안녕하세요. 해당 강의를 잘 수강하며 많은 도움을 받고 있습니다. 하지만 현재 마지막 54강 양자화의 끝판왕, 터보퀀트 (예정) 부분으로 인해 진도율 100%을 달성할 수 없어 수료증을 받지 못하고 있는 상황입니다. (54강을 클릭해도 수업자료도 없고 아무것도 없어서 그런지 54강 수료가 안되고, 이로 인해 진도율 100% 달성 및 섹션 11퀴즈 풀이도 안되는 상황입니다.) 혹시 54강 강의는 업로드할 예정이 있으신지 궁금하여 글을 남깁니다!
미해결
AI 마스터를 위한 LLM 아키텍처 이해와 GPU 활용전략
선생님 강의 내용 공부한 것을 개인 블로그같은 곳에 요약해서 올려도 되나요? 아무래도 선생님 noetbook 코드의 일부가 포함이 되어야할것 같은데..가능한지 여쭤봅니다
미해결
RAG를 활용한 LLM Application 개발 (feat. LangChain)
안녕하세요? 저는 windows 11 운영체제에서 실습 중입니다. 3.2 LangChain과 Chroma를 활용한 RAG 구성 강의 에서, from langchain_chroma import Chroma # 데이터를 처음 저장할 때 database = Chroma.from_documents(documents=document_list, embedding=embedding, collection_name='chroma-tax', persist_directory="./chroma") 코드 수행시 kernel 이 죽습니다. 우선 pyenv-win 으로 설치한 python은 완벽히 제거, pyenv-win 도 완벽히 제거, python windows 3.12.10 version 설치 mkdir {project_name} cd {project_name} py -3.12 -m venv .venv .\.venv\Scripts\Activate.ps1 python -m pip install --upgrade pip 으로 프로젝트 생성후 어제 부터 계속 이러네요. jupyter notebook web server 실행 시켜 수행해도 같은 상황 입니다. 어떻게 해결 해야 할까요?? 고맙습니다. https://github.com/microsoft/vscode-jupyter/wiki/Kernel-crashes
해결됨
실리콘 밸리 엔지니어와 함께하는 Local LLM 완전 정복 (LM Studio & Ollama)
설명에서는 Top-P 가 기본, Top-K 선택, Min-P는 최근에 나온것으로 아마도 선택이라고 생각이 되는데, LM Studio 설정은, Top-K 는 기본인것 같고, 다른 2개는 선택 상자가 있네요. 이걸 선택하는 조합에 따라 최종 적용되는 방식이 어떻게 결정이 되나요? 중복 적용은 안될 것 같은데, 다른 하나가 무시되나요?
미해결
AI Agent 개발을 위한 모든 지식 [얼리버드]
좋은 강의 해주셔서 감사합니다. 강의자료가 노션으로 제공된다고 공지된 것같은데, 링크를 못찾았습니다.. 강의 자료 공유해주시면 감사하겠습니다!!
미해결
RAG를 활용한 LLM Application 개발 (feat. LangChain)
안녕하세요, 강의를 꾸준히 따라가면서 듣고 있는데, 공식문서가 너무 많이 바뀌어서 코드를 따라가기가 어려운 것 같아요 ㅠㅠ 혹시 강의의 내용에 따라 따라갈 수 있는 바뀐 공식문서의 링크를 좀 알 수 있을까요? https://www.langchain.com 의 Learn - [How to] - [Document]에 들어간 후, 어디서부터 따라가야 강의의 내용을 보충할 수 있을까요?
미해결
LangGraph를 활용한 AI Agent 개발 (feat. MCP)
토큰 사용량에 관한 질문은 아닙니다. 외부 api 를 통해 llm(chagpt) 은 입력된 질의를 바탕으로 답변을 생성하기 위해 트랜스포머 등 등 제가 잘 모르는 복잡한 딥러닝 구조를 통해 계산을 할 것입니다. 이 과정에서 한글을 입력할때와 영어를 입력할때 최초로 입력되는 프롬프트의 퀄리티가 결과물이나 llm의 계산 과정에서 영향을 주는지 궁금합니다. 예를들어 프롬프트를 한글, 존댓말로 작성하면 chatgpt는 이것을 이해하기 위해, 그 회사의 자체적인 한글용 벡터 임베딩을 통해 의미를 이해한다면, llm 이 계산을 하기 위한 재료로써 활용될 단어들은 영어보다 연관성이나 맥락이 떨어질 것이라는 생각이 듭니다. 그러면 상대적으로 이해도나 결과물의 퀄리티도 떨어지지 않을라는 의문이 듭니다. 그렇다면 한글로 작성한 프롬프트를 먼저 영어로 번역한 다음에 이해해라 라고 한줄 추가하면 어떻게 되나요? 유의미한 변화가 있는건지, 지금 제가하는 생각이 애초에 타당한 생각인지 궁금합니다.
미해결
코딩 없이 AI 앱 만들기: Dify 노코드 완전 정복
안녕하세요, 좋은 강의 감사합니다. 비전공 대학생이지만 덕택에 잘 듣고 있습니다 다름이 아니라, Google AI studio에 결제해놓은 크레딧이 있어서 openai가 아닌 gemini api 로 설정해두었는데요. 이럴 때는 시스템 모델 설정을 할 때에 어떤 수준으로 해두면 되는지 여쭙고 싶습니다. 알려주신대로 openai로 하면 좋겠지만 아직 돈이 넉넉치 않은 대학생이다 보니 gemini api로 해도 가능하다면 비용을 절감하고 싶어서요. 읽어주셔서 감사합니다. 답변 기다리겠습니다.