안녕하세요, 강의 감사드립니다. multi-head attention에서 Q,K,V 차원에 대해 질문드립니다. 1. 여기서 H는 multi-head 시킨 후 (concatnation 후)의 최종 feature 차원을 의미하는지 궁금합니다. (단일 self-attention에서도 Q,K,V에서 H와 다른거 같은데 확인부탁드립니다) 2. 만약, 1이 맞다면 Q,K,V의 차원은 N x H/M 이 되어야 하는건 아닌가 싶습니다. (m은 M을 표현하기 위한 index로 보이기 때문입니다) 혹시 제가 잘못 이해하고 있는 부분이 있다면, 정정해주시면 감사드리겠습니다!
Chroma 오류가 발생합니다. 오류가 발생하면서 커널이 끊어집니다. here 눌렀을 때 jupyter log 눌렀을 때 입니다. 다음 부분에서 오류가 나는 것 같습니다. from langchain_community.vectorstores import Chroma db = Chroma.from_documents(splits, embeddings_model)
import os from dotenv import load_dotenv from langchain_openai import ChatOpenAI load_dotenv() OPENAI_API_KEY = os.environ["OPENAI_API_KEY"] llm = ChatOpenAI(model="gpt-3.5-turbo-0125", openai_api_key=OPENAI_API_KEY) #chain 실행 llm.invoke("지구의 자전 주기는?") 저는 VSCode로 강의를 따라하고 있었습니다. Failed to batch ingest runs: LangSmithError('Failed to POST https://api.smith.langchain.com/runs/batch in LangSmith API. HTTPError(\'403 Client Error: Forbidden for url: https://api.smith.langchain.com/runs/batch\ ', \'{"detail":"Forbidden"}\')') 이 오류가 뜨면서 실행이 안되는 이유를 모르겠습니다. 현재 상황은 이렇습니다. OPENAI_API_KEY는 정확합니다. 혹시나 해서 openai 튜토리얼을 따라해보니, 유효한 api key라는것을 확인할 수 있었습니다. llm.invoke("지구의 자전 주기는?") 구문을 실행시키면 해당 오류가 뜹니다. 전체 패키지를 재설치해도 결과는 같았습니다.
모두를 위한 대규모 언어 모델 LLM(Large Language Model) Part 2 - 랭체인(LangChain)으로 나만의 ChatGPT 만들기
ConversationSummaryBufferMemory 설명 중 max_token_limit 관련 문의 있습니다 토큰 제한하신 경우: max_token_limit=5 대화 요약된 경우: {'history': 'System: \nThe human greets the AI and the AI responds asking how the human is doing. The human responds that they are not doing well and the AI responds similarly.'} 이렇게 지정한 토큰 수를 넘어서 대화 요약이 되는 이유가 있을까요?
.env 파일 형식도 지키고 있고 환경변수를 직접 실행했을 때도 제대로 작동하지만 .env 파일에서 환경변수를 로드하는 과정에서 문제가 있는지 None이 계속 뜨면서 api키를 가지고 오지 못하는 것 같습니다.. 아무리 다시 만들어 시도해봐도 달라지지 않아 질문 남깁니다 감사합니다..!디렉토리 위치 문제인지, 가상환경 커널에서 venv커널도 뜨지 않습니다. 윈도우 사용자라면 어떻게 해결해야 할까요? 쥬피터를 사용해서 그런걸까요?
모두를 위한 대규모 언어 모델 LLM(Large Language Model) Part 2 - 랭체인(LangChain)으로 나만의 ChatGPT 만들기
안녕하세요 SelfQueryRetriever를 이용하여 메타데이터별로 문제를 생성하는 코드를 작성 중에 궁금한 것이 생겨서 질문드립니다. 데이터별로 메타데이터에 카테고리를 저장해놓았는데 카테고리별로 llm을 돌릴때마다 각 카테고리 내에서 문서를 랜덤하게 가져올 수 있는 방법이 있을까요?? 카테고리를 잘 인식해서 가져오는데 llm을 돌릴때마다 같은 데이터를 벡터db에서 받아와 생성합니다.
안녕하세요. 오늘도 열심히 강의 잘 듣고 있습니다. 현재 Upstage 이용해서 진행하고 있구요. 아래 코드에서 아래와 같은 오류가 떠서 질문 드립니다...! PineconeApiException : (400) Reason: Bad Request HTTP response headers: HTTPHeaderDict({'Date': 'Tue, 02 Jul 2024 05:30:59 GMT', 'Content-Type': 'application/json', 'Content-Length': '104', 'Connection': 'keep-alive', 'x-pinecone-request-latency-ms': '8478', 'x-pinecone-request-id': '8670121622045530037', 'x-envoy-upstream-service-time': '36', 'server': 'envoy'}) HTTP response body: {"code":3,"message":"Vector dimension 4096 does not match the dimension of the index 3072","details":[]} 챗 GTP 에게 물어보니, 아래와 같은 답을 주었습니다. 해당 에러 메시지는 Pinecone 데이터베이스에 벡터를 업로드하려고 할 때 발생한 것으로 보입니다. 에러 메시지에 따르면, 업로드하려는 벡터의 차원(4096)이 이미 생성된 인덱스의 차원(3072)과 일치하지 않아서 발생한 문제입니다. 다음은 이 문제를 해결하기 위한 몇 가지 단계입니다: 인덱스 차원 확인 : 인덱스를 생성할 때 지정한 차원을 확인합니다. 인덱스가 3072 차원으로 생성된 것으로 보이므로, 현재 사용하려는 벡터가 이에 맞지 않습니다. 벡터 차원 조정 : 사용하려는 벡터의 차원을 3072로 조정하거나, 현재 벡터의 차원에 맞게 새로운 인덱스를 생성해야 합니다. 인덱스 재생성 (필요시) : 새로운 차원으로 인덱스를 생성하려면 Pinecone 관리 콘솔이나 API를 통해 인덱스를 다시 생성해야 합니다.
VS 세팅에 문제가 있는제.. CMD 창에서 code . 해도 안열려요.. 어떻게 해야하나요? 1. 경로문제 환경설정변경에 path 에 들어가서 poetry 경로로 변경했지만 안됨 VS 를 재다운로드받아서 실행하면서 (path 변경) 했지만 안됨 관리자권한으로 경로를 지정해서 수동으로 했지만 안됨 VS 파일열기로 들어감 그렇게 해도 실행이 안됨... 왜 그렇죠?
안녕하세요. 오늘 결제 후 열심히 듣고 있습니다! (소중한 강의 만들어주셔 정말정말 감사합니다.) 다름 아니라, openAI 크레딧 유효기간이 지나 gemini 로 강의 코드를 변경하며 진행하고 있는데요, 병진님과 동일한 과정으로 openai -> google genai(model 은 gemini-pro, 변경한 클래스: GoogleGenerativeAIEmbeddings, ChatGoogleGenerativeAI ) 로 변경해 답변을 받아보았는데 답변이 썩.. 좋지가 않네요 ㅠㅠ prompt 템플릿을 작성하고 나서 답변을 받아보면 다음과 같이 답을 합니다. '제공된 문서에는 해당 질문에 대한 답변이 없습니다.' (페르소나를 명시할 때 "컨텍스트에 없으면 당신이 알고 있는 정보로 대답해주세요" 를 추가했음에도 동일하게 대답하네요..) 궁금한 점은 LLM 마다 답변 성능이 많이 차이가 날까요? openAI 가 정답일까요..?ㅠ (참고로 저희 조직에서는 GCP 기반이다보니 제미나이를 좀 써보고 싶어서요..) 감사합니다!
안녕하세요, 좋은 강의 준비해주셔서 감사드립니다. 딥러닝에 대한 흥미가 점점 더 깊어지는 중입니다! 한가지 간략히 질문드리고 싶습니다. 노드의 정의 문제와 관련된거 같은데요.. computation graph에서의 노드는 x, w, h, y, L 전부를 의미하는 반면, Neural network에서의 노드는 x, h, y, L이라고 이해하면 될까요? 미리 감사드립니다.
