모두를 위한 대규모 언어 모델 LLM(Large Language Model) Part 2 - 랭체인(LangChain)으로 나만의 ChatGPT 만들기
랭체인으로 나만의 ChatGPT 만들기를 공부하다가 보니 아래와 같이 schema 가 나오는데 이 라이브러리는 뭐하는 건지요? 랭체인 사이트에 들어가 봐도 시원하게 설명되어 있는 것이 없어 문의 드립니다. from langchain.schema import HumanMessage
모두를 위한 대규모 언어 모델 LLM(Large Language Model) Part 2 - 랭체인(LangChain)으로 나만의 ChatGPT 만들기
안녕하세요. 강의를 듣던 중 유트뷰에서 라마 3(Llama 3)로 AI 텍스트 번역하기 - 무료로 ChatGPT보다 뛰어난 성능의 AI 번역챗봇 만들기를 듣고 따라해 보던 중 소스코드가 실행이 안되어서 문의드립니다. 에러가 나는 부분은 아래입니다. llama3_translatation_text = generate_response(system_message="너는 번역을 수행하는 챗봇이야. 다음 내용을 번역해줘.", user_message=eng_text) print(llama3_translatation_text) 오류 메시지는 처음에는 아래와 같았습니다. The attention mask and the pad token id were not set. As a consequence, you may observe unexpected behavior. Please pass your input's attention_mask to obtain reliable results. Setting pad_token_id to eos_token_id :2 for open-end generation.' 그리고 최근에는 아래와 같습니다. ValueError : Cannot use apply_chat_template() because tokenizer.chat_template is not set and no template argument was passed! For information about writing templates and setting the tokenizer.chat_template attribute, please see the documentation at https://huggingface.co/docs/transformers/main/en/chat_templating 여러 가지를 찾아 봐도 해결을 못해서 문의드립니다. 그럼 수고하세요.
안녕하세요 강사님 답변의 정확성을 높이기 위해 upstage에서 temperature를 사용 해보았는데요. 3~4번 까지 질문의 대답을 잘해주다가 그 후에는 답변에 무한핑으로 "답변을 생성중입니다"가 계속 나오고 있습니다! 기다려보면 토큰 수 초과라고 오류가 나오는데,, temperature 옵션을 넣어주고 나서 토큰 수 초과 오류가 계속 나오고 있습니다. 원인이 무엇일까요??? def get_llm(model_name='solar-1-mini-chat', temperature=0.3): llm = ChatUpstage(model_name=model_name, temperature=temperature) return llm
안녕하세요 선생님 시간과 체력이 더 많았으면 좋겠다는 생각이 들 정도로 강의를 너무 재밌게 보고 있습니다 Mini batch Gradient Descent 이론 편에서 Mini batch Size에 비례하지 않는다는 설명을 보았는데요. 물론 병렬처리를 하기 때문에 정비례하지 않겠지만 GPU에 올릴 수 있는 최대 데이터양이 100개라고 가정한다면 미니배치를 200, 300, .. 이런 식으로 키운다면 미니 배치크기에 따라 비례하는 것은 맞지 않나요? 혹시 제가 잘못 생각하고 있다면 말씀해주세요 감사합니다!
안녕하세요?: 선생님 강의 정말 재밌게 잘 보고 있습니다. 강의 내용 중에 Huber Loss는 전미분이 한 번밖에 되지 않는다는 단점을 언급해주셨는데요 Gradient Descent를 적용할 때는 weight에 대한 편미분만 적용하기 때문에 역전파 시에는 무관한 거 아닐까요? 따라서 Epoch를 2 이상의 숫자를 두고 학습하는데 전혀 지장이 없는 거 아닌가요? 왜 전미분이 1번만 된다는 게 단점이 된다는 것인지 이해가 잘 되지 않습니다.
안녕하세요, 비개발자로 streamlit 부분까지 따라왔는데 막혀버렸습니다 ^^; streamlit import가 되지 않아서 문의드립니다. 콘솔창에서 hello streamlit 입력했을 때 정상적으로 브라우저에 뜨는 것을 확인했는데, 아래처럼 VScode에서는 import가 되지 않습니다. 혹시 가상환경에 문제가 있는걸까요? inflearn-llm-application 가상환경에서 mkdir로 inflearn-streamlit을 만들었고 아래처럼 inflearn-streamlit 을 activate 한 상황입니다. 확인 부탁드리겠습니다! 감사합니다.
from selenium.webdriver.common.by import By economy = driver.find_element(By.CSS_SELECTOR,'#gnbContent > div > ul > li:nth-child(4) > a > span') economy economy.click() driver.implicitly_wait(5) 시 화면이 공백으로 나오네요
동일한 캐릭터 이미지 생성하기 쪽을 실습하고 있습니다. 동일한 캐릭터로 웹툰을 만드는 것이 안되네요... 문제는 캐릭터가 너무 달라진다는 점입니다.... 시드번호를 따서 넣어도 마찬가지입니다. 작업은 이렇게 해봤습니다. 동일한 캐릭터를 못쓰는 것이 문제니깐 먼저 배경없이 캐릭터 일러스트를 만들어서 시드번호를 딴다 해당 시드번호를 바탕으로 미리 만들어 놓은 4컷 웹툰 스토리보드와 결합해서 1컷의 이야기를 만들어줘라고 한다. 1컷을 스토리보드에 맞게 수정한다. 이제는 1컷의 시드번호를 딴다(원래 캐릭터 일러스트 시드번호를 따는 것보다 1컷의 시드번호를 따는 것이 동일한 캐릭터를 나오게 하는데 좋다고 판단했습니다.) 아래와 같이 요청한다. 1. "시드번호 : 2234079682"의 3명의 인물의 키, 몸무게, 얼굴생김새, 머리스타일, 옷을 그대로 유지, 배경도 유지 2. 2컷 내용을 기반으로 이미지 만들어줘 2컷: 첫째의 눈물 준호는 은지의 머리 위에 작은 인형을 올리고 깔깔거리며 웃는다. 은지는 불안해하며 눈물이 고이기 시작하고, 결국 울음을 터뜨린다. 준호는 당황한 표정으로 은지를 쳐다보지만, 은지는 고개를 숙인 채 눈물을 흘린다. 배경: 아이들이 웅성거리며 상황을 지켜보는 장면. 캐릭터: 은지(눈물을 흘리며 고개를 숙이고 있음), 준호(당황한 얼굴로 뒷머리를 긁적이며 서 있음). 하지만 여전히 동일캐릭터로 만드는 것이 쉽지 않습니다.... 어떻게 하면 좋을까요?
모두를 위한 대규모 언어 모델 LLM(Large Language Model) Part 2 - 랭체인(LangChain)으로 나만의 ChatGPT 만들기
db = SQLDatabase.from_uri("sqlite:///chinook.db") write_query = create_sql_query_chain(llm, db) execute_query = QuerySQLDataBaseTool(db=db) answer_prompt = PromptTemplate.from_template( """Given the following user question, corresponding SQL query, and SQL result, answer the user question. Question: {question} SQL Query: {query} SQL Result: {result} Answer: """ ) print("write_query : ", write_query) answer = answer_prompt | llm | StrOutputParser() chain = ( RunnablePassthrough.assign(query=write_query).assign( result=itemgetter("query") | execute_query ) | answer ) 이 부분에서 chain 과 관련한 동작을 좀 더 상세히 설명 부탁드릴 수 있는지요?
모두를 위한 대규모 언어 모델 LLM Part 3 - 구글 제미나이(Google Gemini) API, OpenAI API와 젬마(Gemma)로 AI 어플리케이션 만들기
강의 colab 을 복사해서 해보고 있습니다. 그런데 RAG_Chain.invoke 에 대한 답변이 정상적으로 반환 되지 않습니다. 청킹도 제대로 된거 같고, "저출산을 극복한 나라들은 어디가 있어?" 라는 질문에는 답이 나오는데, "한국 저출산의 원인이 무엇이야?" 질문에는 답아 나오지 않습니다. 제가 무엇을 잘못해서 그런걸까요?
안녕하세요, 저는 하나하나 선생님 코드를 보며 따라하고 있는 코린이입니다.. 아래 부분을 입력하였더니 계속 오류가 발생하여 질문드립니다. from dotenv import load_dotenv from langchain_openai import OpenAIEmbeddings load_dotenv() embedding = OpenAIEmbeddings(model= 'text-embedding-3-large') PydanticUserError: The __modify_schema__ method is not supported in Pydantic v2. Use __get_pydantic_json_schema__ instead in class SecretStr. For further information visit https://errors.pydantic.dev/2.8/u/custom-json-schema 오류 메시지에 따르면 pydantic v2 에서는 __modify_schema__ 메서드가 더 이상 지원되지 않으며, __get_pydantic_json_schema__ 를 사용하라고 안내하고 있습니다. 환경: Python 3.11 Pydantic 2.5.2 langchain-core 0.3.0 langchain-openai 0.2.0 기타 종속성 버전: annotated-types==0.7.0 openai==1.45.1 pydantic_core==2.14.5 해결 시도: pydantic , langchain_openai , langchain-core 를 최신 버전으로 업데이트했습니다. 패키지를 제거하고 다시 설치하는 방식으로 문제 해결을 시도했습니다. 현재 이 문제를 어떻게 해결해야 할지 모르겠습니다.감사합니다!
강병진 지식공유자님, 안녕하세요! 인프런 운영 매니저 자미라고 합니다. 고객센터 통해서, 예비 수강생의 질문이 들어와 제가 대신 여쭤봅니다. 강의 구매 전인데, 아래 내용이 이 강의를 통해서 해결되는 지 궁금하다고 하셨어요. [ 질문 ] 이 강의에서 다음 내용을 배울 수 있나요? "나의 비공개 문서를 학습한 AI를 통해 사용자의 물음에 답할 수 있는 AI 앱" 이라는 내용에 대해 질문해주셔서, 이 부분에 대해 강사님께서 확인 후 답변 남겨주시면 제가 전달해드리도록 하겠습니다. 저희가 제공하는 [수강 전 문의하기] 라는 기능을 통한다면 수강생이 바로 질문하실 수 있는데요! 이 강의는 그 기능을 제공하고 있지 않아 제가 대신 질문을 통해 남기는 점 양해해 주시길 바랍니다. 😃 항상 좋은 지식 나누어 주셔서 감사드립니다. 풍성하고 행복한 한가위 보내시길 바랍니다. 감사합니다!
