강의자료 다운 문의

수업 자료는 각 수업별로 모두 올라가 있습니다. 혹시 한 번에 받아 본다는 의미가 한 파일로 받기를 바라신다는 뜻일까요?

파인튜닝 데이터가 이미 학습된 데이터인 경우 어떻게 되나요?

일단 두 번째 질문에 대해서 먼저 답하자면 LLM은 파인튜닝 자료가 자신이 알고 있는 자료임을 알 수 없고 그것을 LLM이 직접 알려주거나 뱉어낼 수는 없습니다. 일반적인 LLM은 자신이 특정 문장을 알고 있는지, 사전학습 과정에서 본 것인지, 파인튜닝 중에 본 것인지를 구분하거나 메타적으로 인식하지 못합니다.첫 번째 질문에 대해서는 여러 가지 경우로 나눠서 생각해 보아야 할 것 같습니다. 사전학습 자료와 미세조정 자료의 의미와 표현이 일치하는 경우, 의미는 같은데 표현은 다른 경우, 기존 지식과 충돌하는 경우로 나눠서 생각해 봐야 할 것 같습니다. 각 경우별로 따지자면 내용이 길어지므로 요약해서 말씀드리자면, 일반적인 규모의 파인튜닝에서는 동일한 지식을 다시 학습하더라도 모델의 전반적인 성능 변화는 크지 않은 경우가 많습니다. 다만 데이터 규모, 학습속도(learning rate: 학습률), 반복학습 횟수(Epoch 수) 등에 따라 영향은 달라질 수 있습니다.데이터가 매우 많거나, 학습 속도가 지나치게 빠르거나, 전체 파라미터를 미세 조정하하는 경우(Full Fine-tuning인 경우)나, 반복학습 횟수가 지나치게 크면 가중치에 큰 변화를 일으킬 수 있습니다.특히 학습 속도가 적절치 않으면 파국적 망각(Catastrophic Forgetting) 현상이 일어날 수도 있습니다. 즉, 기존 지식 중 일부가 소실되고, 그 대신에 파인튜닝에 동원한 중복 학습 자료가 새로운 지식 형태로 더 강하게 자리잡는 현상이 벌어질 수 있을 것으로 보입니다. 이 답변은 저의 견해에 불과하니 반드시 실험적으로 확인해 보시기 바랍니다. 반면에 기존 지식을 강화하는 긍정 효과를 내게 할 수도 있을 것으로 보입니다. 어쩌면 좋은 실험 연구 주제가 될 수 있을 것 같습니다.

강의 완료 시점 문의

안녕하세요. 인공지능 통계학 강의는 금주 중에(토요일 혹은 일요일) 마무리하겠다고 말씀드렸고, 개발자를 위한 프롬프트 패턴과 RAG 강의는 2판으로 개정 중인 상황입니다. 개정판이다 보니 시간이 좀 많이 걸립니다. 2판 수업 자료는 모두 올려 두었습니다. 다만 수업 당 강의 시간이 보통 30분에서 1시간 정도 되어서 1개 섹션(보통 5~7개 수업)을 마무리하는 데 꼬박 하루나 이틀이 걸립니다. 다른 강의도 완성해 나가는 중이어서 각 강의의 1개 섹션이 마무리되는 데 더 많은 시간이 걸리 수 있습니다. 아예 1판 강의가 없는 것도 아니고 2판은 구독자를 위해 별도 강의로 편성하지 않고 1판 강의 구독자에게 감사의 의미로 1판 강의 그 자체를 2판으로 개정하고 있는 것이니 기다려 주시면 감사하겠습니다. 정확한 일정은 예상하기 어렵고 다만 꾸준히 완성해 나가겠다는 점을 말씀드릴 수 있습니다. 감사합니다.

강의 완성 일정 공유 요청

안녕하세요. 인공지능 통계학 강의는 금주 중에(토요일 혹은 일요일) 마무리하겠다고 말씀드렸고, 개발자를 위한 프롬프트 패턴과 RAG 강의는 2판으로 개정 중인 상황입니다. 개정판이다 보니 시간이 좀 많이 걸립니다. 2판 수업 자료는 모두 올려 두었습니다. 다만 수업 당 강의 시간이 보통 30분에서 1시간 정도 되어서 1개 섹션(보통 5~7개 수업)을 마무리하는 데 꼬박 하루나 이틀이 걸립니다. 다른 강의도 완성해 나가는 중이어서 각 강의의 1개 섹션이 마무리되는 데 더 많은 시간이 걸리 수 있습니다. 아예 1판 강의가 없는 것도 아니고 2판은 구독자를 위해 별도 강의로 편성하지 않고 1판 강의 구독자에게 감사의 의미로 1판 강의 그 자체를 2판으로 개정하고 있는 것이니 기다려 주시면 감사하겠습니다. 정확한 일정은 예상하기 어렵고 다만 꾸준히 완성해 나가겠다는 점을 말씀드릴 수 있습니다. 감사합니다.

강의 완료시점 문의

죄송합니다. 제가 어리석어서 18개 강의를 동시에 올리는 바람에 구독자 분들께 큰 불편을 끼쳐 드렸습니다. 일단 지금 기다리고 계시는 "비전공자를 위한 인공지능 통계학"을 이번 주 내에 완성하겠습니다. 불편을 드린 점에 대해서 거듭 사과드립니다.

받을 수도 없는 수업 자료들이 올라와 있고, 이것들 때문에 강의를 수료할 수도 없습니다.

안녕하세요. 늦게서야 질문을 확인하게 되었습니다. 먼저 사과 말씀을 드립니다. 그리고 금주 중으로 수업자료를 정리해 두겠습니다. 다만 동영상을 녹화 중이라 완결하기까지 시간이 좀 필요합니다. 기다려 주시면 감사하겠습니다.

기계 배경음이 너무 나서 불편합니다.ㅠ

안녕하세요. 이제야 질문을 확인했습니다. 다른 분도 녹음 품질에 문제가 있다고 알려 주셔서 마이크를 바꿨습니다. 바꾸기 전에 이미 녹음한 영상들은 향후 다시 녹음할 예정입니다. 감사합니다.

42. 수업 7.6 다중 프롬프트 전략과 CoT 영상 오류

네. 확인해 보고 문제가 있으면 수정해서 다시 강의를 올리겠습니다. 알려 주셔서 감사합니다.