AI에게 일을 더 잘 시키려면, 녀석의 '단기 기억력'을 관리하는 노하우가 필수입니다. 마치 똑똑한 비서에게 중요한 지시사항을 잊지 않게 도와주는 것처럼, '컨텍스트 엔지니어링' 기술로 AI의 작업 효율과 최종 결과물 품질을 극적으로 높일 수 있습니다. 이 팁들만 알면 AI와의 협업이 훨씬 부드러워집니다.

1. AI의 기억력, '컨텍스트 윈도우'란 무엇일까?

• AI 모델은 한 번에 처리하고 기억할 수 있는 정보의 양, 즉 '컨텍스트 윈도우'라는 한계가 있습니다.

• 이 기억 용량이 꽉 차면 AI는 마치 뇌가 리셋된 것처럼 헛소리를 하거나 중요한 내용을 잊어버립니다.

• 클로드 같은 AI는 용량이 차면 자동으로 내용을 요약해 다음 대화에 넘겨주는 '오토 콤팩트' 기능을 사용합니다.

  • 이 기능은 마치 환생할 때 중요한 메모만 남기는 것과 같지만, 언제, 무엇을 요약할지 우리가 통제할 수 없다는 치명적인 단점이 있습니다.

2. 컨텍스트 관리의 중요성: 환생하는 AI와 로또 번호

• 오토 콤팩트는 편리하지만, 우리가 정말 중요하다고 생각하는 정보 (예: 절대 잊으면 안 될 로또 번호)를 놓칠 수 있습니다.

• 따라서 AI가 일을 시작하기도 전에, 중요한 정보를 잃어버릴 위험을 미리 막아야 합니다.

• AI의 작업 효율과 결과물의 품질을 높이려면, 스스로 메모리를 관리하도록 도와줘야 합니다.

3. 첫 번째 핵심 기술: 작업 단위로 수동 '요약/압축'하기

• AI가 스스로 요약(오토 콤팩트)할 때까지 기다리지 말고, 중요한 작업 단위가 끝날 때마다 수동으로 요약을 지시해야 합니다.

• 이는 마치 긴 프로젝트에서 각 마일스톤이 끝날 때마다 회의록을 정리하는 것과 같습니다.

• 이렇게 하면 다음 단계 작업을 위해 기억 용량(컨텍스트 윈도우)을 깨끗하게 비워 놓을 수 있어 효율적입니다.

• 실제로 수동 콤팩트를 적용한 쪽은 왼쪽보다 훨씬 나중에 자동 콤팩트가 되었음에도 더 높은 품질의 결과물을 냈습니다.

4. 두 번째 핵심 기술: '구조화된 노트'로 뇌 용량을 파일에 저장하기

• AI의 제한된 '뇌 용량'을 파일로 옮겨서 영구 보존하는 기술이 구조화된 노트 작성입니다.

• AI에게 해야 할 일 목록(테스크스.md)을 상세하게 작성하게 하고, 작업을 할 때마다 이 목록을 확인하고 업데이트하게 시킵니다.

• 포켓몬 게임에서 클로드가 상대 공격 패턴을 파일로 기록하며 학습한 것처럼, 경험과 규칙을 메모로 남기는 것입니다.

• 비록 초기 설정 단계에서는 계획 없는 쪽(왼쪽)이 더 빨라 보일 수 있지만, 장기적으로는 규칙을 가진 쪽(오른쪽)의 품질과 속도가 압도적으로 올라갑니다.

  
  

5. 세 번째 핵심 기술: '서브 에이전트'로 업무 분담시키기

• 메인 클로드 에이전트가 모든 것을 기억하고 처리하게 두지 말고, 작은 전문 비서들('서브 에이전트')을 만드는 방법입니다.

• 각 서브 에이전트에게 '테스트 작성자', '리액트 컴포넌트 빌더' 등 격리된 임무를 부여합니다.

• 이렇게 하면 메인 AI는 핵심 기억력을 유지하면서, 서브 에이전트들이 자신의 작은 공간에서 효율적으로 일을 처리하게 됩니다.

• 예를 들어, 서브 에이전트가 코드를 편집할 때, 메인 컨텍스트를 낭비하지 않고 해당 전문가만 투입하여 컨텍스트 낭비를 줄일 수 있습니다.

6. 세 가지 기법 적용 결과: 디테일이 차이를 만든다

• 세 가지 기법(콤팩트, 노트, 서브 에이전트)을 모두 적용한 결과는 적용하지 않은 쪽과 극명하게 달랐습니다.

• 단순해 보이는 2048 게임 개발에서도 차이가 났는데, 큰 프로젝트에서는 그 차이가 훨씬 클 것입니다.

• 적용한 쪽(오른쪽)은 파비콘 설정, 모바일 UI 변형, 테스트 코드 포함 등 디테일에서 우위를 보였습니다.

• 반면, 적용하지 않은 쪽(왼쪽)은 로딩 창이 뜨거나 UI가 찌그러지는 등 완성도가 떨어졌습니다.