ES 트러블슈팅 사례분석 강의 내용중 궁금한 게 있습니다.

Question

안녕하세요 강사님 좋은 강의 만들어주셔서 도움이 많이 되었습니다. 특시 트러블슈팅 강의는 운영시 큰 도움이될 것 같아요.   강의 수강중 아래 2가지 내용이 궁금하여 글 남깁니다.   트러블슈팅 사례분석 #2 (문서색인 불가) 에서 디스크 사용량에 따른 제한을 주는 클러스터 세팅 옵션이 있었는데요. 아래 두가지 옵션에 대하여 궁금한게 있습니다. cluster.routing.allocation.disk.watermark.low: 85% cluster.routing.allocation.disk.watermark.high: 90% 위와 같이 워터마크 설정을 % 로 설정을 할 수도 있지만, 절대값으로도 가능한것 같은데요. 저희쪽 설정을 보니 아래와 같이 되어 있는데 이럴때 의미가 어떻게 되는지 궁금합니다 cluster.routing.allocation.disk.watermark.low: 25.0gb cluster.routing.allocation.disk.watermark.high: 22.0gb low 설정의 경우 디스크가 25.0gb 남았을경우 더이상 샤드를 배치하지 않는다. 로 이해되는데 high 설정이 어떤 의미인지 잘 이해가 안되어요.   트러블슈팅 샤례분석 #3 (간헐적 색인 누락)에서 문제해결 방법으로 데이터 노드 증설 혹은 큐 증설을 말씀 주셨는데요. 아래와 같은 상황에서 데이터 노드 증설이 해답이 되는지 궁금합니다. 프라이머리 노드가 3개이고 데이터 노드가 3개인 상황에서 색인이 누락되고 있으면, 이때 데이터 노드를 증설해도 결국에는 추가된 노드는 색인 작업에 참여치 못하것 같은데요. 제가 이해한게 맞는지 궁금합니다.   이럴경우에는 프라이머리 샤드 갯수를 조정할 수 없는 상황일 것 같아서 어떤식으로 문제를 해결 할 수 있을지 궁금합니다.

강진우 · Answer

워터마크 설정을 %로 하는 것과 용량으로 하는 것은 의미가 동일 합니다. cluster.routing.allocation.disk.watermark.high: 22.0gb 는 남은 디스크 용량이 22gb 이하인 노드들의 샤드를 강제로 다른 노드로 배치 시키는 설정 입니다. 샤드를 강제로 옮겨서 해당 노드의 디스크 용량을 확보하게 됩니다. 자세한 설명은 https://www.elastic.co/guide/en/elasticsearch/reference/7.17/modules-cluster.html 을 참고 하시면 됩니다.   트러블슈팅 사례 #3의 경우는 큐에 담을 수 있는 이상의 문서를 색인할 때 발생하는 Rejected 에러와 관련된 내용 입니다. 강의에서 언급 되었던 것처럼 데이터 노드 증설이 효과를 보려면 샤드의 개수를 조절할 수 있어야 합니다. 그래서 샤드의 개수를 조절할 수 없다면 데이터 노드 증설은 효과를 볼 수 없습니다. 검색 엔진 용도의 클러스터라면 노드를 증설하고 샤드의 개수를 늘린 새로운 인덱스를 만들어 재색인을 해야 효과를 볼 수 있습니다. 만약 로그 수집 용도의 클러스터라면 오늘치 로그는 어쩔 수 없어도, 내일부터 쌓이는 로그는 정상적으로 쌓이도록 인덱스 템플릿 등에서 샤드의 개수를 수정하는 방식으로 진행할 수 있습니다.