Executorservice 궁금한게 많습니다.
학습하는 분들께 도움이 되고, 더 좋은 답변을 드릴 수 있도록 질문 전에 다음을 꼭 확인해주세요.
1. 강의 내용과 관련된 질문을 남겨주세요.
2. 인프런의 질문 게시판과 자주 하는 질문(링크)을 먼저 확인해주세요.
(자주 하는 질문 링크: https://bit.ly/3fX6ygx)
3. 질문 잘하기 메뉴얼(링크)을 먼저 읽어주세요.
(질문 잘하기 메뉴얼 링크: https://bit.ly/2UfeqCG)
질문 시에는 위 내용은 삭제하고 다음 내용을 남겨주세요.
=========================================
[질문 템플릿]
1. 강의 내용과 관련된 질문인가요? 예
2. 인프런의 질문 게시판과 자주 하는 질문에 없는 내용인가요? 예
3. 질문 잘하기 메뉴얼을 읽어보셨나요?예
[질문 내용]
실무 웹앱의 특정 api 의 연산속도가 너무 느려
ExecutorService 를 활용하여 멀티스레드기법으로 연산속도를 올려볼 계획입니다.
ExecutorService executor = Executors.newFixedThreadPool(5);
위와 같이 스레드풀의 스레드갯수를 5로 설정하려고합니다. 근데 이때 특정 api 에 동시에 5개의 요청이 들어왔다면 executor 객체가 메모리상에 5개가 생성되면서 스레드풀도 자동으로 5개 생성돼 총 25개의 스레드가 생성될것으로 보이는데 이게 서버에 부하를 주지는 않을지 궁금합니다.
아니면 실무에서는 ExecutorService 를 static 싱글톤으로 선언해서 더이상 인스턴스가 생성되지 않게 하고 캐시풀 전략을 사용해야하는건지 궁금하네요.
그리고 ExecutorService 같은건 요청이 몰리는 api 같은데서 사용하는게 아니라 배치작업같은데서 사용해야하는건지도 궁금합니다..
궁금한게 많은 주니어 개발자입니다. 영한님의 답변을 듣고싶네요 ㅠㅠ ai 말고 ㅠㅠ
답변 2
1
안녕하세요. backendman님
지금처럼 요청마다 ExecutorService를 만드는 것은 좋지 않은 방법입니다.
service() {
ExecutorService executor = Executors.newFixedThreadPool(5);
// 비즈니스 로직 ...
}위처럼 코드를 매번 API 로직에서 실행한다면, 예를 들어 동시에 5개의 요청이 들어왔을 때 서로 다른 ExecutorService 인스턴스가 5개 만들어지고, 각각이 내부적으로 5개의 스레드를 가지게 됩니다.
즉, 총 25개의 스레드가 (정확히는 5개의 스레드풀 * 5스레드 = 25) 생성되는 셈이죠.
여기서 문제는 풀이 새로 생성되면서 스레드도 각 요청 마다 계속 생성/종료 되므로 성능상 좋지 않습니다.
또, 생성된 ExecutorService를 요청 처리 후에 명시적으로 shutdown() 또는 shutdownNow() 등을 호출해서 적절히 스레드 풀을 정리해주지 않으면, 계속 리소스가 점유될 수도 있습니다.
결국 API 호출이 있을 때마다 ExecutorService를 새로 만드는 구조는 대부분의 경우 비효율적입니다.
실무에서는 싱글톤으로 사용하거나 또는 스프링을 사용한다면 스레드 풀을 스프링 빈에 등록해서 주입 받는 방식으로 사용하시면 됩니다.
물론 이때 풀은 공용으로 사용하기 때문에 풀의 숫자는 우리 시스템이 받을 수 있는 적절한 숫자로 늘려두셔야 합니다. 예를 들어서 우리 시스템이 해당 요청을 동시에 100개 까지 수용할 수 있어야 한다면 스레드 풀은 500개 정도로 설정해두어야 겠지요? 그리고 여기에 맞는 CPU, 메모리를 사용하셔야 합니다.
감사합니다.
0
안녕하세요, 인프런 AI 인턴입니다.
backendman님께서 질문하신 내용을 기반으로 답변 드리겠습니다.
ExecutorService의 생성 방식과 서버 부하:
ExecutorService executor = Executors.newFixedThreadPool(5);를 사용할 경우, 이 코드는 각 API 요청마다 새로운ExecutorService인스턴스를 생성하지 않도록 주의해야 합니다. 일반적으로, 스레드풀은 가능한 한 적은 수의 인스턴스로 유지하는 것이 좋습니다. 따라서,ExecutorService를 한 번만 생성하고 모든 API 요청이 이를 공유하도록 하는 것이 좋습니다. 이렇게 하면 자원의 효율적인 사용이 보장됩니다.싱글톤 사용 및 전략:
ExecutorService를 static 싱글톤으로 선언하면 여러 요청 간에 스레드풀을 공유할 수 있습니다. 이렇게 하면 스레드풀이 매번 새로 생성되지 않고, 서버 부하를 줄일 수 있습니다. 필요한 경우 자원을 효율적으로 관리하기 위한 다양한 스레드풀 전략을 고려할 수 있습니다.ExecutorService의 사용처:
ExecutorService는 배치 작업 뿐만 아니라 많은 수의 동시 요청을 처리해야 하는 경우에도 유용할 수 있습니다. API 요청의 응답 속도를 높이기 위해 멀티스레딩이 필요하다면 사용할 수 있습니다. 다만, 동시성 관련 문제를 예방하고 적절한 리소스 관리를 위해 잘 설계해야 합니다.
추가적으로, 실무에서는 요청량에 기반하여 더 복잡한 로드 밸런싱이나 비동기 처리 기법을 사용할 수도 있습니다. 학습과 실무 환경에 맞게 적절히 대응하여 사용하는 것이 중요합니다.
여기까지 AI 인턴의 답변이었으며, 해당 주제에 대해 더 깊이 있는 답을 원하신다면 영한님의 강의를 참고하시거나 직접 답변을 요청해보시면 더 많은 도움을 받을 수 있을 것입니다.
Spring Boot Task Execution & Scheduling 관련 문서도 참고하시면 도움이 될 수 있으니 확인해보세요.
감사합니다.
모니터와 synchronized, ReentrantLock, 원자적연산 CAS관련해서 추가적으로 더 깊게 공부했는데 제가 이해한 것이 맞나요??
0
84
1
Future cancel기능을 사용했지만 interrupt가 발생하지 않을 때 어떻게 처리해야하나요?
0
72
2
2.스레드 생성과 실행 - 17P 그림 문의
0
73
2
자바 동시성 현업에서 사용예시가 궁금합니다
0
133
1
ReentrantLock 동작 원리에 대한 질문입니다.
0
81
1
synchronized 대신 join 을 사용하여 순서를 보장할 경우 해법이 아닌가요?
0
93
2
메모리 가시성 문제 질문
0
69
1
Future4-이유 질문
0
64
1
오타 제보
0
74
2
runnable 질문
0
95
2
자바가 아닌 다른 언어에서도
0
111
1
메모리 가시성 문제가 발생하는 이유
0
125
1
데몬스레드가 어떨 때 사용이 되는지 궁금합니다.
0
78
1
Future.cancel() 취소를 사용하는 예가 궁금합니다.
0
84
1
synchronized 와 인스턴스의 lock
0
90
2
synchronized 키워드만으로 메모리 가시성이 해결되는 이유가 궁급합니다.
0
62
1
[스레드 풀과 Executor 프레임워크1][문제와 풀이] `log("일부 작업이 실패했습니다.");` 실행되는 경우가 있을까요?
0
59
1
원자적 연산이 멀티스레드 상황에서 안전한 이유를 제대로 이해했는지 확인 부탁드립니다
0
67
2
자바 고급 1,2,3편 같이 진행해도 문제없나요
0
77
2
CPU 캐시 때문에도 잔액이 200원이 될 수 있나요?
0
105
2
synchronized 메서드와 join 관련 질문이 있습니다.
0
69
2
섹션 14. 115번 강의 내용 질문
0
82
2
교안에 있는 7페이지 데이터 영역
0
51
1
Executor 스레드 풀 관리 질문
0
108
2