inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[데브원영] 아파치 카프카 for beginners

안녕하세요 kafka 동시요청 관련 문의 드립니다.

413

남자로망

작성한 질문수 1

0

정상적으로 카프카를 동작 시키는 거까진 성공했는데 동시에 1000개씩 요청 을 하고싶은데 돼지않아 문의 드립니다.

props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, bootstrapAddress);
props.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
props.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, JsonDeserializer.class);
props.put(ConsumerConfig.REQUEST_TIMEOUT_MS_CONFIG, "10000");
props.put(ConsumerConfig.MAX_POLL_RECORDS_CONFIG, 500);
props.put(ConsumerConfig.MAX_POLL_INTERVAL_MS_CONFIG, 10000);

ConcurrentKafkaListenerContainerFactory<String, Long> factory =
new ConcurrentKafkaListenerContainerFactory<>();
factory.setConsumerFactory(consumerFactory());
factory.setConcurrency(1000);

14만개의 CSV파일을 FOR문을 돌며 PRODUCER 로 계속 밀어넣고 컨슈머는 그값을 받아 처리하도록 하고싶은데

CONSUMER 가 동시에 처리되는게 너무 낮아 10건 정도씩 되고 있어 문의드립니다.

consumer kafka Kafka 데이터 엔지니어링

답변 0

Inner class로 Config를 지정하는 이유

0

8

1

Hive metastore setup중에 오류 발생

0

10

2

ArticleReadService 관련 질문

0

17

1

kafka 이벤트 발행 실패 시 at-least-once를 보장하는 방법이 궁금합니다.

1

48

1

domain에 @Entity 와 Repository를 함께 둔 이유가 궁금합니다

1

35

1

mtputty.com 사용하실 때 주의하세요(질문X/공유)

0

29

2

VirtualBox가 아닌 VMware를 사용해도 되나요

0

25

2

Jib 이미지 빌드에서 docker credential 관련으로 이슈가 있다면

1

60

1

스크립트에 대해 질문 있습니다.

1

54

1

같은 사용자가 연속된 중복 호출할 경우 어떻게 되는지 궁금합니다!

2

63

1

조건 검색 질문

0

39

1

WebFlux & Web MVC 혼용해서 사용했을 때 스레드에 대한 질문

0

35

1

댓글 삭제 로직에서 동시성 문제 발생 가능성

0

37

1

재고 감소와 쿠폰 발급은 왜 서로 다른 방식으로 동시성을 제어하나요?

0

55

2

service-discovery 프로세스 가동 이유

0

48

1

DLQ의 수동 커밋에 대해서 질문있습니다.

0

67

2

MSA 환경에서의 카프카 공통 설정 관리

0

121

1

안녕하세요. kafka 실행중에 다음과같은 connection refused가 나는대 왜그런걸까요??

0

729

1

Hbase sink connector

0

331

1

여러 창 키고한번에 명령어 실행시키는 부분 어떻게 했는지 알려주실수잇을까요?

1

560

1

카프카 프로듀서, 컨슈퍼 속도

0

496

0

카프카 복구를 위한 offset 관련해서 질문이 있습니다.

1

331

0

책을 구매했는데 책에서는 zookeeper로 broker 클러스터링 내용이 안나오는걸까요?

0

379

0

controller와 leader의 차이점

0

276

0