inflearn logo
강의

Course

Instructor

[DevOneYoung] Apache Kafka for beginners

안녕하세요 kafka 동시요청 관련 문의 드립니다.

398

namjaromang

1 asked

0

정상적으로 카프카를 동작 시키는 거까진 성공했는데 동시에 1000개씩 요청 을 하고싶은데 돼지않아 문의 드립니다.

props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, bootstrapAddress);
props.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
props.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, JsonDeserializer.class);
props.put(ConsumerConfig.REQUEST_TIMEOUT_MS_CONFIG, "10000");
props.put(ConsumerConfig.MAX_POLL_RECORDS_CONFIG, 500);
props.put(ConsumerConfig.MAX_POLL_INTERVAL_MS_CONFIG, 10000);

ConcurrentKafkaListenerContainerFactory<String, Long> factory =
new ConcurrentKafkaListenerContainerFactory<>();
factory.setConsumerFactory(consumerFactory());
factory.setConcurrency(1000);

14만개의 CSV파일을 FOR문을 돌며 PRODUCER 로 계속 밀어넣고 컨슈머는 그값을 받아 처리하도록 하고싶은데

CONSUMER 가 동시에 처리되는게 너무 낮아 10건 정도씩 되고 있어 문의드립니다.

consumer kafka Kafka 데이터 엔지니어링

Answer 0

섹션4 AWS NAT Instance생성하는 과정에서 오류가 지속해서 발생합니다.

0

12

1

user-service jwt

0

32

2

consumer에서 에러가 발생할 경우 데이터 유실 문의

0

38

2

게시글 테스트 데이터 삽입

0

43

2

강의가 검은 화면으로 나옵니다.

0

48

1

virtual box 설치 문제

0

59

2

강의가 부족한 것이 아니라, 누구나 쉽게 이해할 수 있도록 매우 단순하게 설계된 것입니다.

0

20

0

파이참 25.3.4 버전에서 한폴더에 두개 프로젝트 생성하는 방법은?

0

32

2

주제영역3 데이타 조회 문의

0

36

2

2. Kafka 설치 파일 다운받기 404 Not Found 오류 관련

0

59

2

카프카 서버 구축 관련 문의

0

62

2

UserSignedUpEventConsumer 에서 로그 DB 저장 문의

0

51

2

MSA에서 서비스별 DB 작성에 관해

0

80

2

Microservice 에 DB 띄우기

0

61

2

MSA 프로젝트 요구사항 및 설계 에서의 FK

0

64

2

consumer가 모든 파티션을 읽지 않는 이슈가 있습니다

0

80

3

MSA 환경에서의 카프카 공통 설정 관리

0

99

1

안녕하세요. kafka 실행중에 다음과같은 connection refused가 나는대 왜그런걸까요??

0

689

1

Hbase sink connector

0

320

1

여러 창 키고한번에 명령어 실행시키는 부분 어떻게 했는지 알려주실수잇을까요?

1

546

1

카프카 프로듀서, 컨슈퍼 속도

0

480

0

카프카 복구를 위한 offset 관련해서 질문이 있습니다.

1

312

0

책을 구매했는데 책에서는 zookeeper로 broker 클러스터링 내용이 안나오는걸까요?

0

365

0

controller와 leader의 차이점

0

262

0