inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[아파치 카프카 애플리케이션 프로그래밍] 개념부터 컨슈머, 프로듀서, 커넥트, 스트림즈까지!

아파치 카프카가 데이터 파이프라인으로 적합한 4가지 이유

네트워크 비용관련 설명 질문드립니다.

291

따뜻한 가재

작성한 질문수 2

0

안녕하세요.

프로듀서에서 토픽으로 데이터가 들어갈때,

초당 데이터가 1건/1000건의 예시를 들으셨는데,

해당부분을 배치로 묶어서 1000건을 100개당 1건으로 가정하여 1000건의 처리를 100건으로 줄이는 부분에 대해서 카프카만이 할수있는 부분인가요?

kafka 데이터-엔지니어링

답변 2

0

데브원영 DVWY

안녕하세요.

카프카 뿐만 아니라 많은 스트리밍 플랫폼(혹은 에이전트들)에서는 데이터 전달 효율을 높이기 위해 배치방식을 사용하고 있습니다.

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴이에요. 네트워크 비용 관련 질문에 답변해드릴게요.

카프카는 분산 스트리밍 플랫폼으로, 데이터를 빠르게 처리하고 분산 저장하는 기능을 제공합니다. 따라서, 데이터 처리량을 조절하여 네트워크 비용을 관리하는 부분에서 카프카를 사용할 수 있습니다.

하지만, 네트워크 비용을 줄이기 위해 데이터를 배치로 묶어 처리하는 방법은 카프카에만 의존하지 않고 다른 방법으로도 가능합니다. 예를 들어, 스트리밍 프레임워크인 Apache Flink 또는 Apache Storm과 같은 기술을 사용하여 데이터를 배치로 처리할 수 있습니다.

따라서, 카프카만이 할 수 있는 것은 아니지만, 데이터 처리량을 조절하여 네트워크 비용을 관리하는 부분에서 카프카를 사용할 수 있다는 점을 참고하세요. 추가적인 질문이 있으시면 언제든지 물어보세요. 즐거운 학습 되세요!

consume 이후 lag가 줄어들지 않음

0

74

2

안녕하세요. 강의의 카프카 버전과 현재 시점의 카프카의 차이점 문의 드립니다.

0

114

2

멱등성 프로듀서 retries 관련 질문입니다.

0

97

2

채팅 서비스 개발 시 주의점이 있을까요?

0

98

2

충분히 큰 파티션 생성시 궁금증이 존재합니다.

0

86

2

KTable 키가 없는 레코드 처리

0

72

2

컨슈머 테스트 코드 작성

0

94

2

리밸런스 onPartitionRevoked이 필요한 상황

0

74

2

카프카 클러스터에서 감당 가능한 파티션(레플리카) 수 문의

0

119

2

reset offset 질문

0

77

2

KStreamJoinKTable 실행시 오류

0

78

2

auto.commit.interval.ms 옵션 관련 질문 드립니다.

0

141

2

파티션, 컨슈머 그룹, 컨슈머 관련 질문

0

117

1

java, kotlin

0

130

2

shutdownThread 에 대한 문의 입니다.

0

154

2

zookeeper실행시 오류가 발생합니다.

0

268

2

커스텀 소스 커넥터에서 Thread.sleep (1000) 은 왜 하는거에요?

0

152

2

처리량을 늘리기 위해서 파티션을 늘리고 컨슈머를 늘려야한다고 설명하셨는데요

0

180

3

파티션 개수와 컨슈머 개수의 처리량 관련 질문

0

163

2

동영상 및 이미지 처리 관련 문의 드립니다.

0

225

2

주키퍼 없이 사용 문의 드립니다.

0

302

1

kafka 를 띄우니 오류가 발생하고 종료합니다.

0

280

3

zookeeper 실행시 오류 .. 무엇을 해야 할까요?

0

220

2

파티션 추가로 해결할 수 있지만 늘어난 파티션은 줄일 수 없지 않나요?

0

192

2