inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

실리콘밸리 엔지니어와 함께하는 Apache Flink

Kafka 데이타를 Flink에서 처리하기

kafka 단독 실시간 데이터 처리보다 flink를 추가로 구축하고 사용시의 장점에 대해 질문 드립니다.

해결된 질문

113

백지훈

작성한 질문수 2

0

안녕하세요, 강의 잘 들었습니다.

아직 실무에 flink를 사용해 본 적이 없어 조금 더 구체적인 장점등을 알고 싶어 질문 드리게 되었습니다.

사실 기존에는 kafka만을 사용해서 실시간 데이터 처리를 하는 사례도 많았던 것 같은데

이 때 추가로 flink를 사용할 때 kafka만을 사용할 때 보다 어떤 부분이 더 나은지 등에 대해 조금 궁금해져서 질문 드립니다.

빅데이터 데이터-엔지니어링 data-analysis flink 데이터-트랜스포메이션

답변 1

0

미쿡엔지니어

안녕하세요, 백지훈님,

좋은 질문이에요. 요약하자면...

  • Kafka 단독일 경우에는 메시지 버스 + 간단한 소비/생산에 최적이라 할수 있고, 상태가 작고, 윈도우/조인/지연 이벤트 처리가 단순한 경우 괜찮습니다.

  • Flink 추가하시면 대규모 상태, 이벤트타임 정확성, 복잡한 윈도우 조인, 재처리 및 Backfill, 정확히 한 번 처리까지 더 많은 장점이 있습니다.

제가 실전에서 느꼈던 좋은 점으로는 지연 이벤트 보정, 세션 종료 타이머 같은 것을 잘 쓰고 있습니다.

0

백지훈

아 이해가 됐습니다. 감사합니다. 배운 것들을 토대로 현업에서 잘 활용해 보겠습니다 ㅎㅎ

안녕하세요? 강사님 질문있습니다.(인코딩관련)

0

33

2

이진분류에서 양성 클래스가 0일 때 평가 방법

0

27

2

원핫인코딩 전 train과 test 병합여부

0

42

2

수강기간 연장

0

50

2

Spark 3.5에서 pandas의 NaN이 NULL로 바뀌지 않을 때

0

39

1

29강 작업2형의 이상치 처리

0

58

2

수강기간 연장 문의드립니다!

0

61

2

9월에 실기출제기준 개정내역에 신설된부분

0

54

1

경쟁상태

0

49

1

stmt

0

41

1

실기 문제 구성?

0

32

0

실기 문제 구성?

0

33

0

작업형2 모의문제2 결과값 관련 문의드립니다.

0

65

2

Kafka 4.0 zk 코드 제거 가이드 요청

0

41

2

12회차 시험 실패 후 13회 도전 예정입니다.

0

52

1

random_state 값

0

69

2

19강 감정분석 강의처럼 api 돌렸는데

1

54

1

강의 연장 문의 드립니다.

0

64

2

강의 연장 문의

0

60

2

16강에서 코드가 계속 안도길래. ai가 고쳐서 일단 supabase에 preditc 한 주가를

1

55

1

오징어게임

0

66

1

Flink 2.0 버전부터 스칼라를 더이상 지원하지 않네요

0

193

2

Data Sink Topology 질문 있습니다

0

130

2

State Management & Fault Tolerance 부분 설명이 하나도 이해가 안 돼요

0

135

2