inflearn logo
강의

Course

Instructor

Apache Flink with Silicon Valley Engineers

Processing Kafka Data in Flink

kafka 단독 실시간 데이터 처리보다 flink를 추가로 구축하고 사용시의 장점에 대해 질문 드립니다.

Resolved

69

back47402311

2 asked

0

안녕하세요, 강의 잘 들었습니다.

아직 실무에 flink를 사용해 본 적이 없어 조금 더 구체적인 장점등을 알고 싶어 질문 드리게 되었습니다.

사실 기존에는 kafka만을 사용해서 실시간 데이터 처리를 하는 사례도 많았던 것 같은데

이 때 추가로 flink를 사용할 때 kafka만을 사용할 때 보다 어떤 부분이 더 나은지 등에 대해 조금 궁금해져서 질문 드립니다.

빅데이터 데이터-엔지니어링 data-analysis flink 데이터-트랜스포메이션

Answer 1

0

altoformula

안녕하세요, 백지훈님,

좋은 질문이에요. 요약하자면...

  • Kafka 단독일 경우에는 메시지 버스 + 간단한 소비/생산에 최적이라 할수 있고, 상태가 작고, 윈도우/조인/지연 이벤트 처리가 단순한 경우 괜찮습니다.

  • Flink 추가하시면 대규모 상태, 이벤트타임 정확성, 복잡한 윈도우 조인, 재처리 및 Backfill, 정확히 한 번 처리까지 더 많은 장점이 있습니다.

제가 실전에서 느꼈던 좋은 점으로는 지연 이벤트 보정, 세션 종료 타이머 같은 것을 잘 쓰고 있습니다.

0

back47402311

아 이해가 됐습니다. 감사합니다. 배운 것들을 토대로 현업에서 잘 활용해 보겠습니다 ㅎㅎ

작업형 1 유형 부분

0

8

1

작업형 1 (삭제예정, 구 버전)

0

28

2

수강기간 연장 문의드립니다.

0

19

1

2유형 레이블 인코딩 VS 원핫 인코딩

0

19

3

수강기간 연장 문의드립니다.

0

26

1

인덱스 슬라이싱

0

26

2

astro dev start - python 라이브러리 설치 fail

0

22

1

맥북 환경구성 에러

0

19

2

Free Edition 실습 영상은 아직 업데이트전인가요?

0

22

1

질문 드립니다.

0

45

2

강의 내용 관련 질문드립니다~

0

43

2

라이브 운영중인 환경의 테이블에 인덱스 추가시 고려사항

0

36

2

수강 연장 문의

0

54

2

강의자료 일괄 다운로드

0

49

2

list 문제 질문드립니다~

0

34

2

빅분기 실기 12회 재도전

0

52

2

강의 기간 연장 가능여부 검토 요청건

0

38

2

수강기간 연장 문의 드립니다

0

43

2

수강기간 연장 문의드립니다

0

50

2

질문이요

0

55

2

수강기간 연장 문의드립니다.

0

58

2

Flink 2.0 버전부터 스칼라를 더이상 지원하지 않네요

0

100

2

Data Sink Topology 질문 있습니다

0

53

2

State Management & Fault Tolerance 부분 설명이 하나도 이해가 안 돼요

0

79

2