inflearn logo
강의

講義

知識共有

シリコンバレーエンジニアと一緒に学ぶApache Flink

KafkaデータをFlinkで処理する

kafka 단독 실시간 데이터 처리보다 flink를 추가로 구축하고 사용시의 장점에 대해 질문 드립니다.

解決済みの質問

80

back47402311

投稿した質問数 2

0

안녕하세요, 강의 잘 들었습니다.

아직 실무에 flink를 사용해 본 적이 없어 조금 더 구체적인 장점등을 알고 싶어 질문 드리게 되었습니다.

사실 기존에는 kafka만을 사용해서 실시간 데이터 처리를 하는 사례도 많았던 것 같은데

이 때 추가로 flink를 사용할 때 kafka만을 사용할 때 보다 어떤 부분이 더 나은지 등에 대해 조금 궁금해져서 질문 드립니다.

빅데이터 데이터-엔지니어링 data-analysis flink 데이터-트랜스포메이션

回答 1

0

altoformula

안녕하세요, 백지훈님,

좋은 질문이에요. 요약하자면...

  • Kafka 단독일 경우에는 메시지 버스 + 간단한 소비/생산에 최적이라 할수 있고, 상태가 작고, 윈도우/조인/지연 이벤트 처리가 단순한 경우 괜찮습니다.

  • Flink 추가하시면 대규모 상태, 이벤트타임 정확성, 복잡한 윈도우 조인, 재처리 및 Backfill, 정확히 한 번 처리까지 더 많은 장점이 있습니다.

제가 실전에서 느꼈던 좋은 점으로는 지연 이벤트 보정, 세션 종료 타이머 같은 것을 잘 쓰고 있습니다.

0

back47402311

아 이해가 됐습니다. 감사합니다. 배운 것들을 토대로 현업에서 잘 활용해 보겠습니다 ㅎㅎ

14강 "" 사용 관련 질문

0

10

2

캐글 제출 점수

0

15

2

기출 마무리 방법

0

36

2

빅이시 작업형2 기초 - 케이스 1~3 관련 문의

0

22

2

데이터프레임 슬라이싱 인덱싱 질문2

0

22

2

단일표본검정, 샤피로검정, 윌콕슨검정

0

29

2

강의자료 다운로드 여부

0

30

2

문제에 첨부된 예시와 실제 출력된 샘플 비교

0

27

2

원핫 인코딩 관련

0

37

2

타겟 분리

0

33

2

Id 삭제

0

40

2

roc_auc_score 질문: 작업형2 모의문제3 09분 48초

0

37

2

원핫인코딩 코드 질문

0

34

2

map 함수 사용 필수적인가요

0

45

2

수강 기한 연장 문의드립니다.

0

49

2

34강 평가지표

0

36

2

103강 작업2형 전처리(레이블인코딩 부분) 오류

0

26

3

작업형1_section14 문의

0

23

2

작업형1_연습문제 7번 관련입니다.

0

27

2

데이터 프레임 슬라이싱 혹은 데이터 선택하기가 어렵습니다.

0

27

2

크로스 밸리데이션 질문

0

33

2

Flink 2.0 버전부터 스칼라를 더이상 지원하지 않네요

0

114

2

Data Sink Topology 질문 있습니다

0

62

2

State Management & Fault Tolerance 부분 설명이 하나도 이해가 안 돼요

0

88

2