inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

묻고 답해요

173만명의 커뮤니티!! 함께 토론해봐요.

Elasticsearch, logstash 세팅 시 오류 사항 공유

미해결

개발자에게 필요한 로그 관리

맥북 M1 시리즈 사용하고 있는데, 강의에서의 docker 이미지 다운로드 및 컨테이너 실행 시 문제가 발생하고 있습니다(이미지 다운로드는 문제없으나, 컨테이너 실행시 문제 발생). 플랫폼 관련 옵션이 추가적으로 필요합니다. --platform linux/amd64 강의 자료보면 각각 Elasticsearch, Logstash 따로 작성되어 있는데 yml 하나로 제공되어도 좋을 것으로 보입니다. version: "3.8" services: elasticsearch: image: docker.elastic.co/elasticsearch/elasticsearch:8.10.0 container_name: elasticsearch platform: linux/amd64 ports: - "9200:9200" environment: - discovery.type=single-node - xpack.security.enabled=false - xpack.security.http.ssl.enabled=false networks: - elastic-network logstash: image: docker.elastic.co/logstash/logstash:8.10.0 container_name: logstash platform: linux/amd64 ports: - "5044:5044" - "9600:9600" volumes: - ../logstash.conf:/usr/share/logstash/pipeline/logstash.conf # logstash.conf 경로 수정 필요 networks: - elastic-network networks: elastic-network: driver: bridge

  • spring-boot
  • elasticsearch
  • logstash
  • Kibana
  • logback
  • 도커
  • docker
eriolshin10 댓글 1 좋아요 2 조회수 441

body가 아닌 request Parameter는 디버그로 안남기나요?

미해결

개발자에게 필요한 로그 관리

안녕하세요. 강의 잘 듣고 있습니다. 강의에서 spring filter를 이용해서 controller 에서 들어온 요청정보들에 대한 log를 찍는걸 보여주셨는데요. 혹시 url 들어온 파라미터는 로그에 찍지않는지 궁금합니다. 그리고 요청마다 body가 안들어오는 경우가 있고, 파라미터만 들어온다던지 경우의 수가 다양할거같은데.. 이럴 때는 필터를 어떤식으로 구성해야하는지 궁금합니다.

  • spring-boot
  • elasticsearch
  • logstash
  • Kibana
  • logback
인생은회전목마 댓글 2 좋아요 1 조회수 298

output이 제대로 작동하지 않는 것 같습니다.

미해결

개발자에게 필요한 로그 관리

output { elasticsearch { hosts => ["http://elasticsearch:9200"] index => "application-logs-%{+YYYY.MM.dd}" } } 위에 있는 설정 대로라면 yellow open application .. << 이게 localhost9200에 나타나야하는데 안뜨고 하단의 에러가 나옵니다. 14:24:25,530 |-WARN in net.logstash.logback.appender.LogstashTcpSocketAppender[LOGSTASH] - Log destination localhost/<unresolved>:5044: Waiting 29951ms before attempting reconnection. 해결할려고 시도한 방법은 hosts의 url을 ip를 주소로 같게 해서 시도해보았으나 안되었습니다.

  • spring-boot
  • elasticsearch
  • logstash
  • Kibana
  • logback
dou ddaa 댓글 2 좋아요 1 조회수 325

예외발생하면 printstacktrace()를 사용하시나요 ?

미해결

개발자에게 필요한 로그 관리

구글에 쳐보니 예외가 터지면 printstacktrace()는 지양하고 getStackTrace() 를 사용하라는데 의견이 궁금합니다 !

  • spring-boot
  • elasticsearch
  • logstash
  • Kibana
  • logback
코찔질이 댓글 1 좋아요 1 조회수 295

코딩 프로그램

미해결

빅데이터 파이프라인 마스터; 성공을 위한 도구와 기술

수업에서 사용하고 계시는 코딩 프로그램이 무엇인가요? philip@philp해서 화면이 나오는데, 이건 어떤걸 사용해서 해야하는 걸까요? 주피터 노트북 얘기해 주셔서 그걸로 하고 있는데, 아예 안되는 것들이 많아서요, 그리고 왔다갔다 하면서 하시던데, 어떤걸 사용하고 계시는 걸까요?

  • 빅데이터
  • hadoop
  • elasticsearch
  • logstash
  • Kibana
  • apache-spark
  • s3-bucket
인승 댓글 1 좋아요 0 조회수 160

logstash 가 elasticsearch로 전달 할때 에러가 납니다.

해결됨

개발자에게 필요한 로그 관리

logstash 가 elasticsearch로 전달 할때.. 에러가 나는것 같은데 Log destination localhost/<unresolved>:5044: Waiting 29992ms before attempting reconnection. 이런에러가 납니다. 혹시 원인을 알수 있을까요?

  • spring-boot
  • elasticsearch
  • logstash
  • Kibana
  • logback
댓글 3 좋아요 1 조회수 390

색션2 실습 practice 1 질문드립니다.

미해결

빅데이터 파이프라인 마스터; 성공을 위한 도구와 기술

아래와 같은 양식으로 질문을 남겨주세요 🙂 교수님이 작성해주신 코드와 동일하게 작성하였는데 실행이 url링크만 나옵니다 왜그럴까요 ㅠ ㅠ

  • 빅데이터
  • hadoop
  • elasticsearch
  • logstash
  • Kibana
  • apache-spark
  • s3-bucket
인승 댓글 1 좋아요 0 조회수 150

색션2 실습 Carwling에 practice 1 부분 질문드립니다.

미해결

빅데이터 파이프라인 마스터; 성공을 위한 도구와 기술

아래와 같은 양식으로 질문을 남겨주세요 🙂 수업을 들으시면 이해하기 어려운 부분이 있으면 상세히 질문을 남겨주세요. 서로 Tone and Manner 를 지키며, 즐거운 수업 시간을 만들어보아요. 실제 기상청 RSS에 가보면 mid-term 다음에 rss3.jsp로 나와있는것을 확인 할 수 있는데 아래 교수님이 써주신 코드는 mid-term 다음에 lss3.jsp로 작성해 주셨습니다. # api 주소는 밑에거를 가져와 api_addr = "http://www.kma.go.kr/weather/forecast/mid-term-lss3.jsp" 실행을 해보니 rss3.jsp는 실행이 안되고 lss3.jsp는 실행이 됩니다. 왜 그런 것일까요? 문의 드립니다!

  • 빅데이터
  • hadoop
  • elasticsearch
  • logstash
  • Kibana
  • apache-spark
  • s3-bucket
댓글 1 좋아요 1 조회수 139

yahoo finacne 데이터 다운로드 안됩니다.

미해결

빅데이터 파이프라인 마스터; 성공을 위한 도구와 기술

yahoo finance data 는 " Gold subscription" 부터 가능하다고 합니다. 샘플 자료 공유 해주세요.

  • 빅데이터
  • hadoop
  • elasticsearch
  • logstash
  • Kibana
  • apache-spark
  • s3-bucket
yayayaya 댓글 1 좋아요 0 조회수 434

섹션2 가상환경 설치 오류

해결됨

빅데이터 파이프라인 마스터; 성공을 위한 도구와 기술

안녕하세요. 섹션2 실습 진행 중 가상환경 설치 부분부터 막히고 있어 문의드립니다ㅠㅠ 다른 질문들 찾아보고 virtualbox 우분투 환경에서 진행 중입니다. python3 설치 방법, pip 설치 방법을 따로 안내해주시지 않아서 구글링 해서 진행했는데, 자꾸 오류가 나네요. 우분투 버전이 24.04.01 입니다. 버전 차이에서 오는 오류일까요? 오류 내용을 보고 구글링해봐도 해결이 어려워 도움 요청합니다ㅠㅠ

  • 빅데이터
  • hadoop
  • elasticsearch
  • logstash
  • Kibana
  • apache-spark
  • s3-bucket
이세령 댓글 1 좋아요 0 조회수 191

강의 자료는 제공되지 않나요?

해결됨

개발자에게 필요한 로그 관리

강의 잘 보고 있습니다. 혹시 강의 자료는 제공되지 않나요?

  • spring-boot
  • elasticsearch
  • logstash
  • Kibana
  • logback
최병현 댓글 3 좋아요 1 조회수 517

웹서비스 ELK 연동 실습과 시각화 강의 6:20 이후에서 질문입니다

미해결

IT인을 위한 ELK 통합로그시스템 구축과 활용

웹서비스 ELK 연동 실습과 시각화 강의 5:45 이후에서 질문입니다 sudo gedit /etc/filebeat/filebeat.yml 명령으로 파일을 열면 ----- Logstash Output ------ 에서 outputs.logstash: host: ["localhost":5044"] 로 나옵니다. 강의화면에는 IPv 주소가 나오는데요 host: ["192.168.145.134":5044"] ( 192.168.145.134 ) 라는 식으로요... 이런 식으로 나오게 할 수 있는 방법을 자세하게 알려주세요

  • elasticsearch
  • logstash
  • Kibana
Pear Acro 댓글 1 좋아요 0 조회수 142

수강기간연장가능할까요?

미해결

빅데이터 파이프라인 마스터; 성공을 위한 도구와 기술

생각보다 진도를 못나가서 혹시 연장이 가능한가요?

  • 빅데이터
  • hadoop
  • elasticsearch
  • logstash
  • Kibana
  • apache-spark
  • s3-bucket
이아영 댓글 1 좋아요 0 조회수 227

엘라스틱 라이센스

미해결

IT인을 위한 ELK 통합로그시스템 구축과 활용

강의내용 잘 보고 있습니다 강의내용을 바탕으로 홈피에 검색기능을 추가 하여 상업적으로 이용할려고 하는데 아래 사항이 궁금합니다 현상황 : 자체서버에 엘라스틱 도커를 설치하여 어느정도 개발이 완료됨 문의사항 1달정도가 지나니까 라이센스 만료가 나타나는데 이때 무료기간을 (30일) 확장하면 그동안 저장된 data를 사용할수 있는지 ? 2. 무료로 계속 사용할수 있는 방법이 있는지 유료를 검색해보니 $95/월 인데 이것을 이용하는 방법이 어떠한지 궁금합니다 수고하세요

  • elasticsearch
  • logstash
  • Kibana
모시개 댓글 1 좋아요 0 조회수 198

수강 기한 연장이 가능할까요?

미해결

빅데이터 파이프라인 마스터; 성공을 위한 도구와 기술

안녕하세요 강사님 어느새 수강기한이 얼마 남지 않아서.. 혹시 연장할 수 있는 방법이 있는지 문의드립니다. 좋은 강의 감사드립니다!

  • 빅데이터
  • hadoop
  • elasticsearch
  • logstash
  • Kibana
  • apache-spark
  • s3-bucket
rakji 댓글 1 좋아요 0 조회수 280

강의 연장 문의

미해결

빅데이터 파이프라인 마스터; 성공을 위한 도구와 기술

안녕하세요, 수강 기한이 얼마 안 남았는데, 기간 연장이 가능할까요? 미리 감사드립니다

  • 빅데이터
  • hadoop
  • elasticsearch
  • logstash
  • Kibana
  • apache-spark
  • s3-bucket
김현호 댓글 1 좋아요 0 조회수 210

wb.json , pandas.json 파일을 jupyter notebook 환경에서 read 가 안됩니다..ㅠ

해결됨

빅데이터 파이프라인 마스터; 성공을 위한 도구와 기술

현재 AWS Glue 4.0 docker 이미지를 내려 받아 pyspark 커널에서 사용 중이며 섹션 8 판다스 환경에서 airbnb..csv, analyzed_americsv_2023.csv 파일은 문제 없이 잘 열리는데 Json 파일만 열리지 않습니다..ㅠ Renderer Failure: wb.json Unexpected non-whitespace character after JSON at position 6858 (line 2 column 1) file_name = "wb.json" df = sqlContext.read.json(file_name) df.printSchema pyspark.sql.utils.AnalysisException: Path does not exist: file:/home/glue_user/workspace/wb.json __ file_name = "pandas.json" df = sqlContext.read.json(file_name) df.printSchema return_value = get_return_value( File "/home/glue_user/spark/python/pyspark/sql/utils.py", line 196, in deco raise converted from None pyspark.sql.utils.AnalysisException: Path does not exist: file:/home/glue_user/workspace/pandas.json pandas.json 윈도우 로컬 환경에서 열면 두번째 행에서 첫번째 에서 빨간줄이 나옵니다 혹시 각 딕셔너리를 담는 변수는 따로 필요가 없을까요?

  • 빅데이터
  • hadoop
  • elasticsearch
  • logstash
  • Kibana
  • apache-spark
  • s3-bucket
홍태경 댓글 3 좋아요 0 조회수 603

[HDFS] Data integrity; checksum 관련 질문

해결됨

빅데이터 파이프라인 마스터; 성공을 위한 도구와 기술

안녕하세요. 현재 빅데이터 파이프라인 마스터; 성공을 위한 도구와 기술 수업을 수강 중인 학생입니다. HDFS의 Data integrity 부분의 강의를 듣다 궁금한 점이 생겨서 질문 올립니다. checksum은 transmission 과정에서 발생하는 에러로 인해 data가 corrupt 되었는지를 destination에서 판단하기 위해 사용한다고 이해했습니다. 근데 "transmission 과정에서 data를 corrupt 시킬만한 에러가 발생했다면 checksum 값도 함께 corrupt될 수도 있는거 아닌가"라는 궁금증이 생겼습니다. 제가 궁금한 점은 아래와 같이 2가지 입니다: 1. transmission 과정 중 checksum 값도 corrupt될 가능성이 있는지 만약 그렇다면 그런 경우를 대비한 별도의 메커니즘이 존재하는지 답변에 미리 감사드립니다.

  • 빅데이터
  • hadoop
  • elasticsearch
  • logstash
  • Kibana
  • apache-spark
  • s3-bucket
Jiyu Kim 댓글 2 좋아요 1 조회수 383

안녕하세요. 강의 연장 신청 문의드립니다

해결됨

빅데이터 파이프라인 마스터; 성공을 위한 도구와 기술

안녕하세요 교수님 현재 spark advanced 까지 진도 나갔으나 아쉽게도 수강기한이 거의 끝나서 나머지 강의 수강을 위해 구글폼으로 연장 신청했습니다 강의 연장 가능할까요?

  • 빅데이터
  • hadoop
  • elasticsearch
  • logstash
  • Kibana
  • apache-spark
  • s3-bucket
박래찬 댓글 2 좋아요 0 조회수 436

인기 태그

인프런 TOP Writers

주간 인기글