묻고 답해요
161만명의 커뮤니티!! 함께 토론해봐요.
인프런 TOP Writers
-
해결됨카프카 완벽 가이드 - 코어편
자문자답: 데이터 누락된다고 하시는 분 참고하세요.
안녕하세요. 선생님께서 제공해주신 예제 코드에 아주 작은 오해의 소지로 인해 데이터 누락이 된다는 분들이 계셔, 글 남깁니다. 선생님께서 제공해주신 코드의 로직에는 문제가 없습니다~!다만, OrderDTO에 테이블 컬럼이 총 7개인데, txt 스크립트에서 send해서 split하는 array의 갯수는 총 8개입니다. 따라서, makeOrderDTO()하는 부분에서 index를 DB 테이블에 알맞게 작성해 주셔야 합니다~! console에서 에러 다 출력해 주는데, 예제코드 그대로 복붙해서 보시면 그냥 뭐가 문제죠? 라고 할 수 있지만, 자세히 보시면 에러가 발생하는 걸 알 수 있습니다. <수정 전> <수정 후>
-
미해결[리뉴얼] 처음하는 SQL과 데이터베이스(MySQL) 부트캠프 [입문부터 활용까지]
mysql 설치가 되지 않습니다.
아래와 같은 에러로 mysql의 설치가 되지 않습니다. 분명, 제어판에서 mysql을 모두 삭제하고 다시 재설치를 진행하였는데도 불구하고, 계속해서 에러가 발생하여 강의 진행이 어렵습니다. Beginning configuration step: Writing configuration file Saving my.ini configuration file... Saved my.ini configuration file. Ended configuration step: Writing configuration file Beginning configuration step: Updating Windows Firewall rules Adding a Windows Firewall rule for MySQL92T on port 3306. Attempting to add a Windows Firewall rule with command: netsh.exe advfirewall firewall add rule name="Port 3306" protocol=TCP localport=3306 dir=in action=allow 확인됨 Successfully added the Windows Firewall rule. Adding a Windows Firewall rule for MySQL92T on port 33060. Attempting to add a Windows Firewall rule with command: netsh.exe advfirewall firewall add rule name="Port 33060" protocol=TCP localport=33060 dir=in action=allow 확인됨 Successfully added the Windows Firewall rule. Ended configuration step: Updating Windows Firewall rules Beginning configuration step: Adjusting Windows service Attempting to grant the required filesystem permissions to the 'NT AUTHORITY\NetworkService' account. Granted permissions to the data directory. Granted permissions to the install directory. Adding new service New service added Ended configuration step: Adjusting Windows service Beginning configuration step: Initializing database (may take a long time) Attempting to run MySQL Server with --initialize-insecure option... Starting process for MySQL Server 9.2.0... Failed to start process for MySQL Server 9.2.0. Database initialization failed. Ended configuration step: Initializing database (may take a long time)
-
미해결[아파치 카프카 애플리케이션 프로그래밍] 개념부터 컨슈머, 프로듀서, 커넥트, 스트림즈까지!
처리량을 늘리기 위해서 파티션을 늘리고 컨슈머를 늘려야한다고 설명하셨는데요
안녕하세요. 처리량을 늘리기 위해서 파티션을 늘리고 컨슈머를 늘려야한다고 설명하셨는데요 파티션을 늘린다다는것은 카프카 설정에서 설정할 수 있을 것 같은데.. 컨슈머를 늘린다는것은 eks 에서 본다면 pod를 더 늘린다고 보면 될까요? 그리고 일반적으로 컨슈머 서버는 서버 1개마다 컨슈머 1개만 할당하는 방식으로 운영하시는지 궁금합니다.(서버 1개에 5개의 토픽을 구독 vs 서버 1개당 토픽구독은 1개만)
-
미해결[리뉴얼] 처음하는 SQL과 데이터베이스(MySQL) 부트캠프 [입문부터 활용까지]
강의 결과 질문 - SQLD, 데이터베이스 설계, 프로젝트 구축 하여 취업
안녕하세요.잔재미코딩님 인트로만 몇가지 보다가, 강의 12개 구매한 유저 입니다.저를 비롯하여 많은 분이 궁금하실만한 내용을 문의 드립니다! 현재 저는-python 기반의 django프로젝트를 따라치는 것으로만 블로그, 게시판만 만들었습니다.막상 혼자 만들려고 하면 막막해서 익숙해질때까지 해보자는 마음으로 약 10개정도 처음부터 끝까지 따라하고 따라했는데도 리팩토링은 가능하지만, 혼자 구축하기는 약간 어려움이 있습니다.-SQL의 경우에도 기초 구문이나 명령문 실행으로 인한 결과등은 알아도 데이터 설계는 5개 이상만 연결하려고 해도 약간은 막막하더라구요.총 학습기간은 파이썬 + 장고 + sql +html, css, javascript 로만 처음부터 지금까지 약 2년정도는 공부한 것 같은데, 방향성이 모호해서 그랬는지, 너무 덕지덕지 가져와서 기워붙였는지 실질적으로 스스로 할 수 있는 것은 많이 없습니다. 이런 상태에서 잔재미코딩 님의 강의 12강의 모두 학습하고 나서 기대할 수 있는 결과로는-sqld 가뿐히 합격할 정도-데이터베이스 어떤 모습이여도 너무 고급정도가 아닌 중급정도라도 수월하게 설계하고 만들 수 있을 정도-원하는 프로젝트 왠만한 것은 다 만들 수 있을까요?그렇기에 나아가서 취업적 역량을 가지고 충분히 취업할 수 있게 될까요?
-
해결됨[리뉴얼] 처음하는 SQL과 데이터베이스(MySQL) 부트캠프 [입문부터 활용까지]
지마켓 파일 불러왔는데, 테이블이 생성이 안됩니다
섹션8 - 30강 에서 시키는대로 CREATE DATABASE bestproducts USE bestproducts 하고 데이터 items, ranking 파일 불러왔는데요문제없이 실행이 되는데 테이블에 추가가 안됩니다 (새로고침 해도 안뜸)문제를 풀어볼 수가 없어서 답변 부탁드립니다
-
미해결15일간의 빅데이터 파일럿 프로젝트
kernel:BUG 에러 관련 문의
지금 빅데이터 탐색 과정을 진행중입니.현재 3개의 가상머신 기반으로 실습중이며 server01은 가상 CPU 8개, server02와 server03는 가상 CPU 4개 그리고 메인메모리는 모두 동일하게 16기가씩 할당하였습니다.그럼에도 불구하고 리소스가 부족한지 server01가상머신에서 아래와 같은 에러가 발생하며 진도가 잘 나가지 못하는 상황입니다.kernel:BUG: soft lockup - CPU#0 stuck for 951s!혹시 상기 에러와 관련하여 조언이 있으실지 문의드립니다.감사합니다.
-
미해결15일간의 빅데이터 파일럿 프로젝트
Oozie설치시 ShareLib업로드 에러
안녕하세요?이젠 또 Oozie설치에서 문제가 생겼습니다. 이슈는 ShareLib업로드 관련 에러이며 몇번이나 시도했지만 동일한 에러가 지속적으로 빌생해서 문의드리며 스크린샷은 아래에 추가하였습니다.조언부탁드리며 감사합니다.
-
미해결15일간의 빅데이터 파일럿 프로젝트
Hue 설치시 python27패키지를 찾을 수 없음
안녕하세요? 강의를 보면서 레포설정은 문제없이 된 것 같은 데 No package python27 available.라는 에러가 자꾸 뜨고 설치가 진행이 되지 않다보니 여기 발목이 잡힌 상태입니다. 아래에 스크린샷을 주가했습니다.이상한건 레포지토리 검색을 해 보면 scl관련 레포지토리는 안보이는데 이게 정상인지요?그럼 지도편달 부탁드립니다.감사합니다.
-
해결됨Airflow 마스터 클래스
airflow dag 실행 문의
제가 airflow에서 dag을 받아서 최초에 실행시킬 때이 화면처럼 2번 실행이 되는 데 1번만 실행시킬 수 있는 방법이 있을지 궁금합니다.그리고 제가 email_xcom 실습을 하다가 모르고 강사님 email로 보내서 죄송합니다.
-
미해결카프카 완벽 가이드 - 커넥트(Connect) 편
binlog와 offset 관련 추가 질문드립니다
안녕하세요~ 강의를 듣다가 binlog관련 궁금한 점이 생겨서 질문드립니다!해당 커넥트의 offset정보에 담긴 binlog파일이 만약 삭제됐다면 기동 중에 오류가 발생한다고 말씀을 주셨는데, 그럼 만약 binlog 파일이 커져서 다음 파일?로 넘어가서 새로운 binlog파일로 생성이 된다면 오류는 발생하지 않고 offset에는 다음 binlog파일로 기록이 되는 것일까요?
-
해결됨카프카 완벽 가이드 - 코어편
자문자답: kafka Error connecting to node utuntu-20.myguest.virtualbox.org:9092
안녕하세요. 여러분의 삽집을 줄이기 위해 정보 공유합니다.또한, 질문 게시판에 꽤 많은 같은 에러를 접하시는 분들이 계시는 것 같아, 공유합니다. 이미 선생님께서 해결 방안의 힌트를 남겨줘서 찾기 수월했습니다. 자세한 내용은 해당 링크(java.net.UnknownHostException)를 참고하세요.
-
미해결15일간의 빅데이터 파일럿 프로젝트
카프카 관련 문의
안녕하세요?다름아니라 지금 다시 처음부터 실습을 해 보는 중인데 계속해서 해결이 않되는 부분이 있습니다.카프카 부분인데요 분명히 토픽도 잘 생성된 것 같아서 메시지를 프로듀싱해보면 컨슈머에서 해당 메시지가 보이지 않아서 관련해서 트러블슈팅 팁을 문의드립니다. 관련 스크린샷은 아래에 첨부하였습니다.감사합니다. 감사합니다.
-
미해결[아파치 카프카 애플리케이션 프로그래밍] 개념부터 컨슈머, 프로듀서, 커넥트, 스트림즈까지!
파티션 개수와 컨슈머 개수의 처리량 관련 질문
이 수업 내용에서 하나의 토픽에 여러개의 파티션을 생성 할 수 있고 이 파티션은 하나의 리더 파티션에 다른 broker에 팔로워 파티션을 생성한다고 해주셨던걸로 기억합니다.또한, producer와 consumer와 소통하는건 리더 파티션만 가능하다고 했는에 위 그림에서는 팔로워 파티션도 컨슈머와 소통가능한 걸로 보여서 헷갈려서 질문드립니다. 또한, 리더 파티션만 컨슈머와 소통가능한데 어떻게 병렬 처리가 가능하고 파티션 개수가 늘리면 처리량이 증가하는건지 잘 이해가 가지 않아서요. 감사합니다.
-
미해결15일간의 빅데이터 파일럿 프로젝트
머하웃 추천 ml 실행 안됨
안녕하세요! 머하웃에서 실행하는 추천 잡이 실행이 안되어서 질문 남깁니다..! 제가 시도한 방법은 다음과 같습니다휴에서 보이는 잡들 모두 제거하고 실행클라우데라에서 클러스터1을 재시작하고 실행우지를 종료하고 실행이 방법들로는 해결되지 않았습니다.. 어찌해야 할 지 모르겠어 질문 남깁니다..!!
-
미해결실리콘밸리 데이터 리더가 알려주는 기초 SQL
NPS 데이터 셋 다운로드에 이상이 있습니다.
다음과 같이 웨어하우스에서 다운로드시 404에러가 나오며 다운로드가 되지 않고 있습니다. 주소상 문제는 아닌 것 같고, 웨어하우스 한번 확인해 주시면 좋을 것 같습니다. 감사합니다.
-
해결됨데이터 분석을 위한 파이썬: 입문부터 꿀팁까지
파이썬 코드 실행방법
강의에서 윈도우는 따라 하기 힘들어서 강의 아래 자료에다가 윈도우에서 파이썬 실행하는 방법을 올려주신다고 했는데 도저히 찾을 수 없고, 강의자료도 못찾겠어요.너무 복잡해요.... 자료 있는 곳 좀 알려주세요.
-
미해결15일간의 빅데이터 파일럿 프로젝트
Storm관련 NoClassDefFoundError문의
현재 실시간 데이터 수집부분에서 Storm Topology를 배포하는 단계에서 다음의 스크린샷과 같은 에러가 발생하였습니다. 참고로 저는 storm 버전 0.9.7을 설치하여 실습을 진행중이며 에러 관련 스크린샷은 아래와 같습니다.어떻게 해결하면 좋을지 문의드립니다. 제공하여주신 jar파일에 의존성을 추가해서 해당 의존성을 다운로드해야 할 지 아니면 스톰의 버전을 정확하게 맞추어야 할 지 고민이 되어서 문의드립니다. 감사합니다.
-
미해결카프카 완벽 가이드 - 코어편
sudo systemctl status sshd
안녕하세요. 강의를 보고 설치를 따라하는 중sudo apt-get install openssh-server가 실행이 아래처럼 되지않아서문의 드립니다.sudo apt-get update를 해봤는데라고 뜹니다.원래는 중간에 us 부분이 kr 이었는데 https://blog.naver.com/lewisel/221893514069해당 블로그를 보고 변경했습니다.(다른블로그의 %s/kr.archive.ubuntu.com/ftp.daumkakao.com로 변경하라는 글도 실행해보았습니다.)그래도 안되어서 찾아보니 dns정보를 입력하라는 글도 보아서 /etc/resolv.conf 에 nameserver 8.8.8.8도 추가해보았고, /etc/network/interfaces파일도 추가해서 dns-nameservers 8.8.8.8 도 추가해보았지만 그대로인 것 같습니다.현재 다른 설정은 아래와 같습니다.
-
미해결카프카 완벽 가이드 - ksqlDB
시스템 타임존과 카프카 Stream 타임존이 불일치합니다.
카프카 타임존은 다음과 같이 9시간 전인 시간인 데이터가 들어오고있습니다. 시스템 타임존은 다음과 같습니다. 동기화 방법을 좀 찾아봤는데 안되서 질문드립니다.kafka/config/server.propertieslog.message.timestamp.type=CreateTimeKAFKA_JVM_PERFORMANCE_OPTS="-Duser.timezone=Asia/Seoul"
-
미해결카프카 완벽 가이드 - ksqlDB
ksql DB 서버를 올릴떄 아래와 같이 에러 발생
기동 로그======[2025-01-18 01:45:25,945] ERROR Could not submit metrics to Confluent: version-check.confluent.io: Name or service not known (io.confluent.support.metrics.utils.WebClient:112)[2025-01-18 01:45:25,945] ERROR Failed to submit metrics via secure endpoint, falling back to insecure endpoint (io.confluent.support.metrics.submitters.ConfluentSubmitter:135)[2025-01-18 01:45:25,947] ERROR Could not submit metrics to Confluent: version-check.confluent.io (io.confluent.support.metrics.utils.WebClient:112)[2025-01-18 01:45:25,947] ERROR Failed to submit metrics to Confluent via insecure endpoint=http://version-check.confluent.io/ksql/anon -- giving up (io.confluent.support.metrics.submitters.ConfluentSubmitter:165)======= 문제 해결 방법ksql_start.sh 스크립트 변경KSQL_OPTS="-Dconfluent.support.metrics.enable=false" $CONFLUENT_HOME/bin/ksql-server-start $CONFLUENT_HOME/etc/ksqldb/ksql-server.properties 참고 자료 : https://github.com/Cyb3rWard0g/HELK/issues/377