• 카테고리

    질문 & 답변
  • 세부 분야

    데이터베이스

  • 해결 여부

    미해결

존재하는 csv파일을 MySQL Workbench로 import할 때 Error

20.02.29 19:36 작성 조회수 771

0

안녕하세요! 우선 강의 정말 잘 보고 있습니다! 저도 비전공자여서(컴퓨터계열 과로 복수전공은 하고 있습니다만) 선생님의 수업 방식이 정말 좋고 맘에 드는 것 같습니다! Selenium과 Scrapy 강좌도 완강하고 정말 잘써먹고 있습니다! 

본론으로, 제가 예전에 웹크롤링을 통해서 csv파일로 만들어 놓은 데이터가 있는데 이를 MySQL Workbench를 통해서 DB에 데이터를 넣어보려고 했는데요! encoding문제로 자꾸 에러가 뜨더라구요! 그래서 구글링해서 찾아보고 추측하건데 제csv파일 속 데이터의 '가격' 칼럼에 대한 레코드들이 "(큰따옴표)가 붙어있는 채로 있더라구요.. 그래서 그걸 제거해보려고 replace함수를 썼는데 제거가 되어 출력이 안되네요 ㅜㅜ 다른 커뮤니티에도 질문은 해놓았는데 아직 답변이 오지 않아 여기도 남겨드립니다...! 크롤링 코드를 어떻게 수정해야 할까요 아니면 크롤링 코드를 수정하는 것 말고 다른 측면에서 디버깅할 수 있는 방법이 있을까요!?

*추신) 질문이 많아서 죄송합니다 ㅜㅜ 혹시 질문 공간에 공부 내용 이외에 진로에 관해서는 질문드리면 좀 실례일까요? 데이터 엔지니어/분석가에 신입으로 들어가거 싶어하는 학생입니다....!

#크롤링 코드 전문과 에러 사진 첨부할께요! 

<CSV파일 결과 화면>

답변 1

답변을 작성해보세요.

0

안녕하세요. 우선 도움이 되신다니 정말 다행입니다. 또 개인적인 궁금함? 이 있으시다면, dream@fun-coding.org 로 메일 주시면 가능한 도움이 되는 의견을 드리겠습니다.

우선 전체 코드를 테스트하려면 시간이 걸릴 것 같기는 한데요. 환경도 다르니, 정확하게 재현은 못하겠지만,

크롤링해서 csv 파일을 만들기 위해 csv 파일을 오픈해서, 데이터를 저장하실 때, 다음과 같이 utf-8으로 저장한 후에, import를 해부시면 어떨까 해요.

with open('test.csv', 'w', encoding='utf-8', newline='') as writer_csv:

이후에도 안된다면, 아예 csv 파일을 크롤링하지 마시고, 유니코드형태로 아주 간단한 형태로 직접 작성하셔서 예를 들어 따옴표없이 넣어본다든지, 한줄만 넣어보고, 되면 두줄까지 넣어서 import해보시고, 거기서부터 근본 문제를 찾아보시면 좋을 것 같습니다. 

감사합니다.!