inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

현존 최강 크롤링 기술: Scrapy와 Selenium 정복

파이프라인강의에서 크롤링이안됩니다ㅠ.ㅠ

248

무간도

작성한 질문수 7

0

파이프라인 사용법익히기2에서 강사님 코드랑 분명히 똑같이 적었음에도 저렇게 오류가 나면서 크롤링이 실행이안됩니다

왜 안되는걸까요?ㅠㅠ셋팅도 다 수정하였습니다

아래 이미지는 다운받으셔서 보셔야될것같습니다ㅠㅠ 그냥올리니까 글씨가 잘안보이네요

그리고 처음에 파이프라인 통과하는지 확인하는 코드에서도

class EcommercePipline(object): def process_item(self,item,spider): print("process_item",item) return item

scrapy selenium 웹-크롤링

답변 1

0

잔재미코딩 DaveLee

안녕하세요. 사실 이미지를 보며 에러메세지를 보니, 어떤 코드를 실행하신 것인지, 어떤 에러인지는 알기가 어렵네요. 왠지 첫번째 이미지는 에러가 없는 것도 같은데, 그렇다고 웹페이지가 크롤링은 안된 것 같고요. 뭔가 크롤링하는 주소 자체가 잘못된 것도 같고요. 워낙 프로젝트로 실행이 되다보니, 로그 메세지만 보고는 어떤 부분이 의심이 될지 알기가 어렵네요.

또 gmarket_best.py 는 다음과 같은 코드로 확인이 되는데요. 제가 영상에서 제공해드린 코드들이 동작이 안되는 것인지, 또는 위에 언급하신대로,  price > 10000 등이 들어있는 자신의 수정한 코드가 안되는 것인지 잘 모르겠습니다. 우선은 모든 관련 폴더를 지우신 후에, crawl gmarket_best 를 하신것이라면, 제가 드린 해당 프로젝트를 그대로 다운로드 받아서, 테스트를 해보시면 좋을 것 같습니다. 그런 다음 해당 코드가 정상 동작하면, 그 때 비로소 개인별 코드를 매우 조금씩 수정 후 테스트를 해보시면 좋을 것 같습니다. 

감사합니다.

--------

# -*- coding: utf-8 -*-

import scrapy

from ecommerce.items import EcommerceItem

class GmarketBestSpider(scrapy.Spider):

    name = 'gmarket_best'

    start_urls = ['http://corners.gmarket.co.kr/Bestsellers/']

    def parse(self, response):

        titles = response.css('div.best-list > ul > li[id] > a::text').getall(

        prices = response.css('div.best-list > ul > li[id] > div.item_price >

        for num, title in enumerate(titles):

            doc = EcommerceItem()

            doc['title'] = title

            doc['price'] = prices[num].strip().replace("원", "").replace(",",

            yield doc

코딩을 잘 따라 한 것 같은데 오류가 발생하는 것 같습니다

0

622

1

scrapy를 jupyter 환경에서 할 수 있나요

0

357

1

[실전 크롤링: scrapy 크롤링 팁] 질문있습니다.

0

309

1

[실전 크롤링: 지마켓 크롤링하며, scrapy 실전 활용법 익히기1] 5분50초쯤 질문

0

218

1

[강력/최신 크롤링 기술: Scrapy 로 지마켓 크롤링하기1] 관련 질문

0

276

1

xml을 parsing할때 <을 &lt; 로 인식합니다.

0

332

1

pipelines.py에서 process_item내에서 print문이 작동을 하지 않네요 ㅠ

0

289

3

PhantomJS 문의

0

292

1

selenium 문의

0

326

1

브라우저 제어해서 크롤링하기 - 처음강의 마지막부분 문의

0

3002

1

on error 해결 방법 질문

0

354

1

[팁] 윈도우 cmd 커맨드

0

345

1

[팁]Chrome User Agent 아는법

0

324

1

실전 크롤링: 브라우저를 제어해서 트위터 사이트 로그인 하기 질문

0

252

1

동영상 강의 만드실 때 사용한 툴을 알려주실 수 있을까요?

0

234

1

CSS Selector 에서 질문이 있습니다.

0

432

2

pip install scrapy 오류

0

479

1

셀레니움 실행불가

0

1575

1

실전 크롤링: XPATH와 Selenium 활용해서 페이스북 로그인 하기 에서 질문이 있습니다.

0

224

1

언제 get_text()를 사용하고 또 언제 .text를 사용하나요?

0

284

1

강의교안자료 받을수있을까요?

0

261

1

[강의 9:27관련 질문] price, title 열 위치

0

157

1

div에 있는 클래스가 2개이면 어떻게 하나요?

0

365

1

css 셀렉터에 대해 질문이 있습니다.

0

142

1