inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

현존 최강 크롤링 기술: Scrapy와 Selenium 정복

다음 영화 댓글 가져오기 크롤러 관련 질문

294

손용성

작성한 질문수 12

0

안녕하세요,

제가 개인적인 실습 목적으로 아래와 같이 다음 사이트의 영화 메뉴에 있는 영화 댓글을 가져오는 크롤러를 작성했는데, 오류가 발생하여 문의 드립니다.

원래 의도는 인자로 'page_num'을 설정하여 숫자를 대입하면, 해당 숫자의 페이지까지 입력된 모든 댓글을 크롤링하는 것이었는데, 아래와 같이 코딩하고 보니 'page_num' 에 입력된 숫자의 페이지에만 있는 댓글을 가져오고 있습니다. (movie_id는 해당 영화 소개 페이지의 url에 있는 id 임)  더 이상 댓글이 없으면, break 함수를 이용하여 크롤링을 종료 시키게 되어 있습니다.

아마도 for 중첩문을 잘 못 작성한 것같은데, 무엇이 잘 못된 것인지 모르겠습니다. 도와 주시면 감사하겠습니다.

def get_daum_news_comment(movie_id, page_num):

    

    url_template = 'https://movie.daum.net/moviedb/grade?movieId={}&type=netizen&page={}'    

    url = url_template.format(movie_id, page_num)

    resp = requests.get(url)

    soup = BeautifulSoup(resp.text)  

    

    comments = ''

    for page_num in range(1, page_num+1):     

        for p in soup.find_all('p', class_='desc_review'):

            comments += p.get_text().strip() 

            

            if not page_num:

                break             

    return print(comments) 

웹-크롤링 selenium scrapy

답변 1

0

잔재미코딩 DaveLee

안녕하세요.

우선 이 부분은 양해를 부탁드립니다. 각자 원하시는 크롤링 코드를 작성하시다보면, 이슈가 있을 수 잇는데요. ㅎㅎ 그런 코드를 정확히 봐드리려면, 결국 저도 동일한 크롤링을 해봐야하고, 그러면 해당 크롤링 코드를 작성해야 해서요. 물리적으로도 무리가 있고, 평생 학습이란 것을 생각해본다면, 평생 원하는 크롤링이 잘 안되면, 제가 다 봐드려야 한다는 오해 아닌 오해를 살 수도 있어서요. 이 부분은 시간적으로도 현실적으로드 무리가 있는 부분이라 이해를 부탁드립니다. 

가볍게만 봐서는 코드만 봐서는 어떤 오류가 발생하는지 알기가 쉽지 않습니다. 이미 위에서 특정 페이지를 크롤링하신 듯 한데, 다음 부분은 안쓰셔도 되는 것 아닌가 생각이 드네요.

for page_num in range(1, page_num+1):  

감사합니다.

코딩을 잘 따라 한 것 같은데 오류가 발생하는 것 같습니다

0

626

1

scrapy를 jupyter 환경에서 할 수 있나요

0

360

1

[실전 크롤링: scrapy 크롤링 팁] 질문있습니다.

0

313

1

[실전 크롤링: 지마켓 크롤링하며, scrapy 실전 활용법 익히기1] 5분50초쯤 질문

0

221

1

[강력/최신 크롤링 기술: Scrapy 로 지마켓 크롤링하기1] 관련 질문

0

279

1

xml을 parsing할때 <을 &lt; 로 인식합니다.

0

335

1

pipelines.py에서 process_item내에서 print문이 작동을 하지 않네요 ㅠ

0

292

3

PhantomJS 문의

0

294

1

selenium 문의

0

329

1

브라우저 제어해서 크롤링하기 - 처음강의 마지막부분 문의

0

3004

1

on error 해결 방법 질문

0

356

1

[팁] 윈도우 cmd 커맨드

0

347

1

[팁]Chrome User Agent 아는법

0

328

1

실전 크롤링: 브라우저를 제어해서 트위터 사이트 로그인 하기 질문

0

254

1

동영상 강의 만드실 때 사용한 툴을 알려주실 수 있을까요?

0

237

1

CSS Selector 에서 질문이 있습니다.

0

435

2

pip install scrapy 오류

0

484

1

셀레니움 실행불가

0

1578

1

실전 크롤링: XPATH와 Selenium 활용해서 페이스북 로그인 하기 에서 질문이 있습니다.

0

227

1

언제 get_text()를 사용하고 또 언제 .text를 사용하나요?

0

287

1

강의교안자료 받을수있을까요?

0

263

1

[강의 9:27관련 질문] price, title 열 위치

0

160

1

div에 있는 클래스가 2개이면 어떻게 하나요?

0

368

1

css 셀렉터에 대해 질문이 있습니다.

0

147

1