다음 영화 댓글 가져오기 크롤러 관련 질문
294
작성한 질문수 12
안녕하세요,
제가 개인적인 실습 목적으로 아래와 같이 다음 사이트의 영화 메뉴에 있는 영화 댓글을 가져오는 크롤러를 작성했는데, 오류가 발생하여 문의 드립니다.
원래 의도는 인자로 'page_num'을 설정하여 숫자를 대입하면, 해당 숫자의 페이지까지 입력된 모든 댓글을 크롤링하는 것이었는데, 아래와 같이 코딩하고 보니 'page_num' 에 입력된 숫자의 페이지에만 있는 댓글을 가져오고 있습니다. (movie_id는 해당 영화 소개 페이지의 url에 있는 id 임) 더 이상 댓글이 없으면, break 함수를 이용하여 크롤링을 종료 시키게 되어 있습니다.
아마도 for 중첩문을 잘 못 작성한 것같은데, 무엇이 잘 못된 것인지 모르겠습니다. 도와 주시면 감사하겠습니다.
def get_daum_news_comment(movie_id, page_num):
url_template = 'https://movie.daum.net/moviedb/grade?movieId={}&type=netizen&page={}'
url = url_template.format(movie_id, page_num)
resp = requests.get(url)
soup = BeautifulSoup(resp.text)
comments = ''
for page_num in range(1, page_num+1):
for p in soup.find_all('p', class_='desc_review'):
comments += p.get_text().strip()
if not page_num:
break
return print(comments)
답변 1
0
안녕하세요.
우선 이 부분은 양해를 부탁드립니다. 각자 원하시는 크롤링 코드를 작성하시다보면, 이슈가 있을 수 잇는데요. ㅎㅎ 그런 코드를 정확히 봐드리려면, 결국 저도 동일한 크롤링을 해봐야하고, 그러면 해당 크롤링 코드를 작성해야 해서요. 물리적으로도 무리가 있고, 평생 학습이란 것을 생각해본다면, 평생 원하는 크롤링이 잘 안되면, 제가 다 봐드려야 한다는 오해 아닌 오해를 살 수도 있어서요. 이 부분은 시간적으로도 현실적으로드 무리가 있는 부분이라 이해를 부탁드립니다.
가볍게만 봐서는 코드만 봐서는 어떤 오류가 발생하는지 알기가 쉽지 않습니다. 이미 위에서 특정 페이지를 크롤링하신 듯 한데, 다음 부분은 안쓰셔도 되는 것 아닌가 생각이 드네요.
for page_num in range(1, page_num+1):
감사합니다.
코딩을 잘 따라 한 것 같은데 오류가 발생하는 것 같습니다
0
626
1
scrapy를 jupyter 환경에서 할 수 있나요
0
360
1
[실전 크롤링: scrapy 크롤링 팁] 질문있습니다.
0
313
1
[실전 크롤링: 지마켓 크롤링하며, scrapy 실전 활용법 익히기1] 5분50초쯤 질문
0
221
1
[강력/최신 크롤링 기술: Scrapy 로 지마켓 크롤링하기1] 관련 질문
0
279
1
xml을 parsing할때 <을 < 로 인식합니다.
0
335
1
pipelines.py에서 process_item내에서 print문이 작동을 하지 않네요 ㅠ
0
292
3
PhantomJS 문의
0
294
1
selenium 문의
0
329
1
브라우저 제어해서 크롤링하기 - 처음강의 마지막부분 문의
0
3004
1
on error 해결 방법 질문
0
356
1
[팁] 윈도우 cmd 커맨드
0
347
1
[팁]Chrome User Agent 아는법
0
328
1
실전 크롤링: 브라우저를 제어해서 트위터 사이트 로그인 하기 질문
0
254
1
동영상 강의 만드실 때 사용한 툴을 알려주실 수 있을까요?
0
237
1
CSS Selector 에서 질문이 있습니다.
0
435
2
pip install scrapy 오류
0
484
1
셀레니움 실행불가
0
1578
1
실전 크롤링: XPATH와 Selenium 활용해서 페이스북 로그인 하기 에서 질문이 있습니다.
0
227
1
언제 get_text()를 사용하고 또 언제 .text를 사용하나요?
0
287
1
강의교안자료 받을수있을까요?
0
263
1
[강의 9:27관련 질문] price, title 열 위치
0
160
1
div에 있는 클래스가 2개이면 어떻게 하나요?
0
368
1
css 셀렉터에 대해 질문이 있습니다.
0
147
1





