inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

현존 최강 크롤링 기술: Scrapy와 Selenium 정복

셀레니움 특정 태그 누락

258

J군

작성한 질문수 18

0

안녕하세요. 강사님. 셀레니움 실습 중에 한가지 여쭤보고 싶은 부분이 생겨서요.

제가 특정 사이트에서 셀레니움으로 크롤링 테스트를 하고 있습니다.

해당 사이트에 있는 img 태그의 주소를 가져오는 것인데요.

페이지 다운을 하고, 로딩을 기다리는 작업까지 다 하여도 일부 img태그를 가져오지를 못합니다.

꼭 특정 img 태그만 누락되더라고요. 분명히 브라우저상에서 소스는 있는데요.

백번 넘게 시도했는데 특정 순서의 img 태그만 누락됩니다..

그래서 driver.page_source로 파싱해서 통째로 txt 파일로 저장도 시켜봤습니다.

하지만 역시나 동일하게 해당 태그는 누락되어 있습니다..

a링크 아래에 

::before == $0   

<img ~~~> </a>

이런 형태인데요. ::before == $0   이부분 때문인가 싶었지만

또 다른 이미지 태그는 조회가 되는걸보니 아닌 것 같고..

원인을 찾기가 어렵네요~ 이런 경우는 왜 발생되는 건지 힌트를 주실 수 있을까요?

selenium scrapy 웹-크롤링

답변 1

0

잔재미코딩 DaveLee

안녕하세요. 이 부분은 양해를 부탁드립니다.

강의 내용 외적인 부분에 대해 답변을 드리다보니, 강의 자체가 평생 수강이라서, 평생 매일같이 모든 분의 각자의 문의를 받아야 하는 경우들이 생겨서요. 또 말씀하신 부분도 어떤 사이트인지, 어떤 코드인지를 말씀하신 부분만 봐서는 이해하기가 어려워서 제대로 답변 드리기가 쉽지 않아서요.

감사합니다.

코딩을 잘 따라 한 것 같은데 오류가 발생하는 것 같습니다

0

626

1

scrapy를 jupyter 환경에서 할 수 있나요

0

360

1

[실전 크롤링: scrapy 크롤링 팁] 질문있습니다.

0

313

1

[실전 크롤링: 지마켓 크롤링하며, scrapy 실전 활용법 익히기1] 5분50초쯤 질문

0

221

1

[강력/최신 크롤링 기술: Scrapy 로 지마켓 크롤링하기1] 관련 질문

0

279

1

xml을 parsing할때 <을 &lt; 로 인식합니다.

0

334

1

pipelines.py에서 process_item내에서 print문이 작동을 하지 않네요 ㅠ

0

292

3

PhantomJS 문의

0

294

1

selenium 문의

0

329

1

브라우저 제어해서 크롤링하기 - 처음강의 마지막부분 문의

0

3004

1

on error 해결 방법 질문

0

356

1

[팁] 윈도우 cmd 커맨드

0

347

1

[팁]Chrome User Agent 아는법

0

327

1

실전 크롤링: 브라우저를 제어해서 트위터 사이트 로그인 하기 질문

0

254

1

동영상 강의 만드실 때 사용한 툴을 알려주실 수 있을까요?

0

237

1

CSS Selector 에서 질문이 있습니다.

0

435

2

pip install scrapy 오류

0

483

1

셀레니움 실행불가

0

1577

1

실전 크롤링: XPATH와 Selenium 활용해서 페이스북 로그인 하기 에서 질문이 있습니다.

0

226

1

언제 get_text()를 사용하고 또 언제 .text를 사용하나요?

0

287

1

강의교안자료 받을수있을까요?

0

263

1

[강의 9:27관련 질문] price, title 열 위치

0

160

1

div에 있는 클래스가 2개이면 어떻게 하나요?

0

368

1

css 셀렉터에 대해 질문이 있습니다.

0

147

1