강의

멘토링

커뮤니티

Inflearn Community Q&A

kikacat195480's profile image
kikacat195480

asked

[New Revised Edition] This is Real Web Crawling - Practical Edition (AI Monetization)

Selenium Environment Setup

selenium을 활용한 크롤링 질문

Resolved

Written on

·

535

1

안녕하세요 강사님 selenium은 동적 크롤링을 할때 사용한다고 알고있습니다. 간혹 로그인을 해야만 정보를 열람할 수 있는 사이트가 있는데 이런 경우에는 어떤식으로 접근을 할 수 있을지 알고싶습니다!

python웹-크롤링

Answer 2

2

지나가다 답변 남겨봅니다^^

대부분의 경우, 로그인도 셀레늄으로 처리하시면 됩니다.

예를 들면,

아이디와 패스워드를 입력하는 input 태그를 driver.find_element로 찾고

element.send_keys로 입력한 후, button.submit 명령어로 로그인을 하실 수 있을 것입니다.

대상 사이트를 알려주시면

보다 구체적인 예제코드를 적어드릴 수 있을 것 같습니다^^

startcoding님의 프로필 이미지
startcoding
Instructor

답변 감사합니다. 일코님!

 

추가적으로 셀레니움 사용해서 로그인 자동화 진행 시

봇으로 판단하고 접근을 막는 경우가 있는데

다음과 같은 방식으로 해결할 수도 있습니다.

 

  1. 주피터 노트북으로 웹 브라우저를 띄운다.

  2. 로그인을 수동으로 진행한다.

  3. 로그인이 필요한 페이지를 크롤링한다.

 

해당 내용은

https://youtu.be/1tKPqQmXM98

에서 확인할 수 있습니다.

1

kikacat195480님의 프로필 이미지
kikacat195480
Questioner

두분의 답변 감사합니다 !

kikacat195480's profile image
kikacat195480

asked

Ask a question