selenium을 활용한 크롤링 질문
안녕하세요 강사님 selenium은 동적 크롤링을 할때 사용한다고 알고있습니다. 간혹 로그인을 해야만 정보를 열람할 수 있는 사이트가 있는데 이런 경우에는 어떤식으로 접근을 할 수 있을지 알고싶습니다!
Answer 2
2
지나가다 답변 남겨봅니다^^
대부분의 경우, 로그인도 셀레늄으로 처리하시면 됩니다.
예를 들면,
아이디와 패스워드를 입력하는 input 태그를 driver.find_element로 찾고
element.send_keys로 입력한 후, button.submit 명령어로 로그인을 하실 수 있을 것입니다.
대상 사이트를 알려주시면
보다 구체적인 예제코드를 적어드릴 수 있을 것 같습니다^^
1
답변 감사합니다. 일코님!
추가적으로 셀레니움 사용해서 로그인 자동화 진행 시
봇으로 판단하고 접근을 막는 경우가 있는데
다음과 같은 방식으로 해결할 수도 있습니다.
주피터 노트북으로 웹 브라우저를 띄운다.
로그인을 수동으로 진행한다.
로그인이 필요한 페이지를 크롤링한다.
해당 내용은
에서 확인할 수 있습니다.
셀레니움 환경설정 오류
0
42
2
네이버 로그인 관련
0
231
2
안녕하세요 셀레니움에 대해서 질문
0
81
1
크롤링 연습사이트 문의
0
93
2
선택자 질문
0
71
2
'특정 요소가 나타날 때까지 스크롤' 부분 에러
0
76
2
자동 로그인 질문
0
84
2
44강 제목, 링크
0
99
1
원하는 값이 없을 때
0
88
2
크롤링한 링크가 엑셀로 들어가면 작동이 안되요
0
224
2
셀레니움 PDF자료는 받을 수 있나요
0
100
2
글목록 추출하기
0
96
2
메일 자동화 로그인 중복방지문자해결 오류 및 명시적 대기 질문
0
86
2
강의 노트가 어디에 있는건가요?
0
80
2
강의 커리큘럼 질문
0
95
1
조건문 else 사용하지 않는 이유
0
73
2
셀레니움으로 접근할 수 없는 경우
0
95
2
웹페이지 변경
0
70
2
자바스크립트로 태그 선택 시 질문입니다.
1
62
2
수료증은 어떻게 받나요?
0
116
2
class명을 활용하여 선택자를 만들지 않는 경우..?
0
59
2
드라이버가 안 열려요
0
77
2
이거 해결방법 아시는 분?
0
121
2
네이버 지식인 크롤링..
0
200
2