크롤링을 할 수 있는 사이트와 할 수 없는 사이트를 한번에 구별할 수 있는 방법이 있나요?
167
작성한 질문수 2
상담을 진행할 때, 작업이 일단 가능한지 확인을 해야하는데 크롤링을 할 수 있는 사이트와 할 수 없는 사이트를 한번에 구별할 수 있는 방법이나 꿀팁이 있나요? (어떤 오류를 갖고 캡차가 뜨는지 궁금합니다.)
답변 2
0
결론부터 말씀 드리자면 직접 테스트해 봐야 합니다.
정적인지 동적인지
정적이라면 응답을 잘받아오는지
동적이라면 JSON 크롤링 방식을 사용할 수 있는지 (네트워크 패킷 확인)
패킷이 없다면, 셀레니움으로 접근이 가능한지 (캡챠가 뜨지는 않는지)
저는 이런식으로 빠르게 테스트해봅니다.
그리고 데이터를 하나라도 가져올 수 있다면, 일단 가능하다고 말하고 진행합니다.
아직 이런 경우는 없었지만, 진행중에 작업이 어려워지는 상황이 나오면 환불을 해드리는 방식을 사용합니다.
그래서 다양한 경험이 중요해요 ㅎㅎ
셀레니움 환경설정 오류
0
52
2
네이버 로그인 관련
0
282
2
안녕하세요 셀레니움에 대해서 질문
0
89
1
크롤링 연습사이트 문의
0
102
2
선택자 질문
0
74
2
'특정 요소가 나타날 때까지 스크롤' 부분 에러
0
78
2
자동 로그인 질문
0
90
2
44강 제목, 링크
0
107
1
원하는 값이 없을 때
0
91
2
크롤링한 링크가 엑셀로 들어가면 작동이 안되요
0
230
2
셀레니움 PDF자료는 받을 수 있나요
0
100
2
글목록 추출하기
0
100
2
메일 자동화 로그인 중복방지문자해결 오류 및 명시적 대기 질문
0
91
2
강의 노트가 어디에 있는건가요?
0
80
2
강의 커리큘럼 질문
0
102
1
조건문 else 사용하지 않는 이유
0
77
2
셀레니움으로 접근할 수 없는 경우
0
98
2
웹페이지 변경
0
75
2
자바스크립트로 태그 선택 시 질문입니다.
1
65
2
수료증은 어떻게 받나요?
0
122
2
class명을 활용하여 선택자를 만들지 않는 경우..?
0
61
2
드라이버가 안 열려요
0
79
2
이거 해결방법 아시는 분?
0
121
2
네이버 지식인 크롤링..
0
202
2