인프런 커뮤니티 질문&답변
크롤링을 할 수 있는 사이트와 할 수 없는 사이트를 한번에 구별할 수 있는 방법이 있나요?
작성
·
136
·
수정됨
답변 2
0
0
스타트코딩
지식공유자
결론부터 말씀 드리자면 직접 테스트해 봐야 합니다.
정적인지 동적인지
정적이라면 응답을 잘받아오는지
동적이라면 JSON 크롤링 방식을 사용할 수 있는지 (네트워크 패킷 확인)
패킷이 없다면, 셀레니움으로 접근이 가능한지 (캡챠가 뜨지는 않는지)
저는 이런식으로 빠르게 테스트해봅니다.
그리고 데이터를 하나라도 가져올 수 있다면, 일단 가능하다고 말하고 진행합니다.
아직 이런 경우는 없었지만, 진행중에 작업이 어려워지는 상황이 나오면 환불을 해드리는 방식을 사용합니다.
그래서 다양한 경험이 중요해요 ㅎㅎ





