inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

Node.js로 웹 크롤링하기

6-2. 프록시 ip 적용하기

스파이스 사이트만 접속시 튕김현상이 있어요

388

김형

작성한 질문수 32

0

const puppeteer = require('puppeteer');

const crawler = async () => {

try {

let browser = await puppeteer.launch({

headless: false,

args: ['--window-size=1920,1080', '--disable-notifications'],

});

let page = await browser.newPage();

await page.setViewport({

width: 1080,

height: 1080,

});

await page.goto('http://spys.one/free-proxy-list/KR/');

} catch (e) {

console.error(e);

}

};

crawler();

 

 


아예 이부분만 작성 해 봐도 오류가 떠요

Error: Navigation failed because browser has disconnected!

해당 사이트가 잠깐 나왔다가 디스커넥티드되면서 종료되어져 버려요

다른사이트는 전혀 이상없는데, 위 스파이스 사이트만 접속시 튕김현상이 있어요

 

nodejs 웹-크롤링 javascript puppeteer

답변 1

0

제로초(조현영)

실습을 진행하는 컴퓨터 환경이 어떻게 되나요? 개인의 컴퓨터인가요? 보통 저 에러는 브라우저가 메모리 부족으로 인해 종료되는 경우 발생합니다.

0

제로초(조현영)

제가 실습해본 결과(puppeteer@19) 문제는 없었습니다.

0

김형

저도 구글링 해보면서 메모리 부족 발생에 대한 부분은 살짝 봤었는데, 이부분은 의심의 여지가 없이 맥북 최고사양이라 아닐거라고 생각하고 패스했어요

실습하는 컴퓨터 환경은

개인 컴퓨터 맥 프로 m1 메모리 64기가이고, 수업진행시에는 다른 것은 사용하지 않았어요

0

김형

"puppeteer": "^19.4.1",

0

김형

하나 특이한건 제가 홈브루 통해 설치한 크로미움으로 작동하지 않는다는 것이에요

홈브루 통해 설치한 크로미움을 삭제해도 노드 npm으로 부터 설치한 퍼페티어에 내장? 되어 있는 크로미움으로 동작하는거 같아요 이부분이 좀 걸리긴 합니다.

0

김형

image크로미움을 삭제 해도 삭제가 되지 않아요 기존 크로미움에 어떤 문제가 있는거 같아 삭제하고 홈브루 설치를 통해 m1에서도 괜찮은 크로미움을 사용할려고 하는데

퍼페티어 삭제 / 정상 삭제됨

크로미움 삭제 하면 / 버전이 그대로 나오고 삭제가 되지 않네요 ㅠㅠ

0

김형

image

제 컴퓨터에 설치된 크로미움 아이콘도 선생님하고 다른 뭔가 이상한 아이콘 모양이네요..

 


추가

왼쪽에 제로초님 공지 통해서 설치한 홈브루 크로미움인데, 퍼페티어 실행시 오른쪽 내장? 크로미움 같은걸로만 작동되고 있어요

0

김형

애플 실리콘 mac에서 설치할 때

제로초님 공지사항 통해서 설치했더니 m1용 크로미움이 잘 설치된거 같습니다.

다만 퍼페티어 작동시 내장? 크로미움 같은 위 아이콘이 뜨면서 다른 크로미움을 계속 실행 하는데, 이부분 때문에 에러가 나는거 아닌지 의심이 들어요.

일단 홈브류 통해 설치한 제대로된 크로미움 기반으로 크롤링이 되지 않는 부분이 해결이 되지 않아서 추가 테스트를 못 해 보고 있어요..

0

제로초(조현영)

저 크로미움 꾹 눌러서 x 표시로 삭제 안 되나요?

0

김형

x표시로 삭제는 안되지만 설치된 경로를 찾을 수 있어서, 선생님 방금 알려주신 부분에서 힌트를 얻어서 기존 이상한? 크로미움 삭제 성공하고, 새로 설치한 크로미움으로 동작 했어요 감사합니다!

이제 사이트가 꺼지지 않고, 이상한 오류표시는 없어졌어요 역시나 크로미움 문제가 1차적이였어요

headless 궁금한게 있어요!

0

422

2

6강 프록시 서버 테스트 관련하여

0

342

2

페이스북 로그인 로그아웃 자동화관련

0

278

2

3-2 axios로 이미지 저장하기에서 axios 관련 오류..

0

269

2

3-1 이미지 다운로드 준비하기 에서 선택자 구성 질문

0

250

3

2-4 csv 출력하기에서 오류 발생

0

294

3

try-puppeteer.appspot.com 을 사용할 수 없나요?

0

151

1

크롬 확장프로그램 관련 질문드립니다.

0

170

1

크롤링 자바스크립트 exe파일

0

557

1

puppeteer 관련

0

599

2

6-3 proxy-database 관련

1

288

1

크롤링을 여러개 돌리려면 어떠한 방법을 선택하는게 좋을까요?

0

794

1

네이버 영화 평점 크롤링 (axis cheerio)

1

491

1

아래 noscript 내용입니다.

0

528

1

크롤링

0

378

1

앱 크롤링

0

1785

1

페이스북 로그인

0

544

1

2019년도 영상이라 error가 나는 걸까요? 2-4. csv에 출력하기에서 error

1

461

1

안녕하세요! for of와 Promise.all 차이점에 관해서 질문드려요!

0

441

2

대량 요청 처리 방법

0

466

1

구글 패스워드 자동입력시 오류

0

252

1

반복크롤링 할 때 아래 질문주신분 하고 약간 형태가 달라요

0

367

2

인스타그램 돔의 value 값으로 쿼리셀렉터 찾을 수 있나요?

0

302

1

페이스북 로그인시 돔이 생성 안되는 문제

0

311

1