inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

Node.js로 웹 크롤링하기

6-5. 브라우저 여러 개 사용하기

proxy 서버로 네이버 접근시 Error: net::ERR_TUNNEL_CONNECTION_FAILED 발생

1427

양진영

작성한 질문수 13

0

connection fail이라 아예 연결 자체가 안되는거 같아 혹시 프록시 ip가 문제인가 고민해봤습니다.

문제 해결을 위해 한것

const filtered = proxies.filter((v) => v.type.startsWith('HTTP')).sort((a,b) => a.latency - b.latency)


1. 하나의 ip는 다운됫을수도 있기에 filtered[0].ip 뿐만아닌 차선책으로 filtered[1].ip, filtered[2].ip.. 등 여러 ip를 시도했지만 모두 같은 에러를 반환

2. proxy-chain이라는 라이브러리를 인스톨하여 해당 라이브러리에 있는 메소드를 사용

let fastestIp = await proxyChain.anonymizeProxy(`http://${filtered[0].ip}`)
        
browser = await puppeteer.launch({headless:false, args:['--window-size=1920,1080', '--disable-notifications', `--proxy-server=${fastestIp}`]})

 

1번 2번 모두 같은 에러를 반환하며 실패하였습니다. 해당 에러가 정확하게 어떤에러인지 또 어떤것을 시도해 봐야할지 조언 부탁드립니다.

nodejs 웹-크롤링 javascript puppeteer

답변 1

0

제로초(조현영)

사용하신 프록시가 인증없이 사용할 수 있는 프록시인가요?

headless 궁금한게 있어요!

0

414

2

6강 프록시 서버 테스트 관련하여

0

339

2

페이스북 로그인 로그아웃 자동화관련

0

277

2

3-2 axios로 이미지 저장하기에서 axios 관련 오류..

0

269

2

3-1 이미지 다운로드 준비하기 에서 선택자 구성 질문

0

250

3

2-4 csv 출력하기에서 오류 발생

0

294

3

try-puppeteer.appspot.com 을 사용할 수 없나요?

0

151

1

크롬 확장프로그램 관련 질문드립니다.

0

169

1

크롤링 자바스크립트 exe파일

0

555

1

puppeteer 관련

0

599

2

6-3 proxy-database 관련

1

288

1

크롤링을 여러개 돌리려면 어떠한 방법을 선택하는게 좋을까요?

0

794

1

네이버 영화 평점 크롤링 (axis cheerio)

1

489

1

아래 noscript 내용입니다.

0

528

1

크롤링

0

377

1

앱 크롤링

0

1783

1

페이스북 로그인

0

544

1

2019년도 영상이라 error가 나는 걸까요? 2-4. csv에 출력하기에서 error

1

461

1

안녕하세요! for of와 Promise.all 차이점에 관해서 질문드려요!

0

440

2

대량 요청 처리 방법

0

464

1

구글 패스워드 자동입력시 오류

0

250

1

반복크롤링 할 때 아래 질문주신분 하고 약간 형태가 달라요

0

366

2

인스타그램 돔의 value 값으로 쿼리셀렉터 찾을 수 있나요?

0

300

1

페이스북 로그인시 돔이 생성 안되는 문제

0

310

1