inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[신규 개정판] 이것이 진짜 크롤링이다 - 실전편 (인공지능 수익화)

선택에서 제외시키기

뉴스 본문 내용 크롤링 응용

372

정명준

작성한 질문수 6

1

import requests
from bs4 import BeautifulSoup 

respones = requests.get("https://www.coupang.com/np/categories/498917")
html = respones.text
soup = BeautifulSoup(html,'html.parser')
item = soup.select(".baby-product-link") # 쿠팡 아이템 1페이지 모두 지정 
for items in item:
    print(f"{pn}페이지 입니다=========================")
    name = items.select("div.name") #리스트
    url = items.attrs['href'] #두번째 링크의 href를 추출 그리고 url에 저장 
    response = requests.get(url, headers={'user-agent' : 'mozila/5.0'}) # headers={'user-agent' : 'mozila/5.0'}로 기계같이 보이는 오류를 막음 #받아온 url들을 다시 불러옴 
    html = response.text # 받아온걸 텍스트로 변환
    soup = BeautifulSoup(html,'html.parser') # 알아보기쉽게 만들어줌 
    img = soup.attrs[".src"]# 본문이 가지고 있는 자신만의 태그로 지정 
    print (name,img)
    pn = pn + 1

이런식으로 응용 해보았는데 실행을 하면 오류도 없고

아무 동작이 없네요 .. 이런 경우 어떻게 해야하죠 ? 터미널에는 아무 글도 안떠요 그냥 파일 경로만 뜹니다

웹-크롤링 웹-크롤링 python

답변 1

0

스타트코딩

해당 페이지는 제가 쿠팡 크롤링 예제에서 설명 드렸습니다

헤더 옵션에 하나 더 추가해 줘야 해요!

강의 내용에 나와 있으니 영상으로 확인해 보시기 바랍니다 :)

셀레니움 환경설정 오류

0

51

2

네이버 로그인 관련

0

273

2

안녕하세요 셀레니움에 대해서 질문

0

87

1

크롤링 연습사이트 문의

0

97

2

선택자 질문

0

71

2

'특정 요소가 나타날 때까지 스크롤' 부분 에러

0

78

2

자동 로그인 질문

0

89

2

44강 제목, 링크

0

106

1

원하는 값이 없을 때

0

90

2

크롤링한 링크가 엑셀로 들어가면 작동이 안되요

0

227

2

셀레니움 PDF자료는 받을 수 있나요

0

100

2

글목록 추출하기

0

98

2

메일 자동화 로그인 중복방지문자해결 오류 및 명시적 대기 질문

0

89

2

강의 노트가 어디에 있는건가요?

0

80

2

강의 커리큘럼 질문

0

98

1

조건문 else 사용하지 않는 이유

0

76

2

셀레니움으로 접근할 수 없는 경우

0

95

2

웹페이지 변경

0

72

2

자바스크립트로 태그 선택 시 질문입니다.

1

64

2

수료증은 어떻게 받나요?

0

120

2

class명을 활용하여 선택자를 만들지 않는 경우..?

0

61

2

드라이버가 안 열려요

0

79

2

이거 해결방법 아시는 분?

0

121

2

네이버 지식인 크롤링..

0

202

2