inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[신규 개정판] 이것이 진짜 크롤링이다 - 실전편 (인공지능 수익화)

텍스트를 포함하는 태그 찾기 (feat.정규표현식)

첫페이지 크롤링에서 For 문까지는 작동이 되네요. 그러나

274

최범석

작성한 질문수 6

0

for 문 내의  soup 를 출력하면  작동이 되는데.

그이후 select_one 을 써서 브랜드 상품명 가격등을 변수에 넣고  출력하면 터미널이 그냥 멈춰 버립니다.

from itertools import product
import requests
from bs4 import BeautifulSoup


main_url = "https://www.coupang.com/np/search?component=&q=%EA%B2%8C%EC%9D%B4%EB%B0%8D+%EB%A7%88%EC%9A%B0%EC%8A%A4"

#헤더에 유저에이전트 추가
response = requests.get(main_url, headers={'User-Agent' : 'Mozila/5.0'})
html = response.text
soup = BeautifulSoup(html, 'html.parser')

links = soup.select("a.search-product-link") 
#print(links)

for link in links :
    sub_url = "https://www.coupang.com/" + link.attrs['href']

    response = requests.get(sub_url, headers={'User-Agent' : 'Mozila/5.0'})
    html = response.text
    soup = BeautifulSoup(html, 'html.parser')
    # print(soup).text

    #브랜드명
    # brand_name = soup.select_one("a.prod-brand-name").text
    # #상품명
    # product_name = soup.select_one("h2.prod-buy-header__title").text
    # #가격
    product_price = soup.select_one("span.total-price > strong")

    # print(brand_name, product_name ,product_price)
    print(product_price)

결과물은 

Microsoft Windows [Version 10.0.22000.556]
(c) Microsoft Corporation. All rights reserved.

D:\python\startcoding>C:/Users/iam6e/AppData/Local/Programs/Python/Python310/python.exe "d:/python/startcoding/실전편/03.쿠팡크롤링/01_첫번째 페이지 크롤링.py"

 

이렇게 그냥 아무것도 동작하지 않고 터미널을 닫아야만 해요 ㅠㅜㅜ 어떻게 해야 할까요?

 

 

python 웹-크롤링

답변 1

0

스타트코딩

쿠팡 사이트에서 업데이트가 있었나 보네요.

 

제가 확인 후 답변드리고,

해당강의내용 수정하겠습니다.

 

우선, 다른 예제 부터 진행해 보세요 :)

셀레니움 환경설정 오류

0

52

2

네이버 로그인 관련

0

282

2

안녕하세요 셀레니움에 대해서 질문

0

89

1

크롤링 연습사이트 문의

0

102

2

선택자 질문

0

74

2

'특정 요소가 나타날 때까지 스크롤' 부분 에러

0

78

2

자동 로그인 질문

0

90

2

44강 제목, 링크

0

107

1

원하는 값이 없을 때

0

91

2

크롤링한 링크가 엑셀로 들어가면 작동이 안되요

0

230

2

셀레니움 PDF자료는 받을 수 있나요

0

100

2

글목록 추출하기

0

100

2

메일 자동화 로그인 중복방지문자해결 오류 및 명시적 대기 질문

0

91

2

강의 노트가 어디에 있는건가요?

0

80

2

강의 커리큘럼 질문

0

102

1

조건문 else 사용하지 않는 이유

0

77

2

셀레니움으로 접근할 수 없는 경우

0

97

2

웹페이지 변경

0

75

2

자바스크립트로 태그 선택 시 질문입니다.

1

65

2

수료증은 어떻게 받나요?

0

122

2

class명을 활용하여 선택자를 만들지 않는 경우..?

0

61

2

드라이버가 안 열려요

0

79

2

이거 해결방법 아시는 분?

0

121

2

네이버 지식인 크롤링..

0

202

2