-
질문 & 답변
카테고리
-
세부 분야
데이터 분석
-
해결 여부
미해결
적힌대로 해보고 있는데 크롤링 되다가 멈춥니다.
22.04.16 12:14 작성 조회수 131
1
강의보고 따라하고 있는데
크롤링이 진행되다가 멈추네요
먼저 브랜드 내임만 가져와서 코드가 정상적으로 작동하고 있는지 출력해보았는데 아래와같이 결과가 나오다가 멈추고 정상적으로 작동하면 입력커서가 다시 깜박이어야 하는데 그런것도 없이 멈춰버립니다.
홈플래닛
로지텍
샤오미
홈플래닛
PYHO
샤오미
코시
import requests
from bs4 import BeautifulSoup
main_url = 'https://www.coupang.com/np/search?component=&q=%EB%A7%88%EC%9A%B0%EC%8A%A4&channel=user'
response = requests.get(main_url, headers={'User_Agent' : 'Mozila/5.0'})
html = response.text
soup = BeautifulSoup(html, 'html.parser')
links = soup.select("a.search-product-link")
for link in links:
sub_url = "https://www.coupang.com/" + link.attrs['href']
response = requests.get(sub_url, headers={'User_Agent' : 'Mozila/5.0'})
html = response.text
soup = BeautifulSoup(html, 'html.parser')
brand_name = soup.select_one("a.prod-brand-name").text
print(brand_name)
답변을 작성해보세요.
1
kshssi
질문자2022.04.19
위에 적어준 코드로 사용해봐도 작동이 안되네요...
일반적인 코딩 오류처럼 오류 메세지가 나오는게 아니라
명령프롬트 창에서 코딩이 실행된다는 메세지가 나오고 그 상태에서 아무런 움직임도 변화도 없습니다 ㅠㅠ
m1맥북에서 VScode로 사용중이구요
스타트코딩
지식공유자2022.04.27
쿠팡 사이트에서 업데이트가 있었나 보네요.
제가 확인 후 답변드리고,
해당강의내용 수정하겠습니다.
우선, 다른 예제 부터 진행해 보세요 :)
0
스타트코딩
지식공유자2022.04.18
안녕하세요.
for 문을 작성 후에 들여쓰기(Tab)를 해줘야 합니다.
아래 코드를 확인해 보세요 :)
import requests
from bs4 import BeautifulSoup
main_url = "https://www.coupang.com/np/search?component=&q=usb%ED%97%88%EB%B8%8C&channel=user"
# 헤더에 User-Agent를 추가하지 않으면 오류가 나요 (멈춰버림)
response = requests.get(main_url, headers={'User-Agent' : 'Mozila/5.0'})
html = response.text
soup = BeautifulSoup(html, 'html.parser')
links = soup.select("a.search-product-link") # select의 결과는 리스트 자료형
for link in links:
sub_url = "https://www.coupang.com/" + link.attrs['href']
response = requests.get(sub_url, headers={'User-Agent' : 'Mozila/5.0'})
html = response.text
soup = BeautifulSoup(html, 'html.parser')
# 브랜드명은 있을 수도 있고, 없을 수도 있어요
# - 중고상품일 때는 태그가 달라져요
# try - except로 예외처리를 해줍니다
try:
brand_name = soup.select_one("a.prod-brand-name").text
except:
brand_name = ""
# 상품명
product_name = soup.select_one("h2.prod-buy-header__title").text
# 가격
product_price = soup.select_one("span.total-price > strong").text
print(brand_name, product_name, product_price)
답변 2