inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[신규 개정판] 이것이 진짜 크롤링이다 - 기본편

준비물1) HTML 기초

네이버 쇼핑 상품 정보 수집하기

849

김수연

작성한 질문수 2

1

from selenium import webdriver
from selenium.webdriver.common.keys import Keys
from selenium.webdriver.chrome.service import Service
from selenium.webdriver.chrome.options import Options
from webdriver_manager.chrome import ChromeDriverManager  # 크롬드라이버 자동업데이트
from selenium.webdriver.common.by import By
import time

# 브라우저 생성
browser = webdriver.Chrome('/Users/gimsuyeon/Desktop/현프파이썬/네이버쇼핑크롤링/chromedriver')

# 브라우저 꺼짐 방지
chrome_options = Options()
chrome_options.add_experimental_option("detach", True)

# 불필요한 에러 메세지 없애기
chrome_options.add_experimental_option("excludeSwitches", ["enable-logging"]) 

service = Service(executable_path=ChromeDriverManager().install())
driver = webdriver.Chrome(service=service, options = chrome_options)

# 웹페이지 해당 주소 이동
driver.get("https://www.naver.com")
driver.implicitly_wait(10) # 로딩이 끝날 때까지 10초까지는 기다려줌


# 쇼핑 메뉴 클릭
driver.find_element(By.CSS_SELECTOR,'a.nav.shop').click()
time.sleep(2)

# 검색창 클릭
search = driver.find_element(By.CSS_SELECTOR,'input._searchInput_search_text_fSuJ6')
search.click()

# 검색어 입력
search.send_keys('아이폰 13')
search.send_keys(Keys.ENTER)

# 스크롤 전 높이
before_h = driver.execute_script("return window.scrollY")

# 무한 스크롤(반복문)
while True:
    # 맨 아래로 스크롤을 내린다.
    driver.find_element(By.CSS_SELECTOR, 'body').send_keys(Keys.END)

    # 스크롤 사이 페이지 로딩 시간
    time.sleep(1)

    # 스크롤 후 높이
    after_h = driver.execute_script("return window.scrollY")

    if after_h == before_h:
        break
    before_h = after_h

# 상품 정보 div
items = driver.find_elements(By.CSS_SELECTOR,".basicList_info_area__0T9JD")

for item in items:
    name = item.find_elements(By.CSS_SELECTOR,".basicList_title__VfX3c").text
    try:
        price = item.find_elements(By.CSS_SELECTOR,".price_num__S2p_v").text
    except:
        price = '판매중단'
    link = item.find_elements(By.CSS_SELECTOR, ".basicList_title__VfX3c > a").get_attribute('href')
    print(name, price, link)

.py:10: DeprecationWarning: executable_path has been deprecated, please pass in a Service object

이렇게 터미널에 계속 오류가 뜨는데 어디가 문제 인지 모르겠습니다ㅠㅠㅠ 알려주세요ㅠㅠㅠ 셀레니움 4.0 버전 가이드 강의도 다 듣고 한건데도ㅠㅠ계속 오류가 납니다

 

웹-크롤링 python

답변 1

0

스타트코딩

# 브라우저 생성

browser = webdriver.Chrome('/Users/gimsuyeon/Desktop/현프파이썬/네이버쇼핑크롤링/chromedriver')

이부분을 삭제해 보세요 ^^

Live server 를 이용 해보고 싶은데 확장메뉴 설치가 막혀 있어요

0

69

2

'팀 단위 AI 업무 혁신' 자문 관련하여 문의드리고자 합니다. (연락처 요청)

0

41

1

import requests from bs4 import BeatifulSoup 이 단계에서 안 되네요

0

80

2

requests 관련 질문

1

138

2

설치 관련

0

132

2

vs code 결과출력이 안됩니다

0

145

1

크롤링 관련 질문입니다

0

212

2

word wrap 체크 후에도 콘솔 한줄로 출력되는현상

0

192

1

주피터에서 pip오류가 계속납니다

0

1090

3

강의 "requests, Beautifulsoup4 사용법 빠르게 알아보기"에서 질문이있습니다.

0

173

2

네이버쇼핑 검색창 넘어가기전 팝업창이 안사라져요

0

368

1

html주소를 다른 컴터에서도 접속하기

0

244

2

pandas 설치하는데 오류가 나서요

0

2715

1

실행오류

0

216

1

네이버쇼핑 무한스크롤 안되시는분들 모바일네이버로 실습해보세요

0

264

1

뉴스 페이지에 페이지 번호가 없는데 어떻게 가져오나요?

0

234

2

네이버 쇼핑에 팝업창이 뜨기 시작했어요 도와주세요 ㅠㅠ

0

727

3

셀레니움 실습 시 창이 자동 차단되면서 꺼집니다.

0

668

2

낮은 가격순을 클릭하는 문을 추가하고싶습니다.

0

305

2

pip는 내부 또는 외부명령 ,실행할 수 있는 프로그램

0

3407

2

이런오류는 어떤 오류인가요

0

661

1

창이 두개떠요/쇼핑검색도 안되요 ㅜ

0

334

2

약간 변태(?)같지만 해당 코드를 깔끔하게 함수로 리팩토링해보았습니다

0

338

2

과제 답안을 보지않고 스스로 구글링해서 만든 웹 크롤링 프로그램(10페이지 단위) 코드입니다.

0

763

2