inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

실습으로 끝장내는 웹 크롤링과 웹 페이지 자동화 & 실전 활용

뷰티풀수프(beautifulsoup) 기초 사용법

네이버가 바뀌었는데 카테고리? 리스트 가져오는게 안되네요?

585

jangtaesan

작성한 질문수 7

1

안녕하세요.

강의 잘 듣고 있습니다.

네이버가 새로운 형태로 바뀌었는데

아주 간단한 것이 해결이 안되네요?

이유가 뭘까요?

기본구조는 이렇게 생겼습니다.

<li class="shortcut_item"> <a href="mail.naver.com" class="link_service"> <span class="service_icon type_mail"> ::before ::after </span> <span class="service_name">메일</span> </a> </li> <li class="shortcut_item"> </li>

아래처럼 너무 단순한거라 생각했던 것을 못 가져오네요?

확인 부탁드려요~

service_name = soup.find(class_="service_name", string="메일")
print(service_name)     # None 출력이 안되네 이유가 뭘까나?
print() 

python 웹-크롤링 selenium beautifulsoup

답변 2

1

김플

안녕하세요.
뷰티풀수프만으로는 크롤링이 불가능하게 사이트가 완전히 바뀌어서 강의를 수정해야 하겠네요.
사용하신 문법에는 전혀 문제는 없습니다.
다만, 지금의 네이버는 셀레니움을 함께 사용해야 위 문법을 썼을때 제대로 나오는데 셀레니움은 커리큘럼상 뒤에 있습니다.
일단 강의는 보면서 문법만 익히시고 셀레니움까지 진행하신다면 쉽게 적용하실수 있으실겁니다.
강의는 조만간 업데이트 하도록 하겠습니다.

1

jangtaesan

네 감사합니다.

셀레니움으로 해야 한다면 동적으로 바뀌었다는 이야기죠?

개발자도구에서 html문서를 확인한 상황은 동적 느낌이 들지 않더라구요.

그렇게 바뀌었다는 것을 무엇으로 확인할 수 있을까요?

0

김플

개발자도구에서 보는 html은 지금 보여지는 화면의 html입니다.
그러니까 동적으로 변화가 있으면 개발자도구에서 보여지는 html은 변하게 됩니다.
웹페이지에서 마우스 오른쪽을 눌러 페이지 소스보기를 했을때 나오는 html이 requests를 사용해서 가져오는 html라고 생각하시면 됩니다.

1

jangtaesan

감사합니다. 끝까지 듣고 나니 내용이 이해가 되었습니다.

멜론 사이트 수집부터 안됩니다

0

56

1

강의 시점이랑 현재랑 네이버 사이트 변화가 많은거 같아서 질문드립니다.

0

54

1

-href 가져오기

0

90

2

수업내용 프로젝트의 완성된 코드는 제공이 안돼나요?

0

155

1

안녕하세요 쿠팡 크롤링 막힌거 같아요 3번돌리니깐 막았어요 해결방법없을까요?

0

3595

1

쿠팡 BeautifullSoup 헤더넣어도 막히네요

0

442

1

네이버 쇼핑 크롤링 1 코드 사용 시, 접속 제한됐을 때의 해결 방법이 궁금합니다.

0

3164

1

추가 강의 업데이트 있나요?

0

245

1

lambda 중에 문의가 있습니다.

0

269

1

텔레그램 sendMessage 시 400에러가 뜹니다.

0

898

2

ftp 로긴 문제입니다. ㅜ

0

402

2

네이버 쇼핑 크롤링 질문입니다.

0

366

1

XPATH 네이버에서 카페 찾는 과정 문의입니다.

1

312

1

셀레니움 By.XPATH 를 이용한 키워드 입력 작성 질문입니다.

0

664

2

쿠팡 이미지 파일 다운받기에서 동일하게 코드 작성 후 요청하였지만 파일 다운로드가 안됩니다.

0

805

2

파이썬에 키워드를 치는게 아닌...

0

274

2

50프로 수강중입니다~

0

217

1

제품 링크를 타고 들어가야 원하는 정보가 나오는 사이트

0

378

2

lst = lst50 + lst100 이거 대신에

0

321

2

증권, 메일 등 서비스 목록을 못가져와요 ㅠㅠ

1

279

1

네이버에 view탭이 업데이트가 됐는지 없어졌네요... ㅠㅠ

1

244

1

선생님이랑 똑같이 적었는데 저는 왜 오류가 날까요?ㅠ

0

354

2

네이버쇼핑 크롤링 문의

0

427

2

asyncio.run() cannot be called from a running event loop 에러 질문 드립니다

0

3891

4