inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

현존 최강 크롤링 기술: Scrapy와 Selenium 정복

실전 크롤링: 댓글부대? 다음 뉴스 기사의 댓글 가져오기2

속성 값 출력 질문

158

karunogi

작성한 질문수 3

0

크롤링 1탄부터 시작해서 2탄까지 유익한 강의 잘 듣고 있습니다. 감사합니다.

강의에서 배운 내용을 토대로 여러가지 연습을 해보다가 궁금한 점이 생겨 질문합니다.  html코드에서 각 태그는 여러가지 클래스같은 속성들 (id, name 등)이 있는데 지금까지는 해당 태그 안에 있는 TEXT값을 추출하는 함수로 get_text(를 사용했는데, 혹시 이 속성의 값을 출력하려면 어떻게 해야하는지 궁금합니다.

예를들어 <li id="sp_nws162"> 해당 코드에서 id 값인 sp_nws162를 추출하는 방법이 궁금합니다

웹-크롤링 selenium scrapy

답변 1

0

잔재미코딩 DaveLee

안녕하세요. 우선 이렇게 강의도 많이 들어주시고, 칭찬해주셔서 감사합니다.

특정 태그의 속성값은 다음과 같이 태그데이터변수['속성이름'] 를 통해 쉽게 추출할 수 있습니다.

예를 들어 다음 코드를 그대로 실행해보시면, 다음과 같이 출력이 됩니다.

-------------------
[1]크롤링이란? title 웹페이지에서 필요한 데이터를 추출하는 것 ['cssstyle'] 파이썬을 중심으로 다양한 웹크롤링 기술 발달 center

-------------------

예를 들어 h1태그의 id값은 다음 코드에서는 title_data['id']
h2태그의 class값은 다음 코드에서는 title_data['class']
h3태그의 align값은 다음 코드에서는 title_data['align']

으로 가볍게 추출할 수 있습니다. 다음 코드를 실행해보시면 보다 선명하게 이해하실 수 있으실 것 같습니다.

감사합니다.

코드 -----------------------------------

from bs4 import BeautifulSoup
html = "<html> \
            <body> \
                <h1 id='title'>[1]크롤링이란?</h1> \
                <h2 class='cssstyle'>웹페이지에서 필요한 데이터를 추출하는 것</h2> \
                <h3 id='body' align='center'>파이썬을 중심으로 다양한 웹크롤링 기술 발달</h3> \
            </body> \
        </html>"
soup = BeautifulSoup(html, "html.parser")
# 태그로 검색 방법
title_data = soup.find('h1')
print(title_data.get_text())
print(title_data['id'])

title_data = soup.find('h2')
print(title_data.get_text())
print(title_data['class'])

title_data = soup.find('h3')
print(title_data.get_text())
print(title_data['align'])

코딩을 잘 따라 한 것 같은데 오류가 발생하는 것 같습니다

0

626

1

scrapy를 jupyter 환경에서 할 수 있나요

0

361

1

[실전 크롤링: scrapy 크롤링 팁] 질문있습니다.

0

313

1

[실전 크롤링: 지마켓 크롤링하며, scrapy 실전 활용법 익히기1] 5분50초쯤 질문

0

221

1

[강력/최신 크롤링 기술: Scrapy 로 지마켓 크롤링하기1] 관련 질문

0

279

1

xml을 parsing할때 <을 &lt; 로 인식합니다.

0

335

1

pipelines.py에서 process_item내에서 print문이 작동을 하지 않네요 ㅠ

0

292

3

PhantomJS 문의

0

294

1

selenium 문의

0

329

1

브라우저 제어해서 크롤링하기 - 처음강의 마지막부분 문의

0

3004

1

on error 해결 방법 질문

0

356

1

[팁] 윈도우 cmd 커맨드

0

347

1

[팁]Chrome User Agent 아는법

0

328

1

실전 크롤링: 브라우저를 제어해서 트위터 사이트 로그인 하기 질문

0

254

1

동영상 강의 만드실 때 사용한 툴을 알려주실 수 있을까요?

0

237

1

CSS Selector 에서 질문이 있습니다.

0

435

2

pip install scrapy 오류

0

484

1

셀레니움 실행불가

0

1578

1

실전 크롤링: XPATH와 Selenium 활용해서 페이스북 로그인 하기 에서 질문이 있습니다.

0

227

1

언제 get_text()를 사용하고 또 언제 .text를 사용하나요?

0

288

1

강의교안자료 받을수있을까요?

0

263

1

[강의 9:27관련 질문] price, title 열 위치

0

160

1

div에 있는 클래스가 2개이면 어떻게 하나요?

0

368

1

css 셀렉터에 대해 질문이 있습니다.

0

147

1