크롤링 html 구조? 질문 있습니다.

#text는 요소에 id 값이 text 인 요소를 말하는건데 이런 id 값은 웹을 만든 개발자가 부여한 값이므로 있을수도 있고 없을수도 있습니다. # 이 붙은 값은 id 값이고 . 붙은 값은 class 값입니다.

보여주신 스샷을 살펴보니 테이블 구조로 되어있는걸로 보입니다.

테이블 구조는 td요소에 id값이 없는경우 위에서 부터 순차적으로 접근하는 방법 밖에 없습니다.

그리고 find 함수보다 select 함수를 사용하는걸 더 권장합니다.

tables = bs.select_one("table.menuTb") # 테이블에 클래스명이 menuTb 인 요소 1개만 선택

# 테이블 요소 선택에 문제가 없었다면..

if tables:

tds = tables.select("tbody > tr > td") # menuTb클래스의 테이블 요소에서 tbody 밑에 tr 밑에 td 를 모두 선택

# 선택된 td 요소를 모두 출력

for td in tds:

print(td)

아니면 td의 갯수가 고정되었다면

tds = tables.select("tbody > tr > td") # menuTb클래스의 테이블 요소에서 tbody 밑에 tr 밑에 td 를 모두 선택

# 선택된 tds 의 갯수가 3개일때만(조식, 중식, 석식)

if len(tds) == 3:

menu1 = tds[0].text

menu2 = tds[1].text

menu3 = tds[2].text

이런식으로 작성해도 됩니다. 그런데 스샷의 주소를 들어가서 보니 해당 페이지가 인코딩이 명시되지 않아서인지 한글이 깨지더라구요 그런경우에는 뷰티플숩에 r.text를 넘기지 말고 r.content 를 넘겨서 해결할 수 있습니다. r.text는 인코딩이 된텍스트를 넘기는거고 r.content 는 인코딩 되기 전의 바이너리 데이터를 넘깁니다.

import requests
from bs4 import BeautifulSoup

url = "https://www.kaist.ac.kr/_prog/fodlst/index.php?site_dvs_cd=kr&menu_dvs_cd=050303&dvs_cd=emp&stt_dt=2019-11-15"
r = requests.get(url)

# r.text 는 한글이 깨지므로 r.content 로 인코딩 되지 않은 원본 바이너리 데이터를 넘깁니다. 
# r.text 는 인코딩이 된 데이터입니다.
bs = BeautifulSoup(r.content, "html.parser")

# 이전 코드 스타일
# lists = bs.find_all("table", {"class": "menuTb"})
# print(lists)
# for table in lists:
#    title = table.find("td")
#    print(title)

# 새로운 코드 스타일
# select_one 으로 table 의 클래스명이 menuTb 인 요소 1개만 선택(대상이 여러개인경우 맨위에 것만 선택됩니다.)
table = bs.select_one("table.menuTb")

# 테이블이 존재한다면(오류방지)
if table:
    # 해당 테이블에서 tbody 밑에 tr 밑에 td 요소 모두를 선택
    # 테이블의 td는 이렇게 tbody 부터 접근해서 내려가야만 select 되는 경우가 많습니다.
    tds = table.select("tbody > tr > td")

    # tds의 갯수가 3개인경우만동작 (조식, 중식, 석식)
    if len(tds) == 3:
        menu1 = tds[0].text
        menu2 = tds[1].text
        menu3 = tds[2].text
        print(menu1, menu2, menu3)

인프런 커뮤니티 질문&답변