inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[신규 개정판] 이것이 진짜 크롤링이다 - 실전편 (인공지능 수익화)

텍스트를 기준으로 찾아야하는 상황

추출한 데이터 자체의 문제에 대해 궁금합니다.

해결된 질문

66

JaeYeong

작성한 질문수 1

0

- 학습 관련 질문을 남겨주세요. 상세히 작성하면 더 좋아요!
- 먼저 유사한 질문이 있었는지 검색해보세요.
- 서로 예의를 지키며 존중하는 문화를 만들어가요.
- 잠깐! 인프런 서비스 운영 관련 문의는 1:1 문의하기를 이용해주세요.

 

RISS의 주제저를 추출하는 부분에서 파이썬을 이용한 크롤링은 잘 되었습니다. 하지만 크롤링한 데이터를 보니 웹에는 표시되지 않는 문자들이 같이 출력되었습니다. 저만 이런 문자가 추가로 붙었는지 궁금해서 강사님의 강의도 보니 강사님의 강의에서도 똑같이 추출한 데이터에서 문자가 추가된 것을 확인할 수 있었습니다.

스크린샷 2024-12-21 오후 10.21.02.png

마지막 줄에 AI하고 \u3000 이라는 문자가 추가되었는데 외주를 할 때 이런 오류는 문제가 되지 않는지 궁금합니다.

python 웹-크롤링

답변 1

0

스타트코딩

데이터를 크롤링했을 때 웹에 표시되지 않는 특수문자(예: \u3000 등)가 포함되는 현상은 종종 발생할 수도 있어요 ㅎㅎ

이러한 특수문자는 원본 웹페이지의
인코딩이나 HTML 소스에 숨겨져 있는 공백·분리 기호 등 때문인데,

 

보통 간단한 후처리를 통해 제거하거나,
필요한 경우 적절한 문자로 치환해주면 문제없이 사용할 수 있습니다.

 

1. 문자열 치환(replace)으로 제거하기

text = text.replace('\u3000', '') # 해당 특수문자 제거

 

2. 정규표현식으로 처리하기

import re 



# 유니코드 범위를 지정해서 제거하기 (예: \u3000 ~ \u303F 범위 등) 

pattern = re.compile(r'[\u3000-\u303F]+') 

cleaned_text = pattern.sub('', text)

 

 

 

셀레니움 환경설정 오류

0

52

2

네이버 로그인 관련

0

282

2

안녕하세요 셀레니움에 대해서 질문

0

89

1

크롤링 연습사이트 문의

0

102

2

선택자 질문

0

74

2

'특정 요소가 나타날 때까지 스크롤' 부분 에러

0

78

2

자동 로그인 질문

0

90

2

44강 제목, 링크

0

107

1

원하는 값이 없을 때

0

91

2

크롤링한 링크가 엑셀로 들어가면 작동이 안되요

0

230

2

셀레니움 PDF자료는 받을 수 있나요

0

100

2

글목록 추출하기

0

100

2

메일 자동화 로그인 중복방지문자해결 오류 및 명시적 대기 질문

0

91

2

강의 노트가 어디에 있는건가요?

0

80

2

강의 커리큘럼 질문

0

102

1

조건문 else 사용하지 않는 이유

0

77

2

셀레니움으로 접근할 수 없는 경우

0

98

2

웹페이지 변경

0

75

2

자바스크립트로 태그 선택 시 질문입니다.

1

65

2

수료증은 어떻게 받나요?

0

122

2

class명을 활용하여 선택자를 만들지 않는 경우..?

0

61

2

드라이버가 안 열려요

0

79

2

이거 해결방법 아시는 분?

0

121

2

네이버 지식인 크롤링..

0

202

2