This website requires JavaScript.
포트폴리오 대표 이미지
데이터 크롤링쇼핑몰 상품 데이터 수집 - 목록 50페이지 + 상세 1000건 자동 수집 (Python)
  • 지역비대면 진행
  • 예산350,000원
  • 이용 목적웹 크롤링
  • 유형페이지 내용, 페이지 제목, 평점
  • 분야쇼핑몰, 오픈마켓 (쿠팡, 옥션 등)
  • 수량000페이지 이하
  • 기간1주

상품 목록 페이지를 순회한 뒤 각 상세 페이지까지 진입해 필요한 항목을 모두 수집하고 엑셀에서 바로 열리는 CSV로 저장하는 도구입니다. [수집 구조] 1단계 - 카탈로그 페이지를 넘기며 상품명, 가격, 별점, 재고 여부, 상세 링크 수집 2단계 - 수집한 상세 링크에 각각 진입해 카테고리, 재고 수량, 상품코드, 리뷰 수, 상품 설명 추가 수집 [실측 성능] 50페이지 / 상품 1000건 / 항목 11개 / 수집 실패 0건 / 소요 64.9초 카테고리 50종 자동 분류 [안정성 처리] - 자동 재시도: 일시적 오류(429, 500번대)는 대기 시간을 늘려가며 3회까지 재시도 - 개별 실패 격리: 상품 하나가 실패해도 전체가 멈추지 않고 해당 행에 사유를 기록 - 요청 간격 조절: 대상 서버에 부하가 걸리지 않도록 간격을 두고 접근 - 진행률 로그: 어디까지 수집됐는지 실시간 확인 가능 - 수집량과 동시 처리 수를 실행 시점에 조절 가능 [결과물] CSV 파일 (엑셀 바로 열림) 또는 요청하시는 형식(JSON, 구글 시트, DB 적재) [적용 가능한 작업] 쇼핑몰/오픈마켓 상품가격 수집, 경쟁사 가격 모니터링, 정기 자동 수집, 수집 후 중복 제거 및 형식 정리 - 본 예제는 스크래핑 학습용으로 공개된 샌드박스 사이트를 대상으로 진행했습니다. 실제 작업은 의뢰인이 접근 권한을 보유한 대상에 한해 진행합니다.

이미지 2

이미지 4

와이사장
데이터 크롤링
별점
4.9(23)
정확한 요청사항 분석과 만족스러운 가격으로 보답하겠습니다

인쇄업 사내 영업관리 시스템 (미니 ERP)

0
13

거래처 주문 앱 - QR 배포형 PWA + 주문 알림 자동화

0
7

SNS 게시물 자동 수집기 - X, Threads, Reddit, Quora

0
7

소재 검색 플랫폼 기능 복구 및 데이터 확장 (Wix Velo)

0
4
  • 인쇄업 사내 영업관리 시스템 (미니 ERP)

    0
    13
  • 거래처 주문 앱 - QR 배포형 PWA + 주문 알림 자동화

    0
    7
  • SNS 게시물 자동 수집기 - X, Threads, Reddit, Quora

    0
    7
  • 소재 검색 플랫폼 기능 복구 및 데이터 확장 (Wix Velo)

    0
    4
  • 소상공인 업무 자동화 사업계획서 (PSST 표준양식)

    0
    2
  • 반찬 정기배송 앱 주문 화면 디자인

    0
    1
비슷한 스타일을 찾고 계신가요?의 다른 포트폴리오

네이버 블로그 댓글수집

0
29

N증권 리서치 크롤링

0
53

멀티레벨 다중회귀분석(R코드 제공)

0
166

디지털포렌식 작업물

1
867
  • 네이버 블로그 댓글수집

    0
    29
  • N증권 리서치 크롤링

    0
    53
  • 멀티레벨 다중회귀분석(R코드 제공)

    0
    166
  • 디지털포렌식 작업물

    1
    867
  • 갤럭시 z플립4 삭제된 사진 복구

    0
    999+
  • 브랜드 리뷰 분석 프로그램 (설치 없이 실행, 결과는 엑셀로)

    0
    12
  • 공공기관 25곳 정책공고 자동 수집 - 모니터링 100% 무인화

    0
    10
  • yelp 리뷰 이미지 크롤링

    0
    38
  • 사회과학 연구방법론 통계분석 특강

    0
    36