• 목록
  • 아래로
  • 위로

안녕하세요??

 

주말 잘 보내고 계시는가요?? ^-^

 

from concurrent.futures import ThreadPoolExecutor을 이용하여 다수의 이미지를 크롤링하는 경우에 대해 질문 드립니다.

 

def down_file(url, s, name, dir):
    r = s.get(url)
    if r.status_code == 200:
        filename = dir + '\\' + name
        print(filename)
        with open(filename, 'wb') as f:
            f.write(r.content)
    return s

with ThreadPoolExecutor(max_workers=8) as executor:
    for p in prvs:
        href = p.find('a')['href']
        url =  'URL을 입력하세요' + href
        html = s.get(url).content
        soup = BeautifulSoup(html, 'html5lib')
        a_tags = soup.find('div', {'id':'galerie-listing-photos'}).find_all('a')
        for a in a_tags:
            url = 'URL을 입력하세요' + a['href']
            name = url.split('/')[-1]
            executor.submit(down_file, url, s, name, dir)

 

이와 같이 with 문을 사용하여 실행을 해봤고, 아래와 같이 with 문을 사용하지 않고 실행을 해봤어요~!

 

 

# 다운로드 함수 생략

pool = ThreadPoolExecutor(max_workers=8)
for p in prvs:
    href = p.find('a')['href']
    url =  'URL을 입력하세요' + href
    html = s.get(url).content
    soup = BeautifulSoup(html, 'html5lib')
    a_tags = soup.find('div', {'id':'galerie-listing-photos'}).find_all('a')
    for a in a_tags:
        url = 'URL을 입력하세요' + a['href']
        name = url.split('/')[-1]
        pool.submit(down_file, url, s, name, dir)

 

 

그런데 전자가 후자보다 다운로드 받은 파일 수가 더 많은데요 ㅠㅠ

 

후자에서 어떤 문제가 발생한 것 같은데 무엇 때문에 이러한 문제가 발생했는지 여쭤봅니다.

 

with 문으로 사용하지 않으면 스레드 간에 충돌이 발생하는건가요??

 

 

그럼 비 조심하시고 편안한 주말 되세요 :)

 

항상 감사드려요!! ^^

 

작성자
이니스프리 119 Lv. (1%) 3413360/115200000EXP

Make StudyForUs Great Again!

 

CSVpuymXAAAVVpd.jpg

댓글 4

title: 황금 서버 (30일)humit
profile image
+1
https://docs.python.org/3/library/concurrent.futures.html#concurrent.futures.Executor.shutdown
이 내용이 도움이 되실 거 같네요.
comment menu
2020.08.09. 23:36

신고

"humit님의 댓글"

이 댓글을 신고 하시겠습니까?

이니스프리 작성자 → humit
profile image
humit 님 안녕하세요??
번번이 큰 도움을 주셔서 정말 감사합니다!!

공식문서를 읽는 습관을 들여야 된다는 생각은 늘 하는데...
이번에도 제가 깜빡했네요 ㅠㅠㅠㅠㅠ

제가 제대로 이해했는지 모르겠지만 Executor 인스턴스를 shutdown 하지 않으면
어디에선가 꼬이는가 보군요 ㅜㅜ
구글링해봐도 with 문을 사용하는 경우가 대부분이네요!

병렬작업 실행은 잘 작성하면 정말 효율적인데 저한테는 아직 어렵네요 ㅠㅠ
제가 구매한 서적들에는 이 부분을 제대로 다루지 않던데 어떻게든 더 공부를 해봐야겠어요~
그럼 humit 님께서도 좋은 오후 되시고 태풍이 온다던데 피해가 없으시길 기원할게요!
항상 감사드려요!
comment menu
2020.08.10. 13:41

신고

"이니스프리님의 댓글"

이 댓글을 신고 하시겠습니까?

title: 황금 서버 (30일)humit → 이니스프리
profile image
+1
좀더 상세하게 말씀드리자면 shutdown 메서드를 사용하지 않으면 메인 프로세스가 종료된 경우 Executor에 들어온 작업이 실행이 끝날 때까지 대기하는 것이 아니라 바로 종료가 되게 됩니다. 그래서 두 번째 경우에 실행되다가 중간에 종료가 되어서 개수가 적은 것이라고 생각하시면 됩니다.
comment menu
2020.08.11. 23:08

신고

"humit님의 댓글"

이 댓글을 신고 하시겠습니까?

이니스프리 작성자 → humit
profile image
앗 그런 과정에서의 차이가 발생하여 결과가 달라지는 것이군요~ ^-^
정말 감사합니다!!
덕분에 또 많이 배웠네요 :)
그럼 humit 님께서도 비 조심하시고 굿밤 되세요!
comment menu
2020.08.11. 23:18

신고

"이니스프리님의 댓글"

이 댓글을 신고 하시겠습니까?

권한이 없습니다.
번호 제목 글쓴이 날짜 조회 수
공지 시스템 점검 작업 완료 안내 10 마스터 24.09.05.16:25 278
공지 [중요] 호스팅 만료와 관련하여 일부 수칙이 변경됩니다. 4 마스터 23.01.14.02:23 7317
공지 [필독] 질문하는 방법 17 마스터 18.02.23.03:09 4775
26 네이버 카페 대문을 HTML로 제작해보려는데 너무 어렵네요. 6 image 도바킨 18.07.09.04:27 2873
25 프로그래머스 코딩테스트 연습에서 효율성 심사를 통과하려면 어떻게 해야할까요? 2 이니스프리 19.12.18.01:55 2884
24 "크롬이 응답하지 않습니다. 다시 시작하시겠습니까?" 오류 관련 질문 드려요 ^^ 8 이니스프리 17.12.05.20:05 2897
23 NET::ERR_CERT_AUTHORITY_INVALID가 자꾸 뜹니다.. 4 국내산라이츄 17.09.03.22:10 2929
22 일본어 '도키도키'의 뜻을 어떻게 해석해야 하나요? 11 이니스프리 19.01.26.19:16 2950
21 집에서 시놀로지 NAS로 워드프레스나 미디어위키 돌리면 느릴까요? 10 이니스프리 17.01.16.20:56 3031
20 [Requests] multipart/form-data의 전송에 대해 질문 드립니다 ^^ 4 이니스프리 19.12.18.22:00 3106
19 선택약정 안 되는 중고폰의 경우에는 어떤 단점이 있는 것인가요?? 6 이니스프리 20.01.21.14:30 3144
18 자바스크립트 FormData와 관련된 메서드의 IE 호환성과 관련하여 질문 드립니다 ^^ 6 image 이니스프리 19.08.05.14:22 3467
17 파일질라로 연결하니까 보안되지 않은 서버입니다. TLS를 통한 FTP를 지원하지 않습니다. 이렇게떠요 해결방안좀 1 마카오 16.09.11.00:57 3709
16 IE11에서 이미지가 깨지는 현상을 해결할 수 있을까요? 2 이니스프리 19.08.02.00:01 3738
15 파티션 복구 프로그램 TestDisk 잘 아시는 분 계시나요? 29 이니스프리 17.11.10.14:53 3785
14 나무 위키의 수익구조는 무엇일까요? 2 NoYeah 18.03.18.15:56 3880
13 라떼판다와 라즈베리 파이 중 어느 쪽을 사는 게 나을까요? 9 제르엘 18.10.14.19:25 3881
12 파이썬 에디터로 어떤 것이 좋나요? 14 NoYeah 20.01.08.21:08 4566
11 오라클 클라우드 프리티어 가입이 안 되네요 ㅠㅠ 20 이니스프리 20.06.26.21:31 4883
10 크롬에서 특정 사이트 접속 문제 관련하여 질문 드립니다 9 이니스프리 17.03.27.18:03 5344
9 윈도우용 메일 클라이언트가 필요합니다. 9 네모 18.01.11.20:15 5880
8 프린터가 지 맘대로 프린트를 하네요. 3 곰도리푸 18.04.04.18:20 6340
7 PyQt 실행시 프리징 현상 관련하여 질문 드립니다! ㅠㅠ 3 이니스프리 19.07.06.03:37 6798