• 목록
  • 아래로
  • 위로

안녕하세요?


벌써 2020년의 세번째 금요일이군요 ^^



우분투 VPS에서 크론탭으로 웹 크롤링 스크립트 등 자동화 스크립트를 여러 개 돌리고 있는데요.


물론 Requests로 모두 구현하면 이상적이겠지만, 아직 그 정도 실력이 못 되어서 Selenium도 많이 사용하고 있네요.


그런데 Selenium을 여러 개 띄우면 가뜩이나 VPS 사양도 낮은데 버벅거리는 문제가 있더군요.


스크립트를 종료할 때 driver.close()를 하면 모든 프로세스를 종료하지 않고 끝내는 경우가 생겨서 driver.quit()을 사용하려고 했는데요.


driver.quit()를 하면 동시에 실행 중인 다른 스크립트의 브라우저 탭까지 모두 닫는 것 아닌가요?? (=> 제가 알고 있는 내용이 맞는지요??)


이런 딜레마가 있어서 VPS를 하루에 2~3번 재부팅하고 있네요.


그런데 재부팅을 여러 번 하다보니 웹 서버로 사용하려면 24시간 구동되어야 한다는 취지에 반하는 점도 있구요.



정리하자면 driver.close()로는 모든 프로세스를 종료하지 않는 경우가 있어서 재부팅을 하다보니 


웹 서버를 비롯하여 장시간 구동해야 되는 서버로는 사용하기 애매하다는 것인데요.


이러한 딜레마를 해결하기 위해서는 어떻게 하는 것이 최선일까요??


대단한 것을 크롤링하는 것도 아니어서 가급적이면 크롤링 서버와 웹 서버를 분리하고 싶지는 않은데 말이죠 -_-;;;



그럼 즐거운 불금 되시고 감기 조심하세요 ^^


항상 감사드립니다!




작성자
이니스프리 119 Lv. (1%) 3143170/115200000EXP

Make StudyForUs Great Again!

 

CSVpuymXAAAVVpd.jpg

댓글 4

포인트 폭탄+
이니스프리님 축하합니다.
추가로 500포인트만큼 포인트 폭탄+를 받았습니다.
comment menu
2020.01.17. 14:37

신고

"포인트 폭탄+님의 댓글"

이 댓글을 신고 하시겠습니까?

삭제

"포인트 폭탄+님의 댓글"

이 댓글을 삭제하시겠습니까?

Hanam09
profile image

VPS 와 웹서버를 분리하면 될거같습니다.

자원이 필요하면 VPS에 요청하는 장식으로요

comment menu
2020.01.26. 13:02

신고

"Hanam09님의 댓글"

이 댓글을 신고 하시겠습니까?

이니스프리 작성자 → Hanam09
profile image

감사합니다 ^^

결국 크롤링 서버와 웹 서버를 분리하는 것이 정답이군요!

그럼 즐거운 설 연휴 되세요~

comment menu
2020.01.26. 14:31

신고

"이니스프리님의 댓글"

이 댓글을 신고 하시겠습니까?

포인트 폭탄+ → 이니스프리
이니스프리님 축하합니다.
추가로 200포인트만큼 포인트 폭탄+를 받았습니다.
comment menu
2020.01.26. 14:31

신고

"포인트 폭탄+님의 댓글"

이 댓글을 신고 하시겠습니까?

삭제

"포인트 폭탄+님의 댓글"

이 댓글을 삭제하시겠습니까?

권한이 없습니다.
번호 제목 글쓴이 날짜 조회 수
공지 [1차 해결 및 추가] 서버 접속 불가 문제 안내 14 마스터 24.06.20.15:22 1037
공지 [작업 완료] 설 명절 맞이 서버 업데이트 안내 3 마스터 24.02.11.17:21 3013
공지 [중요] 호스팅 만료와 관련하여 일부 수칙이 변경됩니다. 4 마스터 23.01.14.02:23 6759
공지 [필독] 질문하는 방법 17 마스터 18.02.23.03:09 4737
686 웹페이지의 상단 메뉴를 고정하는 플러그인에 관하여 질문 드립니다 4 이니스프리 18.11.19.21:14 417
685 studyforus.com이 CNAME으로 연결이 되는 군요. 9 Seia 18.01.21.02:54 416
684 yourls vs phurl 어느 쪽을 더 선호하시는지 사용하신 회원님들께 여쭤봅니다 2 이니스프리 17.10.08.09:27 416
683 500 오류 해결법 2 image 맛수타 17.06.19.17:41 416
682 클론질라 및 우분투 질문드립니다 ㅠㅠ 10 크로스하트 18.02.08.16:14 414
681 리눅스를 씁니다. 그런데말입니다.. 문제가.. 14 title: 황금 서버 (30일)하루살이 16.09.30.22:50 413
680 홈... 이런게 가능할까요? 21 모니터 17.10.10.18:37 412
679 몇년된 넷북으로 워드프레스 돌릴 수 있을까요? 7 title: 금메달 (30일)동방개념지국 17.01.29.17:43 411
678 구서버 패널 로그인이 안됩니다. 3 image ryuko 17.01.12.20:50 411
677 호스팅 Bandwidth와 속도에 대해서 궁금한 점이 있습니다. 1 RonnieJ 16.11.17.11:00 411
676 도매인 기관이전이 안됩니다. 13 Kongjak 18.02.10.12:05 410
675 크롬이 좀 이상한데... 12 국내산라이츄 17.07.22.21:56 410
674 호스팅 서비스 업그레이드 2 Wisdomhands 16.10.11.00:26 408
673 참 아이러니한 일이 발생햇습니당 2 image title: 도밥위키!Dobob 17.02.07.23:20 407
672 robots.txt를 활성화 시키려면 어떻게 해야할까요? 4 title: 도밥위키!Dobob 17.02.09.14:18 406
671 크롤링한 어절 또는 문장의 유사성을 구하는 방법에 대해 질문 드립니다 9 이니스프리 19.10.26.22:22 405
670 컴맹 오타위키 관리자 입니다 리버티스킨 질문 4 AA 17.07.28.21:52 405
669 오리마크 사용법 6 맛수타 17.06.26.12:57 403
668 기본 제공 도메인에 체크를 안했습니다 ㅠㅠ 2 라하하 16.11.07.17:19 403
667 보안 오류 13 Hanam09 18.02.03.11:14 402