• 목록
  • 아래로
  • 위로

안녕하세요?


벌써 2020년의 세번째 금요일이군요 ^^



우분투 VPS에서 크론탭으로 웹 크롤링 스크립트 등 자동화 스크립트를 여러 개 돌리고 있는데요.


물론 Requests로 모두 구현하면 이상적이겠지만, 아직 그 정도 실력이 못 되어서 Selenium도 많이 사용하고 있네요.


그런데 Selenium을 여러 개 띄우면 가뜩이나 VPS 사양도 낮은데 버벅거리는 문제가 있더군요.


스크립트를 종료할 때 driver.close()를 하면 모든 프로세스를 종료하지 않고 끝내는 경우가 생겨서 driver.quit()을 사용하려고 했는데요.


driver.quit()를 하면 동시에 실행 중인 다른 스크립트의 브라우저 탭까지 모두 닫는 것 아닌가요?? (=> 제가 알고 있는 내용이 맞는지요??)


이런 딜레마가 있어서 VPS를 하루에 2~3번 재부팅하고 있네요.


그런데 재부팅을 여러 번 하다보니 웹 서버로 사용하려면 24시간 구동되어야 한다는 취지에 반하는 점도 있구요.



정리하자면 driver.close()로는 모든 프로세스를 종료하지 않는 경우가 있어서 재부팅을 하다보니 


웹 서버를 비롯하여 장시간 구동해야 되는 서버로는 사용하기 애매하다는 것인데요.


이러한 딜레마를 해결하기 위해서는 어떻게 하는 것이 최선일까요??


대단한 것을 크롤링하는 것도 아니어서 가급적이면 크롤링 서버와 웹 서버를 분리하고 싶지는 않은데 말이죠 -_-;;;



그럼 즐거운 불금 되시고 감기 조심하세요 ^^


항상 감사드립니다!




작성자
이니스프리 119 Lv. (1%) 2320390/115200000EXP

Make StudyForUs Great Again!

 

CSVpuymXAAAVVpd.jpg

댓글 4

포인트 폭탄+
이니스프리님 축하합니다.
추가로 500포인트만큼 포인트 폭탄+를 받았습니다.
comment menu
2020.01.17. 14:37

신고

"포인트 폭탄+님의 댓글"

이 댓글을 신고 하시겠습니까?

삭제

"포인트 폭탄+님의 댓글"

이 댓글을 삭제하시겠습니까?

Hanam09
profile image

VPS 와 웹서버를 분리하면 될거같습니다.

자원이 필요하면 VPS에 요청하는 장식으로요

comment menu
2020.01.26. 13:02

신고

"Hanam09님의 댓글"

이 댓글을 신고 하시겠습니까?

이니스프리 작성자 → Hanam09
profile image

감사합니다 ^^

결국 크롤링 서버와 웹 서버를 분리하는 것이 정답이군요!

그럼 즐거운 설 연휴 되세요~

comment menu
2020.01.26. 14:31

신고

"이니스프리님의 댓글"

이 댓글을 신고 하시겠습니까?

포인트 폭탄+ → 이니스프리
이니스프리님 축하합니다.
추가로 200포인트만큼 포인트 폭탄+를 받았습니다.
comment menu
2020.01.26. 14:31

신고

"포인트 폭탄+님의 댓글"

이 댓글을 신고 하시겠습니까?

삭제

"포인트 폭탄+님의 댓글"

이 댓글을 삭제하시겠습니까?

권한이 없습니다.
번호 제목 글쓴이 날짜 조회 수
공지 [작업 완료] 설 명절 맞이 서버 업데이트 안내 3 마스터 24.02.11.17:21 1065
공지 [중요] 호스팅 만료와 관련하여 일부 수칙이 변경됩니다. 4 마스터 23.01.14.02:23 4755
공지 [필독] 질문하는 방법 17 마스터 18.02.23.03:09 4483
426 서버의 구성에 관련하여 질문드립니다 7 Seia 18.10.03.03:07 171
425 파일질라는 접속하면 폴더지정이 안되나요? 2 슬기 18.09.30.23:48 214
424 [해결됨]별칭 도메인 관련해서 질문 다시 올립니다 8 260578 18.09.29.20:43 198
423 택배 추적? 택배 기록 앱 뭐가 좋을까요? 7 네모 18.09.28.18:53 292
422 안녕하세요. 영카트(그누보드) 관련 질문입니다. 이미지가 활성화 되질 않고 있습니다. 5 image 정다성 18.09.21.16:33 501
421 안녕하세요. 신입입니다. 디자이너에서 코딩을 첫배움인데 처음부터 막히네요 ㅠ.ㅠ 3 image 정다성 18.09.21.12:27 178
420 크롬 즐겨찾기를 잘 관리하는 팁이 있을까요? 5 이니스프리 18.09.19.18:55 391
419 같은 도메인으로 2개의 서버는 안될까요? 7 title: 도밥위키!Dobob 18.09.17.00:06 1188
418 FTP 접속후 설치 화면 아뜨는증상 ? 3 핫슈 18.09.16.14:31 160
417 아마 당분간은 호스팅 쓸 일이 없을거 같은데 등록 취소 가능한가요? 2 abnoeh 18.09.16.09:24 173
416 관리자님 질문있습니다. ssh 관련해서요.. 1 isfalse 18.09.16.01:51 168
415 그누보드5만든홈페이지 관리자아이디.비밀번호잃어버렸는데 찾을수있나요? 10 라푸라푸 18.09.11.01:33 1957
414 파싱프로그램 문의 4 라푸라푸 18.09.11.01:18 427
413 vmware 그래픽 관련 도와주세요! title: 에그joyful 18.09.09.15:59 209
412 파이썬 개발환경을 어떻게 세팅하는 것이 효율적인가요? 5 이니스프리 18.09.08.10:28 233
411 [해결됨][미디어위키] 로그인 문제가 있습니다. 5 260578 18.09.02.15:32 210
410 어떤 문제인가요? 1 image 260578 18.09.01.12:10 156
409 [도메인]정상화된 스포어로 돌아오려고 준비하고 있었는데.. 3 image 260578 18.08.31.18:25 182
408 윈도우 10 iis 외장하드 관련 문의 1 width 18.08.30.15:58 198
407 [도메인 설정하기] 질문 2 image swimmie 18.08.28.00:57 169