• 목록
  • 아래로
  • 위로

특정 페이지에 주기적으로 방문하도록 Crontab에 넣는 방법으로 Curl이나 Wget이 많이 사용되고 있습니다.


그런데 제 경험상으로도 그렇고 구글링을 해봐도 그렇고 간혹 Curl이나 Wget을 사용하면 잘 안 되는 경우가 있더군요 ㅠㅠ


예컨대 아미나에서 많이 사용되는 기능 중 하나인 Basic Feed 2.0도 누군가 피드보드를 방문해야 제대로 업데이트가 되는데요.



* * * * /path/wget -0 - URL > /dev/null 2>&1



이런 방식으로 Crontab에 집어넣어도 정확한 이유를 모르겠지만 잘 안 되는 경우가 간혹 있더군요.



아마도 Curl 또는 Wget을 이용한 방법이 먹히지 않는 이유는 


서버측에서 브라우저가 아닌 접속에 대해 예외처리를 해놓거나, 쿠키와 관련된 부분으로 추측됩니다.


이런 경우에는 텍스트 브라우저인 Lynx를 활용하면 해결되는 경우가 많습니다.



Crontab에서 Lynx를 활용하는 방법에 대한 웹문서는 많이 있습니다. 


명시적으로 저와 완전히 동일한 방법을 사용한 웹문서를 찾지는 못했지만 저는 아래와 같은 옵션으로 해결했습니다.



* * * * /path/lynx -accept_all_cookies -source URL > /dev/null 2>&1



-accept_all_cookies 

: Lynx로 접속해보면 쿠키 허용 여부를 묻는 경우가 많더군요.


-source 

: 포그라운드에서 이 옵션을 넣지 않으면 Lynx가 실행된 상태로 남아있습니다.


> /dev/null 2>&1 

: 다들 아시겠지만 > /dev/null 은 결과값에 대한 표준 출력을 /dev/null로 넣고, 2>&1 은 표준에러를 표준출력으로 redirection 합니다.


작성자
이니스프리 119 Lv. (2%) 3544390/115200000EXP

Make StudyForUs Great Again!

 

CSVpuymXAAAVVpd.jpg

댓글 0

권한이 없습니다.
번호 제목 글쓴이 날짜 조회 수
공지 시스템 점검 작업 완료 안내 10 마스터 마스터 24.09.05.16:25 583
공지 [중요] 호스팅 만료와 관련하여 일부 수칙이 변경됩니다. 4 마스터 마스터 23.01.14.02:23 7414
197 [할인정보] 버거킹 와퍼, 롱킹, 롱치킨버거 할인 (연말까지) image 이니스프리 이니스프리 16.12.19.10:45 264
196 [할인정보] AVG Internet Security 디바이스 갯수 무제한!! 1 이니스프리 이니스프리 17.02.21.20:11 264
195 [할인정보] Kaspersky Antivirus 및 Total Security 40% 할인 이니스프리 이니스프리 17.01.18.18:19 263
194 OpenCV를 이용한 face detection에서 parameter에 대하여 이니스프리 이니스프리 19.12.05.18:57 263
193 [Requests_HTML] ImportError: cannot import name 'HTMLSession' from 'requests_html'에 대한 대처방법 이니스프리 이니스프리 19.11.22.00:33 262
192 2019년 공휴일 미리보기(?) 2 image 이니스프리 이니스프리 19.01.05.11:46 261
191 최근 클라우드플레어의 불안정 현상 5 image 이니스프리 이니스프리 20.03.24.19:27 260
190 ASUS DisplayWidget 실행시 메인모니터의 디스플레이 설정이 초기화 되는 것과 관련하여 1 이니스프리 이니스프리 19.03.21.21:18 259
189 [할인정보] 버거킹, 11일까지 와퍼주니어 1900원에 판매…정가 3900원에서 51% 할인 1 image 이니스프리 이니스프리 17.02.06.12:03 258
188 [Vultr] 원클릭 NextCloud 설치 시 config.php 위치 이니스프리 이니스프리 23.03.05.10:16 257
187 [할인정보] KFC 타워버거 할인 - 2900원! 1 image 이니스프리 이니스프리 16.12.26.18:39 257
186 [미디어위키] Liberty 스킨 스타일 깨지는 문제 수정하기 2 image title: 은메달도다 21.09.19.12:51 256
185 [이벤트] 롯데리아 한우콤보 or 아재콤보 구매 시 트위스트 감자 무료! 1 image 부루마블 17.01.25.23:04 256
184 [Python] 구글 뉴스 RSS 파싱 2 이니스프리 이니스프리 21.07.04.13:49 256
183 [Python] 회문(Palindrome) 여부를 확인하는 함수 이니스프리 이니스프리 20.02.11.23:32 253
182 나라배움터 임시 점검 이니스프리 이니스프리 20.05.12.11:16 253
181 [Python] Poppler 등 설치하지 않고 PDF -> Image 하는 모듈 이니스프리 이니스프리 22.07.28.11:20 252
180 [Python] 전기차 충전소 조회 사이트 크롤링 이니스프리 이니스프리 21.01.10.15:10 247
179 [관세청] 해외 직구 통관 길라잡이 (PDF 파일 다운로드 링크) 이니스프리 이니스프리 19.03.31.10:01 247
178 [할인정보] KFC 스마트버켓2 14,800원 -> 9,900원 image 이니스프리 이니스프리 17.01.23.00:32 246