• 목록
  • 아래로
  • 위로

안녕하세요?

 

날씨가 무더운데 다들 건강히 계시는지요?? ^^

 

 

수천~수만 개의 이미지 파일이 주어졌을 때 이미지의 중복 여부를 빠르게 검사하는 방법이 있을까요?

 

(1) 속도가 중요하고, (2) 특이도보다는 민감도가 중요한 상황이네요~

 

해쉬값을 비교하는 방법도 있을 것 같고 그 외에도 여러 방법이 있을 것 같은데 좋은 아이디어가 안 떠오르네요 ㅠㅠ

 

 

공개된 프로그램도 좋고, 스크립트를 작성하는 방식도 좋아요!

 

아이디어나 관련된 정보가 있으시면 답변을 부탁드릴게요 :)

 

그럼 맛점 드시고 좋은 오후 되세요!

 

미리 감사드려요 ^-^

작성자
이니스프리 119 Lv. (0%) 1927700/115200000EXP

Make StudyForUs Great Again!

 

CSVpuymXAAAVVpd.jpg

댓글 12

NoYeah
profile image
해시값이 제일 정확하겠지만
바이트 단위의 용량으로 추려내도 잘 걸러지지 않을까요??
comment menu
2020.07.08. 19:57

신고

"NoYeah님의 댓글"

이 댓글을 신고 하시겠습니까?

이니스프리 작성자 → NoYeah
profile image

감사합니다!
저도 러프하지만 (바이트 단위의 용량 + 이미지 가로세로 사이즈)로 걸러내는 방법을 생각하긴 했네요 ^^
일단 이 방법으로 가능한 한 효율적인 알고리즘을 구현해보도록 할게요 :)

comment menu
2020.07.08. 20:49

신고

"이니스프리님의 댓글"

이 댓글을 신고 하시겠습니까?

NoYeah → 이니스프리
profile image
해상도나 dpi가 다른 이미지는 걸러내기 어려운 로직이네요.

만약 이미지를 일정 크기로 변환하여 랜덤한 몇 군데의 픽셀의 색상값을 저장(데이터베이스 화)했다가 동일한 픽셀값을 갖는 이미지들을 분류해 낸다면 정확도는 올라갈것 같습니다.
comment menu
2020.07.08. 20:55

신고

"NoYeah님의 댓글"

이 댓글을 신고 하시겠습니까?

이니스프리 작성자 → NoYeah
profile image
오오~ 좋은 아이디어를 제공해주셔서 감사합니다!
제 수준에서 파일이 아주 많을 경우에 효율적인 스크립트를 작성하기는 어렵겠지만, 일단 시도는 해볼게요.
그럼 마스터 님께서도 편안한 저녁 되세요 ^^
comment menu
2020.07.08. 21:07

신고

"이니스프리님의 댓글"

이 댓글을 신고 하시겠습니까?

GsusWeb → 이니스프리
오 저도 궁금해하던 기능이네요.
구현되면 저도 시연에 참여해볼게요^^

아래 두 분의 이야기는 겨우 감만 잡아보네요.. ^^;
comment menu
2020.07.09. 00:03

신고

"GsusWeb님의 댓글"

이 댓글을 신고 하시겠습니까?

네모 → NoYeah
profile image
이정도로 할거라면
차라리 아예 Raw한 값으로 읽어서 a번째 문자부터 a+n번째 글짜를 기록하고 그 값을 비교하는게 속도 면에서는 더 빠르겠네요.
파일을 전부 읽을 필요 없이 0~a+n 만 읽어내면 되고, n 값도 적당한 사이즈로만 조절하면 겹치는 내용도 별로 없을거구요.
다만 파일에 따라 전체길이보다 더 큰 좌표를 찍어 읽어내는건 방지해야겠지요.
comment menu
2020.07.08. 23:08

신고

"네모님의 댓글"

이 댓글을 신고 하시겠습니까?

NoYeah → 네모
profile image
아무래도 코딩에 문외한이라 막말로 픽셀값이라고 했지만 제가 생각한 방법이랑 거의 유사합니다.
나머지는 개발자의 역량에 달린걸로 ㅋㅋㅋ
comment menu
2020.07.08. 23:17

신고

"NoYeah님의 댓글"

이 댓글을 신고 하시겠습니까?

이니스프리 작성자 → 네모
profile image
조언해주셔서 감사합니다!
말씀해주신 방법이 속도 측면에서는 훨씬 빠르겠네요 ^^
이 방법을 공부해서 구현해보도록 하겠습니다.
그럼 날씨가 무덥지만 네모 님께서도 좋은 하루 되세요!!
comment menu
2020.07.09. 09:47

신고

"이니스프리님의 댓글"

이 댓글을 신고 하시겠습니까?

이니스프리 작성자
profile image
참고로 단순히 이미지의 동일성만을 비교할 때에는 아래 스크립트가 효율적이네요 ^^
https://stackoverflow.com/questions/748675/finding-duplicate-files-and-removing-them
comment menu
2020.07.09. 12:21

신고

"이니스프리님의 댓글"

이 댓글을 신고 하시겠습니까?

포인트 폭탄+ → 이니스프리
이니스프리님 축하합니다.
추가로 200포인트만큼 포인트 폭탄+를 받았습니다.
comment menu
2020.07.09. 12:21

신고

"포인트 폭탄+님의 댓글"

이 댓글을 신고 하시겠습니까?

삭제

"포인트 폭탄+님의 댓글"

이 댓글을 삭제하시겠습니까?

갱생협스
profile image
https://www.duplicatephotocleaner.com/
이런 프로그램도 있네요!

속도가 중요하면, 사진을 raw로 읽어와 랜덤한 위치의 몇 글자를 대조해보는것도 방법일 것 같습니다. 헤더부터 끝까지 읽기엔 시간이 너무 오래 걸릴테니 말이죠 ㅠㅠ
근데 이 방법은 어딘가가 수정되거나(일부 모자이크 등), 이미지 확장자가 다르면 검출해내기 쉽지 않을 것 같네요!
comment menu
2020.07.10. 14:08

신고

"갱생협스님의 댓글"

이 댓글을 신고 하시겠습니까?

이니스프리 작성자 → 갱생협스
profile image

오오~ 감사합니다!
일단 급한대로 파이썬으로 구현하기는 했는데 아무래도 이런 공개된 소프트웨어가 더 효율적으로 작동하겠죠 ^^
raw로 읽어와서 비교하는 방식도 구현해봐야겠네요 :)
그럼 즐거운 주말 되세요~!
다시 한 번 감사드립니다 ^-^

comment menu
2020.07.10. 21:24

신고

"이니스프리님의 댓글"

이 댓글을 신고 하시겠습니까?

권한이 없습니다.
번호 제목 글쓴이 날짜 조회 수
공지 [작업 완료] 설 명절 맞이 서버 업데이트 안내 3 마스터 24.02.11.17:21 827
공지 [중요] 호스팅 만료와 관련하여 일부 수칙이 변경됩니다. 4 마스터 23.01.14.02:23 4498
공지 [필독] 질문하는 방법 17 마스터 18.02.23.03:09 4476
385 도메인 설정이 잘 되지 않아 질문드립니다 1 ndbdbbn 18.08.10.19:22 204
384 도메인 설정 도와주세요!!! 3 alstn 17.07.30.20:46 382
383 도메인 메일 어디써야되나요? 10 Ilhan 18.05.19.11:20 323
382 도메인 기관이전을 하려고 합니다 5 260578 19.06.13.22:18 214
381 도메인 구매처에서 아무리 변경해봐도 안되던 이유가 혹시... 4 260578 18.12.22.18:29 204
380 도메인 개인정보 보호에 대해 질문합니다. 3 HighSpeed 21.01.12.19:24 124
379 도메인 CloudFlare 1 무브온 24.04.22.19:36 180
378 도매인을 변경하였는데 계속 여기로 이동됩니다. 1 Kongjak 17.03.19.18:39 334
377 도매인 기관이전이 안됩니다. 13 Kongjak 18.02.10.12:05 400
376 데이터베이스 연결.. 제발 도와주세요 ㅠ.. 2 준그루 17.08.10.22:50 265
375 데이터 센터 입주와 관련해서 질문 드려요 ^^ 9 이니스프리 18.12.27.17:29 412
374 데스크탑이냐 랩탑이냐, 그것이 문제입니다. 29 네모 19.11.28.14:15 331
373 덤프 파일 불러오는 법 18 맛수타 17.07.11.19:54 552
372 덤프 불러오기? 4 맛수타 17.07.21.16:39 337
371 대구시 수돗물 발암물질 좀 도와주세요. 10 참비 18.06.22.10:55 223
370 닷홈 인코딩 설정 관련해서 질문 드려요 ㅠㅠ 6 image 이니스프리 19.07.11.00:38 366
369 단축키(핫키) 좀 알려주세요. 6 슬기 20.08.30.12:36 111
368 다음 api 사용하려고 뒤적거리다보니 curl_init, curl_easy_init 비교 7 홀민 18.12.05.09:59 232
다수의 이미지의 중복 여부를 검사하는 방법이 있을까요? 12 이니스프리 20.07.08.12:19 167
366 다른 서버에 있는 CSV 파일을 불러오는 방법에 대해 여쭤봅니다 ^^ 9 image 이니스프리 18.10.24.18:02 306