• 목록
  • 아래로
  • 위로

카이스트(솔직히 희망 사항이긴 합니다만)의 SW 특기자 전형으로 가기 위해서 지금 꽤나 미친 짓을 저질렀습니다.

딥러닝 챗봇을 만든다는 짓 말이죠!

image.png.jpg

저기 RC_~~ 되있는 건 레딧에서 직접 제공하는 레딧 코멘트 모음집입니다.

용량이 어...50기가..?

그정도 되는 방대한 양의 코멘트 데이터 베이스이고..

database.py는 코멘트 뽑아내서 DB파일로 확립시키는 용도고..

trainig_data.py는 DB파일을 바탕으로 회화를 학습하는 용도입니다.

물론 제 컴퓨터에서 이 짓을 제대로 하기는 어려워서 구글의 클라우드 서비스를 이용할 생각이고요!

얼른 완성하고 싶습니다..크흑..

작성자
BVC_Liper_Okbul 46 Lv. (53%) 173240/176720EXP

유튜브

 

이얏호!

댓글 14

NoYeah
profile image
화이팅 하세요!
comment menu
2020.08.02. 12:33

신고

"NoYeah님의 댓글"

이 댓글을 신고 하시겠습니까?

BVC_Liper_Okbul 작성자 → NoYeah
profile image
감사합니다아아!
comment menu
2020.08.02. 22:58

신고

"BVC_Liper_Okbul님의 댓글"

이 댓글을 신고 하시겠습니까?

title: 황금 서버 (30일)humit
profile image
크게 2가지 테스크로 구분이 되겠네요. 첫 번째는 사용자가 입력한 문장을 분석하는 테스크이고, 두 번째는 해당 상황에 맞는 문장을 생성하는 테스크가 되겠네요.
두 테스크 모두 NLP에서 거의 핵심이 되는 내용입니다. 아마 사용한다면 두 테스크 모두 RNN 기반의 모델을 사용하거나 혹은 두 번째 테스크는 GAN 모델을 사용하셨을 가능성이 높아보입니다.

약간 비관적인 이야기이긴 하지만 좀 더 간단한 형태로 문제를 바꾸거나 혹은 다른 프로젝트로 넘어가는 것을 추천드리고 싶습니다.

솔직하게 말해서 구글에서 제공해주는 GCP 무료 크레딧 가지고는 두 테스크 모두 어려울 거라고 생각합니다. 그리고 그 과정이 쉬웠다면 아마 구글에서 이미 그 기능을 상품으로 내놓아서 판매를 하고 있었겠지요.. 당장 구글에서 제공하는 챗봇 플랫폼인 DialogFlow의 경우에도 사용자가 입력할만한 문장을 많이 입력해두고 문장에서 중요한 부분을 매개변수로 표시해서 수행을 해야 하는 수동적인 형태의 챗봇을 제공해주고 있습니다.
더구나 데이터셋의 경우에도 라벨링이 되지 않은 단순히 문장만 제공이 되기 때문에 두 번째 테스크는 어느 정도 사용이 가능하나 첫 번째 테스크에서는 사용이 불가한 데이터셋입니다. 만약 첫 번째 테스크에서도 사용하고 싶으시다면 수동으로 일일히 라벨링을 해주어야 하는데 용량이 저정도가 되면 혼자서는 거의 불가능하니까요.
예를 들어 날씨를 알려주는 기능을 포함한다고 하면 "오늘 날씨 어때?", "오늘 비 오니?", "주말에 맑은지 확인해줘" 등과 같은 문장을 날씨를 알려준다는 카테고리로 묶어야 하는데 해당 데이터셋에서는 그 정보가 포함되지 않으니까요.

특히나 1년 전 쯤에 세익스피어 문학 글을 테스트 셋으로 사용해서 Tensorflow를 사용해서 문장을 생성하도록 LSTM으로 구현해본 적이 있긴 했는데 그 때 잘못 학습이 된 경우엔 계속 the만 나오는 문제가 있었습니다.


SW 특기자 전형에는 도움이 되지는 않지만 꼭 인공지능과 관련된 내용을 포트폴리오로 작성하고 싶으시다면 차라리 기존에 나와 있는 모델에 대한 논문을 읽으시고 거기에서 개선을 할 만한 부분을 찾아서 성능을 비교하는 프로젝트를 해보시거나 혹은 어떤 식으로 바꾸는 것을 시도해서 성능은 어느 정도 되고 학습 속도가 어떻게 되는지에 대한 내용으로 보고서를 쓰는 것이 더 도움이 되지 않을까 싶습니다.첫 번째 테스크는 사용자가 입력한 문장을 분석하는 것이고, 두 번째 테스크는 해당 문장을 생성하는 것이겠네요.
comment menu
2020.08.02. 18:38

신고

"humit님의 댓글"

이 댓글을 신고 하시겠습니까?

BVC_Liper_Okbul 작성자 → humit
profile image
오오, 조언 감사드립니다.
그런데 솔직히 말이 포트폴리오지, 제 로망의 분출과 같은 형태다보니까..
잘 안되면 다른 요소를 이용해서 포트폴리오를 작성한다거나..뭐 그럴 생각이긴 합니다.

그리고 확실히 작업을 해보니까 힘들긴 힘들더군요.

+ GCP는..부모님의 도움으로 유료 전환을 한 상태입니다.
제가 원하는 형태가 되지 못하더라도 일단 노력이라도 해보려고 합니다.

허헛
comment menu
2020.08.02. 23:02

신고

"BVC_Liper_Okbul님의 댓글"

이 댓글을 신고 하시겠습니까?

제르엘
profile image

딥러닝 챗봇 개발이라니 생각만 해도 끔찍하군요! 더군다나 전 지금 사실상 코딩은 손 놨기 때문에 더 끔찍하게 보입니다 ㅋㅋㅋ
+) 전 그냥 내신 성적도 망한 김에 수시 논술과 정시에 희망을 걸고 있습니다 ㅋㅋㅋ

comment menu
2020.08.02. 19:28

신고

"제르엘님의 댓글"

이 댓글을 신고 하시겠습니까?

BVC_Liper_Okbul 작성자 → 제르엘
profile image
껄껄..전 지금 다 가망이 없어보여서!
comment menu
2020.08.02. 23:02

신고

"BVC_Liper_Okbul님의 댓글"

이 댓글을 신고 하시겠습니까?

제르엘 → BVC_Liper_Okbul
profile image
comment menu
2020.08.03. 17:40

신고

"제르엘님의 댓글"

이 댓글을 신고 하시겠습니까?

BVC_Liper_Okbul 작성자 → 제르엘
profile image
아르케이아..?
comment menu
2020.08.04. 23:22

신고

"BVC_Liper_Okbul님의 댓글"

이 댓글을 신고 하시겠습니까?

제르엘 → BVC_Liper_Okbul
profile image
아마도 맞을겁니다...?
comment menu
2020.08.04. 23:51

신고

"제르엘님의 댓글"

이 댓글을 신고 하시겠습니까?

BVC_Liper_Okbul 작성자 → 제르엘
profile image
허미...Lost 1이라니
comment menu
2020.08.05. 17:23

신고

"BVC_Liper_Okbul님의 댓글"

이 댓글을 신고 하시겠습니까?

제르엘 → BVC_Liper_Okbul
profile image
사실 저거 Track Lost된 화면입니다(?)
comment menu
2020.08.05. 23:39

신고

"제르엘님의 댓글"

이 댓글을 신고 하시겠습니까?

신고

"BVC_Liper_Okbul님의 댓글"

이 댓글을 신고 하시겠습니까?

제르엘 → BVC_Liper_Okbul
profile image

히카리Zero 스킬 효과 때문에 하나만 놓쳐도 게이지가 0으로...

comment menu
2020.08.07. 23:04

신고

"제르엘님의 댓글"

이 댓글을 신고 하시겠습니까?

BVC_Liper_Okbul 작성자 → 제르엘
profile image
전 히카리 기본에서 벗어나질 못해서 그런게 있는지 몰랐네요..
comment menu
2020.08.08. 09:16

신고

"BVC_Liper_Okbul님의 댓글"

이 댓글을 신고 하시겠습니까?

권한이 없습니다.
번호 제목 글쓴이 날짜 조회 수
공지 시스템 점검 작업 완료 안내 10 마스터 마스터 24.09.05.16:25 4021
공지 [중요] 호스팅 만료와 관련하여 일부 수칙이 변경됩니다. 4 마스터 마스터 23.01.14.02:23 10962
공지 낚시성 불법도박 홍보 게시글을 주의하세요. 9 image 네모 네모 22.08.09.18:13 3017
공지 슬기로운 포인트 벌이를 하는 법 (22.10.11 업데이트) 64 네모 네모 18.06.17.20:25 18101
5480 우와 어제 오늘 날씨가 푹푹찌네요.. 4 슬기 title: 투명 아이콘슬기 20.08.13.17:10 109
5479 이제 장마 끝난 것 같네요. 4 필우 20.08.13.10:02 90
5478 하아.. 이번엔 비염 크리가 터졌습니다. 4 NoYeah NoYeah 20.08.12.14:28 90
5477 가입인사드려요 16 필우 20.08.12.12:50 172
5476 안녕하세요..! 9 늘봄 늘봄 20.08.12.02:35 107
5475 트래픽이 걱정입니다 5 260578 260578 20.08.12.01:10 226
5474 몇일 전이 400일이었습니다. 3 image 네모 네모 20.08.12.00:18 152
5473 노트북이 뭐가 좋을지 고민됩니다. 9 제르엘 제르엘 20.08.11.13:02 381
5472 대학시절 필기 발굴했습니다 1 image 국내산라이츄 국내산라이츄 20.08.08.13:31 100
5471 사이트가 뻗어버린 모양입니다. 5 image 제르엘 제르엘 20.08.08.01:46 274
5470 복권 복 제대로 터졌습니다. 2 image BVC_Liper_Okbul BVC_Liper_Okbul 20.08.07.22:55 89
5469 새벽 잡생각. 2 국내산라이츄 국내산라이츄 20.08.07.03:42 93
5468 스포어가 많이 아픈가보네요 ㅠㅠ 슬기 title: 투명 아이콘슬기 20.08.07.00:35 93
5467 싀치에서 뭐 찍어서 올리기가 참... 국내산라이츄 국내산라이츄 20.08.06.22:34 73
5466 다운로드 받는 웹사이트 소스 찾기가.... 2 슬기 title: 투명 아이콘슬기 20.08.05.14:24 197
5465 아니.. 누텔라를 남겨서 버리게 되는 상황이 되었습니다. 8 NoYeah NoYeah 20.08.04.19:44 905
5464 이런 황당한 경우가 다있나.... 9 슬기 title: 투명 아이콘슬기 20.08.02.17:07 161
대입을 위한 포트폴리오 작업은 역시 힘듭니다. 14 image BVC_Liper_Okbul BVC_Liper_Okbul 20.08.02.11:35 190
5462 이야 오늘 뭐죠? 17 image 네모 네모 20.08.01.12:40 388
5461 오늘도 가위 바위 보!! image 자뻑보이 자뻑보이 20.07.31.01:57 123