[23.03.29] Transformer와 추천시스템

# 미세먼지가 심해서 목이 너무 아프다.. 

 

1. Transformer

어제 학습시켜 두었던 Transformer 코드 학습이 완료되어서 Inference를 시도해 보았는데 오류가 발생하였다. 이 문제를 해결하기 위해 모든 코드를 다시 찾아보았고, 끝에 Pickle을 다시 만들지 않아서 발생한 오류라는 것을 파악하였다. 따라서 한국어와 영어 csv를 Tokenize해 Pickle 파일로 만드는 코드에서 한국어와 영어 각각의 Tokenize가 잘 이루어지도록 수정하고 다시 학습을 진행하였다. 적은 Epoch만을 학습시키고 제대로 Inference가 수행되는지 찍어보니 영어 -> 한국어 번역이 잘 이루어 지는 것을 확인할 수 있었다. (물론 성능은...)

 

150정도만으로 학습을 시킨 후 내일 밤에 다시 성능을 확인해 볼 계획이다.

 

2. 추천시스템

Transformer 코드 문제를 해결한 뒤 마지막 SKT AI 추천시스템 강의를 들었다. 전부 듣는 데 오래 걸렸지만, 끝까지 들었다는게 중요하다고 생각한다..! 마지막 강의는 지난 월요일 수업에서 들었던 Hybrid 추천시스템이었다. 물론 영상에서는 간단하게 설명을 해주셔서 월요일에 논문 발표를 진행했던 다른팀의 발표자료를 공부하는 것이 훨씬 도움이 될 것 같다. 그래도 SKT AI 커리큘럼을 들으며 추천시스템에 대한 전반적인 개요를 알 수 있었고, 이번에 듣는 추천시스템 수업을 처음에 이해하는데 많은 도움이 되었다.

 

시간이 된다면 추후에 음성 쪽 강의도 들어보려 한다.