안녕하세요 👋

이 논문을 처음 알게 된 것은 저번달에 Google Brain에서 Tensorflow Recommenders 라는 라이브러리를 공개하면서 입니다. Youtube라는 거대한 추천시스템을 운영하고 있는 구글이 추천 시스템 관련 코드를 공개한다고 해서 집중해서 보게 되었습니다. 전체적인 내용은 Tensorflow Blog에 더 자세히 나와있으니 읽어보시기 바랍니다. TFRS(TensorFlow Recommeners)의 목표는 다음과 같습니다. 추천 후보군을 빠르고 유연하게 빌드 Item, User, Context 정보를 자유롭게 사용하는 구조 다양한 objective를 동시에 학습하는 multi-task 구조 학습된 모델은 TF Serving으로 효율적으로 서빙 사실 코드 자체는 크게 다양한 내용들이 있지는 않았지만, 제일 인상 깊었던 것은 코드에서 기본 모델로 소개한 Two Tower Model이었습니다. 바로 User와 Item을 아예 독립적으로 학습시켜 마지막 단에서 dot product로만 click / unclick을 예측하는 것인데, 생각하면 생각할 수록 좋은 구조더라구요. 비록 학습하는 단에서 user tower와 item tower가 interact 못하기 때문에 엄청난 성능을 낼 지는 미지수였지만, 구조 자체가 input feature의 제약이 없어서 가능한 feature를 자유롭게 넣을 수 있었고, inference할 때는 user별 embedding, item별 embedding으로 가지고 있다가 dot product로만 similarity를 계산해서 serving할 수 있기 때문에 ANN(Approximate Nearest Neighbors) 라이브러리와의 호환성도 좋아 보였습니다. ...

최근 Recommendar System에 대해 공부하면서, Multi-armed bandit이라는 분야에 대해 공부할 필요가 있다고 생각하던 차에 A Survey of Online Experiment Design with the Stochastic Multi-Armed Bandit을 바탕으로 정리해보았습니다. 목차 1. Concept 2. MAB와 기존 통계 기반 모델들과의 차이점 1. Concept Multi-armed Bandit(이하 MAB)라는 단어가 나오게 된 배경은 겜블링입니다. 어떤 사람이 주어진 시간안에, 수익 분포가 다 다른 N개의 슬롯머신을 통해 최대의 수익을 얻는 방법은 무엇일까요? 만약 제한된 시간에 N개의 슬롯머신들을 당겨서 수익을 얻을 수 있는 기회가 주어진다면, 일단은 어느 시간 동안은 어느 슬롯 머신이 돈을 많이 얻을 수 있는 지 탐색하는 과정이 있어야 할꺼고(이를 Exploration이라고 합니다), 그 다음에는 자신이 판단하기에 괜찮은 슬롯 머신을 돌리면서 수익을 극대화하는 과정이 필요합니다(이를 Exploitation이라고 합니다). ...

이 글에서는 attention이 무엇인지, 몇 개의 중요한 논문들을 중심으로 정리하고 NLP에서 어떻게 쓰이는 지를 정리해보았습니다. 목차 기존 Encoder-Decoder 구조에서 생기는 문제 Basic Idea Attention Score Functions What Do We Attend To? Multi-headed Attention Transformer 기존 Encoder-Decoder 구조에서 생기는 문제 Encoder-Decoder 구조에서 가장 중요한 부분은 input sequence를 어떻게 vector화할 것이냐는 문제입니다. 특히 NLP에서는 input sequence이가 dynamic할 구조일 때가 많으므로, 이를 고정된 길이의 벡터로 만들면서 문제가 발생하는 경우가 많습니다. 즉, “안녕” 이라는 문장이나 “오늘 날씨는 좋던데 미세먼지는 심하니깐 나갈 때 마스크 꼭 쓰고 나가렴!” 이라는 문장이 담고 있는 정보의 양이 매우 다름에도 encoder-decoder구조에서는 같은 길이의 vector로 바꿔야 하죠. Attention은 그 단어에서 알 수 있는 것처럼, sequence data에서 상황에 따라 어느 부분에 특히 더 주목을 해야하는 지를 반영함으로써 정보 손실도 줄이고 더 직관적으로 문제를 해결하기 위해 처음 제안되었습니다. ...