Session-Based Recommendations with Recurrent Neural Networks 리뷰

Paper Review

Featured image

Session-Based Recommendations with Recurrent Neural Networks

Paper

ABSTRACT

Real Recommender System은 Neflix처럼 Long User Histories를 가지는 경우가 많이 없기 때문에 Short Session-Based를 기반으로 추천이 이루어짐

Introduction

지금까지 추천시스템에서 사용되었던 기본적인 방법들은 아래와 같습니다.

E-commerce의 추천시스템은 왜 Session단위로 이루어져야 하는가?

결과적으로 E-commerce의 추천시스템은 상대적으로 간단하게 아이템 간의 유사성을 기반으로 하게 되었다. 이러한 방법은 효과적이지만 결국 사용자의 과거 클릭정보를 무시하게 됩니다.

따라서 저자는 RNN을 이용하여 Session 단위의 정교한 추천 시스템을 만드는 것이 목적입니다. 위의 Neighborhood Methods에 기반하여 유저가 처음 클릭한 아이템으로 그 다음 아이템을 예측할 수 있는 모델, 즉 사용자가 관심을 가질 수 있는 상위 항목을 만들려고 합니다.

논문에서 주의깊게 바라보아야 할 점은 아래의 3가지입니다.

2 Related Work

2.1 Session-Based Recommendation

기존 방법들의 경우 사용자의 마지막 클릭 아이템을 기준으로 유사한 아이템을 찾기 때문에,

과거 클릭 정보를 무시하게 되는 문제점이 있다.

이러한 문제점을 해결하기 위해 노력한 2가지의 방법을 소개합니다.

2.2 Deep Learning In Recommendation

유저와 아이템의 Interaction을 바탕으로 우수한 성능을 내는 방법으로 Restricted Boltzmann Machines (RBM) for Collaborative Filtering이 있습니다. Interaction 정보가 충분하지 않은 경우에 특히 유용합니다.

Deep Model들은 음악이나 이미지같이 구조화되지 않은 컨텐츠에서 feature를 추출하기 위해 사용되어졌으며, 전통적인 CF들과 함께 사용되어져왔습니다.

3 Recommendation with RNNs

GRU는 Update Gate와 Reset Gate를 활용하여, 기존 RNN의 문제점인 Vanishing Gradient Problem을 해결하려고 하였습니다.

GRU에 대한 개념과 이미지는 https://d2l.ai/chapter_recurrent-modern/gru.html 를 참고하였습니다.

Reset Gate and Update Gate

Untitled

Candidate Hidden State

hidden state

\[\tilde{\mathbf{H}}_t = \tanh(\mathbf{X}_t \mathbf{W}_{\textrm{xh}} + \left(\mathbf{R}_t \odot \mathbf{H}_{t-1}\right) \mathbf{W}_{\textrm{hh}} + \mathbf{b}_\textrm{h}),\]

Hidden State

Untitled2

Finally, we need to incorporate the effect of the update gate $Z_t$.

This determines the extent to which the new hidden state $H_t \in \mathbb{R}^{n \times h}$ matches the old state $H_{t-1}$

compared with how much it resembles the new candidate state $\tilde{H}_t$.

The update gate $Z_t$ can be used for this purpose, simply by taking elementwise convex combinations of $H_{t-1}$ and $\tilde{H}_t$.

This leads to the final update equation for the GRU:

\[\mathbf{H}_t = \mathbf{Z}_t \odot \mathbf{H}_{t-1} + (1 - \mathbf{Z}_t) \odot \tilde{\mathbf{H}}_t.\]

3.1 Customizing the GRU Model

Session-based 추천을 위해 GRU기반의 모델을 사용하였으며, 모델의 input은 session의 actual state을 받아서 session내 the item of the next event을 출력합니다.

session의 state라는 것은 the item of the actual event or the events in the session 로 볼 수 있으며, session내에서 어떤 정보를 사용하는지에 따라서 구분됩니다.

네트워크의 핵심은 GRU layer이며, output사이에 Feedforward layer를 추가할 수 있습니다.

네트워크에서는 여러개의 GRU layer를 사용할 수 있으며, layer를 쌓을수록 성능이 향상되었습니다.

output은 session내 각 item들에 대해 preference(likelihood)를 예측합니다.

gru

3.1.1 SESSION-PARALLEL MINI-BATCHES

NLP 영역에서의 RNN은 문장 내 단어들에 대해 window size를 sliding하면서 min-batch로 구성하는 sequential mini-batch 기법을 주로 사용합니다.

하지만 이러한 기법은 추천 테스크에는 적합하지 않았는데 그 이유는 아래와 같습니다.

따라서 session-parallel mini-batches라는 방법을 사용했습니다.

  1. session의 순서를 나타내기 위해 각 session들을 정렬
  2. 그 다음 mini-batch의 형태를 구성하기 위해서 X개의 session에서 first event만을 사용합니다. (여기서 출력은 session의 second event입니다.)

만약 한 session이 종료되면, 그 위치에 사용 가능한 다음 session이 배치됩니다. session들은 독립적이라고 가정하기 때문에 switch되면, hidden state가 초기화 됩니다.

mini

3.1.2 Sampling On the Output

몇 백만개의 item이 존재하는 경우를 생각해보면, 매번 각 단계에서 모든 item에 대한 score를 계산시, 복잡성이 number of items와 number of events의 곱으로 증가하게 됩니다. 이러한 계산은 실제 환경에서 사용하기에 비현실적일 수 있습니다.

따라서 output을 sampling하여 일부 item에 대해서만 score를 계산하였습니다. 즉 일부 item들에 대해서만 weight가 업데이트됩니다.

Positive Sample(desired output)뿐만 아니라 Negatvie sample에 대해서도 확률을 계산하고, Positive Sample이 높은 순위를 갖도록 weight를 수정해야 합니다.

missing event에 대한 자연스러운 해석은 사용자가 item의 존재를 몰랐기에 interaction이 없었다고 할 수 있습니다. 그러나 낮은 가능성으로 item을 알지만 선호하지 않기에 interaction 하지 않았던 것이라고도 할 수 있습니다.

item은 인기가 높을수록, 사용자가 알고 있을 가능성이 높기 때문에 missing event는 선호하지 않다는 것을 나타낼 가능성이 높습니다.

따라서 item의 인기도에 비례하여 sampling해야 할 필요성이 있습니다.

이를 위해 train 데이터에 대해 sampling을 따로 생성하는 대신에 mini-batch의 다른 아이템을 negative sample로 설정합니다. 즉 mini-batch 내의 다른 train 데이터에서 item을 선택하면, 그 item이 mini-batch에 포함될 확률이 인기도에 비례하므로, popularity-based sampling입니다.

위와 같은 방법은 sampling을 생략함으로써 계산 시간을 줄일 수 있으며, faster matrix operations을 가능하게 합니다.

3.1.3 RANKING LOSS

추천 시스템의 핵심은 사용자와 관련성 있는 items에 대해 순위를 부여하는 것입니다. 이는 단순 분류 작업으로 볼 수도 있지만, 일반적으로 “learning-to-rank” 접근법이 다른 방법보다 더 우수한 성능을 보입니다.

실험적으로 Pointwise Ranking방법은 네트워크 상에서 불안정하였으며, Pairwise ranking loss기반 방식들이 상대적으로 성능면에서 우수하였으며, 아래 2가지 방법이 사용되었습니다.

4 EXPERIMENTS

2개의 데이터셋에 대하여 인기있는 Baseline모델들과 제안된 GRU4Rec모델로 평가하였습니다.

  1. RecSys Challenge 2015(YooChoose)
  1. a Youtube-like OTT video service platform(VIDEO)

평가는 session의 event를 하나씩 제공하고, next event에서 item의 rank를 확인하는 방식으로 이루어집니다. item들은 score에 따라 내림차순으로 정렬하여 나타난 position이 rank입니다.

RSC15의 경우, train set의 모든 37,483 items들에 대해서는 rank가 부여되지만 VIDEO에서는 item이 너무 많기 때문에 rank를 부여하는 것이 비현실적입니다.

따라서 가장 인기있는 30,000 items 중에서 원하는 item들에 대해서만 rank를 산정하였습니다. 이는 popularity based pre-filtering으로 볼 수 있으며, 인기도가 낮은 item의 경우 평가에 미치는 영향이 크지 않기 때문입니다.

4.1 Baseline

비교를 위해 Baseline으로 사용된 모델은 아래와 같습니다.

table1

4.2 PARAMETER & STRUCTURE OPTIMIZATION

table2

또한 single layer을 가지는 GRU가 성능에서 가장 뛰어났으며, 이는 정확하지 않지만 session이 일반적으로 짧은 lipespan을 가지기 때문에 multiple time scale이 필요하지 않다고 추측해볼 수 있습니다.

4.3 Result

table3