N-BEATS

N-BEATS는 Element AI의 forecasting 알고리즘으로 시계열적 특성을 고려한 통계 모델을 최대한 배제하고 (있긴 있다), 순수 딥러닝만으로 좋은 성능을 얻었다고 한다. Fully-connected layer로만 구성하였기 때문에 univariate time-series만 모델링이 가능하다. 간단한 구조임에도 성능은 DeepAR, Deep Factors, M4 competition winner 보다 좋다고 한다.

N-BEATS

N-BEATS의 특징으로는

 

1) Block structure: 한 block은 4개의 FC layer와 2개의 output으로 구성된다. Backcast output은 block의 input인 lookback period를 다시 regeneration하고, forecast output은 forecast period를 예측한다. 논문에서는 backcast의 역할을 signal approximate의 constraints로 간주할 수 있다고 설명한다. (AutoEncoder를 일종의 constraints로 활용 가능한 것일까?)

 

2) Doubly residual stacking: 다음 block의 input으로는 이전 block의 input과 regeneration backcast의 residual을 넘겨준다. 이전 block에서 쉽게 approximate 할 수 있는 signal은 제외하고 어려운 부분만 다음 block에 넘겨주겠다는 의도이다. Global forecast는 각 block forecast의 합으로 구성된다.

 

3) Interpretability: 각 block의 output이 trend와 seasonality를 잘 반영하도록 통계 모델 (polynomial, Fourier series)을 가정한다. 그러면 각 block의 output으로부터 interpret가 가능해진다.

 

References

[1] B. N. Oreshkin et al., Neural Basis Expansion Analysis for Interpretable Time Series Forecasting, ICLR 2020