概要

Ljung-Box 検定 は、注目する時系列データにおいて、自己相関があるかどうかを調べる検定。

Ljung-Box = リュング・ボックス

理論

長さ $n$ の時系列データ $S_0 = {x_1, \cdots, x_n}$ と、そこから一定時間（= ラグ）$h$ だけずらしたデータ $S_h = {x_{1+h}, \cdots, x_{n+h}}$ との相関係数 $r_h$（自己相関係数）の計算式は以下の通り。

\[r_h = \cfrac{ \displaystyle \sum_{k=1}^n (x_k - \bar{x}) (x_{k+h} - \bar{x}) }{ \displaystyle \sqrt{ \sum_{k=1}^n (x_k-\bar{x})^2 } \sqrt{ \sum_{k=1}^n (x_{k+h}-\bar{x})^2 } } \tag{1}\]

ラグ $h$ の上限 $m$ を決め、$h = 1, \cdots, m$ それぞれに対して自己相関係数 $r_1, \cdots, r_m$ を計算し、以下のように重みを付けて二乗和を取った $Q_{BP}(m), Q_{LB}(m)$ をそれぞれ Box-Pierce 検定統計量、Ljung-Box 検定統計量 と呼ぶ。

\[\begin{eqnarray} Q_{BP}(m) &:=& n \sum_{h=1}^m r_h^2 \tag{2} \\ Q_{LB}(m) &:=& n(n+2) \sum_{h=1}^m \cfrac{r_h^2}{n-h} \tag{3} \end{eqnarray}\]

Ljung-Box 検定統計量 $(3)$ は、Box-Pierce 検定統計量 $(2)$ の修正版（時系列長 $n$ が小さい場合にも使える）となっている。
データが平均0の同じ分布に従い、自己相関がなく完全にランダムであると仮定する場合（= ヌルモデル）、時系列の長さ $n$ が十分大きければ、これらの検定統計量は自由度 $m$ のカイ二乗分布に従う（証明：後述の NOTE を参照）。

この性質を用いて、

  • 帰無仮説 $H_0$：Ljung-Box 統計量がカイ二乗分布に従う = 時系列に自己相関がない
  • 対立仮説 $H_1$：Ljung-Box 統計量はカイ二乗分布に従わない = 時系列に自己相関がある

として、片側カイ二乗検定を行う。
事前に決めた有意水準において対立仮説が採択された場合、時系列データに自己相関があると結論づける。

【NOTE】Ljung-Box 検定の課題：ラグ $h$ の上限である $m$ の選択が難しい

  • $m$ が小さすぎる場合：高次の相関を見逃す
  • $m$ が大きすぎる場合：検出力が低下する

→ 実用的な場面では、複数の $m$ に対して Ljung-Box 統計量を計算し、総合的に判断するのが一般的

【NOTE】$Q_{BP}$ がカイ二乗分布に従うことの証明

注目する時系列データの任意のデータ点が母平均 $E(x_k) = 0$、母分散 $V(x_k) = \sigma^2$ のヌルモデルに従うとする。
$n$ が十分大きいとき、標本平均・標本分散は母平均・母分散に近づくから、

\[\begin{eqnarray} \sum_{k=1}^n (x_k-\bar{x})^2 &\simeq& n V(x_k) = n \sigma^2 \\ \sum_{k=1}^n (x_{k+h}-\bar{x})^2 &\simeq& n V(x_{k+h}) = n \sigma^2 \\ \sum_{k=1}^n (x_k - \bar{x}) (x_{k+h} - \bar{x}) &\simeq& \sum_{k=1}^n (x_k - E(x_k)) (x_{k+h} - E(x_{k+h})) = \sum_{k=1}^n x_k x_{k+h} \end{eqnarray}\]

これらを $(1)$ に代入して、

\[r_h \simeq \cfrac{1}{n \sigma^2} \sum_{k=1}^n x_k x_{k+h}\]

ここで、$x_k,\ x_{k+h}$ は互いに独立であるから、独立な確率変数の積に関する期待値・分散の公式より、

\[\begin{eqnarray} E(x_k x_{k+h}) &=& E(x_k) E(x_{k+h}) = 0 \\ \\ V(x_k x_{k+h}) &=& V(x_k) V(x_{k+h}) + E(x_k)^2 V(x_{k+h}) + E(x_{k+h})^2 V(x_k) \\ &=& \sigma^2 \cdot \sigma^2 + 0^2 \cdot \sigma^2 + 0^2 \cdot \sigma^2 \\ &=& \sigma^4 \end{eqnarray}\]

$n$ が十分大きいとき、中心極限定理により、

\[\begin{eqnarray} & \cfrac{1}{n} \sum_{k=1}^n x_k x_{k+h} &\sim N \left( E(x_k x_{k+h}), \cfrac{V(x_k x_{k+h})}{n} \right) \\ \Longrightarrow \ & \cfrac{1}{n} \sum_{k=1}^n x_k x_{k+h} &\sim N \left( 0, \cfrac{\sigma^4}{n} \right) \end{eqnarray}\]

したがって、

\[\begin{eqnarray} & r_h \simeq \cfrac{1}{n \sigma^2} \sum_{k=1}^n x_k x_{k+h} \sim N \left( 0, \cfrac{1}{n} \right) \\ \Longrightarrow \ & \sqrt{n}\ r_h \sim N(0,1) \end{eqnarray}\]

となる。

\[Q_{BP}(m) = n \sum_{h=1}^m r_h^2 = \sum_{h=1}^m \left(\sqrt{n}\ r_h \right)^2\]

であるから、$Q_{BP}(m)$ は標準正規分布 $N(0,1)$ に従う独立な $m$ 個の確率変数 $\sqrt{n}\ r_1, \cdots, \sqrt{n}\ r_m$ の平方和で表せる。ゆえに

\[Q_{BP}(m) \sim \chi^2 (m)\]

実験

統計ライブラリを使わずスクラッチ実装してみる

  • statsmodel による $Q_{LB}$ の計算結果とスクラッチ実装の結果が一致した

自己相関あり・なしデータを比較

  • ランダムデータではラグ1〜5いずれにおいても p 値が大きい
    • 1%や5%といった一般的な有意水準では帰無仮説は棄却されない
  • 自己相関ありのデータではラグ3以上において p 値が非常に小さい
    • 一般的な有意水準で見れば帰無仮説は棄却され、自己相関ありという検定結果が得られる